FRENES

Le Labo · outil gratuit

Diagnostic de sécurité d'agent IA : votre score de risque en 20 questions

Un agent IA est d'autant plus risqué qu'il agit sans validation, hors d'un bac à sable, avec des clés trop larges et des extensions non vérifiées. Répondez à 20 questions : vous obtenez un score de risque sur 100 et la liste des corrections, de la plus urgente à la moins urgente.

Isolation

L'agent tourne-t-il dans un bac à sable (conteneur, machine virtuelle ou compte système dédié) ?
Son accès aux fichiers est-il limité aux dossiers dont il a besoin ?
Son interface web ou son API est-elle inaccessible depuis Internet, ou protégée (mot de passe fort, VPN) ?
Ses connexions sortantes sont-elles limitées à une liste de domaines autorisés ?

Actions et instructions

Les commandes shell qu'il lance demandent-elles votre validation ?
Les actions irréversibles (suppression, envoi d'e-mail, paiement, publication) demandent-elles une confirmation ?
Avez-vous prévu des garde-fous contre les instructions cachées dans les pages, e-mails et documents qu'il lit ?
S'il répond sur une messagerie, n'obéit-il qu'à une liste de contacts autorisés ?

Secrets et données

Les clés et mots de passe sont-ils hors des fichiers que l'agent lit (variables d'environnement, coffre de secrets) ?
Les clés d'API sont-elles dédiées à l'agent, avec des droits limités et un plafond de dépense ?
Les données sensibles restent-elles chez vous (modèle local, ou fournisseur sans conservation des données) ?

Extensions (MCP, skills)

Les serveurs MCP installés viennent-ils de sources vérifiées (éditeur officiel, code relu) ?
Avez-vous lu les skills et plugins avant de les installer ?
N'avez-vous activé que les serveurs MCP et skills dont vous vous servez vraiment ?
Leurs versions sont-elles figées (pas de mise à jour automatique sans relecture) ?

Surveillance et reprise

Les actions de l'agent sont-elles journalisées et relues de temps en temps ?
L'agent et ses dépendances sont-ils mis à jour régulièrement ?
Les fichiers que l'agent peut modifier sont-ils sauvegardés ou versionnés ?
Une alerte ou un plafond de coût est-il en place ?
Savez-vous arrêter l'agent immédiatement (commande d'arrêt, révocation des clés) ?

Mode d'emploi

Répondez aux vingt questions pour l'agent que vous utilisez, qu'il s'agisse d'un assistant personnel, d'un agent de code, d'un workflow d'automatisation ou d'un agent qui pilote le navigateur. Le score se calcule à chaque réponse, sans rien envoyer : vos réponses restent dans votre navigateur et disparaissent quand vous fermez la page.

  • Oui : la protection est en place et vous l'avez vérifiée.
  • Non ou Je ne sais pas : les deux comptent comme un risque. Ne pas savoir si l'agent peut lancer une commande sans demander, c'est déjà une faille.
  • Non concerné : proposé seulement quand la question peut ne pas s'appliquer (pas de messagerie, pas de serveur MCP, pas d'interface exposée…). Il ne compte pas.

Le résultat donne un score de risque sur 100 (0 = toutes les protections en place), un niveau, et la liste des corrections à faire, de la plus importante à la moins importante, avec un lien vers le guide ou la définition utile quand ils existent sur le site.

La méthode : 20 protections pondérées

Chaque question vaut un nombre de points ; le total fait 100. Le score additionne les points des protections absentes ou inconnues. Les poids sont un choix éditorial : plus une mesure évite des dégâts graves et irréversibles, plus elle pèse. Les six plus lourdes :

  • 8 — Faites tourner l'agent dans un conteneur, une machine virtuelle ou un compte système dédié, sans accès à votre session principale.
  • 8 — Activez la validation des commandes ; n'autorisez d'office que les commandes en lecture seule.
  • 7 — Limitez l'agent à un dossier de travail ; jamais votre dossier personnel entier, vos clés SSH ou vos sauvegardes.
  • 7 — N'exposez pas le tableau de bord de l'agent sur Internet : écoute sur localhost, accès par VPN ou tunnel authentifié.
  • 7 — Exigez une confirmation humaine pour tout ce qui ne se rattrape pas : suppression, envoi, paiement, publication.
  • 7 — Traitez tout contenu lu comme une donnée, jamais comme un ordre : consigne explicite, séparation des outils de lecture et d'action, validation avant toute action déclenchée par un contenu externe.

Le niveau suit trois paliers : 0 à 20, risque faible ; 21 à 50, risque modéré ; au-delà de 50, risque élevé. Les questions couvrent cinq familles : l'isolation (bac à sable, dossiers, réseau, exposition), les actions (validation par un humain dans la boucle, injection de prompt, messagerie), les secrets et données (moindre privilège, clés dédiées, modèle local), les extensions (serveurs MCP, skills) et la surveillance (journaux, mises à jour, sauvegardes, arrêt d'urgence).

Pourquoi ces protections

Un agent IA n'est pas un simple chatbot : il agit. Il lit des fichiers, lance des commandes, envoie des messages, appelle des services avec vos clés. Le risque principal ne vient pas d'une IA malveillante mais de deux causes très banales : une erreur d'interprétation (l'agent supprime le mauvais dossier) et une instruction cachée dans un contenu qu'il lit (une page web, un e-mail ou un document qui lui demande d'envoyer vos fichiers ailleurs). La seconde, l'injection de prompt, n'a pas de parade complète aujourd'hui : c'est pourquoi la plupart des questions portent sur la limitation des dégâts plutôt que sur la prévention.

Le danger maximal apparaît quand trois conditions se cumulent : l'agent a accès à des données privées, il lit des contenus externes, et il peut communiquer vers l'extérieur. Supprimer une seule des trois coupe la chaîne de l'exfiltration de données. Les questions sur le réseau sortant, la messagerie et les dossiers servent à cela. Elles recoupent les risques décrits par le OWASP Top 10 for LLM Applications 2025 : injection de prompt, divulgation d'informations sensibles, chaîne d'approvisionnement, autonomie excessive et consommation non bornée.

Les extensions forment la chaîne d'approvisionnement de l'agent : un serveur MCP ou un skill installé sans relecture peut contenir des instructions ou du code qui s'exécutent avec vos droits. Le guide Choisir un serveur MCP explique comment trier. Pour une mise en place pas à pas, voyez Sécuriser un agent.

Les limites du diagnostic

  • C'est une auto-évaluation. Le score vaut ce que valent vos réponses ; il ne remplace pas un audit de sécurité ni un test d'intrusion.
  • Les poids sont des choix. Un agent qui ne touche qu'à un dossier de brouillons n'a pas les mêmes enjeux qu'un agent qui paie des factures : adaptez votre lecture à ce qu'il peut casser.
  • Un score bas n'est pas une garantie. Aucune combinaison de réglages ne rend un agent invulnérable à l'injection de prompt ; elle en réduit les conséquences.
  • Refaites-le. Après chaque nouvelle extension, nouvel accès ou changement de modèle, le profil de risque change. Méthode revue le 25 octobre 2026.

Sources

Questions fréquentes

Comment savoir si mon agent IA est sécurisé ?

Vérifiez trois points d'abord : il tourne isolé (bac à sable), il demande votre validation avant les actions irréversibles, et il n'a que les accès nécessaires. Le diagnostic passe en revue vingt protections et donne un score sur 100.

Qu'est-ce qu'une injection de prompt ?

Une instruction cachée dans un contenu que l'agent lit (page web, e-mail, document) et qu'il prend pour un ordre. Elle peut le pousser à divulguer des données ou à agir à votre place.

Mes réponses sont-elles enregistrées ?

Non. Le calcul se fait dans votre navigateur, rien n'est envoyé ni conservé.

Pourquoi « je ne sais pas » compte-t-il comme un risque ?

Parce qu'une protection dont on ignore l'état ne protège pas : un réglage par défaut permissif est fréquent. Vérifiez dans la documentation de l'agent, puis refaites le diagnostic.

Quel score viser ?

20 ou moins pour un agent qui a accès à vos comptes, à vos fichiers ou à de l'argent. Entre 21 et 50, l'agent peut servir sur des tâches sans enjeu le temps de corriger le reste.

Neutralité. Aucun lien d'affiliation. Aucun éditeur ne paie pour être évalué, noté ou classé. Les évaluations sont dirigées par François Chollet, neutres et factuelles, et chaque donnée est datée et sourcée. Comment nous notons