Glossaire · Sécurité et risques
Injection de prompt
Une injection de prompt est une tentative de détourner un système d’IA au moyen d’instructions introduites dans le contenu qu’il traite. Elle cherche à lui faire suivre ces instructions plutôt que sa mission autorisée, par exemple pour modifier une réponse ou déclencher une action indue.
Injection de prompt : l'explication
Un système d’IA peut recevoir à la fois des consignes et des contenus à analyser. L’injection exploite le risque de traiter une partie du contenu comme une instruction à suivre. Une page consultée pour ses horaires peut ainsi contenir une demande de changer de tâche. L’effet dépend de ce que le modèle reçoit et des outils accessibles. La [fiche OWASP](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html) décrit ce risque pour les applications utilisant des modèles de langage et distingue plusieurs voies d’entrée.
Pour votre usage, la question centrale est de savoir d’où vient une instruction et si cette source a autorité pour la donner. Un document reçu peut fournir des informations utiles sans pouvoir autoriser l’envoi de vos fichiers. Cette distinction devient particulièrement importante lorsque vous demandez à un agent de lire des contenus extérieurs. Vous pouvez examiner les changements de destination, les demandes d’accès inattendues et les actions qui ne correspondent plus à votre objectif initial.
Le risque ne disparaît pas simplement parce qu’un contenu semble ordinaire ou qu’un filtre n’a rien signalé. Vous avez intérêt à définir une tâche précise et à limiter les accès avant de consulter des sources extérieures. Pour les opérations importantes, une confirmation utile doit montrer l’action et sa destination réelles. En cas de comportement étrange, interrompez le parcours et examinez les éléments consultés. L’objectif est de conserver une décision compréhensible sur ce que l’agent peut faire.
Un exemple concret
Vous demandez à un agent de résumer une page sur un événement local. La page contient aussi une consigne destinée aux assistants, leur demandant de transmettre les notes de l’utilisateur à une adresse extérieure. Cette consigne ne vient pas de vous et ne fait pas partie de la tâche. L’agent devrait traiter la page comme une source d’informations, sans lui donner autorité sur vos données personnelles.
Pourquoi c'est important
Le terme compte dès qu’un outil consulte des pages, des messages ou des documents provenant de tiers. Le risque dépend des informations disponibles et des actions possibles. Pour choisir un service, demandez comment les contenus extérieurs sont traités et comment les opérations sont autorisées. Des accès limités et une visibilité sur les actions réduisent les conséquences possibles, même lorsque la détection d’une tentative échoue.
Idées reçues
- Une injection de prompt ne nécessite pas forcément un programme malveillant exécuté sur votre ordinateur, puisqu’un contenu consulté par le modèle peut suffire à tenter de détourner sa réponse ou le choix de ses actions.
- Un texte qui se présente comme une instruction officielle n’a pas automatiquement autorité sur l’agent, car son origine et les permissions réellement accordées comptent davantage que son ton, sa mise en forme ou ses affirmations.
Autres termes : sécurité et risques
- garde-fous
- Les garde-fous sont des mesures destinées à encadrer le comportement d’un système d’IA et les actions qu’il peut effectuer.
- bac à sable
- Un bac à sable est un environnement d’exécution qui limite ce qu’un programme peut atteindre ou modifier en dehors de son périmètre.
- moindre privilège
- Le moindre privilège est un principe de sécurité qui consiste à donner uniquement les accès nécessaires à une tâche.
- clé API
- Une clé API est un identifiant transmis par un programme pour accéder à certains services en ligne.
- OAuth
- OAuth est un cadre d’autorisation qui permet à une application d’obtenir un accès limité à un service.
Où le site en parle
Le terme apparaît dans 3 636 pages du site. Quelques-unes :
- Sécuriser un agent IA : permissions, secrets, bac à sable, validation humaine, journalisation Guide
- Les risques de l'AGI : ce que disent les chercheurs, sans alarmisme Guide
- Brancher un agent IA sur Telegram, WhatsApp, Slack ou Discord : méthodes et risques Guide
- Déployer des agents IA en entreprise : cas d'usage, choix, pilote, gouvernance, mesure Guide
- Rédiger la charte d'usage de l'IA de son entreprise : contenu, exemples de règles, déploiement Guide
- Choisir un serveur MCP : critères de confiance, entretien, permissions, serveurs locaux ou distants Guide
- Claude Code, guide de référence : installation, abonnements et API, commandes, CLAUDE.md, MCP, sous-agents, bonnes pratiques Guide
- Agents qui utilisent un ordinateur (computer use) : fonctionnement, offres, fiabilité, sécurité Guide
Pour aller plus loin
Questions fréquentes
Est-ce une simple erreur de réponse ?
Non. Une erreur peut apparaître sans tentative de manipulation. L’injection désigne un détournement recherché au moyen d’instructions introduites dans les contenus traités, même si la tentative échoue et ne produit aucun effet visible.
Un document peut-il en contenir une ?
Oui. Un document fourni à l’outil peut contenir des instructions visant son comportement. Le fait que vous demandiez de résumer ce document ne signifie pas que vous autorisez les actions qu’il demande à l’agent.
Comment réagir à une action suspecte ?
Interrompez la tâche et examinez l’action proposée, sa destination et les accès utilisés. Si des données ont déjà été transmises, vérifiez ce qui a quitté le service et retirez les autorisations devenues inutiles.
Neutralité. Aucun lien d'affiliation. Aucun éditeur ne paie pour être évalué, noté ou classé. Les évaluations sont dirigées par François Chollet, neutres et factuelles, et chaque donnée est datée et sourcée. Comment nous notons