Garde-fous : les barrières de sécurité autour d'une IA
Les garde-fous (guardrails) sont des contrôles ajoutés autour d'un modèle d'IA pour vérifier les demandes qui lui arrivent et les réponses ou actions qu'il produit. Ils servent à bloquer, corriger ou signaler ce qui sort du cadre prévu par l'application.
Données au 22 octobre 2026
L'essentiel en chiffres
| Niveau | Intermédiaire |
|---|
À quoi servent les garde-fous
Un modèle de langage peut produire des erreurs, des propos hors sujet ou dangereux, ou suivre des instructions malveillantes. Le prompt système donne un cadre, mais ce n’est qu’une consigne. Les garde-fous ajoutent des contrôles vérifiables à plusieurs étapes.
La boîte à outils open source NeMo Guardrails de NVIDIA en distingue cinq familles, utiles pour comprendre le principe :
- en entrée : examiner la demande de l’utilisateur, la refuser ou la modifier ;
- dans le dialogue : orienter la conversation, par exemple refuser certains sujets ;
- à la récupération : filtrer les documents retrouvés dans une architecture RAG ;
- à l’exécution : contrôler les entrées et sorties des outils ou actions ;
- en sortie : relire la réponse du modèle, la bloquer ou la corriger.
Un exemple concret
Une banque déploie un assistant qui répond aux questions sur les cartes de paiement. Un garde-fou d’entrée détecte et masque les numéros de carte saisis par erreur. Un garde-fou de dialogue refuse poliment les demandes de conseil en placement. Un garde-fou de sortie vérifie que la réponse ne contient aucune donnée personnelle d’un autre client. Enfin, toute action sensible, comme bloquer une carte, passe par une validation humaine ou une confirmation explicite.
Avant d’automatiser une tâche, notre outil Puis-je confier ça à un agent ? vous aide à repérer les points qui demandent ce type de protection.
Pourquoi ça compte
Avec les agents qui agissent dans des outils réels, une réponse fautive peut devenir une action fautive. Les garde-fous sont l’une des défenses recommandées contre l’injection de prompt, aux côtés de la limitation des droits et des tests adverses (red teaming). Imposer une sortie structurée facilite aussi les vérifications automatiques.
Erreurs et idées reçues fréquentes
- « Un modèle bien aligné n’a pas besoin de garde-fous. » L’alignement réduit les comportements indésirables, mais une application doit aussi faire respecter ses propres règles métier.
- « Plus il y a de filtres, mieux c’est. » Des garde-fous trop stricts bloquent des demandes légitimes et frustrent les utilisateurs.
- « Un garde-fou, c’est une liste de mots interdits. » Les approches modernes utilisent souvent des classificateurs ou des modèles dédiés, plus fins qu’une simple liste.
- « Une fois en place, c’est réglé. » Les contournements évoluent : les garde-fous se testent et s’ajustent régulièrement.
Termes liés
- Injection de prompt · Attaque qui glisse des instructions cachées dans un texte lu par une IA pour lui faire ignorer ses consignes ou agir contre l'utilisateur.
- Alignement de l'IA · Ensemble des recherches et méthodes visant à ce qu'une IA poursuive réellement les intentions et les valeurs de ceux qui l'utilisent.
- Prompt système · Consigne de fond donnée au modèle avant la conversation (rôle, ton, règles), qui s'applique à toutes les réponses qui suivent.
- Humain dans la boucle · Principe qui fait valider, corriger ou arrêter par une personne les étapes importantes d'une IA ou d'un agent avant qu'elles ne s'exécutent.
- Red teaming · Tests adverses où des personnes ou d'autres IA attaquent volontairement un modèle pour découvrir ses failles avant qu'elles ne soient exploitées.
- Sortie structurée (JSON) · Réponse d'un modèle d'IA produite dans un format imposé, le plus souvent un JSON conforme à un schéma, pour être lue par un programme.
À essayer
Tout le glossaire
Questions fréquentes
Les garde-fous sont-ils dans le modèle ou autour ?
Les deux existent. Une partie du comportement prudent est apprise pendant l'entraînement du modèle, c'est le travail d'alignement. Mais on parle surtout de garde-fous pour les contrôles ajoutés autour du modèle par l'application : filtres, classificateurs, règles, validations.
Quels outils permettent d'ajouter des garde-fous ?
Parmi les projets connus : NeMo Guardrails, une boîte à outils open source de NVIDIA sous licence Apache 2.0, et Llama Guard, un modèle de Meta présenté en décembre 2023 qui classe les demandes et les réponses selon une taxonomie de risques. Les grands fournisseurs proposent aussi leurs propres filtres de modération.
Les garde-fous rendent-ils une IA sûre à 100 % ?
Non. Ils réduisent les risques mais peuvent être contournés, notamment par une injection de prompt bien conçue, et ils commettent aussi des erreurs dans l'autre sens en bloquant des demandes légitimes. Ils s'ajoutent à d'autres mesures, comme la limitation des droits et la validation humaine.
Les garde-fous ralentissent-ils les réponses ?
Souvent un peu, car chaque contrôle supplémentaire, surtout s'il fait appel à un autre modèle, ajoute du temps de traitement. C'est un compromis à régler selon le niveau de risque de l'application.
Sources des données
Données au 22 octobre 2026
Signaler une erreur
Un chiffre, une date ou une information vous semble faux ? Dites-le-nous : chaque signalement est vérifié.