Glossaire · Sécurité et risques
Garde-fous
Les garde-fous sont des mesures destinées à encadrer le comportement d’un système d’IA et les actions qu’il peut effectuer. Ils peuvent contrôler les demandes, les réponses ou l’usage des outils, afin de réduire certains risques selon des règles définies pour le service et ses utilisateurs.
Garde-fous : l'explication
Un garde-fou peut vérifier une donnée reçue, repérer un contenu sensible ou empêcher une action non autorisée. Certains contrôles reposent sur des règles précises, comme une liste de destinataires permis. D’autres utilisent un modèle pour évaluer une demande. Ils peuvent intervenir avant le traitement, avant l’affichage d’une réponse ou juste avant l’exécution d’un outil. Leur effet dépend de leur emplacement : signaler un problème après un envoi ne permet pas de bloquer cet envoi déjà réalisé.
Ces mesures servent à traduire des exigences de sécurité, de confidentialité ou de fonctionnement en contrôles utilisables. Vous pouvez par exemple permettre la préparation d’un message tout en réservant son envoi à une validation. Un service peut aussi exiger un format précis ou refuser une opération hors du périmètre prévu. Le mot couvre ainsi des mécanismes différents. Pour comprendre une offre, il faut demander quelle règle est appliquée, à quel moment et avec quelle conséquence concrète.
Les garde-fous peuvent laisser passer un cas problématique ou bloquer une demande légitime. Leur efficacité dépend du contexte, de leur configuration et de la manière dont ils sont testés. Une instruction demandant au modèle de rester prudent ne remplace pas une permission effectivement contrôlée par l’outil. La [fiche OWASP](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html) distingue les filtres des contrôles d’accès. Pour votre usage, l’essentiel est de connaître les protections actives et les limites qui persistent après leur mise en place.
Un exemple concret
Vous utilisez un agent pour préparer des réponses aux demandes reçues par votre association. Un contrôle signale les messages contenant des informations personnelles à relire. Un autre empêche l’envoi vers des destinataires extérieurs à la liste prévue. Avant toute diffusion, l’outil affiche le texte et les adresses pour validation. Ces mécanismes répondent à des risques différents et ne garantissent pas que le contenu rédigé est exact.
Pourquoi c'est important
Le terme compte parce qu’un agent peut agir sur vos données ou vos comptes. Une mention générale de sécurité ne décrit pas les protections réelles. Vérifiez ce qui est bloqué, ce qui est simplement signalé et comment traiter une demande légitime refusée. Des contrôles adaptés doivent protéger les opérations importantes tout en vous permettant de comprendre les décisions et de poursuivre le travail autorisé.
Idées reçues
- La présence de garde-fous ne rend pas un système infaillible, car chaque contrôle couvre certains risques et peut manquer une situation nouvelle, être mal configuré ou laisser subsister une erreur dans le contenu produit.
- Un refus formulé par le modèle n’équivaut pas à une interdiction technique, puisque le blocage d’une action dépend aussi des permissions et des vérifications appliquées au moment où l’outil tente réellement de l’exécuter.
Autres termes : sécurité et risques
- bac à sable
- Un bac à sable est un environnement d’exécution qui limite ce qu’un programme peut atteindre ou modifier en dehors de son périmètre.
- moindre privilège
- Le moindre privilège est un principe de sécurité qui consiste à donner uniquement les accès nécessaires à une tâche.
- injection de prompt
- Une injection de prompt est une tentative de détourner un système d’IA au moyen d’instructions introduites dans le contenu qu’il traite.
- clé API
- Une clé API est un identifiant transmis par un programme pour accéder à certains services en ligne.
- OAuth
- OAuth est un cadre d’autorisation qui permet à une application d’obtenir un accès limité à un service.
Où le site en parle
Le terme apparaît dans 53 pages du site. Quelques-unes :
- Déployer des agents IA en entreprise : cas d'usage, choix, pilote, gouvernance, mesure Guide
- Brancher un agent IA sur Telegram, WhatsApp, Slack ou Discord : méthodes et risques Guide
- Agents vocaux : fonctionnement, plateformes, latence, coûts et cas d'usage Guide
- CrewAI, guide de référence : équipes d'agents, tâches, outils, flows, déploiement Guide
- Débuter avec un agent IA : choisir, installer, premiers usages et garde-fous Guide
- Réduire le coût d'un agent IA : choix du modèle, cache, contexte, routage, budgets Guide
- Surveiller un agent IA en production : journaux, traces, alertes, outils d'observabilité Guide
- Agents IA autonomes : jusqu'où les laisser faire ? Article
Pour aller plus loin
Questions fréquentes
S’agit-il seulement de filtres ?
Non. Les garde-fous peuvent inclure des filtres, des règles de validation et des contrôles sur les actions. Leur portée varie selon les produits, d’où l’intérêt d’examiner les mécanismes précis plutôt que leur seul nom.
Peuvent-ils bloquer une demande correcte ?
Oui. Un contrôle peut interpréter à tort une demande comme risquée. Un outil bien conçu doit expliquer le blocage de manière utile et prévoir un traitement adapté des cas légitimes, sans supprimer toutes les protections.
Qui définit les règles ?
Selon le service, les règles viennent du fournisseur, de votre organisation ou de vos réglages. Certaines peuvent être modifiées, d’autres restent imposées. Vérifiez qui peut les changer et comment ces modifications sont suivies.
Neutralité. Aucun lien d'affiliation. Aucun éditeur ne paie pour être évalué, noté ou classé. Les évaluations sont dirigées par François Chollet, neutres et factuelles, et chaque donnée est datée et sourcée. Comment nous notons