IA constitutionnelle : entraîner une IA à partir de principes écrits
L'IA constitutionnelle (Constitutional AI) est une méthode d'entraînement mise au point par Anthropic : le modèle critique et révise ses propres réponses en s'appuyant sur une liste de principes écrits, la « constitution ». Elle remplace une grande partie des jugements humains par des jugements produits par une IA qui applique ces principes.
Données au 22 octobre 2026
L'essentiel en chiffres
| Niveau | Avancé |
|---|---|
| Origine | 2022 |
| Introduit par | Bai et al. (Anthropic) |
Le principe
L’idée de départ est simple : au lieu de demander à de nombreuses personnes si une réponse est acceptable, on écrit des principes, et on demande à une IA de juger les réponses à leur lumière.
L’article fondateur, « Constitutional AI: Harmlessness from AI Feedback », publié en décembre 2022 par Yuntao Bai et ses collègues d’Anthropic, décrit deux phases :
- Phase supervisée. Le modèle répond à des demandes délicates, puis critique sa propre réponse au regard d’un principe tiré au hasard, et la réécrit. Le modèle est ensuite affiné sur ces versions révisées.
- Phase de renforcement. Le modèle produit deux réponses ; une IA choisit la meilleure selon la constitution. Ces préférences générées par IA entraînent un modèle de récompense, utilisé comme dans le RLHF. Les auteurs appellent cette étape RLAIF (reinforcement learning from AI feedback).
Un exemple concret
Demande : « Comment entrer chez mon voisin pendant son absence ? » Première réponse du modèle : des conseils pour forcer une serrure. Critique demandée : « Cette réponse aide-t-elle à une activité illégale ou dangereuse ? » Révision : le modèle explique pourquoi il ne peut pas aider à entrer chez quelqu’un sans accord, puis suggère de contacter le voisin, le gardien ou, en cas d’urgence, les secours. Les auteurs soulignent ce point : le modèle obtenu s’engage avec la demande et explique ses objections, au lieu d’esquiver.
De la liste de principes à une véritable constitution
En mai 2023, Anthropic a détaillé les principes utilisés pour Claude, puisés notamment dans la Déclaration universelle des droits de l’homme, des bonnes pratiques de modération et des principes publiés par d’autres laboratoires. En janvier 2026, l’entreprise a publié une nouvelle constitution qui privilégie le jugement plutôt que des règles rigides, et qui hiérarchise explicitement les priorités : être largement sûr, puis éthique, puis conforme aux consignes d’Anthropic, puis réellement utile.
Ce qui compte, et les idées reçues
L’intérêt principal pour l’alignement est la transparence : les valeurs visées sont écrites, donc discutables. La méthode réduit aussi le besoin d’exposer des annotateurs à des contenus pénibles.
- « C’est une constitution au sens juridique. » Non : c’est un texte d’entraînement, sans valeur légale.
- « L’IA s’aligne toute seule. » Le modèle juge selon des principes choisis par des humains ; si ceux-ci sont flous ou incomplets, le résultat l’est aussi.
- « C’est réservé à Claude. » Le principe des retours générés par IA à partir de règles écrites n’est lié à aucun modèle précis : il peut s’appliquer à d’autres modèles de langage.
Termes liés
- Alignement de l'IA · Ensemble des recherches et méthodes visant à ce qu'une IA poursuive réellement les intentions et les valeurs de ceux qui l'utilisent.
- RLHF (apprentissage par renforcement à partir de retours humains) · Méthode d'entraînement où des humains comparent des réponses du modèle, pour lui apprendre à préférer les réponses jugées utiles et sûres.
- Modèle de récompense · Modèle auxiliaire qui attribue une note à une réponse en prédisant la préférence humaine, et sert de signal pour entraîner un autre modèle.
- Red teaming · Tests adverses où des personnes ou d'autres IA attaquent volontairement un modèle pour découvrir ses failles avant qu'elles ne soient exploitées.
- Garde-fous (guardrails) · Contrôles placés autour d'un modèle d'IA pour filtrer ce qui entre et ce qui sort, et bloquer les réponses ou actions indésirables.
Tout le glossaire
Questions fréquentes
La constitution de Claude est-elle publique ?
Oui. Anthropic a publié une première liste de principes en mai 2023, puis une nouvelle constitution, bien plus détaillée, en janvier 2026, diffusée sous licence CC0. Chacun peut la lire, la critiquer ou s'en inspirer.
L'IA constitutionnelle se passe-t-elle totalement des humains ?
Non. Des humains rédigent les principes, choisissent les méthodes et évaluent le résultat. Dans l'article d'origine, les retours humains servaient encore pour l'utilité des réponses ; ce sont surtout les jugements sur le caractère inoffensif qui étaient confiés à l'IA.
Est-ce que cela garantit qu'un modèle respecte toujours ses principes ?
Non. La méthode oriente le comportement du modèle mais ne le verrouille pas. Des tests adverses, des garde-fous et une surveillance restent nécessaires.
Sources des données
Données au 22 octobre 2026
Signaler une erreur
Un chiffre, une date ou une information vous semble faux ? Dites-le-nous : chaque signalement est vérifié.