Niveau : Intermédiaire
L'IA comprend-elle vraiment ce qu'elle dit ?
Par La rédaction d'Info Agent IA ·
L’IA comprend-elle ce qu’elle dit ? Ni tout à fait oui, ni simplement non : les grands modèles de langage construisent de vraies représentations internes du sens, mais sans expérience du monde et avec des trous imprévisibles. Pour vous, la conséquence pratique est simple : traitez une réponse fluide comme une hypothèse bien formulée, pas comme la preuve que l’IA a saisi votre situation.
Ce que fait réellement un modèle de langage
Un grand modèle de langage (LLM) est entraîné sur une immense quantité de textes avec une seule consigne : prédire la suite. Le texte est découpé en tokens, des morceaux de mots, et le modèle apprend à deviner le token suivant. En répétant cet exercice des milliards de fois sur ses données d’entraînement, il ajuste ses réglages internes.
Dit ainsi, cela semble très loin de la compréhension. C’est l’argument du « simple correcteur automatique géant ». Mais il y a un piège : pour bien prédire la suite d’un texte, il faut souvent avoir capté beaucoup de choses. Pour compléter « Paris est à la France ce que Madrid est à… », il faut une forme de notion de capitale et de pays. Pour finir un raisonnement mathématique, il faut suivre sa logique. La question devient donc : quelles structures le modèle a-t-il construites pour réussir cette prédiction ?
Si vous voulez revoir les bases, notre article comment fonctionne ChatGPT détaille les étapes, et qu’est-ce qu’un LLM explique l’architecture.
Les arguments du « non, elle ne comprend pas »
La chambre chinoise
En 1980, le philosophe John Searle propose une expérience de pensée. Une personne qui ne parle pas chinois est enfermée dans une pièce avec un manuel de règles. On lui glisse des questions en chinois ; en suivant le manuel, elle renvoie des réponses parfaites. De l’extérieur, la pièce « parle chinois ». À l’intérieur, personne ne comprend. Pour Searle, manipuler des symboles selon des règles ne suffit pas à comprendre.
Le « perroquet stochastique »
En 2021, les chercheuses Emily Bender, Timnit Gebru et leurs coautrices publient un article qui qualifie les modèles de langage de « perroquets stochastiques » : ils assemblent des formes linguistiques probables sans accès au sens. Leur argument central : le modèle n’a jamais vu, touché ni vécu ce dont il parle. Il n’a que des mots qui renvoient à d’autres mots. Les chercheurs parlent de problème d’ancrage.
Des erreurs qui trahissent
Les modèles commettent aussi des erreurs qu’un humain qui comprend ne ferait pas : inventer une référence avec assurance, échouer sur une variante triviale d’une énigme connue, se contredire d’une phrase à l’autre. Ces hallucinations montrent que la fluidité du texte n’est pas garantie par une vérification du sens.
Les arguments du « oui, en partie »
Des représentations internes mesurables
La recherche en interprétabilité, qui ouvre la « boîte noire » des modèles, apporte des éléments concrets. Une étude présentée en 2023 a entraîné un petit modèle uniquement sur des listes de coups du jeu Othello : les chercheurs ont trouvé à l’intérieur une représentation de l’état du plateau, que personne ne lui avait donnée.
Plus récemment, Anthropic a publié le 27 mars 2025 des travaux sur son modèle Claude (billet « Tracing the thoughts of a large language model », consulté le 22 octobre 2026). Selon l’éditeur, pour répondre à une question sur la capitale de l’État où se trouve Dallas, le modèle active d’abord l’idée « Dallas est au Texas », puis « la capitale du Texas est Austin ». En remplaçant artificiellement l’étape intermédiaire, les chercheurs changent la réponse finale. Le même billet décrit un modèle qui choisit à l’avance le mot de la rime d’un vers, et des concepts communs à plusieurs langues.
Des performances difficiles à obtenir par cœur
Les résultats aux tests ont aussi beaucoup progressé. GPQA est une série de questions de sciences de niveau doctorat, conçues pour qu’on ne trouve pas la réponse par une simple recherche sur le web.
| Trimestre | Meilleur score à GPQA (sur 100) | Modèle |
|---|---|---|
| 2023-T1 | 35,7 | GPT-4 |
| 2024-T2 | 54 | Claude 3.5 Sonnet |
| 2024-T4 | 76,8 | o1 |
| 2025-T4 | 92,6 | Gemini 3 Pro |
| 2026-T3 | 96,4 | Gemini 4 Argon |
Source : Epoch AI, meilleur score par trimestre, relevé le 22 octobre 2026.
Pour suivre les modèles qui obtiennent les meilleurs résultats aux tests, consultez notre classement des IA de la semaine.
Le même billet apporte une nuance importante
Le travail d’Anthropic montre aussi l’autre face. Quand on demande au modèle d’expliquer comment il a fait un calcul mental, il décrit la méthode scolaire classique, alors que ses circuits internes suivent un autre chemin, en combinant une estimation approximative et un calcul précis en parallèle. Autrement dit : l’explication que donne une IA de son propre raisonnement n’est pas forcément ce qui s’est passé à l’intérieur.
| Ce qui ressemble à de la compréhension | Ce qui s’en éloigne |
|---|---|
| Concepts partagés entre les langues | Aucune expérience directe du monde |
| Étapes intermédiaires de raisonnement observables | Explications de soi parfois inexactes |
| Planification (choisir la rime avant d’écrire le vers) | Erreurs grossières sur des variantes simples |
| Scores élevés à des tests difficiles | Inventions présentées avec assurance |
Vérifiez-vous Un assistant vous explique pas à pas comment il est arrivé à un résultat. Cette explication prouve-t-elle qu'il a raisonné ainsi ?
Non. D’après les travaux d’interprétabilité d’Anthropic, l’explication qu’un modèle donne de son raisonnement peut différer du calcul réellement effectué. Jugez le résultat lui-même, en le vérifiant, plutôt que la qualité de l’explication.
Alors, quel mot employer ?
Ce débat rappelle celui du test de Turing : en 1950, Alan Turing proposait déjà de remplacer la question « les machines peuvent-elles penser ? » par une épreuve observable. Aujourd’hui, plusieurs modèles réussissent des conversations convaincantes, et la question s’est déplacée vers l’intérieur des modèles. Notre guide pour comprendre l’intelligence artificielle replace ces notions dans un cadre plus large.
Ce que cela change dans votre usage
- Vérifiez la compréhension avant la réponse. Demandez à l’assistant de reformuler votre demande ou de lister ses hypothèses.
- Ne vous fiez pas au ton. Une réponse assurée et bien écrite peut être fausse ; notre guide sur les hallucinations de l’IA propose des réflexes de vérification.
- Donnez le contexte qu’elle n’a pas. Le modèle ne connaît ni votre situation, ni vos contraintes, ni ce qui est « évident » pour vous : dites-le.
- Gardez le jugement final. Sur un sujet médical, juridique ou financier, l’IA aide à préparer vos questions, pas à trancher à la place d’un professionnel.
Questions fréquentes
ChatGPT comprend-il ce que je lui écris ?
Il traite le sens de vos phrases assez finement pour répondre de façon pertinente, ce qui ressemble beaucoup à de la compréhension. Mais cette « compréhension » n'est pas fondée sur une expérience du monde, et elle peut lâcher brutalement sur des détails qu'un humain jugerait évidents. Les chercheurs ne s'accordent pas sur le mot à employer.
L'IA a-t-elle une conscience ?
Rien ne permet de l'affirmer. Comprendre, au sens de manipuler correctement des concepts, et ressentir, au sens d'avoir une expérience subjective, sont deux questions distinctes. La seconde reste ouverte sur le plan philosophique, mais aucun résultat scientifique ne montre qu'un modèle actuel ressent quoi que ce soit.
Si l'IA comprend, pourquoi fait-elle des erreurs grossières ?
Parce que sa compétence est inégale. Un modèle peut résoudre un problème scientifique difficile et se tromper sur une question piège très simple, ou inventer une source. Ses réponses reposent sur des régularités apprises, pas sur une vérification des faits.
Comment savoir si une IA a bien compris ma demande ?
Demandez-lui de reformuler votre demande avant de répondre, ou de lister les hypothèses qu'elle fait. Si la reformulation est fausse ou incomplète, corrigez-la : c'est souvent plus efficace que de réécrire toute la demande.