Hallucination

Hallucination : l'explication

Un modèle de langage génère une réponse à partir de régularités apprises et du contexte disponible. Cette production ne garantit pas que chaque affirmation corresponde à une réalité vérifiée. Lorsque des informations manquent, le modèle peut compléter avec un détail plausible mais faux. Il peut aussi mélanger plusieurs sources ou attribuer au document une information absente. Une formulation fluide et détaillée ne permet donc pas, à elle seule, de distinguer le vrai du faux.

Le terme sert à décrire un problème de fiabilité des systèmes génératifs. Il ne signifie pas que le modèle éprouve une perception comparable à celle d’une personne. Dans les usages quotidiens, on l’emploie notamment pour des références inexistantes, des résumés infidèles ou des explications inventées. Les définitions techniques varient selon les évaluations. Certaines distinguent les erreurs factuelles des réponses qui contredisent les documents fournis ou les consignes de la tâche en cours.

La recherche documentaire et les outils de vérification peuvent réduire certaines hallucinations, sans les supprimer automatiquement. Un agent peut consulter la mauvaise page, mal lire une source ou ajouter une conclusion non justifiée. Il faut aussi distinguer une invention d’une information simplement ancienne, d’une ambiguïté ou d’une erreur de calcul. La bonne vérification dépend du problème : consulter la source originale, comparer le document ou contrôler le résultat avec un outil adapté à la tâche.

Un exemple concret

Vous demandez à un assistant de résumer un compte rendu et de préciser la date d’une prochaine réunion. Le document ne contient aucune date, mais l’assistant en propose une qui semble crédible. Vous risquez alors de l’ajouter à votre agenda. Une réponse fiable devrait signaler que cette information manque et, si nécessaire, vous proposer de vérifier les messages ou documents pertinents.

Pourquoi c'est important

Les hallucinations peuvent transformer une réponse convaincante en mauvaise décision. Pour choisir un outil, regardez sa capacité à signaler une information manquante, à citer des sources consultables et à rester fidèle aux documents. Adaptez votre vérification aux conséquences possibles. Une suggestion de titre exige moins de contrôle qu’un engagement envoyé à un client ou qu’une modification effectuée automatiquement dans un dossier.

Idées reçues

• Une réponse accompagnée de liens n’est pas automatiquement exacte, car les références peuvent être inexistantes, mal interprétées ou sans rapport avec l’affirmation, ce qui impose de vérifier le contenu réel des sources citées.
• Une hallucination n’est pas nécessairement un mensonge volontaire, puisque le terme décrit avant tout une sortie erronée ou non fondée et ne démontre ni une intention de tromper ni une connaissance consciente de la vérité.

Autres termes : modèles de langage

Transformer

Un Transformer est une architecture de réseau de neurones qui traite des éléments, comme les fragments d'un texte, en calculant leurs relations grâce à l'attention.

embedding

Un embedding est une représentation numérique d'un contenu, généralement sous la forme d'une liste de nombres appelée vecteur.

token

Un token est une unité utilisée par un modèle pour représenter et traiter une partie de son entrée ou de sa sortie.

fenêtre de contexte

La fenêtre de contexte est la quantité maximale de contenu qu'un modèle peut prendre en compte dans un traitement donné, généralement mesurée en tokens.

poids ouverts

Les poids ouverts désignent la mise à disposition des valeurs apprises d'un modèle, afin que d'autres puissent les télécharger et les utiliser selon les conditions applicables.

IA open source

L'IA open source désigne une IA mise à disposition avec des libertés d'utilisation, d'étude, de modification et de partage, ainsi que les éléments nécessaires pour les exercer.

quantification

La quantification est une technique qui représente certains nombres utilisés par un modèle avec moins de précision.

GGUF

GGUF est un format de fichier utilisé pour distribuer des modèles destinés à des logiciels d'inférence compatibles.

Où le site en parle

Le terme apparaît dans 17 pages du site. Quelques-unes :

• Les limites de l'apprentissage profond : ce que les modèles font mal, analyse de François Chollet et d'autres chercheurs Guide
• Les modèles de raisonnement : fonctionnement, ce qu'ils améliorent, limites mesurées Guide
• Rédiger la charte d'usage de l'IA de son entreprise : contenu, exemples de règles, déploiement Guide
• Fine-tuning ou RAG : comment choisir, coûts, données nécessaires, exemples Guide
• Automatiser avec l'IA dans Make et Zapier : fonctions IA, agents, limites et prix Guide
• RAG, guide de référence : principe, découpage, embeddings, base vectorielle, évaluation, erreurs courantes Guide
• Recherche approfondie (deep research) avec l'IA : outils, méthode, vérification des sources Guide
• Alternatives gratuites à ChatGPT : ce qu'elles valent vraiment Article