RAG : comment donner vos documents à une IA pour qu'elle réponde juste

Le RAG (génération augmentée par récupération) consiste à faire chercher à l’IA les passages utiles dans vos documents avant qu’elle ne réponde, puis à lui demander de s’appuyer uniquement sur eux. C’est la méthode la plus courante pour obtenir un assistant qui connaît vos procédures, vos contrats ou votre catalogue, sans réentraîner le modèle.

Le problème que le RAG résout

Un grand modèle de langage sait beaucoup de choses, mais il a deux angles morts. D’abord, ses connaissances s’arrêtent à une date de coupure : il ignore ce qui s’est passé depuis son entraînement. Ensuite, il n’a jamais vu vos documents privés, qu’il s’agisse du règlement intérieur de votre entreprise, de vos fiches produits ou de vos notes de cours.

Si vous lui posez une question sur ces sujets, il risque de répondre quand même, avec assurance et de travers : c’est une hallucination. Le RAG comble ces deux manques d’une façon simple : au lieu de compter sur la mémoire du modèle, on lui apporte les bonnes pages au bon moment.

Le terme a été popularisé par un article de recherche de Patrick Lewis et ses coauteurs, déposé sur arXiv en mai 2020. Le principe s’est ensuite généralisé avec les assistants conversationnels.

Comment fonctionne un RAG, étape par étape

Un système de RAG fonctionne en deux temps : une préparation, faite une fois puis mise à jour, et un traitement à chaque question.

La préparation des documents

1. Collecter les documents utiles : PDF, pages web, tableurs, base de connaissances.
2. Découper chaque document en morceaux de taille raisonnable, par exemple quelques paragraphes : c’est le chunking. Un morceau trop long noie l’information, un morceau trop court perd son contexte.
3. Transformer chaque morceau en embedding, une suite de nombres qui représente son sens. Deux textes qui parlent de la même chose ont des embeddings proches, même s’ils n’emploient pas les mêmes mots.
4. Ranger ces embeddings dans une base de données vectorielle, conçue pour retrouver vite les vecteurs les plus proches d’un autre.

Le traitement d’une question

1. La question de l’utilisateur est elle aussi convertie en embedding.
2. Le système cherche les morceaux dont le sens est le plus proche : c’est la recherche sémantique.
3. Les meilleurs extraits sont insérés dans le prompt, avec une consigne du type « Réponds uniquement à partir des extraits fournis et cite-les ; si la réponse n’y figure pas, dis-le ».
4. Le modèle rédige sa réponse en s’appuyant sur ces passages. On parle d’ancrage : la réponse est rattachée à des sources vérifiables.

Prenons un exemple. Une PME veut un assistant interne pour les questions RH. Un salarié demande : « Combien de jours ai-je pour un déménagement ? ». Le système retrouve le paragraphe du guide des congés qui en parle, le donne au modèle, et la réponse cite ce paragraphe. Si le guide change, il suffit de mettre à jour la base : le modèle, lui, ne bouge pas.

Vérifiez-vous Un assistant RAG répond « je ne trouve pas cette information » alors que le document est bien dans la base. Quelle est la cause la plus probable ?

La recherche n’a pas ramené le bon passage. Le morceau pertinent est peut-être mal découpé (une information coupée en deux), formulé avec un vocabulaire très différent de la question, ou classé trop bas parmi les résultats. C’est presque toujours l’étape de récupération qu’il faut améliorer, pas le modèle.

Améliorer la qualité de la recherche

Dans un RAG, la qualité de la réponse dépend d’abord de la qualité de la récupération. Si le bon extrait n’arrive pas jusqu’au modèle, même le meilleur modèle ne peut pas l’inventer correctement. Trois techniques reviennent souvent.

• La recherche hybride combine la recherche par le sens et la recherche par mots-clés. Elle aide pour les noms propres, les références de produits ou les numéros d’articles de loi, que les embeddings captent parfois mal.
• Le reranking (reclassement) récupère d’abord un grand nombre de candidats, puis les réordonne avec un modèle spécialisé pour ne garder que les plus pertinents.
• Les métadonnées (date, service, type de document) permettent de filtrer : inutile de chercher une procédure de 2026 dans des archives de 2019.
• La reformulation de la question. Une question courte ou ambiguë (« et pour les CDD ? ») trouve mal ses passages. Faire d’abord réécrire la question par le modèle, en tenant compte de l’historique de la conversation, donne une requête plus complète et une recherche plus juste.

Le soin apporté aux documents compte autant que la technique. Des fichiers obsolètes, contradictoires ou mal numérisés donnent des réponses incohérentes. Prévoyez un responsable de la base, comme pour un intranet.

RAG, fine-tuning ou contexte long : que choisir ?

Le RAG n’est pas la seule façon de donner des connaissances à une IA. Deux alternatives reviennent souvent : le fine-tuning, qui modifie le modèle par un entraînement supplémentaire, et le contexte long, qui consiste à tout envoyer d’un coup au modèle.

Approche	Principe	Idéal pour	Limites
RAG	Retrouver des extraits et les joindre à la question	Informations nombreuses, qui changent, à citer	Dépend de la qualité de la recherche
Fine-tuning	Réentraîner le modèle sur vos exemples	Style, format, vocabulaire métier constant	Coûteux à mettre à jour, ne cite pas ses sources
Contexte long	Envoyer tous les documents à chaque question	Petit corpus, analyse ponctuelle d’un dossier	Facture élevée si on le répète, attention diluée

Les fenêtres de contexte ont beaucoup grandi. Selon models.dev, au 22 octobre 2026, plusieurs modèles récents acceptent environ un million de tokens, comme le montre le graphique ci-dessous.

Fenêtre de contexte (tokens)

• Claude Sonnet 5.51 M
• Gemini 4 Argon1,05 M
• GPT-6.1 Sol1,05 M
• Mistral Large 41,05 M
• Grok 4.7500 k
• Kimi K2.6262 k

Pour vous représenter ce que ces chiffres signifient en pages de texte, essayez notre outil fenêtre de contexte.

Les outils pour construire un RAG

Vous n’avez pas à tout programmer vous-même. Plusieurs familles d’outils existent, du low-code au code.

Outil	Type	Licence	MCP	Multi-agents	Niveau
LlamaIndex	Code	MIT	Oui	Oui	Intermédiaire
Haystack	Code	Apache-2.0	Oui	Oui	Intermédiaire
LangChain	Code	MIT	Oui	Oui	Intermédiaire
Dify	Low-code	Dify Open Source License	Oui	—	Intermédiaire
n8n	Low-code	fair-code	Oui	Oui	Intermédiaire

• LlamaIndex est né en novembre 2022 sous le nom de GPT Index, précisément pour relier un modèle de langage à vos propres données. Selon notre fiche, l’éditeur concentre désormais ses efforts sur LlamaParse, sa plateforme commerciale d’analyse de documents, le framework restant open source.
• Haystack, édité par deepset, assemble des pipelines explicites : découpage, embeddings, recherche, appel du modèle. Sa version 3 est sortie en juillet 2026, d’après notre fiche.
• Dify propose une approche visuelle : vous déposez des documents, la plateforme les découpe et les indexe, puis vous construisez un chatbot qui y répond.

Si vous voulez aller plus loin et faire d’un RAG l’outil d’un agent qui décide quand chercher, notre guide pour créer un agent IA, du no-code au code présente la démarche complète.

Par où commencer : une méthode en cinq étapes

Un premier RAG utile n’a pas besoin d’être ambitieux : mieux vaut un petit périmètre bien maîtrisé qu’une grande base mal tenue.

1. Choisir un périmètre étroit. Un seul sujet, par exemple les questions sur les congés ou sur un catalogue de produits, plutôt que toute la documentation de l’entreprise.
2. Nettoyer les documents. Retirez les versions périmées et les doublons, vérifiez que les PDF scannés sont bien lisibles comme du texte, et notez la date de chaque document.
3. Écrire vos questions de référence. Une vingtaine de vraies questions, posées par de vrais utilisateurs, avec la bonne réponse et le document où elle se trouve. Ce petit jeu de tests vous servira à chaque réglage.
4. Monter une première version simple. Découpage par paragraphes, recherche sémantique, consigne qui impose de citer les sources et d’avouer quand l’information manque.
5. Mesurer, puis améliorer. Repérez les questions ratées et cherchez la cause : document absent, mauvais découpage, passage mal classé, ou modèle qui s’écarte des extraits. Corrigez une chose à la fois et relancez vos tests.

Résistez à la tentation d’empiler les techniques avancées dès le premier jour. Une base propre et une consigne claire apportent souvent plus qu’un réglage sophistiqué.

Ce que coûte un RAG

Un RAG a trois postes de coût : la création des embeddings (faite une fois, puis à chaque mise à jour), l’hébergement de la base vectorielle et, surtout, les tokens envoyés au modèle à chaque question. Comme seuls quelques extraits sont transmis, la facture par question reste en général bien plus basse qu’avec l’envoi du document entier. Notre guide sur les prix des API d’IA détaille le calcul et les leviers pour réduire la facture.

Les limites à connaître

D’autres risques sont moins visibles.

• La sécurité. Un document de la base peut contenir des instructions cachées, rédigées pour détourner l’assistant : c’est une forme d’injection de prompt indirecte. Notre guide pour sécuriser un agent IA décrit les garde-fous.
• Les droits d’accès. Un salarié ne doit pas obtenir, via l’assistant, un document qu’il n’a pas le droit de lire. Les permissions doivent être appliquées au moment de la recherche, pas seulement dans l’intranet.
• La confidentialité. Les extraits sont envoyés au fournisseur du modèle. Pour des données personnelles ou sensibles, vérifiez ses conditions, ou envisagez un modèle hébergé chez vous.
• La mesure. Sans jeu de questions de référence, impossible de savoir si une modification améliore ou dégrade les réponses. Notre guide pour évaluer un agent IA propose une méthode de tests maison.