Fenêtre de contexte : combien de texte une IA peut-elle lire ?

La mémoire de travail d’une conversation

Quand vous discutez avec un assistant IA, le modèle ne se souvient pas au sens humain. À chaque message, il relit tout ce qu’on lui fournit : ses instructions, l’historique de l’échange, les documents joints et votre nouvelle question. La fenêtre de contexte est la quantité maximale de texte qu’il peut prendre en compte en une fois. Elle se mesure en tokens, des morceaux de mots. Ce qui dépasse est refusé, coupé ou résumé selon l’outil.

On peut la comparer à un bureau : plus il est grand, plus vous pouvez y étaler de documents en même temps. Mais à la fin de la conversation, le bureau est débarrassé.

À ne pas confondre avec la mémoire à long terme

Certains assistants proposent une fonction « mémoire » qui retient des informations d’une conversation à l’autre : votre prénom, votre métier, vos préférences. C’est un mécanisme différent. Ces éléments sont stockés à part, puis glissés dans la fenêtre de contexte au début d’une nouvelle discussion. La mémoire à long terme décide de ce qui est rappelé ; la fenêtre de contexte limite la quantité de texte lue en même temps.

Comment lire les conversions

Un nombre de tokens parle peu. L’outil ci-dessus le traduit en équivalents concrets : pages A4, romans de 300 pages et heures de réunion transcrite. Ces conversions reposent sur des moyennes (mots par page, débit de parole, tokens par mot) qui varient selon la langue, la mise en page et la densité du texte. Un tableau chiffré, du code ou un texte en français ne remplissent pas la fenêtre au même rythme qu’un roman en anglais.

Voyez donc ces équivalences comme des ordres de grandeur pour comparer les modèles, pas comme des mesures exactes. Les barres montrent les écarts d’un coup d’œil ; choisissez ensuite un document type pour voir quels modèles peuvent l’accepter en entier. Pour un texte précis, l’estimateur de tokens donne une estimation plus fine.

Une grande fenêtre ne garantit pas une lecture parfaite

Qu’un document tienne dans la fenêtre ne signifie pas que le modèle exploite chaque ligne avec la même attention. Des chercheurs ont décrit un phénomène surnommé « perdu au milieu » (lost in the middle) : les modèles retrouvent souvent mieux les informations placées au début ou à la fin d’un long texte que celles situées au milieu. Les modèles récents progressent sur ce point, mais la prudence reste de mise.

Plus le contexte est long, plus le risque d’oubli ou de confusion augmente, et plus chaque requête coûte cher, puisque tous ces tokens sont facturés à chaque appel. Le calculateur de coût d’un agent permet de mesurer cet effet.

Conseils pour travailler avec de longs documents

• Découper : traitez un long document par chapitres ou par sections, puis demandez une synthèse des réponses partielles.
• Résumer : dans une longue conversation, demandez régulièrement un résumé et repartez d’une nouvelle discussion avec ce résumé.
• Placer l’essentiel au bon endroit : mettez votre question et les consignes importantes après le document, ou rappelez-les à la fin.
• Utiliser le RAG : la génération augmentée par récupération (RAG, pour Retrieval-Augmented Generation) consiste à ranger vos documents dans une base de recherche, puis à ne fournir au modèle que les passages utiles pour chaque question. Comme un documentaliste qui vous apporte les bonnes pages plutôt que toute la bibliothèque. C’est une approche courante pour les agents qui travaillent sur de grandes bases documentaires.

Pour comparer les autres caractéristiques des modèles, consultez le comparateur de modèles. Le parcours Approfondir et le glossaire reviennent sur ces notions en détail.