Ingénierie du contexte : donner au modèle les bonnes informations au bon moment

Définition

Dit simplement : un modèle ne sait, à un instant donné, que ce qui se trouve dans sa fenêtre de contexte. L’ingénierie du contexte, c’est l’art de remplir cette fenêtre avec ce qui aide, et rien d’autre. Dans son guide publié en septembre 2025, Anthropic la définit comme l’ensemble des stratégies pour sélectionner et maintenir le meilleur ensemble de tokens pendant l’inférence, et formule un principe directeur : trouver le plus petit ensemble possible de tokens à fort signal qui maximise les chances d’obtenir le résultat voulu.

Pourquoi l’ingénierie de prompt ne suffit plus

Un agent qui enchaîne de nombreuses étapes accumule résultats d’outils, fichiers lus et échanges. Or le contexte fonctionne comme un « budget d’attention » : chaque token ajouté le consomme, et l’exactitude du rappel baisse quand le contexte s’allonge. Le problème n’est donc plus seulement de bien formuler la consigne de départ, mais de gérer ce qui s’accumule ensuite. Pour visualiser l’ordre de grandeur, essayez notre outil fenêtre de contexte.

Les techniques principales

• Récupération au moment voulu : plutôt que de tout charger d’avance, l’agent garde des références légères (chemins de fichiers, adresses) et ouvre les contenus quand il en a besoin, via ses outils ou un serveur MCP.
• Compaction : résumer l’historique à l’approche de la limite, puis repartir du résumé.
• Prise de notes structurée : l’agent écrit des notes hors du contexte et les relit plus tard, une forme de mémoire d’agent.
• Sous-agents : des agents spécialisés travaillent chacun avec un contexte propre et ne renvoient qu’un résumé condensé à l’agent principal.
• Sélection documentaire : le RAG n’injecte que les passages pertinents.

Un exemple concret

Un agent chargé de migrer une application vers une nouvelle version d’une bibliothèque lit d’abord la liste des fichiers, pas leur contenu. Il note son plan dans un fichier de suivi, délègue l’analyse de chaque module à un sous-agent, et ne garde dans son contexte que les conclusions. Quand l’historique grossit, il le compacte. Résultat : même après de nombreuses étapes, ses consignes de départ restent nettes.

Idées reçues

• « Plus de contexte, meilleures réponses. » Au-delà du nécessaire, le bruit dégrade la précision et augmente le coût.
• « C’est un nouveau nom pour le prompt. » Le prompt n’est qu’une partie : outils, mémoire et historique pèsent souvent davantage.
• « Il suffit d’un modèle à contexte long. » Cela repousse la limite, sans dispenser de trier.

Termes voisins : contexte long, mémoire d’agent, RAG, MCP.