Mise en cache du prompt : ne pas payer deux fois la même lecture
La mise en cache du prompt (prompt caching) permet à un modèle d'IA de réutiliser le travail déjà fait sur le début d'une requête, quand ce début est identique d'un appel à l'autre. Résultat : les parties répétées sont facturées bien moins cher et la réponse commence plus vite.
Données au 22 octobre 2026
L'essentiel en chiffres
| Niveau | Intermédiaire |
|---|
Le principe
À chaque appel, un modèle relit l’intégralité de ce que vous lui envoyez : prompt système, documents, historique, question. Si les premiers milliers de tokens sont identiques d’un appel à l’autre, refaire tout ce calcul est du gaspillage. La mise en cache garde en mémoire le résultat de ce traitement, en pratique les tenseurs du cache clé-valeur d’après la documentation d’OpenAI, et le réutilise tant que le préfixe, c’est-à-dire le début de la requête, reste strictement identique.
Un exemple concret
Une boutique en ligne a un assistant qui répond aux clients à partir d’un long guide produits placé en tête de chaque requête. Sans cache, ce guide est relu et facturé au prix plein à chaque question. Avec cache, chez Anthropic par exemple, d’après sa documentation :
- la première requête écrit le guide dans le cache, à 1,25 fois le prix d’entrée normal ;
- les suivantes le relisent depuis le cache, à 0,1 fois ce prix, tant que le cache n’a pas expiré.
Dès la deuxième question posée dans la fenêtre de validité, l’opération est donc rentable : 1,25 + 0,1 = 1,35 fois le prix, contre 2 fois sans cache. Sur des centaines de questions, l’économie sur la partie répétée approche 90 %. Pour chiffrer l’effet sur votre usage, essayez notre calculateur de coût d’agent.
Pourquoi ça compte
Les agents et les assistants sur documents renvoient sans cesse le même contexte volumineux. Le cache réduit à la fois le prix par million de tokens effectivement payé et la latence, le délai avant que la réponse commence. C’est l’un des leviers d’économie les plus simples à activer.
Erreurs et idées reçues fréquentes
- « Un contenu proche suffit. » Le préfixe doit correspondre exactement : changer un seul mot au début (une date du jour, par exemple) invalide le cache pour tout ce qui suit.
- « L’ordre n’a pas d’importance. » Placez le contenu stable (consignes, documents) au début, et ce qui change (question de l’utilisateur) à la fin.
- « Le cache est toujours gratuit. » L’écriture peut coûter plus cher qu’une lecture normale ; si le contenu n’est jamais réutilisé, vous payez davantage.
Termes voisins : prompt système, cache clé-valeur, prix par million de tokens, fenêtre de contexte.
Termes liés
- Prix par million de tokens · Unité de facturation des API d'IA : un tarif pour chaque million de tokens lus en entrée, un autre, souvent plus élevé, pour ceux générés.
- Cache clé-valeur (KV cache) · Mémoire où un modèle garde les calculs déjà faits sur les tokens précédents, pour ne pas les refaire à chaque nouveau mot.
- Prompt système · Consigne de fond donnée au modèle avant la conversation (rôle, ton, règles), qui s'applique à toutes les réponses qui suivent.
- Latence · Temps d'attente entre l'envoi d'une demande à un modèle d'IA et l'arrivée de sa réponse, du premier mot jusqu'au dernier.
- Fenêtre de contexte · Quantité maximale de texte (en tokens) qu'un modèle peut lire et produire en une seule fois, réponse comprise.
À essayer
Tout le glossaire
Questions fréquentes
Le cache stocke-t-il mes réponses pour les resservir ?
Non. Il conserve le résultat du traitement du début du prompt, pas les réponses. Le modèle génère toujours une nouvelle réponse ; il évite seulement de relire et recalculer la partie commune.
Faut-il activer la mise en cache ?
Cela dépend du fournisseur. Chez OpenAI, elle est activée par défaut sur les modèles compatibles. Chez Anthropic, on l'active avec un paramètre cache_control, soit automatiquement sur toute la requête, soit à des endroits précis.
Combien de temps le cache dure-t-il ?
Chez Anthropic, la durée par défaut est de 5 minutes, renouvelée gratuitement à chaque réutilisation, avec une option d'une heure plus chère à l'écriture. Les autres fournisseurs ont leurs propres règles, décrites dans leur documentation.
Y a-t-il une taille minimale ?
Oui. En dessous d'un certain nombre de tokens, qui varie selon le modèle, le prompt n'est pas mis en cache, sans message d'erreur. Les petits prompts ne profitent donc pas de cette remise.
Sources des données
Données au 22 octobre 2026
Signaler une erreur
Un chiffre, une date ou une information vous semble faux ? Dites-le-nous : chaque signalement est vérifié.