Caché de prompts: no pagar dos veces por la misma lectura
La caché de prompts (prompt caching) permite a un modelo de IA reutilizar el trabajo ya hecho sobre el inicio de una petición cuando ese inicio es idéntico de una llamada a otra. Resultado: las partes repetidas se cobran mucho más barato y la respuesta empieza antes.
Datos a 22 de octubre de 2026
Lo esencial en cifras
| Nivel | Intermedio |
|---|
El principio
En cada llamada, un modelo vuelve a leer todo lo que usted le envía: prompt de sistema, documentos, historial, pregunta. Si los primeros miles de tokens son idénticos de una llamada a otra, rehacer todo ese cálculo es un desperdicio. La caché guarda en memoria el resultado de ese procesamiento (en la práctica, tensores de la caché clave-valor, según la documentación de OpenAI) y lo reutiliza mientras el prefijo, es decir, el inicio de la petición, siga siendo exactamente igual.
Un ejemplo concreto
Una tienda en línea tiene un asistente que responde a los clientes a partir de una larga guía de productos situada al principio de cada petición. Sin caché, esa guía se relee y se cobra a precio completo en cada pregunta. Con caché, en Anthropic por ejemplo, según su documentación:
- la primera petición escribe la guía en la caché, a 1,25 veces el precio de entrada normal;
- las siguientes la leen desde la caché a 0,1 veces ese precio, mientras no haya caducado.
Desde la segunda pregunta dentro del periodo de validez, ya compensa: 1,25 + 0,1 = 1,35 veces el precio, frente a 2 veces sin caché. Con cientos de preguntas, el ahorro en la parte repetida se acerca al 90 %. Para calcular el efecto en su uso, pruebe nuestra calculadora de coste de agentes.
Por qué es importante
Los agentes y los asistentes sobre documentos reenvían una y otra vez el mismo contexto voluminoso. La caché reduce tanto el precio por millón de tokens que se paga realmente como la latencia, el tiempo antes de que empiece la respuesta. Es una de las palancas de ahorro más fáciles de activar.
Errores e ideas falsas frecuentes
- «Basta con un contenido parecido». El prefijo debe coincidir exactamente: cambiar una sola palabra al principio (la fecha del día, por ejemplo) invalida la caché para todo lo que sigue.
- «El orden da igual». Coloque el contenido estable (instrucciones, documentos) al principio y lo que cambia (la pregunta del usuario) al final.
- «La caché siempre sale gratis». La escritura puede costar más que una lectura normal; si el contenido nunca se reutiliza, paga usted más.
Términos relacionados: prompt de sistema, caché clave-valor, precio por millón de tokens, ventana de contexto.
Términos relacionados
- Precio por millón de tokens · Unidad de facturación de las API de IA: una tarifa por cada millón de tokens de entrada y otra, normalmente más alta, por los generados.
- Caché clave-valor (KV cache) · Memoria donde un modelo guarda los cálculos ya hechos sobre los tokens anteriores para no repetirlos en cada palabra nueva.
- Prompt de sistema · Instrucciones de fondo que recibe el modelo antes de la conversación (rol, tono, reglas) y que se aplican a todas sus respuestas.
- Latencia · Tiempo de espera entre el envío de una petición a un modelo de IA y la llegada de su respuesta, desde la primera palabra hasta la última.
- Ventana de contexto · Cantidad máxima de texto (en tokens) que un modelo puede leer y producir de una sola vez, incluida su propia respuesta.
Para probar
Todo el glosario
Preguntas frecuentes
¿La caché guarda mis respuestas para repetirlas?
No. Conserva el resultado del procesamiento del inicio del prompt, no las respuestas. El modelo sigue generando una respuesta nueva; solo evita volver a leer y calcular la parte común.
¿Hay que activar la caché?
Depende del proveedor. En OpenAI está activada por defecto en los modelos compatibles. En Anthropic se activa con un parámetro cache_control, ya sea automáticamente para toda la petición o en puntos concretos.
¿Cuánto dura la caché?
En Anthropic, la duración por defecto es de 5 minutos, renovada gratis cada vez que se reutiliza, con una opción de una hora más cara al escribir. Los demás proveedores tienen sus propias reglas, descritas en su documentación.
¿Hay un tamaño mínimo?
Sí. Por debajo de cierto número de tokens, que varía según el modelo, el prompt no se guarda en caché, y no aparece ningún error. Los prompts cortos no se benefician de este descuento.
Fuentes de los datos
Datos a 22 de octubre de 2026
Señalar un error
¿Una cifra, una fecha o un dato le parece incorrecto? Díganoslo: verificamos cada aviso.