Contexto largo: hacer que una IA lea documentos enteros
El contexto largo es la capacidad de un modelo de lenguaje para procesar de una sola vez grandes cantidades de texto, como un libro, una colección de documentos o un repositorio de código completo. El término abarca también las técnicas de arquitectura y entrenamiento que lo hacen posible, y los métodos para comprobar que el modelo aprovecha de verdad todo ese texto.
Datos a 22 de octubre de 2026
Lo esencial en cifras
| Nivel | Avanzado |
|---|
Una definición sencilla y otra técnica
Un modelo de contexto largo puede «tener delante» un documento entero mientras responde, en lugar de ver solo un fragmento. En la práctica, eso supone una ventana de contexto muy amplia y, además, un modelo entrenado para aprovecharla.
Hubo que superar tres obstáculos técnicos:
- El coste de la atención. En un Transformer clásico, el mecanismo de atención compara cada token con todos los demás, de modo que el cálculo crece con el cuadrado de la longitud.
- La memoria. La caché clave-valor, que guarda la información de los tokens ya leídos, crece con la longitud del texto y llena rápidamente la memoria de la GPU.
- Las posiciones. Un modelo entrenado con textos cortos no sabe interpretar posiciones que nunca ha visto. Métodos como Position Interpolation (Chen et al., 2023) o YaRN (Peng et al., 2023) amplían la ventana de los modelos que usan RoPE, con un entrenamiento adicional limitado.
Lo que muestran las evaluaciones
El artículo «Lost in the Middle: How Language Models Use Long Contexts» (Liu et al., 2023) mostró que el rendimiento suele ser mejor cuando la información útil está al principio o al final del contexto, y empeora cuando queda en el medio. En 2024, el benchmark RULER señaló que la prueba de «la aguja en el pajar», que consiste en encontrar una frase escondida, solo mide una comprensión superficial: tareas más exigentes, como seguir cadenas de referencias o agregar datos dispersos, revelan una longitud realmente aprovechable a menudo inferior a la anunciada.
Un ejemplo concreto
Usted entrega a un asistente los estatutos de su comunidad de propietarios, las actas de varias juntas y un presupuesto de obras, y pregunta: «¿Ya se aprobaron estas obras?». Un modelo de contexto largo puede cruzar todos esos documentos sin que usted tenga que dividirlos. Para una respuesta fiable, pídale que cite los pasajes exactos y compruébelos.
Ideas erróneas
- «Cuanto mayor la ventana, mejor». Una ventana inmensa mal aprovechada vale menos que otra más modesta bien dominada.
- «El contexto largo hace inútil el RAG». El RAG sigue siendo útil para grandes bases documentales, para controlar costes y para rastrear las fuentes.
Nuestra herramienta de ventana de contexto le ayuda a estimar si sus documentos caben en la ventana de un modelo concreto.
Términos relacionados
- Ventana de contexto · Cantidad máxima de texto (en tokens) que un modelo puede leer y producir de una sola vez, incluida su propia respuesta.
- RoPE (codificación posicional rotatoria) · Técnica que indica a un Transformer la posición de cada token girando sus vectores un ángulo que depende de esa posición.
- Caché clave-valor (KV cache) · Memoria donde un modelo guarda los cálculos ya hechos sobre los tokens anteriores para no repetirlos en cada palabra nueva.
- RAG (generación aumentada por recuperación) · Técnica que primero busca pasajes relevantes en sus documentos y luego se los entrega al modelo para que base en ellos su respuesta.
- Mecanismo de atención · Procedimiento que permite a un modelo ponderar, para cada palabra que procesa, la importancia de todas las demás palabras del texto.
- Ingeniería de contexto · Práctica de decidir qué entra en la ventana de contexto de un modelo en cada paso: instrucciones, herramientas, documentos, memoria e historial.
Para probar
Todo el glosario
Preguntas frecuentes
Si un modelo admite un contexto enorme, ¿lo lee todo de verdad?
Procesa todo el texto, pero no aprovecha igual todas sus partes. Varios estudios han mostrado que la información situada en mitad de un contexto largo se utiliza peor que la que está al principio o al final. El máximo anunciado no indica la longitud realmente útil.
Contexto largo o RAG: ¿qué elegir?
El contexto largo es sencillo y eficaz para analizar de una vez un conjunto cerrado de documentos. El RAG sigue siendo preferible para una base muy grande y cambiante, para contener el coste de cada consulta o para citar las fuentes con precisión. A menudo se combinan.
¿Por qué sale caro un contexto largo?
Cada token enviado se factura, y tanto el cálculo de la atención como la memoria necesaria aumentan con la longitud. El almacenamiento en caché del prompt reduce la factura cuando se reenvía a menudo el mismo documento largo.
Fuentes de los datos
Datos a 22 de octubre de 2026
Señalar un error
¿Una cifra, una fecha o un dato le parece incorrecto? Díganoslo: verificamos cada aviso.