Inferencia: el momento en que la IA le responde
En IA, la inferencia es el uso de un modelo ya entrenado para producir un resultado: una respuesta, una imagen, una traducción. Cada mensaje que envía a un asistente desencadena una inferencia, y es esa etapa la que determina la velocidad y el coste de la respuesta.
Datos a 22 de octubre de 2026
Lo esencial en cifras
| Nivel | Intermedio |
|---|
Una definición sencilla
La vida de un modelo de IA tiene dos grandes fases. Primero el entrenamiento, o preentrenamiento: el modelo aprende de enormes cantidades de datos y sus parámetros quedan fijados. Después la inferencia: se le da una entrada y calcula una salida, sin aprender nada nuevo. La palabra viene del razonamiento: el modelo «infiere» la continuación más probable a partir de lo aprendido.
En un modelo de lenguaje, la inferencia avanza token a token. El modelo lee su prompt, calcula el primer fragmento de la respuesta, lo añade al texto, calcula el siguiente, y así hasta terminar.
Un ejemplo concreto
Usted pide a un asistente que resuma diez páginas de actas de reunión. El servidor carga el modelo en memoria, lee las diez páginas (los tokens de entrada) y luego redacta el resumen palabra a palabra (los tokens de salida). La espera hasta la primera palabra depende principalmente de la longitud del documento; el tiempo total, de la longitud del resumen. Si se trata de un modelo de razonamiento, además produce una reflexión interna antes de responder, lo que alarga la inferencia.
Por qué es importante
El entrenamiento es un gasto puntual; la inferencia es un coste cada vez que se usa el modelo. Eso explica los límites de mensajes en los planes gratuitos, la facturación de las API por precio por millón de tokens y la latencia que usted percibe. Para estimar lo que costaría un agente que hace cientos de llamadas, pruebe nuestra calculadora de costes de agentes.
Ideas falsas frecuentes
- «La IA aprende de cada conversación en tiempo real». No. Durante la inferencia, los pesos del modelo no cambian. La memoria de un asistente se basa en texto que se vuelve a introducir en el contexto.
- «Los modelos grandes siempre son demasiado lentos». La velocidad también depende del hardware, de la optimización de los servidores y de técnicas como la caché de prompts o las arquitecturas de mezcla de expertos.
- «La inferencia es prácticamente gratis». Para una sola pregunta, casi. Para agentes que recorren documentos largos en bucle, en absoluto.
Términos relacionados: latencia, precio por millón de tokens, servidor de inferencia, cómputo en tiempo de prueba, GPU.
Términos relacionados
- Preentrenamiento · Primera fase de entrenamiento de un modelo de lenguaje: aprende a predecir la continuación de textos en un corpus enorme, sin tarea concreta.
- Latencia · Tiempo de espera entre el envío de una petición a un modelo de IA y la llegada de su respuesta, desde la primera palabra hasta la última.
- Precio por millón de tokens · Unidad de facturación de las API de IA: una tarifa por cada millón de tokens de entrada y otra, normalmente más alta, por los generados.
- Servidor de inferencia · Software que carga un modelo de IA en memoria y responde a peticiones mediante una API, optimizando el rendimiento y la memoria de la GPU.
- Cómputo en inferencia (test-time compute) · Potencia de cálculo que gasta un modelo en el momento de responder, por ejemplo para razonar más tiempo o comparar varias soluciones.
- GPU (procesador gráfico) · Chip diseñado para hacer miles de cálculos en paralelo, convertido en el motor del entrenamiento y del uso de los modelos de IA.
Para probar
Todo el glosario
Preguntas frecuentes
¿Qué diferencia hay entre entrenamiento e inferencia?
El entrenamiento construye el modelo: sus parámetros se ajustan con enormes cantidades de datos, una sola vez y a un coste muy alto. La inferencia usa el modelo: ocurre millones de veces, una por pregunta. Es como escribir un libro frente a leerlo.
¿Por qué los tokens de salida cuestan más que los de entrada?
El modelo lee su texto de una sola pasada, pero genera la respuesta token a token, y cada token nuevo exige un cálculo completo de la red. Las tarifas lo reflejan: en Anthropic, por ejemplo, los tokens de salida cuestan varias veces más que los de entrada.
¿Puedo hacer inferencia en mi propio ordenador?
Sí, con modelos de pesos abiertos y el software adecuado, siempre que tenga memoria suficiente, idealmente en una tarjeta gráfica. Los modelos pequeños y la cuantización lo hacen posible en equipos domésticos, con un rendimiento inferior al de los modelos más grandes.
¿El modelo aprende de mis mensajes durante la inferencia?
No durante la inferencia en sí: el modelo no cambia mientras le responde. Un proveedor sí puede guardar sus conversaciones y usarlas para entrenamientos posteriores, según sus condiciones. Revise la configuración de privacidad de su asistente.
Fuentes de los datos
Datos a 22 de octubre de 2026
Señalar un error
¿Una cifra, una fecha o un dato le parece incorrecto? Díganoslo: verificamos cada aviso.