Adaptación en tiempo de prueba: principios y resultados

La adaptación en tiempo de prueba consiste en ajustar un sistema a los datos de una tarea cuando debe resolverla, a menudo modificando de forma temporal algunos parámetros del modelo. El cálculo en tiempo de inferencia abarca más posibilidades: también incluye los intentos múltiples, la búsqueda y la verificación, sin modificar los pesos. Los resultados publicados muestran mejoras en determinados protocolos, pero su alcance depende de los datos disponibles, del presupuesto y de cómo se selecciona la respuesta.

Distinguir entre adaptación, aprendizaje y cálculo adicional

La inferencia es el uso de un modelo para producir una salida. Eso no obliga a mantener todo el sistema sin cambios: una aplicación puede realizar varias llamadas, conservar un estado o ejecutar una optimización antes de entregar su respuesta.

Sin embargo, estos términos describen mecanismos distintos. El test-time scaling aumenta los recursos dedicados a resolver un problema. El test-time adaptation adapta el sistema a las observaciones que encuentra. El test-time training designa, de forma más específica, un procedimiento de aprendizaje ejecutado durante esa fase, generalmente mediante la optimización de parámetros.

Mecanismo	Qué cambia	Señal utilizada	Posible persistencia
Aprendizaje en contexto	El contexto y las activaciones	Instrucciones y demostraciones	En el contexto conservado
Generación de varios candidatos	Las soluciones exploradas	Muestreo, votación o verificador	En el estado de la búsqueda
Adaptación de parámetros	Algunos pesos o adaptadores	Función de pérdida local	Temporal o continua
Búsqueda de programas	Los programas candidatos	Ejecución sobre los ejemplos	En las soluciones seleccionadas

Estas categorías pueden combinarse. Un sistema puede adaptar un modelo, generar varios programas y después ejecutarlos para seleccionar una respuesta. En ese caso, el resultado corresponde al proceso completo. Para interpretar una puntuación, debe identificar qué componentes se utilizaron, en lugar de deducir el mecanismo a partir de la palabra «razonamiento».

Construir una señal de aprendizaje sin la respuesta final

El aprendizaje local necesita un objetivo que pueda calcularse. Si se desconoce la solución buscada, el sistema debe aprovechar otra información: las demostraciones disponibles, alguna propiedad de los datos o una tarea auxiliar cuya respuesta pueda construirse automáticamente.

Yu Sun y sus coautores describen este enfoque en Test-Time Training with Self-Supervision for Generalization under Distribution Shifts, publicado en ICML en 2020. Su método convierte una observación de prueba sin etiquetar en un problema autosupervisado, actualiza los parámetros y después realiza la predicción. Los autores presentan mejoras en evaluaciones de clasificación de imágenes sometidas a cambios de distribución.

El principio no proporciona, sin embargo, una corrección sin coste. Un objetivo auxiliar puede volverse más fácil sin que mejore la resolución de la tarea principal. Es necesario medir por separado la reducción de esa pérdida y la mejora de las respuestas esperadas.

Piense en una situación hipotética: un sistema recibe documentos procedentes de un escáner nuevo. Podría adaptarse a ciertas regularidades visuales de esos documentos, pero eso no garantiza que lea mejor los importes. La evaluación debe medir qué campos se extraen correctamente. El objetivo local es un medio para aprender; el criterio operativo sigue siendo el resultado obtenido.

Adaptar la confianza no garantiza el acierto

Otra familia de métodos utiliza directamente las predicciones del modelo. La entropía mide aquí la dispersión de su distribución: una predicción concentrada en una clase tiene una entropía menor que otra que reparte la probabilidad entre varias clases.

En Tent, presentado en ICLR en 2021, Dequan Wang, Evan Shelhamer y sus coautores proponen minimizar esa entropía durante la prueba. El método estima estadísticas de normalización y optimiza transformaciones afines por canal. Los autores señalan, entre otros resultados, una reducción de errores en conjuntos de clasificación con imágenes alteradas.

Este enfoque se aplica a un marco concreto. No permite establecer una regla general según la cual aumentar la confianza haga más correcta una respuesta. Si un sistema ya ha adoptado una interpretación equivocada, reforzar su preferencia podría, por el contrario, consolidar el error.

Por tanto, en una evaluación hay que observar por separado los errores y la confianza. Compruebe también qué ocurre cuando los datos cambian bruscamente, cuando las categorías están desequilibradas o cuando las observaciones llegan de forma aislada. No se puede dar por hecho que un método evaluado por lotes se comporte igual en un servicio que procesa cada solicitud de manera independiente.

También importa qué parámetros pueden modificarse. Adaptar un subconjunto pequeño limita el alcance de los cambios, pero no elimina la necesidad de comparar con el modelo sin modificar ni de disponer de un procedimiento de restauración.

Aprender de las demostraciones disponibles en ARC

En las tareas de cuadrículas de ARC, cada problema nuevo incluye ejemplos de entrada y salida. El sistema debe deducir una transformación que pueda aplicar a una entrada adicional. La página de referencia sobre ARC-AGI explica esta lógica y las diferencias entre los conjuntos de evaluación.

La adaptación utiliza las demostraciones como datos de aprendizaje locales. Por ejemplo, se puede reservar un ejemplo conocido para comprobar una hipótesis construida a partir de los demás. Cambiar los colores o la orientación también puede aportar variantes, siempre que se mantenga la relación que se busca aprender.

La publicación de Ekin Akyürek y sus coautores, titulada inicialmente The Surprising Effectiveness of Test-Time Training for Abstract Reasoning, pasó a llamarse The Surprising Effectiveness of Test-Time Training for Few-Shot Learning en su revisión del 25 de marzo de 2025. Presenta una precisión del 53,0 % en el conjunto público de validación de ARC con un modelo de 8 mil millones de parámetros, y del 61,9 % al combinarlo con métodos de síntesis de programas.

Estas puntuaciones no describen, por tanto, un modelo general utilizado sin preparación ni una adaptación aislada del resto del sistema. La publicación estudia, entre otros aspectos, la preparación previa, los datos locales y las variantes de inferencia. El resultado del sistema híbrido no debe atribuirse únicamente al cambio de los pesos.

Qué permiten concluir los resultados públicos

Los experimentos públicos sirven para entender los mecanismos y reproducir las comparaciones. También permiten a los investigadores ajustar sus métodos. Esta doble función obliga a distinguir entre un conjunto de desarrollo y una evaluación que se mantenga al margen de las decisiones técnicas.

El informe oficial de ARC Prize publicado el 6 de diciembre de 2024 destaca los avances obtenidos mediante la síntesis de programas guiada por aprendizaje profundo, el test-time training y la combinación de ambos. Entre otros resultados, recoge una puntuación privada del 53,5 % para el equipo the ARChitects. Ese resultado corresponde a un conjunto y a un protocolo distintos de los utilizados para las puntuaciones públicas citadas antes.

Una comparación útil debe enfrentar sistemas evaluados en las mismas condiciones. Debe precisar los ejemplos disponibles, los intentos permitidos, el tiempo concedido y el criterio de éxito. Encontrar una respuesta entre muchos candidatos no significa automáticamente que el sistema haya sabido seleccionarla.

Evite también convertir un resultado con cuadrículas en una afirmación sobre todas las tareas nuevas. Descubrir una transformación visual, redactar un contrato y planificar acciones plantean restricciones diferentes. Una mejora en un benchmark demuestra, ante todo, un resultado en ese benchmark.

El artículo Cómo interpretar las clasificaciones de modelos amplía esta explicación: un porcentaje adquiere sentido cuando se conocen el protocolo y los recursos empleados para obtenerlo.

Dedicar más cálculo sin modificar los pesos

Una alternativa a la adaptación paramétrica consiste en aprovechar mejor un modelo existente. Se pueden generar respuestas independientes, revisar un intento, explorar varias ramas o pedir a un verificador que puntúe los pasos.

Charlie Snell, Jaehoon Lee, Kelvin Xu y Aviral Kumar estudian estas decisiones en Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters, presentado el 6 de agosto de 2024. En problemas matemáticos, describen una mejora de la eficiencia del cálculo en tiempo de prueba superior a un factor de cuatro frente a una referencia best-of-N. Su conclusión depende, entre otros factores, de la dificultad de los problemas y del reparto del presupuesto.

El resultado no significa que alargar cualquier generación mejore automáticamente su calidad. Una búsqueda debe ser capaz de alcanzar buenas soluciones y después reconocerlas. Si las propuestas siguen siendo incorrectas o el verificador prefiere errores convincentes, el cálculo adicional puede desaprovecharse.

Además, dedicar más cálculo no exige necesariamente producir más texto. Scaling up Test-Time Compute with Latent Reasoning, publicado en febrero de 2025, explora una arquitectura que repite un bloque recurrente en el espacio latente. Esta línea de trabajo distingue la profundidad del procesamiento interno de la longitud de la respuesta visible.

Para el usuario, una respuesta larga no es, por tanto, una medida suficiente del esfuerzo útil. Hay que examinar el rendimiento, el tiempo y los recursos del sistema.

El verificador y el criterio de parada determinan la utilidad

Un generador propone; un mecanismo de selección decide qué se entregará. Esa selección puede basarse en una ejecución, una votación, una medida de coherencia o un modelo evaluador. Cada opción tiene sus propias limitaciones.

En un ejemplo hipotético de transformación de una tabla, varios programas pueden reproducir todos los ejemplos disponibles. Aun así, pueden dar resultados distintos ante una entrada nueva. La compatibilidad con las demostraciones descarta algunos errores, pero no identifica necesariamente la regla esperada.

Una votación por mayoría presenta una dificultad similar. Varias respuestas coincidentes pueden compartir la misma hipótesis equivocada. Para evaluar la utilidad de los intentos múltiples, mida la diversidad que aportan y después la capacidad del mecanismo de selección para elegir las propuestas correctas.

El criterio de parada debe definirse antes de la evaluación. Puede depender de un presupuesto máximo, de una validación externa o de la falta de progreso. La confianza que declara el modelo no basta para demostrar que una solución se ha verificado.

En una aplicación, defina explícitamente cómo debe actuar el sistema ante la incertidumbre: entregar una respuesta con reservas precisas, pedir un dato que falta o derivar el caso a una persona. El sistema debe poder detenerse sin inventar una certeza. El artículo ¿Los LLM razonan realmente? examina las dificultades que plantea interpretar el comportamiento observado.

Medir el coste completo, más allá de los tokens

El cálculo adicional traslada una parte del gasto a cada problema procesado. Para comparar dos estrategias, hay que medir su coste total por tarea y después su coste por tarea resuelta correctamente.

Concepto	Generación y búsqueda	Adaptación de parámetros
Cálculo principal	Producir y evaluar candidatos	Optimizar y después producir una respuesta
Memoria	Contextos, activaciones y ramas	Parámetros adaptados y estado de optimización
Tiempo de respuesta	Intentos secuenciales o paralelos	Preparación y actualizaciones locales
Gasto que debe contabilizarse	Generador, verificador y herramientas	Adaptación, inferencia y restauración
Dificultad operativa	Coordinar la selección	Aislar y gestionar los estados modificados

Una cantidad idéntica de tokens no representa necesariamente la misma cantidad de cálculo. El modelo utilizado, las pasadas de optimización, las herramientas y el hardware modifican el gasto. Si no se mide la energía, es preferible publicar el tiempo y la configuración en lugar de convertir arbitrariamente el consumo en una estimación energética.

El volumen de uso también cambia la decisión. Una preparación compartida puede amortizarse entre muchas solicitudes, mientras que una adaptación específica para cada problema sigue siendo un gasto recurrente. A su vez, reservar un procesamiento costoso para las solicitudes difíciles puede evitar que las sencillas sufran retrasos.

La calculadora de precios de LLM ayuda a estimar las llamadas facturadas por tokens. El balance de un experimento debe añadir los gastos que no aparecen en esa facturación: cálculo local, verificación, almacenamiento temporal e intentos abandonados.

Diseñar una evaluación que permita aislar la mejora

Para decidir si un método justifica su coste adicional, parta de una referencia sin modificar y bien documentada. Fije los datos disponibles, el criterio de selección y el presupuesto antes de consultar las respuestas del conjunto final.

Después, compare los cambios por separado: ejemplos añadidos al contexto, intentos múltiples, adaptación local y, si procede, su combinación. Sin esa separación, una mejora podría deberse a un formato de entrada más adecuado o a una selección más eficaz, en lugar de al aprendizaje en tiempo de prueba.

Un informe que permita valorar los resultados debería indicar:

el éxito final según el criterio oficial;
los recursos utilizados, incluidos los intentos descartados;
los tiempos de respuesta habituales y los casos más lentos;
los nuevos errores introducidos por el método;
la estabilidad entre ejecuciones y el efecto del orden de las tareas.

La gestión del estado debe quedar explícita. En la adaptación episódica, cada tarea parte de un estado inicial. En la adaptación continua, los cambios se acumulan. Los resultados no responden a la misma pregunta, ya que el segundo sistema dispone de un historial.

Separe también los datos utilizados para ajustar la tasa de aprendizaje, elegir las transformaciones o definir la parada de aquellos que sirven para la evaluación final. Las demostraciones permitidas de una tarea pueden utilizarse para la adaptación; su respuesta oculta no debe servir para elegir los ajustes.

La guía Evaluar un agente de IA ofrece un marco complementario para relacionar estas medidas con un uso concreto.

Generalización: interpretaciones que conviene distinguir

François Chollet presenta la inteligencia como la eficiencia con la que se adquieren habilidades en relación con los conocimientos previos, la experiencia y la dificultad de generalización, en On the Measure of Intelligence, publicado en noviembre de 2019. Esta perspectiva invita a distinguir el nivel de habilidad alcanzado de los recursos de información empleados para conseguirlo.

La adaptación en tiempo de prueba plantea precisamente esta cuestión: ¿qué puede aprender un sistema de las observaciones específicas de un problema nuevo? Importa el número de ejemplos, pero también los conocimientos adquiridos previamente y las decisiones de quienes diseñaron el sistema. La página sobre generalización desarrolla estas distinciones.

Los trabajos presentados aquí, sin embargo, se centran en vías diferentes. Akyürek y sus coautores muestran la utilidad de optimizar parámetros localmente para ciertas tareas nuevas. Snell y sus coautores estudian cómo repartir el cálculo entre búsqueda y revisión. Estos resultados no permiten afirmar que una sola arquitectura sea necesaria o suficiente.

La diferencia también afecta al criterio que se pretende satisfacer. Para un servicio operativo, resolver más tareas con un presupuesto aceptable puede bastar para justificar un método. Para investigar la inteligencia general, también hay que examinar la novedad, los conocimientos previos y la transferencia entre ámbitos.

Una evaluación útil hace explícitos estos objetivos. Puede demostrar una mejora práctica sin pretender ofrecer una medida completa de la inteligencia.

Elegir según la tarea y la calidad de la información disponible

El punto de partida es la naturaleza de la información recibida durante la resolución. Unas demostraciones locales pertinentes pueden justificar una adaptación. Una propiedad verificable puede hacer útil la búsqueda. Disponer de documentos adicionales puede requerir simplemente un contexto mejor, sin ajuste fino.

Para una extracción que siga ejemplos específicos de un cliente, compare primero el uso exclusivo del contexto con la adaptación local. Para generar código acompañado de pruebas fiables, examine la utilidad de producir varios candidatos y ejecutarlos. Si ninguna fuente permite verificar la respuesta a una pregunta, realizar más intentos no resuelve la falta de pruebas.

Prevea también la gestión de los datos. Si se conservan parámetros adaptados, determine quién podrá reutilizarlos y cómo se volverá al estado inicial. Si el procesamiento es temporal, compruebe que la restauración abarque todos los estados implicados, no solo el texto de la conversación.

Aspectos que debe tener en cuenta al comparar un método:

Identificar qué cambia: contexto, búsqueda, estadísticas o parámetros.
Exigir un resultado acompañado de un protocolo y un presupuesto explícitos.
Medir la selección final, más allá de la existencia de un buen candidato.
Comprobar los retrocesos en el rendimiento, la persistencia de los cambios y el coste completo.

El especial sobre AGI e investigación sitúa estos mecanismos entre los enfoques estudiados para aprender y resolver tareas nuevas. Su utilidad se valora por su capacidad medida para convertir la información disponible en respuestas correctas, dentro de las restricciones del uso previsto.

Páginas relacionadas

Preguntas frecuentes

¿Qué diferencia hay entre test-time adaptation y test-time scaling?

El primer término se refiere a la adaptación a los datos que encuentra el sistema durante su uso, a menudo mediante cambios en parámetros o estadísticas internas. El segundo consiste en aumentar el cálculo dedicado a una respuesta. Buscar entre varias soluciones pertenece al segundo enfoque, pero no implica necesariamente el primero.

¿Un modelo aprende cuando se le pide que piense más?

Esa instrucción no demuestra que se modifiquen sus pesos. Según el sistema, puede cambiar el texto generado o la estrategia de generación. Para hablar de aprendizaje paramétrico, hay que identificar un procedimiento de optimización y los parámetros que modifica.

¿Se puede adaptar un modelo sin conocer la respuesta correcta?

Sí, si los datos permiten construir un objetivo auxiliar o si la tarea incluye demostraciones. La respuesta final puede permanecer oculta. La dificultad está en comprobar que ese objetivo ayuda a resolver el problema en lugar de reforzar un error.

¿Los resultados en ARC demuestran que la adaptación conduce a la AGI?

Muestran la utilidad de ciertos métodos para resolver problemas de abstracción visual dentro de un protocolo concreto. Para extraer conclusiones sobre la AGI harían falta evaluaciones más amplias, con tareas nuevas, recursos controlados y un análisis de los conocimientos previos.

¿Hay que conservar los cambios después de cada tarea?

Depende del protocolo. La adaptación episódica restaura el estado inicial, mientras que la adaptación continua conserva cambios entre observaciones. Esta decisión debe quedar explícita porque afecta a la reproducibilidad y a los riesgos de transferencia entre usuarios.