Colapso del modelo: cuando la IA aprende de la IA
El colapso del modelo (model collapse) es la degradación progresiva de modelos generativos entrenados, generación tras generación, con datos producidos por modelos anteriores en lugar de por personas. Los casos raros y los matices desaparecen poco a poco, y los resultados se vuelven más pobres y uniformes.
Datos a 22 de octubre de 2026
Lo esencial en cifras
| Nivel | Avanzado |
|---|---|
| Origen | 2023 |
| Introducido por | Shumailov et al. |
Una definición sencilla
Haga una fotocopia de una fotocopia y repita la operación: en cada pasada se pierden detalles. El colapso del modelo es el equivalente en la IA. Un modelo aprende una distribución de datos, y lo que produce es una versión algo empobrecida de esa distribución. Si el modelo siguiente aprende sobre todo de esas producciones, hereda el empobrecimiento y lo amplifica.
El mecanismo
Un modelo generativo reproduce sobre todo lo que es frecuente en sus datos de entrenamiento. Los sucesos raros, las «colas» de la distribución, quedan infrarrepresentados en lo que genera. Los autores identifican varias fuentes de error que se acumulan: el muestreo (un conjunto finito de datos nunca lo recoge todo), los límites de lo que el modelo puede expresar y las imperfecciones del aprendizaje. Generación tras generación, las colas desaparecen y después se reduce la propia variedad. El fenómeno afecta a los grandes modelos de lenguaje, pero también a modelos más sencillos como los autocodificadores variacionales y las mezclas gaussianas.
Origen
El término lo popularizó el artículo «The Curse of Recursion: Training on Generated Data Makes Models Forget», de Ilia Shumailov y sus coautores, publicado en arXiv en mayo de 2023. Una versión apareció en la revista Nature en julio de 2024 con el título «AI models collapse when trained on recursively generated data».
Un ejemplo concreto
Tomemos un modelo entrenado con recetas de todo el mundo. Se le pide que genere un gran número de recetas, se entrena un modelo nuevo solo con ellas, y así sucesivamente. Los platos regionales poco conocidos aparecen cada vez menos, hasta desaparecer; tras unos cuantos ciclos, el modelo propone sobre todo variantes de unos pocos platos muy comunes, redactadas de forma cada vez más repetitiva.
Por qué importa e ideas erróneas
Una parte creciente de la web es contenido generado, que puede acabar en los corpus de preentrenamiento. De ahí el interés por las marcas de agua, la detección y la trazabilidad de las fuentes.
- «El colapso es inevitable». Gerstgrasser et al. mostraron en 2024 que conservar los datos reales y añadir encima cada nueva generación, en lugar de sustituirlos, evitaba el colapso en sus experimentos.
- «Todo dato generado es tóxico». Los datos sintéticos bien diseñados y filtrados son una herramienta habitual, por ejemplo en la destilación.
Términos relacionados
- Datos sintéticos · Datos creados artificialmente, a menudo por otro modelo de IA, para entrenar, ajustar o evaluar un modelo cuando faltan datos reales.
- Datos de entrenamiento · Ejemplos (textos, imágenes, sonidos…) con los que aprende un modelo de IA; determinan lo que sabe y también sus fallos.
- Preentrenamiento · Primera fase de entrenamiento de un modelo de lenguaje: aprende a predecir la continuación de textos en un corpus enorme, sin tarea concreta.
- Destilación de conocimiento · Técnica que entrena un modelo «alumno» pequeño para imitar las respuestas de un modelo «profesor» grande y así hacerlo más ligero.
- Marca de agua de IA · Marca, a menudo invisible, insertada en una imagen, un audio, un vídeo o un texto para indicar que lo generó una IA.
Todo el glosario
Preguntas frecuentes
¿Las IA actuales ya están colapsando?
Nada permite afirmarlo. El fenómeno se ha demostrado en experimentos controlados en los que cada generación sustituye los datos reales por datos generados. Los laboratorios filtran sus datos y conservan fuentes humanas, lo que limita ese escenario; la magnitud real del riesgo sigue en debate.
¿Hay que evitar los datos sintéticos?
No. Los datos sintéticos bien elegidos y filtrados se usan habitualmente para entrenar modelos, por ejemplo mediante destilación. El problema surge con un uso en bucle, sin control, en el que sustituyen a los datos reales.
¿Por qué ganan valor los datos humanos?
Porque contienen la diversidad y los casos raros que los modelos tienden a suavizar. Los autores del estudio fundacional prevén que los datos procedentes de interacciones humanas auténticas serán cada vez más valiosos.
Fuentes de los datos
Datos a 22 de octubre de 2026
Señalar un error
¿Una cifra, una fecha o un dato le parece incorrecto? Díganoslo: verificamos cada aviso.