Nivel : Intermedio
¿Entiende de verdad la IA lo que dice?
Por La redacción de Info Agent IA ·
¿Entiende la IA lo que dice? Ni del todo sí ni simplemente no: los grandes modelos de lenguaje construyen auténticas representaciones internas del significado, pero sin experiencia del mundo y con lagunas imprevisibles. La consecuencia práctica para usted es sencilla: trate una respuesta fluida como una hipótesis bien formulada, no como la prueba de que la IA ha captado su situación.
Lo que hace realmente un modelo de lenguaje
Un gran modelo de lenguaje (LLM) se entrena con una inmensa cantidad de textos y una única consigna: predecir lo que viene después. El texto se divide en tokens, fragmentos de palabras, y el modelo aprende a adivinar el token siguiente. Al repetir este ejercicio miles de millones de veces sobre sus datos de entrenamiento, ajusta sus parámetros internos.
Dicho así, parece muy lejos de la comprensión. Es el argumento del «autocompletado gigante». Pero hay una trampa: para predecir bien la continuación de un texto, a menudo hay que haber captado muchas cosas. Para completar «París es a Francia lo que Lima es a…», hace falta alguna noción de capital y de país. Para terminar un razonamiento matemático, hay que seguir su lógica. La pregunta pasa a ser: ¿qué estructuras ha construido el modelo para predecir tan bien?
Si quiere repasar lo básico, nuestro artículo sobre cómo funciona ChatGPT detalla las etapas, y qué es un LLM explica su arquitectura.
Los argumentos del «no, no entiende»
La habitación china
En 1980, el filósofo John Searle propuso un experimento mental. Una persona que no habla chino está encerrada en una habitación con un manual de reglas. Le pasan preguntas en chino por debajo de la puerta; siguiendo el manual, devuelve respuestas perfectas. Desde fuera, la habitación «habla chino». Dentro, nadie entiende nada. Para Searle, manipular símbolos según reglas no basta para comprender.
El «loro estocástico»
En 2021, las investigadoras Emily Bender, Timnit Gebru y sus coautoras publicaron un artículo que calificaba a los modelos de lenguaje de «loros estocásticos»: ensamblan formas lingüísticas probables sin acceso al significado. Su argumento central: el modelo nunca ha visto, tocado ni vivido aquello de lo que habla. Solo tiene palabras que remiten a otras palabras. Los investigadores lo llaman el problema del anclaje.
Errores que delatan
Los modelos también cometen errores que una persona que entiende no cometería: inventar una referencia con total seguridad, fallar en una variante trivial de un acertijo conocido o contradecirse de una frase a otra. Estas alucinaciones muestran que la fluidez del texto no está respaldada por una verificación del sentido.
Los argumentos del «sí, en parte»
Representaciones internas medibles
La investigación en interpretabilidad, que abre la «caja negra» de los modelos, aporta elementos concretos. Un estudio presentado en 2023 entrenó un pequeño modelo solo con listas de jugadas del juego de mesa Othello: dentro de él, los investigadores encontraron una representación del estado del tablero que nadie le había dado.
Más recientemente, el 27 de marzo de 2025, Anthropic publicó trabajos sobre su modelo Claude («Tracing the thoughts of a large language model», consultado el 22 de octubre de 2026). Según la empresa, al preguntarle por la capital del estado donde está Dallas, el modelo activa primero la idea «Dallas está en Texas» y después «la capital de Texas es Austin». Al sustituir artificialmente ese paso intermedio, los investigadores cambian la respuesta final. La misma publicación describe un modelo que elige de antemano la palabra que rimará antes de escribir un verso, y conceptos compartidos entre varios idiomas.
Resultados difíciles de obtener de memoria
Las puntuaciones en las pruebas también han subido mucho. GPQA es un conjunto de preguntas de ciencias de nivel de doctorado, diseñadas para que la respuesta no se encuentre con una simple búsqueda en internet.
| Trimestre | Mejor puntuación en GPQA (sobre 100) | Modelo |
|---|---|---|
| 2023-T1 | 35,7 | GPT-4 |
| 2024-T2 | 54 | Claude 3.5 Sonnet |
| 2024-T4 | 76,8 | o1 |
| 2025-T4 | 92,6 | Gemini 3 Pro |
| 2026-T3 | 96,4 | Gemini 4 Argon |
Fuente: Epoch AI, mejor puntuación por trimestre, consultada el 22 de octubre de 2026.
Para seguir los modelos con mejores resultados en las pruebas, consulte nuestra clasificación semanal de IA.
La misma investigación aporta un matiz importante
El trabajo de Anthropic también muestra la otra cara. Cuando se pide al modelo que explique cómo hizo un cálculo mental, describe el método clásico que se enseña en la escuela, mientras que sus circuitos internos siguen otro camino: combinan en paralelo una estimación aproximada y un cálculo preciso. Dicho de otro modo: la explicación que una IA da de su propio razonamiento no es necesariamente lo que ocurrió en su interior.
| Lo que se parece a comprender | Lo que se aleja de ello |
|---|---|
| Conceptos compartidos entre idiomas | Ninguna experiencia directa del mundo |
| Pasos intermedios de razonamiento observables | Explicaciones de sí misma a veces inexactas |
| Planificación (elegir la rima antes de escribir el verso) | Errores burdos en variantes sencillas |
| Puntuaciones altas en pruebas difíciles | Invenciones presentadas con seguridad |
Póngase a prueba Un asistente le explica paso a paso cómo llegó a un resultado. ¿Esa explicación demuestra que razonó así?
No. Según los trabajos de interpretabilidad de Anthropic, la explicación que un modelo da de su razonamiento puede diferir del cálculo que realmente efectuó. Juzgue el resultado en sí, comprobándolo, y no la calidad de la explicación.
Entonces, ¿qué palabra usar?
Este debate recuerda al del test de Turing: ya en 1950, Alan Turing propuso sustituir la pregunta «¿pueden pensar las máquinas?» por una prueba observable. Hoy, varios modelos mantienen conversaciones convincentes y la pregunta se ha desplazado al interior de los modelos. Nuestra guía para entender la inteligencia artificial sitúa estas nociones en un marco más amplio.
Lo que esto cambia en su uso
- Compruebe la comprensión antes de la respuesta. Pida al asistente que reformule su petición o que enumere sus suposiciones.
- No se fíe del tono. Una respuesta segura y bien escrita puede ser falsa; nuestra guía sobre las alucinaciones de la IA propone formas de verificar.
- Aporte el contexto que le falta. El modelo no conoce su situación, sus limitaciones ni lo que para usted es «evidente»: dígaselo.
- Conserve el juicio final. En temas médicos, legales o financieros, la IA le ayuda a preparar sus preguntas, no a decidir en lugar de un profesional.
Preguntas frecuentes
¿ChatGPT entiende lo que le escribo?
Procesa el sentido de sus frases con suficiente finura como para responder de forma pertinente, algo que se parece mucho a comprender. Pero esa comprensión no se basa en ninguna experiencia del mundo y puede fallar de golpe en detalles que una persona consideraría evidentes. Los investigadores no se ponen de acuerdo sobre qué palabra usar.
¿La IA tiene conciencia?
Nada permite afirmarlo. Comprender, en el sentido de manejar conceptos correctamente, y sentir, en el sentido de tener una experiencia subjetiva, son dos cuestiones distintas. La segunda sigue abierta en el plano filosófico, pero ningún resultado científico muestra que un modelo actual sienta algo.
Si la IA entiende, ¿por qué comete errores tan burdos?
Porque su competencia es desigual. Un modelo puede resolver un problema científico difícil y fallar en una pregunta trampa muy sencilla, o inventarse una fuente. Sus respuestas se basan en regularidades aprendidas, no en una verificación de los hechos.
¿Cómo saber si una IA ha entendido bien mi petición?
Pídale que reformule su petición antes de responder o que enumere las suposiciones que hace. Si la reformulación es incorrecta o incompleta, corríjala: suele funcionar mejor que reescribir toda la petición.