Alucinaciones de un agente de IA: reducir los errores

Un agente de IA se equivoca porque un modelo de lenguaje genera texto plausible, no hechos verificados, y el agente encadena acciones a partir de ese texto. Estos errores no se eliminan: se miden con tareas propias y después se reducen con medidas específicas, como fuentes proporcionadas, salidas estructuradas, permisos limitados, validación humana y registros.

Qué se entiende por alucinación de un agente

Una alucinación es una respuesta falsa presentada con seguridad: un hecho inventado, una fuente que no existe o una cifra incorrecta. En un chatbot sencillo, el error se queda en el texto. En un agente, desencadena acciones: modificar un archivo, enviar un correo electrónico o ejecutar un comando. Esa es la diferencia que explicamos en agente de IA o chatbot, y por eso la fiabilidad adquiere más importancia.

No todos los errores de un agente consisten en inventar hechos. Hay cinco tipos habituales.

Error	Qué ocurre	Causa frecuente	Medida principal
Hecho inventado	El modelo afirma algo falso	No hay fuentes en el contexto	Proporcionar documentos y exigir citas
Llamada incorrecta a una herramienta	Parámetro incorrecto o herramienta equivocada	Descripción imprecisa de la herramienta o modelo poco fiable	Esquemas estrictos y salidas estructuradas
Resultado mal interpretado	El modelo ignora o distorsiona la respuesta de una herramienta	Resultado demasiado largo o con información irrelevante	Resumir, filtrar y comprobar el resultado
Bucle	El agente repite la misma acción	No hay una condición de parada	Límites de turnos y de presupuesto
Pérdida del contexto	El agente olvida una instrucción durante la tarea	Historial demasiado largo	Recordatorios, resúmenes y memoria controlada

Medir antes de corregir

Sin mediciones, las correcciones se hacen a ciegas. El método más útil es el más sencillo:

Reúna de 20 a 50 tareas reales de su agente, con la respuesta o la acción esperada.
Vuelva a ejecutarlas cada vez que cambie de modelo, de instrucciones o de herramientas.
Anote para cada tarea: éxito, fallo, necesidad de corrección humana y coste.
Clasifique los fallos según los cinco tipos de la tabla anterior.

Las pruebas comparativas públicas sirven de referencia, pero no sustituyen este conjunto de pruebas: nuestra guía para interpretar las clasificaciones de modelos explica sus límites, y la guía para evaluar un agente de IA detalla el proceso. Algunas pruebas comparativas se centran en la exactitud factual, como SimpleQA, publicada por OpenAI, pero evalúan preguntas cerradas, no tareas de agentes.

Un ejemplo concreto: un agente de soporte que responde a los clientes

Veamos un agente ficticio encargado de responder a las preguntas sobre los envíos de una tienda. Este ejemplo ilustra el método y no se basa en datos reales. El agente dispone de dos herramientas: una para buscar pedidos y otra para consultar las condiciones de envío.

Primer incidente: un cliente pregunta si su pedido llegará antes del viernes. El agente no encuentra el pedido, no lo dice y responde con un plazo «habitual» que ha supuesto. Es un hecho inventado por falta de una fuente. La medida consiste en establecer una regla explícita: si la herramienta no devuelve un resultado, el agente indica que no lo sabe y deriva la consulta a una persona.

Segundo incidente: la herramienta de búsqueda devuelve una ficha de 40 líneas y el agente cita el estado de otro pedido. Es un resultado mal interpretado. La medida consiste en devolver al agente solo los campos útiles, como el número, el estado y la fecha, en lugar de la ficha completa.

Tercer incidente: el agente repite cinco veces la misma búsqueda con el mismo número mal introducido. Es un bucle. Un límite de turnos por conversación y un mensaje de error claro permiten detenerlo.

Cada incidente se corrige en un punto distinto: el prompt, la herramienta o la configuración. Por eso conviene clasificar los errores antes de «cambiar de modelo».

Crear su conjunto de pruebas paso a paso

Un conjunto de pruebas no requiere herramientas sofisticadas: basta con una hoja de cálculo.

Recopile las solicitudes reales que recibe el agente, o la persona a la que sustituye, y anonimícelas.
Escriba el resultado esperado para cada una: la respuesta correcta, la acción que debe ejecutarse o «rechazar y derivar a una persona».
Añada casos difíciles: información ausente, solicitudes ambiguas, instrucciones contradictorias o texto malicioso dentro de un documento.
Vuelva a ejecutar el conjunto tras cada cambio y guarde los resultados con fecha para poder compararlos.
Revise los fallos uno por uno: si el fallo se debe a un resultado esperado incorrecto, corrija el conjunto de pruebas, no el agente.

Reserve una pequeña parte de los casos y no los utilice para ajustar las instrucciones. Así podrá comprobar que las correcciones también funcionan con casos que no se han usado durante los ajustes.

Las medidas que realmente reducen los errores

Proporcionar fuentes para evitar las suposiciones

Un agente que responde a partir de documentos que usted le proporciona inventa menos que uno que responde de memoria. Ese es el principio del RAG, que explicamos en nuestra guía de referencia. Exija citas que permitan localizar la fuente y rechace las respuestas sin fuentes cuando la exactitud sea importante.

Definir las salidas y las herramientas

Las salidas estructuradas, con un formato de respuesta obligatorio validado mediante código, evitan que los parámetros se rellenen de forma incorrecta. Describa cada herramienta con precisión y limite su número: cuantas más herramientas tenga un agente, más probable será que elija la equivocada. Los protocolos de acceso a herramientas, como MCP, ayudan a estandarizar estas descripciones.

Mantener la intervención humana en los pasos de riesgo

La validación humana lleva tiempo, pero evita los errores más costosos: pagos, eliminaciones y envíos externos. Resérvela para las acciones irreversibles o costosas y deje que el agente trabaje por su cuenta en el resto. Nuestro artículo sobre los agentes autónomos analiza dónde situar ese límite.

Limitar los permisos

Si el agente se equivoca, el daño queda limitado por lo que puede hacer. Aplique el principio de mínimo privilegio, trabaje en un entorno aislado y establezca límites de turnos y de presupuesto para evitar los bucles.

Registrar la actividad para entender los fallos

Conserve los pasos, las llamadas a herramientas y los resultados: sin registros, es imposible saber en qué punto falló el agente. La guía para supervisar un agente de IA presenta los registros, las trazas y las alertas.

Elegir el modelo adecuado, que no siempre es el más grande

Un modelo más grande suele equivocarse menos, pero cuesta más, y la diferencia varía según la tarea. Pruebe dos o tres modelos con su conjunto de pruebas; utilice el Benchmark LLM para preseleccionarlos y estime el presupuesto con la calculadora de precios. Nuestra guía para elegir un modelo LLM detalla los criterios.

Cuándo aceptar un error y cuándo no

No todos los errores tienen las mismas consecuencias. Una reformulación poco acertada en un borrador se corrige en segundos; un reembolso enviado por error no se recupera fácilmente. Clasifique las acciones de su agente según dos criterios: ¿el error es reversible y cuánto cuesta?

Reversible y de bajo coste (resumir, clasificar, proponer un borrador): el agente puede actuar por su cuenta, con una revisión por muestreo.
Reversible, pero visible para otras personas (publicar, enviar a un cliente): validación humana antes del envío, al menos al principio.
Irreversible o costosa (pagar, eliminar, modificar permisos): validación humana sistemática o ninguna automatización.

Revise esta clasificación a partir de las mediciones: si el conjunto de pruebas muestra que un tipo de error ha dejado de aparecer durante varias semanas, puede reducir el control correspondiente, pero nunca eliminarlo de golpe.

Riesgos relacionados: inyección y datos

Algunos errores no proceden del modelo, sino del contenido malicioso que lee el agente. La inyección de prompts induce al agente a seguir instrucciones ocultas en una página o en un correo electrónico. Puede combinarse con las alucinaciones: un agente que acepta sin comprobar lo que lee actúa a partir de información falsa. Encontrará una visión completa de los riesgos en seguridad de los agentes de IA, y el Laboratorio de seguridad le ayudará a detectar los puntos débiles.

Fuentes de consulta

SimpleQA, publicada por OpenAI: una prueba comparativa de exactitud factual basada en preguntas cerradas.
La documentación oficial de su proveedor de modelos sobre salidas estructuradas y llamadas a herramientas, que conviene revisar con cada cambio de versión.
Nuestro glosario para consultar la definición de referencia.

Lista de comprobación antes de dejar trabajar a un agente

Existe un conjunto de 20 a 50 tareas reales y se ha ejecutado con el modelo elegido.
Las respuestas sobre hechos se basan en documentos proporcionados e incluyen citas.
Las herramientas son pocas, están descritas con precisión y se invocan mediante salidas estructuradas.
Las acciones irreversibles pasan por una validación humana.
Los permisos del agente se limitan a lo estrictamente necesario.
Los límites de turnos y de presupuesto detienen los bucles.
Los pasos quedan registrados y se revisan periódicamente.

Lo que debe saber

Ningún método garantiza cero errores: prevea un control para cualquier decisión importante.
La tasa de error solo tiene sentido para sus tareas: mídala usted mismo.
Las fuentes y los permisos limitados reducen más los errores que elegir un modelo más grande.
Vuelva a ejecutar las pruebas cada vez que cambie de modelo o de instrucciones.
Para entender cómo funciona todo esto, lea nuestra explicación sobre la memoria de los agentes.

Preguntas frecuentes

¿Por qué un agente de IA inventa información?

Un modelo de lenguaje genera la continuación más probable de un texto, no una respuesta verificada. Cuando le falta información o el contexto es ambiguo, puede completar la respuesta con datos plausibles pero falsos. Un agente suma a este riesgo el de las acciones que ejecuta.

¿Se pueden eliminar por completo las alucinaciones?

No. Es posible reducirlas considerablemente en un ámbito concreto si se proporcionan fuentes, se limitan las acciones y se revisan los pasos de riesgo, pero ningún método garantiza cero errores. Por eso, prevea siempre un control para las decisiones importantes.

¿Cómo puedo medir la tasa de error de mi agente?

Prepare un conjunto de 20 a 50 tareas reales con el resultado esperado, vuelva a ejecutarlo cada vez que cambie de modelo o de instrucciones y cuente los aciertos, los errores y las intervenciones humanas. La cifra solo es válida para sus tareas.

¿Un modelo más grande tiene menos alucinaciones?

A menudo sí, pero no siempre, y cuesta más. Compare los modelos con sus propias tareas: un modelo mediano bien equipado, con fuentes y salidas estructuradas, puede superar a uno grande sin controles.

Añadir Info Agent IA como fuente preferida en Google Nuestros artículos aparecerán más en tus «Noticias destacadas» de Google.

Alucinaciones de un agente de IA: cómo reducir los errores