Humano en el bucle: no perder el control de lo que hace la IA
«Humano en el bucle» (human-in-the-loop) designa un sistema de IA diseñado para que una persona pueda revisar, aprobar, corregir o detener sus decisiones importantes antes de que surtan efecto. Es la principal red de seguridad de los agentes capaces de actuar en su nombre.
Datos a 22 de octubre de 2026
Lo esencial en cifras
| Nivel | Intermedio |
|---|
El principio
Un agente de IA puede encadenar acciones: buscar, rellenar un formulario, enviar un mensaje. Poner a un humano en el bucle consiste en prever puntos de parada donde el agente se detiene, muestra lo que va a hacer y espera una respuesta: aprobar, modificar o rechazar. La documentación del framework LangGraph describe así sus «interrupciones»: pausar la ejecución en puntos concretos para esperar una intervención externa, por ejemplo antes de una llamada a una API, un cambio en una base de datos o una transacción financiera.
Un ejemplo concreto
Usted pide a un asistente que responda a las solicitudes de presupuesto que llegan por correo.
- El agente lee los mensajes, prepara una respuesta y calcula un importe a partir de su tarifa.
- Antes del envío, le muestra el borrador y el importe, y espera su visto bueno.
- Usted corrige un descuento mal aplicado y aprueba. El correo sale.
Sin ese punto de control, el error de cálculo habría llegado directamente al cliente.
Por qué es importante
Los modelos se equivocan, y un agente puede ser manipulado por un texto trampa escondido en una página o un documento: es la inyección de prompt. La validación humana limita los daños cuando ocurre. También es una cuestión normativa: el artículo 14 del Reglamento europeo de IA (texto oficial) exige que los sistemas de alto riesgo puedan ser supervisados por personas capaces, entre otras cosas, de ser conscientes de la tendencia a confiar en exceso en la máquina y de detener el sistema. Para saber qué nivel de control prever en una tarea concreta, use nuestra herramienta ¿Puedo confiar esto a un agente?.
Errores e ideas falsas frecuentes
- «Un humano en el bucle hace que el sistema sea seguro». Solo si esa persona tiene la información y el tiempo para juzgar. Aprobar por costumbre no protege de nada.
- «Hay que validarlo absolutamente todo». Demasiadas confirmaciones cansan y llevan a pulsar sin leer. Mejor centrarse en las acciones de riesgo.
- «Sustituye a las demás protecciones». Complementa las salvaguardas técnicas y el aislamiento en un entorno controlado (sandboxing), que limitan lo que el agente puede hacer incluso sin supervisión.
Términos relacionados: flujo de trabajo agéntico, agente de IA, salvaguardas, inyección de prompt, sandboxing.
Términos relacionados
- Agente de IA · IA que no solo responde: planifica y encadena acciones con herramientas para alcanzar un objetivo que usted le fija.
- Barreras de seguridad (guardrails) · Controles situados alrededor de un modelo de IA para filtrar lo que entra y lo que sale, y bloquear respuestas o acciones no deseadas.
- Flujo de trabajo agéntico · Secuencia de pasos en la que un modelo de IA planifica, usa herramientas, revisa y corrige su trabajo en lugar de responder de una sola vez.
- Reglamento europeo de IA (AI Act) · La ley europea que regula los sistemas de IA según su nivel de riesgo, con prohibiciones y obligaciones de transparencia.
- Inyección de prompt · Ataque que introduce instrucciones ocultas en un texto que lee una IA para que ignore sus consignas o actúe contra el usuario.
- Sandbox (entorno aislado) · Aislamiento de un agente de IA en un entorno cerrado con archivos, red y comandos limitados, para contener posibles daños.
Para probar
Todo el glosario
Preguntas frecuentes
¿En qué momentos conviene una validación humana?
Sobre todo antes de las acciones difíciles de deshacer: pagos, mensajes enviados al exterior, borrado de datos, publicaciones. Las tareas de lectura o de borrador suelen poder avanzar sin validar cada paso.
¿Es una obligación legal?
Para los sistemas de IA clasificados como «de alto riesgo», el artículo 14 del Reglamento europeo de IA exige que puedan ser supervisados eficazmente por personas. Para un uso personal es una buena práctica más que una obligación. Esto es información general, no asesoramiento jurídico.
¿Validar cada paso no lo ralentiza todo?
Sí, ese es el equilibrio que hay que buscar. Se trata de colocar las validaciones donde un error saldría caro y dejar que el agente avance solo en lo demás.
¿Basta con pulsar «Aprobar» para estar seguro?
No. Si la persona aprueba por inercia, el control se vuelve simbólico. Hay que mostrarle con claridad lo que va a ocurrir y darle tiempo para comprobarlo.
Fuentes de los datos
Datos a 22 de octubre de 2026
Señalar un error
¿Una cifra, una fecha o un dato le parece incorrecto? Díganoslo: verificamos cada aviso.