FRENES

Glosario · Agentes y autonomía

Agente autónomo

Un agente autónomo es un agente IA que puede avanzar hacia un objetivo y elegir varias acciones sin consultarle en cada paso. Su autonomía queda limitada por las instrucciones, los permisos y las condiciones de parada, y no garantiza que complete correctamente la tarea.

Agente autónomo: la explicación

Usted establece un objetivo, unos recursos y unos límites. El agente elige pasos, utiliza herramientas autorizadas y observa los resultados para ajustar su estrategia. Puede repetir una búsqueda o cambiar de método sin pedir ayuda de inmediato. El programa debe definir cuándo detenerse, por ejemplo ante errores repetidos, al alcanzar un límite de gasto o antes de una acción que requiera su aprobación. Esos controles delimitan la autonomía real durante la ejecución de la tarea.

La autonomía sirve para reducir las intervenciones necesarias en tareas largas o repetitivas. Un agente puede vigilar una carpeta, preparar un informe o explorar distintas soluciones. Usted no necesita indicar cada clic o cada consulta. Esta capacidad depende del diseño del sistema y de la delegación permitida. Puede aplicarse solo a la recopilación de información, mientras que enviar mensajes, modificar registros o realizar otras acciones relevantes sigue requiriendo una validación humana antes de su ejecución.

La autonomía no es una propiedad que simplemente se tenga o no se tenga. Un sistema puede elegir sus búsquedas y pedir confirmación para cada modificación. Otro puede actuar automáticamente dentro de un ámbito muy estrecho. Conviene examinar qué decisiones se delegan, cuánto puede durar la ejecución y qué accesos existen. Una mayor libertad también puede ampliar los errores si el sistema interpreta mal el objetivo o no reconoce cuándo debe detenerse y pedir ayuda.

Un ejemplo concreto

Usted pide a un agente que revise una carpeta de facturas y prepare un resumen semanal. El sistema detecta nuevos archivos, extrae importes y señala datos incompletos sin esperar instrucciones para cada paso. Puede leer documentos y crear un borrador, pero no efectuar pagos. Si una factura resulta ambigua, la deja pendiente y explica qué necesita que usted compruebe antes de continuar.

Por qué importa

El grado de autonomía determina qué decisiones delega y hasta dónde puede extenderse un error. Antes de utilizar un agente, revise los límites de tiempo, gasto y permisos, además de la posibilidad de interrumpirlo. Compruebe también cómo comunica los bloqueos. Un agente que sigue ejecutándose sin avanzar puede consumir recursos o repetir una acción que usted solo quería realizar una vez.

Ideas equivocadas

  • Autónomo no significa autorizado para hacerlo todo: un agente puede elegir sus pasos y, al mismo tiempo, tener acceso de lectura a unos pocos archivos y necesitar su aprobación antes de cualquier modificación relevante.
  • Una mayor autonomía no garantiza mayor fiabilidad: si el objetivo es ambiguo o faltan comprobaciones, el agente puede insistir durante más tiempo en una vía equivocada en lugar de detenerse para pedirle una aclaración.

Otros términos: agentes y autonomía

agente IA
Un agente IA es un sistema que utiliza un modelo para decidir qué pasos seguir al realizar una tarea.
sistema multiagente
Un sistema multiagente es un conjunto de agentes que reparten tareas o intercambian información para alcanzar un objetivo.
planificación
La planificación es la preparación de los pasos que un agente IA prevé seguir para alcanzar un objetivo.
memoria del agente
La memoria del agente es el conjunto de mecanismos que permite a un agente IA conservar y recuperar información útil para su trabajo.
humano en el bucle
El humano en el bucle es una forma de organizar un sistema IA en la que una persona interviene en determinadas etapas.
llamada a herramientas
La llamada a herramientas es un mecanismo mediante el cual un modelo pide a un programa que ejecute una función concreta, como buscar documentos o consultar un calendario.
uso del ordenador
El uso del ordenador es una capacidad que permite a un agente IA interactuar con una interfaz gráfica mediante clics, escritura o desplazamiento de páginas.
agente de código
Un agente de código es un programa que combina un modelo de IA con herramientas para realizar tareas de programación.

Dónde lo trata este sitio

El término aparece en 17 páginas del sitio. Algunas:

Preguntas frecuentes

¿Puede trabajar sin supervisión?

Sí, en algunas tareas delimitadas y si el sistema lo permite. Hacen falta permisos adecuados, condiciones de parada y control de errores. Las acciones con consecuencias importantes pueden seguir sujetas a aprobación humana durante ese funcionamiento.

¿Puedo limitar su autonomía?

Según el producto, puede restringir herramientas, exigir confirmación para ciertas acciones o fijar un presupuesto de ejecución. Esos límites deben aplicarse mediante el programa, sin depender únicamente de instrucciones que el modelo podría interpretar de forma incorrecta.

¿Qué ocurre si se bloquea?

Un sistema bien diseñado puede detenerse, explicar qué información falta y pedir ayuda. El comportamiento depende del producto. Conviene comprobar que evita intentos repetidos y conserva un registro comprensible de las acciones ya realizadas.

Neutralidad. Ningún enlace de afiliación. Ningún editor paga por ser evaluado, puntuado o clasificado. Las evaluaciones las dirige François Chollet, neutrales y factuales, y cada dato está fechado y con su fuente. Cómo puntuamos