FRENES

Glosario · Seguridad y riesgos

Mínimo privilegio

El mínimo privilegio es un principio de seguridad que concede únicamente los accesos necesarios para una tarea. En un agente de IA, supone limitar los datos que puede consultar, las operaciones que puede ejecutar y, cuando el sistema lo permite, la duración de esas autorizaciones.

Mínimo privilegio: la explicación

El punto de partida es la tarea y los accesos imprescindibles para realizarla. Un agente encargado de resumir documentos puede necesitar leerlos, sin poder eliminarlos. Un asistente de agenda puede consultar disponibilidad sin modificar todos los eventos. Los límites deben aplicarse mediante cuentas, servicios o herramientas. El [glosario del NIST](https://csrc.nist.gov/glossary/term/least_privilege) vincula este principio con restringir los privilegios al mínimo necesario para las funciones asignadas, en lugar de depender de una promesa de actuar con prudencia.

El principio procede de la seguridad informática y también se aplica a personas y programas convencionales. En los agentes, ayuda a separar la capacidad de decidir del acceso general a sus recursos. Los permisos pueden limitarse a una carpeta, una categoría de datos o una operación concreta. Al conectar un servicio, conviene distinguir la consulta de registros de su modificación o transmisión. Así resulta más sencillo identificar qué capacidades necesita realmente el encargo que usted ha realizado.

El mínimo necesario depende del encargo y puede cambiar cuando usted amplía el trabajo. Un acceso demasiado limitado impide avanzar legítimamente; uno demasiado amplio aumenta las consecuencias posibles de un error. Por eso conviene poder examinar los fallos de acceso y añadir una capacidad específica cuando esté justificada. Reducir privilegios no vuelve correcta una respuesta. Principalmente limita lo que el sistema puede alcanzar o modificar mientras realiza una tarea por cuenta de usted.

Un ejemplo concreto

Usted pide a un agente que localice los justificantes de un viaje. Le permite consultar la carpeta correspondiente, sin acceso a otras carpetas ni permiso para borrar archivos. El agente prepara un resumen separado. Si después usted solicita compartirlo, esa operación necesita una autorización adecuada para el destino y el medio de envío, en lugar de otorgar control general sobre toda su cuenta personal.

Por qué importa

El mínimo privilegio ayuda a comparar los permisos solicitados con el servicio recibido. Un acceso muy amplio para un encargo pequeño merece una revisión atenta. Compruebe si las autorizaciones pueden separarse, consultarse y revocarse. Un acceso proporcionado reduce el alcance posible de una acción equivocada y permite comprender qué está confiando realmente a un agente o a un servicio conectado cuando autoriza su trabajo.

Ideas equivocadas

  • Un agente competente no necesita todos los permisos que usted posee, porque elegir una acción útil y tener autoridad para ejecutarla son cuestiones diferentes que deben mantenerse ajustadas al encargo concreto que se ha recibido.
  • El acceso de solo lectura también puede implicar riesgos, ya que los datos consultados pueden ser sensibles y una respuesta o transmisión autorizada por otra vía podría exponerlos a personas que no debían recibirlos.

Otros términos: seguridad y riesgos

salvaguardas
Las salvaguardas son medidas que limitan el comportamiento de un sistema de IA y las acciones que puede ejecutar.
entorno aislado
Un entorno aislado es un espacio de ejecución que restringe lo que un programa puede consultar o modificar fuera de sus límites.
inyección de prompt
Una inyección de prompt es un intento de desviar un sistema de IA mediante instrucciones incluidas en el contenido que procesa.
clave API
Una clave API es un identificador que un programa envía para acceder a determinados servicios en línea.
OAuth
OAuth es un marco de autorización que permite a una aplicación obtener acceso limitado a otro servicio.

Dónde lo trata este sitio

El término aparece en 3608 páginas del sitio. Algunas:

Preguntas frecuentes

¿Significa únicamente acceso de lectura?

No. El acceso de solo lectura es una restricción posible. El principio también puede limitar carpetas, destinatarios, operaciones o duración del acceso, según las capacidades del servicio y lo que realmente requiera la tarea.

¿Se pueden ampliar los permisos después?

Sí, cuando el sistema lo permite. Conviene añadir la capacidad específica que resulte necesaria, en lugar de sustituir un acceso limitado por una autorización general, y retirarla cuando el trabajo deje de necesitarla.

¿Cómo se comprueban los permisos?

Revise los ajustes de conexión, las autorizaciones de la cuenta y la información del servicio. Considere también accesos indirectos, como carpetas compartidas, porque pueden ampliar el ámbito efectivo más allá de lo que sugiere la etiqueta.

Neutralidad. Ningún enlace de afiliación. Ningún editor paga por ser evaluado, puntuado o clasificado. Las evaluaciones las dirige François Chollet, neutrales y factuales, y cada dato está fechado y con su fuente. Cómo puntuamos