Agentes de IA y RGPD: ¿qué datos salen y adónde van?

Sus datos pueden estar protegidos cuando utiliza un agente de IA, pero depende de la información a la que accede, de los servicios con los que se comunica y de las garantías aplicadas. Un agente puede enviar al proveedor del modelo sus instrucciones, fragmentos de archivos y resultados de sus herramientas, además de guardar copias en sus registros o en su memoria. Para evaluar un uso conforme al RGPD, hay que seguir cada flujo hasta su destinatario y comprobar su finalidad, el plazo de conservación y las garantías que lo amparan.

¿Qué datos puede enviar un agente al exterior?

El alcance va más allá de lo que usted escribe en la conversación. Según los permisos que tenga, el agente puede leer correos electrónicos, consultar una ficha de cliente, extraer el contenido de un documento o analizar una captura de pantalla. Parte de ese contenido puede incorporarse después al contexto que recibe el modelo.

Veamos un ejemplo ficticio: usted pide al agente que prepare recordatorios de facturas pendientes. El agente consulta el sistema contable, recupera los datos de contacto de los clientes y redacta los mensajes. Si utiliza un modelo remoto para redactarlos, la información necesaria puede salir de su entorno, aunque el programa de facturación siga alojado en sus propias instalaciones.

Conviene revisar, en particular:

• las instrucciones, los archivos adjuntos y el historial de conversaciones;
• los resultados de las búsquedas en sus archivos y aplicaciones de gestión;
• los argumentos enviados a las herramientas, incluidos los identificadores y las direcciones;
• las respuestas generadas, los borradores y los archivos exportados;
• los registros técnicos, las memorias persistentes y las copias de seguridad.

Los datos personales también incluyen información que permite identificar a alguien de forma indirecta. La ficha de la CNIL sobre cómo identificar los datos personales recuerda, por ejemplo, que una dirección IP, un identificador de acceso o una voz pueden pertenecer a esta categoría.

En su inventario, distinga también entre datos personales, secretos profesionales e información técnica confidencial. Una clave de acceso no identifica necesariamente a una persona, pero su divulgación puede dejar expuesta toda una base de datos de clientes. Las medidas de protección deben abordar estos riesgos en conjunto.

Adónde van los datos: cómo trazar toda la cadena

La interfaz que usted ve rara vez refleja toda la arquitectura. Entre su equipo y el destinatario final pueden intervenir un proveedor de alojamiento, una pasarela, un proveedor de modelos, un servicio de búsqueda y una herramienta de seguimiento de las ejecuciones.

La siguiente tabla sirve como guía para investigar. Describe flujos posibles que deberá confirmar en su configuración.

Componente	Datos que pueden circular	Qué debe comprobar
Aplicación del agente	Mensajes, archivos importados, historial	Alojamiento, acceso de administradores, eliminación
Proveedor del modelo	Contexto enviado y respuestas	Uso del contenido, conservación, lugares de tratamiento
Herramientas conectadas	Consultas, parámetros, resultados	Permisos, destinatarios, cuentas utilizadas
Memoria y búsqueda documental	Documentos, fragmentos, representaciones numéricas	Almacenamiento, aislamiento, propagación de las eliminaciones
Seguimiento técnico	Registros, errores, fragmentos de solicitudes	Ocultación de datos, acceso, plazo de conservación

Para cada fila, anote la entidad jurídica que recibe los datos, los países implicados y la evidencia disponible: un contrato, documentación o una configuración comprobada. Una respuesta comercial genérica no sustituye estos elementos.

Un conector o un servidor MCP añade otra ruta que debe revisar. Su ubicación no basta para describir los flujos: un servidor que se ejecuta en su equipo puede comunicarse con un servicio remoto. Nuestro artículo sobre protocolos y llamadas a herramientas explica estas relaciones.

Empiece con una tarea ficticia y observe las solicitudes salientes, los resultados recuperados y los registros que se guardan. Esta observación complementa la documentación, pero no demuestra por sí sola que no existan otras transferencias, por ejemplo, cuando se produce un error o durante una intervención de mantenimiento.

Local, en infraestructura propia o en la nube: revise cada componente

Un agente instalado en su computadora puede enviar solicitudes a una API remota. Del mismo modo, alojar la aplicación en su servidor no significa que el modelo, la búsqueda documental y la supervisión también se ejecuten allí.

Para limitar la salida de datos, debe comprobar por separado dónde se ejecuta el modelo, cómo funcionan los conectores, dónde se crean las representaciones numéricas de los documentos y qué ocurre con la telemetría y las copias de seguridad. La guía de LLM en local ayuda a entender el alcance técnico de una instalación local.

La CNIL recomienda elegir el tipo de despliegue según los datos y el uso previsto. Para datos personales o documentación sensible, presenta el despliegue en las propias instalaciones como una opción que permite limitar la exposición ante terceros; el uso de infraestructura remota requiere garantías. Consulte sus preguntas y respuestas sobre el uso de la IA generativa.

Aunque todo funcione en su infraestructura, los accesos internos también cuentan. Una cuenta de servicio con permisos excesivos puede exponer expedientes a empleados que no deberían consultarlos. Una copia de seguridad mal protegida puede conservar documentos que ya se han eliminado de la interfaz.

Por tanto, evite decidir únicamente por la etiqueta del despliegue. Solicite una descripción de los componentes que están realmente activados y compruebe quién se encarga del mantenimiento. El alojamiento interno le ofrece más control, pero también exige organizar las actualizaciones, los accesos y la restauración de los datos.

Quién es responsable y qué debe incluir el contrato

En una empresa, la organización que decide para qué y cómo se utilizan los datos suele ser la responsable del tratamiento. Un proveedor que actúa por cuenta de esa organización y siguiendo sus instrucciones puede ser encargado del tratamiento. La función de cada parte depende de las operaciones reales, especialmente si el proveedor reutiliza los datos para fines propios.

La CNIL señala que el contrato con el encargado del tratamiento debe ser concreto, claro y vinculante. Una empresa pequeña que contrata a un gran proveedor conserva sus obligaciones: la firma del contrato no transfiere toda la responsabilidad. Su página sobre la distribución de funciones según el RGPD explica esta distinción.

Pida, como mínimo, respuestas documentadas sobre:

• los tratamientos cubiertos y los datos permitidos;
• el acceso del personal, la confidencialidad y las medidas de seguridad;
• los otros encargados del tratamiento y la notificación de cambios;
• la asistencia para atender los derechos de las personas y gestionar incidentes;
• la devolución, la eliminación y las posibilidades de verificación.

Estos aspectos forman parte del marco del RGPD para los encargados del tratamiento. Compruebe que el acuerdo cubra específicamente el plan contratado y sus funciones.

La afirmación de que sus datos no se utilizan para entrenar modelos solo responde a una pregunta. No aclara automáticamente si el contenido se registra, si el personal de soporte puede acceder a él o si se conserva por motivos de seguridad. Pida al proveedor que distinga estos usos en sus respuestas.

¿Basta con alojar los datos en Europa para cumplir el RGPD?

Saber que los datos se almacenan en Europa es útil, pero no demuestra por sí solo que el tratamiento cumpla el RGPD. También hay que revisar dónde se realizan los cálculos, adónde se envían las copias de seguridad y desde qué países pueden acceder los proveedores.

Las transferencias fuera del Espacio Económico Europeo no están prohibidas por principio. Deben apoyarse en el mecanismo aplicable, como una decisión de adecuación o garantías apropiadas. Según el caso, puede ser necesario analizar la transferencia y adoptar medidas adicionales. La CNIL reúne las herramientas para regular las transferencias internacionales.

Para su agente, solicite una respuesta independiente sobre:

• el almacenamiento de conversaciones y documentos;
• el procesamiento de las solicitudes al modelo;
• los registros y las copias de seguridad;
• las intervenciones de soporte y los subencargados del tratamiento.

Compruebe también qué sucede cuando un servicio deja de estar disponible. Una función que recurra a otro proveedor como alternativa puede cambiar los destinatarios o los países implicados. Esa ruta debe constar en su mapa de flujos antes de autorizarla.

El cifrado durante la transmisión protege la conexión. No significa que el servicio destinatario no pueda leer el contenido necesario para procesar la solicitud. Pregunte quién puede acceder a los datos descifrados, en qué circunstancias y qué registros quedan de esos accesos.

Reduzca los datos antes de conceder acceso

La medida más directa consiste en transmitir menos información. Para preparar un recordatorio de pago, el modelo no necesita necesariamente todo el historial comercial del cliente. Puede limitar los campos que recupera el agente e incorporar la dirección del destinatario solo en el momento del envío.

Sustituir un nombre por un identificador puede reducir la exposición. Sin embargo, sigue siendo seudonimización si una tabla de correspondencias o el contexto permiten identificar a la persona. La CNIL distingue claramente esta operación de la anonimización irreversible.

Aplique después el principio de mínimo privilegio: una carpeta específica, una cuenta independiente, acceso de solo lectura cuando sea posible y herramientas limitadas a lo necesario. Para los mensajes salientes, establezca una revisión que muestre el destinatario, el contenido y los archivos adjuntos antes de aprobar el envío.

Esa revisión no protege los datos que ya se hayan enviado al modelo durante la preparación. El filtrado debe realizarse antes de transmitirlos. Por tanto, una instrucción que simplemente pida al agente mantener la confidencialidad no sustituye los controles de acceso y de salida de datos.

Por último, revise la memoria. Al eliminar datos, hay que comprobar también el historial, los índices documentales y los registros, según las normas de conservación aplicables. El artículo sobre la memoria de los agentes de IA ayuda a localizar estas copias; la guía para proteger un agente de IA detalla los controles técnicos.

Antes del despliegue: documente la decisión

Empiece por definir el objetivo concreto y la base jurídica del tratamiento. Identifique a las personas afectadas, la información que debe proporcionarles y el procedimiento para atender sus solicitudes de acceso, rectificación o supresión. El funcionamiento del agente debe permitir localizar los datos correspondientes.

Evalúe después si necesita una evaluación de impacto relativa a la protección de datos, o EIPD. Es obligatoria cuando un tratamiento puede entrañar un alto riesgo para los derechos y libertades de las personas. La presentación de la EIPD de la CNIL permite consultar los criterios y las listas aplicables. La presencia de un agente no basta, por sí sola, para determinar si hace falta.

Involucre a la persona encargada de la protección de datos y al responsable de seguridad, cuando existan esas funciones. Defina también quién puede suspender el agente, revocar sus accesos y contactar con los proveedores si se sospecha una fuga de datos.

Antes de autorizar el uso de datos reales:

• Se han definido los datos necesarios y los usos permitidos.
• Se han documentado todos los destinatarios y lugares de tratamiento.
• Se han verificado los contratos, las transferencias y los plazos de conservación.
• Se han comprobado los accesos, las salidas y las eliminaciones con datos ficticios.
• Existe un procedimiento para atender los derechos de las personas y gestionar incidentes.

El diagnóstico de seguridad de los agentes de IA complementa esta revisión técnica. Conserve las evidencias y vuelva a evaluar la decisión cuando se añada un conector, una memoria o un proveedor: cualquiera de estos cambios puede modificar qué datos salen y adónde van.

Preguntas frecuentes

¿Puede un agente de IA gratuito tratar datos de clientes?

El precio no basta para determinarlo. Hay que revisar las condiciones del servicio utilizado, quién recibe los datos y qué garantías contractuales ofrece. Si estos elementos no permiten establecer las condiciones necesarias para el tratamiento, limite la herramienta a contenidos sin datos personales ni información confidencial.

¿Hay que pedir consentimiento antes de utilizar un agente de IA?

El consentimiento no es la única base jurídica que contempla el RGPD. La base adecuada depende de la finalidad y de las condiciones del tratamiento. Que un empleado autorice la conexión de su cuenta no resuelve, por sí solo, el tratamiento de los datos de clientes que contiene.

¿Un agente de IA instalado en mi computadora es necesariamente privado?

La instalación indica dónde se ejecuta una parte del programa. No permite saber adónde se envían las solicitudes al modelo, las copias de seguridad o los datos de diagnóstico. Sigue siendo necesario comprobar las conexiones salientes.

¿Se pueden enviar datos seudonimizados a un modelo remoto?

La seudonimización puede reducir la exposición, pero los datos siguen siendo personales si aún es posible identificar a la persona. Por tanto, deben mantenerse las garantías aplicables al proveedor y a las transferencias. También hay que comprobar que los detalles del documento no permitan reconocer a la persona.