Sesgo de la IA: cuando la máquina repite nuestros prejuicios
Un sesgo de la IA es un error sistemático que lleva a un sistema a tratar peor a ciertas personas o a repetir estereotipos. Suele venir de los datos con los que aprendió la IA, y sus efectos pueden ser muy reales.
Datos a 22 de octubre de 2026
Lo esencial en cifras
| Nivel | Principiante |
|---|
Un error que no es casual
Toda IA se equivoca a veces. Hablamos de sesgo cuando los errores no son aleatorios, sino que afectan siempre a los mismos grupos, o cuando la IA repite clichés. Un sistema de reconocimiento facial que falla más según el color de piel, una herramienta de selección de currículos que descarta más a ciertos perfiles, un generador de imágenes que casi siempre representa a un «médico» como un hombre: son ejemplos de sesgos.
El ejemplo más citado es el estudio Gender Shades, de Joy Buolamwini y Timnit Gebru, publicado en 2018 (artículo Gender Shades). Midió que tres sistemas comerciales de análisis facial funcionaban mucho peor con mujeres de piel oscura que con hombres de piel clara. Una de las causas señaladas: conjuntos de datos de referencia compuestos en su gran mayoría por rostros de piel clara.
De dónde vienen los sesgos
- De los datos de entrenamiento desequilibrados o que reflejan desigualdades pasadas.
- De decisiones humanas: qué se mide, qué se considera una «buena» respuesta, qué casos nadie pensó en probar.
- Del uso: una herramienta diseñada para un contexto y aplicada después a otro público.
Por qué le importa
En la vida diaria, un sesgo puede pasar desapercibido: una traducción que pone siempre el masculino, un borrador de oferta de empleo con estereotipos. En el trabajo, lo que está en juego es mayor si la IA ayuda a contratar, evaluar o conceder una ayuda. Antes de confiar una decisión a una herramienta, pregúntese a quién podría perjudicar y prevea una revisión humana. La herramienta ¿Puedo confiar esto a un agente? le ayuda a valorar ese tipo de riesgo.
En Europa, el Reglamento de IA y el RGPD regulan estos usos, y las autoridades de protección de datos publican recomendaciones para quienes desarrollan IA.
Ideas equivocadas frecuentes
«Una máquina es objetiva por definición.» Refleja sus datos y las decisiones de quienes la crearon.
«Basta con quitar el género o el origen de los datos.» Otros datos (nombre, código postal, trayectoria) pueden cumplir el mismo papel de forma indirecta.
«Un sesgo es lo mismo que una alucinación.» Una alucinación es información inventada; un sesgo es un desequilibrio repetido. Ambos pueden darse a la vez.
Estas cuestiones forman parte de la ética de la IA.
Términos relacionados
- Datos de entrenamiento · Ejemplos (textos, imágenes, sonidos…) con los que aprende un modelo de IA; determinan lo que sabe y también sus fallos.
- Ética de la IA · Conjunto de principios para diseñar y usar la IA de forma justa, transparente y respetuosa con las personas y sus derechos.
- Reglamento europeo de IA (AI Act) · La ley europea que regula los sistemas de IA según su nivel de riesgo, con prohibiciones y obligaciones de transparencia.
- Alucinación · Respuesta de una IA que parece segura y verosímil pero es falsa o inventada: una cifra, una cita, una fuente o una referencia.
- Alineación de la IA · Conjunto de investigaciones y métodos para que una IA persiga de verdad las intenciones y los valores de quienes la crean y la usan.
- RGPD e IA · El Reglamento General de Protección de Datos europeo, que también se aplica a las herramientas de IA que tratan datos personales.
Para probar
Todo el glosario
Preguntas frecuentes
¿De dónde vienen los sesgos de una IA?
Principalmente de los datos de entrenamiento: si ciertos grupos aparecen poco o de forma estereotipada, el modelo reproduce ese desequilibrio. Las decisiones de diseño (objetivo, criterios, pruebas) también pueden introducir sesgos o ayudar a corregirlos.
¿Hay algún ejemplo documentado de sesgo de la IA?
El estudio Gender Shades, publicado en 2018 por Joy Buolamwini y Timnit Gebru, evaluó tres sistemas comerciales que clasifican el género a partir de rostros. Mostró que las mujeres de piel oscura eran el grupo peor clasificado, mientras que los errores con hombres de piel clara eran muy poco frecuentes.
¿Un asistente como ChatGPT puede tener sesgos?
Sí. Los proveedores añaden salvaguardas, pero un asistente puede seguir proponiendo ejemplos estereotipados, conocer mejor unas culturas o idiomas que otros, o presentar un tema desde un solo ángulo. Mantenga una mirada crítica, especialmente en temas sensibles.
¿La ley regula los sesgos de la IA?
En Europa, en parte. El RGPD protege frente a ciertas decisiones totalmente automatizadas, y el Reglamento europeo de IA exige calidad de datos a los sistemas llamados de alto riesgo, como los que se usan para contratar personal. Las normas varían según el país; para un caso concreto, consulte a un profesional del derecho.
Fuentes de los datos
Datos a 22 de octubre de 2026
Señalar un error
¿Una cifra, una fecha o un dato le parece incorrecto? Díganoslo: verificamos cada aviso.