Biais de l'IA : quand la machine reproduit nos travers
Un biais de l'IA est une erreur systématique qui pousse un système à traiter moins bien certaines personnes ou à répéter des stéréotypes. Il vient le plus souvent des données sur lesquelles l'IA a appris, et il peut avoir des effets bien réels.
Données au 22 octobre 2026
L'essentiel en chiffres
| Niveau | Débutant |
|---|
Une erreur qui n’est pas due au hasard
Toute IA se trompe parfois. On parle de biais quand les erreurs ne tombent pas au hasard mais pénalisent toujours les mêmes groupes, ou quand l’IA reproduit des clichés. Un système de reconnaissance faciale qui se trompe plus souvent selon la couleur de peau, un outil de tri de CV qui écarte davantage certains profils, un générateur d’images qui représente presque toujours un « médecin » sous les traits d’un homme : ce sont des biais.
L’exemple le plus cité est l’étude Gender Shades de Joy Buolamwini et Timnit Gebru, publiée en 2018 (article Gender Shades). Elle a mesuré que trois systèmes commerciaux d’analyse faciale classaient beaucoup moins bien les femmes à la peau foncée que les hommes à la peau claire. En cause notamment : des jeux de données de référence composés en grande majorité de visages à la peau claire.
D’où viennent les biais
- Des données d’entraînement déséquilibrées ou qui reflètent des inégalités passées.
- Des choix humains : ce que l’on mesure, ce que l’on considère comme une « bonne » réponse, les cas que l’on oublie de tester.
- De l’usage : un outil conçu pour un contexte, puis appliqué à un autre public.
Pourquoi ça compte pour vous
Dans la vie courante, un biais peut rester discret : une traduction qui accorde systématiquement au masculin, un texte d’annonce qui reprend des stéréotypes. Au travail, l’enjeu est plus lourd si l’IA aide à recruter, noter ou attribuer une aide. Avant de confier une décision à un outil, demandez-vous qui pourrait être désavantagé et prévoyez une vérification humaine. L’outil Puis-je confier ça à un agent ? vous aide à évaluer ce type de risque.
En Europe, le règlement sur l’IA et le RGPD encadrent ces usages ; la CNIL publie aussi des recommandations pour les concepteurs.
Idées reçues fréquentes
« Une machine est forcément objective. » Elle reflète ses données et les choix de ses concepteurs.
« Il suffit de retirer le genre ou l’origine des données. » D’autres informations (prénom, adresse, parcours) peuvent jouer le même rôle indirectement.
« Un biais, c’est la même chose qu’une hallucination. » Une hallucination est une information inventée ; un biais est un déséquilibre répété. Les deux peuvent coexister.
Ces questions relèvent plus largement de l’éthique de l’IA.
Termes liés
- Données d'entraînement · Ensemble des exemples (textes, images, sons…) dont un modèle d'IA se sert pour apprendre ; il façonne ce qu'il sait et ses défauts.
- Éthique de l'IA · Ensemble de principes pour concevoir et utiliser l'IA de façon juste, transparente et respectueuse des personnes et de leurs droits.
- Règlement européen sur l'IA (AI Act) · La loi européenne qui encadre les systèmes d'IA selon leur niveau de risque, avec des interdictions et des obligations de transparence.
- Hallucination · Réponse d'une IA qui paraît sûre d'elle et plausible mais qui est fausse ou inventée : chiffre, citation, source, référence.
- Alignement de l'IA · Ensemble des recherches et méthodes visant à ce qu'une IA poursuive réellement les intentions et les valeurs de ceux qui l'utilisent.
- RGPD et IA · Le règlement européen sur la protection des données personnelles, qui s'applique aussi aux outils d'IA qui les traitent.
À essayer
Tout le glossaire
Questions fréquentes
D'où viennent les biais d'une IA ?
Surtout des données d'entraînement : si certains groupes y sont rares ou présentés de façon stéréotypée, le modèle reproduit ce déséquilibre. Les choix de conception (objectif, critères, tests) peuvent aussi en introduire ou en corriger.
Existe-t-il un exemple documenté de biais de l'IA ?
L'étude Gender Shades, publiée en 2018 par Joy Buolamwini et Timnit Gebru, a évalué trois systèmes commerciaux de classification du genre à partir de visages. Elle a montré que les femmes à la peau foncée étaient le groupe le plus mal classé, alors que les erreurs étaient très rares pour les hommes à la peau claire.
Un assistant comme ChatGPT peut-il avoir des biais ?
Oui. Les fournisseurs ajoutent des garde-fous, mais un assistant peut encore proposer des exemples stéréotypés, mieux connaître certaines cultures ou langues que d'autres, ou présenter un sujet sous un seul angle. Gardez un regard critique, surtout sur les sujets sensibles.
La loi encadre-t-elle les biais de l'IA en Europe ?
Oui, en partie. Le RGPD protège contre certaines décisions entièrement automatisées, et le règlement européen sur l'IA impose des exigences sur la qualité des données pour les systèmes dits à haut risque, comme ceux utilisés pour le recrutement. Pour un cas précis, renseignez-vous auprès d'un professionnel du droit.
Sources des données
Données au 22 octobre 2026
Signaler une erreur
Un chiffre, une date ou une information vous semble faux ? Dites-le-nous : chaque signalement est vérifié.