Note informative, sans valeur de conseil. Un modèle peut refléter des biais : gardez votre esprit critique pour les sujets sensibles.
De quoi s'agit-il
Un modèle apprend des régularités dans d'immenses corpus de textes ou d'images. S'ils sur-représentent certaines visions, langues ou esthétiques, le modèle hérite de ces biais : un biais d'échantillonnage (données peu représentatives), historique (discriminations passées rejouées) ou social (stéréotypes ambiants). Ce n'est pas de la mauvaise volonté de la machine — c'est le reflet de ce qu'on lui a montré.
La difficulté est aggravée par le fait que la provenance des données d'entraînement n'est pas toujours documentée. C'est précisément pourquoi la nuance open weights / open source compte : plus un projet est transparent sur ses données, mieux on peut juger ses angles morts.
Le bon réflexe
Comme pour les réponses inexactes, la parade est l'esprit critique : sur les sujets sensibles (recrutement, santé, justice, représentation), on ne prend pas une sortie d'IA pour argent comptant, on croise les sources et on garde l'humain dans la boucle. Un usage en RAG, ancré sur vos propres documents vérifiés, et l'esprit de transparence aident à garder le cap. C'est un axe naturel de la matrice de risque.
À relier
- Les réponses inexactes — le réflexe de vérification est le même.
- Open weights vs open source — pourquoi la transparence des données compte.
- La transparence (AI Act) — savoir d'où vient une réponse.
- La matrice de risque — le biais comme axe d'évaluation.