# Les biais des modèles d'IA | OSFRIA Biais des modèles : une IA reflète ses données d'entraînement, avec leurs angles morts. Pourquoi la transparence et l'esprit critique aident. Une note d'OSFRIA. URL canonique : https://www.osfria.fr/risque-biais-modeles.html --- Cartographie · Risque ## Les biais des modèles Un modèle reflète les données sur lesquelles il a appris — avec leurs angles morts. Le savoir, c'est déjà s'en prémunir : on garde son esprit critique et on croise les regards. > Note informative, sans valeur de conseil. Un modèle peut refléter des biais : gardez votre esprit critique pour les sujets sensibles. ### De quoi s'agit-il Un modèle apprend des régularités dans d'immenses corpus de textes ou d'images. S'ils sur-représentent certaines visions, langues ou esthétiques, le modèle hérite de ces **biais** : un biais d'échantillonnage (données peu représentatives), historique (discriminations passées rejouées) ou social (stéréotypes ambiants). Ce n'est pas de la mauvaise volonté de la machine — c'est le reflet de ce qu'on lui a montré. La difficulté est aggravée par le fait que la **provenance des données d'entraînement** n'est pas toujours documentée. C'est précisément pourquoi la nuance [open weights / open source](https://www.osfria.fr/concept-open-weights.html) compte : plus un projet est transparent sur ses données, mieux on peut juger ses angles morts. ### Le bon réflexe Comme pour les [réponses inexactes](https://www.osfria.fr/risque-hallucinations.html), la parade est l'esprit critique : sur les sujets sensibles (recrutement, santé, justice, représentation), on ne prend pas une sortie d'IA pour argent comptant, on croise les sources et on garde l'humain dans la boucle. Un usage en [RAG](https://www.osfria.fr/concept-rag.html), ancré sur vos propres documents vérifiés, et l'esprit de [transparence](https://www.osfria.fr/enjeu-transparence-ai-act.html) aident à garder le cap. C'est un axe naturel de la [matrice de risque](https://www.osfria.fr/matrice-de-risque.html). ### À relier - [Les réponses inexactes](https://www.osfria.fr/risque-hallucinations.html) — le réflexe de vérification est le même. - [Open weights vs open source](https://www.osfria.fr/concept-open-weights.html) — pourquoi la transparence des données compte. - [La transparence (AI Act)](https://www.osfria.fr/enjeu-transparence-ai-act.html) — savoir d'où vient une réponse. - [La matrice de risque](https://www.osfria.fr/matrice-de-risque.html) — le biais comme axe d'évaluation.