Note informative, sans valeur de conseil. Un modèle de langage peut se tromper : vérifiez toujours les informations importantes auprès de sources fiables.
De quoi s'agit-il
Un modèle de langage ne « sait » pas les choses comme une encyclopédie : il prédit le mot le plus plausible, mot après mot. La plupart du temps, le résultat est juste et utile. Mais il lui arrive d'inventer — une date, une citation, une référence, un fait — et de le présenter avec la même assurance que le reste. C'est ce qu'on nomme une hallucination. Ce n'est pas un mensonge : c'est une limite intrinsèque de la technologie, qu'on gagne à connaître.
Le phénomène existe partout, en local comme en ligne. Les petits modèles qu'on fait tourner chez soi avec Ollama ou Jan y sont un peu plus sujets que les très gros modèles cloud — raison de plus pour garder son esprit critique.
Le bon réflexe
Traitez l'IA comme un assistant brillant mais faillible : excellent pour dégrossir, reformuler, explorer — à vérifier dès qu'un fait engage une décision. Pour les questions factuelles, une approche RAG (avec AnythingLLM ou Khoj) qui s'appuie sur vos propres documents, ou un outil de recherche IA qui cite ses sources, réduit nettement le risque. C'est aussi l'esprit de la transparence : savoir d'où vient une réponse.
À relier
- La transparence (AI Act) — savoir d'où vient une réponse.
- AnythingLLM · Khoj — le RAG pour ancrer les réponses.
- Perplexica — une recherche IA qui cite ses sources.
- La matrice de risque — la fiabilité comme axe d'évaluation.