Hallucination : pourquoi l'IA ment avec assurance

Une hallucination, c'est quand une IA invente quelque chose de faux – mais le formule comme si c'était forcément vrai.

De quoi s'agit-il ?

Une hallucination, c'est une affirmation fausse d'une IA qui sonne pourtant sûre d'elle et convaincante. Par exemple, l'IA invente un livre, une loi ou une fonction dans une bibliothèque qui n'existent pas du tout – et le formule comme un fait.

Pourquoi ça arrive ?

Un LLM prédit mot par mot le mot suivant le plus probable (voir LLM). Il n'a pas de « case à cocher vérité » intégrée. S'il ne connaît pas la vraie réponse, il remplit quand même le vide avec un texte qui sonne plausible – parce que « sonner plausible » est exactement ce sur quoi il a été entraîné.

Quand est-ce que ça arrive le plus souvent ?

Sur des faits très précis (noms, chiffres, citations)
Sur des questions concernant des événements après la date limite d'entraînement
Sur des sujets de niche avec peu de données d'entraînement
Quand on demande des choses qui n'existent pas (« donne-moi la fonction X de la bibliothèque Y »)

Qu'est-ce qui aide contre ça ?

Donner à l'IA de vraies sources ou documents comme contexte, plutôt que de la laisser deviner
Toujours vérifier les faits importants (surtout les chiffres, citations, noms d'API)
Demander à l'IA de signaler son incertitude plutôt que de deviner