Vous demandez à un LLM de citer une étude scientifique. Il vous donne un titre, un auteur, une date de publication. Tout a l’air crédible. Sauf que l’étude n’existe pas. Bienvenue dans le monde des hallucinations.
Pourquoi les LLM hallucinent
Un LLM ne « sait » rien. Il prédit le prochain mot le plus probable. Quand il n’a pas l’information, plutôt que de dire « je ne sais pas », il génère quelque chose de statistiquement plausible. Le résultat ressemble à un fait, mais c’est une invention.
Les cas les plus fréquents
Citations et références inventées, statistiques fabriquées, URLs inexistantes, attributions de citations à la mauvaise personne, mélange de faits réels et fictifs dans une même réponse.
Comment s’en protéger
1) Demandez à l’IA de citer ses sources et vérifiez-les. 2) Utilisez le RAG pour ancrer les réponses dans vos propres données. 3) Demandez explicitement « Si tu n’es pas sûr, dis-le ». 4) Pour les informations critiques, recoupez toujours avec une source fiable.