Hallucination (IA)

Une hallucination, dans le domaine de l'IA, désigne une réponse qui semble plausible et bien formulée mais qui est en réalité fausse ou inventée. Le modèle ne ment pas volontairement : il produit ce qui lui paraît statistiquement cohérent, même lorsque l'information n'existe pas.

Comment ça fonctionne

Un LLM fonctionne par prédiction du texte le plus probable. Il n'a pas de mécanisme intégré pour vérifier la vérité d'un fait. Lorsqu'une question porte sur un sujet qu'il connaît mal, il comble le vide avec une réponse vraisemblable plutôt que d'admettre son ignorance.

Les hallucinations apparaissent souvent sur des faits précis : dates, chiffres, citations, références bibliographiques, noms propres. La réponse a alors l'air fiable, ce qui la rend d'autant plus trompeuse.

Pourquoi c'est important

Les hallucinations sont l'une des principales limites des modèles de langage. Dans un usage professionnel — droit, santé, finance — une information inventée peut avoir des conséquences sérieuses. Il est donc essentiel de toujours vérifier les éléments factuels et de garder un regard critique.

Exemple

Si vous demandez à un modèle la référence exacte d'un article scientifique qu'il ne connaît pas, il peut vous fournir un titre, des auteurs et une revue d'allure crédible, mais entièrement fictifs. Rien dans la forme de la réponse ne signale le problème.

Plusieurs stratégies réduisent ce risque. L'approche RAG ancre les réponses dans des documents réels, et une bonne ingénierie de prompt — demander des sources, autoriser « je ne sais pas » — limite les inventions. Pour développer ces réflexes, le cours AI Fluency : les fondamentaux consacre une large place à l'esprit critique.