En clair
En intelligence artificielle on parle d'hallucination quand un modèle produit une information plausible et bien tournée mais fausse, inexacte ou inventée. Le modèle ne sait pas qu'il se trompe. Il écrit la suite de mots qui lui semble la plus probable sans vérifier qu'elle corresponde à quelque chose de réel.
Le mot vient de la médecine où il désigne une perception sans objet réel. L'IA le reprend par analogie. Le système affirme une chose qui n'existe pas dans les faits.
Pourquoi c'est important
On utilise de plus en plus les modèles de langage pour rédiger, résumer, répondre à des questions ou aider à coder. Une hallucination peut donc se glisser dans un texte présenté comme fiable, dans la réponse à un client, dans une synthèse de documents ou dans une suggestion de code. La phrase est fluide et sûre d'elle. Le lecteur ne voit pas forcément l'erreur.
Pour un usage professionnel le risque est concret. Un modèle peut citer une source qui n'existe pas, prêter une déclaration à la mauvaise personne, inventer une fonction dans une bibliothèque logicielle ou avancer un chiffre sans fondement. Il faut donc vérifier auprès de sources fiables les informations qui ont des conséquences.
Dans la pratique
Une hallucination prend plusieurs formes : un nom propre inventé, une date erronée, une référence bibliographique qui ressemble à un vrai livre sans en être un, une explication technique qui mélange deux notions. Elle apparaît aussi dans le code. Un assistant suggère par exemple une méthode qui n'existe pas dans la version utilisée.
Les modèles n'ont aucun mécanisme intégré pour séparer ce qu'ils savent de ce qu'ils inventent. Ils répondent à partir de régularités statistiques apprises sur de grands volumes de textes. Une réponse peut être grammaticalement parfaite et fausse sur le fond.
On limite le risque en demandant au modèle de citer ses sources, de signaler ses doutes ou de s'appuyer sur des documents qu'on lui fournit. Aucune de ces méthodes ne supprime complètement les hallucinations.
À ne pas confondre avec
- Un mensonge suppose une intention de tromper. Le modèle n'en a pas.
- Une erreur de calcul relève plutôt d'une limite de raisonnement.
- Un biais est une tendance systématique dans les réponses.
- Une connaissance périmée vient d'informations absentes ou anciennes dans les données d'entraînement.