Qu'est-ce qu'une hallucination d'IA ?
Mis à jour le
Une hallucination, c'est quoi ?
On parle d'hallucination quand une IA affirme quelque chose de faux ou inventé tout en ayant l'air parfaitement sûre d'elle. L'erreur n'est pas signalée : la phrase est bien tournée, crédible — et pourtant inexacte.
Quelques formes courantes : une date ou un chiffre erronés, une citation attribuée à la mauvaise personne, une « source » qui n'existe pas, ou un détail ajouté de toutes pièces.
Pourquoi l'IA hallucine
Un modèle de langage ne consulte pas une base de faits : il prédit le texte le plus plausible. Quand il manque d'information précise, il « comble » avec ce qui semble cohérent — au risque d'inventer. Plusieurs facteurs aggravent le phénomène :
- une question ambiguë ou très pointue ;
- un sujet peu présent dans ses données d'entraînement ;
- une demande portant sur des événements récents, postérieurs à son entraînement ;
- une formulation qui présuppose une réponse (l'IA a tendance à suivre).
Comment les repérer
Redoublez d'attention quand la réponse contient des éléments vérifiables et précis : noms propres, chiffres, dates, citations, références, statistiques. Une assurance excessive sur un sujet de niche, ou des détails étrangement spécifiques, doivent éveiller votre vigilance.
Comment les réduire
- Soyez précis dans votre demande : un bon prompt limite les zones d'incertitude.
- Fournissez la source : joignez un document et demandez à l'IA de s'y appuyer plutôt que de répondre « de mémoire ».
- Demandez les références et vérifiez-les vous-même.
- Recoupez les informations importantes, et au besoin comparez deux modèles.
En pratique dans Modik
Modik affiche d'ailleurs un rappel : les modèles peuvent se tromper, vérifiez les informations importantes. Gardez ce réflexe, surtout pour un usage professionnel. Pour comprendre la cause plus large de ces erreurs, lisez pourquoi l'IA se trompe parfois.
Questions fréquentes
Pourquoi l'IA invente-t-elle des sources ou des citations ?
Parce qu'elle produit ce qui « ressemble » à une source crédible, sans toujours pouvoir vérifier qu'elle existe. Une référence générée doit donc toujours être contrôlée avant d'être citée.
Est-ce un bug que l'on va corriger ?
Pas exactement. C'est une limite liée à la façon dont les modèles fonctionnent. Les hallucinations diminuent avec les progrès des modèles, mais elles ne disparaissent pas complètement : la vérification reste de mise.
Certains modèles hallucinent-ils moins que d'autres ?
Oui, cela varie selon les modèles et selon les sujets. Pour une question sensible, comparer deux modèles dans Modik peut vous aider à repérer une réponse douteuse.
Comment être sûr d'une réponse ?
En la recoupant avec une source fiable, surtout pour un fait précis, un chiffre, une date ou une référence. Vous pouvez aussi fournir vous-même le document de référence et demander à l'IA de s'y tenir.
Une question sur Modik ? Le plus simple est encore d'essayer.
Ouvrir Modik