Pourquoi les chatbots d'IA inventent-ils avec assurance des faits et des procès ?

Un chatbot d'IA peut affirmer un fait totalement faux avec une assurance totale, et c'est la conséquence de la façon dont il a été entraîné. Des modèles comme ChatGPT sont entraînés, pendant leur pré-entraînement, à prédire le mot suivant dans une phrase, et cet entraînement les pousse à « tenter un coup » sur le mot suivant même quand ils manquent réellement d'information. Des données d'entraînement incomplètes ou peu représentatives aggravent encore le problème.

Le mot « hallucination » lui-même a une histoire étrange. Il désignait à l'origine quelque chose d'utile : depuis les années 2000, les chercheurs en vision par ordinateur l'utilisaient pour parler de l'ajout de détails utiles à une image floue, un terme qui remonte à une thèse de doctorat de 1986. En 2015, le sens a changé quand le chercheur Andrej Karpathy a employé « halluciné » pour décrire un modèle de langage inventant un faux lien de citation. En 2021, Meta a prévenu que son chatbot BlenderBot 2 était sujet à des « affirmations assurées qui ne sont pas vraies », et après le lancement de ChatGPT fin 2022, le terme a explosé dans l'usage courant ; dès 2023, le dictionnaire Cambridge avait mis à jour sa propre définition pour inclure ce sens spécifique à l'IA.

Les conséquences peuvent dépasser le simple embarras. La data scientist Teresa Kubacka a un jour inventé un faux terme scientifique, « cycloidal inverted electromagnon », juste pour tester ChatGPT — et le chatbot a inventé avec assurance une explication plausible, appuyée par des citations tout aussi fausses. En mai 2023, un avocat a déposé six références de jurisprudence générées par ChatGPT dans un vrai procès ; ces affaires n'existaient pas, et le chatbot continuait à affirmer qu'elles étaient réelles même après qu'on a découvert qu'elles n'existaient pas. En avril 2026, une base de données recensant ce type d'incidents avait déjà enregistré plus de 1 300 cas d'hallucinations d'IA rien que dans des décisions de justice.

Des recherches récentes éclairent en partie le mécanisme en jeu : en 2025, les travaux d'interprétabilité d'Anthropic sur son propre modèle Claude ont révélé des circuits internes qui, par défaut, poussent le modèle à refuser de répondre tant qu'il ne reconnaît pas avoir assez d'informations. Les hallucinations, selon les chercheurs, surviennent quand cette inhibition se dérègle, par exemple quand le modèle reconnaît un nom sans réellement savoir grand-chose sur la personne, et génère alors une réponse plausible mais fausse.