Hallucinations de l’IA : quand les machines inventent le réel

Demandez à une IA le montant exact d’une aide publique, le numéro d’un article de loi ou la référence d’une étude scientifique. Vous obtiendrez le plus souvent une réponse précise, bien tournée, avec un numéro et une date. Rien dans cette réponse ne vous dira si le numéro existe. Voilà le vrai problème des hallucinations : elles ont l’apparence exacte d’une réponse correcte.

Le sujet a beaucoup avancé depuis les premières affaires médiatiques. On sait maintenant mesurer le phénomène de plusieurs façons, on comprend mieux pourquoi l’entraînement pousse les modèles à deviner, et on connaît les limites des parades vendues comme définitives. Vous trouverez ici ce qui est documenté, chiffres à l’appui, et les réflexes qui changent vraiment quelque chose dans votre usage quotidien.

Ce qu’on appelle une hallucination, et pourquoi le mot est contesté

Une hallucination désigne un contenu produit avec assurance par un modèle génératif, mais qui ne correspond à aucune réalité vérifiable. Cela va d’une date fausse à une décision de justice complète, avec numéro de dossier, nom de juge et extrait de motivation. La forme reste impeccable, seul le fond manque.

Le mécanisme découle du fonctionnement même d’un grand modèle de langage. Aucune base de faits n’intervient : il calcule, token après token, la suite la plus probable de la séquence en cours. Cette prédiction statistique explique la qualité du français produit, qui relève du traitement automatique du langage, et elle explique aussi la facilité avec laquelle le modèle comble un trou de connaissance par une invention plausible.

Le mot lui-même a une histoire instructive. La vision par ordinateur l’employait dès les années 1980 dans un sens positif, pour décrire la reconstruction de détails absents d’une image. La traduction automatique statistique l’a repris dans les années 2000 comme nom d’un mode de défaillance. Andrej Karpathy l’applique en 2015 aux sorties fausses des réseaux récurrents, puis des chercheurs de Google l’emploient en 2017 pour les erreurs de la traduction neuronale. Le Cambridge Dictionary a intégré le sens informatique en 2023.

Plusieurs chercheurs jugent le terme mal choisi parce qu’il prête une vie mentale à un logiciel. Le journaliste Benj Edwards défend « confabulation », emprunté à la neuropsychologie, qui décrit mieux un remplissage de vide sans conscience de l’erreur. Michael Hicks, James Humphries et Joe Slater vont plus loin et proposent la notion de bullshit au sens du philosophe Harry Frankfurt, c’est-à-dire une indifférence à la vérité plutôt qu’un mensonge. Usama Fayyad et Mary Shaw reprochent au mot d’habiller en bizarrerie individuelle ce qui reste une erreur systématique.

Pourquoi les modèles préfèrent deviner que dire qu’ils ne savent pas

C’est la question qu’un papier publié le 4 septembre 2025 par Adam Kalai, Ofir Nachum, Santosh Vempala et Edwin Zhang a rendue beaucoup plus claire. Les auteurs, côté OpenAI et Georgia Tech, montrent que les hallucinations naissent à deux étages distincts. Le premier se situe au pré-entraînement : le modèle y apprend une tâche qui revient à distinguer les énoncés vrais des énoncés faux, et dès que cette séparation devient impossible, des erreurs apparaissent sous l’effet de pressions statistiques ordinaires. Le second se situe au niveau de l’évaluation, et c’est là que se joue l’essentiel.

La plupart des bancs de test notent en tout ou rien. Une mauvaise réponse vaut zéro, une abstention vaut zéro aussi. Dans ce système de notation, tenter une réponse au hasard rapporte toujours plus que reconnaître son ignorance, exactement comme dans un examen sans points négatifs. Les modèles optimisés pour grimper dans les classements apprennent donc à deviner.

Les auteurs ne proposent pas de créer un banc supplémentaire, mais de changer la notation des bancs existants qui dominent les classements.

Penalize confident errors more than you penalize uncertainty, and give partial credit for appropriate expressions of uncertainty.

La démonstration chiffrée tient en trois nombres. OpenAI a comparé sur le banc SimpleQA deux de ses modèles de générations voisines. Le premier, entraîné à s’abstenir, refuse de répondre dans 52 % des cas, répond juste dans 22 % des cas et se trompe dans 26 % des cas. Le second ne s’abstient que dans 1 % des cas : il répond juste dans 24 % des cas, à peine mieux, et se trompe dans 75 % des cas. Le gain d’exactitude reste marginal, la multiplication des erreurs est massive.

Ce banc mérite un mot, car il éclaire la notion de calibration. Publié le 30 octobre 2024, SimpleQA rassemble 4 326 questions courtes à réponse unique et incontestable, stable dans le temps, et sélectionnées parce qu’elles piégeaient les modèles de l’époque. Chaque question a été rédigée par un annotateur puis validée par un second, et un troisième contrôle sur mille questions a donné 94,4 % d’accord. Le score distingue trois cas : réponse correcte, réponse incorrecte, question non tentée. OpenAI y constate que les modèles surestiment systématiquement leur propre confiance.

Comment naît une hallucination, étape par étape

Six familles d’hallucinations

Toutes les inventions ne se ressemblent pas, et elles ne se détectent pas de la même façon. Ce classement aide à savoir où porter votre attention selon le type de demande que vous adressez au modèle.

Trouvez les inventions : un exemple annoté

Rien ne vaut un cas concret. Le paragraphe qui suit imite une réponse d’assistant à une question simple sur la gamme de modèles d’Anthropic. Il contient six affirmations, dont une seule est exacte. Lisez-le, notez ce qui vous paraît douteux, puis comparez avec le tableau de corrections.

Question posée : résume l’état de la gamme Claude d’Anthropic et son tarif.

Réponse fabriquée pour l’exercice : le modèle le plus puissant d’Anthropic est Claude Opus 5, sorti le 24 juillet 2026. Il se décline en deux fenêtres de contexte, 200 000 et 1 million de tokens. Son tarif d’entrée s’élève à 15 dollars par million de tokens. Anthropic indique qu’il compte 400 milliards de paramètres. La société est cotée au Nasdaq depuis juin 2026.

Regardez le mécanisme plutôt que les erreurs. Une donnée exacte, la date de sortie, sert d’ancrage et rend crédible tout ce qui l’entoure. Les cinq inventions sont toutes du bon ordre de grandeur : un contexte de 200 000 tokens existe ailleurs dans la gamme, un tarif de 15 dollars correspond à celui d’autres modèles haut de gamme, et un dépôt de dossier en bourse a bien eu lieu. Un lecteur qui connaît mal le sujet n’a aucun moyen de trancher, et un lecteur qui le connaît bien devra quand même vérifier chaque chiffre.

Ce que valent les taux d’hallucination annoncés

Les pourcentages qui circulent sur ce sujet proviennent de protocoles très différents. Un taux de 3 % et un taux de 33 % peuvent décrire le même modèle sans qu’aucun des deux soit faux, parce qu’ils ne posent pas la même question. Comprendre les trois grandes familles de mesure évite les comparaisons absurdes.

Les chiffres deviennent alors lisibles. Sur le classement de Vectara, dont la dernière mise à jour remonte au 11 mai 2026, les meilleurs modèles descendent à 1,8 % d’infidélité en résumé, plusieurs modèles courants se situent entre 3 % et 6 %, et quelques modèles haut de gamme dépassent 10 %. Les auteurs du classement précisent eux-mêmes pourquoi ils ont choisi le résumé : mesurer une hallucination en question ouverte supposerait de connaître les données d’entraînement de chaque modèle, ce qui est impossible.

Sur les questions posées de mémoire, les niveaux changent d’échelle. L’évaluation PersonQA d’OpenAI donne 16 % d’hallucination pour le modèle de raisonnement o1, 33 % pour o3 et 48 % pour o4-mini. Le même écart existe sur les références bibliographiques : une étude publiée en 2023 dans Cureus a examiné 178 références produites par GPT-3 et en a trouvé 69 avec un identifiant faux ou inexistant, dont 28 introuvables par un moteur de recherche.

Ce que le RAG et les modes de raisonnement changent vraiment

Le RAG réduit le risque et le déplace

Le RAG, pour Retrieval Augmented Generation, consiste à donner au modèle des documents sourcés à consulter avant qu’il réponde, au lieu de le laisser tout produire de mémoire. Le gain est réel et mesurable. La promesse marketing d’une élimination des hallucinations, elle, ne tient pas.

Une équipe de Stanford menée par Varun Magesh et Faiz Surani, avec Christopher Manning et Daniel Ho, a testé en 2024 les outils de recherche juridique professionnels bâtis sur cette architecture : Lexis+ AI, Westlaw AI-Assisted Research et Ask Practical Law AI. Le résultat a fait du bruit dans la profession, puisque ces outils hallucinent encore entre 17 % et 33 % des réponses selon l’outil. Les auteurs qualifient explicitement d’exagérées les affirmations selon lesquelles le RAG élimine ou évite les hallucinations.

L’explication est simple. Le RAG ajoute une étape de recherche documentaire qui peut échouer, rapporter un passage hors sujet ou tronquer un raisonnement. Ensuite, le modèle rédige librement à partir de ce qu’il a reçu, avec la même liberté d’interprétation qu’avant. Vous gagnez une piste de vérification, pas une garantie.

Les citations vérifiables représentent le vrai progrès

La parade la plus solide consiste à extraire les citations directement du document, au lieu de laisser le modèle les rédiger. Chez Anthropic, la fonctionnalité Citations découpe les documents fournis en phrases, puis fait remonter pour chaque affirmation l’extrait exact du document, avec son emplacement en caractères ou en pages. Le texte cité provient du document et non du modèle, ce qui rend une source fabriquée structurellement impossible à l’intérieur du corpus fourni. Du côté de Google, l’ancrage avec la recherche Google renvoie des annotations qui rattachent chaque segment de réponse à une URL, avec ses positions de début et de fin.

Ces mécanismes ne règlent pas tout. Ils garantissent qu’une citation correspond à un passage réel du document, sans garantir que le document soit exact, ni que le modèle en ait tiré la bonne conclusion. La vérification reste la vôtre, mais elle devient possible en quelques secondes au lieu de quelques minutes.

Le raisonnement long ne vaut pas une garantie de vérité

Les modes de réflexion étendue améliorent nettement les maths, le code et les problèmes en plusieurs étapes. Sur la factualité, la relation est moins directe. Les chiffres PersonQA cités plus haut montrent un modèle de raisonnement avancé qui hallucine deux fois plus que son prédécesseur, et OpenAI l’explique par un comportement plus bavard : le modèle avance davantage d’affirmations au total, donc davantage d’affirmations justes et davantage d’affirmations fausses.

Les éditeurs progressent tout de même sur des familles précises d’erreurs. OpenAI annonce que GPT-6 Astra, déployé à partir du 3 septembre 2026, se montre trois fois moins susceptible que GPT-5.6 Sol de décrire faussement ses propres capacités. Ce type d’hallucination, où le modèle prétend savoir faire ce qu’il ne fait pas, empoisonne particulièrement le travail avec les agents. Aucun chiffre de factualité générale n’accompagne en revanche cette annonce.

Hallucinations dans le code et dans les agents

Le code offre le cas le mieux documenté d’une hallucination devenue faille de sécurité. Une étude présentée à USENIX Security a généré 576 000 échantillons de code avec seize modèles, et constaté que 19,7 % des paquets logiciels recommandés n’existaient pas. L’écart entre familles de modèles est net : environ 5,2 % de paquets inventés pour les modèles commerciaux, contre 21,7 % pour les modèles à poids ouverts. Au total, les chercheurs ont relevé plus de 205 000 noms de paquets fictifs distincts.

Un attaquant n’a plus qu’à enregistrer les noms que les modèles inventent le plus souvent, puis attendre. Le chercheur Seth Larson, de la Python Software Foundation, a proposé en avril 2025 le terme slopsquatting pour désigner cette attaque. La démonstration la plus parlante date de 2023, quand le chercheur Bar Lanyado a enregistré un paquet nommé huggingface-cli, régulièrement suggéré par les assistants de code alors qu’il n’existait pas : il a dépassé 30 000 téléchargements en trois mois.

Avec les agents IA, le problème change de nature parce que l’erreur ne reste plus dans le texte. Un agent lit une réponse fausse, la prend pour une donnée d’entrée, puis agit. La CNIL et le Conseil de l’IA et du numérique ont publié le 20 juillet 2026 une note exploratoire qui décrit précisément cet enchaînement.

L’autonomie accrue des IA agentiques et la difficulté d’interrompre des processus fonctionnant en continu peuvent engendrer des analyses erronées des requêtes ainsi que des risques d’hallucinations en cascade susceptibles de se propager au sein du système.

La note cite l’exemple d’un système agentique qui a supprimé un grand nombre de courriels professionnels après avoir mal interprété une consigne initiale. Ses recommandations tiennent en quelques principes : filtrer les requêtes suspectes, surveiller les actions en temps réel, prévoir un dispositif d’arrêt immédiat, et exiger une validation humaine sur les décisions critiques. Retenez surtout le dernier point si vous confiez des tâches à un agent.

Le coût réel : tribunaux, rapports remboursés, carrières

L’affaire fondatrice reste Mata contre Avianca. Devant le tribunal fédéral du district sud de New York, le juge P. Kevin Castel sanctionne le 22 juin 2023 les avocats du demandeur à hauteur de 5 000 dollars, après un mémoire truffé de décisions inexistantes produites par ChatGPT. Le juge relève que les avocats se sont fiés aux assurances de l’outil quant à l’existence de ces affaires, et qualifie une des analyses citées de charabia.

Le phénomène a depuis pris une ampleur statistique. La base de données tenue par le juriste Damien Charlotin recensait 2 044 décisions concernées au 19 septembre 2026, réparties sur une quarantaine de juridictions : 1 397 aux États-Unis, 218 au Canada, 111 en Australie, quelques cas en France. Fait notable, 1 175 dossiers proviennent de justiciables sans avocat, contre 813 impliquant des professionnels du droit. Les sanctions financières restent modestes, de quelques centaines à quelques milliers de dollars, la plus élevée du relevé atteignant 8 000 dollars dans une affaire jugée en Géorgie le 28 août 2026. Elles s’accompagnent souvent de formations obligatoires et de signalements aux ordres professionnels, dont les conséquences pèsent plus lourd que l’amende. En mars 2026, une adjointe du procureur de district, en Géorgie, a été suspendue six mois après avoir reconnu des recherches non vérifiées produites par une IA. Notre dossier sur les outils d’IA pour avocats détaille les précautions attendues dans cette profession.

Les grands cabinets de conseil ont connu le même déboire. En octobre 2025, Deloitte a accepté de rembourser partiellement au gouvernement australien un rapport facturé 440 000 dollars australiens, qui contenait des sources académiques inexistantes et une citation fabriquée d’une décision de cour fédérale. Une version corrigée a été remise. En novembre 2025, un plan de santé livré à Terre-Neuve pour 1,6 million de dollars canadiens comportait au moins quatre références à des travaux de recherche qui n’existaient pas.

Ce que l’AI Act impose, et ce qu’il n’impose pas

Le règlement européen sur l’intelligence artificielle s’applique par étapes. Les interdictions sont entrées en vigueur le 2 février 2025, les obligations des fournisseurs de modèles à usage général le 2 août 2025. L’article 50 sur la transparence s’applique depuis le 2 août 2026 : un utilisateur doit être informé qu’il interagit avec une IA, et les contenus générés doivent être identifiables comme tels, les hypertrucages et les textes d’intérêt public devant être clairement et visiblement étiquetés. Notre article sur l’AI Act européen reprend le calendrier complet, et celui consacré aux deepfakes détaille les obligations de marquage.

Deux nuances comptent pour ce sujet. Les systèmes déjà commercialisés avant le 2 août 2026 disposent d’un délai jusqu’au 2 décembre 2026 pour se conformer au marquage, alors que les systèmes nouveaux devaient s’y conformer immédiatement. Le Digital Omnibus IA, en vigueur depuis le 27 juillet 2026, a par ailleurs reporté les obligations applicables aux systèmes à haut risque au 2 décembre 2027 pour l’annexe III et au 2 août 2028 pour l’annexe I.

Aucune règle européenne en vigueur n’oblige aujourd’hui un éditeur à publier un taux d’hallucination. Le marquage vous apprend qu’un texte a été produit par une machine, il ne vous dit rien de son exactitude. La vérification factuelle reste entièrement à votre charge, et la conformité d’un outil ne vaut pas garantie de fiabilité.

Sept réflexes pour ne pas vous faire piéger

Ces habitudes viennent des recommandations publiées par les éditeurs et de la recherche sur la détection. Elles coûtent peu de temps et changent beaucoup de choses. Notre guide sur l’art du prompt développe les formulations qui fonctionnent le mieux.

Repères chronologiques

Le glossaire du sujet

Ces huit termes reviennent dans toutes les discussions techniques sur la fiabilité. Notre glossaire de l’intelligence artificielle couvre le reste du vocabulaire.

Questions fréquentes sur les hallucinations de l’IA

Peut-on supprimer complètement les hallucinations ?

Non, et la raison tient à l’architecture. Un modèle génératif calcule des suites de mots probables, sans mécanisme interne qui distingue le vrai du plausible. Les travaux de Kalai et de ses coauteurs montrent que des erreurs apparaissent dès le pré-entraînement, sous l’effet de pressions statistiques ordinaires. Les parades réduisent la fréquence et rendent la vérification possible, elles ne suppriment pas le phénomène.

Un modèle plus récent hallucine-t-il forcément moins ?

Les progrès ne suivent pas une ligne droite. Un modèle plus performant sur le raisonnement peut produire davantage d’affirmations, donc davantage d’erreurs en valeur absolue, comme le montrent les écarts observés entre générations sur l’évaluation PersonQA. Les avancées sont réelles mais inégales selon les familles d’erreurs, et un modèle peut s’améliorer sur la description de ses propres capacités tout en restant fragile sur les références bibliographiques.

Faut-il faire confiance à une réponse qui affiche des sources ?

Tout dépend de la provenance de ces sources. Quand l’outil extrait la citation du document que vous avez fourni, comme le font les fonctions de citations d’Anthropic ou l’ancrage de Google, le lien est fiable par construction. Quand le modèle rédige lui-même une bibliographie de mémoire, chaque référence doit être vérifiée, car les titres inventés respectent parfaitement les conventions de la discipline.

Les hallucinations touchent-elles aussi l’audio et l’image ?

Oui, et les éditeurs commencent à les chiffrer séparément. Amazon a indiqué avoir réduit de 88 % les hallucinations de génération vocale de son modèle Nova 2 Sonic lors d’une mise à jour déployée entre le 21 et le 28 mai 2026, avec une baisse de 52 % de la dérive de locuteur. La transcription automatique produit de son côté des phrases entières absentes de l’enregistrement, un point à surveiller sur les comptes rendus de réunion.

Comment repérer une référence inventée en trente secondes ?

Copiez l’identifiant, pas le titre. Un DOI se teste sur doi.org, un numéro de dossier sur le site de la juridiction, un paquet logiciel sur le dépôt officiel de son langage, un article de loi sur Legifrance pour le droit français. Une référence inventée échoue à ce test immédiatement, alors qu’une recherche sur le titre renvoie souvent des résultats voisins qui donnent une fausse impression de confirmation.

Vaut-il mieux désactiver le mode raisonnement pour limiter les erreurs ?

Le choix dépend de la tâche. Un raisonnement long aide sur les calculs, le code et les problèmes en plusieurs étapes, où il réduit les erreurs de logique. Sur une question de pure connaissance factuelle, il n’apporte aucune garantie supplémentaire et allonge la réponse, donc la surface d’erreur. Fournir le document reste plus efficace que rallonger la réflexion.

Ce que cela change pour vous

Le bon réflexe consiste à traiter un modèle de langage comme un rédacteur rapide et cultivé qui ne vérifie jamais ses sources. Vous lui confiez la forme, la structure, la reformulation, la synthèse d’un document que vous lui donnez. Vous ne lui confiez pas la production d’un fait que vous ne pouvez pas contrôler, surtout quand ce fait porte un numéro.

Notre position est nette sur un point : la fiabilité se construit au niveau du processus bien plus qu’au niveau du modèle. Changer d’outil pour celui qui affiche le meilleur pourcentage dans un classement apporte peu, parce que ces classements mesurent une tâche précise avec un temps de retard sur les sorties. Fournir systématiquement la source, exiger des citations extraites du document et garder une validation humaine sur les actions irréversibles apporte beaucoup, quel que soit le modèle du moment.

Les deux tendances à surveiller restent la généralisation des citations vérifiables dans les interfaces grand public et l’entraînement des modèles à l’abstention. La première rend la vérification quasi gratuite. La seconde suppose que les bancs d’évaluation cessent de récompenser la devinette, un changement de culture que la recherche appelle désormais ouvertement, et dont l’industrie n’a pour l’instant tiré que des conséquences partielles.