HallucinationsLes fabulations de l'IA

Glue on pizza, and citations that do not exist

Hallucinations are probably the most well-known issue with LLMs. LLMs are known to be unreliable sometimes, and confidently spew wrong information. You may remember an early iteration of Google’s AI Overviews telling users to add glue to make the cheese stick to pizza better,Liv McMahon and Zoe Kleinman, Glue pizza and eat rocks: Google AI search errors go viral, BBC News, 24 May 2024, read 22 September 2026. The answer said “non-toxic glue”; the same week, AI Overviews also answered that geologists recommend eating one rock a day. Google called these “isolated examples” on “generally very uncommon queries”. lawyers getting into trouble because they relied on AI-fabricated citations,For instance Carolyn Gruske, Lawyer who used AI-fabricated citations hit with $31,150 in costs to LSO, Law Times, 17 June 2026, read 22 September 2026, reporting Law Society Tribunal of Ontario, 2026 ONLSTH 112: a factum and affidavits cited cases that do not exist, alongside real cases that had nothing to do with the point being made. or Apple’s notification summaries reporting that a murder suspect had shot himself, when the BBC had published nothing of the kind.Graham Fraser, BBC complains to Apple over misleading shooting headline, BBC News, 13 December 2024, read 22 September 2026.

The three fail for different reasons.

• The glue answer is an example of LLMs referencing unreliable sources. The AI Overviews answers of that week appeared to come from Reddit comments and from the satirical site The Onion, so the input was intentionally wrong, in a way humans would normally pick up on (see also the Garbage in, garbage out chapter) (voir aussi le chapitre Médiocre en entrée, médiocre en sortie), and it was summarized into an answer like any other source.
• The Apple summary is an example of LLMs misrepresenting sources. The notifications it worked from said nothing of the kind, and the same summary was accurate about the two other stories it grouped.
• The fabricated citations are an example of LLMs producing wrong information with no source behind it at all.

Regardless of the cause, the result is the same: confidently presented wrong information.

Information is never labelled true or false

Three factors in how a model is trained explain why models hallucinate.

• The model was trained to predict the next word. That means sounding like its training text, not being right (see also the LLMs as next-word predictors chapter, in the LLM lifecycle module) (voir aussi le chapitre Les GML, prédicteurs du mot suivant, dans le module Cycle de vie des GML).
• The whole corpus is compressed into parameters lossy compressioncompression avec perte computinginformatique A method of reducing the amount of data needed to represent information by discarding some information, so that the original cannot be reconstructed exactly.Méthode de réduction de la quantité de données nécessaire pour représenter une information, qui en écarte une partie, de sorte que l'original ne peut pas être reconstruit exactement. as a web of associations rather than a record of facts (see also the Word embeddings chapter, in the Language as numbers module) (voir aussi le chapitre Plongements lexicaux, dans le module Le langage en nombres), so what was rare in it comes back rebuilt from something close. Writing large where the source said big does no harm, because words that behave alike mean much the same; giving a date that is one year out, or a name that belongs to someone else, does.
• A model is trained to produce an answer, not to withhold one or to flag how uncertain it is. Answering “I do not know” has to be trained in separately (Zhang et al., 2024).

A well-attested fact and a detail that was rarely written down go through the same steps, and both come out as a fluent sentence (Figure 1figure 1).

Within a formal definition of the problem, Xu et al. (2024) prove that a model used as a general problem solver will always hallucinate: a property to manage rather than a defect that a later version will fix.

Sources

• Hicks, M. T., Humphries, J., & Slater, J. (2024). ChatGPT is bullshit. Ethics and Information Technology, 26, 38. https://doi.org/10.1007/s10676-024-09775-5
• Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models. Online draft, 3rd edition. https://web.stanford.edu/~jurafsky/slp3/
• Xu, Z., Jain, S., & Kankanhalli, M. (2024). Hallucination is Inevitable: An Innate Limitation of Large Language Models. arXiv:2401.11817 (preprint). https://arxiv.org/abs/2401.11817
• Zhang, H., Diao, S., Lin, Y., Fung, Y. R., Lian, Q., Wang, X., Chen, Y., Ji, H., & Zhang, T. (2024). R-Tuning: Instructing Large Language Models to Say `I Don't Know'. Proceedings of the 2024 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (Volume 1: Long Papers), 7113–7139. https://doi.org/10.18653/v1/2024.naacl-long.394

De la colle sur la pizza, et des références qui n’existent pas

Les fabulations de l’IA (angl. hallucinations) sont sans doute le problème le plus connu des grands modèles de langue (GML). Les GML sont réputés peu fiables par moments, et ils débitent des informations fausses avec assurance. Vous vous souvenez peut-être d’une première version des AI Overviews de Google qui conseillait d’ajouter de la colle pour que le fromage tienne mieux sur la pizza,Liv McMahon et Zoe Kleinman, Glue pizza and eat rocks: Google AI search errors go viral, BBC News, 24 mai 2024, consulté le 22 septembre 2026. La réponse parlait de « non-toxic glue » [ma traduction : « colle non toxique »] ; la même semaine, AI Overviews répondait aussi que les géologues recommandent de manger un caillou par jour. Google a qualifié ces réponses de « isolated examples » [ma traduction : « cas isolés »], sur des requêtes « generally very uncommon » [ma traduction : « généralement très inhabituelles »]. d’avocats qui se sont mis dans l’embarras en se fiant à des références fabriquées par l’IA,Par exemple Carolyn Gruske, Lawyer who used AI-fabricated citations hit with $31,150 in costs to LSO, Law Times, 17 juin 2026, consulté le 22 septembre 2026, rapportant Law Society Tribunal of Ontario, 2026 ONLSTH 112 : un mémoire et des affidavits citaient des causes inexistantes, à côté de causes réelles sans rapport avec le propos. ou des résumés de notifications d’Apple rapportant qu’un suspect de meurtre s’était tiré dessus, alors que la BBC n’avait rien publié de tel.Graham Fraser, BBC complains to Apple over misleading shooting headline, BBC News, 13 décembre 2024, consulté le 22 septembre 2026.

Les trois échouent pour des raisons différentes.

• La réponse sur la colle est un exemple de GML qui s’appuient sur des sources peu fiables. Les réponses des AI Overviews de cette semaine-là semblaient provenir de commentaires Reddit et du site satirique The Onion : l’entrée était fausse à dessein, d’une façon que des humains repèrent normalement (see also the Garbage in, garbage out chapter) (voir aussi le chapitre Médiocre en entrée, médiocre en sortie), et elle a été résumée en une réponse comme n’importe quelle autre source.
• Le résumé d’Apple est un exemple de GML qui déforment leurs sources. Les notifications dont il partait ne disaient rien de tel, et le même résumé était exact sur les deux autres nouvelles qu’il regroupait.
• Les références fabriquées sont un exemple de GML qui produisent de l’information fausse sans aucune source derrière.

Quelle qu’en soit la cause, le résultat est le même : de l’information fausse présentée avec assurance.

L’information n’est jamais étiquetée vraie ou fausse

Trois facteurs, dans la façon dont un modèle est entraîné, expliquent pourquoi les modèles fabulent.

• Le modèle a été entraîné à prédire le mot suivant. Cela revient à ressembler à son texte d’entraînement, pas à avoir raison (see also the LLMs as next-word predictors chapter, in the LLM lifecycle module) (voir aussi le chapitre Les GML, prédicteurs du mot suivant, dans le module Cycle de vie des GML).
• Tout le corpus est compressé dans les paramètres lossy compressioncompression avec perte computinginformatique A method of reducing the amount of data needed to represent information by discarding some information, so that the original cannot be reconstructed exactly.Méthode de réduction de la quantité de données nécessaire pour représenter une information, qui en écarte une partie, de sorte que l'original ne peut pas être reconstruit exactement. comme un réseau d’associations plutôt que comme un registre de faits (see also the Word embeddings chapter, in the Language as numbers module) (voir aussi le chapitre Plongements lexicaux, dans le module Le langage en nombres), si bien que ce qui y était rare revient reconstruit à partir de quelque chose de proche. Écrire grand là où la source disait gros ne porte pas à conséquence, parce que des mots qui se comportent de la même manière veulent dire à peu près la même chose ; donner une date décalée d’un an, ou un nom qui appartient à quelqu’un d’autre, si.
• Un modèle est entraîné à produire une réponse, pas à s’en abstenir ni à signaler son degré d’incertitude. Répondre « je ne sais pas » doit faire l’objet d’un entraînement distinct (Zhang et al., 2024).

Un fait bien attesté et un détail rarement écrit passent par les mêmes étapes, et les deux ressortent sous la forme d’une phrase fluide (Figure 1figure 1).

Dans le cadre d’une définition formelle du problème, Xu et al. (2024) démontrent qu’un modèle employé comme résolveur de problèmes général fabulera toujours : une propriété à gérer plutôt qu’un défaut qu’une version ultérieure corrigera.

Sources

• Hicks, M. T., Humphries, J., & Slater, J. (2024). ChatGPT is bullshit. Ethics and Information Technology, 26, 38. https://doi.org/10.1007/s10676-024-09775-5
• Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models. Online draft, 3rd edition. https://web.stanford.edu/~jurafsky/slp3/
• Xu, Z., Jain, S., & Kankanhalli, M. (2024). Hallucination is Inevitable: An Innate Limitation of Large Language Models. arXiv:2401.11817 (preprint). https://arxiv.org/abs/2401.11817
• Zhang, H., Diao, S., Lin, Y., Fung, Y. R., Lian, Q., Wang, X., Chen, Y., Ji, H., & Zhang, T. (2024). R-Tuning: Instructing Large Language Models to Say `I Don't Know'. Proceedings of the 2024 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (Volume 1: Long Papers), 7113–7139. https://doi.org/10.18653/v1/2024.naacl-long.394

Maynez et al. (2020) separated two kinds of hallucination in summarization, and the difference decides how you catch one in any output checked against a source you supplied.

The two call for different checks (Figure 2figure 2). For an intrinsic one, everything needed is in front of you: the summary says the lease permits something the lease forbids, and reading both catches it. For an extrinsic one, the output is internally consistent and the error is a fact about the world, so catching it means knowing the subject or looking it up.

Sources

• Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. https://doi.org/10.18653/v1/2020.acl-main.173

Maynez et al. (2020) ont distingué deux types de fabulations en résumé automatique, et la différence détermine comment vous pouvez en repérer une dans toute sortie vérifiable contre une source que vous avez fournie.

Les deux appellent des vérifications différentes (Figure 2figure 2). Pour une fabulation intrinsèque, tout ce qu’il faut est devant vous : le résumé dit que le bail permet ce que le bail interdit, et lire les deux suffit à la repérer. Pour une fabulation extrinsèque, la sortie est cohérente avec elle-même et l’erreur porte sur un fait du monde : la repérer suppose de connaître le sujet ou d’aller le vérifier.

Sources

• Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On Faithfulness and Factuality in Abstractive Summarization. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. https://doi.org/10.18653/v1/2020.acl-main.173

Reading does not tell you which parts are true

Asked for a quick biography of me, a chatbot opened with a warning that it might hallucinate details, then wrote five confident, well-organized paragraphs (Figure 3figure 3). The field is right. The doctorate is right, down to its subject, and the corpus it credits me with is one I did build. The university it puts me at is wrong: I have not worked at Ghent since 2022. Nothing in the manner of that one sentence separates it from the ones around it.

It also leaves things out. My work has moved well beyond term extraction, and none of that appears here. That is the knowledge cutoff knowledge cutoffdate de coupure des connaissances language modelsmodèles de langue The point in time up to which the text a model was trained on was gathered, and after which nothing reached it during training.Moment jusqu'auquel le texte ayant servi à entraîner un modèle a été rassemblé, et après lequel plus rien ne lui est parvenu pendant l'entraînement. showing: recent material is thinner in the training text than older material, and the most recent information is missing altogether, unless the model also searches the web. The wrong university is the same gradient at work. At the cutoff there was far more text linking me to Ghent, where I did my doctorate, than to the universities I moved to afterwards, so the best-attested answer was the out-of-date one.

Being well known is not the same as being well covered in the training text. Gurky is far more famous than I am, but his fame is in video rather than in writing, and a model is trained on text. In January 2025, asked in French for a short biography of Gurky, a Québécois YouTuber, a chatbot had the general picture right, a francophone YouTuber, and every specific wrong. It gave him a real name, a nationality, a birth year and a start on YouTube, all four wrong, as was the kind of videos it said he makes (Figure 4figure 4).A 2023 profile in the Québec press gives his first name as Jules, and the date of his first video as 6 May 2012, when he was 13: Adam Bourbonnière, 7 choses à savoir sur Gurky, youtubeur de l’année, Le Sac de chips, 10 February 2023, read 17 September 2026.

Such errors are hard to see. They are plausible enough that nothing jars, the correct details around them vouch for them, and apart from the rare general hedge, as in the first example, no uncertainty is expressed about any particular claim.

Careful reading checks a text against itself, so it tests coherence. It does not test factuality, which is a question about the world rather than about the text.

A text can be perfectly coherent and still correspond to nothing, so an error of this kind passes a careful reading every time.

The 90 % problem

Hallucinations are becoming less common in LLMs.Fabricated references, for instance, fell sharply from GPT-3.5 to GPT-4 (Walters & Wilder, 2023). A measured rate is always for one task, and rates have not fallen evenly on all of them. While this is on the whole a good thing, it also makes the remaining ones trickier. Think of it as the 90 % (or even 99 %) problem: if the vast majority of the information presented to you is correct, and all of it is presented equally confidently and all of it seems plausible, the remaining errors are very hard to detect. And the more often you see good output, the “lazier” you can become with fact-checking, because on average the output is, or looks, pretty good.

Sources

• Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models. Online draft, 3rd edition. https://web.stanford.edu/~jurafsky/slp3/
• Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5

La lecture ne dit pas quelles parties sont vraies

À qui lui demandait en anglais une courte biographie de moi, un agent conversationnel a commencé par avertir qu’il risquait de fabuler certains détails, puis a écrit cinq paragraphes assurés et bien organisés (Figure 3figure 3). Le domaine est exact. Le doctorat est exact, jusqu’à son sujet, et le corpus qu’il m’attribue est bien un corpus que j’ai construit. L’université où il me place est fausse : je ne travaille plus à Gand depuis 2022. Rien, dans la manière de cette phrase-là, ne la distingue de celles qui l’entourent.

Il omet aussi des choses. Mon travail a largement dépassé l’extraction de termes, et rien de cela n’apparaît ici. C’est la date de coupure des connaissances knowledge cutoffdate de coupure des connaissances language modelsmodèles de langue The point in time up to which the text a model was trained on was gathered, and after which nothing reached it during training.Moment jusqu'auquel le texte ayant servi à entraîner un modèle a été rassemblé, et après lequel plus rien ne lui est parvenu pendant l'entraînement. qui se manifeste : le matériel récent est plus mince dans le texte d’entraînement que le matériel ancien, et l’information la plus récente manque tout à fait, à moins que le modèle ne fasse aussi une recherche sur le Web. L’université fausse relève du même gradient. À la date de coupure, il y avait beaucoup plus de texte me reliant à Gand, où j’ai fait mon doctorat, qu’aux universités où je suis allée ensuite, si bien que la réponse la mieux attestée était la réponse périmée.

Être connu n’est pas la même chose qu’être bien représenté dans le texte d’entraînement. Gurky est bien plus célèbre que moi, mais sa notoriété passe par la vidéo plutôt que par l’écrit, et un modèle est entraîné sur du texte. En janvier 2025, à qui lui demandait en français une courte biographie de Gurky, un youtubeur québécois, un agent conversationnel a vu juste sur le tableau d’ensemble, un youtubeur francophone, et faux sur chaque détail. Il lui a donné un nom civil, une nationalité, une année de naissance et un début sur YouTube, les quatre faux, tout comme le genre de vidéos qu’il lui prêtait (Figure 4figure 4).Un portrait paru dans la presse québécoise en 2023 donne Jules comme prénom, et le 6 mai 2012 comme date de sa première vidéo, alors qu’il avait 13 ans : Adam Bourbonnière, 7 choses à savoir sur Gurky, youtubeur de l’année, Le Sac de chips, 10 février 2023, consulté le 17 septembre 2026.

De telles erreurs sont difficiles à voir. Elles sont assez plausibles pour que rien ne détonne, les détails exacts qui les entourent leur servent de caution, et à part la rare réserve générale, comme dans le premier exemple, aucune incertitude n’est exprimée sur une affirmation en particulier.

Une lecture attentive confronte un texte à lui-même : elle vérifie donc sa cohérence. Elle ne vérifie pas sa factualité, qui est une question sur le monde plutôt que sur le texte.

Un texte peut être parfaitement cohérent et ne correspondre à rien, si bien qu’une erreur de ce genre passe une lecture attentive à tout coup.

Le problème des 90 %

Les fabulations se raréfient dans les GML.Les références fabriquées, par exemple, ont nettement reculé de GPT-3.5 à GPT-4 (Walters et Wilder, 2023). Un taux mesuré vaut toujours pour une tâche, et les taux n’ont pas baissé également partout. Si c’est dans l’ensemble une bonne chose, cela rend aussi les fabulations restantes plus retorses. Voyez cela comme le problème des 90 % (voire des 99 %) : si la grande majorité de l’information qui vous est présentée est exacte, qu’elle est présentée partout avec la même assurance et qu’elle paraît partout plausible, les erreurs restantes sont très difficiles à détecter. Et plus vous voyez de bonnes sorties, plus vous pouvez devenir « paresseux » dans la vérification des faits, parce qu’en moyenne la sortie est bonne, ou en a l’air.

Sources

• Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models. Online draft, 3rd edition. https://web.stanford.edu/~jurafsky/slp3/
• Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5

What the developers do

Three approaches are in use, but none of them removes the problem.

Approach	What it does	What it still misses
Refusal training, a kind of fine-tuning fine-tuningaffinage machine learningapprentissage automatique Further training of a pretrained model on new data to adapt it for a particular task, domain, or intended behaviour.Poursuite de l'entraînement d'un modèle préentraîné sur un jeu de données généralement plus restreint et spécialisé, afin de l'adapter à une tâche ou à un domaine particulier.	Trains the model to answer “I do not know” past the limits of what it answers correctly	It also declines questions it could have answered: accuracy accuracyexactitude evaluationévaluation The share of all decisions of a system that are correct, true positives and true negatives together.Part de toutes les décisions d'un système qui sont correctes, vrais positifs et vrais négatifs ensemble. trades against the number of questions answered (Zhang et al., 2024)
Retrieval-augmented generation retrieval-augmented generation (RAG)génération augmentée par récupération (GAR) language modelsmodèles de langue A technique for improving the answers of a large language model by retrieving passages from an external source, such as a document collection or a web search, and adding them to the model's context before it generates its answer.Technique visant à améliorer les réponses d'un grand modèle de langue en extrayant des passages d'une source externe, par exemple une collection de documents ou une recherche Web, et en les ajoutant au contexte du modèle avant qu'il génère sa réponse.	Searches a document collection and puts the passages it finds into the context, so the answer can be based on text that is present	The answer can still misstate a passage, and a failed search returns the model to its parameters parameterparamètre de modèle machine learningapprentissage automatique A numerical value learned during a model's training and used in its computations.Valeur numérique apprise pendant l'entraînement d'un modèle et utilisée dans ses calculs. (Chen et al., 2024)
Web search	The answer can come from a retrieved page rather than from the parameters	The page itself can be wrong, and a link shows where a claim came from rather than that it is true

Both studies used models of 2023. Zhang et al. (2024) tested refusal training on OpenLLaMA-3B and LLaMA 7B and 13B. Chen et al. (2024) tested retrieval on ChatGPT and several open 6B and 7B models, which did worst at declining when the retrieved documents did not contain the answer, at combining information from several documents, and at detecting false information in them.

The numbers date faster than the failures do. Each of these is a mitigation rather than a guarantee, and the September 2026 runs below show one of the same failures on current models: an answer based on a source that is wrong.

The biography of Gurky earlier in this chapter came from a model of 2025 answering from its parameters alone. Put to two chatbots in September 2026, the same question sent both of them to the web without being asked, and searching changed what went wrong rather than removing it.

The first searched and then used a celebrity birthday site, which gave it a full name and a birth date; the name is wrong (Figure 5figure 5).

The second found the Québec press instead and gave his first name correctly (Figure 6figure 6), although a second run of the same question took the wrong name from the same birthday site.

Asked in that conversation for his date of birth, it returned both sources, stated that the two conflict, and called the date unverified (Figure 7figure 7).

The three differ in which sources they found and in whether they said how far to trust them. A cited source can also be the wrong source altogether: asked to identify the news article a quoted excerpt came from, eight search tools gave an incorrect answer more than 60 % of the time, often naming a plausible article that was not the one quoted (Jaźwińska & Chandrasekar, 2025).A report from a journalism school’s research centre rather than a peer-reviewed study: 1,600 tests over eight AI search tools. So a link tells you what to check next rather than that the claim is true.

Hallucination rates are also tracked publicly. On the best known leaderboardVectara, Hallucination Leaderboard, last updated 11 May 2026 and read 17 September 2026: rates from 1.8 % upward, with GPT-5.4 at 7.0 % against 3.1 % for its smallest version. no model reaches zero, and the largest models are not always the lowest (see also the Reading a leaderboard page, in the Using LLMs module) (voir aussi la page Lire un classement, dans le module Utiliser les GML).

What you can do

Supplying the source

When the work you give a model is work on a text you already have, for instance translating it, summarizing it, rewriting it for a different reader or checking it against a list of terms, put that text in the context.

It cuts down how often the model goes wrong about that text, though not to zero. The errors that remain concern a document you have, so you can find them by reading, instead of needing to know the subject yourself. That is the difference between an extrinsic hallucination extrinsic hallucinationfabulation extrinsèque language modelsmodèles de langue Generated content that can be neither supported nor contradicted by the source or context against which the output is being evaluated.Contenu généré qui ne peut être ni appuyé ni contredit par la source ou le contexte servant à évaluer la sortie. and an intrinsic one.

What does not help

Asking a model to be more careful changes little: no part of it is responsible for care, and truth is not a variable in the process. Rereading an output for consistency does not help either, because the process produces consistency. The checks that work compare a claim with something outside the output (see also the Checking the answer page, in the Using LLMs module) (voir aussi la page Vérifier la réponse, dans le module Utiliser les GML).

Which details deserve suspicion

The risk is not spread evenly. Fabrication concentrates in specific, checkable details that were rare in the training text, for instance dates, numbers, names, page references, citations, quotations, legal provisions, and anything recent.

General explanation of a well-covered topic is far safer. On a subject written about many times over, an explanation is usually sound, and that is a large part of what these tools are useful for. Usually is not always, and such an explanation can be wrong about something central rather than about a detail, but it is a different order of risk from a fabricated citation.

So the checking follows the risk rather than covering everything. If you are going to verify three things in an output, verify the three most specific ones.

Fabricated references have been measured directly. Walters and Wilder (2023) checked every reference in short literature reviews written by two models of 2023: more than half of what GPT-3.5 produced did not exist, and just under a fifth of GPT-4’s. Of the references that did exist, between a quarter and almost half had at least one substantive error, most often in the volume, issue or page numbers or in the date.

Sources

• Chen, J., Lin, H., Han, X., & Sun, L. (2024). Benchmarking Large Language Models in Retrieval-Augmented Generation. Proceedings of the AAAI Conference on Artificial Intelligence, 38(16), 17754–17762. https://doi.org/10.1609/aaai.v38i16.29728
• Jaźwińska, K., & Chandrasekar, A. (2025). AI Search Has a Citation Problem. Tow Center for Digital Journalism, Columbia Journalism Review, 6 March 2025. https://www.cjr.org/tow_center/we-compared-eight-ai-search-engines-theyre-all-bad-at-citing-news.php
• Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models. Online draft, 3rd edition. https://web.stanford.edu/~jurafsky/slp3/
• Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5
• Xu, Z., Jain, S., & Kankanhalli, M. (2024). Hallucination is Inevitable: An Innate Limitation of Large Language Models. arXiv:2401.11817 (preprint). https://arxiv.org/abs/2401.11817
• Zhang, H., Diao, S., Lin, Y., Fung, Y. R., Lian, Q., Wang, X., Chen, Y., Ji, H., & Zhang, T. (2024). R-Tuning: Instructing Large Language Models to Say `I Don't Know'. Proceedings of the 2024 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (Volume 1: Long Papers), 7113–7139. https://doi.org/10.18653/v1/2024.naacl-long.394

Ce que font les concepteurs

Trois approches sont en usage, mais aucune ne supprime le problème.

Approche	Ce qu’elle fait	Ce qui lui échappe encore
L’entraînement au refus, une forme d’affinage fine-tuningaffinage machine learningapprentissage automatique Further training of a pretrained model on new data to adapt it for a particular task, domain, or intended behaviour.Poursuite de l'entraînement d'un modèle préentraîné sur un jeu de données généralement plus restreint et spécialisé, afin de l'adapter à une tâche ou à un domaine particulier.	Entraîne le modèle à répondre « je ne sais pas » au-delà des limites de ce à quoi il répond correctement	Il refuse aussi des questions auxquelles il aurait pu répondre : l’exactitude accuracyexactitude evaluationévaluation The share of all decisions of a system that are correct, true positives and true negatives together.Part de toutes les décisions d'un système qui sont correctes, vrais positifs et vrais négatifs ensemble. se paie sur le nombre de questions traitées (Zhang et al., 2024)
La génération augmentée par récupération retrieval-augmented generation (RAG)génération augmentée par récupération (GAR) language modelsmodèles de langue A technique for improving the answers of a large language model by retrieving passages from an external source, such as a document collection or a web search, and adding them to the model's context before it generates its answer.Technique visant à améliorer les réponses d'un grand modèle de langue en extrayant des passages d'une source externe, par exemple une collection de documents ou une recherche Web, et en les ajoutant au contexte du modèle avant qu'il génère sa réponse.	Cherche dans une collection de documents et met les passages trouvés dans le contexte, pour que la réponse puisse s’appuyer sur un texte présent	La réponse peut encore déformer un passage, et une recherche infructueuse ramène le modèle à ses paramètres parameterparamètre de modèle machine learningapprentissage automatique A numerical value learned during a model's training and used in its computations.Valeur numérique apprise pendant l'entraînement d'un modèle et utilisée dans ses calculs. (Chen et al., 2024)
La recherche sur le Web	La réponse peut venir d’une page récupérée plutôt que des paramètres	La page elle-même peut être fausse, et un lien montre d’où vient une affirmation plutôt que sa véracité

Les deux études portaient sur des modèles de 2023. Zhang et al. (2024) ont testé l’entraînement au refus sur OpenLLaMA-3B et LLaMA 7B et 13B. Chen et coll. (2024) ont testé la récupération sur ChatGPT et sur plusieurs modèles ouverts de 6 et 7 milliards de paramètres, qui ont le plus échoué à refuser quand les documents récupérés ne contenaient pas la réponse, à combiner l’information de plusieurs documents et à détecter l’information fausse qui s’y trouvait.

Les chiffres vieillissent plus vite que les échecs. Chacune de ces approches est une atténuation plutôt qu’une garantie, et les essais de septembre 2026 ci-dessous montrent l’un des mêmes échecs sur des modèles actuels : une réponse appuyée sur une source fausse.

La biographie de Gurky présentée plus tôt dans ce chapitre venait d’un modèle de 2025 qui répondait à partir de ses seuls paramètres. Posée à deux agents conversationnels en septembre 2026, la même question les a tous deux envoyés sur le Web sans qu’on le leur demande, et la recherche a changé la nature de l’erreur plutôt que de la supprimer.

Le premier a cherché, puis s’en est remis à un site de célébrités et d’anniversaires, qui lui a fourni un nom complet et une date de naissance ; le nom est faux (Figure 5figure 5).

Le second a trouvé la presse québécoise et a donné son prénom correctement (Figure 6figure 6), même si un second essai de la même question a repris le nom faux au même site d’anniversaires.

Interrogé dans cette conversation sur sa date de naissance, il a rendu les deux sources, signalé qu’elles se contredisent et qualifié la date de non vérifiée (Figure 7figure 7).

Les trois diffèrent par les sources qu’ils ont trouvées et par ce qu’ils ont dit du crédit à leur accorder. Une source citée peut aussi être la mauvaise source : à qui leur demandait d’identifier l’article de presse d’où venait un extrait cité, huit outils de recherche ont donné une réponse erronée plus de 60 % du temps, en nommant souvent un article plausible qui n’était pas celui d’où venait la citation (Jaźwińska et Chandrasekar, 2025).Un rapport du centre de recherche d’une école de journalisme, et non une étude évaluée par les pairs : 1 600 essais sur huit outils de recherche par IA. Un lien vous dit donc quoi vérifier ensuite plutôt que la vérité de l’affirmation.

Les taux de fabulation font aussi l’objet d’un suivi public. Sur le classement le plus connuVectara, Hallucination Leaderboard, dernière mise à jour le 11 mai 2026, consulté le 17 septembre 2026 : des taux à partir de 1,8 %, avec GPT-5.4 à 7,0 % contre 3,1 % pour sa plus petite version. aucun modèle n’atteint zéro, et les plus grands modèles ne sont pas toujours les plus bas (see also the Reading a leaderboard page, in the Using LLMs module) (voir aussi la page Lire un classement, dans le module Utiliser les GML).

Ce que vous pouvez faire

Fournir la source

Quand le travail que vous confiez à un modèle porte sur un texte que vous avez déjà, par exemple le traduire, le résumer, le réécrire pour un autre lectorat ou le confronter à une liste de termes, mettez ce texte dans le contexte.

Cela réduit la fréquence des erreurs du modèle sur ce texte, sans la ramener à zéro. Ce qui reste porte sur un document que vous avez sous les yeux : vous pouvez donc le repérer en lisant, au lieu d’avoir à connaître le sujet vous-même. C’est la différence entre une fabulation extrinsèque extrinsic hallucinationfabulation extrinsèque language modelsmodèles de langue Generated content that can be neither supported nor contradicted by the source or context against which the output is being evaluated.Contenu généré qui ne peut être ni appuyé ni contredit par la source ou le contexte servant à évaluer la sortie. et une intrinsèque.

Ce qui ne sert à rien

Demander à un modèle d’être plus prudent ne change pas grand-chose : aucune partie de lui n’est chargée de la prudence, et la vérité n’est pas une variable du processus. Relire une sortie pour en vérifier la cohérence ne sert pas davantage, puisque le processus produit de la cohérence. Les vérifications qui fonctionnent comparent une affirmation à quelque chose d’extérieur à la sortie (see also the Checking the answer page, in the Using LLMs module) (voir aussi la page Vérifier la réponse, dans le module Utiliser les GML).

Quels détails méritent la méfiance

Le risque n’est pas réparti également. La fabrication se concentre sur les détails précis et vérifiables qui étaient rares dans le texte d’entraînement, par exemple les dates, les nombres, les noms, les renvois de pages, les références, les citations, les dispositions légales et tout ce qui est récent.

L’explication générale d’un sujet bien couvert est nettement plus sûre. Sur un sujet sur lequel on a écrit bien des fois, une explication est en général solide, et c’est pour une bonne part ce à quoi ces outils servent. En général ne veut pas dire toujours, et une telle explication peut se tromper sur quelque chose de central plutôt que sur un détail, mais ce n’est pas le même ordre de risque qu’une référence fabriquée.

La vérification suit donc le risque plutôt que de tout couvrir. Si vous devez vérifier trois choses dans une sortie, vérifiez les trois plus précises.

Les références fabriquées ont été mesurées directement. Walters et Wilder (2023) ont vérifié chaque référence dans de courtes revues de littérature écrites par deux modèles de 2023 : plus de la moitié de ce que GPT-3.5 a produit n’existait pas, contre un peu moins d’un cinquième pour GPT-4. Parmi les références qui existaient bel et bien, entre un quart et près de la moitié comportaient au moins une erreur de fond, le plus souvent dans le volume, le numéro, les pages ou la date.

Sources

• Chen, J., Lin, H., Han, X., & Sun, L. (2024). Benchmarking Large Language Models in Retrieval-Augmented Generation. Proceedings of the AAAI Conference on Artificial Intelligence, 38(16), 17754–17762. https://doi.org/10.1609/aaai.v38i16.29728
• Jaźwińska, K., & Chandrasekar, A. (2025). AI Search Has a Citation Problem. Tow Center for Digital Journalism, Columbia Journalism Review, 6 mars 2025. https://www.cjr.org/tow_center/we-compared-eight-ai-search-engines-theyre-all-bad-at-citing-news.php
• Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models. Online draft, 3rd edition. https://web.stanford.edu/~jurafsky/slp3/
• Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5
• Xu, Z., Jain, S., & Kankanhalli, M. (2024). Hallucination is Inevitable: An Innate Limitation of Large Language Models. arXiv:2401.11817 (preprint). https://arxiv.org/abs/2401.11817
• Zhang, H., Diao, S., Lin, Y., Fung, Y. R., Lian, Q., Wang, X., Chen, Y., Ji, H., & Zhang, T. (2024). R-Tuning: Instructing Large Language Models to Say `I Don't Know'. Proceedings of the 2024 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (Volume 1: Long Papers), 7113–7139. https://doi.org/10.18653/v1/2024.naacl-long.394