Administrator
This teaching view is for the instructor. Enter the administrator password.
Wrong password · Mot de passe incorrect
Key pointsL'essentiel
HallucinationsLes fabulations de l'IA
Nothing marks a statement as true or false at any point, so producing a fact and producing a fabrication are the same operation. A follows from how a model is trained rather than from a fault.
Rien ne marque un énoncé comme vrai ou faux à aucun moment, de sorte que produire un fait et produire une fabrication sont la même opération. Une découle de la façon dont le modèle est entraîné plutôt que d'un défaut.
hallucination · fr: fabulation de l'IA fabulation de l'IA · en : hallucination language models modèles de langue : Content generated by an AI model that is factually incorrect or fabricated, even though it may sound plausible. Contenu généré par un modèle d'IA qui est factuellement inexact ou fabriqué, même s'il peut sembler plausible.
Key pointsL'essentiel
HallucinationsLes fabulations de l'IA
An contradicts a source you supplied and can be caught by reading; an needs outside knowledge.
Une contredit une source que vous avez fournie et se repère à la lecture ; une exige des connaissances extérieures.
intrinsic hallucination · fr: fabulation intrinsèque fabulation intrinsèque · en : intrinsic hallucination language models modèles de langue : Generated content that uses or combines information from the provided source or context in a way that misrepresents or contradicts that information. Contenu généré qui utilise ou combine l'information de la source ou du contexte fournis d'une façon qui la dénature ou la contredit.
extrinsic hallucination · fr: fabulation extrinsèque fabulation extrinsèque · en : extrinsic hallucination language models modèles de langue : Generated content that can be neither supported nor contradicted by the source or context against which the output is being evaluated. Contenu généré qui ne peut être ni appuyé ni contredit par la source ou le contexte servant à évaluer la sortie.
Key pointsL'essentiel
HallucinationsLes fabulations de l'IA
One wrong detail appears among correct ones, in the same confident tone, so careful reading does not find it. A text can be to anything.
Un détail faux apparaît au milieu de détails exacts, sur le même ton assuré, si bien qu'une lecture attentive ne le trouve pas. Un texte peut être à quoi que ce soit.
coherence-correspondence distinction · fr: distinction entre cohérence et correspondance distinction entre cohérence et correspondance · en : coherence-correspondence distinction evaluation évaluation : A distinction between two criteria for judging an output: coherence, whether its claims, reasoning and conclusion are consistent with one another, and correspondence, whether the output agrees with the facts outside it. Distinction entre deux critères pour juger une sortie : la cohérence, soit la compatibilité mutuelle des affirmations, du raisonnement et de la conclusion, et la correspondance, soit l'accord de la sortie avec les faits extérieurs.
Key pointsL'essentiel
HallucinationsLes fabulations de l'IA
Mitigations lower how often models hallucinate, but none removes the problem. Supplying the source and checking against something outside the text help most.
Les mesures d'atténuation réduisent la fréquence des fabulations, mais aucune ne supprime le problème. Fournir la source et vérifier contre quelque chose d'extérieur au texte sont les plus efficaces.
Page 1Page 1
Where hallucinations come fromD'où viennent les fabulations
- A is fluent output that is unfounded or false, and it follows from the training objective rather than from a bug.
- Nothing marks a statement as true or false at any point in the process, so producing a fact and producing a plausible fabrication are the same operation.
- Une est une sortie fluide, sans fondement ou fausse, et elle découle de la façon dont le modèle est entraîné plutôt que d'un défaut.
- Rien ne marque un énoncé comme vrai ou faux à aucun moment du processus, de sorte que produire un fait et produire une fabrication plausible sont la même opération.
hallucination · fr: fabulation de l'IA fabulation de l'IA · en : hallucination language models modèles de langue : Content generated by an AI model that is factually incorrect or fabricated, even though it may sound plausible. Contenu généré par un modèle d'IA qui est factuellement inexact ou fabriqué, même s'il peut sembler plausible.
Page 1Page 1
Page 2Page 2
Two kinds of hallucinationsDeux types de fabulations
- An contradicts a source you supplied, so reading the source finds it, while an adds something no source contains, so only outside knowledge finds it.
- The pair is defined against a source you supplied, so it does not cover an answer that faithfully repeats a source that was already wrong.
- Une contredit une source que vous avez fournie, si bien que la lecture de cette source la révèle, tandis qu'une ajoute ce qu'aucune source ne contient, si bien que seules des connaissances extérieures la révèlent.
- La paire se définit par rapport à une source que vous avez fournie, et elle ne couvre donc pas une réponse qui reprend fidèlement une source déjà fausse.
intrinsic hallucination · fr: fabulation intrinsèque fabulation intrinsèque · en : intrinsic hallucination language models modèles de langue : Generated content that uses or combines information from the provided source or context in a way that misrepresents or contradicts that information. Contenu généré qui utilise ou combine l'information de la source ou du contexte fournis d'une façon qui la dénature ou la contredit.
extrinsic hallucination · fr: fabulation extrinsèque fabulation extrinsèque · en : extrinsic hallucination language models modèles de langue : Generated content that can be neither supported nor contradicted by the source or context against which the output is being evaluated. Contenu généré qui ne peut être ni appuyé ni contredit par la source ou le contexte servant à évaluer la sortie.
Page 2Page 2
Page 3Page 3
Why detecting hallucinations is hardPourquoi les fabulations sont difficiles à détecter
- A small false detail appears inside a large amount of correct, confident text, and apart from the rare general hedge nothing marks it.
- Careful reading tests whether a text hangs together, not whether it is true, so an error of this kind passes that check every time.
- As models improve, the errors that are left get harder to catch rather than easier.
- Un petit détail faux apparaît au milieu d'une grande quantité de texte exact et assuré, et à part la rare réserve générale, rien ne le signale.
- Une lecture attentive vérifie si un texte tient ensemble, pas s'il est vrai, si bien qu'une erreur de ce genre passe cette vérification à tout coup.
- À mesure que les modèles s'améliorent, les erreurs qui restent deviennent plus difficiles à repérer plutôt que plus faciles.
Page 3Page 3
Page 3Page 3
Page 4Page 4
Mitigating hallucinationsAtténuer les fabulations
- Every mitigation reduces how often models hallucinate, but none removes the problem, so you always have to decide where to check.
- The reliable defences are external: give the model the source, and verify against something outside the text.
- Chaque mesure d'atténuation réduit la fréquence des fabulations, mais aucune ne supprime le problème, si bien que vous avez toujours à décider où vérifier.
- Les défenses fiables sont externes : donnez la source au modèle, et vérifiez contre quelque chose d'extérieur au texte.
Page 4Page 4
Page 4Page 4
Page 4Page 4
