Administrator
This teaching view is for the instructor. Enter the administrator password.
Wrong password · Mot de passe incorrect
Key pointsL'essentiel
Choosing a modelChoisir un modèle
Choosing a model means choosing a family, which in practice means choosing a provider; then a generation of that family; then a tier inside that generation.
Choisir un modèle, c'est choisir une famille, ce qui revient en pratique à choisir un fournisseur ; puis une génération de cette famille ; puis un niveau dans cette génération.
Key pointsL'essentiel
Choosing a modelChoisir un modèle
Many current models take a second setting beside the model itself, an effort level that sets how much computation goes into an answer; what you may set depends on the product and the plan.
Bien des modèles actuels offrent un second réglage en plus du modèle lui-même, un niveau d'effort qui détermine la quantité de calcul consacrée à une réponse ; ce que vous pouvez régler dépend du produit et du forfait.
Key pointsL'essentiel
Choosing a modelChoisir un modèle
A model can be accessed through a chat app, through an or by running it on your own computer; the three differ in control, in cost and in who has access to your text.
On peut accéder à un modèle par une application conversationnelle, par une ou en le faisant tourner sur son propre ordinateur ; les trois diffèrent par le contrôle, le coût et les personnes qui ont accès à votre texte.
Key pointsL'essentiel
Choosing a modelChoisir un modèle
No table says which model suits a task, and a verdict formed once goes stale fast. Trying the task on two or three assistants, and keeping a few test cases of your own, is how you find out.
Aucun tableau ne dit quel modèle convient à une tâche, et un avis formé une fois vieillit vite. Essayer la tâche avec deux ou trois assistants, et garder quelques cas tests de votre propre travail, permet de le savoir.
Page 1Page 1
Families, generations and tiersFamilles, générations et niveaux
- Choosing a model means choosing a family, which in practice means choosing a provider; then a generation of that family; then a tier inside that generation.
- Each of these choices, and the effort setting beside them, can change your results considerably; which one counts most depends on the task.
- A name says little on its own, and the same tier name in a new generation is a different model.
- Choisir un modèle, c'est choisir une famille, ce qui revient en pratique à choisir un fournisseur ; puis une génération de cette famille ; puis un niveau dans cette génération.
- Chacun de ces choix, tout comme le réglage d'effort qui les accompagne, peut changer considérablement vos résultats ; celui qui compte le plus dépend de la tâche.
- Un nom en dit peu à lui seul, et le même nom de niveau désigne un modèle différent dans une nouvelle génération.
Page 1Page 1
Page 1Page 1
Page 1Page 1
Page 1Page 1
Page 1Page 1
Page 2Page 2
Execution “effort”L'« effort » d'exécution
- On many current models you set an effort level beside the model: how much computation the model spends on an answer. A higher setting costs more and takes longer, and can give better results on complex tasks.
- Much of this is decided for you: which models and levels your plan offers, the default setting, how fast your usage allowance runs out, and sometimes which model answers.
- Sur bien des modèles actuels, on règle un niveau d'effort en plus du choix du modèle : la quantité de calcul que le modèle consacre à une réponse. Un réglage plus élevé coûte plus cher et prend plus de temps, et peut donner de meilleurs résultats sur les tâches complexes.
- Une bonne partie est décidée pour vous : les modèles et les niveaux qu'offre votre forfait, le réglage par défaut, la vitesse à laquelle votre quota d'utilisation s'épuise et, parfois, le modèle qui répond.
Page 2Page 2
Page 2Page 2
Page 2Page 2
Page 3Page 3
Chat app, API or your own computerApplication, API ou votre propre ordinateur
- A model can be accessed in three ways: through a chat app, through an from your own program, or by downloading it and running it on your own computer.
- The three differ in effort, in control, in cost and in who has access to your text. Paying per token shows costs that a subscription hides.
- On peut accéder à un modèle de trois façons : par une application conversationnelle, par une depuis votre propre programme, ou en le téléchargeant pour le faire tourner sur votre ordinateur.
- Les trois diffèrent par l'effort demandé, le contrôle, le coût et les personnes qui ont accès à votre texte. Payer au jeton fait voir des coûts qu'un abonnement cache.
Page 3Page 3
Page 3Page 3
Page 3Page 3
Page 4Page 4
Which model for which taskQuel modèle pour quelle tâche
- No table can say which model suits a task, because what a model manages does not follow how hard the task looks. For an important task, trying it on two or three assistants for a few turns usually shows which one helps most.
- Inside a family, a small model at a low effort level is enough for routine work; a larger model or a higher effort level earns its cost where the task has several parts and a wrong answer is expensive.
- Capability, cost and privacy pull against each other, and when the material is confidential, privacy often decides.
- Aucun tableau ne peut dire quel modèle convient à une tâche, parce que ce qu'un modèle réussit ne suit pas la difficulté apparente de la tâche. Pour une tâche importante, l'essayer avec deux ou trois assistants pendant quelques échanges montre généralement lequel aide le mieux.
- Dans une même famille, un petit modèle à faible niveau d'effort suffit pour le travail courant ; un modèle plus grand ou un niveau d'effort plus élevé vaut son coût quand la tâche comporte plusieurs étapes et qu'une erreur coûte cher.
- Capacité, coût et confidentialité tirent dans des directions opposées, et quand les documents sont confidentiels, c'est souvent la confidentialité qui l'emporte.
Page 4Page 4
Page 4Page 4
Page 5Page 5
Testing it yourselfFaire vos propres tests
- A disappointing result with one model at one moment says little about what current models can do, because the family, the generation, the tier and the all make a difference.
- A published ranking averages over many tasks, so the comparison that tells you most is one run on your own work.
- Trying a few recent tasks whenever models change is often enough. A systematic test set pays off for tasks you do often, for choices made for a team, and for research.
- Un résultat décevant avec un modèle à un moment donné en dit peu sur ce que peuvent faire les modèles actuels, parce que la famille, la génération, le niveau et le font tous une différence.
- Un classement publié fait la moyenne sur de nombreuses tâches : la comparaison la plus parlante est celle que vous faites sur votre propre travail.
- Essayer quelques tâches récentes chaque fois que les modèles changent suffit souvent. Un ensemble de tests systématique est rentable pour les tâches fréquentes, pour les choix faits pour une équipe et pour la recherche.
Page 5Page 5
Key pointsL'essentiel
PromptingFormulation de requêtes
A is the text you give the model, and the only part of the system you control. Most of the tricks that circulated in the early years no longer make a reliable difference.
Une , c'est le texte que vous fournissez au modèle, et la seule partie du système qui dépend de vous. La plupart des astuces qui circulaient les premières années ne font plus de différence fiable.
Key pointsL'essentiel
PromptingFormulation de requêtes
Saying exactly what you want, giving examples, splitting a task into steps and structuring the prompt still do.
Dire exactement ce que vous voulez, donner des exemples, découper une tâche en étapes et structurer la requête en font encore une.
Key pointsL'essentiel
PromptingFormulation de requêtes
Prompts in English have long been followed more reliably than prompts in other languages, though for widely used languages on current models the difference is small; the output language is a separate choice.
Les requêtes en anglais ont longtemps été mieux suivies que les requêtes dans d'autres langues, mais pour les langues très répandues, l'écart est faible sur les modèles actuels ; la langue de la réponse est un choix à part.
Key pointsL'essentiel
PromptingFormulation de requêtes
A long document, a long conversation and a correction that keeps failing are all limits of the context window, and each has a practical answer.
Un long document, une longue conversation et une correction qui ne passe jamais relèvent tous des limites de la fenêtre contextuelle, et chacun a une solution pratique.
Key pointsL'essentiel
PromptingFormulation de requêtes
Anything you correct in every conversation belongs in your , and a project keeps a piece of work's files and instructions in one place.
Ce que vous corrigez dans chaque conversation a sa place dans vos , et un projet réunit en un seul endroit les fichiers et les instructions d'un travail.
Page 1Page 1
Prompts and prompt engineeringRequêtes et rédactique
- A is everything you give the model. Once you have chosen a model and its settings, the prompt is the part of the system you control.
- Most of the tricks that circulated in the first years no longer make a reliable difference on current models, but clear instructions with enough information still do.
- Une , c'est tout ce que vous fournissez au modèle. Une fois le modèle et ses réglages choisis, la requête est la partie du système qui dépend de vous.
- La plupart des astuces qui ont circulé les premières années ne font plus de différence fiable sur les modèles actuels, mais des instructions claires et une information suffisante en font encore une.
Page 1Page 1
Page 1Page 1
Page 2Page 2
Be specific and ask for enoughÊtre précis et en demander assez
- Stating the audience, length, scope, format and purpose of what you want gets a better answer than a bare request.
- A model produces many candidates in seconds, so asking for many and choosing among them usually beats asking for a few and accepting them.
- Préciser le public, la longueur, la portée, le format et l'objectif de ce que vous voulez donne une meilleure réponse qu'une demande nue.
- Un modèle produit de nombreuses propositions en quelques secondes : en demander beaucoup puis choisir vaut généralement mieux qu'en demander quelques-unes et les accepter.
Page 2Page 2
Page 2Page 2
Page 2Page 2
Page 2Page 2
Page 3Page 3
Split the taskDécouper la tâche
- Splitting a task into steps gives you more control than one long request: you can check each result and correct course along the way.
- Asking for step-by-step work helps mainly on tasks worked out by rule; a model set to reason does it unasked.
- Découper une tâche en étapes vous donne plus de maîtrise qu'une seule longue demande : vous pouvez vérifier chaque résultat et rectifier le tir en cours de route.
- Demander un travail étape par étape aide surtout pour les tâches qui se résolvent en appliquant des règles ; un modèle réglé pour raisonner le fait sans qu'on le lui demande.
Page 4Page 4
Structure the promptStructurer la requête
- A prompt longer than a few sentences is easier for a model to follow when it has some structure, such as headings, bullet points or tags; which notation works best depends on the model.
- A model asked for output in a structured language such as JSON can still make errors in it, and a single one can make the whole output unreadable for a program.
- Une requête de plus de quelques phrases est plus facile à suivre pour un modèle quand elle est structurée, par exemple avec des intertitres, des listes à puces ou des balises ; la notation qui fonctionne le mieux dépend du modèle.
- Un modèle à qui l'on demande une sortie dans un langage structuré comme JSON peut y faire des erreurs, et une seule suffit à rendre toute la sortie illisible pour un programme.
Page 5Page 5
Giving examplesDonner des exemples
- An example shows a model what you want more precisely than a description can, above all for a format, a style or a fixed set of answers.
- The examples you give shape the answer: they should be correct, consistent with each other and close to the real task.
- Un exemple montre à un modèle ce que vous voulez plus précisément qu'une description, surtout pour un format, un style ou un ensemble fermé de réponses.
- Les exemples que vous donnez orientent la réponse : ils doivent être justes, cohérents entre eux et proches de la tâche réelle.
Page 5Page 5
Page 6Page 6
The language of the promptLa langue de la requête
- Most of the text a model learns from is English, so models generally perform better in English.
- For a less widely used language, a prompt in English, even imperfect English, can give better results; for widely used languages, the difference has become small.
- A prompt does not have to be polished: typos and loose grammar rarely spoil the result, but they can make instructions less well followed.
- La plus grande partie des textes dont un modèle apprend est en anglais : les modèles fonctionnent donc en général mieux en anglais.
- Pour une langue moins répandue, une requête en anglais, même dans un anglais imparfait, peut donner de meilleurs résultats ; pour les langues très répandues, l'écart est devenu faible.
- Une requête n'a pas besoin d'être soignée : les coquilles et une grammaire approximative nuisent rarement au résultat, mais elles peuvent faire moins bien suivre les consignes.
Page 7Page 7
Working with long documentsTravailler avec de longs documents
- A document you attach is either put into the context whole or searched for the passages that seem relevant, and the two give different answers to the same question.
- A model uses a long input unevenly and can only write a limited amount at once, so a long text is best handled in parts, with the instructions placed where they will be followed.
- Un document joint est soit versé en entier dans le contexte, soit parcouru par une recherche qui en retient les passages qui semblent pertinents, et les deux donnent des réponses différentes à la même question.
- Un modèle exploite inégalement une longue entrée et ne peut écrire qu'une quantité limitée de texte à la fois : mieux vaut traiter un long texte par parties, en plaçant les consignes là où elles seront suivies.
Page 7Page 7
Page 8Page 8
Correcting the model or starting overCorriger le modèle ou recommencer
- Refining an answer over several turns usually works better than trying to write a perfect prompt first, because the first attempt shows you what you wanted.
- A conversation that has misread you keeps the misreading in its context, and one that has grown long follows its early instructions less well. In both cases a fresh conversation with one clean prompt usually works better than another correction.
- Affiner une réponse en plusieurs tours fonctionne généralement mieux que de chercher à écrire d'emblée une requête parfaite, parce que la première tentative vous montre ce que vous vouliez.
- Une conversation qui vous a mal compris garde ce malentendu dans son contexte, et une conversation devenue longue suit moins bien ses premières consignes. Dans les deux cas, une nouvelle conversation avec une seule requête nette fonctionne généralement mieux qu'une correction de plus.
Page 8Page 8
Page 9Page 9
Improving a promptAméliorer une requête
- A model can rewrite a prompt for you: in an ordinary chat, with a tool some providers offer, or systematically, against a set of test cases.
- A rewritten prompt is longer and more explicit, but it can also change the task, so read it before you use it, and test it if the task recurs.
- Un modèle peut réécrire une requête pour vous : dans une conversation ordinaire, avec un outil que proposent certains fournisseurs, ou de façon systématique, sur un ensemble de cas d'essai.
- Une requête réécrite est plus longue et plus explicite, mais elle peut aussi modifier la tâche : lisez-la avant de vous en servir, et testez-la si la tâche revient régulièrement.
Page 9Page 9
Page 9Page 9
Page 10Page 10
Custom instructions, memory, projects and skillsInstructions personnalisées, mémoire, projets et compétences
- Anything you correct in every conversation belongs in your standing instructions, which the chat app adds to each new conversation for you.
- Instructions you write, memory the chat app keeps, files in a project and skills all reach the model the same way, as text in its context, so the same limits apply: they are usually followed, but not always.
- Ce que vous corrigez dans chaque conversation a sa place dans vos instructions permanentes, que l'application de clavardage ajoute pour vous à chaque nouvelle conversation.
- Les instructions que vous rédigez, la mémoire que tient l'application, les fichiers d'un projet et les compétences parviennent tous au modèle de la même façon, sous forme de texte dans son contexte, et sont donc soumis aux mêmes limites : ils sont généralement respectés, mais pas toujours.
Page 10Page 10
Page 10Page 10
Page 10Page 10
Page 10Page 10
Page 10Page 10
Key pointsL'essentiel
Risks and safeguardsRisques et précautions
Wording and tone are a matter of taste, but names, figures, references and verdicts are matters of fact, and a wrong one reads exactly like a right one; most ways of checking go through a model and can fail the same way.
Une réponse plausible et assurée n'est pas un signe qu'elle est juste : la formulation relève du goût, mais les noms, les chiffres, les références et les verdicts relèvent du fait et se vérifient dans une source, et la plupart des vérifications passent par un modèle, si bien que seule celle que vous faites vous-même n'en dépend pas.
Key pointsL'essentiel
Risks and safeguardsRisques et précautions
Instructions and content reach a model as the same text, so a document you asked it to read can carry instructions of its own (); the risk grows sharply once the model can act on your behalf.
Les instructions et le contenu arrivent au modèle sous la forme du même texte : un document que vous lui faites lire peut donc porter ses propres instructions (), et le risque grandit dès que le système peut agir pour vous.
Key pointsL'essentiel
Risks and safeguardsRisques et précautions
What you type is stored on the provider's servers and, on many personal plans, used for training unless you opt out; confidential material belongs on a business plan with training off, or on a model running on your own computer.
Ce que vous tapez est conservé sur les serveurs du fournisseur et, sur beaucoup de forfaits personnels, sert à l'entraînement à moins d'un refus de votre part : les réglages sont à regarder avant de coller quoi que ce soit de confidentiel.
Page 1Page 1
Checking the answerVérifier la réponse
- A plausible, confident answer is no sign that it is right. Wording and tone are a matter of taste, which you can judge yourself; names, figures, references and verdicts are matters of fact, and those are the ones to check.
- Most checks go through a model and can fail the way the answer did; only looking a fact up yourself in a reliable source does not depend on a model.
- Une réponse plausible et assurée n'est pas un signe qu'elle est juste. La formulation et le ton relèvent du goût, et vous pouvez en juger vous-même ; les noms, les chiffres, les références et les verdicts relèvent du fait, et ce sont eux qu'il faut vérifier.
- La plupart des vérifications passent par un modèle et peuvent échouer comme la réponse ; seule la vérification que vous faites vous-même dans une source fiable ne dépend d'aucun modèle.
Page 1Page 1
Page 2Page 2
Prompt injectionL'infiltration de requête
- Instructions and content reach a model as the same text, so a document you ask it to read can give it instructions of its own, put there by whoever wrote it rather than by you.
- When a model only writes you an answer, a hidden instruction can only make that answer wrong. It gets serious once the model can act for you, because the instruction then reaches your files, your messages or your accounts.
- Les instructions et le contenu arrivent au modèle sous la forme du même texte : un document que vous lui demandez de lire peut donc lui donner ses propres instructions, mises là par la personne qui l'a écrit plutôt que par vous.
- Quand un modèle se contente de vous écrire une réponse, une instruction cachée ne peut que fausser cette réponse. Cela devient sérieux dès qu'il peut agir pour vous, car l'instruction atteint alors vos fichiers, vos messages ou vos comptes.
Page 2Page 2
Page 3Page 3
Training, retention and privacy settingsEntraînement, conservation et paramètres de confidentialité
- What you type into a chat app is stored on the provider's servers, may be read by people there, and on many personal plans is used to train future models unless you opt out.
- The rules differ by plan and by provider, so each chat app's settings page is worth reading once.
- Anything you are bound to keep confidential needs a deliberate decision: a business plan with training off, or a model on your own computer, can take it; a personal plan with the default settings cannot.
- Ce que vous tapez dans une application de conversation est stocké sur les serveurs du fournisseur, peut être lu par des personnes qui y travaillent et, sur beaucoup de forfaits personnels, sert à entraîner les prochains modèles à moins que vous ne le refusiez.
- Les règles varient selon le forfait et le fournisseur : la page des paramètres de chaque application mérite donc d'être lue une fois.
- Tout ce que vous êtes tenu de garder confidentiel demande une décision réfléchie : un forfait d'entreprise sans entraînement, ou un modèle sur votre propre ordinateur, peut le recevoir ; un forfait personnel avec les réglages par défaut, non.
Page 3Page 3
Page 3Page 3
Page 3Page 3
Page 3Page 3
Key pointsL'essentiel
Garbage in, garbage outMédiocre en entrée, médiocre en sortie
applies at four levels of a language model, from the training corpus down to the prompt you type, and a problem at one level reaches everything below it.
s'applique à quatre niveaux d'un modèle de langue, de la base d'apprentissage jusqu'à la requête que vous tapez, et un problème à un niveau atteint tout ce qui se trouve en dessous.
Key pointsL'essentiel
Garbage in, garbage outMédiocre en entrée, médiocre en sortie
The first three levels belong to the provider and to the chat app; the fourth is yours, and a question that starts from a false premise tends to be elaborated rather than corrected.
Les trois premiers niveaux appartiennent au fournisseur et à l'agent conversationnel ; le quatrième est le vôtre, et une question qui repose sur une présupposition erronée tend à être développée plutôt que corrigée.
Key pointsL'essentiel
Garbage in, garbage outMédiocre en entrée, médiocre en sortie
GIGO is not the only cause of the problems in this module, but it is a factor in most of the biggest ones, from bias to hidden work to the text the next generation of models is trained on.
Le GIGO n'est pas la seule cause des problèmes de ce module, mais il entre pour une part dans la plupart des plus importants, du biais au travail invisible en passant par le texte sur lequel la génération suivante de modèles sera entraînée.
Page 1Page 1
Garbage in, garbage outMédiocre en entrée, médiocre en sortie
- The old computing principle of garbage in, garbage out () applies to LLMs: the quality of the output is limited by the quality of the input.
- GIGO applies at four levels of an LLM, from the training corpus down to the prompt you type, and a problem at one level reaches everything below it.
- Le vieux principe informatique « médiocre en entrée, médiocre en sortie » () vaut pour les GML : la qualité de la sortie est limitée par celle de l'entrée.
- Le GIGO s'applique à quatre niveaux d'un GML, de la base d'apprentissage jusqu'à la requête que vous tapez, et un problème à un niveau atteint tout ce qui se trouve en dessous.
Page 1Page 1
Page 2Page 2
The impact of GIGOL'impact du GIGO
- GIGO is not the only cause of the problems described in this module, but it is a factor in most of the biggest ones.
- The same explanation therefore comes back under different names in several of the chapters that follow.
- Le GIGO n'est pas la seule cause des problèmes décrits dans ce module, mais il entre pour une part dans la plupart des plus importants.
- La même explication revient donc sous des noms différents dans plusieurs des chapitres qui suivent.
Key pointsL'essentiel
HallucinationsLes fabulations de l'IA
Nothing marks a statement as true or false at any point, so producing a fact and producing a fabrication are the same operation. A follows from how a model is trained rather than from a fault.
Rien ne marque un énoncé comme vrai ou faux à aucun moment, de sorte que produire un fait et produire une fabrication sont la même opération. Une découle de la façon dont le modèle est entraîné plutôt que d'un défaut.
Key pointsL'essentiel
HallucinationsLes fabulations de l'IA
An contradicts a source you supplied and can be caught by reading; an needs outside knowledge.
Une contredit une source que vous avez fournie et se repère à la lecture ; une exige des connaissances extérieures.
Key pointsL'essentiel
HallucinationsLes fabulations de l'IA
One wrong detail appears among correct ones, in the same confident tone, so careful reading does not find it. A text can be to anything.
Un détail faux apparaît au milieu de détails exacts, sur le même ton assuré, si bien qu'une lecture attentive ne le trouve pas. Un texte peut être à quoi que ce soit.
Key pointsL'essentiel
HallucinationsLes fabulations de l'IA
Mitigations lower how often models hallucinate, but none removes the problem. Supplying the source and checking against something outside the text help most.
Les mesures d'atténuation réduisent la fréquence des fabulations, mais aucune ne supprime le problème. Fournir la source et vérifier contre quelque chose d'extérieur au texte sont les plus efficaces.
Page 1Page 1
Where hallucinations come fromD'où viennent les fabulations
- A is fluent output that is unfounded or false, and it follows from the training objective rather than from a bug.
- Nothing marks a statement as true or false at any point in the process, so producing a fact and producing a plausible fabrication are the same operation.
- Une est une sortie fluide, sans fondement ou fausse, et elle découle de la façon dont le modèle est entraîné plutôt que d'un défaut.
- Rien ne marque un énoncé comme vrai ou faux à aucun moment du processus, de sorte que produire un fait et produire une fabrication plausible sont la même opération.
Page 1Page 1
Page 2Page 2
Two kinds of hallucinationsDeux types de fabulations
- An contradicts a source you supplied, so reading the source finds it, while an adds something no source contains, so only outside knowledge finds it.
- The pair is defined against a source you supplied, so it does not cover an answer that faithfully repeats a source that was already wrong.
- Une contredit une source que vous avez fournie, si bien que la lecture de cette source la révèle, tandis qu'une ajoute ce qu'aucune source ne contient, si bien que seules des connaissances extérieures la révèlent.
- La paire se définit par rapport à une source que vous avez fournie, et elle ne couvre donc pas une réponse qui reprend fidèlement une source déjà fausse.
Page 2Page 2
Page 3Page 3
Why detecting hallucinations is hardPourquoi les fabulations sont difficiles à détecter
- A small false detail appears inside a large amount of correct, confident text, and apart from the rare general hedge nothing marks it.
- Careful reading tests whether a text hangs together, not whether it is true, so an error of this kind passes that check every time.
- As models improve, the errors that are left get harder to catch rather than easier.
- Un petit détail faux apparaît au milieu d'une grande quantité de texte exact et assuré, et à part la rare réserve générale, rien ne le signale.
- Une lecture attentive vérifie si un texte tient ensemble, pas s'il est vrai, si bien qu'une erreur de ce genre passe cette vérification à tout coup.
- À mesure que les modèles s'améliorent, les erreurs qui restent deviennent plus difficiles à repérer plutôt que plus faciles.
Page 3Page 3
Page 3Page 3
Page 4Page 4
Mitigating hallucinationsAtténuer les fabulations
- Every mitigation reduces how often models hallucinate, but none removes the problem, so you always have to decide where to check.
- The reliable defences are external: give the model the source, and verify against something outside the text.
- Chaque mesure d'atténuation réduit la fréquence des fabulations, mais aucune ne supprime le problème, si bien que vous avez toujours à décider où vérifier.
- Les défenses fiables sont externes : donnez la source au modèle, et vérifiez contre quelque chose d'extérieur au texte.
Page 4Page 4
Page 4Page 4
Page 4Page 4
Key pointsL'essentiel
BiasBiais
comes with the text a model learns from, and larger models and more data have not removed it.
Le vient du texte dont un modèle apprend, et ni les modèles plus grands ni les données plus nombreuses ne l'ont éliminé.
Key pointsL'essentiel
BiasBiais
Models sharpen the proportions they were trained on rather than reproducing them: turns a tendency into a default, and flattens variety within less represented groups.
Les modèles accentuent les proportions sur lesquelles ils ont été entraînés au lieu de les reproduire : l' fait d'une tendance un choix par défaut, et le aplatit la variété au sein des groupes moins représentés.
Key pointsL'essentiel
BiasBiais
enters every step of building a model, and English shows through even when a model writes directly in another language.
L' intervient à chaque étape de la construction d'un modèle, et l'anglais transparaît même quand un modèle écrit directement dans une autre langue.
Key pointsL'essentiel
BiasBiais
Cultural defaults are unmarked: current models lean toward the values of a few prosperous, mostly Western countries whatever their origin, and stating the audience and the culture helps more than switching the language.
Les choix culturels par défaut ne sont pas signalés : les modèles actuels penchent vers les valeurs de quelques pays riches, surtout occidentaux, quelle que soit leur origine, et préciser le public et la culture aide davantage que changer de langue.
Key pointsL'essentiel
BiasBiais
Correction tends to hide bias rather than remove it and can overshoot, and deciding what counts as right falls to a small group of people: the developer and its annotators.
La correction tend à masquer les biais plutôt qu'à les éliminer, et elle peut aller trop loin ; décider de ce qui est juste revient à un petit groupe de personnes, le développeur et ses annotateurs.
Page 1Page 1
What bias is, and where it comes fromCe qu'est un biais, et d'où il vient
- Bias shows as a pattern across answers: where a request leaves a choice open, a system tends to fill it in the same direction, for instance a nurse as a woman.
- The direction comes from frequencies in the text a system learned from, not from anyone's decision, and the same associations show in word embeddings.
- Un biais se manifeste comme une tendance dans les réponses : là où une demande laisse un choix ouvert, un système tend à le trancher toujours dans le même sens, par exemple en faisant d'une personne infirmière une femme.
- Ce sens vient des fréquences dans le texte dont le système a appris, et non d'une décision de qui que ce soit ; les mêmes associations se retrouvent dans les plongements lexicaux.
Page 1Page 1
Page 1Page 1
Page 1Page 1
Page 2Page 2
Bias in language modelsLes biais dans les modèles de langue
- learn from the same kind of text as translation tools and have the same associations, but they are not restricted to one answer, so they can set out the options instead of picking one.
- Bias is not only about gender: a name, which can also suggest an origin or an ethnicity, can change the answers a model gives, and larger models have not removed the problem.
- Les apprennent à partir du même genre de texte que les outils de traduction et présentent les mêmes associations, mais ils ne sont pas limités à une seule réponse : ils peuvent exposer les options au lieu d'en retenir une.
- Les biais ne se limitent pas au genre : un prénom, qui peut aussi évoquer une origine ou une ethnicité, peut changer les réponses d'un modèle, et les modèles plus grands n'ont pas réglé le problème.
Page 2Page 2
Page 2Page 2
Page 2Page 2
Page 3Page 3
AmplificationL'amplification
- Models tend to sharpen the proportions in their training data, so that a majority in the data becomes a default in the output.
- Groups that were less represented tend to come out more uniform than they are, which is .
- Les modèles tendent à accentuer les proportions de leurs données d'entraînement, si bien qu'une majorité dans les données devient un choix par défaut dans la sortie.
- Les groupes moins représentés tendent à ressortir plus uniformes qu'ils ne le sont : c'est le .
Page 3Page 3
Page 4Page 4
Linguistic hegemonyL'hégémonie linguistique
- English dominates every step of building a language model: the training text, the tokenizer, the fine-tuning data, the safety training and the benchmarks that measure progress.
- The imbalances add up: other languages get weaker results at a higher cost, less safety and less reliable measurement.
- L'anglais domine chaque étape de la construction d'un modèle de langue : le texte d'entraînement, le segmenteur, les données d'affinage, l'entraînement à la sécurité et les tests de performances qui mesurent les progrès.
- Les déséquilibres s'additionnent : les autres langues obtiennent de moins bons résultats à un coût plus élevé, moins de sécurité et des mesures moins fiables.
Page 5Page 5
English in other languagesL'anglais dans les autres langues
- Working with a model in another language can feel like talking to a native speaker of English who has learned that language very well: fluent, but every now and then phrasing or referring to something in a way that does not quite fit.
- The impression is anthropomorphic, but studies of what happens inside open models support part of it, and the influence of English shows mostly in vocabulary and expressions, subtle enough to survive a quick read.
- Travailler avec un modèle dans une autre langue peut donner l'impression de parler à une personne de langue maternelle anglaise qui a très bien appris cette langue : le texte est fluide, mais de temps en temps une tournure ou une référence ne tombe pas tout à fait juste.
- Cette impression est anthropomorphique, mais les études sur ce qui se passe à l'intérieur des modèles ouverts en confirment une partie, et l'influence de l'anglais se voit surtout dans le vocabulaire et les expressions, assez discrète pour échapper à une lecture rapide.
Page 5Page 5
Page 6Page 6
Cultural defaultsLes choix culturels par défaut
- A request with no cultural specification gets one culture's answer, and the answer does not say so.
- Current models, wherever they were built, lean toward the values of a few prosperous, mostly Western countries, and what they say about other cultures can be closer to stereotypes than to what people there answer.
- Une demande qui ne précise aucune culture obtient la réponse d'une culture, et la réponse ne le dit pas.
- Les modèles actuels, où qu'ils aient été construits, penchent vers les valeurs de quelques pays riches, surtout occidentaux, et ce qu'ils disent des autres cultures peut être plus proche des stéréotypes que de ce que répondent les gens de ces pays.
Page 6Page 6
Page 6Page 6
Page 6Page 6
Page 6Page 6
Page 7Page 7
Steering toward a cultureOrienter les réponses vers une culture
- Asking in another language does not reliably move the answer to that language's culture. Saying which culture to answer for helps more, but not enough to remove the lean toward a few countries.
- When you ask a model to write for a particular audience, state the audience and the language variety, and check what the model filled in by default.
- Poser la question dans une autre langue ne déplace pas de façon fiable la réponse vers la culture de cette langue. Préciser pour quelle culture répondre aide davantage, mais pas assez pour effacer le penchant vers quelques pays.
- Quand vous demandez à un modèle d'écrire pour un public particulier, précisez ce public et la variété de langue, et vérifiez ce que le modèle a tranché par défaut.
Page 8Page 8
Correcting biasCorriger les biais
- Correction removes the most visible forms of bias, but it tends to hide the rest rather than remove it, and it can overshoot.
- The blunt, explicit forms of bias have become harder to find in what current chat models say, which is real progress.
- La correction élimine les formes les plus visibles de biais, mais elle tend à masquer le reste plutôt qu'à l'éliminer, et elle peut aller trop loin.
- Les formes grossières et explicites de biais sont devenues plus difficiles à trouver dans ce que disent les agents conversationnels actuels, ce qui est un vrai progrès.
Page 8Page 8
Page 8Page 8
Page 9Page 9
Who decides what is rightQui décide de ce qui est juste
- Correcting a model requires deciding what the right answer is, and that decision is made by a small group of people: the developer and the annotators it hires.
- The bias that remains lies mostly in a model's defaults, which you can steer by stating the audience and the culture, and check by comparing answers across groups.
- Corriger un modèle suppose de décider quelle est la bonne réponse, et cette décision revient à un petit groupe de personnes : le développeur et les annotateurs qu'il engage.
- Ce qui reste des biais se trouve surtout dans les choix par défaut d'un modèle, que vous pouvez orienter en précisant le public et la culture, et vérifier en comparant les réponses d'un groupe à l'autre.
Page 9Page 9
Key pointsL'essentiel
Environmental impactImpact environnemental
The environmental cost of AI is a real problem; this chapter puts its figures in context, and gives each one its source and its date, because up-to-date and verifiable figures are hard to find.
Le coût environnemental de l'IA est un vrai problème ; ce chapitre remet ses chiffres en contexte et donne pour chacun sa source et sa date, parce que des chiffres à jour et vérifiables sont difficiles à trouver.
Key pointsL'essentiel
Environmental impactImpact environnemental
emits a large amount once for each model; emits a tiny amount per use, added again with every use, and across all users it now accounts for most of the energy.
L' émet beaucoup, une seule fois par modèle ; l' émet très peu à chaque utilisation, mais recommence à chaque utilisation et, tous utilisateurs confondus, elle représente désormais l'essentiel de l'énergie.
Key pointsL'essentiel
Environmental impactImpact environnemental
The energy of one use grows with the size of the model, the number of tokens and the kind of output, and its emissions depend on the electricity it runs on.
L'énergie d'une utilisation augmente avec la taille du modèle, le nombre de jetons et le type de sortie, et ses émissions dépendent de l'électricité qui l'alimente.
Key pointsL'essentiel
Environmental impactImpact environnemental
Energy per query keeps falling while total consumption rises, because use grows faster than efficiency and newer uses cost more per request.
L'énergie par requête ne cesse de baisser alors que la consommation totale augmente, parce que l'utilisation croît plus vite que l'efficacité et que les nouveaux usages coûtent plus par requête.
Key pointsL'essentiel
Environmental impactImpact environnemental
The figures are hard to pin down: disclosure is voluntary and partial, methods differ, and a number without a date is not usable.
Les chiffres sont difficiles à établir : la divulgation est volontaire et partielle, les méthodes diffèrent, et un chiffre sans date n'est pas utilisable.
Key pointsL'essentiel
Environmental impactImpact environnemental
The cost of one text answer is small, but the growth of AI's total demand is a real problem; both are true, because they answer different questions.
Le coût d'une réponse en texte est faible, mais la croissance de la demande totale de l'IA est un vrai problème ; les deux sont vrais, parce qu'ils répondent à des questions différentes.
Page 1Page 1
A note before the figuresUne note avant les chiffres
- The environmental cost of AI is a real problem, and I do not want to play it down. I try to put the figures in context, which coverage of the topic often does not.
- Up-to-date and verifiable figures are even harder to find on this topic than on other aspects of LLMs, so every figure in this chapter comes with its source and its date.
- Le coût environnemental de l'IA est un vrai problème, et je ne veux pas le minimiser. J'essaie de remettre les chiffres en contexte, ce que les articles sur le sujet font souvent peu.
- Des chiffres à jour et vérifiables sont encore plus difficiles à trouver sur ce sujet que sur d'autres aspects des GML ; c'est pourquoi chaque chiffre de ce chapitre est accompagné de sa source et de sa date.
Page 1Page 1
Page 2Page 2
Training and inferenceEntraînement et inférence
- A language model has two environmental costs: , large and incurred once for each model, and , tiny per use but added again with every use.
- Training one model costs vastly more than producing one answer, but use is repeated by every user, and across all of them it now accounts for most of the energy.
- Un modèle de langue a deux coûts environnementaux : les , élevées et produites une seule fois par modèle, et les , minimes à chaque utilisation mais ajoutées de nouveau à chacune.
- Entraîner un modèle coûte bien plus que produire une réponse, mais l'utilisation se répète chez chaque utilisateur, et, tous utilisateurs confondus, elle représente désormais l'essentiel de l'énergie.
Page 2Page 2
Page 2Page 2
Page 2Page 2
Page 2Page 2
Page 2Page 2
Page 3Page 3
What one use costsCe que coûte une utilisation
- The energy of one use of a grows with the size of the model, the number of tokens it generates and the kind of output: an image, a video or an agent reasoning through several steps costs orders of magnitude more than a page of text.
- The same use emits very different amounts depending on the electricity it runs on, but a chat interface does not say which.
- L'énergie d'une utilisation d'un augmente avec la taille du modèle, le nombre de jetons produits et le type de sortie : une image, une vidéo ou un agent qui raisonne sur plusieurs étapes coûte plusieurs ordres de grandeur de plus qu'une page de texte.
- La même utilisation émet des quantités très différentes selon l'électricité qui l'alimente, mais une interface conversationnelle ne dit pas laquelle.
Page 3Page 3
Page 3Page 3
Page 4Page 4
Efficiency and reboundEfficacité et effet rebond
- The energy used per query keeps falling, but total consumption rises anyway, because use grows faster than efficiency improves and newer uses take more energy per request.
- L'énergie consommée par requête ne cesse de baisser, mais la consommation totale augmente quand même, parce que l'utilisation croît plus vite que l'efficacité et que les nouveaux usages consomment plus d'énergie par requête.
Page 4Page 4
Page 5Page 5
Data centresCentres de traitement de données
- Data centres are the part of AI's environmental cost that can be seen: very large buildings with large, local demands for electricity, water and land.
- Because they are local and visible, they have become the focus of protests, over electricity prices, water, noise and the landscape as much as over emissions.
- Les centres de traitement de données sont la partie visible du coût environnemental de l'IA : de très grands bâtiments, aux besoins locaux importants en électricité, en eau et en terrain.
- Parce qu'ils sont locaux et visibles, ils sont devenus la cible de contestations, qui portent autant sur les prix de l'électricité, l'eau, le bruit et le paysage que sur les émissions.
Page 5Page 5
Page 5Page 5
Page 5Page 5
Page 5Page 5
Page 5Page 5
Page 5Page 5
Page 6Page 6
Hard to measureDifficile à mesurer
- The environmental figures for AI are hard to pin down: providers disclose little, methods differ, and efficiency changes fast enough to date a figure within a year.
- Figures from research, from providers and from the press are not equally reliable, so check where a figure comes from before you rely on it.
- Les chiffres environnementaux de l'IA sont difficiles à établir : les fournisseurs divulguent peu, les méthodes diffèrent, et l'efficacité évolue assez vite pour qu'un chiffre soit dépassé en moins d'un an.
- Les chiffres issus de la recherche, des fournisseurs et de la presse ne sont pas également fiables : vérifiez d'où vient un chiffre avant de vous y fier.
Page 6Page 6
Page 6Page 6
Page 7Page 7
Putting it in proportionRemettre en proportion
- The cost of one text answer is small, but the growth of AI's total electricity demand is a real problem. Both statements are true: they answer different questions.
- The environmental case against a use is strongest for the heavy ones, such as video, agents running over many steps, and the largest model for a task a small one would do.
- Le coût d'une réponse en texte est faible, mais la croissance de la demande totale d'électricité de l'IA est un vrai problème. Les deux affirmations sont vraies : elles répondent à des questions différentes.
- L'argument environnemental contre un usage est le plus fort pour les usages lourds, comme la vidéo, les agents qui passent par de nombreuses étapes, et le plus grand modèle pour une tâche qu'un petit ferait.
Page 7Page 7