Administrator
This teaching view is for the instructor. Enter the administrator password.
Wrong password · Mot de passe incorrect
Key pointsL'essentiel
Risks and safeguardsRisques et précautions
Wording and tone are a matter of taste, but names, figures, references and verdicts are matters of fact, and a wrong one reads exactly like a right one; most ways of checking go through a model and can fail the same way.
Une réponse plausible et assurée n'est pas un signe qu'elle est juste : la formulation relève du goût, mais les noms, les chiffres, les références et les verdicts relèvent du fait et se vérifient dans une source, et la plupart des vérifications passent par un modèle, si bien que seule celle que vous faites vous-même n'en dépend pas.
Key pointsL'essentiel
Risks and safeguardsRisques et précautions
Instructions and content reach a model as the same text, so a document you asked it to read can carry instructions of its own (); the risk grows sharply once the model can act on your behalf.
Les instructions et le contenu arrivent au modèle sous la forme du même texte : un document que vous lui faites lire peut donc porter ses propres instructions (), et le risque grandit dès que le système peut agir pour vous.
Key pointsL'essentiel
Risks and safeguardsRisques et précautions
What you type is stored on the provider's servers and, on many personal plans, used for training unless you opt out; confidential material belongs on a business plan with training off, or on a model running on your own computer.
Ce que vous tapez est conservé sur les serveurs du fournisseur et, sur beaucoup de forfaits personnels, sert à l'entraînement à moins d'un refus de votre part : les réglages sont à regarder avant de coller quoi que ce soit de confidentiel.
Page 1Page 1
Checking the answerVérifier la réponse
- A plausible, confident answer is no sign that it is right. Wording and tone are a matter of taste, which you can judge yourself; names, figures, references and verdicts are matters of fact, and those are the ones to check.
- Most checks go through a model and can fail the way the answer did; only looking a fact up yourself in a reliable source does not depend on a model.
- Une réponse plausible et assurée n'est pas un signe qu'elle est juste. La formulation et le ton relèvent du goût, et vous pouvez en juger vous-même ; les noms, les chiffres, les références et les verdicts relèvent du fait, et ce sont eux qu'il faut vérifier.
- La plupart des vérifications passent par un modèle et peuvent échouer comme la réponse ; seule la vérification que vous faites vous-même dans une source fiable ne dépend d'aucun modèle.
Page 1Page 1
Page 2Page 2
Prompt injectionL'infiltration de requête
- Instructions and content reach a model as the same text, so a document you ask it to read can give it instructions of its own, put there by whoever wrote it rather than by you.
- When a model only writes you an answer, a hidden instruction can only make that answer wrong. It gets serious once the model can act for you, because the instruction then reaches your files, your messages or your accounts.
- Les instructions et le contenu arrivent au modèle sous la forme du même texte : un document que vous lui demandez de lire peut donc lui donner ses propres instructions, mises là par la personne qui l'a écrit plutôt que par vous.
- Quand un modèle se contente de vous écrire une réponse, une instruction cachée ne peut que fausser cette réponse. Cela devient sérieux dès qu'il peut agir pour vous, car l'instruction atteint alors vos fichiers, vos messages ou vos comptes.
Page 2Page 2
Page 3Page 3
Training, retention and privacy settingsEntraînement, conservation et paramètres de confidentialité
- What you type into a chat app is stored on the provider's servers, may be read by people there, and on many personal plans is used to train future models unless you opt out.
- The rules differ by plan and by provider, so each chat app's settings page is worth reading once.
- Anything you are bound to keep confidential needs a deliberate decision: a business plan with training off, or a model on your own computer, can take it; a personal plan with the default settings cannot.
- Ce que vous tapez dans une application de conversation est stocké sur les serveurs du fournisseur, peut être lu par des personnes qui y travaillent et, sur beaucoup de forfaits personnels, sert à entraîner les prochains modèles à moins que vous ne le refusiez.
- Les règles varient selon le forfait et le fournisseur : la page des paramètres de chaque application mérite donc d'être lue une fois.
- Tout ce que vous êtes tenu de garder confidentiel demande une décision réfléchie : un forfait d'entreprise sans entraînement, ou un modèle sur votre propre ordinateur, peut le recevoir ; un forfait personnel avec les réglages par défaut, non.
Page 3Page 3
Page 3Page 3
Page 3Page 3
Page 3Page 3
