Risks and safeguardsRisques et précautions

What to check

Some of what a model gives you is a matter of taste: the wording of a draft, the tone of an email, a list of possible titles (Figure 1figure 1). Your own taste and general knowledge are enough to judge it. Other parts are a matter of fact, with an exact answer that takes specific knowledge to check: a name, a figure, a reference, or a verdict such as whether a translation says what the original says. A wrong fact reads exactly like a right one, however plausible and confident the answer around it (see also the Hallucinations chapter, in the Critical issues with LLMs module) (voir aussi le chapitre Les fabulations de l'IA, dans le module Enjeux critiques des GML). So unless you already know the answer, decide which facts you will check.

What each check can and cannot do

Check	What it helps with	Its limits
Put a document with the information in the context	the answer is more likely to be right about what the document says	no guarantee: the model can still misquote the document, misread it, or read more into it than it says
Turn on web search and open the sources it cites	the answer is based on pages you can read	the same limits, and the pages themselves may be unreliable, so you also judge the sources
Ask the same model the same question again, in a new conversation	if the two answers differ, you know there is a problem	a model can easily be wrong the same way twice
Ask a second model	a mistake only one of the two makes shows up as a disagreement	both can make the same mistake, for instance a widely repeated misconception
Ask the model to check its answer	a second pass that may catch some errors	no guarantee: unless it can search, it has nothing new to consult, and it can be confidently wrong again
Ask for the case against, for instance “list what a demanding reviewer would object to”	brings out weaknesses that a model prone to sycophancy sycophancycomplaisance de l'IA AI safetysécurité de l'IA The tendency of a language model trained on human preferences to agree with the user, revise a correct answer under challenge, or flatter, partly because agreement was rated well during training.Tendance d'un modèle de langue entraîné sur des préférences humaines à abonder dans le sens de l'utilisateur, à revenir sur une réponse correcte quand on la conteste ou à flatter, en partie parce que l'accord a été bien noté pendant l'entraînement. rarely mentions on its own	the objections are generated too, and can be invented or miss the real problem
Ask the model how it reached the answer	more intermediate steps that you can check one by one	the explanation is not necessarily how the answer was actually produced, and any step can be wrong
Try the model on a case whose answer you already know	shows whether it handles this kind of task at all	a later case can still go wrong
Look the fact up yourself in a reliable source	the only check that does not depend on a model	it takes time, so keep it for the important facts

Every check but the last goes through a model, so it can fail the way the answer did. A rerun is still useful: answers whose meaning varies from one run to the next are a measurable sign of invented content (Farquhar et al., 2024) (see also the LLMs are non-deterministic page, in the LLM lifecycle module) (voir aussi la page Les GML ne sont pas déterministes, dans le module Cycle de vie des GML). It is worth its cost for one claim you need to trust, but running the same question again by reflex adds to the energy a model uses (see also the Putting it in proportion page, in the Critical issues with LLMs module) (voir aussi la page Remettre en proportion, dans le module Enjeux critiques des GML).

Sources

• Farquhar, S., Kossen, J., Kuhn, L., & Gal, Y. (2024). Detecting hallucinations in large language models using semantic entropy. Nature, 630(8017), 625–630. https://doi.org/10.1038/s41586-024-07421-0

Quoi vérifier

Une partie de ce qu’un modèle vous donne relève du goût : la formulation d’un brouillon, le ton d’un courriel, une liste de titres possibles (Figure 1figure 1). Votre goût et vos connaissances générales suffisent à en juger. D’autres éléments relèvent du fait, avec une réponse exacte qui demande des connaissances précises : un nom, un chiffre, une référence, ou un verdict, par exemple si une traduction dit bien ce que dit l’original. Un fait faux se lit exactement comme un fait juste, aussi plausible et assurée que soit la réponse qui l’entoure (see also the Hallucinations chapter, in the Critical issues with LLMs module) (voir aussi le chapitre Les fabulations de l'IA, dans le module Enjeux critiques des GML). À moins de déjà connaître la réponse, décidez donc quels faits vous allez vérifier.

Ce que chaque vérification peut et ne peut pas faire

Vérification	Ce qu’elle apporte	Ses limites
Mettre dans le contexte un document contenant l’information	la réponse a plus de chances d’être juste sur ce que dit le document	aucune garantie : le modèle peut mal citer le document, le lire de travers ou lui faire dire plus qu’il ne dit
Activer la recherche web et ouvrir les sources citées	la réponse s’appuie sur des pages que vous pouvez lire	les mêmes limites, et les pages elles-mêmes peuvent être peu fiables : vous jugez aussi les sources
Reposer la même question au même modèle, dans une nouvelle conversation	si les deux réponses diffèrent, vous savez qu’il y a un problème	un modèle peut très bien se tromper deux fois de la même façon
Poser la question à un deuxième modèle	une erreur que l’un des deux seulement commet apparaît comme un désaccord	les deux peuvent commettre la même erreur, par exemple une idée fausse très répandue
Demander au modèle de vérifier sa réponse	un deuxième passage qui attrape parfois des erreurs	aucune garantie : sauf s’il peut chercher, il n’a rien de nouveau à consulter, et il peut se tromper de nouveau avec assurance
Demander ce qu’on pourrait objecter, par exemple « liste ce qu’un évaluateur exigeant reprocherait à ce texte »	fait ressortir des faiblesses qu’un modèle porté à la complaisance sycophancycomplaisance de l'IA AI safetysécurité de l'IA The tendency of a language model trained on human preferences to agree with the user, revise a correct answer under challenge, or flatter, partly because agreement was rated well during training.Tendance d'un modèle de langue entraîné sur des préférences humaines à abonder dans le sens de l'utilisateur, à revenir sur une réponse correcte quand on la conteste ou à flatter, en partie parce que l'accord a été bien noté pendant l'entraînement. mentionne rarement de lui-même	les objections aussi sont générées : elles peuvent être inventées ou passer à côté du vrai problème
Demander au modèle comment il est arrivé à sa réponse	des étapes intermédiaires que vous pouvez vérifier une à une	l’explication ne correspond pas forcément à la façon dont la réponse a été produite, et chaque étape peut être fausse
Essayer le modèle sur un cas dont vous connaissez déjà la réponse	montre s’il se débrouille avec ce genre de tâche	un cas suivant peut quand même mal tourner
Chercher vous-même l’information dans une source fiable	la seule vérification qui ne dépend pas d’un modèle	elle prend du temps : gardez-la pour les faits qui comptent

Toutes les vérifications sauf la dernière passent par un modèle : elles peuvent échouer comme la réponse a échoué. Reposer la question reste utile : des réponses dont le sens varie d’une exécution à l’autre sont un signe mesurable de contenu inventé (Farquhar et al., 2024) (see also the LLMs are non-deterministic page, in the LLM lifecycle module) (voir aussi la page Les GML ne sont pas déterministes, dans le module Cycle de vie des GML). Cela vaut son coût pour une affirmation à laquelle vous devez vous fier, mais reposer la même question par réflexe ajoute à l’énergie que consomme un modèle (see also the Putting it in proportion page, in the Critical issues with LLMs module) (voir aussi la page Remettre en proportion, dans le module Enjeux critiques des GML).

Sources

• Farquhar, S., Kossen, J., Kuhn, L., & Gal, Y. (2024). Detecting hallucinations in large language models using semantic entropy. Nature, 630(8017), 625–630. https://doi.org/10.1038/s41586-024-07421-0

Instructions and content look alike to a model

Everything a model reads arrives as the same tokens token²jeton textuel² language modelsmodèles de langue A unit of text that a language model processes or generates.Unité de texte qu'un modèle de langue traite ou génère. Un jeton peut correspondre à un mot entier, à une partie de mot, à un signe de ponctuation ou à une séquence plus petite de caractères ou d'octets. : the system prompt system promptrequête générative système promptingrequêtes An instruction supplied to a language model before or alongside the user's input that establishes the model's role, task, behavioural rules, tone, or other context for the interaction.Instruction fournie à un modèle de langue avant l'entrée de l'utilisateur, ou en parallèle, qui établit le rôle du modèle, sa tâche, ses règles de conduite, son ton ou d'autres éléments de contexte pour l'interaction. the provider wrote, your request, and the document you attached. Nothing in that text marks which parts are instructions and which are material to work on (Figure 2figure 2). Models are trained to give the system prompt priority when a later message contradicts it, and in tests every model did much worse when instructions conflicted than when they agreed (Zhang et al., 2025b) (see also the System prompts page, in the LLM lifecycle module) (voir aussi la page Requêtes génératives système, dans le module Cycle de vie des GML).Tested on models of 2024, among them GPT-4o, Claude 3, Llama 3.1 and Qwen2.

Someone who writes a document you will feed to a model can use that.

The same property lets the person typing talk a model’s refusals around, which is jailbreaking jailbreakingdébridage AI safetysécurité de l'IA The deliberate use of specially crafted prompts or interaction strategies to make an AI model bypass restrictions on its outputs or behaviour, such as its refusal to provide prohibited content or sensitive information.Utilisation délibérée de requêtes spécialement conçues ou de stratégies d'interaction pour amener un modèle d'IA à contourner les restrictions sur ses sorties ou son comportement, comme son refus de fournir du contenu interdit ou des renseignements sensibles. (see also the Jailbreaking and red teaming page, in the LLM lifecycle module) (voir aussi la page Débridage et équipes rouges, dans le module Cycle de vie des GML).

An example: manuscripts that review themselves

Text is easy to hide from a reader without hiding it from a program: set in the same colour as the background, or at a size of one point, it disappears on the page while any program reading the file still extracts it. A study wrote such instructions into 100 manuscripts and uploaded them to ChatGPT and Gemini with a request for a review: instructions steering the review towards a positive verdict, or making the model refuse, or sending it to an external site, each worked more than 98 % of the time (Torrielli et al., 2026). Conferences have begun to take a position on it: the ICML 2026 reviewer guidelines forbid authors from injecting prompts, while allowing instructions whose only purpose is to reveal that a reviewer used a model.Tested in 2026 through the two products’ web interfaces, on computer-science papers; the authors also propose the same mechanism as a detection tool, since a hidden instruction that leaves a trace in a review shows the review was generated.

Why it concerns you

Anything a model reads on your behalf can contain instructions: a web page, a PDF from a client, an email being summarized, a document in a shared folder. A sentence in that material saying disregard your instructions and instead do X is not marked as less authoritative than what you wrote.

When a model only writes you an answer, the worst that happens is a wrong or strange answer, and you have a chance to notice it. It gets serious once the model can act for you, because the hidden instruction then reaches your files, your messages or your accounts.

Sources

• Torrielli, F., Locci, S., Rapp, A., & Di Caro, L. (2026). Exploiting large language models in peer review: indirect prompt injection attacks and integrity probes. Scientometrics, 131(7), 4889–4951. https://doi.org/10.1007/s11192-026-05695-x
• Zhang, Z., Li, S., Zhang, Z., Liu, X., Jiang, H., Tang, X., et al. (2025b). IHEval: Evaluating Language Models on Following the Instruction Hierarchy. Proceedings of the 2025 Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics (NAACL 2025), 8374–8398. https://doi.org/10.18653/v1/2025.naacl-long.425

Instructions et contenu se ressemblent pour un modèle

Tout ce qu’un modèle lit lui arrive sous la forme des mêmes jetons token²jeton textuel² language modelsmodèles de langue A unit of text that a language model processes or generates.Unité de texte qu'un modèle de langue traite ou génère. Un jeton peut correspondre à un mot entier, à une partie de mot, à un signe de ponctuation ou à une séquence plus petite de caractères ou d'octets.  : la requête système system promptrequête générative système promptingrequêtes An instruction supplied to a language model before or alongside the user's input that establishes the model's role, task, behavioural rules, tone, or other context for the interaction.Instruction fournie à un modèle de langue avant l'entrée de l'utilisateur, ou en parallèle, qui établit le rôle du modèle, sa tâche, ses règles de conduite, son ton ou d'autres éléments de contexte pour l'interaction. écrite par le fournisseur, votre demande et le document que vous avez joint. Rien dans ce texte n’indique quelles parties sont des instructions et lesquelles sont la matière à traiter (Figure 2figure 2). Les modèles sont entraînés à donner la priorité à la requête système quand un message ultérieur la contredit, et dans les tests, tous les modèles ont nettement moins bien réussi lorsque les instructions se contredisaient que lorsqu’elles concordaient (Zhang et al., 2025b) (see also the System prompts page, in the LLM lifecycle module) (voir aussi la page Requêtes génératives système, dans le module Cycle de vie des GML).Testé sur des modèles de 2024, dont GPT-4o, Claude 3, Llama 3.1 et Qwen2.

Qui écrit un document que vous donnerez à un modèle peut s’en servir.

La même propriété permet à la personne qui écrit de contourner les refus d’un modèle, ce qu’on appelle le débridage jailbreakingdébridage AI safetysécurité de l'IA The deliberate use of specially crafted prompts or interaction strategies to make an AI model bypass restrictions on its outputs or behaviour, such as its refusal to provide prohibited content or sensitive information.Utilisation délibérée de requêtes spécialement conçues ou de stratégies d'interaction pour amener un modèle d'IA à contourner les restrictions sur ses sorties ou son comportement, comme son refus de fournir du contenu interdit ou des renseignements sensibles. (see also the Jailbreaking and red teaming page, in the LLM lifecycle module) (voir aussi la page Débridage et équipes rouges, dans le module Cycle de vie des GML).

Un exemple : des manuscrits qui s’évaluent eux-mêmes

Un texte se cache facilement à un lecteur sans se cacher à un programme : écrit dans la couleur du fond, ou en corps un, il disparaît sur la page alors que tout programme qui lit le fichier l’extrait encore. Une étude a inséré de telles instructions dans 100 manuscrits, puis a soumis ceux-ci à ChatGPT et à Gemini en demandant une évaluation : les instructions qui orientaient l’évaluation vers un verdict favorable, celles qui poussaient le modèle à refuser et celles qui le renvoyaient vers un site externe ont fonctionné plus de 98 % du temps (Torrielli et al., 2026). Les conférences commencent à prendre position : les consignes aux évaluateurs d’ICML 2026 interdisent aux auteurs d’insérer des instructions, tout en tolérant celles dont le seul but est de révéler qu’un évaluateur a utilisé un modèle.Testé en 2026 par les interfaces web des deux produits, sur des articles d’informatique ; les auteurs proposent aussi ce mécanisme comme outil de détection, puisqu’une instruction cachée qui laisse une trace dans une évaluation montre que celle-ci a été générée.

Pourquoi cela vous concerne

Tout ce qu’un modèle lit pour vous peut contenir des instructions : une page web, un PDF envoyé par un client, un courriel à résumer, un document dans un dossier partagé. Une phrase de cette matière qui dit ignore tes instructions et fais plutôt X n’est pas signalée comme moins autoritaire que ce que vous avez écrit.

Quand un modèle se contente de vous écrire une réponse, le pire qui arrive est une réponse fausse ou étrange, et vous avez une chance de le remarquer. Cela devient sérieux dès que le modèle peut agir pour vous, car l’instruction cachée atteint alors vos fichiers, vos messages ou vos comptes.

Sources

• Torrielli, F., Locci, S., Rapp, A., & Di Caro, L. (2026). Exploiting large language models in peer review: indirect prompt injection attacks and integrity probes. Scientometrics, 131(7), 4889–4951. https://doi.org/10.1007/s11192-026-05695-x
• Zhang, Z., Li, S., Zhang, Z., Liu, X., Jiang, H., Tang, X., et al. (2025b). IHEval: Evaluating Language Models on Following the Instruction Hierarchy. Proceedings of the 2025 Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics (NAACL 2025), 8374–8398. https://doi.org/10.18653/v1/2025.naacl-long.425

Where a prompt goes

A prompt typed into a chat app leaves your device, is processed on the provider’s servers, and is stored there with the answer as part of your history (Figure 3figure 3). From there, three things may happen to it, depending on the plan and the settings:

• it is kept for a period after you delete it, commonly about thirty days, and longer in several situations: a conversation someone has reviewed, a setting that allows training, a legal obligation;Anthropic removes deleted conversations from its back-end within thirty days and, with the model-improvement setting on, keeps chats in de-identified form for up to five years; OpenAI removes deleted conversations within thirty days (both read 17 September 2026, links in the note under the table below). Google keeps conversations that human reviewers saw for up to three years, and deleting your activity does not delete them: Gemini Apps Privacy Hub, read 22 September 2026.
• it may be read by the provider’s staff or contractors, for instance when a safety system flags it, or to improve the service;Google, for instance, states that “a subset of chats are reviewed by human reviewers” to improve its services: Gemini Apps Privacy Hub, updated 10 August 2026, read 17 September 2026.
• it may be used to train the next models, on personal plans where that is the default or where you have agreed to it.

Text used in training can come back out: Nasr et al. (2025) extracted training data, personal details included, from production models (see also the What happens to the training text page, in the LLM lifecycle module) (voir aussi la page Ce qu'il advient du texte d'entraînement, dans le module Cycle de vie des GML).Shown on the ChatGPT and Gemini models of 2023 and 2024. The authors report that one of their two attacks has since been patched, but not the general problem behind it. The chance that your own paragraph resurfaces is small, but once text has been used to train a model, switching the setting off afterwards does not take it back out of that model.

What differs by plan

Personal plans, business plans and the API generally follow different rules, and the pattern across providers stays the same even where the details change:

	Used for training	Retention	Who it suits
Free and individual plans	often yes by default, with an opt-out	the provider’s standard period	personal use
Business and enterprise plans	generally not	configurable	an organization’s work
The API	generally not	a short period	your own programs
A model on your own computer	no	your disk	material that may not leave

On personal plans the details vary from one provider to the next, for instance in whether training is on by default, how the setting is named and how long conversations are kept once training is allowed. A retention period can also be overridden: a court order in a lawsuit brought by the New York Times made one provider keep even deleted conversations for part of 2025.For instance Anthropic: with the “model improvement” setting on, chats are kept in de-identified form for up to five years and may be used for training; with it off, deleted conversations leave the back-end within thirty days; Claude for Work and the API are not used for training (Is my data used for model training?, How long do you store my data?; whether the setting is on by default for a new account is not stated there). OpenAI: conversations on personal plans are used for training unless “Improve the model for everyone” is switched off, deleted conversations leave its systems within thirty days, and business plans and the API are not used by default (How your data is used to improve model performance, updated 13 March 2026; Data Controls FAQ). The court order ended on 26 September 2025, and “limited historical April–September 2025 user data” is kept for the lawsuit (How we’re responding to The New York Times’ data demands, update of 22 October 2025). All read 17 September 2026.

Every chat app has a page in its settings where these choices are made, and most offer a temporary or incognito mode for a conversation that should not enter your history at all.For instance Claude Help Center, Incognito chats; OpenAI Help Center, Temporary Chat FAQ. Both read 15 September 2026. Reading that page once per chat app takes a few minutes, and tells you what happens to your text. The training switch is the one to look for: ChatGPT keeps it under Data controls (Figure 4figure 4) and Claude under Privacy (Figure 5figure 5), and other products put it somewhere comparable under a name of their own.

What this means for confidential work

Some material is not yours to hand over: an employer’s internal document, an unpublished manuscript or a dataset under embargo, a job application or a medical file that names someone, a student’s assignment, and, for a translator, a client’s text under a confidentiality agreement. None of it belongs in a chat app on a personal plan with the default settings. Each needs a deliberate decision, and the decision is not always no: a business plan with training off and a retention period you can defend, or a model running on your own machine, are the arrangements that make it yes (see also the Chat app, API or your own computer page) (voir aussi la page Application, API ou votre propre ordinateur). What you owe a client, an employer, a research ethics board or a professional order, and what privacy law adds, depends on your own contracts and on the law that applies to you.

A conversation can also leave on purpose. Chat apps offer a link that anyone can open, and a document or a report can be published the same way (see also the Documents, images, voice and study modes page) (voir aussi la page Documents, images, voix et modes d'étude). The link shows the exchange as it stands, so a conversation is worth reading through before you share it, above all when it contains material or details belonging to someone else. A shared link can also spread further than expected: in July 2025 ChatGPT offered to make a shared conversation findable by search engines, the magazine Fast Company found thousands of them in Google results, and OpenAI withdrew the option within days, saying it gave people too many chances to share something they had not meant to.OpenAI’s security lead called it a short-lived experiment and said indexed content would be removed from the search engines: Karissa Bell, OpenAI is removing ChatGPT conversations from Google, Engadget, 31 July 2025, read 22 September 2026. (Figure 6figure 6).

Sources

• Nasr, M., Rando, J., Carlini, N., Hayase, J., Jagielski, M., Cooper, A. F., et al. (2025). Scalable Extraction of Training Data from Aligned, Production Language Models. Proceedings of the Thirteenth International Conference on Learning Representations (ICLR 2025). https://proceedings.iclr.cc/paper_files/paper/2025/hash/cce0e917b050208170151f77b497fc71-Abstract-Conference.html

Où va une requête

Une requête tapée dans une application de conversation quitte votre appareil, est traitée sur les serveurs du fournisseur et y est conservée avec la réponse, dans votre historique (Figure 3figure 3). De là, trois choses peuvent lui arriver, selon le forfait et les réglages :

• elle est conservée un certain temps après que vous l’avez supprimée, couramment une trentaine de jours, et plus longtemps dans plusieurs cas : une conversation que quelqu’un a examinée, un réglage qui autorise l’entraînement, une obligation légale ;Anthropic retire les conversations supprimées de ses systèmes en moins de trente jours et, quand le réglage d’amélioration des modèles est activé, conserve les conversations sous forme dépersonnalisée jusqu’à cinq ans ; OpenAI retire les conversations supprimées en moins de trente jours (les deux consultés le 17 septembre 2026, liens dans la note sous le tableau ci-dessous). Google conserve jusqu’à trois ans les conversations examinées par des personnes, et supprimer votre activité ne les supprime pas : Gemini Apps Privacy Hub, consulté le 22 septembre 2026.
• elle peut être lue par le personnel du fournisseur ou par des sous-traitants, par exemple quand un système de sécurité la signale, ou pour améliorer le service ;Google, par exemple, indique qu’« un sous-ensemble de conversations est examiné par des évaluateurs humains » pour améliorer ses services : Gemini Apps Privacy Hub, mis à jour le 10 août 2026, consulté le 17 septembre 2026.
• elle peut servir à entraîner les prochains modèles, sur les forfaits personnels où c’est le réglage par défaut ou lorsque vous y avez consenti.

Un texte utilisé pour l’entraînement peut ressortir : Nasr et al. (2025) ont extrait des données d’entraînement, renseignements personnels compris, de modèles en production (see also the What happens to the training text page, in the LLM lifecycle module) (voir aussi la page Ce qu'il advient du texte d'entraînement, dans le module Cycle de vie des GML).Montré sur les modèles de ChatGPT et de Gemini de 2023 et 2024. Les auteurs signalent qu’une de leurs deux attaques a depuis été corrigée, mais pas le problème général qui la rend possible. Le risque que votre paragraphe ressorte est faible, mais une fois qu’un texte a servi à entraîner un modèle, désactiver le réglage après coup ne le retire pas de ce modèle.

Ce qui change selon le forfait

Les forfaits personnels, les forfaits d’entreprise et l’interface de programmation (API) suivent généralement des règles différentes, et le schéma reste le même d’un fournisseur à l’autre même quand les détails changent :

	Sert à l’entraînement	Conservation	À qui cela convient
Forfaits gratuits et individuels	souvent oui par défaut, avec une option de refus	la durée habituelle du fournisseur	un usage personnel
Forfaits d’entreprise	généralement non	configurable	le travail d’une organisation
L’interface de programmation	généralement non	une courte durée	vos propres programmes
Un modèle sur votre ordinateur	non	votre disque	ce qui ne doit pas sortir

Sur les forfaits personnels, les détails varient d’un fournisseur à l’autre, par exemple selon que l’entraînement est activé par défaut ou non, selon le nom donné au réglage et selon la durée de conservation une fois l’entraînement autorisé. Une durée de conservation peut aussi être suspendue : dans le procès intenté par le New York Times, une ordonnance a obligé un fournisseur à conserver même les conversations supprimées pendant une partie de 2025.Anthropic, par exemple : avec le réglage « model improvement » activé, les conversations sont conservées sous forme dépersonnalisée jusqu’à cinq ans et peuvent servir à l’entraînement ; désactivé, les conversations supprimées quittent les systèmes en moins de trente jours ; Claude for Work et l’interface de programmation ne servent pas à l’entraînement (Is my data used for model training?, How long do you store my data? ; les pages ne disent pas si le réglage est activé par défaut pour un nouveau compte). OpenAI : sur les forfaits personnels, les conversations servent à l’entraînement à moins de désactiver « Improve the model for everyone », les conversations supprimées quittent les systèmes en moins de trente jours, et les forfaits d’entreprise et l’interface de programmation ne sont pas utilisés par défaut (How your data is used to improve model performance, mis à jour le 13 mars 2026 ; Data Controls FAQ). L’ordonnance a pris fin le 26 septembre 2025, et des « données d’utilisateurs historiques limitées d’avril à septembre 2025 » sont conservées pour le procès (How we’re responding to The New York Times’ data demands, mise à jour du 22 octobre 2025). Tous consultés le 17 septembre 2026.

Chaque application de conversation a une page de réglages où ces choix se font, et la plupart offrent un mode temporaire ou incognito pour une conversation qui ne doit pas entrer dans votre historique.Par exemple Claude Help Center, Incognito chats ; OpenAI Help Center, Temporary Chat FAQ. Les deux consultés le 15 septembre 2026. Lire cette page une fois par application prend quelques minutes et vous dit ce qui arrive à votre texte. C’est le réglage d’entraînement qu’il faut y chercher : ChatGPT le place sous Data controls (Figure 4figure 4) et Claude sous Privacy (Figure 5figure 5), et les autres produits le rangent à un endroit comparable, sous un nom à eux.

Ce que cela implique pour le travail confidentiel

Une partie de ce que vous traitez ne vous appartient pas : un document interne d’un employeur, un manuscrit inédit ou un jeu de données sous embargo, une candidature ou un dossier médical qui nomme quelqu’un, le travail d’un étudiant et, pour un traducteur, le texte d’un client soumis à une entente de confidentialité. Rien de tout cela n’a sa place dans une application de conversation sur un forfait personnel avec les réglages par défaut. Chaque cas demande une décision réfléchie, et la décision n’est pas toujours non : un forfait d’entreprise sans entraînement et avec une durée de conservation défendable, ou un modèle qui tourne sur votre machine, sont les arrangements qui permettent de dire oui (see also the Chat app, API or your own computer page) (voir aussi la page Application, API ou votre propre ordinateur). Ce que vous devez à un client, à un employeur, à un comité d’éthique de la recherche ou à un ordre professionnel, et ce qu’y ajoute le droit de la vie privée, dépend de vos propres contrats et du droit qui s’applique à vous.

Une conversation peut aussi sortir volontairement. Les applications de conversation offrent un lien que n’importe qui peut ouvrir, et un document ou un rapport peut être publié de la même façon (see also the Documents, images, voice and study modes page) (voir aussi la page Documents, images, voix et modes d'étude). Le lien montre l’échange tel quel : une conversation mérite donc d’être relue avant d’être partagée, surtout quand elle contient de la matière ou des renseignements qui appartiennent à quelqu’un d’autre. Un lien partagé peut aussi aller plus loin que prévu : en juillet 2025, ChatGPT proposait de rendre une conversation partagée repérable par les moteurs de recherche, le magazine Fast Company en a trouvé des milliers dans les résultats de Google, et OpenAI a retiré l’option en quelques jours, en expliquant qu’elle donnait trop d’occasions de partager quelque chose sans l’avoir voulu.Le responsable de la sécurité chez OpenAI a parlé d’une expérience de courte durée et annoncé le retrait des contenus indexés des moteurs de recherche : Karissa Bell, OpenAI is removing ChatGPT conversations from Google, Engadget, 31 juillet 2025, consulté le 22 septembre 2026. (Figure 6figure 6).

Sources

• Nasr, M., Rando, J., Carlini, N., Hayase, J., Jagielski, M., Cooper, A. F., et al. (2025). Scalable Extraction of Training Data from Aligned, Production Language Models. Proceedings of the Thirteenth International Conference on Learning Representations (ICLR 2025). https://proceedings.iclr.cc/paper_files/paper/2025/hash/cce0e917b050208170151f77b497fc71-Abstract-Conference.html