Strengths and limits of neural translationForces et limites de la traduction neuronale

TRA6008 To read for S7À lire pour la S7

Compared with statistical translation

A neural translation system is a single network that reads the whole source sentence and writes the translation one token token²jeton textuel² language modelsmodèles de langue A unit of text that a language model processes or generates.Unité de texte qu'un modèle de langue traite ou génère. Un jeton peut correspondre à un mot entier, à une partie de mot, à un signe de ponctuation ou à une séquence plus petite de caractères ou d'octets. at a time (see also the Neural translation page) (voir aussi la page La traduction neuronale). The table below sets out what this changed compared with statistical translation.

Strengths

Limits

Fluency and coherence. The sentence is produced as a whole and reads naturally. Context within the sentence. The system can use words far from the one it is translating, so word order and agreement improve: the gender of an adjective can be settled by a noun far from it (see also the impact on machine translation page, in the Language as numbers module) (voir aussi la page L'incidence sur la traduction automatique, dans le module Le langage en nombres). Quality. Neural systems replaced statistical ones within a few years of 2015, and the encoder-decoder transformer transformertransformeur deep learningapprentissage profond A neural-network architecture for processing sequences, such as text.Architecture de réseau de neurones pour le traitement des séquences, comme le texte. is the architecture of the systems built for translation today (Jurafsky & Martin, 2026).

A black box black boxboîte noire AIIA A system whose internal decision-making cannot be inspected: what goes in and what comes out can both be observed, and the process connecting them cannot be read.Système dont on ignore le mécanisme interne de décision : on observe ce qui y entre et ce qui en sort, sans pouvoir lire le processus qui relie les deux. . A wrong translation cannot be traced to a rule and fixed there, and a targeted improvement is hard to make. Fluent errors. A wrong word no longer announces itself, so an error is found mainly by comparing with the source. Läubli et al. (2018) found, on the neural systems of 2017, that evaluators preferred human translations more clearly when judging whole documents than isolated sentences. Ambiguity ambiguityambiguïté linguisticslinguistique The property of a stretch of language that allows more than one interpretation.Propriété d'un segment de langue qui autorise plus d'une interprétation. and bias. Ambiguous passages can still go wrong, and whatever bias is in the training translations is in the output (see also the Bias chapter, in the Critical issues with LLMs module) (voir aussi le chapitre Biais, dans le module Enjeux critiques des GML).

Training data and domain

A neural system learns from the data it was trained on, so the same system trained on different data gives different translations. The table below shows a passage of a novel, David Diop’s Frère d’âme (Figure 5figure 5), in the published translation by Anna Moschovakis and as translated by two general translation services and three versions of the European Commission’s eTranslation service: the general one and two trained for a domain.

	Text
Source (Diop)	… je sais, j’ai compris, je n’aurais pas dû. Moi, Alfa Ndiaye, fils du très vieil homme, j’ai compris, je n’aurais pas dû.
Published translation (Moschovakis)	… I know, I understand, I shouldn’t have done it. I, Alfa Ndiaye, son of the old, old man, I understand, I shouldn’t have.
Google Translate	… I know, I understood, I shouldn’t have. I, Alfa Ndiaye, son of the very old man, I understood, I shouldn’t have.
DeepL	… I know, I get it, I shouldn’t have. I, Alfa Ndiaye, son of the very old man, I get it, I shouldn’t have.
eTranslation, general	… I know, I understood, I shouldn’t have. I, Alfa Ndiaye, son of the very old man, understood, I should not have.
eTranslation, Court of Justice case law	… I understand that I should not have done so. I, Alfa Ndiaye, son of the youngest man, have understood, I should not have done so.
eTranslation, finance	… I know, I understood, I would not have had to. I, Alfa Ndiaye, a son of a man’s life, I understood, I shouldn’t have had to do so.

The passage is not hard to translate: whatever its literary qualities, it contains no rare word and no difficult structure. The three general systems all translate it well. You may prefer the published translation, which is a little less literal: the present tense (I understand), I shouldn’t have done it, and the old, old man, which repeats old where the others say very old. That is a matter of taste, though: the general systems’ versions are perfectly adequate and contain no real error. The two specialized versions of eTranslation make strange mistakes on the same phrase, fils du très vieil homme, which becomes the youngest man in one and a man’s life in the other: the prose of a novel is unlike the legal or financial text they are presumably trained on. So for a well-resourced language pair such as French and English, general systems translate ordinary text well, but the training data still has to resemble the text to translate (see also the Remaining failures page) (voir aussi la page Les échecs qui subsistent).

The sentence as the unit

Neural systems kept one habit of statistical systems: they translate one sentence at a time, each in isolation. A term translated one way in one sentence can therefore be translated another way in the next, and a pronoun is translated without the paragraph that named what it refers to. Translating with the surrounding text in view became an area of research (Voita et al., 2019; Maruf et al., 2021), but submitting a whole document at once became ordinary only with large language models large language model (LLM)grand modèle de langue (GML) language modelsmodèles de langue A neural-network language model, usually based on the transformer architecture, that is trained on very large amounts of text and contains many learned parameters.Modèle de langue à réseau de neurones, habituellement fondé sur l'architecture des transformeurs, entraîné sur de très grandes quantités de texte et comptant de très nombreux paramètres appris. (see also the Machine translation in a translator's work page) (voir aussi la page La traduction automatique dans le travail du traducteur).

Written in English. The French version was automatically generated and I have not revised it. Rédigé en anglais. La version française a été générée automatiquement et je ne l'ai pas révisée. Updated 13 October 2026

Par rapport à la traduction statistique

Un système de traduction neuronale est un réseau unique qui lit toute la phrase source et écrit la traduction un jeton token²jeton textuel² language modelsmodèles de langue A unit of text that a language model processes or generates.Unité de texte qu'un modèle de langue traite ou génère. Un jeton peut correspondre à un mot entier, à une partie de mot, à un signe de ponctuation ou à une séquence plus petite de caractères ou d'octets. à la fois (see also the Neural translation page) (voir aussi la page La traduction neuronale). Le tableau ci-dessous présente ce que cela a changé par rapport à la traduction statistique.

Forces

Limites

Fluidité et cohérence. La phrase est produite comme un tout et se lit naturellement. Le contexte dans la phrase. Le système peut s’appuyer sur des mots éloignés de celui qu’il traduit, ce qui améliore l’ordre des mots et les accords : le genre d’un adjectif peut être réglé par un nom éloigné (see also the impact on machine translation page, in the Language as numbers module) (voir aussi la page L'incidence sur la traduction automatique, dans le module Le langage en nombres). La qualité. Les systèmes neuronaux ont remplacé les systèmes statistiques en quelques années après 2015, et le transformeur transformertransformeur deep learningapprentissage profond A neural-network architecture for processing sequences, such as text.Architecture de réseau de neurones pour le traitement des séquences, comme le texte. encodeur-décodeur est l’architecture des systèmes conçus pour la traduction aujourd’hui (Jurafsky & Martin, 2026).

Une boîte noire black boxboîte noire AIIA A system whose internal decision-making cannot be inspected: what goes in and what comes out can both be observed, and the process connecting them cannot be read.Système dont on ignore le mécanisme interne de décision : on observe ce qui y entre et ce qui en sort, sans pouvoir lire le processus qui relie les deux. . Une traduction erronée ne se ramène pas à une règle que l’on corrigerait, et une amélioration ciblée est difficile. Des erreurs fluides. Un mot erroné ne se signale plus de lui-même, et une erreur se repère surtout en comparant avec la source. Läubli et al. (2018) ont constaté, sur les systèmes neuronaux de 2017, que les évaluateurs préféraient plus nettement les traductions humaines quand ils jugeaient des documents entiers que des phrases isolées. Ambiguïté ambiguityambiguïté linguisticslinguistique The property of a stretch of language that allows more than one interpretation.Propriété d'un segment de langue qui autorise plus d'une interprétation. et biais. Les passages ambigus peuvent encore être mal traduits, et les biais présents dans les traductions d’entraînement se retrouvent dans le résultat (see also the Bias chapter, in the Critical issues with LLMs module) (voir aussi le chapitre Biais, dans le module Enjeux critiques des GML).

Données d’entraînement et domaine

Un système neuronal apprend des données sur lesquelles il a été entraîné, si bien que le même système, entraîné sur d’autres données, donne d’autres traductions. Le tableau ci-dessous montre un passage d’un roman, Frère d’âme de David Diop (Figure 5figure 5), dans la traduction publiée d’Anna Moschovakis et tel que l’ont traduit deux services de traduction généraux et trois versions du service eTranslation de la Commission européenne : la version générale et deux versions entraînées pour un domaine.

	Texte
Source (Diop)	… je sais, j’ai compris, je n’aurais pas dû. Moi, Alfa Ndiaye, fils du très vieil homme, j’ai compris, je n’aurais pas dû.
Traduction publiée (Moschovakis)	… I know, I understand, I shouldn’t have done it. I, Alfa Ndiaye, son of the old, old man, I understand, I shouldn’t have.
Google Traduction	… I know, I understood, I shouldn’t have. I, Alfa Ndiaye, son of the very old man, I understood, I shouldn’t have.
DeepL	… I know, I get it, I shouldn’t have. I, Alfa Ndiaye, son of the very old man, I get it, I shouldn’t have.
eTranslation, général	… I know, I understood, I shouldn’t have. I, Alfa Ndiaye, son of the very old man, understood, I should not have.
eTranslation, jurisprudence de la Cour de justice	… I understand that I should not have done so. I, Alfa Ndiaye, son of the youngest man, have understood, I should not have done so.
eTranslation, finance	… I know, I understood, I would not have had to. I, Alfa Ndiaye, a son of a man’s life, I understood, I shouldn’t have had to do so.

Le passage n’est pas difficile à traduire : quelles que soient ses qualités littéraires, il ne contient aucun mot rare ni aucune structure difficile. Les trois systèmes généraux le traduisent tous bien. On peut préférer la traduction publiée, un peu moins littérale : le présent (I understand), I shouldn’t have done it, et the old, old man, qui répète old là où les autres disent very old. C’est toutefois une affaire de goût : les traductions des systèmes généraux sont tout à fait adéquates et ne contiennent aucune véritable erreur. Les deux versions spécialisées d’eTranslation font des erreurs étranges sur la même expression, fils du très vieil homme, qui devient the youngest man (le plus jeune) dans l’une et a man’s life (une vie d’homme) dans l’autre : la prose d’un roman ne ressemble pas aux textes juridiques ou financiers sur lesquels elles ont vraisemblablement été entraînées. Pour une paire de langues bien dotée comme le français et l’anglais, les systèmes généraux traduisent donc bien un texte ordinaire, mais les données d’entraînement doivent toujours ressembler au texte à traduire (see also the Remaining failures page) (voir aussi la page Les échecs qui subsistent).

La phrase comme unité

Les systèmes neuronaux ont gardé une habitude des systèmes statistiques : ils traduisent une phrase à la fois, chacune isolément. Un terme traduit d’une façon dans une phrase peut donc l’être autrement dans la suivante, et un pronom est traduit sans le paragraphe qui nommait son référent. Traduire en tenant compte du texte environnant est devenu un domaine de recherche (Voita et al., 2019 ; Maruf et al., 2021), mais soumettre un document entier d’un coup n’est devenu courant qu’avec les grands modèles de langue large language model (LLM)grand modèle de langue (GML) language modelsmodèles de langue A neural-network language model, usually based on the transformer architecture, that is trained on very large amounts of text and contains many learned parameters.Modèle de langue à réseau de neurones, habituellement fondé sur l'architecture des transformeurs, entraîné sur de très grandes quantités de texte et comptant de très nombreux paramètres appris. (see also the Machine translation in a translator's work page) (voir aussi la page La traduction automatique dans le travail du traducteur).

Written in English. The French version was automatically generated and I have not revised it. Rédigé en anglais. La version française a été générée automatiquement et je ne l'ai pas révisée. Mise à jour 13 octobre 2026