Part-of-speech tagging todayL'étiquetage morphosyntaxique aujourd'hui

TRA2600 S5 · in classS5 · en classe

From counts to features

The ending and the capital letter that help with an unknown word help with every word, and so do the word before, the word after, the tag before and the length of the word. A feature-based tagger combines many such clues, each a feature featureattribut machine learningapprentissage automatique A property or representation of an observation that a machine-learning model uses as input when making a prediction.Propriété ou représentation d'une observation qu'un modèle d'apprentissage automatique utilise en entrée pour produire une prédiction. a person chose to measure, and learns from the tagged corpus how much each one counts (Figure 18figure 18).

The phrase the book is, with book in the middle and a question mark for its tag. Six clues point at it: the previous tag, DET; the next tag, AUX; the ending, -ok; starts with a lowercase letter; four letters; the word itself, book. An arrow leads from the clues to a box, the model, and from the model to the answer NOUN.
Figure 18. The clues a feature-based tagger measures for one word.

This is machine learning machine learning (ML)apprentissage automatique machine learningapprentissage automatique An approach to artificial intelligence in which a model is trained on data or experience so that its adjustable parameters come to reflect patterns relevant to a task.Approche de l'intelligence artificielle dans laquelle un modèle est entraîné sur des données ou sur l'expérience, de sorte que ses paramètres ajustables en viennent à refléter des régularités pertinentes pour une tâche. with people still choosing what to measure (see also the Features for language page, in the Foundations of AI & NLP module) (voir aussi la page Les attributs pour la langue, dans le module Fondements de l'IA et du TAL). Its limit is that someone has to think of every clue.

Tagging today

Neural taggers, trained on the same tagged corpora, find their own clues in the words and their context (see also the How a network learns page, in the Foundations of AI & NLP module) (voir aussi la page Comment un réseau apprend, dans le module Fondements de l'IA et du TAL) (Figure 19figure 19).

Four cards from left to right. Rules: people decide what to look at and how much it counts. Bigram tagger: people choose two counts, and the corpus decides how much they count. Feature-based tagger: people choose many clues, and the machine decides how much they count. Neural tagger: the machine decides both. A bracket under the last three reads: about 97 % of the words right on English.
Figure 19. Four ways of tagging, from people deciding everything to the machine deciding everything. Hidden Markov model, feature-based and neural taggers all reach about 97 % on English (Jurafsky & Martin, 2026).

Where that leaves the task (Jurafsky & Martin, 2026):

A Gemini conversation. The request asks to tag three sentences with the 17 Universal Dependencies tags, as word/TAG. The answer: Travellers/NOUN who/PRON book/VERB a/DET room/NOUN early/ADV pay/VERB less/ADV ./PUNCT; She/PRON left/VERB her/PRON book/NOUN on/ADP the/DET train/NOUN ./PUNCT; The/DET old/ADJ man/VERB the/DET boats/NOUN ./PUNCT.
Figure 20. Gemini 3 Pro tagging three sentences with Universal Dependencies tags, captured 6 October 2026.

Where you see tagging

You will rarely run a tagger yourself, but you will see its output wherever a tool uses grammatical classes, for instance:

Because every occurrence in its corpus is tagged, Sketch Engine treats book as a noun and book as a verb as two different words, with sketches that share almost nothing (Figure 21figure 21). The counts show the most frequent tag at work on a real corpus: the noun is about fifteen times as frequent as the verb.

Two Sketch Engine word sketches in the English Web 2021 corpus. Book as noun, 24,239,818 occurrences: modifiers such as comic and picture, and nouns modified by book such as review, chapter and signing. Book as verb, 1,554,871 occurrences: modifiers such as early and pre, and objects such as appointment and flight.
Figure 21. Word sketches of book as a noun and as a verb in the English Web 2021 corpus (enTenTen21), Sketch Engine, captured 6 October 2026.

When such a tool makes an odd mistake, a tag wrongly assigned to an ambiguous word is often the reason.

Written in English. The French version was automatically generated and I have not revised it. Rédigé en anglais. La version française a été générée automatiquement et je ne l'ai pas révisée. Updated 6 October 2026

Des comptes aux attributs

La terminaison et la majuscule qui aident pour un mot inconnu aident pour tous les mots, tout comme le mot précédent, le mot suivant, l’étiquette précédente et la longueur du mot. Un étiqueteur fondé sur des attributs combine de nombreux indices de ce genre, chacun étant un attribut featureattribut machine learningapprentissage automatique A property or representation of an observation that a machine-learning model uses as input when making a prediction.Propriété ou représentation d'une observation qu'un modèle d'apprentissage automatique utilise en entrée pour produire une prédiction. qu’une personne a choisi de mesurer, et apprend du corpus étiqueté le poids de chacun (Figure 18figure 18).

Le segment le livre est, avec livre au milieu et un point d'interrogation pour son étiquette. Six indices pointent vers lui : l'étiquette précédente, DET ; l'étiquette suivante, AUX ; la terminaison, -re ; une minuscule initiale ; cinq lettres ; le mot lui-même, livre. Une flèche mène des indices à une case, le modèle, et du modèle à la réponse NOUN.
Figure 18. Les indices qu'un étiqueteur fondé sur des attributs mesure pour un mot.

C’est de l’apprentissage automatique machine learning (ML)apprentissage automatique machine learningapprentissage automatique An approach to artificial intelligence in which a model is trained on data or experience so that its adjustable parameters come to reflect patterns relevant to a task.Approche de l'intelligence artificielle dans laquelle un modèle est entraîné sur des données ou sur l'expérience, de sorte que ses paramètres ajustables en viennent à refléter des régularités pertinentes pour une tâche. où des personnes choisissent encore ce qu’il faut mesurer (see also the Features for language page, in the Foundations of AI & NLP module) (voir aussi la page Les attributs pour la langue, dans le module Fondements de l'IA et du TAL). Sa limite est que quelqu’un doit penser à chaque indice.

L’étiquetage aujourd’hui

Les étiqueteurs neuronaux, entraînés sur les mêmes corpus étiquetés, trouvent leurs propres indices dans les mots et leur contexte (see also the How a network learns page, in the Foundations of AI & NLP module) (voir aussi la page Comment un réseau apprend, dans le module Fondements de l'IA et du TAL) (Figure 19figure 19).

Quatre cartes de gauche à droite. Règles : des personnes décident de ce qu'on regarde et de combien il compte. Bigrammes : des personnes choisissent deux comptes, et le corpus décide de combien ils comptent. Attributs : des personnes choisissent de nombreux indices, et la machine décide de combien ils comptent. Neurones : la machine décide des deux. Une accolade sous les trois dernières indique : environ 97 % des mots justes en anglais.
Figure 19. Quatre façons d'étiqueter, des personnes qui décident de tout à la machine qui décide de tout. Les étiqueteurs à modèle de Markov caché, fondés sur des attributs et neuronaux atteignent tous environ 97 % en anglais (Jurafsky & Martin, 2026).

Où en est la tâche (Jurafsky & Martin, 2026) :

Une conversation avec Gemini. La requête demande d'étiqueter trois phrases anglaises avec les 17 étiquettes d'Universal Dependencies, sous la forme mot/ÉTIQUETTE. La réponse : Travellers/NOUN who/PRON book/VERB a/DET room/NOUN early/ADV pay/VERB less/ADV ./PUNCT ; She/PRON left/VERB her/PRON book/NOUN on/ADP the/DET train/NOUN ./PUNCT ; The/DET old/ADJ man/VERB the/DET boats/NOUN ./PUNCT.
Figure 20. Gemini 3 Pro étiquette trois phrases avec les étiquettes d'Universal Dependencies, capture du 6 octobre 2026.

Où vous voyez l’étiquetage

Vous lancerez rarement un étiqueteur vous-même, mais vous verrez ses résultats partout où un outil se sert des classes grammaticales, par exemple :

Comme chaque occurrence de son corpus est étiquetée, Sketch Engine traite le nom book et le verbe book comme deux mots différents, avec des Word Sketches qui n’ont presque rien en commun, ici dans un corpus anglais (Figure 21figure 21). Les comptes montrent l’étiquette la plus fréquente à l’œuvre sur un vrai corpus : le nom est environ quinze fois plus fréquent que le verbe.

Deux Word Sketches de Sketch Engine dans le corpus English Web 2021. Book comme nom, 24 239 818 occurrences : des modificateurs comme comic et picture, et des noms modifiés par book comme review, chapter et signing. Book comme verbe, 1 554 871 occurrences : des modificateurs comme early et pre, et des compléments d'objet comme appointment et flight.
Figure 21. Les Word Sketches de book comme nom et comme verbe dans le corpus English Web 2021 (enTenTen21), Sketch Engine, capture du 6 octobre 2026.

Quand un tel outil fait une erreur étrange, une étiquette mal attribuée à un mot ambigu en est souvent la cause.

Written in English. The French version was automatically generated and I have not revised it. Rédigé en anglais. La version française a été générée automatiquement et je ne l'ai pas révisée. Mise à jour 6 octobre 2026

Sources

  • Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models. Online draft, 3rd edition. https://web.stanford.edu/~jurafsky/slp3/
  • Manning, C. D. (2011). Part-of-speech tagging from 97% to 100%: Is it time for some linguistics?. In A. Gelbukh (Ed.), Computational Linguistics and Intelligent Text Processing, CICLing 2011 (Lecture Notes in Computer Science, Vol. 6608, pp. 171–189). Springer. https://doi.org/10.1007/978-3-642-19400-9_14

Sources

  • Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models. Online draft, 3rd edition. https://web.stanford.edu/~jurafsky/slp3/
  • Manning, C. D. (2011). Part-of-speech tagging from 97% to 100%: Is it time for some linguistics?. In A. Gelbukh (Ed.), Computational Linguistics and Intelligent Text Processing, CICLing 2011 (Lecture Notes in Computer Science, Vol. 6608, pp. 171–189). Springer. https://doi.org/10.1007/978-3-642-19400-9_14

Spotted an error? Une erreur ?

Language, content, a broken link: e-mail me what you saw and I will fix it. Langue, contenu, lien brisé : écrivez-moi ce que vous avez vu et je corrige.

ayla.rigouts.terryn@umontreal.ca

Please mention the page: Mentionnez la page :