Classical NLPTAL classique
From tasks and rules to machine learning, with term extraction followed from rules to large language models.Des tâches et des règles à l'apprentissage automatique, avec l'extraction de termes suivie des règles aux grands modèles de langue.
- What to expectÀ quoi s'attendre
Before large language models, a program had to be told exactly what to count, match or check. This module follows a few tasks of natural language processing: how each one was made measurable, what each method does well, where it fails, and how the task is done today.Avant les grands modèles de langue, il fallait dire précisément à un programme quoi compter, apparier ou vérifier. Ce module suit quelques tâches du traitement automatique de la langue : comment chacune a été rendue mesurable, ce que chaque méthode fait bien, où elle échoue, et comment la tâche se fait aujourd'hui.
- PrerequisitesPréalables
The first two chapters of the foundations module. Nothing to install, and no mathematics beyond counting and dividing.Les deux premiers chapitres du module sur les fondements. Rien à installer, et pas de mathématiques au-delà de compter et de diviser.
- StructureStructure
A tour of the tasks of the field, then four of them in detail. Term extraction comes last, followed through every approach up to large language models.Un tour d'horizon des tâches du domaine, puis quatre d'entre elles en détail. L'extraction de termes vient en dernier, suivie à travers toutes les approches jusqu'aux grands modèles de langue.
A tour of NLP tasksTour d'horizon des tâches du TAL
- What natural language processing doesCe que fait le traitement automatique de la langue TRA2600 S5 · in classS5 · en classe
- Named entity recognition: one task up closeLa reconnaissance d'entités nommées : une tâche vue de près TRA2600 S5 · in classS5 · en classe
- From NLP pipelines to language modelsDes chaînes de traitement aux modèles de langue TRA2600 S5 · in classS5 · en classe
- Builds onPréalables
- The AI landscapeLe paysage de l'IA
- RelatedEn lien
- Automatic term extraction (from rules to large language models)Extraction automatique de termes (des règles aux grands modèles de langue)
2 concepts introducedconcepts introduits
natural language processingtraitement automatique de la langue named entity recognitionreconnaissance d'entités nommées
Tokenization (including an example of the rule-based approach)La segmentation en unités lexicales (y compris un exemple d'approche à base de règles)
- Counting words: types and tokensCompter les mots : types et occurrences TRA2600 S5 · in classS5 · en classe
- Tokenizing a text with rulesSegmenter un texte avec des règles TRA2600 S5 · in classS5 · en classe
- Hard cases for tokenizationLes cas difficiles de la segmentation TRA2600 S5 · in classS5 · en classe
- Segmenting a text into sentencesSegmenter un texte en phrases TRA2600 S5 · in classS5 · en classe
- Builds onPréalables
- From rules to machine learningDes règles à l'apprentissage automatique · A tour of NLP tasksTour d'horizon des tâches du TAL
- RelatedEn lien
- TokenizationJetonisation · Why regular expressionsPourquoi les expressions rationnelles · What is a corpus?Qu'est-ce qu'un corpus ?
4 concepts introducedconcepts introduits
token¹occurrence de mot typetype tokenization¹segmentation en unités lexicales sentence segmentationsegmentation en phrases
Part-of-speech tagging (including an example of machine learning)L'étiquetage morphosyntaxique (y compris un exemple d'apprentissage automatique)
- Word classes and part-of-speech tagsetsClasses de mots et jeux d'étiquettes morphosyntaxiques TRA2600 S5 · in classS5 · en classe
- Ambiguous word classesL'ambiguïté des classes de mots TRA2600 S5 · in classS5 · en classe
- Tagging with probabilities from an annotated corpusÉtiqueter avec des probabilités tirées d'un corpus annoté TRA2600 S5 · in classS5 · en classe
- Practice: tagging watch with probabilitiesExercices : étiqueter montre avec des probabilités TRA2600 S5 · in classS5 · en classe
- Limits of a bigram taggerLes limites d'un étiqueteur bigramme TRA2600 S5 · in classS5 · en classe
- Part-of-speech tagging todayL'étiquetage morphosyntaxique aujourd'hui TRA2600 S5 · in classS5 · en classe
- Builds onPréalables
- From rules to machine learningDes règles à l'apprentissage automatique · Tokenization (including an example of the rule-based approach)La segmentation en unités lexicales (y compris un exemple d'approche à base de règles)
- RelatedEn lien
- From neural networks to large language modelsDes réseaux de neurones aux grands modèles de langue · Evaluation foundationsFondements de l'évaluation
4 concepts introducedconcepts introduits
part-of-speech taggingétiquetage morphosyntaxique tagsetjeu d'étiquettes ambiguityambiguïté n-gramn-gramme
NormalizationNormalisation
- Normalizing text to reduce variationNormaliser un texte pour réduire la variation TRA2600 S5 · in classS5 · en classe
- Lemmatization and stemmingLemmatisation et racinisation TRA2600 S5 · in classS5 · en classe
- Builds onPréalables
- Tokenization (including an example of the rule-based approach)La segmentation en unités lexicales (y compris un exemple d'approche à base de règles) · Part-of-speech tagging (including an example of machine learning)L'étiquetage morphosyntaxique (y compris un exemple d'apprentissage automatique)
- RelatedEn lien
- What is a corpus?Qu'est-ce qu'un corpus ? · Evaluating extraction and classificationÉvaluation de l'extraction et de la classification
4 concepts introducedconcepts introduits
normalizationnormalisation stop wordmot vide lemmalemme stemmingracinisation
Automatic term extraction (from rules to large language models)Extraction automatique de termes (des règles aux grands modèles de langue)
- What is a term?Qu'est-ce qu'un terme ? TRA2600 S8 · in classS8 · en classeTRA6008 To read for S5À lire pour la S5
- Where people disagree about termsLes points de désaccord sur les termes TRA2600 S8 · in classS8 · en classeTRA6008 To read for S5À lire pour la S5
- Term extraction as a taskL'extraction de termes comme tâche TRA2600 S8 · in classS8 · en classeTRA6008 To read for S5À lire pour la S5
- Linguistic methods: part-of-speech patternsMéthodes linguistiques : les patrons morphosyntaxiques TRA2600 S8 · in classS8 · en classeTRA6008 OptionalFacultatif
- Statistical methods: termhood and unithoodMéthodes statistiques : degré de termitude et degré de figement TRA2600 S8 · in classS8 · en classeTRA6008 OptionalFacultatif
- Hybrid term extractionL'extraction hybride de termes TRA2600 S8 · in classS8 · en classeTRA6008 To read for S5À lire pour la S5
- TermoStat: a hybrid extractorTermoStat : un extracteur hybride TRA2600 S8 · in classS8 · en classeTRA6008 To read for S5À lire pour la S5
- Machine-learning methods for term extractionMéthodes d'extraction de termes par apprentissage automatique TRA2600 S8 · in classS8 · en classeTRA6008 OptionalFacultatif
- Terms in two languagesLes termes dans deux langues TRA2600 S8 · in classS8 · en classeTRA6008 OptionalFacultatif
- Term extraction with LLMsL'extraction de termes avec les GML TRA2600 S8 · in classS8 · en classeTRA6008 To read for S5À lire pour la S5
- Comparing term extraction methodsComparer les méthodes d'extraction de termes TRA2600 S8 · in classS8 · en classeTRA6008 To read for S5À lire pour la S5
- Builds onPréalables
- Part-of-speech tagging (including an example of machine learning)L'étiquetage morphosyntaxique (y compris un exemple d'apprentissage automatique) · What is a corpus?Qu'est-ce qu'un corpus ? · From rules to machine learningDes règles à l'apprentissage automatique
- RelatedEn lien
- Word embeddingsPlongements lexicaux · In-context learningApprentissage en contexte · Evaluating extraction and classificationÉvaluation de l'extraction et de la classification
5 concepts introducedconcepts introduits
termterme termhooddegré de termitude unithooddegré de figement automatic term extractionextraction automatique de termes candidate termcandidat terminologique