Evaluating language technologyL'évaluation des technologies langagières
Why and how to evaluate language technology: foundations, extraction and classification, machine translation.Pourquoi et comment évaluer les technologies langagières : fondements, extraction et classification, traduction automatique.
- What to expectÀ quoi s'attendre
This module explains how to find out how well a language tool works, and how to interpret the results of an evaluation that someone else carried out. It covers the parts of an evaluation, the different ways of evaluating with their benefits and costs, and the choices every score depends on: the texts, the answers taken as correct, and the measure.Ce module explique comment déterminer si un outil langagier fonctionne bien, et comment interpréter les résultats d'une évaluation menée par quelqu'un d'autre. Il présente les parties d'une évaluation, les différentes façons d'évaluer avec leurs avantages et leurs coûts, et les choix dont dépend tout score : les textes, les réponses considérées comme correctes et la mesure.
- PrerequisitesPréalables
The first chapter has no prerequisites. The chapter on extraction and classification uses automatic term extraction as its example, so the chapter on that task in the classical NLP module helps. No mathematics beyond percentages is needed.Le premier chapitre n'a aucun préalable. Le chapitre sur l'extraction et la classification prend l'extraction automatique de termes comme exemple : le chapitre consacré à cette tâche dans le module sur le TAL classique aide donc à le suivre. Aucune mathématique au-delà des pourcentages n'est nécessaire.
- StructureStructure
The first chapter gives the foundations that apply to any evaluation: the ways of evaluating, the gold standard, agreement between annotators, benchmarks, baselines and the interpretation of a score. The second chapter covers tasks where a system finds or labels things, and the measures used for them: precision, recall and the F1 score. The third covers machine translation, where many different outputs can be correct.Le premier chapitre présente les fondements qui s'appliquent à toute évaluation : les façons d'évaluer, l'étalon de référence, l'accord entre annotateurs, les tests de performances, les étalons et l'interprétation d'un score. Le deuxième chapitre porte sur les tâches où un système trouve ou étiquette des éléments, et sur les mesures utilisées pour elles : la précision, le rappel et le score F1. Le troisième porte sur la traduction automatique, où de nombreuses sorties différentes peuvent être correctes.
Evaluation foundationsFondements de l'évaluation
- Systematic evaluationL'évaluation systématique TRA2600 To read for S9À lire pour la S9TRA6008 S5 · in classS5 · en classe
- Ways of evaluatingLes façons d'évaluer TRA2600 OptionalFacultatifTRA6008 OptionalFacultatif
- The gold standardL'étalon de référence TRA2600 To read for S9À lire pour la S9TRA6008 S5 · in classS5 · en classe
- Agreement between annotatorsL'accord entre annotateurs TRA2600 To read for S9À lire pour la S9TRA6008 S5 · in classS5 · en classe
- Benchmarks and test setsTests de performances et jeux de test TRA2600 OptionalFacultatifTRA6008 OptionalFacultatif
- BaselinesLes étalons TRA2600 To read for S9À lire pour la S9TRA6008 S5 · in classS5 · en classe
- Interpreting a scoreInterpréter un score TRA2600 OptionalFacultatifTRA6008 S5 · in classS5 · en classe
Evaluating extraction and classificationÉvaluation de l'extraction et de la classification
- False positives and false negativesFaux positifs et faux négatifs TRA2600 S9 · in classS9 · en classeTRA6008 S5 · in classS5 · en classe
- Precision, recall and F1Précision, rappel et score F1 TRA2600 S9 · in classS9 · en classeTRA6008 S5 · in classS5 · en classe
- Practice: precision, recall and F1Pratique : précision, rappel et score F1 TRA2600 S9 · in classS9 · en classeTRA6008 S5 · in classS5 · en classe
- Matching rulesLes règles de correspondance TRA2600 S9 · in classS9 · en classeTRA6008 S5 · in classS5 · en classe
- Agreement as an F1 scoreL'accord mesuré par le score F1 TRA2600 S9 · in classS9 · en classeTRA6008 S5 · in classS5 · en classe
- Steps of an evaluationLes étapes d'une évaluation TRA2600 S9 · in classS9 · en classeTRA6008 S5 · in classS5 · en classe
- Builds onPréalables
- Evaluation foundationsFondements de l'évaluation
- RelatedEn lien
- Automatic term extraction (from rules to large language models)Extraction automatique de termes (des règles aux grands modèles de langue) · From rules to machine learningDes règles à l'apprentissage automatique
10 concepts introducedconcepts introduits
true positivevrai positif false positivefaux positif false negativefaux négatif true negativevrai négatif noisebruit silencesilence precisionprécision recallrappel F1 scorescore F1 accuracyexactitude
Evaluating machine translationÉvaluation de la traduction automatique
- Many correct translationsDe nombreuses traductions correctes TRA6008 To read for S8À lire pour la S8
- Ways of evaluating a translationLes façons d'évaluer une traduction TRA6008 To read for S8À lire pour la S8
- BLEUBLEU TRA6008 To read for S8À lire pour la S8
- chrFchrF TRA6008 To read for S8À lire pour la S8
- BLEU and chrF: demoBLEU et chrF : démonstration TRA6008 To read for S8À lire pour la S8
- Practice: BLEU and chrFPratique : BLEU et chrF TRA6008 To read for S8À lire pour la S8
- Semantic and learned metricsLes métriques sémantiques et apprises TRA6008 To read for S8À lire pour la S8
- A large language model as judgeUn grand modèle de langue comme juge TRA6008 To read for S8À lire pour la S8
- Human evaluation: DA, MQM and ESAL'évaluation humaine : DA, MQM et ESA TRA6008 To read for S8À lire pour la S8
- Comparing machine and human translationComparer la traduction automatique et la traduction humaine TRA6008 To read for S8À lire pour la S8
- Reading the scoresLire les scores TRA6008 To read for S8À lire pour la S8
- Computing scores with MATEOCalculer des scores avec MATEO TRA6008 To read for S8À lire pour la S8
- Builds onPréalables
- Evaluation foundationsFondements de l'évaluation · Evaluating extraction and classificationÉvaluation de l'extraction et de la classification
- RelatedEn lien
- What machine translation isQu'est-ce que la traduction automatique · The WMT shared taskLa tâche partagée WMT · LLM leaderboardsLes classements de GML