Machine Learning for Natural Language Processing (NLP)
Objectifs
– Comprendre les fondements des modèles NLP récents (modèles de langage, transformateurs, GPT)rn- Mettre en œuvre des pipelines de traitement du langage naturelrn- Concevoir des solutions pour l’extraction d’informations textuelles
Plan
Le cours introduira les principales notions de NLP et détaillera les approches modernes de NLP basées sur l’apprentissage automatique, en passant par les points suivants : représentation des mots, classification des textes, étiquetage des mots, modélisation du langage, transformateurs et modèles de langage de grande taille, génération de textes. rn
Prérequis
– Fondements de l’apprentissage automatique (probabilités/statistiques, optimisation, descente de gradient, fonction de perte, etc.)rn- Bonne connaissance de Pythonrn- Familiarité avec tensirflow/keras et/ou pyTorch