Régularisation

Objectifs

– Identifier les cas d’apprentissage statistique et les problèmes inverses où la régularisation est utile : comprendre quels sont les motivations et les objectifs de la pénalisation

– Connaître les modèles de régularisation les plus courants et savoir quelles caractéristiques de reconstruction ils favorisent, choisir une régularisation parmi les méthodes les plus courantes et estimer un modèle régularisé par une méthode de descente de gradient

– Connaître et comprendre les différents types de problèmes d’optimisation et les algorithmes qui permettent de les résoudre numériquement

Plan

– Ingrédients principaux des problèmes inverses et d’apprentissage statistique + exemples pratiques

– Motivations et objectifs de la régularisation

– Types de régularisation et fonctions de régularisation couramment rencontrées

– Caractérisation des problèmes pénalisés : existence de solution, unicité, conditions d’optimalité.

– Méthodes numériques de résolution de problèmes d’optimisation

– Conditions théoriques de reconstruction correcte

Prérequis

Optimisation, Python, Algèbre