Apprentissage statistique à grande échelle

Objectifs

– Le passage à des bases de données à grande échelle modifie certains usages en apprentissage statistique. Nous en verrons quelques exemples, avec les justifications théoriques sous-jacentes.

– Objectif 1 : être en mesure de choisir des approches appropriées pour un problème « de grande taille » donné, ce qui nécessite de ..

– Objectif 2 : connaître le comportement en termes de taille de stockage et/ou de temps de calcul et/ou de qualité d’estimation des approches présentées.

Plan

– La descente de gradient stochastique

– Données et modèles parcimonieux (matrices de rang faible, attributs de Fourrier aléatoires, distillation, …)

– Le calcul distribué

Prérequis

Panorama du big data, machine learning, apprentissage statistique, optimisation