logo
v2.12.0 (512)

Cours scientifiques - APM_51059_EP : Théorie avancée de l'Apprentissage Statistique

Descriptif

Syllabus pour le cours de Théorie de l'apprentissage statistique avancé. ========================================================================= L’objectif de ce cours est de fournir une introduction théorique rigoureuse au domaine de l’apprentissage statistique. Il abordera plusieurs thèmes dans les cadres supervisé et non supervisé. Les méthodes non asymptotiques d’extraction d’informations en contexte aléatoire seront étudiées à l’aide d’outils issus des probabilités, des statistiques, des perturbations et de l’optimisation. Ce cours est fortement orienté sur la théorie mais quelques cours pratiques sur R ou Pyrton seront lors des PC **Langue du cours :** Français, slides en Anglais

Objectifs pédagogiques

- **Formuler** les problèmes d’apprentissage dans un cadre mathématique rigoureux. - **Caractériser et mesurer** la complexité intrinsèque de ces problèmes. - **Analyser** les erreurs d’apprentissage sous un angle théorique. - **Exploiter les connaissances préalables** pour concevoir et améliorer des modèles plus performants.

Format des notes

Numérique sur 20

Programme détaillé

**I. Théorie de l’apprentissage statistique pour les problèmes supervisés** **● Cadre d’apprentissage statistique** - - - - **Règle de décision de Bayes** - **Minimisation du risque empirique** - **Risque excédentaire** - **Garanties PAC (\*Probably Approximately Correct\*)** **● Théorie des processus empirique** - - - - **Inégalités de concentration** - **Complexités de Rademacher** - **Théorie VC** - **Stabilité** - **Chaînage de Dudley** - **Condition de faible bruit et vitesses rapides** - - **Analyse statistique de quelques modèles d’apprentissage populaires** - - **Méthodes à noyaux (\*Kernel Methods\*)** - **Boosting** - **Machine à vecteurs de support (Support Vector Machine)** - **Perceptron** **II. Théorie de l’apprentissage statistique pour les problèmes non supervisés** - - **Analyse en composantes principales (ACP) & Analyse canonique des corrélations** - - **Analyse de perturbation** - **Déviation des valeurs propres** - **Estimation des sous-espaces propres** - **Clustering** - - **Clustering spectral** - **K-means** - **Algorithme de Lloyd** **III. Introduction à des thématiques contemporaines (Liste indicative de sujets, susceptible d’évoluer)** ● Problèmes statistiques en grande dimension - - Compressed sensing - Sur-apprentissage bénin (Benign overfitting) - Apprentissage multi-tâches et méta-apprentissage ● Méthodes en ligne et bandits - - Bandits stochastiques - Quantification de l’incertitude - Prédiction conforme (Conformal Prediction) - Apprentissage de distributions
Veuillez patienter