S'insère dans le compromis entre la complexité du modèle et le risque, les limites de généralisation, et les dangers d'un ajustement excessif des classes de fonctions complexes.
Explore le compromis entre la complexité et le risque dans les modèles d'apprentissage automatique, les avantages de la surparamétrisation et le biais implicite des algorithmes d'optimisation.
Explore l'optimisation non convexe dans l'apprentissage profond, couvrant les points critiques, la convergence SGD, les points de selle et les méthodes de gradient adaptatif.
Explore les techniques d'optimisation avancées pour les modèles d'apprentissage automatique, en se concentrant sur les méthodes de gradient adaptatifs et leurs applications dans les problèmes d'optimisation non convexe.
Explore l'optimisation de la formation contradictoire, la mise en œuvre pratique, l'interprétation, l'équité, la distance de Wasserstein et les GAN de Wasserstein.
Déplacez-vous dans des modèles générateurs basés sur les scores, explorant les distributions naturelles d'apprentissage et l'impact de l'architecture de réseau neuronal sur la robustesse.
Introduit la conjugaison Fenchel, explorant ses propriétés, exemples et applications dans les problèmes d'optimisation non lisses et les formulations minimax.
Couvre les méthodes primal-dual pour la minimisation composite, les algorithmes stochastiques, les problèmes non convexes et les techniques de pénalité quadratique.
Couvre les modèles d'apprentissage statistique, la minimisation des risques et la minimisation empirique des risques avec des exemples d'estimateurs de probabilité maximale.
Couvre le rôle des modèles et des données dans lapprentissage statistique et les formulations doptimisation, avec des exemples de problèmes de classification, de régression et destimation de la densité.
Couvre les modèles d'estimation statistique, les estimateurs de ML, les machines d'apprentissage, les problèmes pratiques et les défis de l'estimation.
