Explore les modèles paramétriques dans l'analyse des données, couvrant les estimateurs de régression, les problèmes d'optimisation et les modèles statistiques.
Couvre la minimisation empirique des risques, l'apprentissage statistique et des exemples de prédiction du cancer, de prix des maisons et de génération d'images.
Explore les modèles de signaux concis, la détection compressive, la parcimonie, les normes atomiques et la minimisation non lisse en utilisant la descente de sous-gradient.
Explore les méthodes d'optimisation, y compris la convexité, la descente en gradient et la minimisation non convexe, avec des exemples comme l'estimation de la probabilité maximale et la régression des crêtes.
Explore les méthodes de gradient adaptatif comme AdaGrad, AcceleGrad et UniXGrad, en se concentrant sur leurs taux d'adaptation et de convergence locaux.
Couvre les méthodes d'optimisation, les garanties de convergence, les compromis et les techniques de réduction de la variance en optimisation numérique.
Explore la descente progressive stochastique avec la moyenne, la comparant avec la descente progressive, et discute des défis dans l'optimisation non convexe et les techniques de récupération clairsemées.
Couvre une introduction mathématique à l'apprentissage profond, y compris les défis, la puissance des classificateurs linéaires, l'échelle du modèle et les aspects théoriques.
Couvre les méthodes de solution pour réduire au minimum les convexes composites et explore des exemples comme les moindres carrés régularisés et la récupération de phase.
Explore les techniques de réduction de la variance dans l'apprentissage profond, couvrant la descente en gradient, la descente en gradient stochastique, la méthode SVRG, et la comparaison des performances des algorithmes.
Explore le paradigme de l'apprentissage profond, y compris les défis, les réseaux neuronaux, la robustesse, l'équité, l'interprétabilité et l'efficacité énergétique.
