Couvre le concept de descente de gradient dans les cas scalaires, en se concentrant sur la recherche du minimum d'une fonction en se déplaçant itérativement dans la direction du gradient négatif.
Fournit un aperçu des méthodes de gradient conjugué, y compris le préconditionnement, le gradient conjugué non linéaire et la décomposition des valeurs singulières.
Explore les méthodes d'optimisation dans l'apprentissage automatique, en mettant l'accent sur les gradients, les coûts et les efforts informatiques pour une formation efficace des modèles.
Explore l'optimalité des taux de convergence dans l'optimisation convexe, en mettant l'accent sur la descente accélérée des gradients et les méthodes d'adaptation.
Explore l'optimisation Conjugate Gradient, couvrant les cas quadratiques et non linéaires, les conditions Wolfe, BFGS, les algorithmes CG et la symétrie matricielle.
Introduit des méthodes itératives pour les équations linéaires, les critères de convergence, le gradient des formes quadratiques et les champs de force classiques dans les systèmes atomistiques complexes.
Introduit des bases d'optimisation, couvrant la régression logistique, les dérivés, les fonctions convexes, la descente de gradient et les méthodes de second ordre.
Explore le rôle du calcul dans les mathématiques de données, en mettant l'accent sur les méthodes itératives, l'optimisation, les estimateurs et les principes d'ascendance.
Couvre les méthodes de recherche de ligne de gradient et les techniques d'optimisation en mettant l'accent sur les conditions Wolfe et la définition positive.
Introduit Manopt, une boîte à outils pour l'optimisation sur les manifolds, couvrant le gradient et les contrôles hessiens, les appels de solveur et la mise en cache manuelle.
