Se concentre sur l'assemblage des éléments constitutifs du réseau neuronal et sur la gestion de la rareté des données à l'aide de diverses stratégies et hypothèses.
Couvre les méthodes d'optimisation avancées en utilisant des multiplicateurs Lagrange pour trouver l'extrémité des fonctions soumises à des contraintes.
Couvre l'optimisation de la pseudométrie dans les graphes, en se concentrant sur la minimisation de la pseudométrie et de la métrique du chemin le plus court.
Explore le sous-ajustement, le surajustement, les hyperparamètres, le compromis biais-variance et l'évaluation de modèle dans l'apprentissage automatique.
Couvre un échantillonnage important pour une estimation Monte Carlo efficace des valeurs attendues en utilisant une nouvelle distribution pour réduire la variance.
Introduit l'optimisation convexe, couvrant les ensembles convexes, les concepts de solution et les méthodes numériques efficaces en optimisation mathématique.
Explore l'optimisation des modèles d'intégration de mots, y compris la minimisation de la fonction de perte et la descente de gradient, et introduit des techniques comme Fasttext et Byte Pair Encoding.