Optimisation de l'apprentissage automatique

Cette séance de cours couvre les techniques d'optimisation dans l'apprentissage automatique, se concentrant sur les fonctions de perte, les modèles de probabilité, et l'informatique des dérivés pour la rétropropagation. Il explique les concepts de softmax hiérarchique, d'intégration de mots et de modèle GloVe. La séance de cours se décline également en sous-mots, FastText et Byte Pair Encoding. Il traite des défis que pose le surajustement et de l'importance de la régularisation dans la complexité des modèles. De plus, il explore les systèmes de recommandation collaboratifs et basés sur le contenu, la factorisation matricielle et l'indexation sémantique latente.