Kernel Methods: Comprendre les sur-ajustements et la sélection des modèles

Cette séance de cours couvre les méthodes du noyau en apprentissage automatique, en se concentrant sur les concepts de suréquipement et de sélection de modèles. Cela commence par un récapitulatif de surajustement versus sous-ajustement, expliquant comment la complexité du modèle affecte la formation et les erreurs de test. Linstructeur discute de diverses techniques de sélection de modèles, y compris les méthodes de validation croisée telles que les ensembles de validation, la validation croisée sans sortie et la validation croisée k-fold. La séance de cours souligne l'importance de choisir la complexité du modèle approprié pour éviter les surajustements. L'instructeur présente les fonctions du noyau et l'astuce du noyau, expliquant comment elles peuvent être utilisées pour dériver des versions kernelisées de machines vectorielles de régression linéaire et de support (SVM). La discussion comprend des exemples de noyaux polynomiaux et gaussiens, illustrant leurs applications dans les tâches de régression. La séance de cours se termine par une démonstration de la régression du noyau et de la SVM, mettant en évidence l'impact du choix du noyau et des hyperparamètres sur les performances du modèle. Dans l'ensemble, cette séance de cours fournit un aperçu complet des méthodes du noyau et de leur importance dans l'apprentissage automatique.