Mediaspace scheduled maintenance: Aug 25, 2026 07:00 - 12:00 AM. During this time, videos will be temporarily unavailable. Check status updates.

Séance de cours

Cours intensif sur les méthodes d'ensemble: Ensachage et Boosting

Dans cours

EE-411: Fundamentals of inference and learning

This is an introductory course in the theory of statistics, inference, and machine learning, with an emphasis on theoretical understanding & practical exercises. The course will combine, and alternate, between mathematical theoretical foundations and prac ...

Description

Cette séance de cours présente les méthodes d'ensemble, en mettant l'accent sur l'ensachage et le renforcement. Il couvre le concept de faible capacité d'apprentissage menant à une forte capacité d'apprentissage, l'algorithme AdaBoost pour combiner les classificateurs faibles, et le processus de réglage des poids à chaque étape de temps. Linstructeur explique le processus itératif dajouter de nouveaux classificateurs, dadapter les poids et de re-pondérer les instances basées sur des classifications erronées.

Enseignant·e

Florent Gérard Krzakala

Source officielle

Concepts associés (28)

Boosting

Le boosting est un domaine de l'apprentissage automatique (branche de l'intelligence artificielle). C'est un principe qui regroupe de nombreux algorithmes qui s'appuient sur des ensembles de classifieurs binaires : le boosting optimise leurs performances. Le principe est issu de la combinaison de classifieurs (appelés également hypothèses). Par itérations successives, la connaissance d'un classifieur faible - weak classifier - est ajoutée au classifieur final - strong classifier.

Apprentissage ensembliste

In statistics and machine learning, ensemble methods use multiple learning algorithms to obtain better predictive performance than could be obtained from any of the constituent learning algorithms alone. Unlike a statistical ensemble in statistical mechanics, which is usually infinite, a machine learning ensemble consists of only a concrete finite set of alternative models, but typically allows for much more flexible structure to exist among those alternatives.

AdaBoost

AdaBoost (ou adaptive boosting) est, en intelligence artificielle et en apprentissage automatique, un méta-algorithme de boosting introduit par Yoav Freund et Robert Schapire. Il peut être utilisé en association avec de nombreux autres types d'algorithmes d'apprentissage afin d'en améliorer les performances. Les sorties des autres algorithmes (appelés classifieurs faibles) sont combinées en une somme pondérée qui représente la sortie finale du classeur boosté.

Classification naïve bayésienne

vignette|Exemple de classification naïve bayésienne pour un ensemble de données dont le nombre augmente avec le temps. La classification naïve bayésienne est un type de classification bayésienne probabiliste simple basée sur le théorème de Bayes avec une forte indépendance (dite naïve) des hypothèses. Elle met en œuvre un classifieur bayésien naïf, ou classifieur naïf de Bayes, appartenant à la famille des classifieurs linéaires. Un terme plus approprié pour le modèle probabiliste sous-jacent pourrait être « modèle à caractéristiques statistiquement indépendantes ».

Gradient boosting

Gradient boosting is a machine learning technique used in regression and classification tasks, among others. It gives a prediction model in the form of an ensemble of weak prediction models, i.e., models that make very few assumptions about the data, which are typically simple decision trees. When a decision tree is the weak learner, the resulting algorithm is called gradient-boosted trees; it usually outperforms random forest.

Afficher plus

Séances de cours associées (33)

Booster: Algorithme Adaboost

Couvre boosting en mettant l'accent sur l'algorithme Adaboost, en avant de la modélisation additive étape par étape, et l'arbre de gradient boosting.

Adaboost: Booster les méthodes

Explique l'algorithme Adaboost pour construire des classificateurs forts à partir de faibles, en mettant l'accent sur l'amélioration des méthodes et la détection des visages.

Classifications structurées: Arbres de décision et renforcement

Explore les arbres de décision, l'élimination excessive, les techniques stimulantes et leurs applications pratiques dans la modélisation prédictive.

Règles de voisinage les plus près: Partie 2

Explore les règles de voisinage les plus proches, les défis de l'algorithme k-NN, le classificateur Bayes et l'algorithme k-means pour le regroupement.

Apprentissage automatique avancé : booster

Couvre les apprenants faibles dans la stimulation, l'algorithme AdaBoost, les inconvénients, les apprenants faibles simples, les variantes de stimulation et les ondelettes Viola-Jones Haar-Like.

Afficher plus

Concepts associés (28)

Boosting

Apprentissage ensembliste

AdaBoost

Classification naïve bayésienne

Gradient boosting

Afficher plus