Séance de cours

Arbres de décision et CLT: Inférence et apprentissage automatique

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Description

Cette séance de cours de l'instructeur couvre les arbres de décision, les ensembles d'arbres, et le théorème de limite centrale dans le contexte de l'inférence et de l'apprentissage machine. Il s'inscrit dans l'importance de comprendre les fonctions de prédiction, l'utilisation d'ensembles à base d'arbres comme le bâchage et les forêts aléatoires, et les défis de l'extrapolation et de l'évaluation de l'importance. La séance de cours explore également les méthodes de diagnostic dans l'apprentissage automatique, y compris l'importance variable et les fonctions de dépendance partielle. En outre, il traite de l'application des méthodes d'ensemble aux questions statistiques, de la stimulation des techniques et de l'estimation de la variance dans les forêts aléatoires. La séance de cours se termine par des réflexions sur le renforcement des modèles structurés et des orientations futures en matière d'inférence statistique et d'apprentissage profond.

Source officielle

Concepts associés (32)

Inférence statistique

vignette|Illustration des 4 principales étapes de l'inférence statistique L'inférence statistique est l'ensemble des techniques permettant d'induire les caractéristiques d'un groupe général (la population) à partir de celles d'un groupe particulier (l'échantillon), en fournissant une mesure de la certitude de la prédiction : la probabilité d'erreur. Strictement, l'inférence s'applique à l'ensemble des membres (pris comme un tout) de la population représentée par l'échantillon, et non pas à tel ou tel membre particulier de cette population.

Gradient boosting

Gradient boosting is a machine learning technique used in regression and classification tasks, among others. It gives a prediction model in the form of an ensemble of weak prediction models, i.e., models that make very few assumptions about the data, which are typically simple decision trees. When a decision tree is the weak learner, the resulting algorithm is called gradient-boosted trees; it usually outperforms random forest.

Forêt d'arbres décisionnels

vignette|Illustration du principe de construction d'une forêt aléatoire comme agrégation d'arbre aléatoires. En apprentissage automatique, les forêts d'arbres décisionnels (ou forêts aléatoires de l'anglais random forest classifier) forment une méthode d'apprentissage ensembliste. Ils ont été premièrement proposées par Ho en 1995 et ont été formellement proposées en 2001 par Leo Breiman et Adele Cutler. Cet algorithme combine les concepts de sous-espaces aléatoires et de bagging.

Apprentissage ensembliste

In statistics and machine learning, ensemble methods use multiple learning algorithms to obtain better predictive performance than could be obtained from any of the constituent learning algorithms alone. Unlike a statistical ensemble in statistical mechanics, which is usually infinite, a machine learning ensemble consists of only a concrete finite set of alternative models, but typically allows for much more flexible structure to exist among those alternatives.

Arbre de décision

vignette| Arbre de décision Un arbre de décision est un outil d'aide à la décision représentant un ensemble de choix sous la forme graphique d'un arbre. Les différentes décisions possibles sont situées aux extrémités des branches (les « feuilles » de l'arbre), et sont atteintes en fonction de décisions prises à chaque étape. L'arbre de décision est un outil utilisé dans des domaines variés tels que la sécurité, la fouille de données, la médecine, etc. Il a l'avantage d'être lisible et rapide à exécuter.

Afficher plus

Séances de cours associées (64)

Arbres de décision: Induction et attributs

Explore les arbres de décision, la sélection des attributs, le compromis biais-variance et les méthodes d'ensemble dans l'apprentissage automatique.

Bases d'apprentissage automatique : Apprentissage supervisé et non supervisé

Couvre les bases de l'apprentissage automatique, l'apprentissage supervisé et non supervisé, diverses techniques comme les voisins k-nearest et les arbres de décision, et les défis de l'ajustement excessif.

Arbres de décision et forêts aléatoires: concepts et applications

Discute des arbres de décision et des forêts aléatoires, en se concentrant sur leur structure, leur optimisation et leur application dans les tâches de régression et de classification.

Méthodes de l'ensemble : Forêts aléatoires

Couvre les méthodes d'ensemble comme les forêts aléatoires et les baies de Naive de Gaussian, expliquant comment elles améliorent la précision de prédiction et estimer les distributions gaussiennes conditionnelles.

Apprentissage supervisé : arbre k-NN et arbre de décision

Introduit l'apprentissage supervisé avec k-NN et les arbres de décision, couvrant les techniques, les exemples et les méthodes d'ensemble.

Afficher plus

Concepts associés (32)

Inférence statistique

Gradient boosting

Forêt d'arbres décisionnels

Apprentissage ensembliste

Arbre de décision

Afficher plus