Séance de cours

Apprentissage de la structure: Chow-Liu Algorithm

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

MGT-448: Statistical inference and machine learning

This course aims to provide graduate students a thorough grounding in the methods, theory, mathematics and algorithms needed to do research and applications in machine learning. The course covers topics from machine learning, classical statistics, and data ...

Description

Cette séance de cours couvre l'Algorithme Chow-Liu pour l'apprentissage de la structure, qui vise à apprendre le graphique codant une distribution à partir d'échantillons. Il explique comment l'algorithme se rapproche de la meilleure structure d'arbre basée sur les probabilités conjointes, minimisant la divergence K-L entre les distributions. La séance de cours s'inscrit dans les fondements théoriques et les applications pratiques de l'algorithme, soulignant l'importance de couvrir les arbres et de maximiser le gain d'information. De plus, il traite de la projection des distributions sur les arbres dont le poids maximal s'étend pour réduire au minimum la divergence. La présentation se termine par une analyse détaillée du processus d'optimisation de l'algorithme et de ses implications dans les modèles graphiques probabilistes.

Enseignant·e

Negar Kiyavash

Enseignement et PhD Doctorant·es actuel·les Mohammad Shahverdikondori, Badri Mohammad Reza, Arefe Boushehrian, Sepehr Elahi, Mohammadsadegh Khorasani, Mohammadsaeed Masiha, Amir Mohammad Aboueimehrizi A dirigé les thèses EPFL de Sina Akbari, Ehsan Mokhtarian, Yaroslav Kivva, Fateme Jamshidi Cours Causal inference MGT-416 Les étudiants apprendront les concepts et techniques de base de l'analyse de réseau en mettant l'accent sur l'inférence causale. Théorie et l'application sera équilibrée,

Source officielle

Concepts associés (30)

Loi de probabilité à plusieurs variables

vignette|Représentation d'une loi normale multivariée. Les courbes rouge et bleue représentent les lois marginales. Les points noirs sont des réalisations de cette distribution à plusieurs variables. Dans certains problèmes interviennent simultanément plusieurs variables aléatoires. Mis à part les cas particuliers de variables indépendantes (notion définie ci-dessous) et de variables liées fonctionnellement, cela introduit la notion de loi de probabilité à plusieurs variables autrement appelée loi jointe.

Modèle graphique

Un modèle graphique est une représentation d'objets probabilistes. C'est un graphe qui représente les dépendances de variables aléatoires. Ces modèles sont notamment utilisés en apprentissage automatique. Un modèle graphique est un graphe orienté ou non orienté, c'est-à-dire un ensemble, les « sommets », et des liens entre les sommets, les « arêtes ». Chaque sommet représente une variable aléatoire et chaque arête représente une dépendance de ces variables. Dans l'exemple ci-contre, il y a 4 variables aléatoires A, B, C et D.

Probabilité

vignette|Quatre dés à six faces de quatre couleurs différentes. Les six faces possibles sont visibles. Le terme probabilité possède plusieurs sens : venu historiquement du latin probabilitas, il désigne l'opposé du concept de certitude ; il est également une évaluation du caractère probable d'un événement, c'est-à-dire qu'une valeur permet de représenter son degré de certitude ; récemment, la probabilité est devenue une science mathématique et est appelée théorie des probabilités ou plus simplement probabilités ; enfin une doctrine porte également le nom de probabilisme.

Probabilité conditionnelle

vignette|Illustration des probabilités conditionnelles avec un diagramme d'Euler. On a la probabilité a priori et les probabilités conditionnelles , et .|320x320px En théorie des probabilités, une probabilité conditionnelle est la probabilité d'un événement sachant qu'un autre événement a eu lieu. Par exemple, si une carte d'un jeu est tirée au hasard, on estime qu'il y a une chance sur quatre d'obtenir un cœur ; mais si on aperçoit un reflet rouge sur la table, il y a maintenant une chance sur deux d'obtenir un cœur.

Divergence de Kullback-Leibler

En théorie des probabilités et en théorie de l'information, la divergence de Kullback-Leibler (ou divergence K-L ou encore entropie relative) est une mesure de dissimilarité entre deux distributions de probabilités. Elle doit son nom à Solomon Kullback et Richard Leibler, deux cryptanalystes américains. Selon la NSA, c'est durant les années 1950, alors qu'ils travaillaient pour cette agence, que Kullback et Leibler ont inventé cette mesure. Elle aurait d'ailleurs servi à la NSA dans son effort de cryptanalyse pour le projet Venona.

Afficher plus

Séances de cours associées (64)

Probabilité conditionnelle : Décomposition de la prévision

Explore la probabilité conditionnelle, le théorème de Bayes et la décomposition de prédiction pour une prise de décision éclairée.

Distributions de probabilités : discrètes et continues

Couvre les distributions de probabilité discrètes et continues, y compris les probabilités conjointes et conditionnelles.

Thermodynamique statistique : distributions d'espace de phase et de probabilité

Couvre l'espace de phase, les ensembles de particules, les distributions de probabilité et les fonctions de densité de probabilité.

Régression linéaire: Théorie et applications

Couvre la théorie et les applications pratiques de la régression linéaire.

Régression linéaire probabiliste

Examine la régression probabiliste linéaire, couvrant les probabilités articulaires et conditionnelles, la régression des crêtes et l'atténuation excessive.

Afficher plus

Concepts associés (30)

Loi de probabilité à plusieurs variables

Modèle graphique

Probabilité

Probabilité conditionnelle

Divergence de Kullback-Leibler

Afficher plus