Mediaspace scheduled maintenance: Aug 25, 2026 07:00 - 12:00 AM. During this time, videos will be temporarily unavailable. Check status updates.

Séance de cours

Interprétation probabiliste : K-Means & GMM

Dans cours

MICRO-455: Machine learning I

Description

Cette séance de cours couvre l'interprétation probabiliste du groupement de K-moyens, en introduisant l'algorithme de K-moyens doux et sa relation avec les modèles de mélange gaussiens (GMM). Il explique l'E-étape et M-étape dans le contexte de GMM, en mettant l'accent sur le calcul des responsabilités, les probabilités, et la mise à jour des moyens et des covariances.

Enseignant·e

Aude Billard

Source officielle

Concepts associés (32)

K-moyennes

Le partitionnement en k-moyennes (ou k-means en anglais) est une méthode de partitionnement de données et un problème d'optimisation combinatoire. Étant donnés des points et un entier k, le problème est de diviser les points en k groupes, souvent appelés clusters, de façon à minimiser une certaine fonction. On considère la distance d'un point à la moyenne des points de son cluster ; la fonction à minimiser est la somme des carrés de ces distances.

Partitionnement de données

vignette|upright=1.2|Exemple de clustering hiérarchique. Le partitionnement de données (ou data clustering en anglais) est une méthode en analyse des données. Elle vise à diviser un ensemble de données en différents « paquets » homogènes, en ce sens que les données de chaque sous-ensemble partagent des caractéristiques communes, qui correspondent le plus souvent à des critères de proximité (similarité informatique) que l'on définit en introduisant des mesures et classes de distance entre objets.

Probabilité a priori

Dans le théorème de Bayes, la probabilité a priori (ou prior) désigne une probabilité se fondant sur des données ou connaissances antérieures à une observation. Elle s'oppose à la probabilité a posteriori (ou posterior) correspondante qui s'appuie sur les connaissances postérieures à cette observation. Le théorème de Bayes s'énonce de la manière suivante : si . désigne ici la probabilité a priori de , tandis que désigne la probabilité a posteriori, c'est-à-dire la probabilité conditionnelle de sachant .

Fonction de vraisemblance

vignette|Exemple d'une fonction de vraisemblance pour le paramètre d'une Loi de Poisson En théorie des probabilités et en statistique, la fonction de vraisemblance (ou plus simplement vraisemblance) est une fonction des paramètres d'un modèle statistique calculée à partir de données observées. Les fonctions de vraisemblance jouent un rôle clé dans l'inférence statistique fréquentiste, en particulier pour les méthodes statistiques d'estimation de paramètres.

Regroupement hiérarchique

Dans le domaine de l'analyse et de la classification automatique de données, le regroupement hiérarchique est un partitionnement de données ou clustering, au moyen de diverses méthodes, dites « ascendantes » et « descendantes ». Les méthodes dites « descendantes » partent d’une solution générale vers une autre plus spécifique. Les méthodes de cette catégorie démarrent avec une seule classe contenant la totalité puis se divisent à chaque étape selon un critère jusqu’à l’obtention d’un ensemble de classes différentes.

Afficher plus

Séances de cours associées (36)

Estimation et inférence bayésienne

Couvre démousing, estimation, inférence bayésienne, probabilité, AWGN, et plus encore.

Inférence bayésienne : Estimation et démystification

Couvre les concepts de démystification, d'estimation et d'inférence bayésienne dans le contexte des statistiques bayésiennes.

Probabilité et statistiques

Introduit la probabilité, les statistiques, les distributions, l'inférence, la probabilité et la combinatoire pour étudier les événements aléatoires et la modélisation en réseau.

Modèle de mélange gaussien: forme finale EM

Explique les calculs E-step et M-step dans le modèle de mélange gaussien, y compris le pseudocode de lalgorithme EM.

Apprentissage automatique non supervisé: Clustering Basics

Introduit des techniques de clustering d'apprentissage automatique non supervisées telles que K-means, Gaussian Mixture Models et DBSCAN, expliquant leurs algorithmes et leurs applications.

Afficher plus

Concepts associés (32)

K-moyennes

Partitionnement de données

Probabilité a priori

Fonction de vraisemblance

Regroupement hiérarchique

Afficher plus