Mediaspace scheduled maintenance: Aug 25, 2026 07:00 - 12:00 AM. During this time, videos will be temporarily unavailable. Check status updates.

Séance de cours

Valeurs propres et algorithme EM

Dans cours

MGT-448: Statistical inference and machine learning

This course aims to provide graduate students a thorough grounding in the methods, theory, mathematics and algorithms needed to do research and applications in machine learning. The course covers topics from machine learning, classical statistics, and data ...

Description

Cette séance de cours couvre le calcul des eigenvectors, la recherche du deuxième composant principal, les variables de probabilité, les étapes de l'algorithme EM, l'inégalité de Jensen, les fonctions concaves et la maximisation des limites inférieures dans le contexte des distributions de probabilité.

Enseignant·e

Negar Kiyavash

Source officielle

Concepts associés (17)

Loi de probabilité

thumb|400px 3 répartitions.png En théorie des probabilités et en statistique, une loi de probabilité décrit le comportement aléatoire d'un phénomène dépendant du hasard. L'étude des phénomènes aléatoires a commencé avec l'étude des jeux de hasard. Jeux de dés, tirage de boules dans des urnes et jeu de pile ou face ont été des motivations pour comprendre et prévoir les expériences aléatoires. Ces premières approches sont des phénomènes discrets, c'est-à-dire dont le nombre de résultats possibles est fini ou infini dénombrable.

Inégalité de Jensen

En mathématiques, et plus précisément en analyse, l’inégalité de Jensen est une relation utile et très générale concernant les fonctions convexes, due au mathématicien danois Johan Jensen et dont il donna la preuve en 1906. On peut l'écrire de deux manières : discrète ou intégrale. Elle apparaît notamment en analyse, en théorie de la mesure et en probabilités (théorème de Rao-Blackwell), mais également en physique statistique, en mécanique quantique et en théorie de l'information (sous le nom d'inégalité de Gibbs).

Generalized eigenvector

In linear algebra, a generalized eigenvector of an matrix is a vector which satisfies certain criteria which are more relaxed than those for an (ordinary) eigenvector. Let be an -dimensional vector space and let be the matrix representation of a linear map from to with respect to some ordered basis. There may not always exist a full set of linearly independent eigenvectors of that form a complete basis for . That is, the matrix may not be diagonalizable.

Valeur propre, vecteur propre et espace propre

En mathématiques, et plus particulièrement en algèbre linéaire, le concept de vecteur propre est une notion algébrique s'appliquant à une application linéaire d'un espace dans lui-même. Il correspond à l'étude des axes privilégiés, selon lesquels l'application se comporte comme une dilatation, multipliant les vecteurs par une même constante. Ce rapport de dilatation est appelé valeur propre, les vecteurs auxquels il s'applique s'appellent vecteurs propres, réunis en un espace propre.

Fonction de vraisemblance

vignette|Exemple d'une fonction de vraisemblance pour le paramètre d'une Loi de Poisson En théorie des probabilités et en statistique, la fonction de vraisemblance (ou plus simplement vraisemblance) est une fonction des paramètres d'un modèle statistique calculée à partir de données observées. Les fonctions de vraisemblance jouent un rôle clé dans l'inférence statistique fréquentiste, en particulier pour les méthodes statistiques d'estimation de paramètres.

Afficher plus

Séances de cours associées (37)

Probabilité maximale: Inférence et comparaison du modèle

Explore l'inférence de vraisemblance maximale, la sélection de modèles et la comparaison de modèles à l'aide de ratios de vraisemblance.

Probabilité et statistiques

Déplacez-vous dans les probabilités, les statistiques, les paradoxes et les variables aléatoires, montrant leurs applications et propriétés du monde réel.

Inférence maximale de vraisemblance

Explore linférence de vraisemblance maximale, comparant les modèles basés sur les ratios de vraisemblance et démontrant avec un exemple de pièce de monnaie.

K-means et modèle de mélange gaussien

Introduit le clustering de K-means, le modèle de mélange gaussien, l'inégalité de Jensen et l'algorithme EM.

Modèle de mélange gaussien: forme finale EM

Explique les calculs E-step et M-step dans le modèle de mélange gaussien, y compris le pseudocode de lalgorithme EM.

Afficher plus

Concepts associés (17)

Loi de probabilité

Inégalité de Jensen

Generalized eigenvector

Valeur propre, vecteur propre et espace propre

Fonction de vraisemblance

Afficher plus