Mediaspace scheduled maintenance: Aug 25, 2026 07:00 - 12:00 AM. During this time, videos will be temporarily unavailable. Check status updates.

Séance de cours

Chaînes Markov: Introduction et propriétés

Description

Cette séance de cours présente les chaînes de Markov, en discutant des propriétés élémentaires telles que la matrice de transition, les classes communicantes et les processus stochastiques. Il couvre la définition d'un processus stochastique, de vecteurs de probabilité et de matrices de transition. La séance de cours explore également la propriété de Markov, les théorèmes d'équivalence et les conséquences des chaînes de Markov.

Enseignant·e

Thomas Mountford

D'origine britannique, né en 1961. Il a reçu la bourse présidentielle des jeunes investisseurs (Presidential Young Investigator Grant) en 1990 et le prix de la Fraternité Sloan (Sloan Fellowship) en 1991. Son travail montre que les valeurs critiques d'une classe large de de systèmes de particules proches sont égales à 1, et que, suite à plusieurs travaux sur la trajectoire du mouvement brownien, incluant une simulation numérique, le nombre d'îlots browniens en 2 dimensions tend vers l'infini quand leurs tailles tendent vers 0. Il reçoit le prix Rosenbaum en 1993 lui ouvrant ainsi les portes du Isaac Newton Institute à Cambridge. Il est également décoré par le prix Rollo Davidson en 1995 et nommé membre honoraire de l'Institute of Mathematical Statistics en 2001. Assistant Profeseur de Mathematique a UCLA 1987- 1991 Associate Professeur de Mathematique a UCLA 1991-1993 Professeur de Mathematique a UCLA 1993-2001 Professeur Departement de mathématiques, EPFL dès 2001

Source officielle

Concepts associés (32)

Chaîne de Markov

vignette|Exemple élémentaire de chaîne de Markov, à deux états A et E. Les flèches indiquent les probabilités de transition d'un état à un autre. En mathématiques, une chaîne de Markov est un processus de Markov à temps discret, ou à temps continu et à espace d'états discret. Un processus de Markov est un processus stochastique possédant la propriété de Markov : l'information utile pour la prédiction du futur est entièrement contenue dans l'état présent du processus et n'est pas dépendante des états antérieurs (le système n'a pas de « mémoire »).

Propriété de Markov

vignette|Exemple de processus stochastique vérifiant la propriété de Markov: un mouvement Brownien (ici représenté en 3D) d'une particule dont la position à un instant t+1 ne dépend que de la position précédente à l'instant t. En probabilité, un processus stochastique vérifie la propriété de Markov si et seulement si la distribution conditionnelle de probabilité des états futurs, étant donnés les états passés et l'état présent, ne dépend en fait que de l'état présent et non pas des états passés (absence de « mémoire »).

Markov model

In probability theory, a Markov model is a stochastic model used to model pseudo-randomly changing systems. It is assumed that future states depend only on the current state, not on the events that occurred before it (that is, it assumes the Markov property). Generally, this assumption enables reasoning and computation with the model that would otherwise be intractable. For this reason, in the fields of predictive modelling and probabilistic forecasting, it is desirable for a given model to exhibit the Markov property.

Modèle de Markov caché

Un modèle de Markov caché (MMC, terme et définition normalisés par l’ISO/CÉI [ISO/IEC 2382-29:1999]) — (HMM)—, ou plus correctement (mais non employé) automate de Markov à états cachés, est un modèle statistique dans lequel le système modélisé est supposé être un processus markovien de paramètres inconnus. Contrairement à une chaîne de Markov classique, où les transitions prises sont inconnues de l'utilisateur mais où les états d'une exécution sont connus, dans un modèle de Markov caché, les états d'une exécution sont inconnus de l'utilisateur (seuls certains paramètres, comme la température, etc.

Méthode de Monte-Carlo par chaînes de Markov

Les méthodes de Monte-Carlo par chaînes de Markov, ou méthodes MCMC pour Markov chain Monte Carlo en anglais, sont une classe de méthodes d'échantillonnage à partir de distributions de probabilité. Ces méthodes de Monte-Carlo se basent sur le parcours de chaînes de Markov qui ont pour lois stationnaires les distributions à échantillonner. Certaines méthodes utilisent des marches aléatoires sur les chaînes de Markov (algorithme de Metropolis-Hastings, échantillonnage de Gibbs), alors que d'autres algorithmes, plus complexes, introduisent des contraintes sur les parcours pour essayer d'accélérer la convergence (Monte Carlo Hybride, Surrelaxation successive).

Afficher plus

Séances de cours associées (36)

Hidden Markov Modèles: Primer

Introduit des modèles de Markov cachés, expliquant les problèmes de base et les algorithmes comme Forward-Backward, Viterbi et Baum-Welch, en mettant laccent sur lattente-Maximisation.

Équation de Lindblad

Couvre l'interprétation de l'équation de Lindblad et sa partie unitaire dans les gaz quantiques.

Chaînes Markov

Couvre les chaînes Markov, l'échantillonnage Monte Carlo, l'isotropie, et la malédiction de la dimensionnalité.

Chaînes Markov en continu

Introduit des chaînes de Markov en continu sur un espace d'état fini avec des temps d'attente exponentiels et des probabilités de saut.

Chaînes et algorithmes de Markov

Couvre les chaînes de Markov et leurs applications dans les algorithmes, en se concentrant sur l'échantillonnage Markov Chain Monte Carlo et l'algorithme Metropolis-Hastings.

Afficher plus

Concepts associés (32)

Chaîne de Markov

Propriété de Markov

Markov model

Modèle de Markov caché

Méthode de Monte-Carlo par chaînes de Markov

Afficher plus