Séance de cours

Probabilité maximale, MSE, Fisher Information, Cramér-Rao Bound

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

EE-411: Fundamentals of inference and learning

This is an introductory course in the theory of statistics, inference, and machine learning, with an emphasis on theoretical understanding & practical exercises. The course will combine, and alternate, between mathematical theoretical foundations and prac ...

Description

Cette séance de cours couvre des sujets tels que l'estimation du maximum de vraisemblance, l'erreur quadratique moyenne, l'information de Fisher et la limite de Cramér-Rao. Il explique comment calculer ces mesures et leur signification dans l'inférence statistique.

Enseignant·e

Florent Gérard Krzakala

Source officielle

Concepts associés (24)

Information de Fisher

En statistique, l'information de Fisher quantifie l'information relative à un paramètre contenue dans une distribution. Elle est définie comme l'espérance de l'information observée, ou encore comme la variance de la fonction de score. Dans le cas multi-paramétrique, on parle de matrice d'information de Fisher. Elle a été introduite par R.A. Fisher. Soit f(x ; θ) la distribution de vraisemblance d'une variable aléatoire X (qui peut être multidimensionnelle), paramétrée par θ.

Erreur quadratique moyenne

En statistiques, l’erreur quadratique moyenne d’un estimateur d’un paramètre de dimension 1 (mean squared error (), en anglais) est une mesure caractérisant la « précision » de cet estimateur. Elle est plus souvent appelée « erreur quadratique » (« moyenne » étant sous-entendu) ; elle est parfois appelée aussi « risque quadratique ».

Maximum de vraisemblance

En statistique, l'estimateur du maximum de vraisemblance est un estimateur statistique utilisé pour inférer les paramètres de la loi de probabilité d'un échantillon donné en recherchant les valeurs des paramètres maximisant la fonction de vraisemblance. Cette méthode a été développée par le statisticien Ronald Aylmer Fisher en 1922. Soient neuf tirages aléatoires x1, ..., x9 suivant une même loi ; les valeurs tirées sont représentées sur les diagrammes ci-dessous par des traits verticaux pointillés.

Inférence statistique

vignette|Illustration des 4 principales étapes de l'inférence statistique L'inférence statistique est l'ensemble des techniques permettant d'induire les caractéristiques d'un groupe général (la population) à partir de celles d'un groupe particulier (l'échantillon), en fournissant une mesure de la certitude de la prédiction : la probabilité d'erreur. Strictement, l'inférence s'applique à l'ensemble des membres (pris comme un tout) de la population représentée par l'échantillon, et non pas à tel ou tel membre particulier de cette population.

Théorie de l'estimation

En statistique, la théorie de l'estimation s'intéresse à l'estimation de paramètres à partir de données empiriques mesurées ayant une composante aléatoire. Les paramètres décrivent un phénomène physique sous-jacent tel que sa valeur affecte la distribution des données mesurées. Un estimateur essaie d'approcher les paramètres inconnus à partir des mesures.

Afficher plus

Séances de cours associées (64)

Estimation maximale de la probabilité

Introduit une estimation de la probabilité maximale pour l'estimation des paramètres statistiques, couvrant le biais, la variance et l'erreur carrée moyenne.

Détection et estimation

Couvre les principes fondamentaux de la théorie de la détection et de l'estimation, en se concentrant sur l'erreur moyenne au carré et le test d'hypothèses.

Modèles probabilistes pour la régression linéaire

Couvre le modèle probabiliste de régression linéaire et ses applications dans la résonance magnétique nucléaire et l'imagerie par rayons X.

Distributions d'échantillonnage : Estimations et écarts

Couvre l'estimation des paramètres, le MSE, l'information Fisher, et le théorème Rao-Blackwell.

Estimation : Estimateur linéaire

Explore l'estimation linéaire, les critères optimaux et le principe d'orthogonalité pour de bons choix en matière d'estimation.

Afficher plus

Concepts associés (24)

Information de Fisher

Erreur quadratique moyenne

Maximum de vraisemblance

Inférence statistique

Théorie de l'estimation

Afficher plus