Séance de cours

Estimation des moindres carrés pondérés : Algorithme IRLS

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Description

Cette séance de cours couvre l'algorithme itératif des moindres carrés (IRLS) pour l'estimation pondérée des moindres carrés. L'instructeur explique les heuristiques derrière la distribution d'échantillonnage de l'estimation maximale de la probabilité (MLE) dans les modèles linéaires généralisés (GLM). La séance de cours se penche sur le processus itératif, l'expression des scores et l'importance de la matrice de poids dans le processus d'estimation. De plus, la séance de cours traite de la normalité asymptotique du MLE dans le GLM, de la bonté des mesures d'ajustement, de la comparaison des modèles imbriqués à l'aide de déviance, et d'outils de diagnostic comme le levier et la statistique de Cook.

Source officielle

Proximité ontologique

Statistique

Analyse des données: Régression (statistiques)

Inférence statistique: Statistique mathématique

Concepts associés (32)

Multinomial logistic regression

In statistics, multinomial logistic regression is a classification method that generalizes logistic regression to multiclass problems, i.e. with more than two possible discrete outcomes. That is, it is a model that is used to predict the probabilities of the different possible outcomes of a categorically distributed dependent variable, given a set of independent variables (which may be real-valued, binary-valued, categorical-valued, etc.).

Binary data

Binary data is data whose unit can take on only two possible states. These are often labelled as 0 and 1 in accordance with the binary numeral system and Boolean algebra. Binary data occurs in many different technical and scientific fields, where it can be called by different names including bit (binary digit) in computer science, truth value in mathematical logic and related domains and binary variable in statistics. A discrete variable that can take only one state contains zero information, and is the next natural number after 1.

Weighted least squares

Weighted least squares (WLS), also known as weighted linear regression, is a generalization of ordinary least squares and linear regression in which knowledge of the unequal variance of observations (heteroscedasticity) is incorporated into the regression. WLS is also a specialization of generalized least squares, when all the off-diagonal entries of the covariance matrix of the errors, are null.

Régression logistique

En statistiques, la régression logistique ou modèle logit est un modèle de régression binomiale. Comme pour tous les modèles de régression binomiale, il s'agit d'expliquer au mieux une variable binaire (la présence ou l'absence d'une caractéristique donnée) par des observations réelles nombreuses, grâce à un modèle mathématique. En d'autres termes d'associer une variable aléatoire de Bernoulli (génériquement notée ) à un vecteur de variables aléatoires . La régression logistique constitue un cas particulier de modèle linéaire généralisé.

Residual sum of squares

In statistics, the residual sum of squares (RSS), also known as the sum of squared residuals (SSR) or the sum of squared estimate of errors (SSE), is the sum of the squares of residuals (deviations predicted from actual empirical values of data). It is a measure of the discrepancy between the data and an estimation model, such as a linear regression. A small RSS indicates a tight fit of the model to the data. It is used as an optimality criterion in parameter selection and model selection.

Afficher plus

Séances de cours associées (64)

Modèles linéaires généralisés : régression avec réponses familiales exponentielles

Couvre la régression avec des réponses familiales exponentielles à l'aide de modèles linéaires généralisés.

Modèles linéaires généralisés: GLM pour les données non gaussiennes

Explorer des modèles linéaires généralisés pour les données non gaussiennes, couvrant l'interprétation de la fonction de liaison naturelle, la normalité asymptotique MLE, les mesures de déviance, les résidus et la régression logistique.

Modèles probabilistes pour la régression linéaire

Couvre le modèle probabiliste de régression linéaire et ses applications dans la résonance magnétique nucléaire et l'imagerie par rayons X.

Régression linéaire : Approche de vraisemblance maximale

Couvre les sujets de régression linéaire, y compris les intervalles de confiance, la variance et l'approche de la probabilité maximale.

Régression linéaire : Inférence statistique et régularisation

Couvre le modèle probabiliste de régression linéaire et l'importance des techniques de régularisation.

Afficher plus

Concepts associés (32)

Multinomial logistic regression

Binary data

Weighted least squares

Régression logistique

Residual sum of squares

Afficher plus