Séance de cours

Modèles linéaires : Les moindres carrés

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Description

Cette séance de cours de l'instructeur aborde le thème des modèles linéaires, en mettant l'accent sur la méthode des moindres carrés. Il s'inscrit dans l'algèbre linéaire derrière les modèles linéaires, en discutant de concepts tels que les projections, les matrices définies non négatives et la réduction optimale des dimensions linéaires. La séance de cours explore les propriétés des vecteurs gaussiens, y compris les fonctions génératrices de moment, les fonctions de densité et les isosurfaces. De plus, il explique comment faire un modèle linéaire par régression par étapes de recherche et par régression par étapes d'élimination, ce qui fournit un aperçu de la sélection et de la construction des modèles. Le contenu souligne l'importance de choisir le sous-ensemble de variables le plus approprié et d'utiliser des critères objectifs de comparaison des modèles.

Source officielle

Proximité ontologique

Statistique

Analyse des données: Régression (statistiques)

Inférence statistique: Statistique mathématique

Mathématiques

Algèbre: Algèbre linéaire

Concepts associés (32)

Régression linéaire

En statistiques, en économétrie et en apprentissage automatique, un modèle de régression linéaire est un modèle de régression qui cherche à établir une relation linéaire entre une variable, dite expliquée, et une ou plusieurs variables, dites explicatives. On parle aussi de modèle linéaire ou de modèle de régression linéaire. Parmi les modèles de régression linéaire, le plus simple est l'ajustement affine. Celui-ci consiste à rechercher la droite permettant d'expliquer le comportement d'une variable statistique y comme étant une fonction affine d'une autre variable statistique x.

Méthode des moindres carrés

La méthode des moindres carrés, indépendamment élaborée par Legendre et Gauss au début du , permet de comparer des données expérimentales, généralement entachées d’erreurs de mesure, à un modèle mathématique censé décrire ces données. Ce modèle peut prendre diverses formes. Il peut s’agir de lois de conservation que les quantités mesurées doivent respecter. La méthode des moindres carrés permet alors de minimiser l’impact des erreurs expérimentales en « ajoutant de l’information » dans le processus de mesure.

Linear least squares

Linear least squares (LLS) is the least squares approximation of linear functions to data. It is a set of formulations for solving statistical problems involved in linear regression, including variants for ordinary (unweighted), weighted, and generalized (correlated) residuals. Numerical methods for linear least squares include inverting the matrix of the normal equations and orthogonal decomposition methods. The three main linear least squares formulations are: Ordinary least squares (OLS) is the most common estimator.

Sélection naturelle

vignette|Selon les principes de la sélection naturelle de Darwin, les pinsons des Galápagos sont issus d'une espèce souche venue du continent. La sélection s'est traduite par une spécialisation de la taille de leur bec en liaison avec leur régime alimentaire (seconde édition de son la publiée en 1845). En biologie, la est l'un des mécanismes moteurs de l'évolution des espèces qui explique le succès reproductif différentiel entre des individus d'une même espèce et le succès différentiel des gènes présents dans une population.

Modèle linéaire

vignette|Données aléatoires sous forme de points, et leur régression linéaire. Un modèle linéaire multivarié est un modèle statistique dans lequel on cherche à exprimer une variable aléatoire à expliquer en fonction de variables explicatives X sous forme d'un opérateur linéaire. Le modèle linéaire est donné selon la formule : où Y est une matrice d'observations multivariées, X est une matrice de variables explicatives, B est une matrice de paramètres inconnus à estimer et U est une matrice contenant des erreurs ou du bruit.

Afficher plus

Séances de cours associées (64)

Essai de régression linéaire

Explorer les moindres carrés dans la régression linéaire, les essais d'hypothèses, les aberrations et les hypothèses du modèle.

Régression Diagnostics

Couvre les diagnostics de régression pour les modèles linéaires, en soulignant limportance de vérifier les hypothèses et didentifier les valeurs aberrantes et les observations influentes.

Modèles linéaires et suréquipement

Explore les modèles linéaires, les surajustements et l'importance de l'expansion des fonctionnalités et ajoute plus de données pour réduire les surajustements.

Algèbre linéaire de base

Couvre les concepts fondamentaux de l'algèbre linéaire, y compris les équations linéaires, les opérations matricielles, les déterminants et les espaces vectoriels.

Régression linéaire : Inférence statistique et régularisation

Couvre le modèle probabiliste de régression linéaire et l'importance des techniques de régularisation.

Afficher plus

Concepts associés (32)

Régression linéaire

Méthode des moindres carrés