Mediaspace scheduled maintenance: Aug 25, 2026 07:00 - 12:00 AM. During this time, videos will be temporarily unavailable. Check status updates.

Séance de cours

Modèles linéaires: Ridge, OLS et LASSO

Dans cours

EE-411: Fundamentals of inference and learning

This is an introductory course in the theory of statistics, inference, and machine learning, with an emphasis on theoretical understanding & practical exercises. The course will combine, and alternate, between mathematical theoretical foundations and prac ...

Description

Cette séance de cours couvre des modèles linéaires tels que Ridge, Ordinary Least Squares (OLS) et Least Absolute Shrinkage and Selection Operator (LASSO). Il explique les concepts de valeurs singulières, de matrices définies positives et de valeurs propres. La séance de cours se penche également sur l'application de ces modèles dans l'analyse de régression.

Enseignant·e

Florent Gérard Krzakala

Source officielle

Proximité ontologique

Statistique

Analyse des données: Régression (statistiques)

Mathématiques

Algèbre: Algèbre linéaire

Concepts associés (32)

Méthode des moindres carrés ordinaire

vignette|Graphique d'une régression linéaire La méthode des moindres carrés ordinaire (MCO) est le nom technique de la régression mathématique en statistiques, et plus particulièrement de la régression linéaire. Il s'agit d'un modèle couramment utilisé en économétrie. Il s'agit d'ajuster un nuage de points selon une relation linéaire, prenant la forme de la relation matricielle , où est un terme d'erreur.

Definite matrix

In mathematics, a symmetric matrix with real entries is positive-definite if the real number is positive for every nonzero real column vector where is the transpose of . More generally, a Hermitian matrix (that is, a complex matrix equal to its conjugate transpose) is positive-definite if the real number is positive for every nonzero complex column vector where denotes the conjugate transpose of Positive semi-definite matrices are defined similarly, except that the scalars and are required to be positive or zero (that is, nonnegative).

Generalized least squares

In statistics, generalized least squares (GLS) is a method used to estimate the unknown parameters in a linear regression model when there is a certain degree of correlation between the residuals in the regression model. Least squares and weighted least squares may need to be more statistically efficient and prevent misleading inferences. GLS was first described by Alexander Aitken in 1935. In standard linear regression models one observes data on n statistical units.

Régression linéaire

En statistiques, en économétrie et en apprentissage automatique, un modèle de régression linéaire est un modèle de régression qui cherche à établir une relation linéaire entre une variable, dite expliquée, et une ou plusieurs variables, dites explicatives. On parle aussi de modèle linéaire ou de modèle de régression linéaire. Parmi les modèles de régression linéaire, le plus simple est l'ajustement affine. Celui-ci consiste à rechercher la droite permettant d'expliquer le comportement d'une variable statistique y comme étant une fonction affine d'une autre variable statistique x.

Definite quadratic form

In mathematics, a definite quadratic form is a quadratic form over some real vector space V that has the same sign (always positive or always negative) for every non-zero vector of V. According to that sign, the quadratic form is called positive-definite or negative-definite. A semidefinite (or semi-definite) quadratic form is defined in much the same way, except that "always positive" and "always negative" are replaced by "never negative" and "never positive", respectively.

Afficher plus

Séances de cours associées (51)

Modèles linéaires : Les moindres carrés

Explore les modèles linéaires, les moindres carrés, les vecteurs gaussiens et les méthodes de sélection des modèles.

Régression linéaire : Inférence statistique et régularisation

Couvre le modèle probabiliste de régression linéaire et l'importance des techniques de régularisation.

Essai de régression linéaire

Explorer les moindres carrés dans la régression linéaire, les essais d'hypothèses, les aberrations et les hypothèses du modèle.

Décomposition de la valeur singulière : théorie et applications

Explore la théorie de la décomposition de la valeur singulière, les solutions de systèmes linéaires, les moindres carrés et les concepts d'ajustement des données.

Exemples de modèles de décision pour l'apprentissage supervisé

Couvre des exemples de modèles de décision pour lapprentissage supervisé, y compris la régression, la classification, les paires de classement et le décodage de séquence pour les modèles OCR.

Afficher plus

Concepts associés (32)

Méthode des moindres carrés ordinaire

Definite matrix

Generalized least squares

Régression linéaire

Definite quadratic form

Afficher plus