Séance de cours

Application de l'apprentissage lié à la régression du noyau

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

MATH-412: Statistical machine learning

A course on statistical machine learning for supervised and unsupervised learning ...

Description

Cette séance de cours applique le théorème principal du cours au cas de la régression des moindres carrés dans un espace de Hilbert du noyau de reproduction (RKHS), en discutant de l'application à LR de la limite de Rademacher et de la constante de Lipschitz de la cartographie. Les diapositives couvrent divers aspects de l'application, y compris la famille de fonctions, les considérations de probabilité et le risque associé à la régression. La séance de cours explore la complexité des fonctions, l'intervalle de valeurs et le taux de convergence, en mettant l'accent sur les concepts clés de l'apprentissage lié et de la régression du noyau.

Enseignant·e

Yoav Zemel

Source officielle

Concepts associés (32)

Risque

Le risque est la possibilité de survenue d'un événement indésirable, la probabilité d’occurrence d'un péril probable ou d'un aléa. Le risque est une notion complexe, de définitions multiples car d'usage multidisciplinaire. Néanmoins, il est un concept très usité depuis le , par exemple sous la forme de l'expression , notamment pour qualifier, dans le sens commun, un événement, un inconvénient qu'il est raisonnable de prévenir ou de redouter l'éventualité.

Linear least squares

Linear least squares (LLS) is the least squares approximation of linear functions to data. It is a set of formulations for solving statistical problems involved in linear regression, including variants for ordinary (unweighted), weighted, and generalized (correlated) residuals. Numerical methods for linear least squares include inverting the matrix of the normal equations and orthogonal decomposition methods. The three main linear least squares formulations are: Ordinary least squares (OLS) is the most common estimator.

Regularized least squares

Regularized least squares (RLS) is a family of methods for solving the least-squares problem while using regularization to further constrain the resulting solution. RLS is used for two main reasons. The first comes up when the number of variables in the linear system exceeds the number of observations. In such settings, the ordinary least-squares problem is ill-posed and is therefore impossible to fit because the associated optimization problem has infinitely many solutions.

Méthode des moindres carrés ordinaire

vignette|Graphique d'une régression linéaire La méthode des moindres carrés ordinaire (MCO) est le nom technique de la régression mathématique en statistiques, et plus particulièrement de la régression linéaire. Il s'agit d'un modèle couramment utilisé en économétrie. Il s'agit d'ajuster un nuage de points selon une relation linéaire, prenant la forme de la relation matricielle , où est un terme d'erreur.

Méthode des moindres carrés

La méthode des moindres carrés, indépendamment élaborée par Legendre et Gauss au début du , permet de comparer des données expérimentales, généralement entachées d’erreurs de mesure, à un modèle mathématique censé décrire ces données. Ce modèle peut prendre diverses formes. Il peut s’agir de lois de conservation que les quantités mesurées doivent respecter. La méthode des moindres carrés permet alors de minimiser l’impact des erreurs expérimentales en « ajoutant de l’information » dans le processus de mesure.

Afficher plus

Séances de cours associées (64)

Intervalles de confiance : définition et estimation

Explique les intervalles de confiance, les méthodes d'estimation des paramètres et le théorème de la limite centrale dans l'inférence statistique.

Régression linéaire : estimation et inférence

Explore l'estimation de régression linéaire, les hypothèses de linéarité et les tests statistiques dans le contexte de la comparaison de modèles.

Inférence bayésienne : Estimation et démystification

Couvre les concepts de démystification, d'estimation et d'inférence bayésienne dans le contexte des statistiques bayésiennes.

Analyse des risques en gestion de projet

Explore l'analyse des risques dans la gestion de projet, couvrant l'identification, la prévention, la quantification et la gestion Lean.

Éléments de la statistique : probabilité et variables aléatoires

Introduit des concepts clés en variables de probabilité et aléatoires, couvrant les statistiques, les distributions et la covariance.

Afficher plus

Concepts associés (32)

Risque

Linear least squares

Regularized least squares

Méthode des moindres carrés ordinaire

Méthode des moindres carrés

Afficher plus