Séance de cours

PCA : Dérivation et optimisation

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

MICRO-455: Machine learning I

Real-world engineering applications must cope with a large dataset of dynamic variables, which cannot be well approximated by classical or deterministic models. This course gives an overview of methods from Machine Learning for the analysis of non-linear, highly noisy and multi dimensional data

Description

Cette séance de cours couvre la dérivation de la projection en PCA, le processus de reconstruction par minimisation des erreurs et l'optimisation pour choisir les vecteurs propres optimaux. Il explique comment maximiser la variance, les propriétés des projections PCA et l'algorithme PCA étape par étape.

Enseignant·e

Aude Billard

Expertise Machine LearningRoboticsMechatronicsDynamical SystemsComputational Neuroscience Enseignement et PhD Doctorant·es actuel·les Hanli Zhang, Maximilian Schmitz, Luyin Hu, Baiyu Peng, Erfan Etesami, Sthithpragya Gupta, Kuanqi Cai A dirigé les thèses EPFL de Eric Sauser, Sylvain Calinon, Micha Hersch, Florent Günter, Biljana Petreska von Ritter-Zahony, Basilio Noris, Elena Gribovskaya, Seyed Mohammad Khansari Zadeh, Seungsu Kim, Ashwini Shukla, Klas Jonas Alfred Kronander, Luka Lukic, Miao Li, Ravin L

Source officielle

Concepts associés (30)

Covariance

En théorie des probabilités et en statistique, la covariance entre deux variables aléatoires est un nombre permettant de quantifier leurs écarts conjoints par rapport à leurs espérances respectives. Elle s’utilise également pour deux séries de données numériques (écarts par rapport aux moyennes). La covariance de deux variables aléatoires indépendantes est nulle, bien que la réciproque ne soit pas toujours vraie. La covariance est une extension de la notion de variance.

Sample mean and covariance

The sample mean (sample average) or empirical mean (empirical average), and the sample covariance or empirical covariance are statistics computed from a sample of data on one or more random variables. The sample mean is the average value (or mean value) of a sample of numbers taken from a larger population of numbers, where "population" indicates not number of people but the entirety of relevant data, whether collected or not. A sample of 40 companies' sales from the Fortune 500 might be used for convenience instead of looking at the population, all 500 companies' sales.

Valeur propre, vecteur propre et espace propre

En mathématiques, et plus particulièrement en algèbre linéaire, le concept de vecteur propre est une notion algébrique s'appliquant à une application linéaire d'un espace dans lui-même. Il correspond à l'étude des axes privilégiés, selon lesquels l'application se comporte comme une dilatation, multipliant les vecteurs par une même constante. Ce rapport de dilatation est appelé valeur propre, les vecteurs auxquels il s'applique s'appellent vecteurs propres, réunis en un espace propre.

Projection cartographique

La projection cartographique est un ensemble de techniques géodésiques permettant de représenter une surface non plane (surface de la Terre, d'un autre corps céleste, du ciel, ...) dans son ensemble ou en partie sur la surface plane d'une carte. L'impossibilité de projeter le globe terrestre sur une surface plane sans distorsion (Theorema egregium) explique que diverses projections aient été inventées, chacune ayant ses avantages. Le choix d'une projection et le passage d'une projection à une autre comptent parmi les difficultés mathématiques que les cartographes ont dû affronter.

Optimisation (mathématiques)

L'optimisation est une branche des mathématiques cherchant à modéliser, à analyser et à résoudre analytiquement ou numériquement les problèmes qui consistent à minimiser ou maximiser une fonction sur un ensemble. L’optimisation joue un rôle important en recherche opérationnelle (domaine à la frontière entre l'informatique, les mathématiques et l'économie), dans les mathématiques appliquées (fondamentales pour l'industrie et l'ingénierie), en analyse et en analyse numérique, en statistique pour l’estimation du maximum de vraisemblance d’une distribution, pour la recherche de stratégies dans le cadre de la théorie des jeux, ou encore en théorie du contrôle et de la commande.

Afficher plus

Séances de cours associées (64)

Méthodes d'optimisation dans l'apprentissage automatique

Explore les méthodes d'optimisation dans l'apprentissage automatique, en mettant l'accent sur les gradients, les coûts et les efforts informatiques pour une formation efficace des modèles.

Composantes principales : Propriétés et applications

Explore les principales composantes, la covariance, la corrélation, le choix et les applications dans l'analyse des données.

Processus de Wiener: définition et propriétés

Explique la définition et les propriétés du processus de Wiener, en se concentrant sur sa fonction de covariance et ses chemins continus.

Règle d'Oja

Couvre la règle d'Oja dans les neurorobotiques, se concentrant sur l'apprentissage des eigenvectors et des valeurs propres pour capturer la variance maximale.

Primal-dual Optimization: Algorithmes et Convergence

Explore les algorithmes d'optimisation primal-dual pour les problèmes de minimax convexe-concave, en discutant des propriétés de convergence et des applications.

Afficher plus

Concepts associés (30)

Covariance

Sample mean and covariance

Valeur propre, vecteur propre et espace propre

Projection cartographique

Optimisation (mathématiques)

Afficher plus