Séance de cours

Kernel K-means: Apprentissage automatique avancé

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

MICRO-455: Machine learning I

Real-world engineering applications must cope with a large dataset of dynamic variables, which cannot be well approximated by classical or deterministic models. This course gives an overview of methods from Machine Learning for the analysis of non-linear, highly noisy and multi dimensional data

Description

Cette séance de cours couvre l'algorithme Kernel K-means, qui étend le clustering classique K-means pour générer des séparations non linéaires de points de données. Il explique les étapes de l'algorithme, les avantages, les limites et l'interprétation de la solution en utilisant différents noyaux. L'instructeur démontre comment les K-moyens du noyau peuvent créer des limites non linéaires et fournit des informations sur l'interprétation de la solution avec des noyaux polynomiaux et RBF.

Enseignant·e

Aude Billard

Expertise Machine LearningRoboticsMechatronicsDynamical SystemsComputational Neuroscience Enseignement et PhD Doctorant·es actuel·les Hanli Zhang, Maximilian Schmitz, Luyin Hu, Baiyu Peng, Erfan Etesami, Sthithpragya Gupta, Kuanqi Cai A dirigé les thèses EPFL de Eric Sauser, Sylvain Calinon, Micha Hersch, Florent Günter, Biljana Petreska von Ritter-Zahony, Basilio Noris, Elena Gribovskaya, Seyed Mohammad Khansari Zadeh, Seungsu Kim, Ashwini Shukla, Klas Jonas Alfred Kronander, Luka Lukic, Miao Li, Ravin L

Source officielle

Concepts associés (30)

K-moyennes

Le partitionnement en k-moyennes (ou k-means en anglais) est une méthode de partitionnement de données et un problème d'optimisation combinatoire. Étant donnés des points et un entier k, le problème est de diviser les points en k groupes, souvent appelés clusters, de façon à minimiser une certaine fonction. On considère la distance d'un point à la moyenne des points de son cluster ; la fonction à minimiser est la somme des carrés de ces distances.

Partitionnement de données

vignette|upright=1.2|Exemple de clustering hiérarchique. Le partitionnement de données (ou data clustering en anglais) est une méthode en analyse des données. Elle vise à diviser un ensemble de données en différents « paquets » homogènes, en ce sens que les données de chaque sous-ensemble partagent des caractéristiques communes, qui correspondent le plus souvent à des critères de proximité (similarité informatique) que l'on définit en introduisant des mesures et classes de distance entre objets.

Noyau polynomial

En apprentissage automatique, le noyau polynomial est une fonction noyau couramment utilisée avec les machines à vecteurs de support (SVMs) et d'autres modèles à noyaux. Il représente la similarité des vecteurs (échantillons d'apprentissage) dans un espace de degré polynomial plus grand que celui des variables d'origine, ce qui permet un apprentissage de modèles non-linéaires. Intuitivement, le noyau polynomial ne tient pas compte uniquement des propriétés des échantillons d'entrée afin de déterminer leur similitude, mais aussi des combinaisons de ceux-ci.

Astuce du noyau

En apprentissage automatique, l'astuce du noyau, ou kernel trick en anglais, est une méthode qui permet d'utiliser un classifieur linéaire pour résoudre un problème non linéaire. L'idée est de transformer l'espace de représentation des données d'entrées en un espace de plus grande dimension, où un classifieur linéaire peut être utilisé et obtenir de bonnes performances. La discrimination linéaire dans l'espace de grande dimension (appelé aussi espace de redescription) est équivalente à une discrimination non linéaire dans l'espace d'origine.

Radial basis function kernel

In machine learning, the radial basis function kernel, or RBF kernel, is a popular kernel function used in various kernelized learning algorithms. In particular, it is commonly used in support vector machine classification. The RBF kernel on two samples and x', represented as feature vectors in some input space, is defined as may be recognized as the squared Euclidean distance between the two feature vectors. is a free parameter.

Afficher plus

Séances de cours associées (64)

Kernel K-means: Analyse et applications

Explore l'algorithme Kernel K-means, son analyse, ses applications et ses limites dans le clustering.

Kernel K-moyens de regroupement

Explore Kernel K- signifie regroupement, interprétation des solutions, traitement des données manquantes, et sélection des ensembles de données pour l'apprentissage automatique.

Aperçu de l'apprentissage supervisé

Contient les CNN, les RNN, les SVM et les méthodes d'apprentissage supervisé, soulignant l'importance d'harmoniser la régularisation et de prendre des décisions éclairées dans le domaine de l'apprentissage automatique.

Kernel K-Means: Preuve de convergence

Explore l'algorithme du noyau K-Means, la preuve de convergence, l'influence du noyau RBF et l'interprétation des regroupements.

Réduction de la dimensionnalité : PCA et LDA

Couvre les techniques de réduction de dimensionnalité telles que PCA et LDA, les méthodes de clustering, l'estimation de la densité et la représentation des données.

Afficher plus

Concepts associés (30)

K-moyennes

Partitionnement de données

Noyau polynomial

Astuce du noyau

Radial basis function kernel

Afficher plus