Mediaspace scheduled maintenance: Aug 25, 2026 07:00 - 12:00 AM. During this time, videos will be temporarily unavailable. Check status updates.

Séance de cours

Kernel K-means: Apprentissage automatique avancé

Dans cours

MICRO-455: Machine learning I

Description

Cette séance de cours couvre l'algorithme Kernel K-means, qui étend le clustering classique K-means pour générer des séparations non linéaires de points de données. Il explique les étapes de l'algorithme, les avantages, les limites et l'interprétation de la solution en utilisant différents noyaux. L'instructeur démontre comment les K-moyens du noyau peuvent créer des limites non linéaires et fournit des informations sur l'interprétation de la solution avec des noyaux polynomiaux et RBF.

Enseignant·e

Aude Billard

Source officielle

Concepts associés (30)

K-moyennes

Le partitionnement en k-moyennes (ou k-means en anglais) est une méthode de partitionnement de données et un problème d'optimisation combinatoire. Étant donnés des points et un entier k, le problème est de diviser les points en k groupes, souvent appelés clusters, de façon à minimiser une certaine fonction. On considère la distance d'un point à la moyenne des points de son cluster ; la fonction à minimiser est la somme des carrés de ces distances.

Partitionnement de données

vignette|upright=1.2|Exemple de clustering hiérarchique. Le partitionnement de données (ou data clustering en anglais) est une méthode en analyse des données. Elle vise à diviser un ensemble de données en différents « paquets » homogènes, en ce sens que les données de chaque sous-ensemble partagent des caractéristiques communes, qui correspondent le plus souvent à des critères de proximité (similarité informatique) que l'on définit en introduisant des mesures et classes de distance entre objets.

Noyau polynomial

En apprentissage automatique, le noyau polynomial est une fonction noyau couramment utilisée avec les machines à vecteurs de support (SVMs) et d'autres modèles à noyaux. Il représente la similarité des vecteurs (échantillons d'apprentissage) dans un espace de degré polynomial plus grand que celui des variables d'origine, ce qui permet un apprentissage de modèles non-linéaires. Intuitivement, le noyau polynomial ne tient pas compte uniquement des propriétés des échantillons d'entrée afin de déterminer leur similitude, mais aussi des combinaisons de ceux-ci.

Astuce du noyau

En apprentissage automatique, l'astuce du noyau, ou kernel trick en anglais, est une méthode qui permet d'utiliser un classifieur linéaire pour résoudre un problème non linéaire. L'idée est de transformer l'espace de représentation des données d'entrées en un espace de plus grande dimension, où un classifieur linéaire peut être utilisé et obtenir de bonnes performances. La discrimination linéaire dans l'espace de grande dimension (appelé aussi espace de redescription) est équivalente à une discrimination non linéaire dans l'espace d'origine.

Radial basis function kernel

In machine learning, the radial basis function kernel, or RBF kernel, is a popular kernel function used in various kernelized learning algorithms. In particular, it is commonly used in support vector machine classification. The RBF kernel on two samples and x', represented as feature vectors in some input space, is defined as may be recognized as the squared Euclidean distance between the two feature vectors. is a free parameter.

Afficher plus

Séances de cours associées (36)

Kernel K-means: Analyse et applications

Explore l'algorithme Kernel K-means, son analyse, ses applications et ses limites dans le clustering.

Kernel K-moyens de regroupement

Explore Kernel K- signifie regroupement, interprétation des solutions, traitement des données manquantes, et sélection des ensembles de données pour l'apprentissage automatique.

Aperçu de l'apprentissage supervisé

Contient les CNN, les RNN, les SVM et les méthodes d'apprentissage supervisé, soulignant l'importance d'harmoniser la régularisation et de prendre des décisions éclairées dans le domaine de l'apprentissage automatique.

Kernel K-Means: Preuve de convergence

Explore l'algorithme du noyau K-Means, la preuve de convergence, l'influence du noyau RBF et l'interprétation des regroupements.

Clustering: Théorie et pratique

Couvre la théorie et la pratique des algorithmes de regroupement, y compris PCA, K-means, Fisher LDA, groupement spectral et réduction de dimensionnalité.

Afficher plus

Concepts associés (30)

K-moyennes

Partitionnement de données

Noyau polynomial

Astuce du noyau

Radial basis function kernel

Afficher plus