Séance de cours

Classification binaire linéaire: Perceptron, SGD, Fisher's LDA

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

MATH-412: Statistical machine learning

A course on statistical machine learning for supervised and unsupervised learning ...

Description

Cette séance de cours couvre le modèle Perceptron, y compris l'algorithme d'apprentissage pour les cas séparables et non séparables, la descente de gradient stochastique et le discriminant linéaire de Fisher. Il traite également de la convergence des algorithmes, de la minimisation des risques et de la classification générative.

Enseignant·e

Yoav Zemel

Source officielle

Proximité ontologique

Information engineering

Apprentissage automatique: Apprentissage automatique

Concepts associés (32)

Espace séparable

En mathématiques, et plus précisément en topologie, un espace séparable est un espace topologique contenant un sous-ensemble dense et au plus dénombrable, c'est-à-dire contenant un ensemble fini ou dénombrable de points dont l'adhérence est égale à l'espace topologique tout entier. espace à base dénombrable Tout espace à base dénombrable est séparable. La réciproque est fausse, mais : Tout espace pseudométrisable séparable est à base dénombrable.Beaucoup d'espaces usuels sont de ce type.

Extension séparable

En mathématiques, et plus spécifiquement en algèbre, une extension L d'un corps K est dite séparable si elle est algébrique et si le polynôme minimal de tout élément de L n'admet que des racines simples (dans une clôture algébrique de K). La séparabilité est une des propriétés des extensions de Galois. Toute extension finie séparable satisfait le théorème de l'élément primitif. Les corps dont toutes les extensions algébriques sont séparables (c'est-à-dire les corps parfaits) sont nombreux.

Separable polynomial

In mathematics, a polynomial P(X) over a given field K is separable if its roots are distinct in an algebraic closure of K, that is, the number of distinct roots is equal to the degree of the polynomial. This concept is closely related to square-free polynomial. If K is a perfect field then the two concepts coincide. In general, P(X) is separable if and only if it is square-free over any field that contains K, which holds if and only if P(X) is coprime to its formal derivative D P(X).

Empirical risk minimization

Empirical risk minimization (ERM) is a principle in statistical learning theory which defines a family of learning algorithms and is used to give theoretical bounds on their performance. The core idea is that we cannot know exactly how well an algorithm will work in practice (the true "risk") because we don't know the true distribution of data that the algorithm will work on, but we can instead measure its performance on a known set of training data (the "empirical" risk).

Classement automatique

vignette|La fonction 1-x^2-2exp(-100x^2) (rouge) et les valeurs déplacées par un bruit de 0,1*N(0,1). Le classement automatique ou classification supervisée est la catégorisation algorithmique d'objets. Elle consiste à attribuer une classe ou catégorie à chaque objet (ou individu) à classer, en se fondant sur des données statistiques. Elle fait couramment appel à l'apprentissage automatique et est largement utilisée en reconnaissance de formes. En français, le classement fait référence à l'action de classer donc de « ranger dans une classe ».

Afficher plus

Séances de cours associées (64)

Introduction à l'apprentissage par la descente en gradient stochastique: Perceptron simple

Couvre la dérivation de la formule de descente de gradient stochastique pour un perceptron simple et explore l'interprétation géométrique de la classification.

Perceptron: Partie 2

Couvre l'algorithme Perceptron et son application aux problèmes de classification binaire, y compris l'algorithme Pocket Perceptron.

Classification linéaire : Distance signée et Perceptron

Explore la distance signée, le perceptron, la régression logistique, l'entropie croisée et la classification multi-classes.

Algorithmes de classification: approches génératives et discriminatoires

Explore les algorithmes de classification génératifs et discriminatifs, en mettant l'accent sur leurs applications et leurs différences dans les tâches d'apprentissage automatique.

Récapitulation des réseaux neuraux : fonctions d'activation

Couvre les bases des réseaux neuronaux, des fonctions d'activation, de la formation, du traitement d'image, des CNN, de la régularisation et des méthodes de réduction de dimensionnalité.

Afficher plus

Concepts associés (32)

Espace séparable

Extension séparable

Separable polynomial

Empirical risk minimization

Classement automatique

Afficher plus