Séance de cours

Problèmes d'optimisation: Algorithme de descente de gradient

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Description

Cette séance de cours présente une formulation générale pour les problèmes d'optimisation, qui peut être appliquée à la régression linéaire, à la régression logistique et aux machines vectorielles de support. En mappant ces problèmes d'apprentissage automatique à cette formulation, on peut utiliser l'algorithme de descente de gradient pour se déplacer itérativement dans la direction opposée du gradient jusqu'à atteindre le minimum de la fonction.

Dans MOOC

Systèmes IoT et applications industrielles avec Design Thinking

L'internet des objets (IdO) et les appareils connectés intelligents ont radicalement changé la façon dont notre monde fonctionne et dont les entreprises opèrent et créent de nouvelles activités. Voulez-vous apprendre les principes fondamentaux de l'IoT ? Ce cours est fait pour vous ! Dans ce cours, nous fournissons une vue d'ensemble des technologies IoT sous-jacentes et de leurs applications commerciales. Ce cours est une introduction à l'IoT et explique pourquoi il s'agit d'un concept en constante évolut

Source officielle

Proximité ontologique

Statistique

Analyse des données: Régression (statistiques)

Concepts associés (24)

Régression linéaire

En statistiques, en économétrie et en apprentissage automatique, un modèle de régression linéaire est un modèle de régression qui cherche à établir une relation linéaire entre une variable, dite expliquée, et une ou plusieurs variables, dites explicatives. On parle aussi de modèle linéaire ou de modèle de régression linéaire. Parmi les modèles de régression linéaire, le plus simple est l'ajustement affine. Celui-ci consiste à rechercher la droite permettant d'expliquer le comportement d'une variable statistique y comme étant une fonction affine d'une autre variable statistique x.

Régression logistique

En statistiques, la régression logistique ou modèle logit est un modèle de régression binomiale. Comme pour tous les modèles de régression binomiale, il s'agit d'expliquer au mieux une variable binaire (la présence ou l'absence d'une caractéristique donnée) par des observations réelles nombreuses, grâce à un modèle mathématique. En d'autres termes d'associer une variable aléatoire de Bernoulli (génériquement notée ) à un vecteur de variables aléatoires . La régression logistique constitue un cas particulier de modèle linéaire généralisé.

Régression non linéaire

Une régression non linéaire consiste à ajuster un modèle, en général non linéaire, y = ƒa1, ..., am(x) pour un ensemble de valeurs (xi, yi)1 ≤ i ≤ n. Les variables xi et yi peuvent être des scalaires ou des vecteurs. Par « ajuster », il faut comprendre : déterminer les paramètres de la loi, (a1, ..., am), afin de minimiser S = ||ri||, avec : ri = yi - ƒa1, ..., am(xi). ||...|| est une norme. On utilise en général la norme euclidienne, ou norme l2 ; on parle alors de méthode des moindres carrés.

Bayesian linear regression

Bayesian linear regression is a type of conditional modeling in which the mean of one variable is described by a linear combination of other variables, with the goal of obtaining the posterior probability of the regression coefficients (as well as other parameters describing the distribution of the regressand) and ultimately allowing the out-of-sample prediction of the regressand (often labelled ) conditional on observed values of the regressors (usually ).

Multinomial logistic regression

In statistics, multinomial logistic regression is a classification method that generalizes logistic regression to multiclass problems, i.e. with more than two possible discrete outcomes. That is, it is a model that is used to predict the probabilities of the different possible outcomes of a categorically distributed dependent variable, given a set of independent variables (which may be real-valued, binary-valued, categorical-valued, etc.).

Afficher plus

Séances de cours associées (64)

Optimisation dans l'apprentissage automatique: Gradient Descent

Couvre l'optimisation dans l'apprentissage automatique, en mettant l'accent sur la descente par gradient pour la régression linéaire et logistique, la descente par gradient stochastique et des considérations pratiques.

Algorithmes de classification: approches génératives et discriminatoires

Explore les algorithmes de classification génératifs et discriminatifs, en mettant l'accent sur leurs applications et leurs différences dans les tâches d'apprentissage automatique.

Régression linéaire et logistique

Couvre la régression linéaire et logistique, y compris les mesures de sous-ajustement, de surajustement et de performance.

Validation croisée : Techniques et applications

Explore les techniques de validation croisée, d'ajustement excessif, de régularisation et de régression dans l'apprentissage automatique.

Régression linéaire et régression logistique

Couvre la régression linéaire et logistique pour les tâches de régression et de classification, en mettant l'accent sur les fonctions de perte et la formation de modèle.

Afficher plus

Concepts associés (24)

Régression linéaire

Régression logistique

Régression non linéaire

Bayesian linear regression

Multinomial logistic regression

Afficher plus