Séance de cours

Algorithmes accélérés pour les inclusions monotones

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Description

Cette séance de cours de Quoc Tran-Dinh présente des algorithmes accélérés et de division de type Halpern pour les inclusions monotones, mettant l'accent sur les modèles d'optimisation et les applications dans divers domaines tels que l'optimisation convexe, l'analyse non linéaire, l'économie et l'apprentissage automatique. L'exposé traite de la motivation des inclusions monotones, du modèle d'optimisation, des défis à relever pour développer des méthodes accélérées, et de la dérivation de nouveaux algorithmes comme l'itération à point fixe Halpern et la division des méthodes extragradientes. La séance de cours traite également des propriétés des opérateurs monotones maximaux, de la continuité de Lipschitz, des opérateurs résolvants et proximaux, des taux de convergence et des outils d'analyse de la complexité. La présentation se termine par la comparaison de différentes méthodes et l'analyse de convergence des algorithmes accélérés proposés.

Source officielle

Concepts associés (32)

Fonction monotone

En mathématiques, une fonction monotone est une fonction entre ensembles ordonnés qui préserve ou renverse l'ordre. Dans le premier cas, on parle de fonction croissante et dans l'autre de fonction décroissante. Ce concept est tout d'abord apparu en analyse réelle pour les fonctions numériques et a été généralisé ensuite dans le cadre plus abstrait de la théorie des ordres. Intuitivement (voir les figures ci-contre), la représentation graphique d'une fonction monotone sur un intervalle est une courbe qui « monte » constamment ou « descend » constamment.

Résolvante

In mathematics, the resolvent formalism is a technique for applying concepts from complex analysis to the study of the spectrum of operators on Banach spaces and more general spaces. Formal justification for the manipulations can be found in the framework of holomorphic functional calculus. The resolvent captures the spectral properties of an operator in the analytic structure of the functional.

Resolvent set

In linear algebra and operator theory, the resolvent set of a linear operator is a set of complex numbers for which the operator is in some sense "well-behaved". The resolvent set plays an important role in the resolvent formalism. Let X be a Banach space and let be a linear operator with domain . Let id denote the identity operator on X. For any , let A complex number is said to be a regular value if the following three statements are true: is injective, that is, the corestriction of to its image has an inverse ; is a bounded linear operator; is defined on a dense subspace of X, that is, has dense range.

Vitesse de convergence des suites

En analyse numérique — une branche des mathématiques — on peut classer les suites convergentes en fonction de leur vitesse de convergence vers leur point limite. C'est une manière d'apprécier l'efficacité des algorithmes qui les génèrent. Les suites considérées ici sont convergentes sans être stationnaires (tous leurs termes sont même supposés différents du point limite). Si une suite est stationnaire, tous ses éléments sont égaux à partir d'un certain rang et il est alors normal de s'intéresser au nombre d'éléments différents du point limite.

Méthode itérative

En analyse numérique, une méthode itérative est un procédé algorithmique utilisé pour résoudre un problème, par exemple la recherche d’une solution d’un système d'équations ou d’un problème d’optimisation. En débutant par le choix d’un point initial considéré comme une première ébauche de solution, la méthode procède par itérations au cours desquelles elle détermine une succession de solutions approximatives raffinées qui se rapprochent graduellement de la solution cherchée. Les points générés sont appelés des itérés.

Afficher plus

Séances de cours associées (64)

Méthodes d'optimisation

Couvre les méthodes d'optimisation sans contraintes, y compris la recherche de gradient et de ligne dans le cas quadratique.

Méthode Newton : Convergence et soins quadratiques

Couvre la méthode de Newton et ses propriétés de convergence près du point optimal.

Descente au gradient : principes et applications

Couvre la descente de gradient, ses principes, ses applications et ses taux de convergence en optimisation pour l'apprentissage automatique.

Optimisation sans contraintes : méthode de graduation

Couvre l'optimisation sans contraintes en utilisant la méthode de gradient pour trouver le minimum de la fonction.

Descente proximale et sous-gradiente : techniques d’optimisation

Discute des méthodes de descente proximale et sous-gradiente pour l'optimisation dans l'apprentissage automatique.

Afficher plus

Concepts associés (32)

Fonction monotone

Résolvante

Resolvent set

Vitesse de convergence des suites

Méthode itérative

Afficher plus