Publication

A Large Deviations Perspective on Policy Gradient Algorithms

Daniel Kuhn, Wouter Jongeneel, Mengmeng Li
2024

Résumé

Motivated by policy gradient methods in the context of reinforcement learning, we derive the first large deviation rate function for the iterates generated by stochastic gradient descent for possibly non-convex objectives satisfying a Polyak-Łojasiewicz condition. Leveraging the contraction principle from large deviations theory, we illustrate the potential of this result by showing how convergence properties of policy gradient with a softmax parametrization and an entropy regularized objective can be naturally extended to a wide spectrum of other policy parametrizations.

Source officielle

https://infoscience.epfl.ch/entities/publication/a3c51d35-59a3-43c7-8885-50c6c30bdb41

À propos de ce résultat

Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

A Large Deviations Perspective on Policy Gradient Algorithms

Chattez avec Graph Search

OPTIMAL TRANSPORT-INSPIRED DEEP LEARNING FRAMEWORK FOR SLOW-DECAYING KOLMOGOROV \bfitn-WIDTH PROBLEMS: EXPLOITING SINKHORN LOSS AND WASSERSTEIN KERNEL

Gradient Approximation of Approximate Multipliers for High-Accuracy Deep Neural Network Retraining

Improving Lipschitz-Constrained Neural Networks by Learning Activation Functions