Séance de cours

Deep Learning : généralisation et optimisation

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

PHYS-754: Lecture series on scientific machine learning

This lecture presents ongoing work on how scientific questions can be tackled using machine learning. Machine learning enables extracting knowledge from data computationally and in an automatized way. We will learn on examples how this is influencing the v ...

Description

Cette séance de cours explore les défis et les avantages de l'apprentissage profond, en se concentrant sur la malédiction de la dimensionnalité, les mauvais minima dans le paysage des pertes et la sur-paramétrisation. Il traite de la transition des réseaux entièrement connectés aux réseaux neuronaux convolutifs, en mettant l'accent sur la représentation hiérarchique des données et l'impact de la largeur du réseau sur le paysage des pertes.

Enseignant·e·s (10)

Lenka Zdeborová

Lenka Zdeborová is a Professor of Physics and of Computer Science in École Polytechnique Fédérale de Lausanne where she leads the Statistical Physics of Computation Laboratory. She received a PhD in physics from University Paris-Sud and from Charles University in Prague in 2008. She spent two years in the Los Alamos National Laboratory as the Director's Postdoctoral Fellow. Between 2010 and 2020 she was a researcher at CNRS working in the Institute of Theoretical Physics in CEA Saclay, France. In 2014, she was awarded the CNRS bronze medal, in 2016 Philippe Meyer prize in theoretical physics and an ERC Starting Grant, in 2018 the Irène Joliot-Curie prize, in 2021 the Gibbs lectureship of AMS. She is an editorial board member for Journal of Physics A, Physical Review E, Physical Review X, SIMODS, Machine Learning: Science and Technology, and Information and Inference. Lenka's expertise is in applications of concepts from statistical physics, such as advanced mean field methods, replica method and related message-passing algorithms, to problems in machine learning, signal processing, inference and optimization. She enjoys erasing the boundaries between theoretical physics, mathematics and computer science.

Paolo De Los Rios

Enseignement et PhD Doctorant·es actuel·les María Li López Bautista, Subhasis Dehury, Lisa Gennai A dirigé les thèses EPFL de Giovanni Salvi, Thomas Petermann, David Gfeller, Cécile Caretta Cartozo, David Morton de Lachapelle, Carlo Maffi, Lucio Floretta, Salvatore Assenza, Duccio Malinverni, Alberto Stefano Sassi, Andrea Martini, Solange Flatt, Adélaïde Alice Mohr, Shiling Liang, Alexandra Shelest, Davide Cois A co-dirigé les thèses EPFL de Lorenzo Talamanca Cours EDCB seminar series BIOENG-606

Anne-Clémence Corminboeuf

Enseignement et PhD Doctorant·es actuel·les Liam Oliver Marsh, Pratham Pushparaj Deshmukh, Roel Christiaan M Raike, Thanapat Worakul, Osvaldo Hernandez Cuellar, Juliette Veronique Schleicher, Yannick Calvino Alonso, Sara Bassetta, Yuri Cho, Kelian Dietmar Marc Gaedecke, Guoyuan Liu A dirigé les thèses EPFL de Fabrice Avaltroni, Daniel Filipe Jana, Stephan Niklaus Steinmann, Jérôme Florian Gonthier, Riccardo Petraglia, Antonio Prlj, Laurent Alexis Clément Vannay, Alberto Fabrizio, Kun-Han Lin, Boodsarin Sa

Philippe Schwaller

Source officielle

Concepts associés (32)

Réseau neuronal convolutif

En apprentissage automatique, un réseau de neurones convolutifs ou réseau de neurones à convolution (en anglais CNN ou ConvNet pour convolutional neural networks) est un type de réseau de neurones artificiels acycliques (feed-forward), dans lequel le motif de connexion entre les neurones est inspiré par le cortex visuel des animaux. Les neurones de cette région du cerveau sont arrangés de sorte qu'ils correspondent à des régions qui se chevauchent lors du pavage du champ visuel.

Réseau de neurones récurrents

Un réseau de neurones récurrents (RNN pour recurrent neural network en anglais) est un réseau de neurones artificiels présentant des connexions récurrentes. Un réseau de neurones récurrents est constitué d'unités (neurones) interconnectées interagissant non-linéairement et pour lequel il existe au moins un cycle dans la structure. Les unités sont reliées par des arcs (synapses) qui possèdent un poids. La sortie d'un neurone est une combinaison non linéaire de ses entrées.

Types of artificial neural networks

There are many types of artificial neural networks (ANN). Artificial neural networks are computational models inspired by biological neural networks, and are used to approximate functions that are generally unknown. Particularly, they are inspired by the behaviour of neurons and the electrical signals they convey between input (such as from the eyes or nerve endings in the hand), processing, and output from the brain (such as reacting to light, touch, or heat). The way neurons semantically communicate is an area of ongoing research.

Réseau neuronal résiduel

droite|vignette| Forme canonique d'un réseau neuronal résiduel. Une couche l − 1 est ignoré sur l'activation de l − 2. Un réseau neuronal résiduel ( ResNet ) est un réseau neuronal artificiel (ANN). Il s'agit d'une variante du HighwayNet , le premier réseau neuronal à action directe très profond avec des centaines de couches, beaucoup plus profond que les réseaux neuronaux précédents. Les sauts de connexion ou "raccourcis" sont utilisés pour passer par-dessus certaines couches ( les HighwayNets peuvent également avoir des poids pour les saut eux-mêmes, grâce à une matrice de poids supplémentaire pour leurs portes).

Réseau de neurones artificiels

Un réseau de neurones artificiels, ou réseau neuronal artificiel, est un système dont la conception est à l'origine schématiquement inspirée du fonctionnement des neurones biologiques, et qui par la suite s'est rapproché des méthodes statistiques. Les réseaux de neurones sont généralement optimisés par des méthodes d'apprentissage de type probabiliste, en particulier bayésien.

Afficher plus

Séances de cours associées (37)

Les principes fondamentaux de l'apprentissage profond

Introduit des fondamentaux d'apprentissage profond, couvrant les représentations de données, les réseaux neuronaux et les réseaux neuronaux convolutionnels.

Le paysage d'optimisation de Convex caché des réseaux neuronaux profonds

Explore le paysage d'optimisation convexe caché des réseaux neuronaux profonds, montrant la transition des modèles non convexes aux modèles convexes.

Deep Learning : réseaux neuronaux convolutifs

Couvre les réseaux neuronaux convolutifs, les architectures standard, les techniques de formation et les exemples contradictoires en apprentissage profond.

Introduction à l'apprentissage automatique

Introduit des concepts d'apprentissage automatique, des bases aux réseaux neuronaux avancés.

Deep Learning : réseaux neuronaux convolutifs

Présente les réseaux neuronaux convolutifs, en expliquant leur architecture, leur processus de formation et leurs applications dans les tâches de segmentation sémantique.

Afficher plus

Concepts associés (32)

Réseau neuronal convolutif

Réseau de neurones récurrents

Types of artificial neural networks

Réseau neuronal résiduel

Réseau de neurones artificiels

Afficher plus