Séance de cours

Traitement moderne du langage naturel : méthodes et applications de base

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Description

Cette séance de cours couvre les méthodes de base du traitement moderne du langage naturel, y compris l'intégration de mots, les réseaux neuronaux récurrents, les transformateurs et la génération de texte. Il explore les défis et les possibilités du NLP, comme les considérations éthiques, la robustesse et l'hallucination. L'instructeur discute des dernières avancées des modèles NLP, de l'importance des données multimodales et des applications des NLP dans divers domaines comme la médecine et le droit.

Cette vidéo est disponible exclusivement sur Mediaspace pour un public restreint. Veuillez vous connecter à Mediaspace pour y accéder si vous disposez des autorisations nécessaires.

Regarder sur Mediaspace

Source officielle

Concepts associés (32)

Réseau de neurones récurrents

Un réseau de neurones récurrents (RNN pour recurrent neural network en anglais) est un réseau de neurones artificiels présentant des connexions récurrentes. Un réseau de neurones récurrents est constitué d'unités (neurones) interconnectées interagissant non-linéairement et pour lequel il existe au moins un cycle dans la structure. Les unités sont reliées par des arcs (synapses) qui possèdent un poids. La sortie d'un neurone est une combinaison non linéaire de ses entrées.

Droit

vignette|La Loi par Jean-Jacques Feuchère. Marbre, 1852. Place du Palais-Bourbon, VIIe arrondissement de Paris. Le droit est défini comme , ou de façon plus complète . Ces règles, appelées règles de droit sont impersonnelles, abstraites, obligatoires et indiquent ce qui « doit être fait ». Ces règles juridiques peuvent trouver leur source dans une source normative « supérieure », extérieure, transcendante, comme le droit naturel, ou découler de normes intrinsèques, issues de la morale et de la raison.

Réseau de neurones à propagation avant

Un réseau de neurones à propagation avant, en anglais feedforward neural network, est un réseau de neurones artificiels acyclique, se distinguant ainsi des réseaux de neurones récurrents. Le plus connu est le perceptron multicouche qui est une extension du premier réseau de neurones artificiel, le perceptron inventé en 1957 par Frank Rosenblatt. vignette|Réseau de neurones à propagation avant Le réseau de neurones à propagation avant est le premier type de réseau neuronal artificiel conçu. C'est aussi le plus simple.

Statuts

En droit, les statuts d’une personne morale sont un texte règlementaire officiel définissant à minima le statut juridique de cette personne et les différents éléments que ce statut impose, ce qui inclut la plupart du temps les objectifs de l’organisation et son mode de gouvernance. En cas de conflit, ils font référence devant le tribunal. Les statuts se situent en bas de la hiérarchie des normes : ils ne peuvent pas permettre ce qu’interdit une loi ou un arrêté.

Réseau de neurones artificiels

Un réseau de neurones artificiels, ou réseau neuronal artificiel, est un système dont la conception est à l'origine schématiquement inspirée du fonctionnement des neurones biologiques, et qui par la suite s'est rapproché des méthodes statistiques. Les réseaux de neurones sont généralement optimisés par des méthodes d'apprentissage de type probabiliste, en particulier bayésien.

Afficher plus

Séances de cours associées (64)

Modèles linguistiques : réseaux neuronaux à contexte fixe et récurrents

Discute des modèles de langage, en se concentrant sur les modèles neuronaux à contexte fixe et les réseaux neuronaux récurrents.

Réseaux neuronaux profonds : optimisation et approximation

Explore l'optimisation et l'approximation dans les réseaux neuronaux profonds, y compris le contrôle optimal et les expériences numériques.

Réseaux neuronaux : Réseau neuronal à deux couches

Couvre les bases des réseaux neuraux, en mettant l'accent sur le développement des réseaux neuraux de deux couches vers les réseaux neuraux profonds.

Bâtir des réseaux neuraux physiques

Discute des défis liés à la construction de réseaux neuraux physiques, en mettant l'accent sur la profondeur, les connexions et la capacité de formation.

Modèles de génération profonde: Partie 2

Explore les modèles générateurs profonds, y compris les mélanges de multinômes, PCA, autoencodeurs profonds, autoencodeurs convolutionnels, et GANs.

Afficher plus

Concepts associés (32)

Réseau de neurones récurrents

Droit

Réseau de neurones à propagation avant

Statuts

Réseau de neurones artificiels

Afficher plus