Séances de cours associées à NLP moderne: Introduction

Introduction au traitement du langage naturel moderne

Introduit le cours sur le traitement du langage naturel moderne, couvrant son importance, ses applications, ses défis et les progrès de la technologie.

Modèles de langage classique: fondements et applications

Présente des modèles de langage classiques, leurs applications et des concepts fondamentaux tels que la modélisation et les mesures d'évaluation basées sur le nombre.

Transformers : Révolutionner les mécanismes d’attention en PNL

Couvre le développement des transformateurs et leur impact sur les mécanismes d'attention en PNL.

Transformers: Techniques de pré-entraînement et de décodage

Couvre les concepts avancés de transformateur, en se concentrant sur les techniques de pré-formation et de décodage en PNL.

Modèles de séquence de préformation: BART et T5

Couvre la préformation des modèles séquence à séquence, en se concentrant sur les architectures BART et T5.

La PNL multilingue : défis et innovations

Couvre l'importance de la PNL multilingue et les défis de l'échelle des modèles linguistiques.

Modèles linguistiques : réseaux neuronaux à contexte fixe et récurrents

Discute des modèles de langage, en se concentrant sur les modèles neuronaux à contexte fixe et les réseaux neuronaux récurrents.

Sparse Communication: Transformations et applications

Explore l'évolution de la modélisation clairsemée à la communication clairsemée dans les réseaux neuronaux pour les tâches de traitement du langage naturel.

Deep Learning pour répondre aux questions

Explore l'apprentissage profond pour répondre aux questions, analyser les réseaux neuronaux et modéliser la robustesse au bruit.

Résolution de référence

Se penche sur la résolution de la coréférence, en discutant des défis, des progrès et des méthodes d'évaluation.

Séquence aux modèles de séquence: Aperçu et mécanismes d'attention

Explore la séquence des modèles de séquence, les mécanismes d'attention et leur rôle dans le traitement des limites des modèles et l'amélioration de l'interprétation.

Traduction automatique: séquence à séquence et attention

Explore les progrès de la traduction automatique, en mettant l'accent sur les modèles de séquence à séquence et les mécanismes d'attention.

Systèmes de connaissances non conceptuels

Explore l'impact de l'apprentissage profond sur les humanités numériques, en se concentrant sur les systèmes de connaissances non conceptuels et les progrès récents de l'IA.

Génération de langues naturelles

Explore la génération du langage naturel, couvrant les modèles neuraux, les biais, l'éthique et les défis d'évaluation.

Considérations éthiques dans le traitement des langues naturelles

Examine les défis éthiques dans les systèmes de PNL, y compris les biais, la toxicité, la vie privée et la désinformation.

Deep Learning pour le NLP Connectez-vous à Mediaspace pour regarder cette vidéo

Introduit des concepts d'apprentissage profond pour les NLP, couvrant l'intégration de mots, les RNN et les Transformateurs, mettant l'accent sur l'auto-attention et l'attention multi-têtes.

Traitement du langage naturel: comprendre les transformateurs et la tokenisation Connectez-vous à Mediaspace pour regarder cette vidéo

Fournit un aperçu du traitement du langage naturel, en se concentrant sur les transformateurs, la tokenisation et les mécanismes d'auto-attention pour une analyse et une synthèse efficaces du langage.

Traduction automatique : Mécanisme d'attention Connectez-vous à Mediaspace pour regarder cette vidéo

Explore le mécanisme d'attention dans la traduction automatique, en s'attaquant au problème du goulot d'étranglement et en améliorant considérablement les performances NMT.

Résolution de référence Connectez-vous à Mediaspace pour regarder cette vidéo

Couvre la résolution de coréférence, les modèles, les applications, les défis et les avancées dans le traitement du langage naturel.

Réseaux neuronaux pour la PNL Connectez-vous à Mediaspace pour regarder cette vidéo

Couvre les approches modernes du réseau neuronal en matière de PNL, en mettant l'accent sur l'intégration de mots, les réseaux neuronaux pour les tâches de PNL et les futures techniques d'apprentissage par transfert.