Séances de cours associées à Fonction softmax

Sparse Communication: Transformations et applications

Explore l'évolution de la modélisation clairsemée à la communication clairsemée dans les réseaux neuronaux pour les tâches de traitement du langage naturel.

Problèmes multi-classes: One-hot Coding

Explore le codage one-hot pour les classes exclusives et la fonction de perte d'entropie croisée dans les problèmes multi-classes.

Modèles linguistiques : réseaux neuronaux à contexte fixe et récurrents

Discute des modèles de langage, en se concentrant sur les modèles neuronaux à contexte fixe et les réseaux neuronaux récurrents.

Incorporation de mots : contexte et représentation

Explore l'intégration des mots, en mettant l'accent sur les relations mot-contexte et les représentations de faible dimension.

Réseau neuronal : caractéristiques aléatoires et régression du noyau

Couvre les caractéristiques aléatoires des réseaux neuronaux et de l'équivalence de régression du noyau.

Approche statistique : résumé et quiz

Discute de la vue statistique des réseaux neuronaux, des tâches de classification et des fonctions de perte d'entropie croisée.

Formation adversaire : Optimisation et applications

Explore l'optimisation de la formation contradictoire, la mise en œuvre pratique, l'interprétation, l'équité, la distance de Wasserstein et les GAN de Wasserstein.

Architecture des transformateurs : le X Gomega

Déplacez-vous dans l'architecture Transformer, l'auto-attention et les stratégies de formation pour la traduction automatique et la reconnaissance d'image.

Régression logistique : prédiction de la végétation

Explore la régression logistique pour prédire les proportions de la végétation dans la région amazonienne grâce à l'analyse des données de télédétection.

Interpréter la sortie comme une probabilité

Se penche sur l'interprétation de la sortie du réseau neuronal en tant que probabilités basées sur la fonction d'erreur d'entropie croisée.

Risques d'entropie croisée régularisés

Explore le risque interentropie régularisé dans les réseaux neuronaux, couvrant les processus de formation et les défis dans les réseaux profonds.

Réseaux de neurones : multicouches

Explique le processus d'apprentissage dans les réseaux neuronaux multicouches, y compris la rétropropagation, les fonctions d'activation, la mise à jour des poids et la rétropropagation des erreurs.

Régression linéaire et logistique

Couvre la régression linéaire et logistique, y compris les mesures de sous-ajustement, de surajustement et de performance.

De la moyenne à l’apprentissage en ligne

Couvre la transition d'une approximation de Monte Carlo de la moyenne à la dérivation des règles de mise à jour par lots et en ligne.

Apprentissage par renforcement: Diagrammes de sauvegarde

Présente le diagramme de sauvegarde en tant que représentation graphique clé dans l'apprentissage par renforcement.

Transformers : Révolutionner les mécanismes d’attention en PNL

Couvre le développement des transformateurs et leur impact sur les mécanismes d'attention en PNL.

Gradient politique pour un neurone unique

Explique le gradient de politique pour un neurone unique, y compris la politique d'écriture, l'utilisation de la fonction logistique, et le calcul du gradient.

Interprétation statistique des réseaux de neurones artificiels

Plonge dans l'interprétation statistique des réseaux de neurones artificiels, explorant la probabilité de données et maximisant la précision du modèle.

Régression linéaire et logistique Connectez-vous à Mediaspace pour regarder cette vidéo

Introduit une régression linéaire et logistique, couvrant les modèles paramétriques, la prédiction multi-sorties, la non-linéarité, la descente de gradient et les applications de classification.

Deep Learning : Perceptron multicouche et formation Connectez-vous à Mediaspace pour regarder cette vidéo

Couvre les fondamentaux de l'apprentissage profond, en se concentrant sur les perceptrons multicouches et leurs processus de formation.