Mediaspace scheduled maintenance: Aug 25, 2026 07:00 - 12:00 AM. During this time, videos will be temporarily unavailable. Check status updates.

Concept

Principe d'entropie maximale

Séances de cours associées (30)

Information mutuelle et entropie

Explore l'information mutuelle et le calcul d'entropie entre les variables aléatoires.

Identité thermodynamique : Entropie et énergie

Explore l'identité thermodynamique, la relation entropie-température et la définition de la pression, illustrant les principes clés avec des exemples pratiques.

Minimisation de l'énergie dans les systèmes biologiques: modèles d'équilibre

Couvre les modèles de minimisation de l'énergie dans les systèmes biologiques, en se concentrant sur l'équilibre et les rôles de l'entropie et de l'hydrophobicité.

Distribution de probabilités et entropie

Explique la distribution des probabilités, l'entropie et l'entropie libre de Gibbs, ainsi que le modèle Weiss.

Formulation variationnelle : Mesures d'information

Explore la formulation variationnelle pour mesurer le contenu de l'information et la divergence entre les distributions de probabilité.

Modèles génériques: Boltzmann Machine

Couvre les modèles génératifs, en se concentrant sur les machines Boltzmann et la maximisation contrainte à l'aide de multiplicateurs Lagrange.

Espaces de Banach et formalisme thermodynamique

Introduit des espaces de Banach pour l'entropie maximale dans les cartes de billard, en discutant des limites spectrales, des normes et en mesurant la construction.

Sans titre

Théorie de l'information: Quantifier les messages et l'entropie de la source

Couvre la quantification de l'information dans les messages, l'entropie source, l'information commune et la capacité du canal de communication.

Entropie et divergence KL

Explore l'entropie, la divergence KL et le principe d'entropie maximum dans les modèles de probabilité pour la science des données.

Théorie de l'information : Entropie et capacité

Couvre les concepts d'entropie, de distributions gaussiennes et de capacité de canal avec des contraintes.

Replique Symmetry Breaking: Solution complète et condensation

Explore Replica Symmetry Breaking in the Random Energy Model, discutant de l'entropie et de la condensation de configuration.

Transitions de phase : comprendre la stabilité thermodynamique

Explore les transitions de phase en thermodynamique, en se concentrant sur les critères de stabilité et les applications du monde réel.

Modèles génériques : auto-attention et transformateurs

Couvre les modèles générateurs en mettant l'accent sur l'auto-attention et les transformateurs, en discutant des méthodes d'échantillonnage et des moyens empiriques.

Interprétation de l'entropie

Explore le concept d'entropie exprimée en bits et sa relation avec les distributions de probabilité, en se concentrant sur le gain et la perte d'informations dans divers scénarios.

Mesures de l'information : Entropie et théorie de l'information

Explique comment l'entropie mesure l'incertitude dans un système en fonction des résultats possibles.

Entropie : Théorèmes de l'entropie conditionnelle

Explore les limites de l'entropie, les théorèmes conditionnels de l'entropie et la règle de chaîne pour les entropies, illustrant leur application à travers des exemples.

Introduction à l'inférence d'entropie maximale

Introduit une inférence d'entropie maximale pour trouver des distributions de probabilité optimales avec une structure supplémentaire minimale.

Transformations thermodynamiques MOOC: Thermodynamique II

Couvre les transformations de Legendre en thermodynamique, en mettant l'accent sur l'énergie interne, les fonctions d'état, l'entropie et les fonctions de Legendre.

Critères de sélection du modèle : AIC, BIC, Cp

Explore les critères de sélection des modèles comme l'AIC, le BIC et le Cp en statistique pour la science des données.