Séances de cours associées à Entropie et compression I

Compression des données : Définition de l'entropie

Explore la compression des données par la définition, les types et les exemples pratiques d'entropie, illustrant son rôle dans le stockage et la transmission efficaces de l'information.

Entropie et compression de données: techniques de codage Huffman

Discute de l'entropie, de la compression des données et des techniques de codage Huffman, en mettant l'accent sur leurs applications pour optimiser les longueurs de mots de code et comprendre l'entropie conditionnelle.

Compression de données et théorème de Shannon: Exemple de calcul d'entropie

Démontre le calcul de l'entropie pour un exemple spécifique, résultant en une valeur d'entropie de 2,69.

Entropie et algorithmes : Applications au tri et à la pesée

Couvre l'application de l'entropie dans les algorithmes, en se concentrant sur le tri et les stratégies de prise de décision.

Compression: Codes sans préfixe

Explique les codes sans préfixe pour une compression efficace des données et l'importance des codes décodables de manière unique.

Théorie de l'information : examen et information mutuelle

Examine les mesures d'information comme l'entropie et introduit l'information mutuelle comme mesure de l'information entre les variables aléatoires.

Compression des données et Algorithme Shannon-Fano

Explore l'algorithme Shannon-Fano pour la compression des données et son efficacité dans la création de codes binaires uniques pour les lettres.

Concepts d'entropie conditionnelle et de théorie de l'information

Discute de l'entropie conditionnelle et de son rôle dans la théorie de l'information et la compression des données.

Compression de données et entropie: Illustration des propriétés d'entropie

Explore l'entropie comme une mesure du désordre et comment elle peut être augmentée.

Entropie : Exemples et propriétés MOOC: Information, Calcul, Communication: Introduction à la pensée informatique

Explore des exemples de devinettes lettres, les origines de l'entropie, et les propriétés dans la théorie de l'information.

Compression des données et entropie : bases et introduction

Introduit la compression des données, l'entropie, et l'importance de réduire la redondance dans les données.

Compression des données et entropie : Conclusion

Couvre la définition de l'entropie, l'algorithme de Shannon-Fano et les sujets à venir.

Compression des données et entropie 2: Entropie en tant que 'jeu de questions'

Explore l'entropie comme un « jeu de questions » pour deviner les lettres efficacement et sa relation à la compression des données.

Compression des données: Algorithme Shannon-Fano

Explore l'algorithme Shannon-Fano pour une compression efficace des données et ses applications dans les techniques de compression sans perte et avec perte.

Compression de données et théorème de Shannon: Compression de perte

Explore la compression des données, y compris les méthodes sans perte et la nécessité de la compression sans perte pour les nombres réels et les signaux.

Théorèmes de codage de source : modèles d'entropie et de source

Couvre les théorèmes de codage de source, l'entropie et divers modèles de source dans la théorie de l'information.

Théorème de codage des sources

Explore le théorème de codage source, l'entropie, le codage Huffman et l'impact du conditionnement sur la réduction de l'entropie.

Variables aléatoires et concepts de la théorie de l'information

Introduit des variables aléatoires et leur signification dans la théorie de l'information, couvrant des concepts tels que la valeur attendue et l'entropie de Shannon.

Compression sans perte: Shannon-Fano et Huffman MOOC: Information, Calcul, Communication: Introduction à la pensée informatique

Explore la compression sans perte à l'aide d'algorithmes Shannon-Fano et Huffman, montrant l'efficacité et la vitesse supérieures de Huffman sur Shannon-Fano.

JPEG 2000: Compression d'image

Explore les principes de compression d'images, en se concentrant sur JPEG 2000, couvrant le codage basé sur la transformation, la quantification, le codage entropie, la région d'intérêt, la résilience aux erreurs et les implémentations logicielles.