Séance de cours

Compression sans perte: Shannon-Fano et Huffman

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

CS-119(a): Information, calcul, communication

D'une part, le cours aborde: (1) la notion d'algorithme et de représentation de l'information, (2) l'échantillonnage d'un signal et la compression de données et (3) des aspects liés aux systèmes: ordinateur, mémoire, etc. D'autre part, le cours donne une i ...

Description

Cette séance de cours couvre les principes de la compression sans perte, en mettant l'accent sur l'exploitation de la redondance des données pour raccourcir efficacement les séquences. Il introduit l'algorithme Shannon-Fano, qui divise les lettres en fonction de leur fréquence, et l'algorithme Huffman, qui assigne des codes de longueur variable pour optimiser la compression. En comparant les deux méthodes, l'instructeur démontre comment le codage Huffman surpasse Shannon-Fano en termes d'efficacité et de vitesse. La séance de cours s'inscrit également dans le concept d'entropie, en calculant l'entropie d'une séquence donnée pour mettre en évidence l'efficacité du codage Huffman en minimisant le nombre moyen de bits par lettre.

Dans MOOC

Information, Calcul, Communication: Introduction à la pensée informatique

Dans une première partie, nous étudierons d’abord comment résoudre de manière très concrète un problème au moyen d’un algorithme, ce qui nous amènera dans un second temps à une des grandes questions de l’informatique théorique moderne. La seconde partie du cours sera quant à elle consacrée à l’information est la communication : nous passerons en revue plusieurs sujets, comme la représentation de l'information, le traitement des signaux, la compression de données, la communication et la cryptographie.

Enseignant·e·s (3)

Olivier Lévêque

Olivier Lévêque est né en Suisse en 1971. Il a reçu le diplôme d'ingénieur-physicien de l'EPFL en 1995 et obtenu le doctorat au Département de Mathématiques de l'EPFL en 2001. Depuis lors, il travaille au Laboratoire de Théorie de l'Information à l' EPFL. Il a passé l'année académique 2006-2007 au Département d'Electricité de l'Université de Stanford, où il a été nommé chargé de cours. Ses domaines d'intérêt comprennent la théorie de l'information, les matrices aléatoires et les équations aux dérivées partielles stochastiques.

Dan-Cristian Tomozei

Mirjana Stojilovic

Mirjana Stojilović received the Dipl. Ing. and Ph.D. degrees from the School of Electrical Engineering, University of Belgrade, in 2006 and 2013, respectively. From 2010 to 2013, she was collaborating with the Processor Architecture Laboratory at EPFL, visiting periodically as a Guest Researcher. From 2013 to 2016, she was working at the University of Applied Sciences Western Switzerland as a senior researcher, and at EPFL as a lecturer. She joined Parallel Systems Architecture Lab at EPFL in October 2016. Mirjana's main research interests include electronic design automation, reconfigurable computing, electromagnetic-compatibility and signal-integrity issues, and hardware security. Mirjana Stojilović serves on the program committee of the FPGA, FPL, and FCCM conferences and as a reviewer for IEEE TCAD, TVLSI, TC, TEMC, IEEE Access and ACM TRETS. She received the Best Paper Award at 2016 International Symposium on Electromagnetic Compatibility (EMC Europe 2016), Young Scientist Award at 33rd International Conference on Lightning Protection (ICLP2016), and the Young Author Best Paper Award at the 20th Telecommunication Forum in Belgrade (TELFOR 2012). In 2015, the EPFL School of Computer and Communication Sciences (IC) presented her with the Teaching Award.

Source officielle

Quiz

Concepts associés (32)

Compression de données

La compression de données ou codage de source est l'opération informatique consistant à transformer une suite de bits A en une suite de bits B plus courte pouvant restituer les mêmes informations, ou des informations voisines, en utilisant un algorithme de décompression. C'est une opération de codage qui raccourcit la taille (de transmission, de stockage) des données au prix d'un travail de compression. Celle-ci est l'opération inverse de la décompression.

Codage de Huffman

Le codage de Huffman est un algorithme de compression de données sans perte. Le codage de Huffman utilise un code à longueur variable pour représenter un symbole de la source (par exemple un caractère dans un fichier). Le code est déterminé à partir d'une estimation des probabilités d'apparition des symboles de source, un code court étant associé aux symboles de source les plus fréquents. Un code de Huffman est optimal au sens de la plus courte longueur pour un codage par symbole, et une distribution de probabilité connue.

Algorithme de compression sans perte

vignette|Comparaison de la compression d'image entre les formats JPG (à gauche) et PNG (à droite). PNG utilise une compression sans perte. On appelle algorithme de compression sans perte toute procédure de codage ayant pour objectif de représenter une certaine quantité d'information en utilisant ou en occupant un espace plus petit, permettant ainsi une reconstruction exacte des données d'origine. C'est-à-dire que la compression sans perte englobe les techniques permettant de générer un duplicata exact du flux de données d'entrée après un cycle de compression/expansion.

Compression d'image

La compression d'image est une application de la compression de données sur des . Cette compression a pour utilité de réduire la redondance des données d'une image afin de pouvoir l'emmagasiner sans occuper beaucoup d'espace ou la transmettre rapidement. La compression d'image peut être effectuée avec perte de données ou sans perte. La compression sans perte est souvent préférée là où la netteté des traits est primordiale : schémas, dessins techniques, icônes, bandes dessinées.

Entropie de Shannon

En théorie de l'information, l'entropie de Shannon, ou plus simplement entropie, est une fonction mathématique qui, intuitivement, correspond à la quantité d'information contenue ou délivrée par une source d'information. Cette source peut être un texte écrit dans une langue donnée, un signal électrique ou encore un fichier informatique quelconque (suite d'octets). Elle a été introduite par Claude Shannon. Du point de vue d'un récepteur, plus la source émet d'informations différentes, plus l'entropie (ou incertitude sur ce que la source émet) est grande.

Afficher plus

Séances de cours associées (64)

Compression: Codes sans préfixe

Explique les codes sans préfixe pour une compression efficace des données et l'importance des codes décodables de manière unique.

Compression des données et résumé du théorème de Shannon

Résumé du théorème de Shannon, soulignant l'importance de l'entropie dans la compression des données.

Compression des données et Algorithme Shannon-Fano

Explore l'algorithme Shannon-Fano pour la compression des données et son efficacité dans la création de codes binaires uniques pour les lettres.

Compression de données et théorème de Shannon: Compression de perte

Explore la compression des données, y compris les méthodes sans perte et la nécessité de la compression sans perte pour les nombres réels et les signaux.

Entropie et compression de données: techniques de codage Huffman

Discute de l'entropie, de la compression des données et des techniques de codage Huffman, en mettant l'accent sur leurs applications pour optimiser les longueurs de mots de code et comprendre l'entropie conditionnelle.

Afficher plus

Concepts associés (32)

Compression de données

Codage de Huffman

Algorithme de compression sans perte

Compression d'image

Entropie de Shannon

Afficher plus