Séance de cours

Théorie de l'information: Codage source

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

COM-404: Information theory and coding

The mathematical principles of communication that govern the compression and transmission of data and the design of efficient methods of doing so. ...

Description

Cette séance de cours couvre le concept de codage source dans la théorie de l'information, en se concentrant sur les propriétés des séquences typiques, la notion de stationnarité et la propriété d'équipement asymptotique. Emre Telatar explique l'importance de la représentation binaire et du processus de codage efficace de l'information.

Enseignant·e

Emre Telatar

Enseignement et PhD Doctorant·es actuel·les Serhat Emre Coban, Adway Girish, Ryan Yuanqing Song A dirigé les thèses EPFL de Aslan Tchamkerten, Stéphane Musy, Sibi Raj Bhaskaran Pillai, Robert Konsbruck, Dinkar Vasudevan, Eren Sasoglu, Mohammad Karzand, Alla Merzakreeva, Mine Alsan, Marc Desgroseilliers, Mani Bastani Parizi, Rajai Nasser, Serj Haddad, Elie Najm, Yunus Inan, Reka Inovan, Pierre Quinton A co-dirigé les thèses EPFL de Prasenjit Dey, Etienne Perron, Ayfer Özgür Aydin Cours Information theory

Source officielle

Concepts associés (31)

Typical set

In information theory, the typical set is a set of sequences whose probability is close to two raised to the negative power of the entropy of their source distribution. That this set has total probability close to one is a consequence of the asymptotic equipartition property (AEP) which is a kind of law of large numbers. The notion of typicality is only concerned with the probability of a sequence and not the actual sequence itself.

Space–time block code

Space–time block coding is a technique used in wireless communications to transmit multiple copies of a data stream across a number of antennas and to exploit the various received versions of the data to improve the reliability of data transfer. The fact that the transmitted signal must traverse a potentially difficult environment with scattering, reflection, refraction and so on and may then be further corrupted by thermal noise in the receiver means that some of the received copies of the data may be closer to the original signal than others.

Asymptotic equipartition property

In information theory, the asymptotic equipartition property (AEP) is a general property of the output samples of a stochastic source. It is fundamental to the concept of typical set used in theories of data compression. Roughly speaking, the theorem states that although there are many series of results that may be produced by a random process, the one actually produced is most probably from a loosely defined set of outcomes that all have approximately the same chance of being the one actually realized.

Théorème du codage de source

Le théorème du codage de source (ou premier théorème de Shannon, ou encore théorème de codage sans bruit) est un théorème en théorie de l'information, énoncé par Claude Shannon en 1948, qui énonce la limite théorique pour la compression d'une source. Le théorème montre que l'on ne peut pas compresser une chaine de variables aléatoires i.i.d, quand la longueur de celle-ci tend vers l'infini, de telle sorte à ce que la longueur moyenne des codes des variables soit inférieure à l'entropie de la variable source.

Organisation des Nations unies

L’Organisation des Nations unies (ONU) est une organisation internationale regroupant membres depuis le 14 juillet 2011. Elle a été instituée le par la ratification de la Charte des Nations unies signée le par les représentants de . Elle remplace alors la Société des Nations. Les objectifs premiers de l'organisation sont le maintien de la paix et la sécurité internationale.

Afficher plus

Séances de cours associées (64)

Code source et codes sans préfixe

Couvre le codage source, les codes injectifs, les codes sans préfixe et l'inégalité de Kraft.

Théorie de l'information et codage

Couvre le codage source, l'inégalité de Kraft, l'information mutuelle, la procédure Huffman et les propriétés des séquences tropicales.

Séance de cours: Shannon

Couvre les bases de la théorie de l'information, en se concentrant sur le réglage de Shannon et la transmission de canal.

Théorie de l'information et codage: codage à la source

Couvre le codage source, la conception de codeurs et l'analyse de probabilité d'erreur dans la théorie de l'information et le codage.

Aléatoire Codage: Atteinte et Preuve Variantes

Explore la possibilité de codage aléatoire et les variantes de preuve dans la théorie de l'information, en mettant l'accent sur les taux réalisables et les principes architecturaux.

Afficher plus

Concepts associés (31)

Typical set

Space–time block code

Asymptotic equipartition property

Théorème du codage de source

Organisation des Nations unies

Afficher plus