Explore les limites de l'entropie, les théorèmes conditionnels de l'entropie et la règle de chaîne pour les entropies, illustrant leur application à travers des exemples.
Explore l'entropie, les multiplicités et l'équilibre thermodynamique, en mettant l'accent sur la loi fondamentale de l'augmentation de l'entropie dans les systèmes fermés.
Introduit des variables aléatoires et leur signification dans la théorie de l'information, couvrant des concepts tels que la valeur attendue et l'entropie de Shannon.