Explore l'information mutuelle, quantifiant les relations entre les variables aléatoires et mesurant le gain d'information et la dépendance statistique.
Couvre les mesures d'information telles que l'entropie, la divergence Kullback-Leibler et l'inégalité de traitement des données, ainsi que les noyaux de probabilité et les informations mutuelles.
Introduit des variables aléatoires et leur signification dans la théorie de l'information, couvrant des concepts tels que la valeur attendue et l'entropie de Shannon.
Explore les limites de l'entropie, les théorèmes conditionnels de l'entropie et la règle de chaîne pour les entropies, illustrant leur application à travers des exemples.
Plonge dans la quantification de l'entropie dans les données de neurosciences, explorant comment l'activité neuronale représente l'information sensorielle et les implications des séquences binaires.
Explore l'entropie, le caractère aléatoire et la quantification de l'information dans l'analyse des données biologiques, y compris les neurosciences et la prédiction de la structure des protéines.
Couvre le codage source, la cryptographie et le codage canal dans les systèmes de communication, explorant l'entropie, les codes, les canaux d'erreur et les cours futurs connexes.
