Entropie de ShannonEn théorie de l'information, l'entropie de Shannon, ou plus simplement entropie, est une fonction mathématique qui, intuitivement, correspond à la quantité d'information contenue ou délivrée par une source d'information. Cette source peut être un texte écrit dans une langue donnée, un signal électrique ou encore un fichier informatique quelconque (suite d'octets). Elle a été introduite par Claude Shannon. Du point de vue d'un récepteur, plus la source émet d'informations différentes, plus l'entropie (ou incertitude sur ce que la source émet) est grande.
Entropy (statistical thermodynamics)The concept entropy was first developed by German physicist Rudolf Clausius in the mid-nineteenth century as a thermodynamic property that predicts that certain spontaneous processes are irreversible or impossible. In statistical mechanics, entropy is formulated as a statistical property using probability theory. The statistical entropy perspective was introduced in 1870 by Austrian physicist Ludwig Boltzmann, who established a new field of physics that provided the descriptive linkage between the macroscopic observation of nature and the microscopic view based on the rigorous treatment of large ensembles of microstates that constitute thermodynamic systems.
Test statistiqueEn statistiques, un test, ou test d'hypothèse, est une procédure de décision entre deux hypothèses. Il s'agit d'une démarche consistant à rejeter ou à ne pas rejeter une hypothèse statistique, appelée hypothèse nulle, en fonction d'un échantillon de données. Il s'agit de statistique inférentielle : à partir de calculs réalisés sur des données observées, on émet des conclusions sur la population, en leur rattachant des risques d'être erronées. Hypothèse nulle L'hypothèse nulle notée H est celle que l'on considère vraie a priori.
Entropie croiséeEn théorie de l'information, l'entropie croisée entre deux lois de probabilité mesure le nombre de bits moyen nécessaires pour identifier un événement issu de l'« ensemble des événements » - encore appelé tribu en mathématiques - sur l'univers , si la distribution des événements est basée sur une loi de probabilité , relativement à une distribution de référence . L'entropie croisée pour deux distributions et sur le même espace probabilisé est définie de la façon suivante : où est l'entropie de , et est la divergence de Kullback-Leibler entre et .
Entropy (classical thermodynamics)In classical thermodynamics, entropy () is a property of a thermodynamic system that expresses the direction or outcome of spontaneous changes in the system. The term was introduced by Rudolf Clausius in the mid-19th century to explain the relationship of the internal energy that is available or unavailable for transformations in form of heat and work. Entropy predicts that certain processes are irreversible or impossible, despite not violating the conservation of energy.
Ligne de partage des eauxLa ligne de partage des eaux est une limite géographique qui divise hydrographiquement en plusieurs bassins versants. Plus précisément, de chaque côté de cette ligne, les eaux de pluie s’écoulent vers des exutoires différents. Le plus souvent, cette ligne, longue et sinueuse, correspond à une ligne de crêtes topographiques parcourant des hauteurs composées de montagnes, de collines, voire de simples ondulations de terrain.
Demand for moneyIn monetary economics, the demand for money is the desired holding of financial assets in the form of money: that is, cash or bank deposits rather than investments. It can refer to the demand for money narrowly defined as M1 (directly spendable holdings), or for money in the broader sense of M2 or M3. Money in the sense of M1 is dominated as a store of value (even a temporary one) by interest-bearing assets. However, M1 is necessary to carry out transactions; in other words, it provides liquidity.
Monnaievignette|La monnaie, commune mesure des échanges commerciaux : illustration de la théorie d'Aristote, édition de 1454-1455 d'après la traduction de Nicole Oresme. La monnaie est définie par Aristote par trois fonctions : unité de compte, réserve de valeur et intermédiaire des échanges. À la période contemporaine, cette définition ancienne persiste mais doit être amendée, entre autres par la suppression de toute référence à des matières précieuses (à partir du en Chine) avec la dématérialisation progressive des supports monétaires, et les aspects légaux de l'usage de la monnaie — et notamment les droits juridiques qui sont attachés au cours légal et au pouvoir libératoire —, qui sont plus apparents.
