Entropie croiséeEn théorie de l'information, l'entropie croisée entre deux lois de probabilité mesure le nombre de bits moyen nécessaires pour identifier un événement issu de l'« ensemble des événements » - encore appelé tribu en mathématiques - sur l'univers , si la distribution des événements est basée sur une loi de probabilité , relativement à une distribution de référence . L'entropie croisée pour deux distributions et sur le même espace probabilisé est définie de la façon suivante : où est l'entropie de , et est la divergence de Kullback-Leibler entre et .
Ensemble statistiqueEn physique statistique, un ensemble statistique est une abstraction qui consiste à considérer une collection de copies virtuelles (ou répliques) d'un système physique dans l'ensemble des états accessibles où il est susceptible de se trouver, compte tenu des contraintes extérieures qui lui sont imposées, telles le volume, le nombre de particules, l'énergie et la température. Cette notion, introduite par le physicien américain Josiah Willard Gibbs en 1902, est un concept central de la physique statistique.
Ensemble grand-canoniqueEn physique statistique, l’ensemble grand-canonique est un ensemble statistique qui correspond au cas d'un système qui peut échanger de l'énergie avec un réservoir externe d'énergie (ou thermostat), ainsi que des particules. Il est donc en équilibre thermodynamique thermique et chimique avec le réservoir d'énergie et de particules. Plus précisément, il s'agit de l'ensemble des « copies virtuelles » (ou répliques fictives) du même système en équilibre avec le réservoir d'énergie et de particules.
Chaîne de Markovvignette|Exemple élémentaire de chaîne de Markov, à deux états A et E. Les flèches indiquent les probabilités de transition d'un état à un autre. En mathématiques, une chaîne de Markov est un processus de Markov à temps discret, ou à temps continu et à espace d'états discret. Un processus de Markov est un processus stochastique possédant la propriété de Markov : l'information utile pour la prédiction du futur est entièrement contenue dans l'état présent du processus et n'est pas dépendante des états antérieurs (le système n'a pas de « mémoire »).
Postethumb|Fourgons postaux au centre de tri à Sion, en Suisse. Le courrier entre les villes régionales s'achemine par rail, puis est distribué par car postal, camion et vélo au niveau local. La poste est le service délivré par un opérateur postal et qui consiste à assurer le transport et la distribution de courrier (en particulier les lettres et enveloppes) ou de petits paquets. Un opérateur postal peut être privé ou public, bien que de nombreux États restreignent les systèmes postaux privés.