Probabilités version algébriste

Soit $(\Omega,A,\mathbf P)$ un espace probabilisé. Par exemple on pourrait prendre $\Omega$ la droite $\mathbf R$, $A$ les boréliens de $\mathbf R$ et $\mathbf P$ une probabilité (par exemple gaussienne).

On considère $X$ une variable aléatoire, c’est-à-dire que $X:\Omega\to \mathbf R$ est une fonction mesurable, où $\mathbf R$ est muni des boréliens de $\mathbf R$. Pensez à une fonction continue (une fonction mesurable, ça n’est jamais qu’une fonction continue dans de nombreux cas de figures).

Tout au long de ce dictionnaire, on ne se posera pas les questions de convergence. Quitte à réduire l’ensemble des variables aléatoires considérées, on oublie ces questions d’ordre techniques.

Espérance

L’ensemble des variables aléatoires, notons le $C(X)$. C’est un espace vectoriel sur $\mathbf R$ puisque l’addition de deux variables, et la multiplication par un scalaire donne encore une fonction mesurable et donc une variable aléatoire. Notons que le neutre est donné par la fonction identiquement nulle $f(\omega)=0$ sur tout $\Omega$.

Une façon très naturelle d’avoir une première forme linéaire quand on a une notion d’intégrale, c’est de faire une intégrale !

$\mathbf E[X] = \int_\Omega X(\omega) dP(\omega).$

Cette forme linéaire, on l’appelle aussi l’espérance. C’est la première entrée de notre dictionnaire : l’espérance est une forme linéaire sur $C(X)$.

Covariance

En réalité, $C(X)$ est mieux qu’un espace vectoriel : on peut multiplier deux variables aléatoires en multipliant leurs images : $(XY)(\omega)=X(\omega)Y(\omega)$.

On peut définir une forme bilinéaire par :

$\langle X,Y\rangle = \mathbf E[(X-\mathbf E[X])(Y-\mathbf E[Y])]$

il s’avère qu’en fait, on appelle covariance cette forme bilinéaire.

Il est facile de vérifier la bilinéarité. Regardons le fait qu’elle est bien positive. En prenant $X=Y$, on a $(X-\mathbf E[X])(Y-\mathbf E[Y]) = (X-\mathbf E[X])^2$ et donc son espérance est bien positive.

Il est important de noter que même si cette forme est bilinéaire et positive, elle n’est a priori pas définie. Ce n’est donc pas un produit scalaire. En revanche, il est intéressant de la penser tout de même comme un produit scalaire.

Lorsque $X$ et $Y$ sont indépendants, alors ils sont en un sens orthogonaux. En effet, si $X$ et $Y$ sont indépendants, alors $\langle X,Y\rangle = 0$. La réciproque n’est pas vraie.

Variance

De cette forme bilinéaire, si elle était un produit scalaire on pourrait regarder la forme quadratique associée. La variance joue ce rôle :

$Var(X) = \langle X,X\rangle.$

Ce n’est pas une forme quadratique définie. En revanche, le reste est encore vrai : positivité, compatibilité avec la multiplication et décomposition de la somme par la forme polaire.

Donc la variance doit géométriquement être pensée comme la "longueur" de $X$. C’est-à-dire son étendue, c’est-à-dire à quel point elle peut varier.

Ecart-type

L’écart-type est à la variance ce que la norme est à son carré. La variance est une forme quadratique, l’écart-type est sa racine carré. C’est donc une façon de penser la "longueur" de $X$ dans une unité plus sympathique.