Loi de probabilité

Un article de Wikipédia, l'encyclopédie libre.
Aller à : navigation, rechercher
Page d'aide sur l'homonymie Pour les articles homonymes, voir Loi (homonymie) et Probabilité (homonymie).
trois fonctions de répartition de lois de probabilité
Représentation de trois fonctions de répartition de lois de probabilité :

En théorie des probabilités et en statistique, une loi de probabilité décrit le comportement aléatoire d'un phénomène dépendant du hasard. L'étude des phénomènes aléatoires a commencé avec l'étude des jeux de hasard. Jeux de dés, tirage de boules dans des urnes et jeu de pile ou face ont été des motivations pour comprendre et prévoir les expériences aléatoires. Ces premières approches sont des phénomènes discrets, c'est-à-dire dont le nombre de résultats possibles est fini ou au plus dénombrable. Certaines questions ont cependant fait apparaître des lois à support infini non dénombrable ; par exemple, lorsque le nombre de tirages de pile ou face effectués tend vers l'infini, la répartition du nombre de piles obtenus s'approche d'une loi normale.

Des fluctuations ou de la variabilité sont présentes dans presque toute valeur qui peut être mesurée lors de l'observation d'un phénomène, quelle que soit sa nature ; de plus presque toutes les mesures ont une part d'erreur intrinsèque. Les lois de probabilités permettent de modéliser ces incertitudes et de décrire des phénomènes physiques, biologiques, économiques, etc. Le domaine de la statistique permet de trouver des lois de probabilités adaptées aux phénomènes aléatoires.

Il existe beaucoup de lois de probabilités différentes. Parmi toutes ces lois, la loi normale a une importance particulière puisque, d'après le théorème central limite, elle approche le comportement asymptotique de nombreuses lois de probabilités.

Le concept de loi de probabilité se formalise mathématiquement à l'aide de la théorie de la mesure : une loi de probabilité est une mesure, souvent vue comme la loi décrivant le comportement d'une variable aléatoire, discrète ou continue. Une mesure est une loi de probabilité si sa masse totale vaut 1. L'étude d'une variable aléatoire suivant une loi de probabilité discrète fait apparaître des calculs de sommes et de séries, alors que si sa loi est absolument continue, l'étude de la variable aléatoire fait apparaître des calculs d'intégrales. Des fonctions particulières permettent de caractériser les lois de probabilité, par exemple la fonction de répartition et la fonction caractéristique.

Définition informelle[modifier | modifier le code]

Une loi de probabilité décrit de manière théorique le caractère aléatoire d'une expérience qui est considérée comme aléatoire[1],[2]. La notion d'« expérience aléatoire » est dégagée pour désigner un processus réel de nature expérimentale, où le hasard intervient, avec des issues possibles bien identifiées[3]. Par exemple, lors d'un lancer de dé (c'est l'évènement aléatoire), le résultat est un chiffre de 1 à 6 et il est généralement admis que chaque résultat a la même chance d'apparaître, la loi de probabilité est donc : chacun des 6 chiffres est équiprobable avec probabilité 1/6.

Historiquement, les lois de probabilité ont été étudiées dans les jeux de hasard : jeux de dés, jeux de cartes, etc. Les résultats possibles de ces phénomènes sont en nombre fini, la loi de probabilité est dite discrète. Donner la loi de probabilité revient à donner la liste des valeurs possibles avec leurs probabilités associées[4]. Elle est alors donnée sous forme de formule, de tableau de valeurs, d'arbre de probabilité ou de fonctions (qui seront détaillées dans les sections suivantes).

Dans un contexte plus général, c'est-à-dire dans le cas où le nombre de valeurs possibles du phénomène aléatoire n'est pas fini mais infini (dénombrable ou non), la loi de probabilité décrit toujours la répartition des chances pour des résultats possibles mais est caractérisée par des fonctions (densité de probabilité et fonction de répartition, entre autres) ou plus généralement par des mesures.

Historique[modifier | modifier le code]

Pyramide formée de faisceaux convergents qui surmonte une courbe de Gauss
La planche de Galton, imaginée en 1889, permet de visualiser la courbe de Gauss comme loi limite.
Article détaillé : Histoire des probabilités.

L'utilisation du hasard existe depuis l'Antiquité notamment dans les jeux de hasard, les paris sur les risques des transports maritimes ou les rentes viagères[5]. Cependant une des premières références connues à des calculs de probabilités est un calcul élémentaire sur La Divine Comédie qui n'apparaît qu'au XVe siècle pendant la Renaissance[6]. Les premiers traités forment le début de la théorie des probabilités, principalement basée sur des probabilités combinatoires. Les problèmes se posent ainsi, à propos de la durée d'un jeu de cartes :

« Sur la durée des parties que l'on joue en rabattant... On demande combien il y a à parier que la partie qui peut durer à l'infini sera finie en un certain nombre déterminé de coups au plus. »

— Essay, de Montmort, 1713[7]

On reconnaît ici la probabilité (« à parier ») qu'une variable (« la durée de la partie ») soit plus petite qu'une valeur (« certain nombre déterminé »), il s'agit de la fonction de répartition de la loi de probabilité de la durée d'une partie.

C'est dans la thèse de Nicolas Bernoulli, publiée en 1711, qu'apparaît pour la première fois la loi uniforme[8]. Certaines autres lois font alors leur apparition comme la loi binomiale ou la loi normale, même si leurs approches ne sont pas complètement rigoureuses[8]. Par exemple, la loi normale est construite par Abraham de Moivre grâce à la courbe de Gauss par une approximation numérique[9]. Au XVIIIe siècle, d'autres idées liées aux lois de probabilité émergent également[8] comme l'espérance d'une variable aléatoire discrète avec Jean le Rond D'Alembert ou les probabilités conditionnelles avec Thomas Bayes. Quelques lois de probabilités continues sont énoncées dans un mémoire de Joseph-Louis Lagrange en 1770[8].

L'utilisation rigoureuse des lois de probabilités se développe à partir du XIXe siècle dans des sciences appliquées, telles que la biométrie avec Karl Pearson[10] ou la physique statistique avec Ludwig Boltzmann[11].

La définition formelle des mesures de probabilités commence en 1896 avec une publication d'Émile Borel[12] et se poursuit avec plusieurs autres mathématiciens tels que Henri-Léon Lebesgue, Maurice René Fréchet, Paul Lévy et notamment Andreï Kolmogorov qui formule les axiomes des probabilités en 1933.

Définition mathématique[modifier | modifier le code]

En théorie des probabilités, une loi de probabilité est une mesure de masse totale unitaire. En particulier cette mesure vérifie les trois axiomes des probabilités.

Définition[2] — Pour \scriptstyle (\Omega,\mathcal A) un espace mesurable, \scriptstyle\mathbb P est une loi de probabilité, mesure de probabilité ou plus simplement probabilité si :

  1. \scriptstyle\mathbb P est une application de \scriptstyle\mathcal A dans [0,1] ;
  2. \scriptstyle\mathbb P(\Omega)=1 ;
  3. \scriptstyle \mathbb P est \scriptstyle\sigma-additive, c'est-à-dire pour toute famille finie ou dénombrable d'éléments disjoints \scriptstyle (A_i,i\in I) de \scriptstyle \mathcal A ;
    \mathbb P\left(\bigcup_{i\in I}A_i\right)=\sum_{i\in I}\mathbb P(A_i).

Une conséquence immédiate est : \scriptstyle\mathbb P(\emptyset)=0.

Le triplet \scriptstyle (\Omega, \mathcal A, \mathbb P) est appelé espace probabilisé. Une loi de probabilité est également appelée distribution de probabilité pour une étude plus appliquée[13].

Une manière usuelle d'expression d'une loi est l'utilisation d'une variable aléatoire puisque, pour toute loi de probabilité \scriptstyle \mathbb P sur \scriptstyle (\Omega, \mathcal A), il existe[14] une variable aléatoire \scriptstyle X définie sur un espace probabilisé (potentiellement différent de \scriptstyle (\Omega, \mathcal A)) et de loi \scriptstyle \mathbb P. Les lois les plus couramment étudiées en théorie des probabilités sont les lois à valeurs réelles ; elles peuvent être représentées à l'aide d'une variable aléatoire réelle par la définition suivante.

Définition[15] — Soit une variable aléatoire réelle sur l'espace probabilisé \scriptstyle\ (\Omega, \mathcal A, \mathbb P), c'est-à-dire une fonction mesurable \scriptstyle X : (\Omega, \mathcal A) \rightarrow (\mathbb R, \mathcal B(\mathbb R)).
La loi de probabilité de la variable aléatoire \scriptstyle X est la mesure de probabilité, notée \scriptstyle \mathbb P_X, définie sur l'espace mesurable \scriptstyle(\mathbb R, \mathcal B(\mathbb R)) par :

\mathbb P_X(B) = \mathbb P \big(X^{-1}(B)\big) = \mathbb P(X \in B),

pour tout borélien réel \scriptstyle B \in \mathcal B(\mathbb R). Autrement dit, \scriptstyle \mathbb P_X est la mesure image de \scriptstyle \mathbb P par \scriptstyle X.

Ainsi, pour définir la loi d'une variable aléatoire, on transporte la loi de probabilité \scriptstyle \mathbb P sur \scriptstyle \Omega en une mesure \scriptstyle \mathbb P_X sur \scriptstyle \mathbb R.

La représentation d'une loi par une variable aléatoire n'est pas unique[16]. Autrement dit, deux variables aléatoires différentes, ou même définies sur des espaces différents, peuvent avoir la même loi. Deux variables aléatoires réelles \scriptstyle X et \scriptstyle Y ont même loi si \scriptstyle \mathbb P_X = \mathbb P_Y\ (en terme d'égalité de mesures). C'est-à-dire : \scriptstyle \mathbb P_X(B) = \mathbb P_Y(B) pour tout \scriptstyle B \in \mathcal B(\mathbb R). Le théorème suivant permet d'utiliser une autre caractérisation :

Théorème de transfert[14] (ou de transport[17]) — Soit une variable aléatoire réelle \scriptstyle X : \Omega \rightarrow \mathbb R. Alors :

\mathbb E\left[\varphi(X)\right] \stackrel{\text{déf.}}{=} \int_\Omega \varphi \big(X(\omega)\big) \mathbb{P}(\mathrm d\omega) = \int_\R \varphi(x) \mathbb P_X(\mathrm dx),

pour toute fonction \scriptstyle \varphi : \mathbb R \rightarrow \mathbb R telle qu'au moins une des deux intégrales ait un sens[18].

L'intégrale apparaissant dans le dernier terme est l'intégrale, au sens de la théorie de la mesure, de la fonction \scriptstyle \varphi par rapport à la mesure \scriptstyle \mathbb P_X. Cette intégrale prend la forme d'une somme dans le cas des lois discrètes.

Ainsi, deux variables aléatoires réelles \scriptstyle X et \scriptstyle Y ont même loi si : \scriptstyle \mathbb E \left[\varphi(X)\right] = \mathbb E \left[\varphi(Y)\right] pour toute fonction \scriptstyle \varphi : \mathbb R \rightarrow \mathbb R telle qu'au moins un des deux termes de l'égalité ait un sens.

Loi multidimensionnelle[modifier | modifier le code]

Nappe bleue bombée en son centre
Loi normale bidimensionnelle, ou produit de deux lois normales unidimensionnelles.

Intuitivement, une loi de probabilité est dite multidimensionnelle, ou n-dimensionnelle[19], lorsque la loi décrit plusieurs valeurs (aléatoires) d'un phénomène aléatoire. Par exemple lors du jet de deux dés, la loi de probabilité des deux résultats obtenus est une loi bidimensionnelle. Le caractère multidimensionnel apparaît ainsi lors du transfert, par une variable aléatoire, de l'espace probabilisé \scriptstyle (\Omega,\mathcal A) vers un espace numérique \scriptstyle E^n de dimension n. Dans l'exemple des deux dés, la dimension est n=2 et l'espace \scriptstyle E^2 est \scriptstyle \{1,\dots,6\}\times \{1,\dots,6\}. La loi est également appelée loi jointe[20].

Un exemple important de loi multidimensionnelle est la loi de probabilité produit \scriptstyle \mathbb P=\mathbb P_1\otimes \mathbb P_2\scriptstyle \mathbb P_1 et \scriptstyle \mathbb P_2 sont deux lois unidimensionnelles. Cette loi de probabilité est la loi d'un couple de variables aléatoires indépendantes[21], c'est le cas de l'exemple des deux dés.

Définition — Soit une variable aléatoire \scriptstyle X sur l'espace probabilisé \scriptstyle (\Omega, \mathcal A, \mathbb P), à valeurs dans \scriptstyle {\mathbb R}^n muni de la tribu borélienne réelle produit \scriptstyle {\mathcal B(\mathbb R)}^{\otimes n}. La loi de la variable aléatoire \scriptstyle\ X\ est la mesure de probabilité \scriptstyle \mathbb P_X définie par pour tout \scriptstyle B \in {\mathcal B(\mathbb R)}^{\otimes n} :

\mathbb P_X(B) = \mathbb P\big(X^{-1}(B)\big) = \mathbb P(X \in B).

La variable aléatoire \scriptstyle X est alors identifiée[22] à un vecteur aléatoire à n dimensions : \scriptstyle X = (X_1, X_2, \dots, X_n). Le théorème de Cramer-Wold[23] assure que la loi (n-dimensionnelle) de ce vecteur aléatoire est entièrement déterminée par les lois (unidimensionnelles) de toutes les combinaisons linéaires de ces composantes : \scriptstyle \sum_{i = 1}^n a_i X_i pour tous \scriptstyle a_1, a_2, \dots, a_n.

3 schémas en noir et blanc. À gauche, un nuage de points en triangle, à gauche, deux courbes
Les deux coordonnées (dimension 1 et dimension 2) des points s'approchent chacune d'une loi normale. C'est-à-dire qu'il s'agit d'une simulation de loi bidimensionnelle dont les deux lois marginales sont normales.
Cas d'une loi absolument continue

Une loi bidimensionnelle (ou n-dimensionnelle) est dite[24] absolument continue sur \scriptstyle \mathbb R^2 si la loi est absolument continue par rapport à la mesure de Lebesgue sur \scriptstyle \mathbb R^2, c'est-à-dire si la loi de la variable aléatoire correspondante s'écrit sous la forme :

\mathbb P(X \in B) = \iint_B f_X(x_1, x_2) \mathrm dx_1 \mathrm dx_2 pour tout \scriptstyle A \in \mathcal B(\mathbb R^2).
Lois marginales
Article détaillé : Loi de probabilité marginale.

Intuitivement, la loi marginale d'un vecteur aléatoire est la loi de probabilité d'une de ses composantes. Pour l'obtenir, on projette la loi sur l'espace unidimensionnel de la coordonnée recherchée. La loi de probabilité de la i-ème coordonnée d'un vecteur aléatoire est appelée la i-ème loi marginale[25]. La loi marginale \scriptstyle \mathbb P_i de \scriptstyle \mathbb P s'obtient par la formule :

\mathbb P_i(A) = \mathbb P_{X_i}(A) = \iint { 1}_{\omega_i\in A} \mathbb P(\mathrm{d}(\omega_1,\dots,\omega_n)) pour tout \scriptstyle A \in \mathcal B(\mathbb R).

Les lois marginales d'une loi absolument continue s'expriment à l'aide de leurs densités marginales.

Loi conditionnelle[modifier | modifier le code]

Arbre binaire à deux étages orienté de gauche à droite
Exemple d'utilisation d'une loi conditionnelle : + signifie que l'individu est positif au test de drogue ; U signifie que l'individu est consommateur de drogue. Ainsi \mathbb P(+|U) est la probabilité que le test soit positif sur un individu consommateur de drogue.

Intuitivement, une loi de probabilité conditionnelle permet de décrire le comportement aléatoire d'un phénomène lorsque l'on connaît une information sur ce processus. Autrement dit, la probabilité conditionnelle permet d'évaluer le degré de dépendance stochastique entre deux évènements[26]. Par exemple, lors d'un lancer de dés, la loi conditionnelle permet de donner la loi de la somme des résultats sachant que l'un des deux dés a donné un résultat d'au moins quatre.

Définition sur les évènements

La probabilité conditionnelle se définit[27], de manière la plus intuitive, sur les évènements par la probabilité \scriptstyle \mathbb P(\cdot|B) d'un évènement A conditionnellement à un autre évènement B. Pour tout A et B de la tribu sous-jacente tels que \scriptstyle \mathbb P(B) \neq 0 :

\mathbb P(A|B) = \frac{\mathbb P(A \cap B)}{\mathbb P(B)}.

La loi de probabilité[28] \scriptstyle \mathbb P(\cdot|B) est utilisée dans les probabilités et statistique élémentaires, pour la formule des probabilités totales ou le théorème de Bayes par exemple.

Définition pour les variables aléatoires

La probabilité conditionnelle est également définie pour les variables aléatoires. On étudie alors la loi d'une variable X conditionnellement à une variable Y. Lorsque \scriptstyle \mathbb P(Y = y) \neq 0, la loi de X sachant Y = y est définie par[28] :

\mathbb P(X \in A|Y = y) = \frac{\mathbb P(X \in A , Y = y)}{\mathbb P(Y = y)}.

Cependant cette définition n'est pas valide si la loi de Y est absolument continue puisque \mathbb P(Y=y)=0, pour tout y. La définition suivante est valide pour tout couple de variables aléatoires.

Définition[29] —  Soit (X,Y) un couple de variables aléatoires réelles. Il existe une loi de probabilité \mathbb P_{X | Y}, appelée loi conditionnelle de X sachant Y, ou sachant Y=y, définie par, pour toute fonction borélienne bornée \varphi :

\mathbb E \left[\varphi(X)|Y \right] = \int \varphi(x) \mathbb P_{X | Y}(\mathrm dx), presque sûrement.

La loi est également notée \mathcal L(X | Y) ou \mathcal L(X | Y = y). L'égalité précédente est une égalité entre variables aléatoires[30].

Définition pour les tribus

De manière plus générale, la loi de probabilité se définit à partir de l'espérance conditionnelle d'une variable aléatoire X sachant une tribu \mathcal G. Cette espérance conditionnelle est l'unique variable aléatoire \mathcal G-mesurable, notée \mathbb E\left[X | \mathcal G\right] et vérifiant[27] : \mathbb E\left[Z \mathbb E(X | \mathcal G)\right] = \mathbb E\left[Z X\right] pour toute Z, variable \mathcal G-mesurable. La loi conditionnelle est alors définie par[31] :

\mathbb P(A | \mathcal G) = \mathbb E(1_A | \mathcal G)1_A est la fonction indicatrice.
Définition pour les lois absolument continue

Dans le cas des lois absolument continue, il existe une densité conditionnelle d'une loi par rapport à l'autre, et inversement. Si (x, y)\mapsto f(x, y) est la densité de la loi bidimensionnelle, les deux densités conditionnelles sont alors données par[32] :

f(x | y) = \frac{f(x, y)}{f_Y(y)} = \frac{f(x, y)}{\int f(x, y) \mathrm dx} et f(y | x) = \frac{f(x, y)}{f_X(x)} = \frac{f(x, y)}{\int f(x, y) \mathrm dy}.

Ici, f_X et f_Y sont les deux lois marginales de X et Y respectivement. En remplaçant les intégrales par des sommes, on obtient des formules similaires dans le cas où les lois marginales sont discrètes ou lorsque la loi marginale de X est discrète et celle de Y est absolument continue, ou inversement[33].

Loi à valeurs dans un espace de Banach[modifier | modifier le code]

Puisque \scriptstyle \mathbb R est un espace de Banach, les lois à valeurs dans un espace de Banach généralisent les lois à valeurs réelles. La définition est alors similaire[34].

Définition — Soit une variable aléatoire sur l'espace probabilisé \scriptstyle\ (\Omega, \mathcal A,\, \mathbb{P}) et à valeurs dans un espace de Banach \scriptstyle E muni de la tribu \scriptstyle \mathcal B engendrée par les ensembles ouverts de \scriptstyle E. La loi de probabilité de la variable aléatoire \scriptstyle\ X\ est la mesure de probabilité \scriptstyle\mathbb{P}_X\ définie sur l'espace mesurable \ (E, \mathcal B) par :

\mathbb{P}_X(B) = \mathbb{P}\left(X^{-1}(B)\right) = \mathbb{P}\left(X\in B\right),

pour tout \scriptstyle  B\in\mathcal B .

Pour obtenir de bonnes propriétés, il est courant de considérer des mesures de probabilités tendues, c'est-à-dire qui intuitivement sont concentrées sur un ensemble compact, et de supposer que l'espace de Banach est séparable[35].

Un exemple possible d'espace de Banach est l'espace des fonctions continues \scriptstyle \mathcal C(\mathbb R^+,\mathbb R) . Un processus stochastique est une famille de variables aléatoires \scriptstyle (X_t)_{t\in T} indexées par un ensemble d'indices T. Une définition possible de la loi de probabilité d'un tel processus est la donnée des lois finies-dimensionnelles[36], c'est-à-dire la loi de probabilité multidimensionnelle des vecteurs \scriptstyle (X_{t_1},X_{t_2},\dots,X_{t_n}) lorsque \scriptstyle t_1,t_2,\dots,t_n\in T. La loi peut alors être étendue par le théorème d'extension de Carathéodory pour le processus entier. Prenons l'exemple du mouvement brownien \scriptstyle (B_t)_{t\in \mathbb R_+} qui est à trajectoires continues, sa loi de probabilité est la mesure de Wiener[37], généralement notée W :

W(A)=\mathbb P((B_t)_{t\geq0}\in A), pour tout A sous-ensemble de \scriptstyle \mathcal C(\mathbb R^+,\mathbb R) .

Espace des lois de probabilité[modifier | modifier le code]

Une loi de probabilité est une mesure de masse totale unitaire. L'ensemble des lois de probabilité est donc un sous-espace de l'espace des mesures finies. Cet espace est souvent noté[38] \scriptstyle \mathcal P(\mathbb R) ou \scriptstyle \mathcal M_1(\mathbb R) pour les lois de probabilité réelles. Dans la suite de cette section, les propriétés de cet espace sont détaillées pour les lois de probabilités réelles ; elles sont cependant vraies sur les espaces de Banach.

On peut munir cet espace d'une topologie appelée la topologie faible[38]. Cette topologie définit donc une convergence faible des lois de probabilité : une suite de lois de probabilité \scriptstyle (\mathbb P_n, n = 1, 2, \dots) converge faiblement vers une loi de probabilité \scriptstyle \mathbb P si :

\lim_{n \rightarrow \infty} \int \varphi(\omega)\mathbb P_n(\mathrm d\omega) = \int \varphi(\omega) \mathbb P(\mathrm d\omega) pour toute fonction \varphi continue bornée.

La convergence est notée[38] : \scriptstyle \mathbb P_n \xrightarrow{w} \mathbb P. Cette convergence se répercute, par le théorème de transfert, sur les variables aléatoires \scriptstyle (\mathbb X_n,n=1,2\dots) de lois respectives \scriptstyle (\mathbb P_n, n = 1, 2, \dots) ; la convergence de variables aléatoires est alors appelée convergence en loi (ou en distribution ou faible) et est notée \scriptstyle X_n \xrightarrow{\mathcal{L}} X ou \scriptstyle X_n \xrightarrow{\mathcal{D}} X. Si la convergence faible des variables aléatoires est souvent utilisée, elle ne concerne en fait que leur loi.

L'espace des lois de probabilités muni de cette topologie faible est[39] un espace métrique, complet et séparable (dans le cas d'un espace de Banach également séparable), ce qui en fait un espace polonais.

Propriétés[modifier | modifier le code]

Paramètres et familles[modifier | modifier le code]

Certaines lois sont regroupées par famille par rapport à certaines propriétés de leur densité ou de leur fonction de masse, ou suivant le nombre de paramètres qui les définissent, elles sont appelées famille paramétrique de lois de probabilité.

Différentes courbes de Gauss asymétriques
Différents paramètres de forme (asymétrie) pour la densité de probabilité de la Loi normale asymétrique.
Différentes courbes de Gauss
Différents paramètres de position (\scriptstyle \mu) et paramètres d'échelle (\scriptstyle \sigma) pour la densité de probabilité de la loi normale.

Paramètres[modifier | modifier le code]

Les paramètres dits de position[40] influent sur la tendance centrale de la loi de probabilité, c'est-à-dire la ou les valeurs autour desquelles la loi prend ses plus grandes valeurs. L'espérance, la médiane, le mode, les différents quantiles ou déciles en sont des exemples.

Les paramètres dits d'échelle[40] influent sur la dispersion ou l'« aplatissement » de la loi de probabilité. La variance (ou le moment d'ordre deux), l'écart type et l'écart interquartile en sont des exemples.

Les paramètres dits de forme[40] sont les autres paramètres liés aux lois de probabilité. La queue ou traîne d'une loi de probabilité réelle fait partie de sa forme. Les queues de gauche et de droite sont[41] respectivement des intervalles du type \scriptstyle ]-\infty,x[ et \scriptstyle [y,+\infty[. Une loi de probabilité est dite à queue lourde si la mesure de probabilité de la queue \scriptstyle \mathbb P([y,+\infty[) tend moins vite vers 0, pour x allant à l'infini, que celle de la loi normale[42]. Notamment toute loi absolument continue, centrée, réduite dont la densité vérifie[43] :

\lim_{|x|\rightarrow +\infty}f(x)\exp\left(\frac{1}{2}x^2\right)=+\infty

est une loi à queues droite et gauche lourdes. L'asymétrie (ou moment d'ordre trois[44]) est un exemple de paramètre de forme, elle permet de rendre la queue de droite est plus ou moins lourde[45]. Le kurtosis (ou moment d'ordre quatre[44]) permet de favoriser ou de défavoriser les valeurs proches de la moyenne de celles qui en sont éloignées. Une loi de probabilité est dite mésokurtique, leptokurtique ou platikurtique si son kurtosis est nul, positif ou négatif.

Familles de lois[modifier | modifier le code]

Une loi est dite de la famille exponentielle à un paramètre[46] si sa densité de probabilité ou sa fonction de masse ne dépend que d'un paramètre \scriptstyle \theta et est de la forme :

f(y)=\begin{cases} a(\theta)b(y) \mathrm e^{-c(\theta)d(y)} & \text{ si }\alpha<y<\beta \\ 0 & \text{ sinon.} \end{cases}

Cette famille regroupe beaucoup de lois classiques : loi normale, loi exponentielle, loi Gamma, loi du χ², loi bêta, loi de Bernoulli, loi de Poisson, etc.

Une loi est dite de la famille puissance à deux paramètres[46] \scriptstyle \alpha et \scriptstyle \theta si sa densité est de la forme :

f(y)=\begin{cases}\displaystyle \alpha \frac{y^{\alpha-1}}{\theta^\alpha} & \text{ si }0 \leq y \leq \theta \\ 0 & \text{ sinon.} \end{cases}

Loi directionnelle[modifier | modifier le code]

Lorsqu'une loi de probabilité multidimensionnelle représente la direction aléatoire d'un phénomène, elle est dite loi directionnelle. Elle est alors la loi d'un vecteur aléatoire unitaire d-dimensionnel où \scriptstyle d\geq2 ou, de manière équivalente, c'est une loi de probabilité sur la sphère d-dimensionnelle. Une loi directionnelle d-dimensionnelle peut alors être représenté par un vecteur (d-1-dimensionnel) en coordonnées polaires. Les lois de von Mises et de Bingham en sont des exemples[a 1].

Moments[modifier | modifier le code]

Article détaillé : Moment (mathématiques).

S'il existe, le n-ième moment d'une loi de probabilité \scriptstyle \mathbb P est défini par :

m_n = \int_\Omega \omega^n \mathbb P(\mathrm d \omega).

Cette formule s'écrit[47] plus simplement \scriptstyle m_n=\mathbb E[X^n] dans le cas où la loi est définie à partir de la variable aléatoire \scriptstyle X.

Le premier moment, ou moment d'ordre 1, est également appelé l'espérance de la loi ; lorsque ce moment est nul, la loi est dite centrée. Le deuxième moment d'une loi centrée est également appelé la variance de la loi ; lorsque ce moment vaut un, la loi est dite réduite.

D'une manière générale, la collection de tous les moments \scriptstyle (m_n,n\in \mathbb N) d'une loi de probabilité ne suffit pas à caractériser cette dernière[48]. Certaines lois sont définies par un nombre fini de leur moment : la loi de Poisson est complètement définie par son espérance[49] ; la loi normale est complètement définie par ses deux premiers moments[50]. Certaines lois ne possèdent pas de moments, c'est le cas de la loi de Cauchy.

Entropie[modifier | modifier le code]

Les lois de probabilité permettent de représenter des phénomènes aléatoires. L'entropie de Shannon d'une loi de probabilité a été introduite en thermodynamique pour quantifier l'état de désordre moléculaire d'un système[51]. Le but est de mesurer par une fonction le manque d'information de la loi de probabilité[52]. L'entropie a d'abord été définie pour les lois discrètes puis étendue pour les lois absolument continues. Pour une loi discrète \scriptstyle \mathbb P_1=\sum_{i\leq n}p_i\delta_{x_i} et une loi \scriptstyle \mathbb P_2 de densité \scriptstyle f, l'entropie H est définie respectivement par[51],[53] :

H(\mathbb P_1)=-\sum_{i=1}^n p_i \log_2(p_i) et H(\mathbb P_2)=-\int_{\mathbb R}f(x)\ln(f(x))dx.
  • La loi normale est celle d'entropie maximale parmi toutes les lois possibles ayant même moyenne et même écart-type[11].
  • La loi géométrique est celle d'entropie maximale parmi toutes lois discrètes de même moyenne[11].
  • La loi uniforme continue est celle d'entropie maximale parmi les lois à support borné.
  • La loi exponentielle est celle d'entropie maximale parmi les lois portées par \scriptstyle \mathbb{R}_+ et ayant la même moyenne[11].
  • Les lois de la famille puissance, comme celle de Zipf, sont d'entropie maximale parmi celles auxquelles on impose la valeur du logarithme d'une moyenne.

L'état d'entropie maximale est l'état le plus désordonné, le plus stable et le plus probable d'un système[52]. Ces lois sont donc les moins prévenues de toutes les lois compatibles avec les observations ou les contraintes, et donc les seules admissibles objectivement comme distributions de probabilités a priori. Cette propriété joue un grand rôle dans les méthodes bayésiennes.

Classification des lois de probabilité sur la droite réelle[modifier | modifier le code]

Les lois de probabilités les plus courantes dans les applications sont les lois dites discrètes et les lois dites absolument continues. Il existe cependant des lois de probabilité ni discrètes ni absolument continues.

Lois discrètes[modifier | modifier le code]

Définition[modifier | modifier le code]

Ligne noire d'abscisse, trois points discrets.
Le support de cette loi discrète est composé des singletons {1}, {3} et {7}, les probabilités associées sont respectivement 0,2, 0,5 et 0,3.

Une loi de probabilité \scriptstyle \mathbb P est concentrée[49] ou est portée sur un ensemble \scriptstyle A \in \mathcal A lorsque \scriptstyle \mathbb P(A) = 1. Une loi de probabilité \scriptstyle \mathbb P est dite discrète[13],[15] s'il existe un ensemble fini ou dénombrable sur lequel elle est concentrée.

L'élément \scriptstyle \omega \in \Omega est appelé atome d'une loi de probabilité \scriptstyle \mathbb P lorsque \scriptstyle \{\omega\} \in \mathcal A et \scriptstyle \mathbb P(\{\omega\}) \neq 0. L'ensemble des atomes d'une loi de probabilité est fini ou dénombrable. Plus généralement, cette propriété est valable pour toute mesure \scriptstyle \sigma-finie. Pour une loi de probabilité réelle, l'ensemble des atomes est exactement l'ensemble des points de discontinuité de sa fonction de répartition[54] ; dans ce cas, la finitude de l'ensemble des atomes se retrouve à partir du fait que la fonction de répartition est bornée[55].

Un critère suffisant pour qu'une loi soit discrète est que \scriptstyle \Omega soit fini ou dénombrable.

Si \scriptstyle \mathbb P est discrète alors elle est concentrée en particulier sur l'ensemble (fini ou dénombrable) de ses atomes \scriptstyle \Omega_a. Pour définir \scriptstyle \mathbb P il suffit donc de définir l'ensemble des couples[49] : \scriptstyle \{(\omega, p(\omega)) \in \Omega_a \times ]0, 1]\}\scriptstyle p est la fonction de masse de \scriptstyle \mathbb P. On obtient ainsi :

\mathbb P = \sum_{\omega \in \Omega_a} p(\omega)\delta_\omega.

\scriptstyle \delta_\omega est la mesure de Dirac[16],[24] au point \scriptstyle \omega \in \Omega_a.

Dans le cas où la loi de probabilité est définie à partir d'une variable aléatoire, les précédentes notions s'utilisent pour la variable aléatoire : une variable aléatoire \scriptstyle X est concentrée sur un ensemble \scriptstyle B \in \mathcal B(\mathbb R), respectivement est discrète si sa loi \scriptstyle \mathbb P_X est concentrée sur \scriptstyle B, respectivement est discrète. De même Les atomes de \scriptstyle X sont les atomes de \scriptstyle \mathbb P_X.

Pour une variable aléatoire discrète \scriptstyle X, le théorème de transfert s'exprime sous forme de sommes (ou de séries)[56] :

\mathbb E \left[\varphi(X)\right] = \sum_{x \in \Omega_a} \varphi(x) p_X(x), pour toute fonction \scriptstyle \varphi : \mathbb R \longrightarrow \mathbb R,
 \mathbb P(X\in A)= \sum_{k\in A} \mathbb P(X=k), pour tout \scriptstyle  A\in \mathcal B(\mathbb R).

Généralement la fonction de répartition d'une loi discrète est constante par morceaux[49]. Une loi discrète peut être représentée par un diagramme en bâtons[13].

Exemples[modifier | modifier le code]

Voici une liste non exhaustive de lois de probabilités discrètes à support fini ou dénombrable.

Mesure de Dirac
Article détaillé : Mesure de Dirac.

La mesure de Dirac est la plus simple des lois discrètes au sens où le support de la loi ne contient qu'une valeur[57]. Si une variable aléatoire est de loi de Dirac  \delta_x, alors  X vaut  x avec une probabilité égale à 1. Cette loi modélise un phénomène déterministe (non aléatoire) puisque le résultat de l'expérience est (presque sûrement) égal à la valeur connue  x.

Loi uniforme discrète
Article détaillé : Loi uniforme discrète.

La loi uniforme discrète modélise un phénomène aléatoire dont les résultats sont équiprobables. C'est le cas, par exemple, d'un lancer d'un dé. Si le support  S de la loi est l'ensemble à  n éléments  \{x_1, x_2, \dots, x_n\}, alors cette loi est définie par :

 \mathbb P(X = x_1) = \mathbb P(X = x_2) = \ldots = \mathbb P(X = x_n) = \frac{1}{n}.
Loi de Bernoulli
Article détaillé : Loi de Bernoulli.

La loi de Bernoulli correspond à une expérience à deux issues (succès–échec), généralement codées respectivement par les valeurs 1 et 0. Cette loi dépend d'un paramètre  p \in [0, 1] mesurant la probabilité de succès et est définie par :

 \mathbb P(X = 1) = 1 - \mathbb P(X = 0) = p.
Loi binomiale
Article détaillé : Loi binomiale.

C'est la loi du nombre de succès obtenus à l'issue de  n épreuves de Bernoulli indépendantes de paramètre  p \in [0, 1], autrement dit c'est la loi de la somme de  n variables aléatoires indépendantes de loi de Bernoulli de même paramètre. Cette loi à support fini est définie par :

 \mathbb P(X = k) = {n \choose k} p^k (1 - p)^{n - k}

pour tout k \in \{0, 1, \dots, n\}.

Distribution arithmétique
Article détaillé : Distribution arithmétique.

C’est une distribution concentrée sur un ensemble du type \{k\cdot d, k \in \Z\}d > 0.

Loi géométrique
Article détaillé : Loi géométrique.

C'est la loi qui modélise le temps d'attente du premier succès dans une série d'épreuves de Bernoulli indépendantes à probabilité de succès  p \in [0, 1]. C'est l'unique loi discrète à posséder la propriété de perte de mémoire. Cette loi à support infini dénombrable est définie par :

 \mathbb P(X = k) = (1 - p)^{k - 1} p

pour tout k \in \N^*.

Loi de Poisson
Article détaillé : Loi de Poisson.

La loi de Poisson est la loi qui décrit le comportement du nombre d'évènements se produisant dans un laps de temps fixé. Cette loi à support infini dénombrable dépend d'un paramètre  \lambda > 0 et est définie par :

 \mathbb P(X = k) = \frac{\lambda^k}{k!} \mathrm e^{-\lambda}

pour tout k \in \N.

Loi hypergéométrique
Article détaillé : Loi hypergéométrique.

La loi hypergéométrique modélise un tirage simultané de  n boules dans une urne contenant une proportion  p A de boules gagnantes et une proportion  (1 - p) A de boules perdantes, pour un nombre total  A de boules. La loi décrit le nombre de boules gagnantes extraites. Cette loi à support fini dépend de trois paramètres  n\in \N^*,  p \in [0, 1] et  A \in \N^*, et est définie par :

 \mathbb P(X = k) = \frac{{p A \choose k}{(1 - p) A \choose n - k}}{{A \choose n}}

pour tout k \in \{0, 1, \dots, n\}.

Lois absolument continues[modifier | modifier le code]

Définitions[modifier | modifier le code]

Article détaillé : Densité de probabilité.
La courbe rouge est la densité de probabilité de la loi normale centrée réduite. Elle est appelée courbe de Gauss ou courbe en cloche.

Une loi de probabilité réelle \scriptstyle \mathbb P est dite absolument continue[58] ou à densité[24] lorsqu'elle est absolument continue par rapport à la mesure de Lebesgue.

Si \scriptstyle \mathbb P est absolument continue alors en vertu du théorème de Radon-Nikodym[59], elle possède une densité de probabilité par rapport à la mesure de Lebesgue, c'est-à-dire qu'il existe[24] une unique (à égalité Lebesgue-presque partout près) fonction mesurable positive \scriptstyle f : \mathbb R \rightarrow \mathbb R_+ telle que pour tout \scriptstyle A \in \mathcal B(\mathbb R) :

\mathbb P(A) = \int_A f(x)\,\mathrm d x = \int_{\mathbb R} \bold 1_A(x) f(x)\,\mathrm d x

\scriptstyle \bold 1_A est la fonction caractéristique du borélien \scriptstyle A. Cette densité de probabilité n'a pas toujours d'expression analytique (voir les exemples ci-dessous).

Lorsqu'une loi de probabilité absolument continue est définie à partir d'une variable aléatoire \scriptstyle X, la variable aléatoire est dite absolument continue[16] ou à densité et la densité de la loi \scriptstyle \mathbb P_X est également appelée la densité de \scriptstyle X, elle est parfois notée \scriptstyle f_X.

Pour une variable aléatoire absolument continue \scriptstyle X, le théorème de transfert s'écrit[60] à l'aide d'une intégrale de Lebesgue[58], pour toute fonction \scriptstyle \varphi : \mathbb R \longrightarrow \mathbb R intégrable par rapport à \scriptstyle \mathbb P_X(\mathrm d x)=f_X(x)\,\mathrm d x :

\mathbb E \left[\varphi(X)\right] = \int_{\mathbb R} \varphi(x) f_X(x)\,\mathrm dx.

La fonction de répartition d'une loi absolument continue est localement absolument continue, c'est une propriété nécessaire et suffisante. Une loi absolument continue ne possède pas d'atome[61]. Toutefois, cette propriété, qui oppose les lois absolument continues aux lois discrètes, n'est pas caractéristique des lois absolument continues mais des lois continues (voir la section Lois singulières ci-dessous).

Les lois absolument continues sont parfois appelées plus simplement lois continues[62]. C'est un abus de langage dû au fait que dans la plupart des applications en statistique, les lois continues sont absolument continues[63], mais ce n'est pas vrai dans le cas général.

Exemples[modifier | modifier le code]

Loi uniforme
Article détaillé : Loi uniforme continue.

La loi uniforme sur un intervalle indique, intuitivement, que toutes les valeurs de l'intervalle ont les mêmes chances d'apparaître. Plus formellement, chaque sous-intervalle \scriptstyle [c,d] \subset [a, b] a une probabilité égale à la mesure de Lebesgue de [c, d] (multipliée par une constante) d'apparaître. La loi uniforme ne dépend que de l'intervalle, son support est compact et sa densité est donnée par :

f(x) = \frac{1}{b - a} pour x \in [a, b] .
 f(x) = 0 sinon.
Loi exponentielle
Article détaillé : Loi exponentielle.

La loi exponentielle est la loi communément utilisée pour modéliser le temps de vie d'un phénomène puisque c'est l'unique loi absolument continue possédant la propriété de perte de mémoire. En ce sens elle est l'analogue continu de la loi géométrique. Cette loi à support semi-infini ne dépend que d'un paramètre (parfois appelé l'intensité), sa densité est donnée par, pour tout \scriptstyle x \geq 0 :

f(x) = \lambda \mathrm e^{-\lambda x}.
Loi normale
Article détaillé : Loi normale.

La loi normale, ou loi gaussienne, est une loi centrale en théorie des probabilités et en statistique. Elle décrit le comportement des séries d'expériences aléatoires lorsque le nombre d'essais est très grand. C'est la loi limite dans le théorème central limite, elle est également l'unique loi stable de paramètre 2. La loi normale est caractérisée par sa moyenne (qui est également sa médiane) et par son écart-type, son support est la droite réelle. Sa densité est symétrique et sa forme est communément appelée la courbe de Gauss ou courbe en cloche :

f(x) = \frac{1}{\sigma\sqrt{2\pi}} \mathrm e^{-\frac{(x - m)^2}{2 \sigma^2}}.
Loi de Cauchy
Article détaillé : Loi de Cauchy (probabilités).

La loi de Cauchy est la loi stable de paramètre 1, ce qui lui donne de bonnes propriétés. Elle est cependant un exemple typique de loi n'admettant pas de moments, en particulier ni moyenne, ni variance. Son support est la droite réelle et sa densité est symétrique et définie par :

f(x)=\frac{1}{\pi} \frac{1}{1 + x^2}.

La loi de la position d'un mouvement brownien plan au moment où celui-ci atteint la droite \scriptstyle y = \frac{1}{2} est une loi de Cauchy[a 2].

Loi de Tukey-Lambda
Article détaillé : Loi de Tukey-Lambda.

La loi de Tukey-Lambda est une loi absolument continue, elle possède donc une densité de probabilité mais cette dernière n'a pas d'expression analytique. Cette loi dépend d'un paramètre, son support est soit un intervalle borné centré à l'origine, soit la droite réelle (en fonction du paramètre). La loi de Tuckey-Lambda est définie à partir de sa fonction quantile (voir section Autres caractérisations ci-dessous) :

Q(p) = {p^\lambda - (1 - p)^\lambda\over \lambda}.

Lois singulières[modifier | modifier le code]

Définition[modifier | modifier le code]

Une loi de probabilité \scriptstyle \mathbb P est dite continue ou diffuse[54] lorsqu'elle ne possède pas d'atome.

En particulier, les lois absolument continues sont continues, la réciproque n'est cependant pas vraie. La fonction de répartition d'une loi de probabilité réelle continue est continue[54], c'est une propriété nécessaire et suffisante.

Une loi de probabilité \scriptstyle \mathbb P est dite singulière lorsqu'elle est continue mais pas absolument continue. C'est-à-dire qu'une loi singulière ne possède ni atome, ni densité.

Ces notions se disent également pour les lois de probabilité définies à partir de variables aléatoires : une variable aléatoire \scriptstyle X est continue (ou diffuse), respectivement singulière, lorsque sa loi de probabilité associée \scriptstyle \mathbb P_X est continue (ou diffuse), respectivement singulière.

Exemple[modifier | modifier le code]

Loi de Cantor
Article détaillé : Loi de Cantor.
Fonction de répartition de la loi de Cantor.

C'est une loi singulière. Elle est définie à partir de l'ensemble de Cantor : \scriptstyle \left\{ \sum_{n=1}^{\infty} \frac{x_n}{3^n} \ | \,x_n \in \{ 0,2 \} \right\}. Lorsque \scriptstyle X_n sont des variables indépendantes et identiquement distribuées de loi uniforme discrète sur \scriptstyle \{0,2\}, alors

X = \sum_{n = 1}^{\infty} \frac{X_n}{3^n}

est une variable aléatoire de loi de Cantor[64]. Cette loi de probabilité[65] s'écrit sous la forme \scriptstyle \mathbb P_X = (\frac{1}{2} \delta_0 + \frac{1}{2} \delta_2)^{\otimes \mathbb N}, c'est la loi uniforme sur l'ensemble de Cantor. Sa fonction de répartition est l'escalier de Cantor, elle est dérivable presque partout et de dérivée nulle presque partout[64].

Dans les applications, il est rare que les lois continues contiennent une partie singulière[63]. L'ensemble de Cantor apparaît toutefois dans certains exemples bien connus : l'ensemble des zéros du mouvement brownien est un ensemble de type Cantor.

Autres cas[modifier | modifier le code]

Il existe des lois de probabilité qui ne sont ni discrètes, ni absolument continues, ni singulières, elles sont parfois appelées lois mixtes[66],[67].

D'un point de vue plus général, toute loi de probabilité \scriptstyle\mathbb P peut se décomposer[63],[55] en une combinaison linéaire d'une loi continue \scriptstyle \mathbb P_{\text{c}} et d'une loi discrète \scriptstyle \mathbb P_{\text{d}}. De plus le théorème de décomposition de Lebesgue appliqué[63] à \scriptstyle \mathbb P_{\text{c}} indique que cette loi continue se décompose en une combinaison linéaire de deux lois continues, l'une \scriptstyle \mathbb P_{\text{ac}} est absolument continue par rapport à la mesure de Lebesgue et l'autre \scriptstyle \mathbb P_{\text{s}} est singulière, étrangère à la mesure de Lebesgue. La décomposition s'écrit donc[68] :

\mathbb P = \alpha \mathbb P_{\text{d}} + (1 - \alpha) \mathbb P_{\text{c}} = \alpha \mathbb P_{\text{d}} + \beta \mathbb P_{\text{ac}} + \gamma \mathbb P_{\text{s}}

avec \alpha, \beta, \gamma \in [0, 1] et \alpha + \beta + \gamma = 1. La présence de \scriptstyle (\alpha, \beta, \gamma) assure que \scriptstyle \mathbb P(\Omega) = 1.

Exemple de fonction de répartition d'une loi mixte.

La loi de probabilité réelle suivante est un exemple de loi mixte obtenue en mélangeant une loi discrète, définie par ses atomes \scriptstyle \{x_k,k\in \mathbb N\} et sa fonction de masse \scriptstyle p, avec une loi absolument continue[63] de densité \scriptstyle f :

\mathbb P(\mathrm d x) = \alpha f(x)\,\mathrm d x + (1 - \alpha) \sum_{k\in \mathbb N} p(x_k) \delta_{x_k}(\mathrm d x)

\scriptstyle \alpha \in ]0, 1[. Sa fonction de répartition est une fonction continue par morceaux[69], mais pas constante par morceaux ce qui est le cas des fonctions de répartition des lois discrètes.

Intuitivement, cela correspond à un phénomène aléatoire dont la loi est absolument continue. Cependant l'appareil de mesure ne peut mesurer les données qu'à partir d'un certain seuil c. Toutes les mesures non détectées par l'appareil seront assignées à 0, ainsi la loi est nulle sur toute partie « plus petite » que c alors qu'un saut apparaît au singleton c. Les mesures suivent la loi absolument continue pour les valeurs plus grandes que c[66]. Dans cet exemple la fonction de répartition est discontinue en c.

Caractérisations d'une loi de probabilité[modifier | modifier le code]

Il existe plusieurs fonctions à variables réelles ou complexes qui déterminent de manière unique les lois de probabilités. Les propriétés de certaines de ces fonctions permettent de déduire des propriétés pour les lois comme le calcul des moments ou une expression de la convergence en loi.

À l'aide de la fonction de répartition[modifier | modifier le code]

Fonction de répartition de la loi normale centrée réduite.
Article détaillé : Fonction de répartition.

D'après le lemme de classe monotone, les ensembles \scriptstyle ]-\infty, x], appelés pavés ou rectangles, engendrent[70] la tribu borélienne réelle \scriptstyle \mathcal B(\mathbb R), il suffit alors de définir une loi de probabilité sur les pavés. On suppose que la loi de probabilité est réelle, c'est-à-dire \scriptstyle (\Omega, \mathcal A) = (\mathbb R, \mathcal B(\mathbb R)).

La fonction de répartition d'une loi de probabilité \scriptstyle \mathbb P réelle, notée par \scriptstyle F, est[71] la fonction définie par, pour tout \scriptstyle x \in \mathbb R :

F(x) = \mathbb P\big(]-\infty, x]\big).

Une loi de probabilité est caractérisée par sa fonction de répartition, c'est-à-dire que deux lois de probabilités sont égales si et seulement si leurs fonctions de répartitions sont égales[72].

Plus généralement, toute fonction \scriptstyle F croissante, continue à droite et vérifiant : \scriptstyle \lim_{x \to -\infty} F(x) = 0 et \scriptstyle \lim_{x \to \infty} F(x) = 1 est la fonction de répartition d'une unique[73] loi de probabilité sur \scriptstyle \mathbb R. La loi de probabilité définie à partir d'une fonction de répartition est appelée mesure de Lebesgue-Stieltjes[72].

Un des avantages de la fonction est qu'elle est bien définie pour toute loi de probabilité[73]. Cependant elle n'a pas toujours d'expression explicite, un exemple étant la fonction de répartition de la loi normale. La fonction de répartition permet parfois des calculs de lois aisés (loi du maximum ou du minimum d'un échantillon, e.g.) et fournit un critère commode [74] de convergence des lois de probabilités via le théorème porte-manteau.

À l'aide de la fonction caractéristique[modifier | modifier le code]

Fonction caractéristique de la loi uniforme continue sur [-1,1]. Puisque la loi est symétrique, la fonction caractéristique est réelle.

On appelle fonction caractéristique d'une loi de probabilité \scriptstyle \mathbb P, et l'on note \scriptstyle \Phi, la « symétrie » de la transformée de Fourier de \scriptstyle \mathbb P. Pour tout \scriptstyle t \in \mathbb R :

\Phi(t) = \mathcal F(\mathbb P)(-t) = \int_\Omega \mathrm e^{\mathrm i t \omega}\,\mathbb P(\mathrm d\omega).

Suivant la définition de la transformée de Fourier, la fonction caractéristique est sa symétrique ou non[75]. Comme son nom l'indique, la fonction caractéristique détermine la loi de manière unique[76], c'est-à-dire que deux lois de probabilité sont égales si et seulement si leurs fonctions caractéristiques sont égales.

Un des avantages de la fonction caractéristique est qu'elle existe pour toute loi de probabilité[74],[75]. De plus, en utilisant la formule d'inversion de la transformée de Fourier[77], la loi de probabilité s'obtient à partir de la fonction caractéristique. La représentation des lois par la fonction caractéristique permet également de caractériser[78] la convergence des lois de probabilités via le théorème porte-manteau.

Dans le cas où la loi de probabilité est définie à partir d'une variable aléatoire \scriptstyle X, d'après le théorème de transfert, pour tout \scriptstyle t \in \mathbb R :

\Phi_X(t) = \int_{\mathbb R} \mathrm e^{\mathrm i t x}\,\mathbb P_X(\mathrm dx) = \int_\Omega \mathrm e^{\mathrm i t X(\omega)}\,\mathbb P(\mathrm d\omega) = \mathbb E \left[\mathrm e^{\mathrm i t X} \right].

À l'aide de la fonction génératrice des moments[modifier | modifier le code]

Fonction génératrice des moments de la loi uniforme continue sur [-1,1].

La fonction génératrice des moments d'une loi de probabilité \scriptstyle \mathbb P, notée \scriptstyle M, est la « symétrie » de la transformée de Laplace de \scriptstyle \mathbb P[64],[79]. Lorsque la fonction  \scriptstyle\omega\mapsto e^{t\omega} est intégrable par rapport à la mesure \scriptstyle \mathbb P, pour tout \scriptstyle t \in \mathbb R :

M(t) = \mathcal L(\mathbb P)(-t) = \int_\Omega \mathrm e^{t \omega}\,\mathbb P(\mathrm d\omega).

La fonction génératrice des moments détermine la loi de probabilité de manière unique si cette fonction existe sur un intervalle contenant l'origine[74].

Un des avantages de cette fonction génératrice des moments est qu'elle permet de retrouver les moments de la loi de probabilité par les dérivées[79]. Pour tout \scriptstyle k \in \mathbb N, la \scriptstyle k-ième dérivée de la fonction génératrice des moments en 0 est le moment d'ordre \scriptstyle k de la loi de probabilité :

M^{(k)}(0) = \int_\Omega \omega^k \mathbb P(\mathrm d\omega).

La représentation des lois par la fonction génératrice des moments permet également de caractériser[74] la convergence des lois de probabilités via le théorème porte-manteau.

Dans le cas où la loi de probabilité est définie à partir d'une variable aléatoire \scriptstyle X, d'après le théorème de transfert, pour tout \scriptstyle t \in \mathbb R :

 M_X(t) = \int_{\mathbb R} \mathrm e^{t x}\,\mathbb P_X(\mathrm dx) = \int_\Omega \mathrm e^{t X(\omega)}\,\mathbb P(\mathrm d\omega) = \mathbb E\left[\mathrm e^{t X}\right].

De plus, pour des lois définies à partir de variables aléatoires, cette fonction permet aisément de montrer l'indépendance des variables[79].

Il existe un cas particulier pour les lois discrètes. La fonction génératrice des probabilités d'une loi de probabilité discrète \scriptstyle \mathbb P=\sum_k p_k\delta_k est définie[79] comme l'espérance de la série génératrice : \scriptstyle g(t) = \sum_k t^k p_k, sous réserve d’existence de cette série. Cette fonction génératrice détermine la loi de probabilité de manière unique[79].

Autres caractérisations[modifier | modifier le code]

Exemple de quantiles.
Articles détaillés : Quantile et Méthode de la transformée inverse.

La fonction quantile[80] d'une loi de probabilité réelle \scriptstyle \mathbb P, notée \scriptstyle Q, est la fonction qui donne les quantiles de la loi. Elle est définie par[81], pour tout \scriptstyle p \in ]0, 1[ :

Q(p) = \inf\{u \in \mathbb R \ | \ F(u) \geq p\}

\scriptstyle F est la fonction de répartition de \scriptstyle \mathbb P.

Certaines lois de probabilité sont plus faciles à définir, via leur fonction quantile. Intuitivement, \scriptstyle Q(p) est la valeur telle qu'une proportion \scriptstyle x des valeurs possibles de la loi lui soit inférieure. \scriptstyle Q(\frac{1}{4}), \scriptstyle Q(\frac{1}{2}), et \scriptstyle Q(\frac{3}{4}) sont respectivement le 1er quartile, la médiane et le 3e quartile de la loi.

Si \scriptstyle F est bicontinue alors[80] \scriptstyle Q est la fonction réciproque de la fonction de répartition[80] : \scriptstyle Q = F^{-1}, c'est pour cela que dans le cas général on appelle aussi la fonction quantile réciproque généralisée de \scriptstyle F ou fonction inverse continue à droite de \scriptstyle F.

Cette fonction quantile détermine la loi associée[81] \scriptstyle \mathbb P au sens où, si \scriptstyle U est une variable aléatoire de loi uniforme continue sur [0,1], alors \scriptstyle Q(U) est une variable aléatoire de loi \scriptstyle \mathbb P initiale. Cette représentation est particulièrement utile pour simuler des lois de probabilité[82] puisqu'il suffit alors de simuler une loi uniforme continue et d'y appliquer la fonction quantile (voir la section ci-dessous sur la simulation des lois de probabilités).

Certaines lois n'ont pas de fonction de répartition explicite mais sont définies à partir de leur fonction quantile, c'est le cas de la loi de Tukey-Lambda.

Utilisations[modifier | modifier le code]

La répartition statistique d'une variable au sein d'une population est souvent voisine des modèles mathématiques des lois de probabilités[83]. Il est souvent intéressant, pour des raisons théoriques et pratiques, d'étudier le modèle probabiliste, dit théorique[84]. L'étude commence alors par une sélection au hasard de plusieurs valeurs ou individus. Si la méthode utilisée est parfaite, c'est-à-dire que ces valeurs observées sont issues d'une sélection équiprobable[83], alors elles sont des variables aléatoires et l'étude du phénomène revient à étudier la loi de probabilité.

Simulation d'une loi de probabilité[modifier | modifier le code]

Simulation de la loi uniforme continue sur le carré unitaire. On remarque ici l'imperfection des 10 000 valeurs pseudo-aléatoires par la présence de zones moins denses.

Afin d'étudier les lois de probabilité, il est important de pouvoir les simuler, ceci est dû notamment à l’utilisation de l'informatique dans les sciences. Comme indiqué ci-dessus, les lois de probabilité sont caractérisées par la fonction quantile via une variable aléatoire de loi uniforme continue. Cette méthode générale comprend deux étapes[85] : la génération de valeurs dites pseudo-aléatoires de loi uniforme et l'inversion de la fonction de répartition de la loi étudiée. Cette deuxième étape n'est pas évidente à réaliser pour toutes les lois, d'autres méthodes sont alors utilisées.

« Quiconque considère des méthodes arithmétiques pour produire des nombres aléatoires est, bien sûr, en train de commettre un péché. »

— John von Neumann

Simulation de la loi uniforme

Pour obtenir des valeurs suivant la loi uniforme continue, l'ordinateur simule des valeurs de la loi uniforme discrète. Plusieurs méthodes ont été utilisées[86] : l'utilisation de tables de données qui pouvaient en contenir plus d'un million est de moins en moins utilisée ; l'utilisation de processus physique comme la création d'un bruit électronique est assez coûteuse pour la récupération des données ; l'utilisation d'algorithmes arithmétiques est la méthode la plus simple. Ces algorithmes étant déterministes (non aléatoires), les valeurs obtenues sont appelées pseudo-aléatoires. De nombreux algorithmes ont été créés pour améliorer l'indépendance entre les valeurs et leur répartition dans l'intervalle \scriptstyle [0, 1].

Simulation des autres lois

Lorsque la fonction de répartition est inversible, on utilise la caractérisation par la fonction quantile. Quelques exemples illustrent des cas où cette fonction n'est pas inversible : la méthode de Box-Muller permet de simuler la loi normale[87], la méthode de rejet de von Neumann est fondé sur un test statistique et est applicable pour plusieurs lois[88], d'autres méthodes spécifiques aux lois existent[89].

Exemple

Un exemple renommé d'utilisation d'une simulation de loi de probabilité est la méthode de Monte-Carlo, par exemple pour approcher la valeur de π. La méthode consiste à simuler un grand nombre de valeurs suivant une loi uniforme continue sur \scriptstyle [0,1] et de compter la proportion des couples \scriptstyle (x,y) d'entre eux qui vérifient \scriptstyle x^2 + y^2 \leq 1. Cette proportion se rapproche de \scriptstyle \frac{\pi}{4} lorsque le nombre de points tend vers l'infini[90].

Approximation d'une loi de probabilité[modifier | modifier le code]

Illustration du théorème central limite. Les données empiriques sont les valeurs possibles de la somme de  \scriptstyle n dés ( \scriptstyle n \in \{ 1, 2, 3, 4, 5 \}) à six faces lancés au hasard. Lorsque  \scriptstyle n augmente, les histogrammes convergent vers la courbe de Gauss qui est la densité de la loi normale.

Plusieurs approximations d'une loi de probabilité existent en utilisant les différentes caractérisations détaillées ci-dessus. C'est généralement les techniques utilisées dans les cas pratiques. La première étape est la récolte des données, ce qui permet de construire les objets empiriques comme la fonction de répartition empirique. Ces derniers sont parfois appelés, par abus de langage, des lois de probabilité mais ce sont en fait des lois empiriques appelées distributions statistiques[83]. Des théorèmes limites ou des tests statistiques permettent finalement d'identifier la meilleure loi de probabilité qui modélise le phénomène aléatoire initial[84].

« Les probabilités doivent être regardées comme analogues à la mesure des grandeurs physiques, c'est-à-dire qu'elles ne peuvent jamais être connues exactement mais seulement avec une certaine approximation. »

— Émile Borel[91]

Par la fonction de répartition

Le test statistique de Kolmogorov-Smirnov, basée sur le théorème porte-manteau, permet d'identifier la fonction de répartition empirique calculée à partir des données à une fonction de répartition d'une loi de probabilité, en fonction d'un taux de rejet. L'avantage de la convergence des fonctions de répartition est que ces fonctions existent pour toutes lois de probabilités. Cette convergence permet en particulier d'approcher une loi absolument continue par une suite de lois discrètes[92].

Convergence des autres fonctions caractéristiques

Différents théorèmes de convergence de variables aléatoires permettent de construire une suite de lois de probabilité qui converge vers une loi donnée, ou inversement de construire une loi comme limite de lois de probabilité. Le théorème central limite concerne la loi normale pour loi limite. Le théorème de continuité de Paul Lévy concerne la convergence des fonctions caractéristiques.

Exemple de droite de Henry dans un diagramme Quantile-Quantile qui permet de comparer visuellement les quantiles empiriques aux quantiles théoriques. Ici la loi normale n'est pas adéquate.
Régression quantile

La régression quantile permet d'approcher les quantiles de la loi par les quantiles empiriques, c'est-à-dire calculés à partir d'éventuelles données. On peut utiliser un test statistique pour comparer les quantiles empiriques (observés) avec les quantiles de la loi qui est supposée modéliser le phénomène.

Cette approche est particulièrement utile pour étudier certaines lois qui ne sont pas connues explicitement par leur densité ou leur fonction de répartition mais par leurs quantiles, c'est le cas de la loi de Tukey-Lambda.

Tests statistiques

Plusieurs tests statistiques existent pour comparer deux lois. Plus précisément, les tests d'adéquation permettent de comparer une loi empirique (c'est-à-dire calculée à partir des données issues d'échantillons) à une loi de probabilité dite a priori qui est censée modéliser le phénomène étudié. Les deux principaux tests sont : le test de Kolmogorov-Smirnov mentionné ci-dessus qui compare les fonctions de répartition et le test d'adéquation du χ² qui compare les effectifs observés avec une loi du χ². Parmi ces tests, ceux qui concernent la loi normale sont dits tests de normalité.

Les tests d’homogénéité permettent de comparer deux lois empiriques pour savoir si elles sont issues du même phénomène ou, de manière équivalente, si elles peuvent être modélisées par la même loi de probabilité a priori. Ces tests comparent certaines propriétés des lois empiriques à la propriété de la loi a priori. Ils sont utiles dans la pratique puisqu'ils permettent de comparer non pas des lois entières mais des valeurs issues des lois[93] : le test de Fisher estime le rapport des variances empiriques via la loi de Fisher[93], le test de Student estime la moyenne empirique via la loi de Student[94], etc.

Exemples de modélisation[modifier | modifier le code]

Les lois de probabilité sont utilisées pour représenter les phénomènes observés. Une loi de probabilité, dite a priori, est supposée modéliser les données récupérées, des tests statistiques sont alors réalisés pour affirmer ou infirmer la concordance de la loi de probabilité avec les données. Dans bien des domaines, les méthodes ont évolué et de meilleures lois de probabilité ont été créées afin de mieux correspondre au problème posé. Voici une liste d'exemples concrets qui proposent des modélisations :

  • en économie : la bourse est une institution qui permet d'échanger des biens ou des titres. Afin de mieux estimer le prix futur d'un bien ou d'un titre, une étude de l'évolution historique de son prix est réalisée, notamment par la modélisation des variations des cours des prix. Ces variations ont d'abord été modélisées par une loi normale (Bachelier, 1900), puis une amélioration a été faite avec les lois stables de Pareto (Mandelbrot, 1963). Depuis, de nouveaux modèles sont toujours recherchés pour améliorer la perception des risques[a 3] ;
  • aux jeux de hasard : pour jouer au loto français, il faut choisir six numéros parmi les quarante-neuf possibles. Si les joueurs choisissent leurs numéros au hasard, c'est-à-dire avec une loi uniforme discrète, alors le nombre de gagnants suit une loi de Poisson. Grâce à cette considération, une étude peut être réalisée puisque le nombre de gagnants est une donnée connue. Il apparaît que le choix n'est pas uniforme mais que les petits numéros ont été plus choisis[a 4] ;
  • en maintenance : une bonne compréhension de la dégradation permet d'améliorer la performance de la maintenance. Plusieurs lois a priori ont été utilisées pour modéliser l'évolution de la fissure des chaussées : la loi exponentielle, la loi de Weibull, la loi log-normale, la loi log-logistique, etc. Pour une utilisation de la méthode du maximum de vraisemblance, la loi log-logistique fait partie des lois les plus adaptées[a 5] ;
  • en médecine : pour tester l'efficacité des médicaments, un essai clinique est réalisé auprès d'un échantillon d'utilisateurs. Cette méthode fait partie de la théorie de la décision. Une des méthodes est de sélectionner un malade pour réaliser un test avec deux issues (succès ou échec), c'est-à-dire de modéliser par une loi de Bernoulli, puis de recommencer le plus de fois possibles ; c'est la méthode des urnes de Bernoulli. Une meilleure méthode est d'utiliser la loi hypergéométrique, ce choix permet de ne considérer qu'une population d'individus de taille fixée préalablement[a 6] ;
  • en météorologie : en hydrologie, la pluviométrie est l'étude de la quantité d'eau issue de la pluie tombée en un point du sol pendant une durée de temps fixée. Le choix de la loi a priori ne fait pas consensus au sein de la communauté scientifique internationale. Certains auteurs préconisent l'utilisation de la loi log-normale qui s'ajuste bien aux petites valeurs. D'autres proposent la loi Gamma qui s'ajuste bien aux valeurs expérimentales. L'utilisation de la loi de Pareto a son intérêt pour représenter les valeurs moyennes[a 7].

Notes et références[modifier | modifier le code]

  1. Wackerly, Mendenhall et Schaeffer 2008, p. 20
  2. a et b Barbé et Ledoux 2007, p. 41
  3. Henry 2001, p. 163
  4. Wackerly, Mendenhall et Schaeffer 2008, p. 86
  5. Henry 2001, p. 14
  6. Dalang et Conus 2008, p. 127
  7. Henry 2001, p. 34
  8. a, b, c et d Dalang et Conus 2008, p. 128
  9. Henry 2001, p. 42
  10. Henry 2001, p. 54
  11. a, b, c et d Caumel 2011, p. 137
  12. Henry 2001, p. 55
  13. a, b et c Ruegg 1994, p. 35
  14. a et b Ducel 1996, p. 8
  15. a et b Saporta 2006, p. 16
  16. a, b et c Barbé et Ledoux 2007, p. 45
  17. Barbé et Ledoux 2007, p. 54
  18. Shiryaev 1995, p. 196
  19. Shiryaev 1995, p. 160
  20. Saporta 2006, p. 69
  21. Saporta 2006, p. 22
  22. Saporta 2006, p. 85
  23. Saporta 2006, p. 87
  24. a, b, c et d Ducel 1996, p. 9
  25. Barbé et Ledoux 2007, p. 51
  26. Ruegg 1994, p. 20
  27. a et b Klebaner 2005, p. 44
  28. a et b Barbé et Ledoux 2007, p. 150
  29. Barbé et Ledoux 2007, p. 162
  30. Barbé et Ledoux 2007, p. 160
  31. Klebaner 2005, p. 46
  32. Saporta 2006, p. 77
  33. Saporta 2006, p. 80
  34. Ledoux et Talagrand 2002, p. 37
  35. Ledoux et Talagrand 2002, p. 38
  36. Shiryaev 1995, p. 178
  37. Klebaner 2005, p. 139
  38. a, b et c Ledoux et Talagrand 2002, p. 39
  39. Ledoux et Talagrand 2002, p. 40
  40. a, b et c Ruppert 2004, p. 17
  41. Ruppert 2004, p. 25
  42. Ruppert 2004, p. 28
  43. Ruppert 2004, p. 30
  44. a et b Ruppert 2004, p. 26
  45. Ruppert 2004, p. 24
  46. a et b Wackerly, Mendenhall et Schaeffer 2008, p. 463
  47. Shiryaev 1995, p. 182
  48. Shiryaev 1995, p. 294
  49. a, b, c et d Shiryaev 1995, p. 155
  50. Shiryaev 1995, p. 234
  51. a et b Caumel 2011, p. 135
  52. a et b Jedrzejewski 2009, p. 13
  53. Caumel 2011, p. 136
  54. a, b et c Martiano 2006, p. 242
  55. a et b Barbé et Ledoux 2007, p. 47
  56. Martiano 2006, p. 157
  57. Barbé et Ledoux 2007, p. 13
  58. a et b Shiryaev 1995, p. 156
  59. Barbé et Ledoux 2007, p. 31
  60. Barbé et Ledoux 2007, p. 32
  61. Ruegg 1994, p. 52
  62. Saporta 2006, p. 18
  63. a, b, c, d et e Klebaner 2005, p. 36
  64. a, b et c Klebaner 2005, p. 37
  65. Ledoux et Talagrand 2002, p. 22
  66. a et b Bogaert 2006, p. 71
  67. Caumel 2011, p. 80
  68. Shiryaev 1995, p. 158
  69. Bogaert 2006, p. 72
  70. Shiryaev 1995, p. 144
  71. Shiryaev 1995, p. 151
  72. a et b Shiryaev 1995, p. 154
  73. a et b Shiryaev 1995, p. 152
  74. a, b, c et d Klebaner 2005, p. 38
  75. a et b Saporta 2006, p. 55
  76. Shiryaev 1995, p. 282
  77. Saporta 2006, p. 57
  78. Shiryaev 1995, p. 322
  79. a, b, c, d et e Saporta 2006, p. 60
  80. a, b et c Bogaert 2006, p. 88
  81. a et b Barbé et Ledoux 2007, p. 50
  82. Barbé et Ledoux 2007, p. 49
  83. a, b et c Saporta 2006, p. xxviii
  84. a et b Ruegg 1994, p. 37
  85. Jedrzejewski 2009, p. 187
  86. Jedrzejewski 2009, p. 182
  87. Jedrzejewski 2009, p. 188
  88. Jedrzejewski 2009, p. 189
  89. Jedrzejewski 2009, p. 191
  90. Jedrzejewski 2009, p. 215
  91. Henry 2001, p. 194
  92. Bogaert 2006, p. 70
  93. a et b Saporta 2006, p. 340
  94. Saporta 2006, p. 342
Articles
  1. (en) K. V. Mardia, « Characterizations of directional distributions », Statistical Distributions in Scientific Work, vol. 3,‎ 1975, p. 365-385 (lire en ligne)
  2. [PDF] Michel Balazard, Éric Saiar et Marc Yor, « Note sur la fonction zeta de Riemann, 2 », Advances in Mathematics, vol. 143,‎ 1999, p. 284-287 (lire en ligne)
  3. [PDF] Michel Albouy et A. Sinani, « L'efficience des bourses de province françaises », Journal de la société statistique de Paris, vol. 122, no 4,‎ 1981, p. 200-214 (lire en ligne)
  4. [PDF] P. Roger et M.-H. Broihanne, « Les joueurs de loto français choisissent-ils leurs numéros au hasard? », Revue de statistique appliquée, vol. 54, no 3,‎ 2006, p. 83-98 (lire en ligne)
  5. [PDF] E. Courilleau et J. M. Marion, « Comparaison de modèles d'estimation de la fonction de survie appliquée à des données routières. », Revue de statistique appliquée, vol. 47, no 1,‎ 1999, p. 81-97 (lire en ligne)
  6. [PDF] F. Boutros-Toni, « L'analyse séquentielle exhaustive. Application en médecine. », Revue de statistique appliquée, vol. 29, no 4,‎ 1981, p. 31-50 (lire en ligne)
  7. [PDF] J. de Reffye, « Étude phénoménologique des précipitations pluvieuses. Modélisation mathématiques des intensités de pluie en un point du sol. », Revue de statistique appliquée, vol. 30, no 3,‎ 1982, p. 39-63 (lire en ligne)

Voir aussi[modifier | modifier le code]

Bibliographie[modifier | modifier le code]

Articles connexes[modifier | modifier le code]

Cet article est reconnu comme « bon article » depuis sa version du 28 septembre 2012 (comparer avec la version actuelle).
Pour toute information complémentaire, consulter sa page de discussion et le vote l'ayant promu.