Densité de probabilité

En théorie des probabilités ou en statistiques, une densité de probabilité est une fonction qui sert à représenter une loi de probabilité sous forme d'intégrales.



Catégories :

Probabilités

Page(s) en rapport avec ce sujet :

  • Remarque : Cette fonction densité de probabilité est une loi de ... et permet d'obtenir les probabilités associées à la variable aléatoire X, en effet :... (source : mathsv.univ-lyon1)
  • MOMENTS ET DENSITE DE PROBABILITE P (V). D'UNE VARIABLE ALEATOIRE "V".... de probabilité à support positif, dont la densité de probabilité est donnée par :... (source : rachid.ababou.free)

En théorie des probabilités ou en statistiques, une densité de probabilité est une fonction qui sert à représenter une loi de probabilité sous forme d'intégrales.

Formellement, une loi de probabilité possède une densité ƒ, si ƒ est une fonction définie sur positive ou nulle et Lebesgue-intégrable, telle que la probabilité de l'intervalle [a, b] soit donnée par

\int_aˆb f(x)\,dx

pour tous nombres a. A titre d'exemple, si la variable X a pour densité de probabilité la fonction ƒ, la probabilité que la variable X soit dans l'intervalle [4, 3, 7, 8] sera

\mathbb{P}(4,3 \leq X \leq 7,8) = \int_{4,3}ˆ{7,8} f(x)\,dx.

Cela implique que l'intégrale de ƒ sur tout \ \mathbb{R}\ donne 1. Réciproquement, pour toute fonction ƒ positive ou nulle et Lebesgue-intégrable, d'intégrale égale à 1 :

\left\{f(x) \geq 0\quad \forall x\right\}\quad \and\quad\left\{ \int_{-\infty}ˆ\infty \,f(x)\,dx = 1\right\},

il existe une loi de probabilité ayant ƒ pour densité de probabilité.

Intuitivement, si une loi de probabilité a pour densité ƒ, alors l'intervalle illimitétésimal [x, x + dx] a pour probabilité ƒ (x) dx.

Informellement, une densité de probabilité peut être vue comme la limite d'un histogramme : si on dispose d'un échantillon suffisamment important de valeurs d'une variable aléatoire à densité, représenté par un histogramme des fréquences relatives des différentes classes de valeurs, alors cet histogramme va ressembler à la densité de probabilité de la variable aléatoire, pourvu que les classes de valeurs soient suffisamment étroites.

Densité de probabilité d'une variable aléatoire réelle

Lien entre la densité, f et la fonction de répartition (haut), et , d'une façon plus générale, les probabilités (bas).

Définition — En théorie des probabilités ou en statistiques, on dit qu'une fonction est une densité de probabilité d'une variable aléatoire réelle si, pour tout réel

\mathbb{P}(X\le x)= \int_{-\infty}ˆ{x}\ f(u)du.

La probabilité se calcule alors par la relation suivante :

\mathbb{P}\left( a < X \le b \right)=\int_aˆb f\left( u \right)\,du.

En traçant la représentation graphique de la densité de probabilité, la probabilité se lit comme l'aire sous la courbe sur l'intervalle

En conséquence, la fonction de répartition de est continue, et pour tout nombre réel En cela, le comportement d'une variable à densité est particulièrement différent de celui d'une variable discrète.

Article détaillé : Loi de probabilité.

Définition informelle de la densité de probabilité

La définition qui suit est une reformulation de la définition intégrale proposée en début d'article. C'est la définition utilisée généralement par les physiciens, surtout ceux issus du domaine de la physique statistique.

Si est un nombre réel positif illimitément petit, alors la probabilité que soit inclus dans l'intervalle est égale à soit :

\mathbb{P}\left(t < X < t+ \mathrm dt \right)= f\left(t\right)\, dt.

Cette «définition» est particulièrement utile pour comprendre intuitivement à quoi correspond une densité de probabilité, et est correcte dans énormément de cas importants. On peut tracer une ressemblance avec la notion de densité de masse, ou encore avec la notion de densité de population. Une formulation plus mathématique serait

\mathbb{P}\left(t < X < t+ h \right)= f\left(t\right)\,h+o(h),

ce qui sert à comprendre en quoi la définition donnée en physique n'est pas totalement rigoureuse :

\mathbb{P}\left(t < X < t+ h \right)= \int_tˆ{t+h}\ f\left(u\right)\,du,

et il est alors facile de vérifier que si possède une limite à droite en, notons-là on a alors

\int_tˆ{t+h}\ f\left(u\right)\,du = f\left(t_+\right)\,h+o(h),

ce qui corrobore la définition physique quand est continue à droite en mais la met en défaut lorsque Bien sûr, les densités de probabilités usuelles sont continues à droite sauf peut-être en un nombre fini (et en un petit nombre) de points.

Notons que ce genre d'interprétation illimitétésimale (ou issue de la physique) couvre aux dimensions voir la section suivante.

Densité de la médiane de 9 variables i. i. d.  :

Soit une suite de 9 v. a. r. i. i. d. de même densité et de même fonction de répartition Notons la médiane de cette suite. Alors :

\mathbb{P}\left(t < M < t+ dt \right)=\mathbb{P}\left(\text{parmi les 9 v r., 4 exactement sont}\le t\text{ et 4 sont}\ge t+dt\right).

On peut voir cela comme une suite de 9 expériences aléatoires indépendantes faites dans les mêmes conditions, avec à chaque fois 3 issues : "", "" et "", de probabilités respectives et par conséquent la probabilité ci dessus est donnée par la loi multinomiale de paramètres 3, 9 et Ainsi :

\mathbb{P}\left(t < M < t+ dt \right)={9\choose 4,1,4}F(t)ˆ4\left(f(t)dt\right)ˆ1\left(1-F(t+dt)\right)ˆ4,

et la densité de est

f_M(t)={9\choose 4,1,4}F(t)ˆ4\left(1-F(t)\right)ˆ4f(t)=630\,F(t)ˆ4\left(1-F(t)\right)ˆ4f(t).

Cette méthode est détaillée dans le livre de David[1]. Un résultat plus général se trouve dans Statistique d'ordre.

Critères d'existence d'une densité

En vertu d'un théorème dû à Lebesgue[2], la fonction de répartition d'une variable aléatoire réelle étant croissante, est dérivable presque partout sur et la dérivée ainsi obtenue est positive et intégrable sur d'intégrale inférieure ou égale à 1.

Critère 1 —  possède une densité de probabilité si et uniquement si l'intégrale de la dérivée de la fonction de répartition est précisément égale à 1. Cette dérivée est alors une des densités de probabilité de

Critère 2 — Si la fonction de répartition de est de classe par morceaux sur et est , d'autre part, continue sur alors la dérivée de la fonction de répartition de est une des densités de probabilité de

Densité de la médiane de 9 variables i. i. d. (bis)  :

Pour le calcul de la densité de la médiane de 9 variables i. i. d., une solution plus rigoureuse que celle de la section précédente, mais plus lourde, est de calculer la fonction de répartition de la médiane, puis de la dériver. On reconnait un schéma de Bernoulli : le nombre d'indices tels que suit une loi binomiale de paramètres 9 et


\begin{align}
\mathbb{P}\left(M\le t\right) &= F_{M}(t) = \mathbb{P}\left(\text{au moins 5 des 9 }X_i\text{ sont }\le t\right) \\
&=\sum_{j=5}ˆ9{9 \choose j}F(t)ˆj(1-F(t))ˆ{9-j}.
\end{align}

En dérivant, on trouve :


\begin{align}
f_{M}(t) & {} ={dF_{M} \over dt}(t)\\
& {} =\sum_{j=5}ˆ9{9 \choose j}\left(jF(t)ˆ{j-1}f(t)(1-F(t))ˆ{9-j}
+F(t)ˆj (9-j)(1-F(t))ˆ{9-j-1}(-f(t))\right)
\end{align}

Après quelques manipulations sur les cœfficients binomiaux, l'ensemble des termes de cette somme se télescopent, sauf une partie du premier terme, ce qui donne :


f_{M}(t) = {9! \over 4!4!} F(t)ˆ{4} (1-F(t))ˆ{4} f(t)\ =\ {9 \choose 4,1,4}F(t)ˆ{4} (1-F(t))ˆ{4} f(t),

puis


\int_{\mathbb R}F(t)ˆ{4} (1-F(t))ˆ{4} f(t)dt
=
\int_{0}ˆ1 xˆ{4} (1-x)ˆ{4}dx
=
\frac{\Gamma(5)ˆ2}{\Gamma(10)}
=
\frac{4!4!}{9!},

donc satisfait le critère 1. CQFD

On pourra consulter le livre de David[1] (pages 8-13) pour plus de détails.

Densité de probabilité d'un vecteur aléatoire

Définition — On nomme densité de probabilité d'une variable aléatoire à valeur dans une fonction telle que pour toute partie borélienne

\mathbb{P}(X\in A)= \int_{\mathbb{R}ˆd}\ 1_A(u)\,f(u)\,du= \int_{A}\ f(u)\,du.

Cette définition est surtout valable pour et est par conséquent équivalente à la première définition, dans le cas spécifique

Théorème —  Soit une variable aléatoire à valeur dans, de densité et soit une fonction borélienne de dans Alors, dès qu'un des deux termes de l'égalite suivante

\mathbb{E}\left[\varphi(X)\right]=\int_{\mathbb{R}ˆd}\ \varphi(u)\,f(u)\,du

a un sens, alors l'autre aussi, et l'égalité a lieu. Réciproquement, si l'égalité ci-dessus a lieu pour tout borélien borné, alors est une densité de

Il existe des variables aléatoires, réelles ou bien à valeurs dans, qui ne possèdent pas de densité de probabilité, par exemple les variables aléatoires discrètes. Les variables aléatoires qui possèdent une densité de probabilité sont nommées quelquefois variables à densité, quelquefois variables continues.

Si une fonction est la densité de probabilité d'une variable aléatoire à valeur dans, cette fonction vérifie les propriétés suivantes

  • est intégrable sur  ;
  • \int_{\mathbb{R}ˆd}f(t)\,dt = 1 ;
  • est presque sûrement positive ou nulle sur.

Réciproquement, si une fonction vérifie les 3 propriétés ci-dessus, on peut construire une variable aléatoire à valeur dans ayant pour densité de probabilité.

Espérance, variance et moments d'une variable aléatoire réelle à densité

Soit une variable aléatoire réelle ayant une densité de probabilité. Selon le théorème de transfert, possède un moment d'ordre si et uniquement si

\int_{-\infty}ˆ{\infty}\ |t|ˆk\,f(t)\,dt <+\infty ;

on a dans ce cas

\mathbb{E}\left[Xˆk\right] = \int_{-\infty}ˆ{\infty}\ tˆk\,f(t)\,dt.

En particulier, quand le moment d'ordre 2 existe :

\mathbb{E}\left[X\right] = \int_{-\infty}ˆ{\infty}\ t\,f(t)\,dt,
\mathbb{E}\left[Xˆ2\right] = \int_{-\infty}ˆ{\infty}\ tˆ2\,f(t)\,dt,

et, selon le théorème de König-Huyghens,

V\left(X\right) = \int_{-\infty}ˆ{\infty}\ tˆ2\,f(t)\,dt-\left(\int_{-\infty}ˆ{\infty}\ t\,f(t)\,dt\right)ˆ2.

Existence

En vertu du théorème de Radon-Nikodym, le vecteur aléatoire possède une densité si et uniquement si, pour chaque borélien de dont la mesure de Lebesgue est nulle, on a

\mathbb{P}\left(Z\in A\right)=0.

Ce critère est rarement employé dans la pratique pour démontrer que possède une densité, mais il est par contre utile pour démontrer que certaines probabilités sont nulles. A titre d'exemple, si le vecteur aléatoire possède une densité, alors

  • \mathbb{P}\left(X=Y\right)=0,
  • \mathbb{P}\left(Xˆ2+Yˆ2=1\right)=0,
  • \mathbb{P}\left(Y=\varphi(X)\right)=0,
  • \mathbb{P}\left(\psi(X,Y)=0\right)=0,

pour des fonctions et suffisamment régulières[3], parce que la mesure de Lebesgue (c'est-à-dire la surface) de la 1re bissectrice (resp. du cercle unité, du graphe de la fonction ou de la courbe d'équation) sont nulles.

Le critère de Radon-Nikodym peut aussi être utilisé pour démontrer qu'un vecteur aléatoire ne possède pas de densité : par exemple, si

Z=\left(\cos \Theta, \sin \Theta\right),

où sert à désigner une variable aléatoire à valeur dans (par exemple, si est tiré au hasard uniformément sur le cercle unité, c'est-à-dire si suit la loi uniforme sur), alors ne possède pas de densité car

\mathbb{P}\left(Xˆ2+Yˆ2=1\right)=1.

Non-unicité de la densité de probabilité

Si et sont deux densités de probabilités de la même variable aléatoire alors et sont identiques presque partout. Réciproquement, si g est presque partout égale à une densité de probabilité de alors g est une densité de probabilité de Ainsi une variable aléatoire à densité possède-t-elle toujours une illimitété de densités de probabilité : par exemple, en perturbant l'une des densités de de manière arbitraire en un nombre fini de points, on obtient toujours une densité de

Densité jointe de plusieurs variables aléatoires réelles

La fonction définie de dans est une densité jointe de la suite de variables aléatoires réelles si est une densité de probabilité du vecteur aléatoire à valeurs dans défini par

Z=\left(Z_1,Z_2,\dots,Z_d\right).

On peut alors calculer la probabilité d'événements concernant les variables aléatoires réelles de la manière suivante :

Exemple :

Si s'écrit où sert à désigner le demi-plan sous la première bissectrice On a alors, par définition de la densité,

\begin{align}
\mathbb{P}(Z_2\le Z_1)
&=
\int_A\,g(z_1,z_2)dz_1\,dz_2,
\\
&=
\int_{\mathbb{R}ˆ2}\,1_A(z_1,z_2)g(z_1,z_2)dz_1\,dz_2,
\\
&=
\int_{\mathbb{R}ˆ2}\,1_{z_2\le z_1}g(z_1,z_2)dz_1\,dz_2.
\end{align}

Si par exemple et sont indépendants et ont même densité de probabilité alors une densité de est, c'est-à-dire une densité de est défini par. En ce cas,

\begin{align}
\mathbb{P}(Z_2\le Z_1)
&=
\int_{\mathbb{R}ˆ2}\,1_{z_2\le z_1}f(z_1)f(z_2)dz_1\,dz_2,
\\
&=
\int_{\mathbb{R}}\,\left(\int_{-\infty}ˆ{z_1}f(z_2)\,dz_2\right)f(z_1)dz_1,
\\
&=
\int_{\mathbb{R}}F(z_1)f(z_1)dz_1
\\
&=
\frac12\left[Fˆ2\right]_{-\infty}ˆ{+\infty}=\frac12.
\end{align}

Si par contre p. s., le vecteur a les mêmes lois marginales (et ont pour densité de probabilité), mais n'a pas la même loi jointe, puisqu'alors Ainsi la donnée des densités marginales de et seules, ne permet pas de calculer la probabilité d'événements faisant intervenir à la fois et comme par exemple l'évènement Pour effectuer le calcul, on utilise généralement la loi jointe de et définie dans le cas ci-dessus par leur densité jointe.

Densité marginale

Soit un vecteur aléatoire à valeurs dans de densité et pour soit et les deux coordonnées de. On notera

\ Z=(X,Y).

Alors

Propriété — Les variables aléatoires réelles et possèdent toutes deux des densités, notons les et, et ces densités sont données par

\begin{align}f_X(x)&= \int_{\mathbb{R}}\ f_Z(x,y)\,dy,\\f_Y(y)&= \int_{\mathbb{R}}\ f_Z(x,y)\,dxnd{align}

Les densités de probabilités et sont nommées les densités marginales de

D'une façon plus générale, si définie de dans est une densité jointe de :

Z=\left(Z_1,Z_2,\dots,Z_d\right),

on peut calculer une densité de (par exemple) de la manière suivante (si par exemple)  :


g(x_2,x_5,x_6)
=
\int_{\mathbb{R}ˆ5}\ f(x_1,x_2,\dots,x_8)\,dx_1dx_3dx_4dx_7dx_8,

c'est-à-dire en intégrant comparé à l'ensemble des coordonnées qui ne figurent pas dans le triplet La fonction est elle aussi nommée «densité marginale» ou «marginale» de Une formulation générale serait lourde. La démonstration générale est calquée sur la démonstration de la propriété ci-dessus.

Densité de la médiane de 9 variables i. i. d. (ter)  :

La densité jointe des 9 statistiques d'ordre[4], notées ici de l'échantillon est donnée par :

g(z)= 9!\ \prod_{i=1}ˆ9 f(z_i)\ 1_{z_1<z_2<z_3<\dots<z_9}.

Par définition des statistiques d'ordre, la médiane est aussi la 5-ème statistique d'ordre, On a donc :

f_M(z_5)=\int_{\mathbb{R}ˆ8}g(z)dz_1dz_2dz_3dz_4dz_6dz_7dz_8dz_9.

Ainsi, de proche en proche,


\begin{align}
\int_{\mathbb{R}}g(z)dz_1
&=
9!\ F(z_2)\ \prod_{i=2}ˆ9 f(z_i)\ 1_{z_2<z_3<\dots<z_9},
\\
\int_{\mathbb{R}ˆ2}g(z)dz_1\,dz_2
&=
\frac{9!}{2!}\ F(z_3)ˆ2\ \prod_{i=3}ˆ9 f(z_i)\ 1_{z_3<\dots<z_9},
\\
\int_{\mathbb{R}ˆ4}g(z)dz_1\,dz_2\,dz_3\,dz_4
&=
\frac{9!}{4!}\ F(z_5)ˆ4\ \prod_{i=5}ˆ9 f(z_i)\ 1_{z_5<\dots<z_9},
\\
\int_{\mathbb{R}ˆ4}g(z)dz_1\,dz_2\,dz_3\,dz_4\,dz_9
&=
\frac{9!}{4!1!}\ F(z_5)ˆ4\ \left(1-F(z_8)\right)\ \prod_{i=5}ˆ8 f(z_i)\ 1_{z_5<\dots<z_8},
\\
f_M(z_5)
&=
\frac{9!}{4!4!}F(z_5)ˆ4\left(1-F(z_5)\right)ˆ4f(z_5).
\end{align}

Indépendance des variables aléatoires à densité

Soit une suite de variables aléatoires réelles définies sur le même espace de probabilité

Théorème — 

  • Si possède une densité de probabilité qui s'écrit sous forme «produit» :
\forall x=(x_1,\dots,x_n)\in\Rˆn,\qquad f(x)\ =\  \prod_{i=1}ˆng_i(x_i),
où les fonctions sont boréliennes et positives ou nulles, alors est une suite de variables indépendantes. Qui plus est , la fonction définie par
f_i(x)\ =\  \frac{g_i(x)}{\int_{\R}g_i(u)du}
est une densité de la composante
  • Réciproquement, si est une suite de variables aléatoires réelles indépendantes de densités de probabilité respectives alors possède une densité de probabilité, et la fonction définie par
\forall (x_1,\dots,x_n)\in\Rˆn,\qquad f(x_1,\dots,x_n)\ =\  \prod_{i=1}ˆnf_i(x_i),
est une densité de probabilité de

Fonction de variables aléatoires à densité

Dans cette section, on considère la question suivante : étant donnée une variable aléatoire de densité et une fonction quelle est la loi de la variable aléatoire Surtout, sous quelles conditions possède-t-elle aussi une densité de probabilité  ? Et comment peut-on la calculer ? Une réponse rapide est que, localement, on doit pouvoir appliquer à la fonction g le théorème d'inversion locale sauf sur un ensemble de points de mesure de Lebesgue nulle). Le calcul de se résume alors à un changement de variable dans une intégrale simple ou multiple, comme cela est illustré dans les quelques exemples ci-dessous.

Somme de variables aléatoires indépendantes

La densité de probabilité de la somme de deux variables aléatoires indépendantes U et V, chacune ayant une densité fU et fV, est donnée par une convolution de ces densités :

 f_{U+V}(x) = \int_{-\infty}ˆ\infty f_U(y) f_V(x - y)\,dy= \left(f_U\ast f_V\right)(x).

Dans cet exemple, et

Pour déterminer la loi de la somme de variables indépendantes, on peut aussi passer par la fonction génératrice des moments ou par la fonction caractéristique d'une variable aléatoire[5]. C'est ainsi qu'est démontré le théorème de la limite centrale.

Fonction d'une variable aléatoire réelle à densité

Notons la densité de la variable aléatoire réelle Il est envisageable de considérer un changement de variable, dépendant de x. La transformation est la suivante : Y = g (X) où la fonction g est strictement monotone et dérivable, de dérivée qui ne s'annule nulle part. La densité fY (y) de la transformée est

Théorème — 
f_Y(y) = \left| \frac{1}{g'(gˆ{-1}(y))} \right| \cdot f_X(gˆ{-1}(y)).

g−1 représente la fonction réciproque de g et g' la dérivée de g.

Pour une transformation g non monotone, la densité de probabilité de Y est

f_Y(y) = \sum_{k}ˆ{n(y)} \left| \frac{1}{g'(gˆ{-1}_{k}(y))} \right| \cdot f_X(gˆ{-1}_{k}(y))

n (y) est le nombre de solutions en x de l'équation g (x) = y, et gˆ{-1}_{k}(y) sont les solutions. La fonction g doit vérifier certaines hypothèses, cependant : principalement on doit pouvoir lui appliquer le théorème d'inversion locale sauf sur un ensemble de points de mesure de Lebesgue nulle. Par exemple un ensemble d'hypothèses peu limitatif mais simple à vérifier serait : g est de classe C1 et la totalité des zéros de la dérivée g' est localement fini. Il s'agit d'exclure entre autres (mais pas uniquement) le cas où g est constante sur un ensemble de mesure non nulle pour la loi de X, cas où g (X) n'a pas une loi à densité, car la loi de g (X) peut alors avoir une partie discrète.

Exemples :
f_Y(y) = \frac{1}{|a|}\ f_X\left(\tfrac{x-b}{a}\right).
En effet, si, par exemple, a est strictement négatif, on obtient, via le changement de variable
\begin{align}
\mathbb{E}[\varphi(Y)] &= \mathbb{E}[\varphi(aX+b)]  = \int_{\mathbb{R}}\varphi(ax+b)f_X(x)dx
\\
&= \int_{+\infty}ˆ{-\infty}\varphi(u)f_X\left(\tfrac{u-b}{a}\right)\ \tfrac{du}{a}
\\
&= \int_{-\infty}ˆ{+\infty}\varphi(u)\ \left(\tfrac{1}{-a}\ f_X\left(\tfrac{u-b}{a}\right)\right)\ du,
\end{align}
ceci pour toute fonction mesurable bornée. CQFD
  • Prenons l'exemple du carré d'une variable aléatoire ; on sait que, si
<img class=
    • si alors
FY (y) = 0.
En dérivant, on trouve à nouveau
<img class=Contre-exemple :

Prenons X uniforme sur [0, 2] et Alors

P_Y(dy) = \tfrac12\ 1_{[0,1]}(y)\ dy\ +\  \tfrac12\ \delta_{1}(dy).

C'est à dire, la loi de Y a une partie à densité, mais également un atome en 1.

Notes et références

  1. Herbert Aron David, Order Statistics [détail des éditions], pages 8-13
  2. E. Hewitt & K. Stromberg, Real and Abstract Analysis [détail des éditions], Théorème 17.12, p. 264 et Théorème 18.16, p. 285.
  3. en effet il faut éviter des phénomènes de type "Courbe de Peano".
  4. Herbert Aron David, Order Statistics [détail des éditions], Ch. 1.
  5. que ces variables aléatoires ait une densité de probabilité, ou qu'elles n'en aient pas. Notons que, si une variable aléatoire possède une densité de probabilité, alors sa fonction caractéristique est la transformée de Fourier de cette densité.

Voir aussi

Recherche sur Amazon (livres) :



Ce texte est issu de l'encyclopédie Wikipedia. Vous pouvez consulter sa version originale dans cette encyclopédie à l'adresse http://fr.wikipedia.org/wiki/Densit%C3%A9_de_probabilit%C3%A9.
Voir la liste des contributeurs.
La version présentée ici à été extraite depuis cette source le 10/03/2010.
Ce texte est disponible sous les termes de la licence de documentation libre GNU (GFDL).
La liste des définitions proposées en tête de page est une sélection parmi les résultats obtenus à l'aide de la commande "define:" de Google.
Cette page fait partie du projet Wikibis.