Loi forte des grands nombres

La loi forte des grands nombres est un énoncé mathématique énonçant que la moyenne d'une suite de variables aléatoires converge presque sûrement vers la même constante que l'espérance de la moyenne, sous certaines conditions.



Catégories :

Probabilités - Théorème de mathématiques

Page(s) en rapport avec ce sujet :

  • La loi forte des grands nombres est un cas spécifique du ... et des fois c'est pas indispensable et on ne s'en souvient jamais (right ?... (source : les-mathematiques)

La loi forte des grands nombres est un énoncé mathématique énonçant que la moyenne d'une suite de variables aléatoires converge presque sûrement vers la même constante que l'espérance de la moyenne, sous certaines conditions (sur la dépendance, sur l'homogénéité et sur les moments).

Énoncé général

Le principe de la loi forte des grands nombres est que sous certaines conditions (sur la dépendance, sur l'homogénéité et sur les moments) la moyenne d'une suite de variables aléatoires {Xn} converge presque sûrement vers la même limite (constante) que l'espérance de la moyenne. Surtout, l'adjectif "fort" fait référence à la nature de la convergence établie par ce théorème : il est réservée à un résultat de convergence presque sûre. Par opposition, la loi faible des grands nombres, établie par Bernoulli, est un résultat de convergence en probabilité, uniquement. Soit :

Principe général —  \bar X_n -\bar\mu_n \xrightarrow{p.s.} 0\qquad \qquad \text{ avec }  \bar X_n\equiv nˆ{-1}\sum_{i=1}ˆn X_i\text{ et } \bar \mu_n\equiv \operatorname{E}\left[\bar X_n\right]

Il existe différents théorèmes selon le type d'hypothèses faites sur la suite {Xn}[1] :

Observations indépendantes et semblablement distribuées

Loi forte des grands nombres (Kolmogorov, 1929)  — Si 0}" src="http ://upload. wikimedia. org/math/3/e/0/3e09e9e4ef8d6a9e5467fc211c577ff7. png" /> est une suite de v. a. i. i. d., on a équivalence entre :

(i) \ \mathbb{E}\left(\left| X_1 \right|\right)<+\infty,
(ii) la suite converge presque sûrement.
De plus, si l'une de ces deux conditions équivalentes est remplie, alors la suite converge presque sûrement vers la constante

C'est la première loi forte à avoir été démontrée avec des hypothèses optimales[2]. Pour la démontrer, il fallait définir rigoureusement le concept de convergence presque sûre, ce qui a amené Kolmogorov à considérer les probabilités comme une branche de la théorie de la mesure : saut conceptuel dont Kolmogorov prouvait ainsi l'efficacité. La théorie moderne des probabilités s'est construite à partir du travail fondateur de Kolmogorov sur la loi forte des grands nombres. La loi forte des grands nombres est aussi un ingrédient important dans la démonstration d'autres lois fortes des grands nombres, comme la LFGN pour les processus de renouvellement, ou la LFGN pour les chaînes de Markov. C'est de ce théorème qu'on parle quand on dit "la loi forte des grands nombres", les autres théorèmes n'étant que des lois fortes des grands nombres. Ce théorème est aussi intéressant parce qu'il aboutit à une conclusion plus forte : il établit l'équivalence entre l'intégrabilité de la suite et sa convergence, tandis que les autres théorèmes fournissent uniquement des implications, sans leurs réciproques. Dans le cas où les termes de la somme sont des variables de Bernoulli, la loi forte des grands nombres a été établie par Émile Borel en 1909. D'autres versions de la loi forte des grands nombres ont succédé à la version due à Borel, jusqu'à la version définitive de Kolmogorov.

Observations indépendantes et non-semblablement distribuées

Théorème de Markov — Soit {Xn} une suite de variables aléatoires indépendantes d'espérance finie  \operatorname{E}(X_n)\equiv\mu_n. S'il existe δ > 0 tel que \sum_{n=1}ˆ{\infty} \frac{\operatorname{E}\left(|X_n -\mu_n|ˆ{1+\delta}\right)}{nˆ{1+\delta}} <\infty alors 
\bar X_n -\bar\mu_n \xrightarrow{p.s.} 0

Pour pouvoir relacher l'hypothèse d'équidistribution, on est amené à faire une hypothèse plus forte sur l'intégrabilité.

Observations dépendantes et semblablement distribuées

Théorème ergodique — Soit {Xt} une suite de variables aléatoires stationnaire ergodique avec \operatorname{E}(|X_t|)<\infty et d'espérance semblable finie  \operatorname{E}(X_t)\equiv\mu Alors \bar X_t \xrightarrow{p.s.} \mu

Loi forte des grands nombres de Kolmogorov

La moyenne empirique d'une suite de variables aléatoires indépendantes, semblablement distribuées, et intégrables, converge presque sûrement vers leur moyenne mathématique (ou espérance).

Autres formulations

On note fréquemment :

S_{n}=X_{1}+X_{2}+\cdots+X_{n}.

Ainsi l'énoncé devient

Théorème — Pour une suite 0}" src="http ://upload. wikimedia. org/math/3/e/0/3e09e9e4ef8d6a9e5467fc211c577ff7. png" /> de v. a. i. i. d., on a :

De plus, si l'une de ces deux conditions équivalentes est remplie, on a :

Énoncé courant de la loi forte

L'énoncé ci-dessous est la forme habituelle de la loi forte des grands nombres, et est une conséquence directe (une forme affaiblie) du Théorème donné plus haut :

Théorème — Soit une suite de variables aléatoires indépendantes et de même loi, intégrables. Alors

Remarques

  • ,
  • ,
ou bien toujours, puisque les ont toutes même loi,
  • ,
  • ,
  • .

Démonstration de la loi forte de Kolmogorov

1ère étape de la démonstration : troncature

On suppose dans un premier temps que les variables sont centrées. On n'abandonnera cette hypothèse qu'à la toute dernière étape de la démonstration. On pose


Xˆ{\prime}_{n}
=
X_{n}\,1_{\left|X_{n}\right|\le n},

et


Sˆ{\prime}_{n}
=
Xˆ{\prime}_{1}+Xˆ{\prime}_{2}+\cdots+Xˆ{\prime}_{n}.

Dans cette section on démontre que

Proposition 1.  —  Soit une suite de variables aléatoires indépendantes et de même loi, intégrables. Alors (la loi forte des grands nombres)

est équivalente à

Dans les sections suivantes on va par conséquent démontrer que


\mathbb{P}\left(\omega\in\Omega\ \left|\ \lim_{n}\tfrac{Sˆ{\prime}_{n}(\omega)}n=0\right.\right)
=
1.

L'idée est que plus les variables concernées sont intégrables, i. e. plus la queue de distribution décroît rapidement, plus il est facile de démontrer la loi forte des grands nombres à l'aide du lemme de Borel-Cantelli. Ainsi il est facile de démontrer une forme affaiblie de la loi forte des grands nombres, par exemple sous l'hypothèse que les variables sont i. i. d. bornées, auquel cas est nulle pour assez grand, ou bien sous l'hypothèse, moins brutale, que les variables sont i. i. d. et possèdent un moment d'ordre 4, auquel cas. Ici, en tronquant les, Kolmogorov s'est ramené à des variables bornées et indépendantes, mais qui n'ont pas même loi.

2ème étape de la démonstration : recentrage

Les ont beau être centrées, cela n'entraîne pas que les soient centrées, sauf si on suppose, par exemple, que les sont symétriques, i. e. sauf si a même loi que. A titre d'exemple, si, alors, dès que n'est pas centrée. Il est commode, pour la suite, de centrer les  : on pose

Z_{k}= Xˆ{\prime}_{k}-\mathbb{E}\left[Xˆ{\prime}_{k}\right],

et

C_{n}=Z_{1}+Z_{2}+\cdots+Z_{n}.

Alors

Proposition 2.  —  Soit une suite de variables aléatoires indépendantes et de même loi, intégrables. Alors

est équivalent à

3ème étape : Inégalité de Kolmogorov

C'est l'étape où Kolmogorov utilise l'hypothèse d'indépendance (et, sans le dire, la notion de temps d'arrêt). Par contre, l'Inégalité de Kolmogorov ne requiert pas des variables de même loi.

Inégalité de Kolmogorov.  — Soit une suite de v. a. r. indépendantes et centrées. Posons

W_{n}=Y_{1}+Y_{2}+\cdots+Y_{n}.

Alors, pour tout 0\ " src="http ://upload. wikimedia. org/math/e/6/a/e6aa854e2845a61422025db9d67db7fb. png" />,

<img class=

Voir aussi l'article en anglais sur le même sujet.

4ème étape : Convergence de séries de variables aléatoires

L'inégalité de Kolmogorov est , avec le lemme de Borel-Cantelli, l'ingrédient essentiel de la preuve de la proposition suivante :

Proposition 3.  —  Soit une suite de v. a. r. indépendantes et centrées. Si

\sum_{n\ge 1}\text{Var}\left(U_{n}\right)<+\infty,

alors la suite est convergente, ou bien, équivalemment, la série est convergente.

5ème étape : Lemme de Kronecker

Lemme de Kronecker.  — Soit une suite de nombres strictement positifs, décroissante vers 0. Si est une série convergente, alors

\lim_{n}a_{n}\left(u_{1}+u_{2}+\cdots+u_{n}\right)=0.

Pour conclure sa démonstration, Kolmogorov utilise le lemme de Kronecker avec, voir section suivante.

6ème étape : Conclusion dans le cas de variables centrées

Lemme 1.  —  Avec les notations de l'étape "recentrage", on a

\sum_{k\ge 1}\ \text{Var}\left(\frac{Z_{k}}{k}\right)<+\infty.

Du Lemme 1 et de la Proposition 3, on déduit que, presque sûrement,


\text{la serie }\sum_{n\ge 1}\,\frac{Z_{k}(\omega)}{k}\text{ est convergente,}

puis, grâce au lemme de Kronecker, on déduit que, presque sûrement,

\lim_{n}\ \frac{C_{n}(\omega)}n\ =\ 0,

ce qui est équivalent à la loi forte des grands nombres (pour des variables centrées) , comme on l'a vu aux étapes "troncature" et "recentrage".

7ème étape : décentrage

Si on ne suppose plus les centrées, mais uniquement i. i. d. et intégrables, on pose

\hat{X}_{k}= X_{k}-\mathbb{E}\left[X_{k}\right],\ \ \hat{S}_{n}= \hat{X}_{1}+\hat{X}_{2}+\cdots+\hat{X}_{n},

et, les étant centrées, i. i. d. et intégrables, la conclusion des étapes précédentes est que


\mathbb{P}\left(\omega\in\Omega\ \left|\ \lim_{n}\frac{\hat{S}_{n}(\omega)}n=0\right.\right)
=
1.

Mais


\begin{align}
\frac{\hat{S}_{n}(\omega)}n
&=
\frac{S_{n}(\omega)-n\mathbb{E}\left[X_{1}\right]}n
\\
&=
\frac{S_{n}(\omega)}n\ -\ \mathbb{E}\left[X_{1}\right].
\end{align}

Donc


\mathbb{P}\left(\omega\in\Omega\ \left|\ \lim_{n}\frac{\hat{S}_{n}(\omega)}n=0\right.\right)
=
\mathbb{P}\left(\omega\in\Omega\ \left|\ \lim_{n}\frac{S_{n}(\omega)}n=\mathbb{E}\left[X_{1}\right]\right.\right)
.

C. Q. F. D.

Notes et références

  1. Classification et notation reprise de White (1984).
  2. On doit à Émile Borel une version de la LFGN pour les variables de Bernoulli, dès 1909, dans l'article Les probabilités dénombrables et leurs applications arithmétiques. Rend. Circ. Math. Palermo 27, pp. 247-271.


Voir aussi

Références

Liens externes

Recherche sur Amazon (livres) :



Ce texte est issu de l'encyclopédie Wikipedia. Vous pouvez consulter sa version originale dans cette encyclopédie à l'adresse http://fr.wikipedia.org/wiki/Loi_forte_des_grands_nombres.
Voir la liste des contributeurs.
La version présentée ici à été extraite depuis cette source le 10/03/2010.
Ce texte est disponible sous les termes de la licence de documentation libre GNU (GFDL).
La liste des définitions proposées en tête de page est une sélection parmi les résultats obtenus à l'aide de la commande "define:" de Google.
Cette page fait partie du projet Wikibis.
Accueil Recherche Aller au contenuDébut page
ContactContact ImprimerImprimer liens d'évitement et raccourcis clavierAccessibilité
Aller au menu