Théorème central limite

Le théorème central limite est un résultat sur la convergence en probabilités d'une suite de variables aléatoires. Intuitivement, ce résultat affirme que toute somme de variables aléatoires indépendantes...



Catégories :

Probabilités - Théorème de mathématiques

Page(s) en rapport avec ce sujet :

  • C'est le théorème central limite qui sert à calculer cette précision.... variables indépendantes suit approximativement la loi {\cal N} (0, 1) .... (source : math-info.univ-paris5)
  • On dit fréquemment la loi de Gauss, la loi de Laplace-Gauss, ... s'insère dans la théorie des fonctions de variable complexe (U fonction de 2 variables x et ... Ce théorème est nommé actuellement théorème central limite ou théorème limite... (source : serge.mehl.free)
  • Le théorème central limite s'applique quelque soit la loi de probabilité suivie par les variables aléatoires discrètes ou continues, pourvu que les épreuves... (source : mathsv.univ-lyon1)

Le théorème central limite est un résultat sur la convergence en probabilités d'une suite de variables aléatoires. Intuitivement, ce résultat affirme que toute somme de variables aléatoires indépendantes et semblablement distribuées tend vers une variable aléatoire gaussienne. Il admet plusieurs généralisations qui donnent la convergence de cette somme sous des hypothèses bien plus faibles.

Ces généralisations ne nécessitent pas des lois semblables mais font appel à des conditions qui assurent qu'aucune des variables n'exerce une influence significativement plus importante que les autres. Telles sont la condition de Lindeberg et la condition de Lyapounov. D'autres généralisations autorisent même une dépendance «faible». Qui plus est , une généralisation due à Gnedenko et Kolmogorov stipule que la somme d'un certain nombre de variables aléatoires avec une queue de distribution décroissante selon 1 / | x | α + 1 avec 0 < a < 2 (ayant par conséquent une variance illimitée) tend vers une loi de Lévy tronquée symétrique et stable lorsque le nombre de variables augmente. Cet article se limitera au théorème de la limite centrale concernant les lois à variance finie.

Ainsi, ce théorème et ses généralisations offrent une explication à l'omniprésence de la loi normale dans la nature : de nombreux phénomènes sont dus à l'addition de la plupart de petites perturbations aléatoires.

«Le» théorème de la limite centrale

Soit X_1, X_2, \cdots une suite de variables aléatoires définies sur le même espace de probabilité, suivant la même loi D et indépendantes. Supposons que l'espérance μ et l'écart-type σ de D existent et soient finis (\sigma \neq 0).

Considérons la somme S_n = X_1 + X_2 + \cdots + X_n. Alors l'espérance de Sn est nμ et son écart-type vaut \sigma \sqrt{n}. Qui plus est , pour parler de manière informelle, la loi de Sn tend vers la loi normale  \mathcal{N} (n \mu , n \sigmaˆ2) lorsque n tend vers l'infini.

Pour clarifier cette idée de convergence, nous allons poser

Z_n = \frac{S_n - n \mu}{\sigma \sqrt{n}}.

de sorte que l'espérance et l'écart-type de Zn valent respectivement 0 et 1 : la variable est ainsi dite centrée et réduite.

Alors la loi de Zn converge vers la loi normale centrée réduite  \mathcal{N} (0 , 1) quand n tend vers l'infini (il s'agit de la convergence en loi). Cela veut dire que si Φ est la fonction de répartition de  \mathcal{N} (0 , 1), alors pour tout réel z :

\lim_{n \to \infty} \mbox{P}(Z_n \le z) = \Phi(z),

ou, de façon équivalente :

\lim_{n\to\infty}\mbox{P}\left(\frac{\overline{X}_n-\mu}{\sigma/\sqrt{n}}\leq z\right)=\Phi(z)

\overline{X}_n=S_n/n=(X_1+\cdots+X_n)/n

Démonstration du théorème de la limite centrale

Pour un théorème d'une telle importance en statistiques et en probabilité appliquée, il existe une démonstration spécifiquement simple utilisant les fonctions caractéristiques. Cette démonstration est comparable à celle d'une des lois des grands nombres. Pour une variable aléatoire Y d'espérance 0 et de variance 1, la fonction caractéristique de Y admet le développement limité :

\varphi_Y(t) = 1 - {tˆ2 \over 2} + o(tˆ2), \quad t \rightarrow 0.

Si Yi vaut \frac{X_i - \mu}{\sigma}, il est facile de voir que la moyenne centrée réduite des observations X1, X2, ..., Xn est simplement :

Z_n = \frac{\overline{X}_n-\mu}{\sigma/\sqrt{n}} = \sum_{i=1}ˆn {Y_i \over \sqrt{n}}.

D'après les propriétés élémentaires des fonctions caractéristiques, la fonction caractéristique de Zn est

\left[\varphi_Y\left({t \over \sqrt{n}}\right)\right]ˆn = \left[ 1 - {tˆ2 
\over 2n} + o\left({tˆ2 \over n}\right) \right]ˆn \, \rightarrow \, eˆ{-tˆ2/2} quand n \to +\infty.

Mais cette limite est la fonction caractéristique de la loi normale centrée réduite N (0, 1), d'où on déduit le théorème de la limite centrale grâce au théorème de continuité de Lévy, qui affirme que la convergence des fonctions caractéristiques implique la convergence en loi.

Convergence vers la limite

La convergence de la fonction de répartition de Zn est uniforme, en vertu du deuxième théorème de Dini. Si le moment d'ordre 3, E[ (X − μ) 3] existe et est fini, alors la vitesse de convergence est au moins d'ordre 1/\sqrt{n} (voir le théorème de Berry-Esseen   (en) ).

Images d'une loi lissées par sommation qui montrent la distribution de la loi originale et trois sommations successives (obtenues par convolution)  :

Central limit thm 1.png Central limit thm 2.png Central limit thm 3.png Central limit thm 4.png

Dans les applications pratiques, ce théorème permet surtout de remplacer une somme de variables aléatoires en nombre assez grand mais fini par une approximation normale, le plus souvent plus facile à manipuler. Il est par conséquent intéressant de voir comment la somme s'approche de la limite. Les termes utilisés sont expliqués dans Variable aléatoire.

Une somme de variables continues est une variable continue dont on peut comparer la densité de probabilité à celle de la limite normale.

Theoreme de la limite centrale.png

Avec une somme de variables discrètes, il est quelquefois commode de définir une pseudo-densité de probabilité mais l'outil le plus efficace est la fonction de probabilité représentée par un diagramme en bâtons. On peut constater graphiquement une certaine cohérence entre les deux diagrammes, complexe à interpréter. Dans ce cas, il est plus efficace de comparer les fonctions de répartition.

D'autre part, l'approximation normale est spécifiquement efficace au voisinage des valeurs centrales. Certains disent même qu'en matière de convergence vers la loi normale, l'infini débute fréquemment à six.

La précision se dégrade à mesure qu'on s'éloigne de ces valeurs centrales. C'est spécifiquement vrai pour une somme de variables positives par nature : la loi normale fait toujours apparaître des valeurs négatives avec des probabilités faibles mais non nulles. Même si c'est moins choquant, cela reste vrai en toutes circonstances : tandis que toute grandeur physique est obligatoirement bornée, la loi normale qui couvre un intervalle illimité n'est qu'une approximation utile.

Enfin, pour un nombre donné de termes de la somme, l'approximation normale est d'autant meilleure que la distribution est plus symétrique.

Application à la statistique mathématique

Ce théorème de probabilités possède une interprétation en statistique mathématique. Cette dernière associe une loi de probabilité à une population. Chaque élément extrait de la population est par conséquent reconnu comme une variable aléatoire et , en réunissant un nombre n de ces variables supposées indépendantes, on obtient un échantillon. La somme de ces variables aléatoires divisée par n donne une nouvelle variable appelée la moyenne empirique. Celle-ci, une fois réduite, tend vers une variable normale réduite quand n tend vers l'infini.

Autres formulations du théorème

Densités de probabilité

La densité de probabilité de la somme de plusieurs variables indépendantes s'obtient par convolution de leurs densités (si celles-ci existent). Ainsi on peut interpréter le théorème de la limite centrale comme une formulation des propriétés des densités de probabilité soumises à une convolution : sous les conditions établies auparavant, la convoluée d'un certain nombre de densités de probabilité tend vers la densité normale quand leur nombre croît indéfiniment.

Comme la fonction caractéristique d'une convolution est le produit des fonctions caractéristiques des variables en cause, le théorème de la limite centrale peut se formuler d'une manière différente : sous les conditions précédentes, le produit des fonctions caractéristiques de plusieurs densités de probabilité tend vers la fonction caractéristique de la loi normale quand le nombre de variables croît indéfiniment.

Produits de variables aléatoires

Le théorème de la limite centrale nous dit à quoi il faut s'attendre en matière de sommes de variables aléatoires indépendantes ; mais qu'en est-il des produits ? Eh bien, le logarithme d'un produit (à facteurs strictement positifs) est la somme des logarithmes des facteurs, de sorte que le logarithme d'un produit de variables aléatoires (à valeurs strictement positives) tend vers une loi normale, ce qui entraîne une loi log-normale pour le produit lui-même. Bon nombre de grandeurs physiques (en particulier la masse et la longueur, c'est une question de dimension, ne peuvent être négatives) sont le produit de différents facteurs aléatoires, de sorte qu'elles suivent une loi log-normale. Il en va de même pour le cours en Bourse d'un actif risqué.

Les théorèmes de la limite centrale

Condition de Lyapounov

Soit Xn une séquence de variables définies sur le même espace de probabilité. Supposons que Xn ait une espérance finie μn et un écart-type fini σn. Nous définirons

s_nˆ2 = \sum_{i = 1}ˆn \sigma_iˆ2.

Supposons que les moments centrés d'ordre 3

r_nˆ3 = \sum_{i = 1}ˆn \mbox{E}\left({\left| X_i - \mu_i \right|}ˆ3 \right)

soient finis pour tout n et que

\lim_{n \to \infty} \frac{r_n}{s_n} = 0.

(C'est la condition de Lyapounov).

Considérons de nouveau la somme S_n = X_1 + X_2 + \cdots + X_n. L'espérance mathématique de Sn est

m_n = \sum_{i=1}ˆn \mu_i

et son écart-type sn. Si nous normalisons Sn en posant

Z_n = \frac{S_n - m_n}{s_n}

alors la loi de Zn converge vers la loi normale centrée réduite N (0, 1) comme ci-dessus.

Condition de Lindeberg

Avec les mêmes définitions et les mêmes notations que auparavant, nous pouvons remplacer la condition de Lyapounov par la suivante qui est plus faible (Lindeberg 1920). Pour tout ε > 0

<img class=Zn converge vers la loi normale centrée réduite N (0, 1).

Cas des variables dépendantes

Il existe quelques théorèmes qui traitent le cas de sommes de variables dépendantes, par exemple le théorème de la limite centrale m-dépendante, le théorème de la limite centrale des martingales et le théorème de la limite centrale pour les processus de mélange.

Intérêt de ce théorème

On peut quelquefois lire dans la presse générale que la courbe en cloche représente la loi du hasard, ce qui n'a pas grande signification. Le succès sans égal de la loi de Gauss est la conséquence directe du théorème de la limite centrale et il est renforcé par la commodité relative d'utilisation de cette loi.

En elle-même, la convergence vers la loi normale de nombreuses sommes de variables aléatoires quand leur nombre tend vers l'infini n'intéresse que le mathématicien. Pour le praticien, il est intéressant de s'arrêter légèrement avant la limite : la somme de la plupart de ces variables est presque gaussienne, ce qui apporte une approximation fréquemment plus aisément utilisable que la loi exacte.

En s'éloignant toujours plus de la théorie, on peut dire que bon nombre de phénomènes naturels sont dus à la superposition de causes nombreuses, plus ou moins indépendantes. Il en résulte que la loi normale les représente de manière raisonnablement efficace.

À l'inverse, on peut dire qu'aucun phénomène concret n'est vraiment gaussien car il ne peut dépasser certaines limites, surtout s'il est à valeurs positives.

Liens externes

Recherche sur Amazon (livres) :



Ce texte est issu de l'encyclopédie Wikipedia. Vous pouvez consulter sa version originale dans cette encyclopédie à l'adresse http://fr.wikipedia.org/wiki/Th%C3%A9or%C3%A8me_central_limite.
Voir la liste des contributeurs.
La version présentée ici à été extraite depuis cette source le 10/03/2010.
Ce texte est disponible sous les termes de la licence de documentation libre GNU (GFDL).
La liste des définitions proposées en tête de page est une sélection parmi les résultats obtenus à l'aide de la commande "define:" de Google.
Cette page fait partie du projet Wikibis.
Accueil Recherche Aller au contenuDébut page
ContactContact ImprimerImprimer liens d'évitement et raccourcis clavierAccessibilité
Aller au menu