V - Estimation
I - Définitions Définition 3 - Biais
Soit T un estimateur de θ. Le biais de T est le réel
Définition 1 - Échantillon bθ (T ) = E [T ] − θ. Si bθ (T ) = 0, l’estimateur T est un estima-
teur sans biais de θ.
Soient n un entier naturel non nul et X une variable aléatoire.
Un n-échantillon de X est un n-uplet (X1 , . . . , Xn ) tel que les va-
riables aléatoires X1 , . . . , Xn soient mutuellement indépendantes Exemple 2 - Calculs de biais
et de même loi que X.
Reprenons l’exemple précédent en notant m = E [X].
n
• Soit T1 = n1
P
Xk . D’après la linéarité de l’espérance,
Définition 2 - Estimateur k=1
Soient X une variable aléatoire suivant une loi de probabilité 1X
n
nm
dépendant d’un paramètre θ variant dans un intervalle I de R et E [T1 ] − m = E [Xk ] − m = − m = 0.
n n
(X1 , . . . , Xn ) un n-échantillon de X. Un estimateur de θ est une k=1
variable aléatoire φ(X1 , . . . , Xn ) où φ est une application de Rn Ainsi, T1 est un estimateur sans biais de m.
n
dans R. 1 P
• Soit T2 = n−1 Xk . D’après la linéarité de l’espérance,
k=1
Exemple 1 - Estimateurs n
1
X nm m
E [T2 ] − m = n−1 E [Xk ] − m = −m= .
• Soit (X1 , . . . , Xn ) un n-échantillon d’une variable aléa- n−1 n(n − 1)
k=1
toire X. Les quantités suivantes sont des estimateurs m
Ainsi, T2 est un estimateur de m de biais n(n−1) .
de E [X] : n
X1 +X2
⋆ T1 = n1
P
Xk . ⋆ T3 = X1 +X
2
2
. • Soit T3 = 2 . D’après la linéarité de l’espérance,
X X
k=1 ⋆ T4 = 2 .
1 2
n E [X1 ] + E [X2 ]
⋆ T2 = n−11 P
Xk . E [T3 ] − m = − m = 0.
2
k=1
Ainsi, T3 est un estimateur sans biais de m.
• Si X ,→ B(p), on peut chercher à estimer p (qui est égal à
• Soit T4 = X12X2 . Les variables aléatoires étant indépen-
son espérance), sa variance σ 2 = p(1 − p),. . .
dantes,
• Si X ,→ P(λ), on peut chercher à estimer λ (qui est égal
à son espérance), la quantité P ([X = 0]) = e−λ ,. . . E [X1 ] E [X2 ] m2 m(m − 2)
E [T4 ] − m = −m= −m= .
• Si X ,→ U (J1, nK), on peut chercher à estimer n : avec les 2 2 2
résultats d’un dé, on peut estimer son nombre de faces. m(m−2)
Ainsi, T4 est un estimateur de m de biais 2 .
Lycée Ozenne 37 A. Camanes
Chapitre V - Estimation D2
Définition 4 - Risque quadratique II - Estimation d’une proportion
Soit T un estimateur de θ. Le risque quadratique de T est défini
par Théorème 1 - Loi faible des grands nombres
Rθ (T ) = E (T − θ)2 .
Soit X une variable aléatoire admettant une moyenne m et une
En particulier, variance σ 2 . Soit (Xi )i∈N une suite de variables aléatoires indé-
Rθ (T ) = bθ (T )2 + V (T ) . pendantes et de même loi que X. Alors,
n
!
Si T est un estimateur sans biais de θ, alors Rθ (T ) = V (T ). 1X
∀ ε > 0, lim P Xk − m ⩾ ε = 0.
n→+∞ n
k=1
Exemple 3 - Calculs de risques quadratiques
Reprenons les exemples précédents, pour les estimateurs sans Définition 6 - Estimateur convergent
biais. On suppose que X admet une variance.
Soit Tn un estimateur de θ. L’estimateur Tn est convergent si
• Comme T1 est un estimateur sans biais de m, alors les
pour tout ε > 0, lim P (|Tn − θ| ⩾ ε) = 0.
variables aléatoires étant indépendantes, n→+∞
n n
!
1X 1 X Théorème 2 - Estimation ponctuelle d’une proportion
Rm (T1 ) = V (T1 ) = V Xk = 2 V (Xk )
n n
k=1 k=1
Soit X une variable aléatoire qui suit une loi de Bernoulli
V (X)
= . de paramètre p. Soit (X1 , . . . , Xn ) un n-échantillon de X
n n
et X n = n1
P
Xi . Alors, X n est un estimateur sans biais et
• Comme T3 est sans biais et X1 et X2 sont indépendantes, i=1
convergent de p.
V (X1 ) + V (X2 ) V (X)
Rm (T3 ) = V (T3 ) = = .
4 2 Exemple 5 - Sondage
Définition 5 - Meilleur estimateur On souhaite connaître la proportion de français favorables à une
réforme donnée. On modélise la réponse d’un individu en considé-
L’estimateur T1 est un meilleur estimateur que T2 si
rant une variable aléatoire X suivant une loi de Bernoulli de pa-
∀ θ ∈ I, Rθ (T1 ) ⩽ Rθ (T2 ). ramètre p. On interroge n français choisis indépendamment dans
la population. On note Xi la réponse donnée par le ie individu
interrogé : 1 si l’individu est favorable et 0 sinon. On suppose que
Exemple 4 - Comparaison d’estimateurs
Xi suit la même loi que X. Pour estimer p, on va donc utiliser la
En reprenant l’exemple précédent, T1 est un meilleur estimateur quantité X1 +···+X
n
n
.
de E [X] que T3 dès que n ⩾ 2.
Lycée Ozenne 38 A. Camanes