ECG2 - Maths approfondies Lycée Louis Pergaud

TD19
Estimation ponctuelle

Exercice 19.1 (F)

Soient X1 , . . . , Xn des variables aléatoires i.i.d. telles que :

P (X1 = −1) = (1 − p)2 , P (X1 = 0) = 2p(1 − p), P (X1 = 1) = p2 .

n
1 + Xk
On cherche à estimer p ∈]0, 1[. Montrer que Zn = est un estimateur sans biais
X

k=1 2n
convergent de p.

Exercice 19.2 (FF)

Soit T une variable aléatoire qui suit la loi normale centrée et de variance σ 2 inconnue, σ > 0.
Pour tout entier n ≥ 2, on dispose d’un n-échantillon i.i.d. (T1 , T2 , . . . , Tn ) de la loi de T .
1X n
On considère la variable aléatoire Sn définie par Sn = Ti2 .
n i=1
Montrer que Sn est un estimateur sans biais et convergent du paramètre σ 2 .

Exercice 19.3 (FF)

Soit (Xn )n≥1 une suite de variables aléatoires indépendantes suivant la loi exponentielle de
n
paramètre λ > 0. On pose Sn = Xi .
X

i=1

1. Déterminer une densité de Sn .

1
2. Calculer l’espérance de . En déduire un estimateur sans biais de λ.
Sn

Exercice 19.4 (FF - Variance empirique - )

On suppose que la loi mère d’un échantillon (X1 , . . . , Xn ) possède une espérance m et une
variance σ 2 > 0.

1. On suppose dans cette question que m connu, et on pose :

v
u1 X
n
u
Tn = t (Xk − m)2 .
n k=1

Montrer que Tn2 est un estimateur sans biais de σ 2 .

2. On suppose maintenant que m est inconnu et on pose :

v
u1 X
n
u
Sn = t (Xk − Xn ) 2 .
n k=1

1 Xn
!
2
(a) Montrer que Sn =
2
Xk2 − Xn .
n k=1

1
ECG2 - Maths approfondies Lycée Louis Pergaud

(b) Sn2 est-il un estimateur sans biais de σ 2 ?

(c) Donner un estimateur sans biais de σ 2 .

3. On suppose enfin que la loi mère admet un moment d’ordre 4.

(a) En utilisant les théorèmes opératoires sur la convergence en probabilité, montrer que
Tn2 et Sn2 sont des estimateurs convergents de σ 2 .
(b) Conclure que Tn et Sn sont des estimateurs convergents de σ.

Exercice 19.5 (FF)

On dispose d’un n-échantillon (X1 , X2 , . . . , Xn ) de variables aléatoires indépendantes suivant
la loi de Poisson de paramètre λ avec λ inconnu.
On cherche à estimer la probabilité e−qλ de n’observer que des 0 au cours de q expériences
consécutives.
On pose Tn = e−qXn .
Tn est-il un estimateur sans biais de e−qλ ? Que dire lorsque n est grand ? Tn est-il convergent ?

Exercice 19.6 (FF)

On effectue un sondage pour estimer le résultat d’une élection. Notons pour cela q la proportion
d’individus déclarant vouloir voter pour le candidat A, 1 − q la proportion d’individus déclarant
vouloir voter pour le candidat B.

1. Quel estimateur de q souhaiteriez vous utiliser ? Justifier votre choix.

2. On estime que 5 personnes interrogées sur 6 répondent honnêtement au sondeur, une

personne sur 6 disant le contraire de ce qu’elle pense vraiment. On note p la proportion
d’individus votant effectivement pour A, et 1 − p celle votant pour B.

(a) Exprimer la probabilité q qu’une personne réponde « Candidat A » au sondeur en

fonction de p.
(b) Déterminer un estimateur convergent de p.

Exercice 19.7 (FF - Risque quadratique - )

Soit Tn un estimateur de g(θ). On suppose que pour tout θ ∈ Θ, Tn admet un moment d’ordre
2 pour la probabilité Pθ .
Pour tout θ ∈ Θ, on appelle risque quadratique de Tn (en g(θ)) et on note rθ (Tn ) le réel :
h 2 i
rθ (Tn ) = Eθ Tn − g(θ) .

Il représente la « dispersion moyenne » de Tn par rapport à g(θ).

1. Montrer que rθ (Tn ) = [Eθ (Tn ) − g(θ)]2 + Vθ (Tn ).

2. On suppose que pour tout θ ∈ Θ, lim rθ (Tn ) = 0. Montrer que Tn est un estimateur
n→+∞
convergent de g(θ).

3. Soient Tn et Un deux estimateurs de g(θ) tels que rθ (Tn ) < rθ (Un ) pour tout θ ∈ Θ.
Lequel de ces deux estimateurs doit-on privilégier ? Pourquoi ?

2
ECG2 - Maths approfondies Lycée Louis Pergaud

4. (a) Exemple 1. Soit (Xn )n≥1 une suite de variables aléatoires indépendantes suivant
la loi exponentielle E(λ). On pose :

1X n
1 X n
Xn = Xi et Tn = Xi .
n i=1 n + 1 i=1

1
Comparer Xn et Tn en tant qu’estimateurs de
.
λ
(b) Exemple 2. On cherche à estimer le paramètre p d’une loi de Bernoulli. Soit
n
(X1 , . . . , Xn ) un n-échantillon de loi mère B(p), et notons Sn = Xi . On pose :
X

i=1

Sn Sn + 1
Xn = et Tn = .
n n+2
Comparer Xn et Tn en tant qu’estimateurs de p (on étudiera les cas où p est proche
de 1 et de 21 ). Peut-on privilégier l’un de ces estimateurs par rapport à l’autre ?

Exercice 19.8 (FF)

Soit θ un réel strictement positif, et soit (Xk )k∈N∗ une suite de variables i.i.d. suivant la loi
1X n
uniforme sur [0, 2θ]. On pose Mn = max(X1 , . . . , Xn ) et Xn = Xi .
n i=1
1. Déterminer la loi de Mn , calculer son espérance et sa variance.
n+1
2. En déduire que Un = Mn est un estimateur sans biais de θ.
2n
3. De Xn et Un , lequel est un meilleur estimateur de θ ?

Exercice 19.9 (FF)

Soit θ un réel strictement positif, et soit fθ la fonction définie sur R par :

0 si t ≤ θ
fθ (t) =
e−(t−θ) si t > θ

1. Montrer que fθ est une densité de probabilité.

2. Soit X une variable aléatoire dont la densité est fθ . Reconnaître la loi de X − θ et en

déduire FX , E(X) et V (X).

3. Dans toute la suite, (Xn )n≥1 est une suite de variables aléatoires indépendantes sur (Ω, A),
de densité fθ . Pour tout n ≥ 1, on pose
X1 + · · · + Xn
Xn = et Yn = min(X1 , . . . , Xn ).
n
(a) À partir de Xn , construire un estimateur Tn sans biais et convergent de θ.
(b) i. Reconnaitre la loi de Zn = Yn − θ.
ii. Yn est-il un estimateur sans biais de θ ?
iii. Construire à partir de Yn un estimateur Un sans biais et convergent de θ.

3
ECG2 - Maths approfondies Lycée Louis Pergaud

(c) Comparer les estimateurs Tn et Un .

Exercice 19.10 (FF - Estimation du paramètre d’une loi de Poisson)

1. On considère que le nombre de poissons capturés lors d’une journée de pêche dans un lac
suit une loi de Poisson de paramètre θ > 0 que l’on cherche à évaluer.
En nombre de prises, le palmarès de 15 journées est le suivant :

1, 6, 4, 2, 3, 5, 2, 7, 5, 3, 1, 4, 5, 3, 6.

(a) Proposer un modèle statistique adapté à cette expérience.

(b) Proposer deux estimateurs sans biais de θ.
(c) À combien évaluez-vous le nombre moyen de poissons pêchés au cours d’une journée ?

2. On souhaite juger de la pertinence de la moyenne empirique et de la variance empirique

(non biaisée) en tant qu’estimateurs du paramètre θ d’une loi de Poisson. Fixons pour
cela theta = 4 et n = 15 pour commencer.

(a) Créer un n-échantillon de la loi P(4) à l’aide de Python, et calculer les estimations
obtenues de θ à l’aide de la moyenne empirique et de la variance empirique (non
biaisée).
(b) On répète cette procédure pour 1000 échantillons de taille n = 15. Écrire un pro-
gramme qui :
• simule 1000 n-échantillons i.i.d de la loi P(λ),
• calcule, pour chaque échantillon observé, l’estimation correspondante pour la
moyenne empirique et pour la variance empirique (non biaisée),
• trace l’histogramme des fréquences pour les 1000 estimations obtenues avec cha-
cun des estimateurs (on pourra utiliser les commandes plt.subplot(1,2,1) et
plt.subplot(1,2,2) pour tracer les histogrammes sur la même fenêtre graphique
l’un à côté de l’autre).
Comparer les deux histogrammes. Quel semble être le meilleur estimateur ?
(c) Recommencer pour d’autres valeurs de θ et de n. Que constate-t-on en particulier
lorsque n devient grand ?

Exercice 19.11 (FF - Estimateur du maximum de vraisemblance - ESSEC ECE 2007 - )

1. Pour a > 0, montrer que la fonction :

0 si t ≤ 1


fa : t 7→ a
 si t > 1
ta+1
est une densité de probabilité.
Dans la suite de cet exercice, on considère un n-échantillon (X1 , . . . , Xn ) i.i.d. de loi à densité
fa , où a > 0 est un paramètre inconnu.

2. On définit la fonction de vraisemblance

n
L : (x1 , . . . , xn , a) ∈ R ×
n
R∗+ 7→ L(x1 , . . . , xn , a) = fa (xk ).
Y

k=1

4
ECG2 - Maths approfondies Lycée Louis Pergaud

(a) Expliciter, pour (x1 , . . . , xn , a) ∈ Rn × R∗+ , la valeur de L(x1 , . . . , xn , a).

(b) Pour (x1 , . . . , xn ) ∈]1, +∞[n donné, étudier les variations de la fonction h : a 7→
L(x1 , . . . , xn , a) et montrer qu’elle atteint un maximum en un point â. On pourra
considérer la fonction g : a 7→ ln(h(a)).

Puisque â dépend de x1 , . . . , xn , il existe une fonction ϕ :]1, +∞[n 7→ R telle que â = ϕ(x1 , . . . , xn ).
On considère alors la variable aléatoire Tn = ϕ(X1 , . . . , Xn ), appelée estimateur du maximum
de vraisemblance de a.
3. (a) Pour k ∈ J1, nK, montrer que la variable aléatoire Yk = ln(Xk ) suit une loi exponen-
tielle.
(b) En déduire une densité de Sn = aY1 + · · · + aYn .
(c) Calculer E(Tn ) et V (Tn ).
(d) En déduire que Tn est un estimateur convergent de a.

Exercice 19.12 (FF - Estimation des paramètres d’une loi binomiale)

Soient (Xk )k∈N∗ une suite de variables aléatoires mutuellement indépendantes, suivant la loi
binomiale B(N, p), où N et p sont inconnus. On cherche donc à estimer le paramètre θ =
(N, p) ∈ N∗ ×]0, 1[.
1. Pour tout n ∈ N∗ , on pose Mn = max(X1 , . . . , Xn ).

(a) Calculer P (Mn < N ).

(b) Montrer que si ε > 0, alors P (|Mn − N | > ε) ≤ P (Mn < N ).
(c) En déduire que Mn est un estimateur convergent de N .
X1 + · · · + Xn
2. On pose à présent Xn = . Montrer que Xn est un estimateur convergent
n
de N p.
Xn
3. Montrer que est un estimateur convergent de p.
Mn

Exercice 19.13 (FFF - Estimation du paramètre d’une loi de Poisson)

Soit n ≥ 2 et (X1 , . . . , Xn ) un échantillon de la loi de Poisson de paramètre θ inconnu (où
θ ∈]0, +∞[). On considère les variables :

1X n n
1
 Sn
Un = ; Sn = ; Tn = 1 −
X
1[Xi =0] Xi .
n i=1 i=1 n

1. Préciser la loi de Sn .

2. Montrer que Un et Tn sont des estimateurs sans biais de e−θ .

3. Déterminer Vθ (Un ).

4. Montrer que : Vθ (Tn ) = exp(−2θ) (exp(θ/n) − 1) .

5. (a) Justifier que la fonction exponentielle est convexe. En déduire que :

1 1
 
eθ/n
≤ 1− + eθ .
n n

5
ECG2 - Maths approfondies Lycée Louis Pergaud

(b) Comparer les estimateurs Tn et Un de e−θ .

Exercice 19.14 (FFF - Oral ESCP 2012)

On cherche à évaluer le nombre N de lions d’Asie, espèce en voie de disparition, encore en vie
dans la forêt de Gir. Pour cela, on capture d’abord en une seule fois m lions (m ∈ N∗ ), que l’on
tatoue avant de les relacher dans la nature, et on admet que pendant toute la durée de l’étude,
il n’y a ni naissance ni décès, puis l’on utilise l’une des deux méthodes suivantes.
1. Méthode 1. On capture successivement au hasard (donc avec équiprobabilité) et avec
remise en liberté après observation du sujet, n lions. Soit Yn le nombre de lions tatoués
parmi eux.
1
(a) Déterminer la loi de Yn . En déduire que Yn est un estimateur sans biais et
nm
1
convergent de .
N
nm
(b) Pourquoi ne peut-on pas prendre comme estimateur de N ?
Yn
m(n + 1)
(c) On pose Bn = . Calculer l’espérence de Bn . Que dire de Bn comme
Yn + 1
estimateur de N lorsque n est grand ?

2. Méthode 2. On se donne n ∈ N∗ . On capture également, un par un, et avec remise en

liberté après observation du sujet, n lions de Gir.
On note Xn la variable aléatoire égale au nombre de lions qu’il a été juste nécessaire de
capturer pour en obtenir n tatoués.
On pose D1 = X1 , et pour tout i ∈ J2, nK, Di = Xi − Xi−1 . On admet que les Di sont
mutuellement indépendantes.

(a) Pour tout i ∈ J2, nK, que représente concrètement Di ?

(b) Déterminer, pour tout i ∈ J2, nK, la loi de Di , son espérance et sa variance. En
déduire l’espérance et la variance de Xn .
m
(c) On pose An = Xn . Montrer que An est un estimateur sans biais et convergent de
n
N.

Exercice 19.15 (FFF - QSP HEC 2018)

Soit (Xn )n∈N∗ une suite de variables aléatoires indépendantes, suivant chacune la loi uniforme
U ([−θ, θ]), où θ désigne un paramètre réel strictement positif inconnu.
Pour tout n ∈ N∗ , on note Un = min(X1 , . . . , Xn ) et Vn = max(X1 , . . . , Xn ).

1. Démontrer que (Vn )n∈N∗ est une suite convergente d’estimateurs de θ.

1
2. Pour tout n ∈ N∗ , on note Tn = sup {Xj − Xi , (i, j) ∈ J1, nK2 }.
2
(a) Exprimer Tn en fonction de Un et Vn .
(b) En déduire que (Tn )n∈N∗ est une suite convergente d’estimateurs de θ.