MAT2717 – PROCESSUS STOCHASTIQUES

SOLUTIONS DU TP 0

THOMAS DAVIGNON

Problème 0.1. Il y a k + 1 pièces de monnaie dans une boı̂te. Lorsqu’on la

lance, la ième pièce retombe sur pile avec probabilité i/k, i = 0, 1, 2, . . . , k.
On choisit une pièce au hasard dans la boı̂te et on la lance plusieurs fois de
suite. Si les n premiers lancers donnent tous pile, quelle est la probabilité
conditionnelle que le (n + 1)ième lancer tombera sur pile ?
Solution. On définit les événements suivants :
An = {Les n premiers lancers sont pile}
Bn = {Le n + 1 premier lancer est pile}
Ci = {On a choisi la ième pièce}
Évidemment, dans ce contexte, on cherche
k
X
P {Bn | An } = P {Bn | An ∩ Ci } P {Ci | An } .
i=0

Préoccupons-nous d’abord du premier facteur dans la sommation. P {Bn | An ∩ Ci } =

P {Bn ∩ Ci } = i/k En effet, le lancer de la (n + 1)ième pièce de monnaie ne
dépend pas des n précédents, si on sait quelle pièce on a prise. Il nous suffit
maintenant de calculer P {Ci | An }. On emploie la formule de Bayes :
P {An | Ci } P {Ci }
P {Ci | An } = Pk
j=0 P {An | Cj } P {Cj }
(i/k)n (1/(k + 1))
= Pk
n
j=0 (j/k) (1/(k + 1))

On insère ceci dans l’expression plus haut pour obtenir finalement

Pk
(1/(k + 1)) (i/k)n+1
P {Bn | An } = Pi=0
k
(1/(k + 1)) i=0 (i/k)n
Les facteurs 1/(k + 1) s’annulent, bien sûr. Mais en les laissant là, on re-
marque qu’il s’agit de séries de Riemann pour les intégrales de xn+1 et xn au
Date: 11 janvier 2018.
1
2 THOMAS DAVIGNON

dénominateur et au numérateur respectivement, sur l’intervalle [0, 1]. Lorsque

k → ∞, on trouve donc
n+1
P {Bn | An } →k→∞
n+2
Intuitivement, quand il y a beaucoup de pièces de monnaies, plus on a
obtenu de pile de suite, plus on sera confiant que la pièce qu’on a choisie est
une pièce qui tombe souvent sur pile – donc la probabilité que le prochain
lancer soit pile augmentera. Notons aussi le cas n = 0, où l’on se doute
que, lorsqu’il y a un très grand nombre de pièces, et si on n’a toujours effectué
aucun lancer, on aura une chance sur deux de tomber sur pile.
Problème 0.2. Soient E et F deux événements mutuellement exclusifs d’une
expérience (disjoints). Si l’on répète l’expérience souvent, montrer que E se
réalisera avant F avec probabilité P {E} /(P {E} + P {F }).
Solution. Pour résoudre ce problème, on conditionne par l’issue de la première
expérience. Soient les événements suivants :
E1 = { E se produit à la première expérience}
F1 = { F se produit à la première expérience}
H = { E se produit avant F }
On cherche
P {H} = P {H | E1 } P {E1 }+P {H | F1 } P {F1 }+P {H | (E1 ∪ F1 )c } P {(E1 ∪ F1 )c } .
Bien sûr, P {H | E1 } = 1, P {H | F1 } = 0. P {E1 } = P {E} et P {F1 } =
P {F }. Puisque E1 et F1 sont disjoints (E et F sont disjoints), P {E1 ∪ F1 } =
P {E} + P {F } = 1 − P {(E1 ∪ F1 )c }. Il ne reste plus qu’à régler le cas de
P {H | (E1 ∪ F1 )c }. C’est la probabilité que ni E ni F sont réalisés au premier
essai. Mais alors, on peu faire comme si cet essai n’avait jamais eu lieu, en
fait. Si ni E ni F sont réalisés au premier essai, la probabilité de H demeure
la même ! Donc, P {H | (E1 ∪ F1 )c } = P {H}.
Finalement, on a donc
P {H} = P {E} + P {H} (1 − (P {E} + P {F })),
d’où le résultat suit facilement.
On aurait pu également réaliser le résultat encore plus rapidement. En effet,
seul le dernier constat suffit. Si H est indépendant de (E1 ∪ F1 )c , alors H est
indépendant de E1 ∪ F1 – autrement dit, la probabilité de H est égale à la
probabilité de H sachant que E ou F s’est réalisé au premier tour. Mais si
E ou F s’est réalisé au premier tour, la probabilité que ce soit en fait E qui
s’est réalisé est P {E1 | E1 ∪ F1 } = P {E} /(P {E} + P {F }).
 MAT2717 – PROCESSUS STOCHASTIQUES SOLUTIONS DU TP 0 3

Problème 0.3. Soient X1 , . . . , Xn des variables aléatoires i.i.d. continues. On

dit qu’une valeur record est atteinte au temps j, j ≤ n si Xj ≥ Xi pour tout
i ≤ j. Montrer que
(1) L’espérance du nombre de valeurs record est donnée par nj=1 1/j
P

(2) La variance du nombre de valeurs record est donnée par nj=1 (j − 1)/j 2
P

Solution. On notera les événements

Ai = { la valeur Xi est une valeur record }
On définit N = ni=1 1Ai . On est à la recherche de E [N ] = ni=1 P {Ai }.
P P
La probabilité que la ième valeur soit une valeur record est 1/i. Pour le voir,
il suffit de constater que pour que Xi soit une valeur record, il faut que Xi =
max{X1 , . . . , Xi }. Or, puisque les Xi sont i.i.d., les i premières valeurs sont
toutes équiprobablement plus grandes que les autres. Donc, la probabilité que
Xi = max{X1 , . . . , Xi } est égale à 1/i.
On cherche maintenant
" n # n
1Ai 1Aj =
 2 X X
E N =E P {Ai ∩ Aj }
i,j=1 i,j=1

On peut diviser cette somme en deux cas. Si i = j, on a bien sûr P {Ai ∩ Ai } =

P {Ai } = 1/i. Donc,
n
X n X
X n
2
 
E N = (1/i) + 2 P {Ai ∩ Aj }
i=1 i=1 j=i+1

On calcule, si j > i, P {Aj ∩ Ai }. On va utiliser le fait que

X i  
P {Aj } = P Aj ∩ {Xk = max X` }
`≤i
k=1

et, par symmétrie sous les permutations (puisque les Xi sont i.i.d.), tous les
termes doivent être égaux. En particulier, on peut écrire
 
P {Aj } = iP Aj ∩ {Xi = max Xk } = iP {Aj ∩ Ai }
k≤i

Et évidemment, ceci donne

P {Ai ∩ Aj } = 1/ij
On a donc
n n X
n n
!2 n
 2 X X X X
E N = (1/i) + 2 1/ij = E [N ] + (1/i) − (1/i)2
i=1 i=1 j=i+1 i=1 i=1
4 THOMAS DAVIGNON

2
Si l’on se souvient que E [N ]2 = ( ni=1 (1/i)) , on trouve immédiatement que
P

n
X
Var [N ] = E N 2 − E [N ]2 = (i − 1)/i2
 
i=1

Problème 0.4. Soit (Xi )i≥0 une chaı̂ne de Markov. Montrer que
P {Xm = im | Xn = in , Xn−1 = in−1 , . . . , X0 = i0 } = P {Xm = im | Xn = in }
pour tout m ≥ n.
Solution. La définition d’une chaı̂ne de Markov nous donne cette propriété
dans le cas spécial où m = n + 1. Supposons que cela est vrai pour m = n + `,
pour tout ` ≤ k pour un certain entier k ∈ N. On montre que cela est vrai
pour m = n + k + 1. On a que P {Xn+k = in+k | Xn = in , . . . , X0 = i0 } =
P {Xn+k = in+k | Xn = in }. Par la formule de probabilité totale, si S est l’en-
semble des états,
P {Xn+k+1 = in+k+1 | Xn = in , . . . , X0 = i0 }
X
= P {Xn+k+1 = in+k+1 | Xn+k = j, Xn = in , . . . , X0 = i0 } P {Xn+k = j | Xn = in , . . . , X0 = i0 }
j∈S
X
= P {Xn+k+1 = in+k+1 | Xn+k = j} P {Xn+k = in+k | Xn = in }
j∈S

=P {Xn+k+1 = in+k+1 | Xn = in }
La deuxième égalité survient en appliquant la propriété de Markov au premier
facteur, et l’hypothèse d’induction au second facteur. Ainsi, par induction, on
a montré que le résutlat est vrai pour tout k ≥ 1 – donc, on a montré le
résultat pour tout m > n. 
Problème 0.5. Soit Yn une suite i.i.d. de
Pnvariables aléatoires choisies uni-
i
formément dans {−1, 1}. On note Xn = i=1 2 Yi . Montrer que Xn est une
chaı̂ne de Markov non-homogène.
Solution. Les Xn forment une chaı̂ne de Markov. Pour le prouver, il suffit de
constater que Xn+1 −Xn = 2n+1 Yn+1 , et que Yn+1 est entièrement indépendant
de Xn , puisque les Yi sont i.i.d. Autrement dit,
(
1/2 si |i − j| = 2n+1
P {Xn+1 = j | Xn = i, . . . , X0 = 0} =
0 autrement
= P {Xn+1 = j | Xn = i}
Ceci montre, incidemment, que la chaı̂ne de Markov n’est pas homogène.
En effet, P {Xn+1 = j | Xn = i} dépend de n. 
 MAT2717 – PROCESSUS STOCHASTIQUES SOLUTIONS DU TP 0 5

Problème 0.6. Considérons A, B, C, D les sommets du graphe complet à

quatre sommets, et la chaı̂ne de Markov sur ces sommets qui à chaque temps
se déplace vers l’un de ses voisins choisis uniformément.
(1) Trouver la matrice de transition P .
(2) Trouver la loi de X2 sachant que X0 = A.
(3) Trouver la loi de X2 sachant que X0 est choisi uniformément parmi les
4 sommets.
Solution. On étiquetera les colonnes et les lignes de la matrice de transition
P par A, B, C, D, dans l’ordre.
(1) La matrice de transition est donnée par
 
0 1/3 1/3 1/3
1/3 0 1/3 1/3
P = 1/3 1/3 0 1/3

1/3 1/3 1/3 0

(2) On a
 
1/3 2/9 2/9 2/9
 2/9 1/3 2/9 2/9
P2 = 
2/9

2/9 1/3 2/9
2/9 2/9 2/9 1/3
On prend X0 = [1, 0, 0, 0]T . Alors,
    
1/3 2/9 2/9 2/9 1 1/3
 2/9 1/3 2/9 2/9 0 2/9
   
X 2 = P 2 X0 = 
2/9 = 
2/9 1/3 2/9 0 2/9
2/9 2/9 2/9 1/3 0 2/9

(3) On prend X0 = [1/4, 1/4, 1/4, 1/4]T . Alors, Alors,

    
1/3 2/9 2/9 2/9 1/4 1/4
 2/9 1/3 2/9 2/9 1/4 1/4
X2 = P 2 X0 = 
2/9 2/9 1/3
  =  
2/9 1/4 1/4
2/9 2/9 2/9 1/3 1/4 1/4
Ici, la symmétrie du problème rendait le calcul non-nécessaire – il est
évident que si l’on a choisi le point de départ uniformément, étant donné
que l’on fait une marche aléatoire simple sur le graphe complet, la loi
marginale de tous les points subséquents seront aussi distribués uni-
formément.
6 THOMAS DAVIGNON

Problème 0.7. Soit  

1/2 1/2 0
P = 1/4 1/2 1/4
0 1/2 1/2
.Quelle est la probabilité de passer de 0 à 2 ? De 1 à 1 ?
Solution. La probabilité de passer de 0 à 2 est P02 = 0. La probabilité de
passer de 1 à 1 est P11 = 1/2.