Méthode de Monte Carlo
Réduction de la variance
Mohamed Anis BEN LASMAR
AU.2022-2023
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 1 / 23
Plan
1 Objectif
2 Variable Antithétiques
3 Variables de contrôle
4 Échantionnage d’importance
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 2 / 23
Plan
1 Objectif
2 Variable Antithétiques
3 Variables de contrôle
4 Échantionnage d’importance
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 3 / 23
Objectif
Méthode de Monte Carlo
Pour simuler E [f (X )]
On simule N v.a. (Xn )1≤n≤N i.i.d. de même loi que X.
On pose
N
1 X
µ
bN = f (Xi )
N i=1
v
u N
u 1 X
σ
bN = t (f (Xi ) − µ
bN )2 .
N − 1 i=1
Erreur donnée par intervalle de confiance avec niveau de confiance 1 − α
h σ
bN σ
bN i
Iα,n = µ bN − zα √ , µ
bN + zα √ .
n n
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 4 / 23
Objectif
Attention !!!
Donner µ
bN sans intervalle de confiance n’a aucune sens !
Erreur
Pour diminuer la taille de l’IC,
diminuer le niveau de confiance,
augmenter N,
diminuer σ ⇒ réduction de la variance.
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 5 / 23
Plan
1 Objectif
2 Variable Antithétiques
3 Variables de contrôle
4 Échantionnage d’importance
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 6 / 23
Variables antithétiques
But: Calculer θ = E (Y )
On considère deux v.a. Y1 et Y2 de même loi que Y .
E (Y ) = 12 (E (Y1 ) + E (Y2 )) = E ( Y1 +Y
2 ).
2
Var (Y1 )+Var (Y2 )+2Cov (Y1 ,Y2 )
Var ( Y1 +Y
2 )=
2
4 .
Si Y1 et Y2 sont indépendantes, alors
Y1 + Y2 Var (Y )
Var ( )= .
2 2
Var (Y )
Si Cov (Y1 , Y2 ) < 0, alors Var ( Y1 +Y
2 )<
2
2 .
⇒ Comment obtenir Y1 et Y2 de même loi que Y avec cov (Y1 , Y2 ) < 0?
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 7 / 23
Variables antithétiques uniformes
Théorème
On considère la v.a. Y = g (U) avec U ∼ U([0, 1])
Si g est une fonction monotone, alors cov (g (U), g (1 − U)) < 0
Conséquence
Méthode d’inversion:Si f est monotone, alors g = f (FX−1 ) est monotone.
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 8 / 23
Variables antithétiques : Généralisation
La méthode de la variable antithétique a pour objectif de réduire l’erreur
d’estimation en utilisant des symétries du problème. Elle s’applique lorsque
la loi de X présente des propriétés d’invariances (Symétrie ou rotation).
Autrement dit, on suppose qu’il existe une transformation mesurable
A : Rd → Rd telle que A(X ) et X ont même loi.
En particulier, on peut appliquer la méthodes des variables antithétiques
s’il existe a tel que X et a − X aient la même loi.
Exemple
Si U ∼ U([a, b]), alors b + a − U ∼ U([a, b]).
Si X ∼ N (µ, σ 2 ), alors 2µ − X ∼ N (µ, σ 2 ).
Si X suit la loi de Laplace de paramètre λ > 0, alors −X est aussi de
même loi.
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 9 / 23
Plan
1 Objectif
2 Variable Antithétiques
3 Variables de contrôle
4 Échantionnage d’importance
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 10 / 23
Variables de contrôle
But: Calculer θ = E (Y ) = E (f (X ))
Alternative: Ajout d’une variable Z :
facilement simulable,
E (Z ) connue ou facilement calculable.
Calcul de θ:
On pose Wc = Y + c(Z − E (Z )) et on calcule E (Wc ) par Monte
Carlo (c : paramètre constant fixé).
Question: Var (Wc ) < Var (Y )?
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 11 / 23
Variables de contrôle
Calcul de la variance:
Var (Wc ) = Var (Y ) + c 2 × Var (Z ) + 2c × Cov (Y , Z ).
Choix optimal de c: c ∗ = − Cov (Y ,Z )
Var (Z ) ,
Cov (Y ,Z )2
Var (Wc ∗ ) = Var (Y ) − Var (Z ) ,
Var (Wc ) < Var (Y ) ⇔ Cov (Y , Z ) 6= 0,
Z est la variable de contrôle de Y .
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 12 / 23
Variables de contrôle
Algorithme
1 Simuler N v.a. (Yi )1≤i≤N et N v.a. (Zi )1≤i≤N .
2 Poser
N N
1 X 1 X
E[
(Z ) = Zi , \
E (Y ) = Yi ,
N i=1 N i=1
N
1 X
\
Var (Z ) = (Z ))2 ,
(Zj − E[
N − 1 j=1
N
\ 1 X
Cov (Y , Z ) = \
(Yj − E (Y ))(Zj − E[
(Z )),
N − 1 j=1
\
3 Calculer c ∗ = − Cov\
(Y ,Z )
Var (Z )
4 Poser :
N
1 X
θb = (Yi + cb∗ (Zi − E[
(Z ))) ≈ θ.
N i=1
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 13 / 23
Exemple
Énoncé
2
Calculer θ = E (e (U+V ) ) avec U et V de loi uniforme sur [0, 1].
2
Y = e (U+V ) .
Variables de contrôle : Z1 = U + V , Z2 = (U + V )2 ou encore
Z3 = exp(U + V ).
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 14 / 23
Plan
1 Objectif
2 Variable Antithétiques
3 Variables de contrôle
4 Échantionnage d’importance
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 15 / 23
Échantionnage d’importance (préférentiel)
Exemple introductif:
Soit X une v.a. qui suit une loi normale de paramètres 0 et 1. On veut
estimer:
θ = P(X ≤ −10) = 1{X ≤−10}
Monte Carlo classique:
Nombre de tirages N variant de 1000 à 10000000.
Valeur estimée : 0.
Conclusion θ = 0.
Valeur exacte: θ = 7, 6199 × 10−24 .
Nombre de tirages nécessaires de l’ordre de 1025 !!
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 16 / 23
Échantionnage d’importance (préférentiel)
C’est une technique très utilisée pour calculer les probabilités :
θ = P(X ≤ seuil) = R[1X ≤seuil ]
quand l’occurence de X ≤ seuil est très petite.
Exemples
Catastrophes climatiques, aériennes, etc.
Faillites de grosses entreprises, d’états, etc.
Cracks boursiers importants.
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 17 / 23
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 18 / 23
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 19 / 23
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 20 / 23
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 21 / 23
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 22 / 23
Méthode de Monte Carlo
Réduction de la variance
Mohamed Anis BEN LASMAR
AU.2022-2023
M.-A. BEN LASMAR (ESPRIT) Méthodes de Monte Carlo AU.2022-2023 23 / 23