Variance et fonction d’autocovariance d’un modèle AR(p) stationnaire

Jaouad Madkour
2 avril 2024

1 Théorie
On considère le modèle autorégressif d’ordre p suivant :
yt = θ + α1 yt−1 + α2 yt−2 + · · · + αp yt−p + εt , εt ∼ W N (0, σε2 ) (1)
L’espérance mathématique de yt s’obtient comme suit :
E(yt ) = E(θ + α1 yt−1 + α2 yt−2 + · · · + αp yt−p + εt ) (2)
= θ + α1 E(yt−1 ) + α2 E(yt−2 ) + · · · + αp E(yt−p ) + E(εt ) (3)
Sous l’hypothèse de stationnarité de yt , on pose :
E(yt ) = E(yt−1 ) = E(yt−2 ) = · · · = E(yt−p ) = µ
En remplaçant dans (3), et sachant que E(εt ) = 0, on obtient :
µ = θ + α1 µ + α2 µ + · · · + αp µ + 0
d’où :
θ
µ= (4)
1 − α1 − α2 − · · · − αp
Notons que si θ = 0, l’espérance mathématique ci-dessus s’annule. Le modèle est dans ce cas centré.
La fonction d’autocovariance de yt , notée γk , s’écrit :
γk = cov(yt , yt−k ) = E(yt yt−k ) − E(yt )E(yt−k ) (5)
Afin de simplifier le calcul de la fonction d’autocovariance, on considère la version centrée de yt . Dans ce cas :
γk = cov(yt , yt−k ) = E(yt yt−k ) (6)
La version centrée de yt s’ontient en éliminant simplement la constante θ, c’est à dire :
yt = α1 yt−1 + α2 yt−2 + · · · + αp yt−p + εt (7)
En multipliant les deux membres de l’équation (7) par yt−k , on obtient :
yt yt−k = α1 yt−1 yt−k + α2 yt−2 yt−k + · · · + αp yt−p yt−k + εt yt−k (8)
Appliquons l’espérance mathématique aux deux membres de (8), on obtient :
E(yt yt−k ) = E(α1 yt−1 yt−k + α2 yt−2 yt−k + · · · + αp yt−p yt−k + εt yt−k )
= α1 E(yt−1 yt−k ) + α2 E(yt−2 yt−k ) + · · · + αp E(yt−p yt−k ) + E(εt yt−k )
ou encore, en notant γk = E(yt yt−k ) , ∀k = 0, 1, 2, · · · :
γk = α1 γk−1 + α2 γk−2 + · · · + αp γk−p + E(εt yt−k )
ou de manière plus explicite en notant que γk = γ−k dans le cas présent d’un modèle stationnaire :
γ0 = α1 γ1 + α2 γ2 + · · · + αp γp + E(εt yt ) (9)
γ1 = α1 γ0 + α2 γ1 + · · · + αp γp−1 + E(εt yt−1 ) (10)
γ2 = α1 γ1 + α2 γ0 + · · · + αp γp−2 + E(εt yt−2 ) (11)
γ3 = α1 γ2 + α2 γ1 + · · · + αp γp−3 + E(εt yt−3 ) (12)
γ4 = α1 γ3 + α2 γ2 + · · · + αp γp−4 + E(εt yt−4 ) (13)
..
.

1
Les processus εt et yt étant centrés, l’espérance de leurs produits E(yt yt−k ) exprime des covariances cov(yt , yt−k ),
celles-ci mesurent en quelque sorte l’impact du processus qui se produit le premier sur le processus qui se produit
le dernier. Or, comme εt est un choc présent, il n’a d’effet que sur les valeurs présentes et futures de yt mais
pas ses valeurs passées. Ainsi :
E(εt yt−1 ) = cov(εt , yt−1 ) = 0
E(εt yt−2 ) = cov(εt , yt−2 ) = 0
E(εt yt−3 ) = cov(εt , yt−3 ) = 0
E(εt yt−4 ) = cov(εt , yt−4 ) = 0
..
.
Il reste à déterminer le terme E(εt yt ). Reprenons la version centrée de yt et multiplions les deux membres
de l’équation (7) par εt . On obtient :
εt yt = α1 εt yt−1 + α2 εt yt−2 + · · · + αp εt yt−p + εt εt (14)
Appliquons ensuite l’espérance mathématique aux deux membres de l’équation (14) :
E(εt yt ) = α1 E(εt yt−1 ) + α2 E(εt yt−2 ) + · · · + αp E(εt yt−p ) + E(εt εt ) (15)
Ou encore :
E(εt yt ) = α1 cov(εt , yt−1 ) + α2 cov(εt , yt−2 ) + · · · + αp cov(εt , yt−p ) + cov(εt , εt )
= α1 × 0 + α2 × 0 + · · · + αp × 0 + V (εt )
= σε2
Les équations (9), (10), (11), (12) et (13) deviennent :
γ0 = α1 γ1 + α2 γ2 + · · · + αp γp + σε2 (16)
γ1 = α1 γ0 + α2 γ1 + · · · + αp γp−1 (17)
γ2 = α1 γ1 + α2 γ0 + · · · + αp γp−2 (18)
γ3 = α1 γ2 + α2 γ1 + · · · + αp γp−3 (19)
γ4 = α1 γ3 + α2 γ2 + · · · + αp γp−4 (20)
..
.
En divisant les équations (17), (18), (19) et (20) par la variance γ0 , on obtient les équations de Yule-Walker :

ρ1 = α1 ρ0 + α2 ρ1 + · · · + αp ρp−1
ρ2 = α1 ρ1 + α2 ρ0 + · · · + αp ρp−2
ρ3 = α1 ρ2 + α2 ρ1 + · · · + αp ρp−3
ρ4 = α1 ρ3 + α2 ρ2 + · · · + αp ρp−4
..
.
avec :
ρ1 = γ1 /γ0
ρ2 = γ2 /γ0
ρ3 = γ3 /γ0
ρ4 = γ4 /γ0
..
.
ou encore, en sachant que ρ0 = 1 :
ρ1 = α1 + α2 ρ1 + · · · + αp ρp−1
ρ2 = α1 ρ1 + α2 + · · · + αp ρp−2
ρ3 = α1 ρ2 + α2 ρ1 + · · · + αp ρp−3
ρ4 = α1 ρ3 + α2 ρ2 + · · · + αp ρp−4
..
.

2
La résolution récursive de ces équations permet d’obtenir successivement les valeurs de ρ1 , ρ2 , ρ3 , ρ4 , · · · .
L’équation (16) est ensuite divisée par γ0 , elle devient :

σε2
1 = α1 ρ1 + α2 ρ2 + · · · + αp ρp +
γ0
La variance γ0 s’obtient aisément en remplaçant ρ1 , ρ2 , · · · , ρp et σε2 par leurs valeurs respectives comme suit :

σε2
γ0 =
1 − α1 ρ1 − α2 ρ2 − · · · − αp ρp

Les valeurs de la fonction d’autocovariance γk , ∀k > 0 s’obtiennent selon la formule γk = ρk γ0 , en utilisant les
valeurs précédemment calculées de ρk , ∀k > et de γ0 , comme suit :

γ1 = ρ1 γ0
γ2 = ρ2 γ0
γ3 = ρ3 γ0
γ4 = ρ4 γ0
..
.

2 Exemple
On considère le processus stochastique yt décrit par le modèle autorégressif d’ordre 2 suivant :

yt = 2 + 0.1yt−1 + 0.2yt−2 + εt , εt ∼ W N (0, 4) (21)

2.1 Étude de la stationnarité du processus stochastique yt

L’étude de la stationnarité du processus yt commence par la réécriture du modèle (21) sous sa forme poly-
nomiale et la résolution de l’équation caractéristique α(z) = 0 associée à son polynôme retard α(L) :

yt = 2 + 0.1yt−1 + 0.2yt−2 + εt
yt = 2 + 0.1Lyt + 0.2L2 yt + εt
yt − 0.1Lyt − 0.2L2 yt = 2 + εt
(1 − 0.1L − 0.2L2 )yt = 2 + εt
α(L)yt = 2 + εt

avec α(L) = 1 − 0.1L − 0.2L2 . Ainsi, l’équation caractéristique associée au polynôme retard est :

1 − 0.1z − 0.2z 2 = 0

ou encore, en multipliant les deux membres par -10 :

2z 2 + z − 10 = 0

Il s’agit d’une équation du second degré à une seule inconnue z. Calculons le discriminant ∆ :

∆ = 1 − 4 × 2 × (−10) = 81 > 0

Le discriminant étant strictement supérieur à 0, l’équation caractéristique α(z) = 0 admet les deux racines
réelles suivantes :
√ √
−1 − 81 −1 + 81
z1 = = −2.5 z2 = =2
2×2 2×2
Les deux racines de l’équation caractéristique étant strictement supérieures à 1 en valeurs absolues, on conclut
que le processus stochastique yt est stationnaire. On peut en conséquence calculer ses propriétés statistiques.

3
2.2 Propriétés statistiques du processus stochastique yt
2.2.1 Espérance mathématique du processus yt
Appliquons l’espérance mathématique aux deux membres de l’équation (21). On obtient :

E(yt ) = E(2 + 0.1yt−1 + 0.2yt−2 + εt ) (22)

= 2 + 0.1E(yt−1 ) + 0.2E(yt−2 ) + E(εt ) (23)

Le processus yt étant stationnaire, on pose E(yt ) = E(yt−1 ) = E(yt−2 ) = µ. Et sachant que E(εt ) = 0,
l’équation (23) devient :

µ = 2 + 0.1µ + 0.2µ + 0
µ − 0.1µ − 0.2µ = 2
µ(1 − 0.1 − 0.2) = 2

Il en résulte que l’espérance mathématique de yt est égale à :

2
µ= ≈ 2.857 (24)
1 − 0.1 − 0.2

2.2.2 Variance et fonction d’autocovariance du processus yt

Afin de simplifier le calcul de la fonction d’autocovariance cov(yt , yt−k ), ∀k = 0, 1, 2, · · · , on considère la
version centrée de yt obtenue en éliminant la constante 2 de son expression initiale (21) :

yt = 0.1yt−1 + 0.2yt−2 + εt , εt ∼ W N (0, σε2 ) (25)

Comme yt , dans sa version centrée, est d’espérance nulle, la fonction d’autocovariance se réduit à l’espérance
mathématique E(yt yt−k ) puisque :

cov(yt , yt−k ) = E(yt yt−k ) − E(yt )E(yt−k )

= E(yt yt−k ) − 0
= E(yt yt−k )

Commençons par multiplier les deux membres de (25) par yt−k , on obtient :

yt yt−k = 0.1yt−1 yt−k + 0.2yt−2 yt−k + εt yt−k

Appliquons ensuite l’espérance mathématique aux deux membres de l’équation précédente :

E(yt yt−k ) = E(0.1yt−1 yt−k + 0.2yt−2 yt−k + εt yt−k )

= 0.1E(yt−1 yt−k ) + 0.2E(yt−2 yt−k ) + E(εt yt−k )

Désignons la fonction d’autocovariance E(yt yt−k ) par γk , le résultat précédent se réécrit comme suit :

γk = 0.1γk−1 + 0.2γk−2 + E(εt yt−k ) (26)

Il reste à déterminer le terme E(εt yt−k ). Pour cela, reprenons le modèle (25), adaptons-le à l’instant t − k et
multiplions ses deux membres par εt . On obtient :

εt yt−k = 0.1εt yt−k−1 + 0.2εt yt−k−2 + εt εt−k

Appliquons ensuite l’espérance mathématique aux membres de l’équation précédente, on obtient :

E(εt yt−k ) = E(0.1εt yt−k−1 + 0.2εt yt−k−2 + εt εt−k )

= 0.1E(εt yt−k−1 ) + 0.2E(εt yt−k−2 ) + E(εt εt−k )

Ce résultat peut être détaillé pour les premières valeurs de k, on obtient :

k = 0 ⇒E(εt yt ) = 0.1E(εt yt−1 ) + 0.2E(εt yt−2 ) + E(εt εt )

k = 1 ⇒E(εt yt−1 ) = 0.1E(εt yt−2 ) + 0.2E(εt yt−3 ) + E(εt εt−1 )
k = 2 ⇒E(εt yt−2 ) = 0.1E(εt yt−3 ) + 0.2E(εt yt−4 ) + E(εt εt−2 )
..
.

4
Rappelons que les processus yt et εt sont centrés. De ce fait, l’espérance mathématique de leur produit est une
covariance. Les équations précédentes deviennent :

k = 0 ⇒E(εt yt ) = 0.1cov(εt , yt−1 ) + 0.2cov(εt , yt−2 ) + cov(εt , εt )

k = 1 ⇒E(εt yt−1 ) = 0.1cov(εt , yt−2 ) + 0.2cov(εt , yt−3 ) + cov(εt , εt−1 )
k = 2 ⇒E(εt yt−2 ) = 0.1cov(εt , yt−3 ) + 0.2cov(εt , yt−4 ) + cov(εt , εt−2 )
..
.

Précisons que :
— cov(εt , yt ) ̸= 0 puisqu’un choc εt à l’instant t peut influencer une variable aléatoire yt à l’instant t ;
— cov(εt , yt−k ) = 0, ∀k > 0 puisqu’un choc εt ne peut pas influencer une variable yt−k qui le précède ;
— cov(εt , εt ) = V (εt ) = σε2 = 4
— cov(εt , εt−k ) = 0, ∀k ̸= 0 puisque le choc εt est un bruit blanc.
Compte tenu de ces précisions, les équations précédentes se simplifient en :

k = 0 ⇒E(εt yt ) = σε2
k = 1 ⇒E(εt yt−1 ) = 0
k = 2 ⇒E(εt yt−2 ) = 0
..
.

En substituant dans l’expression de l’autocovariance (26), on obtient les équations suivantes :

γ0 = 0.1γ1 + 0.2γ2 + 4 (27)

γ1 = 0.1γ0 + 0.2γ1 (28)
γ2 = 0.1γ1 + 0.2γ0 (29)
γ3 = 0.1γ2 + 0.2γ1 (30)
..
.

La question qui se pose à présent est comment résoudre ces équations pour obtenir la valeur de la variance (γ0 )
ainsi que les valeurs de la fonction d’autocovariance (γk , ∀k > 0) ?
La réponse à cette question passe d’abord par la résolution des équations de Yule-Walker obtenues en divisant
les équation (27), (28), (29) et (30) par la variance γ0 .
Rappel : Coefficient de corrélation linéaire entre deux variables aléatoires X et Y

cov(X, Y )
ρ(X, Y ) = p p
V (X) V (Y )

Dans le cas présent du processus stationnaire yt , la fonction d’autocorrélation d’ordre k, notée ρk s’obtient de
la même manière comme suit :

ρk = ρ(yt , yt−k )
cov(yt , yt−k )
=p p
V (yt ) V (yt )
γk
=√ √
γ0 γ0
γk
=
γ0
Ainsi, les équations de Yule-Walker s’écrivent :

ρ1 = 0.1ρ0 + 0.2ρ1 (31)

ρ2 = 0.1ρ1 + 0.2ρ0 (32)
ρ3 = 0.1ρ2 + 0.2ρ1 (33)
..
.

5
ou encore, en sachant que ρ0 = 1 :

ρ1 = 0.1 + 0.2ρ1 (34)

ρ2 = 0.1ρ1 + 0.2 (35)
ρ3 = 0.1ρ2 + 0.2ρ1 (36)
..
.

La résolution des équations de Yule-Walker se fait de manière récursive en commençant par l’équation (34) :

ρ1 = 0.1 + 0.2ρ1
ρ1 − 0.2ρ1 = 0.1
ρ1 (1 − 0.2) = 0.1
0.1
ρ1 =
1 − 0.2
= 0.125

En substituant la valeur de ρ1 dans l’équation (35), on obtient la valeur de ρ2 :

ρ2 = 0.1ρ1 + 0.2 (37)

= 0.1 × 0.125 + 0.2 (38)
= 0.2125 (39)

En substituant les valeurs de ρ1 et ρ2 dans l’équation (36), on obtient la valeur de ρ3 et ainsi de suite :

ρ3 = 0.1ρ2 + 0.2ρ1 (40)

= 0.1 × 0.2125 + 0.2 × 0.125 (41)
= 0.04625 (42)

Reprenons l’équation (27) :

γ0 = 0.1γ1 + 0.2γ2 + 4

Divisons ses membres par γ0 , on obtient :

4
1 = 0.1ρ1 + 0.2ρ2 + (43)
γ0
ou encore :
4
= 1 − 0.1ρ1 − 0.2ρ2 (44)
γ0
ou encore :
4
γ0 = (45)
1 − 0.1ρ1 − 0.2ρ2
En substituant les valeurs de ρ1 et de ρ2 dans l’expression ci-dessus, on obtient la valeur de la variance du
processus yt :
4
γ0 = (46)
1 − 0.1 × 0.125 − 0.2 × 0.2125
= 4.2328 (47)

Cette valeur de la variance permet d’obtenir les valeurs de γk à partir de celle de ρk selon la formule γk = ρk γ0 :

γ1 = ρ1 γ0 = 0.125 × 4.2328 = 0.5291 (48)

γ2 = ρ2 γ0 = 0.2125 × 4.2328 = 0.89947 (49)
γ3 = ρ3 γ0 = 0.04625 × 4.2328 = 0.195767 (50)