Exercice
Exercice
∞
ψ j ² t− j = Ψ(L)² t
X
Xt − µ = (2.1.1)
j =0
où Π(L) = Ψ(L)−1 .
(Box, Jenkins et Reinsel, 2008) ont montrés que la fonction d’auto-covariance du processus
(2.1.1) est donnée par :
∞
γ( k) = σ2
X
ψ j ψ j+1 (2.1.3)
j =0
∞
γ(0) = σ2 ψ2j
X
(2.1.4)
j =0
P∞
Il s’en suit que la condition j =0 |ψ j | < ∞ implique que la partie droite de (2.1.4) converge,
et donc, garantie l’existence d’une variance finie pour le processus (2.1.1). Pour que ce
∞. Cette condition peut être remplacer par le fait que la série Ψ(L) ne converge que lorsque
|L| ≤ 1, c’est à dire que le polynôme Ψ(L) admet des racines à l’extérieur du cercle unité
(Box et collab., 2008).
Maintenant, recherchons une restriction appliquée sur les coefficients π j pour assurer ce
qu’on appelle condition d’inversibilité. La condition d’inversibilité est indépendante de la
stationnarité et applicable pour les processus non stationnaire.
En général, un processus linéaire est inversible si ∞ j =0 |π j | < ∞, ce qui implique que le
P
TX
−| k|
( X t − X )( X t−|k| − X )
t=1
γ
b( k) = , k ∈ Z.
T
Cet estimateur est un estimateur biaisé de γ( k), mais, sous certaines conditions, on peut
montrer qu’il est asymptotiquement sans biais. Si X t est un processus stationnaire gaus-
sien et si la série de terme général γ( k) est absolument convergente, alors γ
b( k) converge en
moyenne quadratique vers γ( k).
Le coefficient d’auto-corrélation empirique :
TX
−| k|
( X t − X )( X t−|k| − X )
t=1
ρb( k) = , k ∈ Z.
( X t − X )2
|R ∗ ( k)|
φkk = (2.2.1)
|R ( k)|
Pour les détails de cet algorithme, vous pouvez consulter (Box et collab., 2008, section
A3.2).
2.3.1 Processus MA
Processus MA d’ordre 1
X t = µ + ² t + θ² t−1 , (2.3.1)
où µ et θ sont des constantes réelles. Ce processus est dit processus moyenne mobile d’ordre
1 et noté par M A (1) (on note X t ∼ M A (1)). Le terme "moyenne mobile" vient du fait que X t
est construit à partir de la somme pondérée des deux dernières observations de la variables
aléatoire ² t .
Ce processus est toujours (pour toutes valeurs de θ ) stationnaire, mais il n’est inversible
que lorsque −1 < θ < 1 (Box et collab., 2008, section 3.1.3). L’espérance du processus X t est
donnée par :
E ( X t ) = E (µ + ² t + θ² t−1 ) = µ + E (² t ) + θ E (² t−1 ) = µ (2.3.2)
La variance de X t est :
V ( X t ) = E ( X t − µ)2 = E (² t + θ² t−1 )2
= E (²2t ) + 2θ E (² t ² t−1 ) + θ 2 E (²2t−1 )
= σ2 + 0 + θ 2 σ2 = (1 + θ 2 )σ2 . (2.3.3)
γ(1) θσ2 θ
ρ (1) = = = (2.3.6)
γ(0) (1 + θ 2 )σ2 1 + θ2
par(mfrow=c(1,2))
ma8<-ARMAacf(ma=0.8,lag.max=10)
ma35<-ARMAacf(ma=-0.35, lag.max=10)
plot(0:10,ma8,type="h",ylim=c(0,1.5),ylab="",xlab="",
main=expression(italic(displaystyle(theta==0.8))))
points(0:10,ma8,pch=16)
abline(h=0)
plot(0:10,ma35,type="h",ylim=c(-1,1.5),ylab="",xlab="",
main=expression(italic(displaystyle(theta==-0.35))))
points(0:10,ma35,pch=16)
abline(h=0)
θ = 0.8 θ = − 0.35
1.5
1.5
1.0
1.0
0.5
0.0
0.5
−1.0
0.0
0 2 4 6 8 10 0 2 4 6 8 10
F IGURE 2.1 – ACF théorique d’un MA(1).
Le comportement du ρ (1) en fonction de θ est représenté dans la figure (2.2). On note que
la valeur la plus large du ρ (1) est 0.5 ; celle-ci est obtenue lorsque θ = 1. La valeur la plus
faible du ρ (1) = −0.5 est obtenue pour θ = −1. Pour toute valeur du ρ (1) entre -0.5 et 0.5, on
a deux valeurs possibles de θ qui peuvent produire cette auto-corrélation. Ceci se justifie
par le fait que la valeur de θ /(θ 2 + 1) reste inchangée si θ est remplacée par 1/θ , en effet :
1/θ θ 2 (1/θ ) θ
ρ (1) = = = .
1/θ 2 + 1 1 + θ2 θ2 + 1
Par exemple, les processus X t = ² t + 0.5² t−1 et X t = ² t + 2² t−1 ont la même fonction d’auto-
corrélation :
0.5 2
ρ (1) = 2
= 2 = 0.4.
0. 5 + 1 2 + 1
1.0
0.5
0.0
−3.0 −2.0 −1.0 0.0 0.5 1.0 2.0 3.0
−0.5
−1.0
F IGURE 2.2 – Le comportement de ρ (1) du processus MA(1) en fonction de θ .
Pour plus d’information concernant les liaisons qui peuvent exister entre deux processus
MA(1), vous pouvez voir (Hamilton, 1994, Section 3.7).
La fonction d’auto-corrélation partielle : En utilisant la relation (2.2.1) avec ρ (1) = θ /(1 +
θ 2 ) et ρ ( k) = 0 ∀ k > 0, on peut montrer que les auto-corrélations partielles peuvent être
obtenues à partir de cette relation :
¯ρ (1) ρ (0)¯
¯ ¯
¯ ¯
¯ρ (0) ρ (1) ρ (1)¯
¯ ¯
¯ ¯
¯ρ (1) ρ (0) ρ (2)¯
¯ ¯
R (3) ¯ρ (2) ρ (1) ρ (3)¯
¯ ¯
∗
et φ33 = =¯ ¯ = 0.22147
R (3) ¯
¯ ρ (0) ρ (1) ρ (2)
¯
¯
¯ ¯
¯ρ (1) ρ (0) ρ (1)¯
¯ ¯
¯ρ (2) ρ (1) ρ (0)¯
¯ ¯
ma1<-ARMAacf(ma=0.8, lag.max=21,pacf=T)
ma2<-ARMAacf(ma=-0.8, lag.max=21,pacf=T)
par(mfrow=c(1,2))
plot(0:20,ma1,type="h",ylim=c(-0.7,0.7),ylab="",xlab="",
main=expression(italic(displaystyle(theta==0.8))))
points(0:20,ma1,pch=16)
abline(h=0)
plot(0:20,ma2,type="h",ylim=c(-0.7,0.7),ylab="",xlab="",
main=expression(italic(displaystyle(theta==-0.8))))
points(0:20,ma2,pch=16)
abline(h=0)
θ = 0.8 θ = − 0.8
0.6
0.6
0.2
0.2
−0.2
−0.2
−0.6
−0.6
0 5 10 15 20 0 5 10 15 20
F IGURE 2.3 – PACF du processus MA(1) en fonction de θ .
ft = X t − µ = Θ(L)² t
X t = µ + ² t + θ² t−1 = µ + (1 + θ L)² t ⇐⇒ X
⇐⇒ Π(L) = (Θ(L))−1 X
ft = ² t
1 ∞
or (Θ(L))−1 = = 1 − θ L + θ 2 L2 − θ 3 L3 + . . . = 1 + (−θ ) j L j
X
1 + θL j =1
∞ ∞
ft = (θ L − θ 2 L2 + θ 3 L3 − . . .) X (−1) j+1 θ j X
X X
d’où X ft + ² t = e t− j + ² t = πjX
e t− j + ² t ∼ AR (∞).
j =1 j =1
Exemple 2.2
Déterminons les cinq premiers termes de l’écriture AR (∞) du processus suivant :
x t = ² t + 0.7² t−1
∞ ∞
x t = (θ L − θ 2 L2 + θ 3 L3 − . . .) x t + ² t = (−1) j+1 θ j x t− j + ² t =
X X
π j x t− j + ² t ∼ AR (∞).
j =1 j =1
j 0 1 2 3 4
πj 1 −0.7 (0.7)2 = 0.49 −(0.7)3 = −0.343 (0.7)4 = 0.2401
Pour déterminer ces coefficients à l’aide du logiciel R, on utilise la fonction ARMAtoAR qui
est téléchargeable depuis l’adresse suivante http://hamrita.e-monsite.com/medias/
files/armatoar.txt.
source("http://hamrita.e-monsite.com/medias/files/armatoar.txt")
ARMAtoAR(ar = 0, ma = 0.7, n.lags = 5)
Processus MA d’ordre 2
ce processus est dit processus moyenne mobile d’ordre 2 et noté par M A (2) (on note X t ∼
M A (2)). Il est stationnaire pour toutes valeurs de θ1 et θ2 , et il est inversible seulement
lorsque les racines de l’équation caractéristique 1 + θ1 L + θ2 L2 = 0 sont en dehors du cercle
unité, c’est-à-dire :
θ1 + θ2 < 1
θ2 − θ1 < 1 (2.3.9)
−1 < θ1 < 1
La variance de X t est :
γ( k) = E ( X t − µ)( X t−k − µ)
= E (² t + θ1 ² t−1 + θ2 ² t−2 )(² t−k + θ1 ² t−k−1 + θ2 ² t−k−2 )
Pour k = 1, on a :
Pour k = 2, on a :
Et pour k > 2, on a γ( k) = 0.
Ainsi, la fonction d’auto-covariance d’un processus M A (2) est donnée par :
(1 + θ12 + θ22 )σ2 , si k = 0;
θ (1 + θ )σ2 ,
si k = 1;
1 2
γ( k) = 2
(2.3.14)
θ2 σ , si k = 2;
0, si k > 2.
La représentation AR(∞) : on a
Xt − µ = X
ft = = ² t + θ1 ² t−1 + θ2 ² t−2
= (1 + θ1 L + θ2 L2 )² t = Θ(L)² t
⇐⇒ Θ(L)−1 X
ft = Π(L) X
ft = ² t
(1 + π1 L + π2 L2 + . . .)(1 + θ1 L + θ2 L2 ) = 1
1 + (π1 + θ1 )L + (π2 + π1 θ1 + θ2 )L2 + (π3 + π2 θ1 + π1 θ2 )L3 + . . . = 1
∞
X
π j X t− j = µ + ² t
j =0
1) Les processus M A sont toujours stationnaires, mais ne sont inversible que lorsque
les racines du polynôme caractéristique associé sont tous en dehors du cercle unité. En
particulier, les processus M A (2) sont inversible lorsque :
θ1 + θ2 < 1
θ2 − θ1 < 1
−1 < θ1 < 1
Or,
source("http://hamrita.e-monsite.com/medias/files/causal-inversible.txt")
causal.inversible(ma = c(0.5, 0.3))
##
## Le processus est causal et inversible
θ1 (1 + θ1 ) 0.5(1 + 0.3)
ρ (1) = = = 0.4850746.
1 + θ12 + θ22 1 + 0.52 + 0.32
θ2 0. 3
ρ (1) = = = 0.2238806.
1 + θ12 + θ22 1 + 0.52 + 0.32
ρ ( k) = 0 ∀ k > 2.
¯ ¯
ρ (0) ρ (1) ρ (1)
¯ ¯
¯ ¯
¯ ¯
¯ρ (1) ρ (0) ρ (2)¯
¯ ¯
ρ (2) ρ (1) ρ (3)
¯ ¯
R (3)
∗ ¯ ¯
et φ33 = =¯ ¯ = −0.13469429
R (3) ¯ρ (0) ρ (1) ρ (2)¯
¯ ¯
¯ ¯
¯ρ (1) ρ (0) ρ (1)¯
¯ ¯
¯ρ (2) ρ (1) ρ (0)¯
¯ ¯
## 0 1 2 3 4 5
## 1.0000 0.4851 0.2239 0.0000 0.0000 0.0000
ma1<-ARMAacf(ma=c(0.5,0.3), lag.max=21,pacf=T)
ma2<-ARMAacf(ma=c(-0.5,-0.3), lag.max=21,pacf=T)
ma3<-ARMAacf(ma=c(-0.5,0.3), lag.max=21,pacf=T)
ma4<-ARMAacf(ma=c(0.5,-0.3), lag.max=21,pacf=T)
par(mfrow=c(2,2))
plot(0:20,ma1,type="h",ylim=c(-0.6,0.6),ylab="",xlab="",
plot(0:20,ma2,type="h",ylim=c(-0.6,0.6),ylab="",xlab="",
main=expression(paste(theta[1]==0.5, theta[2]==-0.3)))
points(0:20,ma4,pch=16)
abline(h=0)
0.6
0.2
0.2
−0.2
−0.2
−0.6
−0.6
0 5 10 15 20 0 5 10 15 20
0.6
0.2
0.2
−0.2
−0.2
−0.6
−0.6
0 5 10 15 20 0 5 10 15 20
F IGURE 2.4 – PACF du processus MA(2) en fonction de θ1 et θ2 .
Xt − µ = X
ft = = ² t + θ1 ² t−1 + θ2 ² t−2
= (1 + θ1 L + θ2 L2 )² t = Θ(L)² t
⇐⇒ Θ(L)−1 X
ft = Π(L) X
ft = ² t
(1 + π1 L + π2 L2 + . . .)(1 + θ1 L + θ2 L2 ) = 1
1 + (π1 + θ1 )L + (π2 + π1 θ1 + θ2 )L2 + (π3 + π2 θ1 + π1 θ2 )L3 + . . . = 1
source("http://hamrita.e-monsite.com/medias/files/armatoar.txt")
round(ARMAtoAR(ar = 0, ma = c(0.5, 0.3), n.lags = 10), 4)
Processus MA d’ordre q
Un processus est dit moyenne mobile d’ordre q, noté par M A ( q), s’il admet l’écriture
suivante :
X t = µ + ² t + θ1 ² t−1 + . . . + θ q ² t− q où ² t ∼ BB(0, 1). (2.3.16)
Ce processus est toujours stationnaire, mais il est inversible que lorsque les racines (en
module) du polynôme caractéristique associé sont touen dehors du cercles unité. C’est-à-
dire :
X t est inversible ⇐⇒ ((1 + θ1 L + θ2 L2 + . . . + θ q L q ) = 0 =⇒ |L i | > 1).
On voit bien que la ACF d’un processus M A ( q) est nulle au-delà de l’ordre q.
2.3.2 Processus AR
Processus AR(1)
Un processus est dit processus auto-regressive d’ordre 1, noté AR (1), s’il admet l’écri-
ture suivante :
X t = µ + φ X t−1 + ² t où ² ∼ BB(0, σ2 ) (2.3.17)
Ce processus est stationnaire lorsque |φ| < 1 et il est toujours inversible. Ce processus
admet les caractéristiques suivantes :
L’espérance : Pour déterminer l’espérance d’un processus stationnaire AR (1), il est à
noter que ce processus admet l’écriture suivante :
X t = µ + φE ( X t−1 + E (² t ) ⇐⇒ (1 − φL) X t = µ + ² t
= (1 − φL)−1 (µ + ² t )
= (1 + φL + φ2 L2 + . . .)(µ + ² t )
Donc
Or,
µ
X t − E ( X t ) = (1 − φL)−1 (µ + ² t ) −
1−φ
µ µ
= + (² t + φ² t−1 + φ2 ² t−2 + . . .) −
1−φ 1−φ
∞
φ j ² t− j
X
=
j =0
¢2
D’où E X t − E ( X t ) = E (² t + φ² t−1 + φ2 ² t−2 + . . .)2 . Et puisque E (² t ²s ) = 0, ∀ t 6= s, on aura :
¡
γ( k) = E ( X t − E ( X t ))( X t−k − E ( X t ))
on trouve :
φ11 = ρ (1) = φ
¯ ¯ ¯ ¯
¯ρ (0) ρ (1)¯¯ ¯¯ 1 φ ¯¯
¯
¯ρ (1) ρ (2)¯ ¯φ φ 2 ¯ φ2 − φ2
¯ ¯ ¯ ¯
φ22 = ¯ ¯= ¯ ¯ = =0
¯ρ (0)
¯ ρ (1)¯¯ ¯1
¯ φ¯¯ 1 − φ2
¯ρ (1) ρ (0)¯ ¯φ
¯ ¯ ¯ ¯
1¯
et
φkk = 0, ∀ k > 1.
Un processus AR (1) est caractérisé par une décroissance exponentielle des auto-corrélations
(soit seront toutes positives si φ > 0, soit alterneront en signe si φ < 0) et par une seule
auto-corrélation partielle non nulle.
Le graphique suivant donne les corrélations simples et partielles (théorique) des processus
suivants :
X t = 0.7 X t−1 + ² t
X t = −0.7 X t−1 + ² t
ar1<-ARMAacf(ar=0.7, lag.max=21)
ar1p<-ARMAacf(ar=0.7, lag.max=21,pacf=T)
ar2<-ARMAacf(ar=-0.7, lag.max=21)
ar2p<-ARMAacf(ar=-0.7, lag.max=21,pacf=T)
par(mfrow=c(2,2),mar=c(4, 4, 2, 0.5))
plot(0:21,ar1,type="h",ylim=c(-1.2,1.2),ylab="ACF",xlab="",
main=expression(phi==0.7))
points(0:21,ar1,pch=16)
abline(h=0)
plot(0:20,ar1p,type="h",ylim=c(-0.8,0.8),ylab="PACF",xlab="",
main=expression(phi==0.7))
points(0:20,ar1p,pch=16)
abline(h=0)
plot(0:21,ar2,type="h",ylim=c(-1.2,1.2),ylab="ACF",xlab="",
main=expression(phi==-0.7))
points(0:21,ar2,pch=16)
abline(h=0)
plot(0:20,ar2p,type="h",ylim=c(-0.8,0.8),ylab="PACF",xlab="",
main=expression(phi==-0.7))
points(0:20,ar2p,pch=16)
abline(h=0)
φ = 0.7 φ = 0.7
1.0
0.5
0.5
PACF
ACF
0.0
0.0
−0.5
−0.5
−1.0
0 5 10 15 20 0 5 10 15 20
φ = − 0.7 φ = − 0.7
1.0
0.5
0.5
PACF
ACF
0.0
0.0
−0.5
−0.5
−1.0
0 5 10 15 20 0 5 10 15 20
1) Étant donné que |φ| = 0.5 < 1, alors le processus est stationnaire. Ce processus est un
processus AR, donc il est inversible (Les processus AR sont toujours inversible).
2) La ACF est définie par : ρ ( k) = γ( k)/γ(0). Or, γ( k) = E ( x t x t−k ). On a : x t = 0.5 x t−1 +
² t . Multiplions les deux membres de cette équation par x t−k , puis appliquons l’opérateur
espérance, on obtient :
k 0 1 2 3 4
ρ ( k) 1 0.5 0.25 0.125 0.0625
La PACF d’un processus AR(1) est nulle sauf pour le premier coefficient qui est égale à :
φ11 = ρ (1) = 0.5. Ainsi, on a : (
0.5, si k = 1
φkk =
0, sinon
Avec R, on utilise la fonction ARMAacf pour déterminer les coefficients d’auto-corrélation et
d’auto-corrélation partielle (avec l’option pacf=T).
## 0 1 2 3 4 5
## 1.00000 0.50000 0.25000 0.12500 0.06250 0.03125
Processus AR(2)
Ce processus est stationnaire si l’équation Φ(L) = 0 admet des racines en dehors du cercle
unité (L i > 1). Cette condition est remplie lorsque :
φ1 + φ2 < 1
φ2 − φ1 < 1 (2.3.25)
|φ | < 1
2
Racines réelles
φ2 0
Racines complexes
φ1
−1
−2 0 2
F IGURE 2.6 – Région de stationnarité d’un processus AR(2)
L’espérance :
E ( X t ) = µ + φ1 E ( X t−1 + φ1 E ( X t−1 + E (² t )
= µ + φ1 E ( X t + φ1 E ( X t + 0 = µ + (φ1 + φ2 )E ( X t ) (2.3.26)
µ
=
1 − φ1 − φ2
e 2 ) avec X
La variance est donnée par V ( X t ) = γ(0) = E ( X t − E ( X t ))2 = E ( X
£ ¤
e t = X t − E ( X t ).
t
γ(0) = E (φ1 X e t + φ2 X
e t−1 X e t−2 X e t ²t )
et + X
e t ² t ) = E ((φ1 X
car, E ( X e t−2 + ² t )² t ) = E (²2 ) = σ2 .
e t−1 + φ2 X
t
Et d’une manière plus générale, on peut montrer que :
(1 − φ2 )σ2
γ(0) = (2.3.31)
(1 + φ2 )(1 − φ1 − φ2 )(1 + φ1 − φ2 )
ρ ( k) = φ1 ρ ( k − 1) + φ2 ρ ( k − 2) (2.3.34)
suit :
e t = (φ 1 L + φ 2 L 2 ) X
X e t + ²t
(1 − φ1 L − φ2 L2 ) X
e = ²t
| {z } t
Φ(L)
e t = Φ(L)−1 ² t = Ψ(L)² t
X (2.3.35)
∞
= (ψ0 + ψ1 L + ψ2 L2 + . . .)² t =
X
ψ j ² t− j
j =0
Ψ(L)Φ(L) = 1
(ψ0 + ψ1 L + ψ2 L2 + . . .)(1 − φ1 L − φ2 L2 ) = 1 (2.3.36)
ψ0 + (ψ1 − φ1 ψ0 )L + (ψ2 − φ1 ψ1 − φ2 ψ0 )L2 + . . . = 1
On obtient :
ψ0 = 1,
ψ1 = φ1 ψ0 , (2.3.37)
ψ =φ ψ
1 j −1 + φ2 ψ j −2 , pour j = 2, 3, . . .
j
Donc :
φ1 ρ (0) 0.7 × 1
ρ (1) = φ1 ρ (0) + φ2 ρ (1) =⇒ ρ (1) = = = 0.7777778
1 − φ2 1 − 0. 1
ρ (2) = φ1 ρ (1) + φ2 ρ (0) =⇒ ρ (2) = 0.7 × 0.7777 + 0.1 = 0.6444444
k 0 1 2 3 4 5
ρ ( k) 1 0.777 0.644 0.528 0.4346 0.3571
## 0 1 2 3 4 5
## 1.0000 0.7778 0.6444 0.5289 0.4347 0.3572
3) La PACF d’un processus AR(2) est nulle sauf les deux premières corrélations qui
sont différents de zéro.
φ11 = ρ¯ (1) = 0.777,
¯
¯ρ (0) ρ (1)¯
¯ ¯
¯ρ (1) ρ (2)¯ ρ (0) × ρ (2) − ρ (1)2 0.644 − 0.7772
¯ ¯
φ22 = ¯ ¯= = = 0.1.
¯ρ (0) ρ (1)¯
¯ ¯ ρ (0)2 − ρ (1)2 1 − 0 . 7772
¯ρ (1) ρ (0)¯
¯ ¯
Avec R, ces coefficients se déduisent à l’aide de la fonction ARMAacf avec l’option (pacf=TRUE).
4) Le processus est stationnaire, donc il admet une représentation M A (∞). On peut dé-
terminer les coefficients de cette représentation de deux manières ; soit par identification,
soit explicitement en appliquant les équation (2.3.38) ou (2.3.39).
Première méthode :
On a : Φ(L) = 1 − 0.7L − 0.1L2 et Ψ(L) = ψ0 + ψ1 L + ψ2 L2 + . . ., tel que :
Φ(L)Ψ(L) = 1 ⇐⇒ (ψ0 + ψ1 L + ψ2 L2 + . . .)(1 − φ1 L − φ2 L2 ) = 1.
ψ0 + (ψ1 − φ1 ψ0 )L + (ψ2 − φ1 ψ1 − φ2 ψ0 )L2 + . . . = 1. D’où, on aura :
ψ0 = 1,
ψ1 = φ1 ψ0 = 0.7,
ψ =φ ψ
1 j −1 + φ2 ψ j −2 = 0.7ψ j −1 + 0.1ψ j −2 , pour j = 2, 3, . . .
j
j 0 1 2 3 4 5
ψj 1 0.7 0.59 0.483 0.3971 0.32627
Avec R :
Deuxième méthode : pour appliquer cette méthode, tout d’abord on a besoin de détermi-
ner les racines du polynôme caractéristique associé au processus.
Φ( x) = 0 ⇐⇒ 1 − 0.7 x − 0.1 x2 = 0.
C’est une équation de second ordre à une inconnue. Calculons le discriminant de cette
équation :
∆ = b2 − 4ac = (−0.7)2 − 4 × (−0.1) = 0.89 = 0.94332 .
Le discriminant est positif, donc le polynôme caractéristique admet deux racines réelle
distinctes.p p
− b − ∆ 0.7 − 0.9433 − b − ∆ 0.7 + 0.9433
x1 = = = 1.217 et x1 = = = −8.217.
2a −0.2 2a −0.2
j +1 j +1
z1 − z2
Donc, z1 = 1/ x1 = 0.8217, z2 = 1/ x2 = −0.1217 et ψ j = .
z1 − z2
0.82172 − (−0.1217)2 0.82173 − (−0.1217)3
ψ1 = = 0.7; ψ2 = = 0.59
0.8217 − (−0.1217) 0.8217 − (−0.1217)
et ainsi de suite.
Remarque : On peut déterminer les racines z1 et z2 en cherchant les racines de l’équation
Φ( z) = Φ(1/ x) = 0 (i.e. z2 − 0.7 z − 0.1 = 0)
j <- 5
(psij <- (z[1]^(1:(j + 1)) - z[2]^(1:(j + 1)))/(z[1] - z[2]))
Processus AR(p)
Un modèle X t est dit auto-regressive d’ordre p est noté par X t ∼ AR ( p) s’il admet
l’écriture suivante :
Φ( L ) = 1 − φ1 L − φ2 L 2 − . . . − φ p L p
Lorsque le processus est stationnaire, il peut s’écrit sous la forme M A (∞). C’est-à-dire, il
admet l’écriture suivante : ∞
ψ j ² t− j = Ψ(L)² t
X
X
et = (2.3.42)
j =0
(Box et collab., 2008, Annexe A4.1) ont montrés que les coefficients ψ j vérifient la relation
suivante :
ψ j = φ1 ψ j−1 + φ2 ψ j−2 + . . . + φ p ψ j− p pour j > 0 (2.3.43)
E ( X t ) = µ + φ1 E ( X t−1 ) + φ2 E ( X t−2 ) + . . . + φ p E ( X t− p ) + E (² t )
= µ + (φ1 + φ2 + . . . + φ p )E ( X t ), car E ( X t ) = E ( X t−h ) et E (² t ) = 0 (2.3.44)
µ µ
E( X t) = = .
1 − φ1 − φ2 − . . . − φ p Φ(1)
La variance :
γ(0) = E ( X t − E ( X t ))2 = E ( X
e t2 ) avec X
e t = X t − E( X t)
= E[ X e t−1 + φ2 X
e t (φ1 X e t− p + ² t )]
e t−2 + . . . + φ p X
= φ1 γ(1) + φ2 γ(2) + . . . + φ p γ( p) + E ( X
e t ²t ) (2.3.45)
= φ1 γ(1) + φ2 γ(2) + . . . + φ p γ( p) + σ2
e t ² t ) = E ((φ1 X
car E ( X e t−1 + φ2 X e t− p + ² t )² t ) = E (²2 ) = σ2 .
e t−2 + . . . + φ p X
t
De même, on peut montrer que la fonction d’auto-covariance vérifie la relation suivante :
La fonction d’auto-corrélation :
En divisant γ( k) par γ(0), on obtient la ACF ρ ( k). D’où on aura la relation suivante :
ρ ( k) = φ1 ρ ( k − 1) + φ2 ρ ( k − 2) + . . . + φ p ρ ( k−) (2.3.47)
En effet,
b −1 ρb
b=Γ
φ
où Γ
b est la matrice des corrélations empiriques.
ρb(1) = φ
b1 ρb(0) + φ
b2 ρb(1) + φ
b3 ρb(2)
ρb(2) = φ
b1 ρb(1) + φ
b2 ρb(0) + φ
b3 ρb(1)
ρb(3) = φ
b1 ρb(2) + φ
b2 ρb(1) + φ
b3 ρb(0)
Matriciellement, on a :
−1
ρb(1) ρb(0) ρb(1) ρb(2) φ b1 φ
b1 ρb(0) ρb(1) ρb(2) ρb(1)
ρb(2) = ρb(1) ρb(0) ρb(1) φ b2 = ρb(1) ρb(0) ρb(1) ρb(2)
b2 ⇐⇒ φ
ρb(3) ρb(2) ρb(1) ρb(0) φ b3 φ
b3 ρb(2) ρb(1) ρb(0) ρb(3)
−1
φ
b1 1 0.2214 −0.6950 0.2214 0.47
φ
2 = 0.2214 1 −0.6950 = −0.82
0.2214
b
φ
b3 −0.6950 0.2214 1 −0.4115 0.10
Définition 2.5. Un processus X t est dit un processus ARMA d’ordre p et q s’il admet l’écri-
ture suivante :
où ² t ∼ BB(0, σ2 )
Φ( x) = 1 − φ1 x − φ2 x2 − . . . − φ p x p = 0 =⇒ | x| > 1.
Θ(L)
Φ(L) X t = Θ(L)² t =⇒ X t = ² t = Ψ(L)² t .
Φ( L )
p
X
ψj − φk ψ j−k = θ j pour j = 0, 1, 2, . . . (2.3.50)
k=1
On peut montrer que les coefficients π j peuvent être calculés de la manière suivante :
q
X
πj + θk π j−k = −φ j , j = 0, 1, 2, . . . (2.3.52)
k=1
∞
X
Xt = ψ j ² t− j . (2.3.53)
j =0
∞
D’où, γ( k) = E ( X t X t−k ) = σ2
X
ψ j ψ j+|k| .
j =0
Pour déterminer l’expression de la fonction de ψ j , on peut écrire Ψ(L)Φ(L) = Θ(L) et par
identification on déduit :
j
X
ψj − φk ψ j−k = θ j , 0 ≤ j < max ( p, q + 1) (2.3.54)
k=0
et
p
X
ψj − φ k ψ j − k = 0, j ≥ max ( p, q + 1) (2.3.55)
k=0
k mX
i −1
c i j n j z− n
X
ψn = i , n ≥ max( p, q + 1) − p (2.3.56)
i =1 j =0
ψn = ( c 10 + c 11 n)2−n , n = 0, 1, . . .
Soit c 10 = 1, c 11 = 3 et
ψn = (1 + 3 n)2−n , n = 0, 1, . . .
∞
γ( k) = σ2 (1 + 3 j )(1 + 3 j + 3 k)2−2 j−k
X
j =0
∞ h i
= σ2 2−k (3 k + 1)4− j + 3(3 k + 2) j 4− j + 9 j 2 4− j
X
j =0
4 12 20
· ¸
2 −k
= σ 2 (3 k + 1) + (3 k + 2) +
3 9 3
32
µ ¶
= σ2 2−k + 8k
3
∞
γ( k) − φ1 γ( k − 1) − φ2 γ( k − 2) − . . . − φ p γ( k − p) = σ2
X
θ j+k ψ j , 0 ≤ k < m, (2.3.57)
j =0
et
γ( k) − φ1 γ( k − 1) − φ2 γ( k − 2) − . . . − φ p γ( k − p) = 0, k ≥ m. (2.3.58)
h mX
i −1
c i j k j z− k
X
γ( k) = i , k ≥ max( p, q + 1) − p (2.3.59)
i =1 j =0
où les p constantes c i j et γ( k), 0 ≤ k < max( p, q + 1) − p sont déterminées à partir les valeurs
initiales après avoir calculer les les ψ j , j = 0, 1, . . . , q.
Exemple 2.8 :
Reprenant l’exemple précédent : (1 − L + 41 L2 ) x t = (1 + L)² t
1
γ( k) − γ( k − 1) − γ( k − 2) = 0, k≥2
4
γ( k) = ( c 10 + c 11 k)2−k , k ≥ 0. (2.3.60)
1
γ(0) − γ(1) − γ(2) = σ2 (ψ0 + ψ1 )
4
1
γ(1) − γ(0) − γ(1) = σ2 ψ0
4
où ψ0 = 1 et ψ1 = 2. Or
γ(0) = c 10
( (
3 c 10 − 2 c 11 = 16σ2 c 10 = 32
3 σ
2
γ(1) = 12 ( c 10 + c 11 ) ⇐⇒ ⇐⇒
γ(2) = 1 ( c + c )
−3 c 10 + 2 c 11 = 8σ2 2 c 11 = 8σ2
4 10 11
Finalement, on aura :
32
µ ¶
2 −k
γ( k) = σ 2 + 8 k , k ≥ 0,
3
qui est la même expression trouvée précédemment.
*
10
*
8
*
6
γ(k)
*
4
*
2
*
* * * *
0
0 2 4 6 8 10
1) Le processus peut être écrit comme suit : Φ(L) X t = Θ(L)² t avec Φ(L) = 1 − 0.5L et Θ(L) =
1 − 0. 7 L .
Il est stationnaire car |φ| = 0.5 < 1. De même, ce processus est inversible car |θ | = 0.7 < 1.
2) Le processus X t est causal car Φ(L) admet une racine en dehors du cercle unité en
module, donc il admet un écriture MA(∞), i.e :
∞
ψ j ² t− j = Ψ(L)² t
X
Xt =
j =0
(1 − φL)(ψ0 + ψ1 L + ψ2 L2 + . . .) = 1 + θ L
Par identification, on obtient ψ0 = 1, ψ1 = θ + φψ0 = −0.7 + 0.5 = −0.2 et pour tout j > 1 :
ψ j − φψ j−1 = 0 ⇐⇒ ψ j = 0.5ψ j−1 = 0.5 j−1 ψ1 . Soit :
¶ µ ¶ j−1
1 1
µ
ψj = − pour j = 1, 2, . . .
5 2
∞ µ ¶2 ∞ µ ¶ j−1
2 1 X 1 79
ψ2j
X
γ(0) = σ = 1+ − = .
j =0 5 j=1 4 75
et pour k = 1, 2, . . .
à !
∞ ∞
2 2
X X
γ( k) = σ ψ j ψ j+k = σ ψk + ψ j ψ j+k
j =0 j =1
"µ ¶ µ ¶k−1 #
1 1 1 1 k−2 X∞ µ1¶j 13 1 k−1
µ ¶ µ ¶µ ¶
= σ2 − + 2
=σ −
5 2 25 2 j =1 4 75 2
Ainsi
13 1 k−1
µ ¶µ ¶
ρ ( k) = − pour k = 1, 2, . . .
79 2
## 0 1 2 3 4 5 6
## 1.000000 -0.164557 -0.082278 -0.041139 -0.020570 -0.010285 -0.005142
¯ ¯
ρ (0) ρ (1) ρ (1)
¯ ¯
¯ ¯
¯ ¯
¯ρ (1) ρ (0) ρ (2)¯
¯ ¯
¯ρ (2) ρ (1) ρ (3)¯
¯ ¯
φ33 = ¯ ¯ = −0.1124
¯ρ (0) ρ (1) ρ (2)¯
¯ ¯
¯ ¯
¯ρ (1) ρ (0) ρ (1)¯
¯ ¯
¯ρ (2) ρ (1) ρ (0)¯
¯ ¯
On finit ce chapitre par un tableau récapitulatif, qui résume les principales caractéris-
tiques des différents processus linéaires.
ISMAI Kairouan
46
Processus linéaires stationnaires 47
Exercices
Exercice 2.1
1) Déterminer lesquels des processus suivants sont stationnaires et lesquels sont inver-
sibles (² t est un bruit blanc) :
a) X t = −0.2 X t−1 + 0.48 X t−2 + ² t .
b) X t = −1.9 X t−1 − 0.88 X t−2 + ² t + 0.2² t−1 + 0.7² t−2 .
c) X t + 0.6 X t−1 = ² t + 1.2² t−1 .
d) X t + 1.8 X t−1 + 0.8 X t−2 = ² t .
e) X t + 1.6 X t−1 = ² t − 0.4² t−1 + 0.04² t−2 .
2) Dans les cas où le processus est stationnaire, calculer et représenter graphiquement la
ACF et la PACF avec R.
Exercice 2.2
Soit le processus X t définit par : X t = ² t + θ² t−1 où ² t est un bruit blanc.
déterminer la valeur θ ∗ de θ qui maximize le coefficient ρ (1).
Exercice 2.3
On considère le processus ARMA(1,1) définit par :
203 9 k−1
µ ¶
ρ ( k) = k = 1, 2, . . .
215 10
Exercice 2.4
Soit le processus AR(2) définit par :
1) Rappeler les conditions sur les paramètres φ1 et φ2 pour que le processus soit station-
naire.
2) déterminer la représentation MA(∞) de ce processus. Exprimer les coefficients ψ j en
fonction de j lorsque φ1 = 0.7 et φ2 = −0.1.
24−k − 51−k
ρ ( k) = k = 1, 2, . . .
11
Exercice 2.5
Soit ² t un BB(0, 1) et X t un processus ARM A vérifiant :
1 1
X t − X t−1 = ² t − ² t−1
3 2
1
1) Soit Y un processus AR (1) définit par : Yt − Yt−1 = ² t .
3
1
Montrer que X t = Yt − Yt−1 .
2
2) Exprimer γ0X en fonction γY Y
0 et γ1 .
3) Calculer γY Y X
0 et γ1 , puis déduiser γ0 .
Définition 2.6. On appelle équation aux différences linéaire homogène à coefficients constants
(EDLH) d’ordre k l’équation définie par :
α(L) = 1 + α1 L + α2 L2 + . . . + αk L k
1
x t = c 1 λ1t + c 2 λ2t + . . . + c k λkt où λ i = .
zi
k
= c 1 z1− t + c 2 z2− t + . . . + c k z− t
c p z−p t .
X
k = (B.1.2)
p=1
Remarque 2.1. Dans le cas où les solutions sont des pairs de nombres complexes conjugués,
on fait recours aux coordonnées polaires de ces nombres pour écrire la solution comme un
nombre réel.
Plus précisement, si ( z j , z j ) est une pair des racines
q conjuguées du polynôme caractéristique
avec z j = a j + ib j , alors z j = r j exp( i ϕ j ) où r j = (a2j + b2j ) et ϕ j = arctan( b j /a j ).
Remarque 2.2. Une fois, on a fixé k valeurs initiales, il existe une et une seule solution de
l’équation (B.1.1).
Exemple 2.10 :
1) Soit l’équation aux différences suivantes :
P ( z) = z3 − 3 z2 − 4 z + 12 = ( z − 2) ( z − 3) ( z + 2) .
−j −j −j
ψ j = c 1 z1 + c 2 z2 + c 3 z3 = c 1 2− j + c 2 3− j + c 3 (−2)− j
3 2
ψ j = 2− j + 3− j + (−2)− j
4 3
=⇒ c 1 = 1 et c 2 = π3 . Ainsi :
1 ³π π´
h t = p cos t + , pour t = 0, 1, . . .
2 4 3
où λ i , 1 ≤ i ≤ r sont égales à 1/ z i .
r ¡
c i0 + c i1 t + c i2 t2 + . . . + c im i −1 t m i −1 λ ti
X ¢
xt =
i =1
Exemple 2.11 :
Donner la solution de l’équation aux différences définie par :
avec X 0 = 2, X 1 = 67 et X 2 = 49
36 .
−t
X t = ( c 10 + c 11 t) z1,2 + c 3 z3− t = ( c 10 + c 11 t) 2− t + c 3 (−3)− t
avec
X0 = 2 =⇒ c 10 + c 3 = 2
X 1 = 7/6 =⇒ ( c 10 + c 11 )/2 − c 3 /3 = 7/6
X = 1/2
=⇒ ( c 10 + 2 c 11 )/4 + c 3 /9 = 49/36
2
=⇒ c 10 = 1, c 11 = 2 et c 3 = 1. Ainsi :
X t = (1 + 2 t) 2− t + (−3)− t pour t = 0, 1, . . .
En conclusion, et d’une manière plus générale (racines distinctes et/ou multiples), la solu-
tion générale de l’équation aux différences (B.1.1) est :
q mX
i −1
c i j t j z− t
X
xt = i (B.1.3)
i =1 j =0