Introduction

Les étapes de la modélisation

Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Économétrie
Chapitre I :
Régression Simple et Multiple

Professeur: BADDI HICHAM

1/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Plan

1 Introduction

2 Les étapes de la modélisation

3 Types de modèles

4 La corrélation

5 Régression linéaire simple

6 Le modèle de régression multiple

2/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Introduction :
L’économétrie est une branche de la science économique consis-
tant à établir des lois ou à vérifier des hypothèses à partir de
données chiffrées tirées de la réalité.
L’économétrie peut être définie comme étant un ensemble de
techniques utilisant la statistique mathématique qui vérifient la
validité empirique des relations supposées entre les phénomènes
économiques et mesurent les paramètres de ces relations. Au
sens large, l’économétrie est l’art de construire et d’estimer des
modèles empiriques adéquats par rapport aux caractéristiques de
la réalité, et intelligibles au regard de la théorie économique.
Il est impossible d’utiliser en sciences sociales la méthode
expérimentale, comme cela se pratique dans les sciences de la na-
ture.
L’économétrie fournit alors les méthodes qui permettront de tes-
ter les hypothèses ou de quantifier les relations.
3/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Introduction :

L’économétrie permet également de quantifier les relations entre

variables économiques.

L’économétrie permet à la fois de tester la validité du modèle et

d’en chiffrer les paramètres.

Elle rend possible la modélisation, c’est-à dire la représentation

de phénomènes économiques, nécessairement complexes, par un
ensemble cohérent de relations mathématiques quantifiées.

A son tour la modélisation constitue un enrichissement impor-

tant, sous la forme d’une aide à la décision, en rendant possible
la simulation, l’optimisation ou la prévision.

4/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Introduction :

La simulation consiste à calculer les conséquences d’un ensemble

d’hypothèses représentées par des valeurs des variables explica-
tives.

La prévision étend cet exercice à des périodes futures.

L’optimisation adopte le chemin inverse et a pour but de

déterminer les valeurs optimales de certaines variables en fonc-
tion d’objectifs fixés.

La plupart des grands centres de décision, qu’il s’agisse des

banques, des agences gouvernementales, des institutions inter-
nationales et des grandes entreprises utilisent régulièrement ces
techniques.

5/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

1. Les étapes de la modélisation

Les étapes de la modélisation :

- La spécification du modèle

- Le choix des données statistiques : : Les données sont regroupées

en trois catégories : - Séries temporelles – coupes instantanée ou
transversale et données de panel.

- L’estimation

- Tests de validation du modèle.

6/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

2. Types de modèles
Le modèle linéaire : la variation de la variable dépendante est
proportionnelle à la variation de la variable explicative.
Le modèle log-linéaire : le taux de variation de la variable
dépendante est proportionnel au taux de variation de la variable
explicative.
Le modèle exponentiel : le taux de variation de la variable
dépendante est proportionnel à la variation de la variable expli-
cative.

Le modèle logarithmique : la variation de la variable dépendante

est proportionnelle au taux de variation de la variable explicative.

Le modèle non linéaire.

7/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

2. Types de modèles

8/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

2. Types de modèles
Modèle à une équation, modèle à équations multiples, modèle
à équations simultanées, modèle à équations récursifs, modèle
auto régressif (AR), modèle moyenne mobile (MA), modèle
ARMA, modèle ARIMA (moyenne mobile auto régressif intégré),
modèle uni varié (c’est-à-dire, décrivant les variables une par
une, indépendamment de leur interaction), modèle multivarié
(prise en compte de problèmes de simultanéité et de l’in-
terdépendance des variables), modèle vectoriel auto régressif
(VAR), modèle vectoriel à correction d’erreurs (VEC), modèle
ARCH (hétéroscédasticité conditionnelle auto régressif), modèle
canonique, modèle d’équilibre général calculable (EGC), tableaux
d’entrée-sortie (TES), les modèles de données de panel.
Il faut ajouter les modèles à variables qualitatives binaires et
les modèles à variables dépendantes limitées, notamment les
modèles PROBIT, LOGIT et TOBIT.
9/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

2. Types de modèles
Un modèle peut être statique ou dynamique :
- Dans un modèle statique, les variables explicatives sont  figées
 dans le temps, la variable dépendante Y au temps t est ex-

pliquée par la variable indépendante X au temps t. Un modèle

statique suppose une économie au comportement figé et répétitif,
ou évoluant d’une manière linéaire facilement prévisible.
- Dans un modèle dynamique, une ou plusieurs variables explica-
tives sont retardées dans l’équation.

10/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

2. Types de modèles
Il y a cinq sortes des modèles dynamiques : 1) le modèle structu-
rel à variables explicatives retardées, 2) le modèle auto-régressif
(AR), 3) le modèle des moyennes mobiles (MA, particularité :
les résidus des périodes précédentes sont inclus dans le modèle),
4) le modèle ARMA, et 5) le modèle ARIMA. Il y a aussi le
modèle VAR (vectoriel auto-régressif) qui est en fait un modèle
AR mais généralisé au cas multivarié. Le modèle ARMA (modèle
de moyenne mobile auto régressif) est la synthèse des modèles
AR et MA. Le modèle ARIMA (moyenne mobile auto-régressif
intégré) est une extension du modèle ARMA.

11/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

La corrélation
La corrélation
L’analyse de la corrélation consiste à déterminer le degré de liai-
son entre deux variables.
La corrélation simple sert alors à évaluer l’intensité de la relation
entre deux variables.

Elle permet alors de connaitre si on augmente la valeur d’une va-

riable, celle de l’autre augmente au diminue.
Pour évaluer le degré de liaison entre deux variables, on peut tra-
cer un nuage de points.

Le nuage de points est utilisé pour vérifier s’il existe ou non une
tendance entre les deux variables, mais pour évaluer l’intensité de
la relation existante entre ces des deux variables, on doit calculer
un coefficient de corrélation.
12/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

La corrélation

La corrélation

Deux coefficients de corrélation sont fréquemment utilisés : celui

de Pearson et celui de Spearman.

Le coefficient de corrélation de Person permet d’évaluer la rela-

tion linéaire entre deux variables.

Quant au coefficient de Spearman, il permet d’évaluer la relation

non linéaire monotone entre deux variables.

13/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

La corrélation
Le Coefficient de corrélation de Pearson

Le coefficient de corrélation linéaire simple, dit de Bravais-

Pearson ou de Pearson est égal à :
n
P
(xi −x̄)(yi −ȳ)
Cov(x,y) i=1
rx, y = σx σy = s s
n n
(xi −x̄)2 (yi −ȳ)2
P P
i=1 i=1

avec :
- Cov (x, y) : covariance entre x et y ;

- σx et σy : écart type de x et écart type de y ;

- n : nombre d’observations.
14/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

La corrélation

Le Coefficient de corrélation de Pearson

Le coefficient de corrélation est toujours compris entre -1 et 1.

Si le coefficient de corrélation est proche de 1, les variables sont

corrélées positivement ;

Si le coefficient de corrélation est proche de -1, les variables sont

corrélées négativement ;

Si le coefficient de corrélation est proche de 0, les variables sont

non corrélées.

15/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

La corrélation
Propriétés :

Si X et Y sont indépendants, alors rx, y = 0.

Si X et Y suivent une loi normale, il y a équivalence entre

indépendance et corrélation nulle.

Le coefficient de corrélation peut être égal à 0 alors qu’il existe

une relation non linéaire entre les variables.

Le coefficient de corrélation d’une variable avec elle même est

toujours égal à 1.

Le coefficient de corrélation ne permet pas de montrer la relation

causale qui peut exister entre les variables.
16/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

La corrélation
Exemple 1 : Diagrammes de dispersion

17/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

La corrélation
Test sur le coefficient de corrélation :

Si X et Y sont supposées gaussiennes, on peut utiliser le test sur

le coefficient de corrélation.

Si on veut tester si un coefficient de corrélation est significatif, on

pose l’hypothèse nulle H0 : rx, y = 0 contre l’hypothèse alternative
H1 : rx, y , 0.
√
ρx,y n−2
Sous H0 , on peut démontrer que q suit une loi de Student
2
(1−ρx,y )
à n − 2 degré de liberté.
√
|q
ρx,y | n−2
En effet, on calcule le t de Student empirique :t ∗ = .
2
(1−ρx,y )
18/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

La corrélation

Test sur le coefficient de corrélation :

α/
Lorsque t ∗  tn−22 , on rejette H0 .

Le coefficient de corrélation est significativement différent de 0.

19/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

La corrélation

Remarques :

Le coefficient de corrélation de Pearson est très sensible aux va-

leurs aberrantes.

La présence d’une observation aberrante peut rendre le coeffi-

cient de corrélation positif, alors qu’en réalité il est négatif.

20/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Application :

Un agronome s’intéresse à la liaison pouvant exister entre le rende-

ment de maı̈s x (en quintal) d’une parcelle de terre et la quantité d’en-
grais y (en kilo). Il relève 10 couples de données consignés dans le
tableau ci dessous :
Rendement x 16 18 23 24 28 29 26 31 32 34
Engrais y 20 24 28 22 32 28 32 36 41 41

1- Tracer le nuage de points et le commenter.

2- Calculer le coefficient de corrélation simple et tester sa significa-

tion par rapport à 0 pour un seuil α = 0, 05.

21/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Introduction :

Dans de nombreux domaines (ingénierie, sciences physiques et

chimiques, économie, gestion, etc), les chercheurs s’intéressent à
vérifier s’il existe une relation entre deux ou plusieurs variables
et à étudier la nature de cette relation.

L’analyse de régression est une méthode statistique qui consiste à

étudier et à modéliser la relation entre ces différents variables.

En effet, elle permet d’expliquer la relation qui peut exister entre

une variable dépendante ou à expliquer et un ensemble de va-
riables indépendantes ou explicatives.

22/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Introduction :

Le concept de régression remonte à l’étude de Francis Galton

(1885) qui s’intéresse à la relation entre la taille des parents et
celle de leurs enfants.

Dans son étude, il a démontré que les parents de grande taille ont
des enfants plus petits qu’eux, et que les parents de petite taille
ont des enfants plus grands qu’eux.

En général, un modèle de régression linéaire simple consiste à

étudier la relation entre une variable dite dépendante ou à expli-
quer Y et une variable dite indépendante ou explicative X.

23/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Exemple introductif :

On considère la fonction de consommation keynésienne suivante :

Ct = a0 + a1 Yt , avec :

Ct : Consommation ;

Yt : Revenu ;

a1 : Propension marginale à consommer ;

a0 : Consommation autonome ou incompressible.

a0 et a1 : Paramètres du modèle ou coefficients de la régression.

24/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Exemple :

Dans cette spécification, on considère que la consommation n’est

expliquée que par le revenu.

Alors qu’en réalité, il existe d’autre facteurs qui peuvent expli-

quer la consommation.

D’où la nécessité d’intégrer dans l’équation un terme d’erreur

qui synthétise l’ensemble des variables qui peuvent expliquer la
consommation et qui ne sont pas prises en compte.

Par conséquent, on écrit le modèle sous la forme suivante : Ct =

a0 + a1 Yt + εt

25/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Exemple introductif :

En fait, le terme d’erreur regroupe trois sortes d’erreurs :

- Erreur de spécification : la seule variable explicative n’est pas suf-

fisante pour expliquer le phénomène à expliquer ;

- Erreur de mesure : les données ne représentent pas exactement le

phénomène à expliquer ;

- Erreur de fluctuation d’échantillonnage : les estimations peuvent

différer d’un échantillon à l’autre.

26/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Présentation du modèle :

Un modèle de régression linéaire simple s’écrit sous la forme sui-

vante :

yt = a0 + a1 xt + εt , avec :

- yt : variable à expliquer, dépendante ou endogène au temps t ;

- xt : variable explicative, indépendante ou exogène au temps t ;

- a0 et a1 : paramètres du modèle ;

- εt : terme d’erreur ou perturbation non observable.

27/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Hypothèses :

H1 : Le modèle est linéaire en xt .

H2 : Les valeurs xt sont observées sans erreur (xt est une variable
non aléatoire).

H3 : E (εt ) = 0, l’erreur est d’espérance nulle, c’est à dire le modèle

est bien spécifié.
 
H4 : E εt2 = σε2 , la variance de l’erreur est constante et ne dépend
pas de l’observation. C’est l’hypothèse d’homoscédasticité.

28/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Hypothèses :

H5 : E (εt εt 0 ) = 0 si t , t 0 , les erreurs sont indépendantes.

H6 : Cov (xt , εt ) = 0, l’erreur est indépendante de la variable expli-

cative.

H7 : εt ∼ N (0, σ ), la distribution des erreurs suit une loi normale

ou gaussienne. Cette hypothèse est considérée comme un élément
clé de l’inférence statistique.

29/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Estimation des paramètres :

L’estimation des paramètres a0 et a1 peut se faire par deux

méthodes :

- Méthode des moindres carrés ordinaires (MCO) ;

- Méthode du maximum de vraisemblance.

30/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Estimation des paramètres :

Les paramètres a0 et a1 sont estimés en minimisant la somme

des carrés des distances entre chaque observation et la droite de
régression, d’où le nom de d’estimateur des moindres carrés ordi-
naires (MCO).

t=n t=n
εt2 = Min (y − a0 − a1 xt )2 = Min S
P P
Min
t=1 t=1

∂S ∂S
La distance sera minimum si : ∂a0
= ∂a1
=0

31/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Estimation des paramètres :

On dérive l’expression précédente par rapport aux paramètres a0

et a1 , et on obtient :
 ∂S P
 = −2 (yt − â0 − â1 xt ) = 0
 ∂a0

t

∂S P
 ∂a = −2 xt (yt − â0 − â1 xt ) = 0



1 t
P
En distribuant l’opérateur , on obtient :
xt yt − â0 xt − â1 xt2 = 0
 P P P



 Pt t P t
y − nâ − â x = 0

t 0 1 t



t t

Ces deux équations dites normales.

32/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Estimation des paramètres :

En résolvant le système, on obtient :

t=n
P t=n
P
(xt −x̄)(yt −ȳ) xt yt −n x̄ ȳ
t=1 t=1
- â1 = t=n = t=n
(xt −x̄)2 xt2 −n x̄2
P P
t=1 t=1

- â0 = ȳ − â1 x̄

33/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Les différentes écritures du modèle :

On distingue deux écritures du modèle de régression linéaire

simple.
Une écriture de la forme théorique du modèle : yt = a0 + a1 xt + εt
Une écriture de la forme estimée du modèle : yt = â0 + â1 xt + et .

ŷt = â0 + â1 xt s’appelle la valeur ajustée ou prédite de y par le

modèle.
et = yt − ŷt s’appelle le résidu. C’est la différence entre la valeur de
y observée et la valeur prédite.

Il ne faut pas confondre et et εt . Le résidu et est connu et l’erreur

εt est inconnue.
34/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Graphique 1 : La variable y en fonction de la variable x

35/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Graphique 2 : La variable y en fonction de la variable x

36/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Application :
A partir des données de ce tableau, on demande de calculer les
estimations de â0 et â1 .
Y X
7389,99 8000
8169,65 9000
8831,71 9500
8652,84 9500
8788,08 9800
9616,21 11000
10593,45 12000
11186,11 13000
12758,09 15000
13869,62 16000

37/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Propriétés des estimateurs :

â1 et â0 sont des estimateurs sans biais de a0 et a1

Les variances des estimateurs â0 et â1 sont :
σε2
- V (â1 ) =
(x−x̄)2
P
t
 

1 x̄ 2 
- V (â0 ) = σε2  n + P 2

(x−x̄) 
t

Et la covariance est :
x̄σε2
- cov (â0 , â1 ) = − P
(xt −x̄)2
t

38/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Propriétés des estimateurs :

(x − x̄)2 tend aussi vers l’infini, et par

P
Si n tend vers l’infini alors
t
conséquent V (â1 ) tend vers 0.

De même, si n tend vers l’infini alors V (â0 ) tend vers 0.

â1 et â0 sont alors des estimateurs convergents.

39/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Estimateur de la variance de l’erreur σε2 :

L’estimateur de la variance de l’erreur σε2 est donné par :

1
- σ̂ε2 = et2
P
n−2
t

σε2 est un estimateur sans biais de σε2 .

40/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Qualité d’ajustement :
Décomposition de la variation totale des observations :
La somme des carrés totale (SCT) est égale à la somme des carrés
expliquée (SCE) plus la somme des carrés résiduelle (SCR) :
(yt − ȳ)2 = (ŷt − ȳ)2 + (yt − ŷt )2
P P P
t t t
P 2
• SCT = (yt − ȳ) représente la variation totale des observations
t
autour de leur moyenne ;
(ŷt − ȳ)2 représente la variance expliquée par la
P
• SCE =
t
régression ;
• SCR = (yt − ŷt )2 représente la variance résiduelle ou non ex-
P
t
pliquée.
41/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Qualité d’ajustement :
Coefficient de détermination :

Le coefficient de détermination R2 est la mesure la plus impor-

tante de la qualité de l’ajustement.

Il exprime la proportion de la variabilité de de y expliquée par le

modèle.

Il est défini par :

SCE SCR
R2 = SCT = 1− SCT

42/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Qualité d’ajustement :
Propriétés :
0 ≤ R2 ≤ 1.
Si R2 = 1, cela signifie que l’ajustement est parfait. C’est à dire
tous les points se trouvent sur la droite. Dans ce cas les résidus
sont nuls et la somme de leurs carrés est également nulle et par
conséquent, SCT = SCE.
Si R2 = 0, cela indique que le modèle n’explique rien. C’est à dire
la somme des carrés expliquée est nulle et par conséquent,SCT =
SCR.

Le coefficient de détermination est le carré du coefficient de

corrélation de Pearson.
Le coefficient de détermination ne dépend pas des unités de me- 43/64
sure. Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Test global de significativité de la régression :

Le test de la significativité global du modèle consiste à tester si

tous les coefficients du modèle sont significatifs, excepté de la
constante.
Cela correspond dans un modèle de régression simple à tester
l’hypothèse H0 : a1 = 0 contre l’hypothèse H1 : a1 , 0.

Pour ce faire, on utilise la statistique F de Fisher.

Cette statistique est donnée par :
SCE/
F∗ = 1 = (n − 2) R2
SCR/ 1−R2
(n − 2)

44/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Test global de significativité de la régression :

Cette statistique suit la loi de Fisher à (1, n − 2à ddl.

α
Si F ∗  F1;n−2 , on rejette au seuil de α l’hypothèse H0 d’égalité des
variances, la variable xt est significative.
α
Si F ∗ ≺ F1;n−2 , la variable xt n’est pas significative.

45/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Tests sur les paramètres :

On cherche à vérifier si x affecte significativement y.

Pour ce faire, on teste la significativité du coefficient a1 (test bi-

latéral).
On teste alors à un seuil de 5% , l’hypothèse H0 : a1 = 0 contre
l’hypothèse H1 : a1 , 0.
â1 −a1
Comme σ̂â1 suit une loi de Student à n − 2 degrés de liberté, sous
H0 , le ratio âσ̂1 −0 suit une loi de Student à n − 2 degrés de liberté.
â1

En fait, le test de significativité de a1 consiste comparer le ratio

de Student empirique t ∗ = σ̂|â1 | à la valeur du t de Student lu dans
â1
la table à n − 2 degrés de liberté pour un seuil de probabilité de
5% ? 46/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Régression linéaire simple

Tests sur les paramètres :

Ainsi, le coefficient a1 est significatif si :

α
• Si t ∗  tn−2
2
.
  
• ou de façon équivalente si p T(n−2)   |t ∗ | ≺ 0, 05.

Lorsque le nombre d’observations est grand, a1 est significatif si

t ∗  1, 96.

47/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Définition :

Le modèle de régression multiple est une généralisation du

modèle de régression simple.

Il consiste à étudier la relation entre une variable dépendante et

plusieurs variables indépendantes.

Il s’écrit sous la forme suivante :

yt = a0 + a1 x1t + a2 x2t + · · · + ak xkt + εt pour t = 1, ...., n

48/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Définition :

yt est une variable dépendante ou variable à expliquer.

x1t , x2t , ..., xkt sont des variables indépendantes ou variables ex-
plicatives.

a0 , a1 , a2 , ak sont les paramètres de la régression ou les coefficients

de la régression.

εt est le terme d’erreur.

n est le nombre d’observations.

49/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Écriture matricielle du modèle :

Le modèle de régression multiple s’écrit sous la forme matricielle

comme suit :

Y = X a + ε
(n,1) (n, k+1) (k+1, 1) (n, 1)

Avec :
1
  
 y1
 
  x11 x21 ... xK1   ε1 
a0
 
 y
 2



 1 x12 x22 ... xk2 
   
 ε2 

 .
 .



 .. .. .. .. 


 a1 
 
 .. 

 .   . . . ... .  
a2

 ; ε =  . 
Y =   ; X =   ; a =  
 yt 


 1 x1t x2t . . . xkt 
  ..

 
 εt 

.

 .. .. .. .. .. ..
       
 . 
. . . ... . .
    
ak
     

yn 1 x1n x2n ... xkn εn
    

50/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Les hypothèses du modèle :

Les hypothèses du modèle sont :

H1 : Les variables xkt sont observées sans erreur.

H2 : E (εt ) = 0, l’espérance mathématique de l’erreur est nulle. Le

modèle est donc bien spécifié.
 
H3 : E εt2 = σε2 , la variance de l’erreur est constante (l’hypothèse
de l’homoscédasticité).

H4 : E (εt , εt 0 ) = 0 si t , t 0 , les erreurs sont non corrélées ou

indépendantes.

H5 : cov (xkt , εt ), les erreurs sont indépendantes des variables ex-

plicative. 51/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Les hypothèses du modèle :

H6 : Absence de colinéarité entre les variables explicatives, ce qui

implique que la matrice (XX 0 ) est inversible.

H7 : Les erreurs sont distribuées selon la loi normale.

H8 : (XX 0 ) n tend vers une matrice finie non singulière.



H8 : n  K + 1, le nombre d’observation est supérieur au nombre

des variables explicatives.

52/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Estimation des paramètres du modèle :

On considère le modèle de régression linéaire multiple suivant :

Y = Xa + ε

Pour estimer le vecteur des coefficients du modèle a =

(a0 , a1 , . . . , ak )t , on utilise la méthode des moindre carrées ordi-
naires.

Cette méthode consiste à minimiser la somme des carrés des er-

reurs, soit :
n
εt2 = Min ε0 ε = Min (Y − Xa)0 (Y − Xa) = Min S
P
Min
t=1

53/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Estimation des paramètres du modèle :

Pour cela, on annule les dérivées par rapport à a et on obtient :

∂S
∂a
= −2X 0 Y + 2X 0 X â = 0

La solution de ce système suppose que la matrice (X 0 X) est inver-

sible, ce qui donne :

â = (X 0 X)−1 X 0 Y

Dans le cas d’une colinéarité parfaite entre deux variables expli-

catives, la matrice (X 0 X) est non inversible et par conséquent, la
méthode des MCO est défaillante.

54/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Valeurs ajustées et résidus :

Le vecteur aléatoire Ŷ = X â est appelé le vecteur des valeurs

ajustées ou prédites.

Le vecteur e = Y − Ŷ est appelé vecteur des résidus.

55/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Valeurs ajustées et résidus :
On suppose que la variable Y est expliquée par deux variables X1 et
X2 .

56/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Propriétés des estimateurs :

L’estimateur â est sans biais car E (â) = a.

En effet,
 
E (â) = E (X 0 X)−1 X 0 Y
= (X 0 X)−1 X 0 E (Y )
= (X 0 X)−1 X 0 E (Xa + ε)
= (X 0 X)−1 X 0 E (Xa) + (X 0 X)−1 X 0 E (ε)
= (X 0 X)−1 X 0 Xa
=a

L’estimateur â est convergent car lim Ωâ = 0.

n→∞

57/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Propriétés des estimateurs :

Ainsi,
 
Ωâ = E (â − a) (â − a)0
  
= E (X 0 X)−1 X 0 ε ε0 X(X 0 X)−1
= (X 0 X)−1 X 0 E (εε0 ) X(X 0 X)−1
= σε2 (X 0 X)−1 X 0 X(X 0 X)−1
= σε2 (X 0 X)−1

D’où,
σε2 X 0 X −1
 
Ωâ = n n

58/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Propriétés des estimateurs :

L’estimateur sans biais de σε2 s’écrit comme suit :

n
et2
P
e0 e
σ̂ε2 = t
n−k−1 = n−k−1

En remplaçant la variance de l’erreur par son estimateur, on ob-

tient :

Ωâ = σ̂ε2 (X 0 X)−1

L’estimateur â est le meilleur estimateur linéaire non biaisé BLUE

( théorème de Gauss Markov).

59/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Qualité d’ajustement :

La formule de la décomposition de la variation totale peut s’écrire

sous
P la forme P:
(yt − ȳ)2 = (ŷt − ȳ)2 + (yt − ŷt )2 , avec :
P
t t t

(yt − ȳ)2 représente la variation totale des observations

P
• SCT =
t
autour de leur moyenne ;

(ŷt − ȳ)2 représente la variance expliquée par la

P
• SCE =
t
régression ;

• SCR = (yt − ŷt )2 représente la variance résiduelle ou non ex-

P
t
pliquée.
60/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Qualité d’ajustement :

Afin de juger de la qualité de l’ajustement du modèle, on calcule

R2 , le coefficient de détermination, qui représente la part de la
variance de Y expliquée par le modèle :
(ŷt −ȳ)2 et2
P P
SCE
R2 = = t
= 1− P t
SCT (yt −ȳ)2 (yt −ȳ)2
P
t t

Plus le nombre de variables sera grand et plus le R2 sera grand

aussi. On définit alors le R2 ajusté qui tient compte du nombre de
variables explicatives du modèle.
Le R2 ajusté, noté R̄2 est donné par :
 
n−1
R̄2 = 1 − n−k−1 1 − R2

61/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Test de significativité global du modèle :

Le test de la significativité global du modèle consiste à tester si

tous les coefficients du modèle sont significatifs, excepté de la
constante.
Cela correspond dans un modèle de régression multiple à tester
l’hypothèse H0 : a1 = a2 = · · · = ak = 0 contre l’hypothèse H1 : il
existe au moins un des coefficients non nul.
Pour ce faire, on utilise la statistique F de Fisher. Cette statistique
est donnée par :
(ŷt −ȳ)2 /k
P
R2 /k
F∗ = Pt =
et2 /(n−k−1) (1−R2 )/(n−k−1)
t

62/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Test global de significativité de la régression :

Cette statistique suit une loi de Fisher.

On compare cette statistique de Fisher calculée au F théorique à

k et (n − k − 1 degrés de liberté.

α
Si F ∗  Fk;n−k−1 , on rejette au seuil de α l’hypothèse H0 , le modèle
est donc globalement significatif.

63/64
Économétrie
 Introduction
Les étapes de la modélisation
Types de modèles
La corrélation
Régression linéaire simple
Le modèle de régression multiple

Le modèle de régression multiple

Test de significativité des paramètres :

Pour tester la significativité des coefficients un par un, on teste

l’hypothèse H0 : ai = 0 contre l’hypothèse H1 : ai , 0.

|âi | α/2
On rejette l’hypothèse nulle si t ∗ = σ̂âi  tn−k−1

Alors, un coefficient est significativement différent de 0 si t ∗ 

α/2
tn−k−1

64/64
Économétrie