FONDEMENTS
MATHEMATIQUES DE L’IA :
~MODEL ARMA~
HENRI OTHNIEL GOHI
Table des matières
INTRODUCTION ............................................................................................... 3
I. COMPREHENSION DES TERMES AUTOREGRESSIFS (AR) ET
DES TERMES MOYENNE MOBILE (MA) ................................................... 3
A. MODELE AUTOREGRESSIF (AR) ................................................... 3
B. MODELE MOYENNE MOBILE (MA) .............................................. 4
II. LE MODELE ARMA ............................................................................... 4
A. LE MODELE ARMA ET SES COMPOSANTS ................................ 4
B. EQUATION GENERALE D’UN MODELE ARMA(p, q) ................ 5
III. IMPLEMENTATION DU MODELE ARMA ....................................... 5
A. IDENTIFICATION DES ORDRES (p, q) DU MODELE ................. 5
B. ESTIMATION DES PARAMETRES DU MODELE ........................ 7
C. PREDICTIONS ET EVALUATIONS ................................................. 8
IV. QUELQUES RESULTATS ...................................................................... 8
A. JEU DE DONNEES (SERIE TEMPORELLE) .................................. 8
B. LOSS FUNCTIONS DE TRAIN ET DE VALIDATION .................. 9
C. PREDICTIONS...................................................................................... 9
CONCLUSION .................................................................................................. 10
2
INTRODUCTION
En statistiques, les modèles ARMA (modèles autorégressifs et moyenne
mobile), ou aussi modèle de Box-Jenkins, sont les principaux modèles de
séries temporelles.
Étant donné une série temporelle Xt, le modèle ARMA est un outil pour
comprendre et prédire, éventuellement, les valeurs futures de cette série. Le
modèle est composé de deux parties : une partie autorégressive (AR) et une
part moyenne-mobile (MA). Le modèle est généralement noté ARMA(p,q),
où p est l'ordre de la partie AR et q l'ordre de la partie MA.
Dans la suite de ce rapport, nous allons explorer les concepts clés du modèle
ARMA ainsi que les étapes nécessaires à sa mise en œuvre.
I. COMPREHENSION DES TERMES AUTOREGRESSIFS
(AR) ET DES TERMES MOYENNE MOBILE (MA)
Comme mentionné dans l’introduction, le modèle ARMA repose sur deux
concepts fondamentaux : les termes autorégressifs (AR) et les termes
moyenne mobile (MA)
A. MODELE AUTOREGRESSIF (AR)
Dans un modèle autorégressif, les valeurs futures sont prédites en utilisant
les observations passées. Chaque valeur dépend linéairement des p
observations précédentes. L'ordre d'un modèle AR est noté p, et une
équation AR(p) est utilisée pour représenter le processus autorégressif.
où sont les paramètres du modèle, est une constante et un bruit
blanc. La constante est bien souvent omise dans la littérature, le processus étant
alors dit centré.
3
• Exemple : processus AR(1)
Un modèle AR(1) est donné par :
B. MODELE MOYENNE MOBILE (MA)
Dans un modèle moyenne mobile, les erreurs passées sont utilisées pour
prédire les valeurs futures. Chaque valeur est une combinaison linéaire des
q erreurs précédentes. L'ordre d'un modèle MA est noté q, et une équation
MA(q) est utilisée pour représenter le processus de moyenne mobile.
où les θ1, …, θq sont les paramètres du modèle et εt, εt-1, … sont encore une fois
des termes d'erreur.
II. LE MODELE ARMA
Le modèle ARMA combine les termes autorégressifs et les termes moyens
mobiles pour modéliser les processus temporels.
A. LE MODELE ARMA ET SES COMPOSANTS
Le modèle ARMA est défini par les ordres p et q, qui représentent
respectivement le nombre de termes autorégressifs et de termes moyens
mobiles. Un modèle ARMA(p, q) est une combinaison linéaire de termes
autorégressifs et de termes moyens mobiles. Les termes AR capturent les
relations entre les observations passées et la valeur actuelle, tandis que les termes
MA modélisent les erreurs résiduelles.
4
B. EQUATION GENERALE D’UN MODELE ARMA(p, q)
Où les φi et θi sont les paramètres du modèle et les εi sont les termes d’erreur.
• Remarque
Un modèle autorégressif AR(p) est un ARMA(p, 0)
Un modèle moyenne mobile MA(q) est un ARMA(0, q)
III. IMPLEMENTATION DU MODELE ARMA
Pour mettre en œuvre le modèle ARMA, plusieurs étapes doivent être
suivies.
A. IDENTIFICATION DES ORDRES (p, q) DU MODELE
La première étape consiste à analyser les données temporelles et à identifier
les propriétés du processus. L'autocorrélation et l'autocorrélation partielle
peuvent être utilisées pour estimer les ordres p et q du modèle ARMA.
Voici l’autocorrélation et l'autocorrélation partielle que nous avons obtenus
pour notre jeu de données :
5
6
B. ESTIMATION DES PARAMETRES DU MODELE
Une fois que les ordres p et q sont identifiés, les coefficients du modèle
doivent être estimés. La méthode des moindres carrés ou d'autres techniques
d'estimation peuvent être utilisées pour trouver les valeurs optimales des
paramètres. Dans notre cas, nous utiliserons la méthode de la descente de
gradient pour trouver les valeurs optimales des paramètres du modèle.
La descente de gradient est un algorithme d'optimisation couramment utilisé
dans le domaine de l'apprentissage automatique et de l'optimisation
numérique. Il est largement utilisé pour trouver le minimum d'une fonction
convexe ou pour ajuster les paramètres d'un modèle afin de minimiser une
fonction de coût.
• Formule :
• Illustration :
7
C. PREDICTIONS ET EVALUATIONS
Une fois que les paramètres optimaux sont trouvés, le modèle ARMA peut
être utilisé pour prédire les valeurs futures. L'évaluation de la performance
du modèle se fait en comparant les prédictions avec les valeurs réelles à
l'aide de métriques telles que l'erreur quadratique moyenne (RMSE). Pour
les exigences du projet, nous avons utilisé la Mean Squared Error (MSE).
Où est le vecteur des valeurs observées de la valeur prédite et est la
valeur prédite.
IV. QUELQUES RESULTATS
A. JEU DE DONNEES (SERIE TEMPORELLE)
8
B. LOSS FUNCTIONS DE TRAIN ET DE VALIDATION
C. PREDICTIONS
9
CONCLUSION
Le modèle ARMA est un outil puissant pour modéliser et prédire les
processus temporels. En combinant les termes autorégressifs et les termes
moyens mobiles, il permet de capturer les structures complexes des
données. Son implémentation nécessite une compréhension approfondie des
termes AR et MA, ainsi que des étapes clés telles que l'identification du
modèle, l'estimation des paramètres, le diagnostic et l'évaluation. En
utilisant le modèle ARMA de manière appropriée, nous pouvons obtenir des
prédictions précises et améliorer notre compréhension des phénomènes
temporels.
10
