La régression
Présenté par : Radouan DAHBI
IIRT (4ème année)
2025/2026
Régression
Plan du cours 1 Définition
2 Formule de la régression linéaire
3 Coefficient de corrélation
4
Optimiser l’ajustement de la
régression linéaire
5 Métriques d’évaluation
6 Exemple pratique
Régression 2
Définition
Régression 3
Définition
• La régression permet de trouver et de quantifier la relation entre les variables.
• Elle peut être utilisée pour :
o Faire des prédictions : prédire les valeurs futures d’une variable cible (ou dépendante) en
fonction des valeurs de variables explicatives (ou indépendantes).
o Estimer les effets de différents facteurs sur une variable cible : quantifier l’impact de
chaque variable indépendante sur la variable cible.
o Identifier des motifs dans les données : repérer des tendances ou relations sous-jacentes
dans les données, même si ces relations ne sont pas évidentes à premier vue.
• Exemple: Prédire le prix des maisons à partir de leur surface…
Régression 4
Régression linéaire vs. Régression non linéaire
• L'analyse de régression peut être linéaire, où
la relation entre les variables est modélisée
comme une ligne droite.
• Elle peut être non linéaire, où la relation est
modélisée à l'aide d'une courbe ou d'une
autre fonction non linéaire.
Régression 5
A quoi sert la régression linéaire
• La régression linéaire est une technique d'analyse
statistique qui vise à établir une relation linéaire entre
une variable dépendante (ou cible) continue et une ou
plusieurs variables indépendantes (ou explicatives),
permettant ainsi de prédire des valeurs numériques
en fonction des valeurs des variables indépendantes.
• Elle trouve des coefficients optimaux pour la ligne de
régression qui minimise la somme des carrés des
écarts entre les valeurs prédites et les valeurs réelles.
Régression 6
Formule de la régression linéaire
Régression 7
Formule mathématique
• La régression linéaire multiple repose sur l'hypothèse que la relation entre plusieurs variables
indépendantes (x1, x2,…) et la variable dépendante (y) peut être exprimée par une équation linéaire :
• La régression linéaire simple (cas simple : 1 variable) :
Régression 8
Formule mathématique
Objectif : Trouver les coefficients 𝛽𝑖 qui
minimisent l’erreur quadratique moyenne
entre les valeurs prédites et les valeurs
réelles.
On recherche la droite qui passe « au plus
près » des points.
Régression 9
Formule mathématique
• La régression linéaire polynomiale est une extension de la régression linéaire où la relation entre les
variables indépendantes (x1, x2,…) et la variable dépendante (y) n’est pas supposée linéaire, mais
polynomiale :
• Pour un modèle quadratique :
Régression 10
Formule mathématique
• Les coefficients de régression (β1, β2,…) permettent de comprendre comment chaque variable
indépendante influence la variable cible. Par exemple, si β1 = 200, cela signifie qu’une augmentation
de 1 unité de x1 augmente y de 200 unités.
• Exemple : Imaginez que vous cherchez à prédire le prix d’une maison (y) en fonction de la surface (x1)
et de son emplacement (x2).
Régression 11
Coefficient de corrélation
Régression 12
Coefficient de corrélation
• C'est la mesure de l'association linéaire entre deux variables.
• Elle détermine la force de l'association linéaire et sa direction.
• La corrélation varie de -1 à 1 :
o ρ = −1 : La relation linéaire entre X et Y est forte et varie dans des directions
opposées.
o ρ = 1 : La relation linéaire entre X et Y est forte et varie dans les mêmes directions.
o ρ = 0 : X et Y ne sont pas corrélés.
Régression 13
Coefficient de corrélation
Régression 14
Optimiser l’ajustement de la
régression linéaire
Régression 15
Erreur quadratique
• Pour évaluer la précision d'une droite d'estimation, il est nécessaire d'utiliser une métrique
permettant de mesurer l'erreur. Cette métrique, souvent appelée fonction de coût, permet de
quantifier l'écart entre les valeurs prédites et les valeurs réelles. Une des fonctions de coût les plus
couramment utilisées en régression linéaire est l'erreur quadratique moyenne (Mean Squared Error,
MSE).
• L'erreur quadratique moyenne se calcule en prenant la moyenne des carrés des différences entre les
valeurs prédites et les valeurs réelles. En tant que fonction de coût, elle mesure l'erreur globale du
modèle et sert d'objectif à minimiser pour ajuster les coefficients de la régression. Sa formule est la
suivante :
Régression 16
Optimiser l’ajustement de la régression linéaire
• Objectif : Minimiser la fonction de coût J(β0,β1) pour trouver les coefficients optimaux.
• Minimisation de l’erreur :
o La fonction de coût mesure l’écart global entre les valeurs prédites par le modèle et les
valeurs réelles.
o Sélectionner (β0,β1) de telle sorte que f(x) soit proche de y pour tous les échantillons de
l'ensemble de données d'entraînement (x, y).
Régression 17
Optimiser l’ajustement de la régression linéaire
• Trouver l’erreur minimale avec la descente de gradient
Régression 18
Optimiser l’ajustement de la régression linéaire
Régression 19
Métriques d’évaluation
Régression 20
Métriques d’évaluation
MAE (Erreur absolue moyenne)
représente la différence entre les valeurs originales et prédites obtenue en
prenant la moyenne de la différence absolue sur l'ensemble des données.
MSE (Erreur quadratique moyenne)
représente la différence entre les valeurs originales et prédites obtenue en
élevant au carré la différence moyenne sur l'ensemble des données.
RMSE (Racine de l'erreur quadratique moyenne)
est le taux d'erreur obtenu en prenant la racine carrée de MSE.
R² (Coefficient de détermination)
représente le coefficient mesurant à quel point les valeurs s'ajustent par
rapport aux valeurs originales. La valeur, de 0 à 1, est interprétée en
pourcentage. Plus la valeur est élevée, meilleure est la qualité du modèle.
Régression
Exemple pratique
Régression 22
Exemple pratique : Prédiction des prix des maisons
Régression
Exemple pratique : Prédiction des prix des maisons
Régression
Exemple pratique : Prédiction des prix des maisons
Régression
Exemple pratique : Prédiction des prix des maisons
Régression
Exemple pratique : Prédiction des prix des maisons
Régression
Exemple pratique : Prédiction des prix des maisons
Régression
Des questions
[email protected]
Régression 29
