0% ont trouvé ce document utile (0 vote)
164 vues5 pages

Régression Linéaire vs Non Linéaire

Ce document décrit les principes de base de la régression non linéaire et compare cette méthode à la régression linéaire. La régression non linéaire génère une équation décrivant la relation non linéaire entre une variable de réponse et une ou plusieurs variables prédictives. Contrairement à la régression linéaire, la régression non linéaire accepte des formes fonctionnelles non linéaires.

Transféré par

Nour Fakkar
Copyright
© © All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats ODT, PDF, TXT ou lisez en ligne sur Scribd
0% ont trouvé ce document utile (0 vote)
164 vues5 pages

Régression Linéaire vs Non Linéaire

Ce document décrit les principes de base de la régression non linéaire et compare cette méthode à la régression linéaire. La régression non linéaire génère une équation décrivant la relation non linéaire entre une variable de réponse et une ou plusieurs variables prédictives. Contrairement à la régression linéaire, la régression non linéaire accepte des formes fonctionnelles non linéaires.

Transféré par

Nour Fakkar
Copyright
© © All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats ODT, PDF, TXT ou lisez en ligne sur Scribd

 INTRODUCTION 

-Un modèle est linéaire si ses paramètres et ses variables sont linéaires, ainsi sa forme
fonctionnelle sera linéaire. Un paramètre est linéaire s’il n’est pas multiplié avec un autre
paramètre ou s’il n’est pas élevé à une puissance supérieure à 1. De même pour une
variable, elle sera linéaire si la sensibilité d’une autre variable à la suite de sa variation est
constante, c’est-à-dire indépendante de la variable à la base du changement ou d’une autre
variable quelconque dans le modèle.

1-Definition  :
-La régression non linéaire génère une équation permettant de décrire la relation non
linéaire entre une variable de réponse continue et une ou plusieurs variables de prédiction,
et prévoit de nouvelles observations. Utilisez la régression non linéaire plutôt que la
régression sur les moindres carrés lorsque vous ne pouvez pas modéliser de manière
adéquate la relation avec des paramètres linéaires. Les paramètres sont linéaires lorsque
chaque terme du modèle est additif et contient seulement un paramètre qui multiplie le
terme.
On utilise en général la norme euclidienne, ou norme ℓ 2 ; on parle alors de méthode des
moindres carrés.

-Exemple de régression non linéaire avec barres d'incertitudes.

1
-Décomposition en deux gaussiennes en utilisant six paramètres

Démarche générale
-La base de la démarche est identique à la régression linéaire : pour un jeu de données
(xi, yi)1 ≤ i ≤ n, S est une fonction des paramètres (aj)1 ≤ j ≤ m. Si S est minimum, alors si ces

dérivées existent. Cela fournit un système de n équations, en général non linéaires, qu'il
n'est pas possible de résoudre de manière analytique.

Notons que l'on peut effectuer une régression non linéaire sur un modèle linéaire. Par
exemple, on sait que la norme ℓ1 — |ri| — est moins sensible aux points aberrants que la
norme ℓ2. Mais le système d'équations que l'on obtient n'est pas linéaire.

2
2-Comparaison de la régression non linéaire et de la régression linéaire  :
-Pour comprendre les principes de base de la régression non linéaire, il est important

d'en connaître les similarités et les différences avec la régression linéaire.

o Similarités :
- Les deux analyses :
 Décrivent mathématiquement la relation entre une variable de réponse et une ou
plusieurs variables de prédiction.
 Peuvent modéliser une relation en courbe.
 Minimisent la somme des carrés de l'erreur résiduelle (SCE).
 Proposent des hypothèses similaires, vérifiables à l'aide de graphiques des valeurs
résiduelles.

o Différences
-La différence fondamentale entre la régression linéaire et la régression non linéaire (à
laquelle ces analyses doivent leur nom) tient aux formes fonctionnelles acceptables du
modèle. De façon plus spécifique, la régression linéaire requiert des paramètres linéaires, ce
qui n'est pas le cas de la régression non linéaire. Utilisez la régression non linéaire plutôt
que la régression linéaire lorsque vous ne pouvez pas modéliser de manière adéquate la
relation avec des paramètres linéaires.

-Une fonction de régression linéaire doit être linéaire dans les paramètres, ce qui limite
l'équation à une seule forme basique. Les paramètres sont linéaires lorsque chaque terme du
modèle est additif et contient seulement un paramètre qui multiplie le terme :

Réponse = constante + paramètre * prédicteur + ... + paramètre * prédicteur

ou y = βo + β1X1 + β2X2 + ... + βkXk

-En revanche, une équation non linéaire peut prendre différentes formes. En fait, comme il
existe un nombre infini de possibilités, vous devez spécifier la fonction de prévision utilisée
par Minitab pour effectuer une régression non linéaire. Ces exemples illustrent la variété
des possibilités (les θ représentent les paramètres) :
y = θX (Convexe 2, 1 paramètre, 1 prédicteur)
3
y = θ1 * X1 / ( θ2 + X1 ) (Equation de Michaelis-Menten, 2 paramètres, 1 prédicteur)
y = θ1 - θ2 * ( ln ( X1 + θ3 ) - ln ( X2 )) (Equation de Nernst, 3 paramètres, 2 prédicteurs)
-Le choix de la fonction de prévision dépend souvent de vos connaissances préalables sur la
forme de la courbe de la réponse ou du comportement des propriétés physiques et
chimiques du système. Les formes de courbes non linéaires possibles sont notamment :
concave, convexe, à croissance ou décroissance exponentielle, à courbe sigmoïde (S) et
asymptotique. Vous devez spécifier la fonction qui satisfait à la fois aux exigences liées à
vos connaissances préalables et aux hypothèses de régression non linéaire.

-Bien que le nombre de fonctions de prévision pouvant être spécifiées offre une grande
flexibilité, déterminer la fonction fournissant l'ajustement optimal pour vos données peut
requérir des efforts considérables. Cela demande souvent une connaissance du domaine
concerné, des analyses des erreurs et des essais ainsi que des recherches supplémentaires.
Pour les équations non linéaires, déterminer l'effet de chaque prédicteur sur la réponse peut
s'avérer moins intuitif que pour les équations linéaires.

-La régression non linéaire utilise une procédure différente de celle utilisée dans la
régression linéaire pour réduire la somme des carrés de l'erreur résiduelle (SCE).

-MODELES NON LINEAIRES FACILES OU A LINEARISATION FACILE  :

Les modèles log-log ou double log  :

Un modèle log-log ou double log, appelé aussi « modèle à élasticité constante(1) », est
caractérisé par la présence de logarithme dans tous les deux membres du dit modèle.
 Fonction de production de type Cobb-Douglass Pour illustrer, nous présentons les formes
non linéaire et linéaire d’une fonction de production de type Cobb-Douglass :
 Forme non linéaire : 𝑄 = 𝐴𝐾 𝑎1𝐿 𝑎2𝑒 𝑢
 Forme linéaire (transformation logarithmique) : 𝑞 = 𝑎0 + 𝑎1𝑘 + 𝑎2𝑙 + 𝑢 Avec :
𝑞 = log(𝑄) ; 𝑘 = log(𝐾) ; 𝑙 = log(𝐿) ; 𝑎0 = log(𝐴) ; 𝑢 = log(𝑒 𝑢) ; 𝑎1 𝑒𝑡 𝑎2 = les élasticités
(constantes)
. En effet : 𝑎1 = 𝑑 ln𝑄 𝑑 ln𝐾 = 𝑑𝑄⁄𝑄 𝑑𝐾⁄𝐾 = 𝜀𝑄𝐾 = é𝑙𝑎𝑠𝑡𝑖𝑐𝑖𝑡é 𝑑𝑒 𝑄 𝑝𝑎𝑟 𝑟𝑎𝑝𝑝𝑜𝑟𝑡 à 𝐾 La
fonction ainsi transformée peut être estimée par la méthode des moindres carrés ordinaires
(MCO) du fait qu’elle est linéaire.
 Courbe de Phillips (relation inflation-chômage)
 Forme non linéaire : 𝐷 = 𝐴 ( 𝑊 𝑃 ) 𝑏

4
 Forme linéaire (transformation logarithmique) : ln𝐷 = ln 𝐴 + 𝑏[ln 𝑊 − ln 𝑃] → 𝑑 = 𝑎 +
𝑏𝑤 − 𝑏𝑝 Avec : 𝑑 = ln𝐷 ; 𝑎 = ln 𝐴 ; 𝑤 = ln 𝑊 ; 𝑝 = ln 𝑃.

Vous aimerez peut-être aussi