Scribd
Importer
90 vues21 pages

Modèle de Régression Linéaire en ML

Ce document décrit un modèle de régression linéaire, y compris la notation scalaire et matricielle, l'estimation des paramètres par la méthode des moindres carrés, et les propriétés des résidus.

Transféré par

Heril
Copyright
© © All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd
90 vues21 pages

Modèle de Régression Linéaire en ML

Ce document décrit un modèle de régression linéaire, y compris la notation scalaire et matricielle, l'estimation des paramètres par la méthode des moindres carrés, et les propriétés des résidus.

Transféré par

Heril
Copyright
© © All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd

Régression linéaire

Modèle de régression linéaire


• En apprentissage automatique (machine learning), un modèle de
régression linéaire est un modèle de régression qui cherche à établir une
relation linéaire entre une variable Y, dite expliquée, et une ou plusieurs
variables X, dites explicatives.
• Exemple: Ajustement affine
– consiste à rechercher la droite permettant d'expliquer le
comportement d'une variable statistique y comme étant une fonction
affine d'une autre variable statistique x.

Comportement linéaire d'un nuage de points Comportement non linéaire d'un nuage de points
Présentation formelle
• Notation scalaire
– Pour chaque individu i, la variable expliquée s'écrit comme une fonction linéaire des variables
explicatives.

où yi et les xi,j sont fixes et εi représente l'erreur.


• Notation vectorielle
– Similaire à la notation scalaire
– β le vecteur des paramètres du modèle ( β0 , … , βK) et xi' le vecteur des variables explicatives
pour l'individu i ( 1, xi,1, … , xi,K)

• Notation matricielle
Estimation des paramètres
• La méthode des moindres carrés consiste à minimiser la somme des
carrés des écarts entre les points observés Pi et les points ajustés Pi’.
• Dans le cas d’une régression de Y par rapport à X, il s’agit d’écarts
verticaux.
• Dans le cas d’une régression de X par rapport à Y, il s’agit des écarts
horizontaux.
• Notons y = f(x) = ax + b l’équation de la droite DY|X de régression de Y par
rapport à X. Il faut trouver a et b.
Exemple
Propriétés des résidus

• La moyenne des
résidus est
toujours nulle.
Intervention des variables
Qualité de la prédiction:
Coefficient de corrélation linéaire
Exercice

Vous aimerez peut-être aussi