Régression : @bouaziz
Techniques du datamining
- Arbre de decision
- Reseaux de neurones
- SVM
- ….
Taches Datamining
- Regression
- Classification
- Clustring
- Association
- …….
Régression : @bouaziz
Régression
Régression : essayer de prédire une valeur réelle.
Par exemple, prédire la valeur du stock demain en se basant sur son
ancienne performance (statistiques)
1. Régression linéaire simple
2. Régression multiple y = ax+by+cz + ++ + f
3. Régression Polynomiale y = ax² + b x + c
4. Régression logistique
*************************************
1. Régression linéaire simple
1ere Méthode : (Moindre Carrée)
Cov( X ,Y ) X .Y −X .Y
a= = 2 =0.5725
V ( X) X −( X )
2
b=Y −a X=−11.0167
Solution
Régression : @bouaziz
Cov( X ,Y ) X .Y −X .Y
a= = 2 =0.5725
V ( X) X −( X )
2
b=Y −a X=−11.016 7
Y = 0.5725X – 11.0167 …………Modèle finale de régression linéaire simple
MSE (mean square error) حساب مقدار الخطأ
1
J ( a , b) =
2m
∑ ( ax +b− y )2
Régression : @bouaziz
2ème Méthode : (Gradient descente)
F(x) = ax + b
Initialisation
α = 0.1
a=2
b=1
#Fonction cout
1
J (a , b)=
2m
∑ ( ax +b− y )2 x*y
#Gradient
∂J 1 1
= ∑ x ( ax +b− y ) J ( a , b) = ∑ ( ax +b− y ) (ax+ b− y)
∂a m 2m
x (ax +b− y )
∂J 1
= ∑ ( ax+ b− y )
∂b m
#Gradient descente
∂J
a=a−α
∂a
∂J
b=b−α
∂b
Jusqu’à la convergence
Régression : @bouaziz
∂J
Critère d'arrêt : norme(g) < 0.01 ∂ a <0.01 ???????????????????? ,Nombre
d’itération ou la convergence