Analyse en Composantes Principales
Carole BINARD
Les données
Quand p>3 : représentation graphique impossible
Objectif
Extraire l’essentiel de l’information
contenue dans le tableau de données pour
fournir une représentation se prêtant plus
aisément à l’interprétation
Les espaces
Espace des individus:
Les n lignes du tableau peuvent être considérées comme n
points de l’espace des individus à p dimensions.
Espace des variables:
Les p colonnes peuvent être considérées comme p points dans
un espace à n dimensions (l’espace des variables).
L’espace des individus
On munit l’espace des individus de la distance euclidienne
classique:
L’espace des individus
On désigne par g le centre de gravité du nuage:
L’espace des individus
L’inertie du nuage s’écrit:
Définitions
On recherche des sous-espaces représentant au mieux ce nuage
de points en respectant 2 critères:
1. Critère de proximité
2. Fidélité des distances
Ce sont les sous-espaces passant par g et qui optimisent ces 2
critères
Définitions
Soit H le sous-espace passant par g.
Définition 1: L’inertie expliquée par H est définie par:
Définition 2: L’inertie par rapport à H (inertie résiduelle) est
définie par:
Définitions
Soit H le sous-espace passant par g.
Définition 3:
Inertie totale = inertie expliquée + inertie résiduelle
On choisit H qui maximise l’inertie
expliquée et qui minimise l’inertie résiduelle
A
H1
Définitions
Soit H le sous-espace passant par g.
Définition 3:
Inertie totale = inertie expliquée + inertie résiduelle
On choisit H qui maximise l’inertie
expliquée et qui minimise l’inertie résiduelle
A
H2
g
Définitions
Soit H le sous-espace passant par g.
Définition 3:
Inertie totale = inertie expliquée + inertie résiduelle
On choisit H qui maximise l’inertie
expliquée et qui minimise l’inertie résiduelle
A H3
H3 est bon pour A. Mais
l’est-il pour B?
g
Définitions
Soit H le sous-espace passant par g.
Définition 3:
Inertie totale = inertie expliquée + inertie résiduelle
On choisit H qui maximise l’inertie
expliquée et qui minimise l’inertie résiduelle
A H3
H3 est bon pour A. Mais
l’est-il pour B?
B
Détermination des nouveaux axes
On définit g comme origine du nouveau repère
Pour la première droite H1, on détermine un vecteur
unitaire u1 porté par H1 avec d(0,u1)=1
Détermination des nouveaux axes
On définit un deuxième sous-espace H2
On recherche u2 tel que :
u2 est perpendiculaire à u1
La droite portée par u2 (2ème composante), passant par 0,
ait une inertie maximale
En pratique
On construit la matrice de variances-covariances
On calcule les vecteurs et valeurs propres associées
On range dans l’ordre décroissant les valeurs propres (en
valeurs absolues) : le 1er vect. propre est associé à la plus
grande des valeurs propres,…
Ces vecteurs sont les u1, u2, …, up recherchés
Remarques
Les droites engendrées par ces vecteurs propres sont appelées
respectivement le 1er, le 2ème, le pième axe principal d’inertie
du nuage
L’inertie expliquée par H1 (1er axe principal) engendré par v1
est égale à la val. propre associée : λ1
L’inertie expliquée par le plan H2, engendré par v1 et v2 est
égale à λ1+ λ2
Les valeurs propres de la matrice de variances-
covariances représentent les parts d’inertie expliquée par
chacun des axes principaux du nuage de des individus
J
En résumé Tableau
des
i Données
J Matrice de
Matrice des
corrélation
valeurs J J
propres
Matrice des
J Diagonalisation vecteurs J
propres
K
Histogramme
des valeurs i Composantes
propres principales
