Institut Supérieur d’Informatique et de Multimédia de Sfax

Auditoire: 2ème année LSI-ADBD

Chapitre 2:
Introduction aux
méthodes multivariées

Souhir BOUAZIZ AFFES

[email protected]

A.U. 2024/2025
Plan
Introduction
La statistique
Définition, Vocabulaire, Méthodes, Types
Statistique Multivariée
Définition, Généralités
Paramètres Fondamentaux
Paramètres de position, de dispersion, et de relation
Analyse statistique multivariée
Méthodes descriptives ou exploratoires
Méthodes explicatives et prédictives
ISIMS 55
 Introduction
L’analyse multivariée désigne un ensemble de méthodes et de
techniques pour l’étude de tableaux de plusieurs variables
décrivant plusieurs individus.
Le but est de donner un panorama des méthodes pour aider au
choix de méthodes adéquates en fonction du type de données ou
de la problématique à étudier.

Statistique
Statistique Multivariée

Analyse Multivariée
Analyse des données

ISIMS 56
 La statistique : Définition
La statistique est la discipline qui étudie des phénomènes à
travers la collecte de données, leur traitement, leur analyse,
l'interprétation des résultats et leur présentation afin de
rendre ces données compréhensibles par tous.
La statistique est une méthode scientifique qui consiste à
observer et à étudier une/plusieurs propriété(s) commune(s)
chez un groupe d’être, de choses, ou d’entités.
La statistique est à différencier d’une statistique, qui est un
nombre calculé à partir d’une population.

ISIMS 57
 La statistique : Vocabulaire
Population (ou population statistique) : la collection (d’être, de
choses, ou d’entités) ayant des propriétés communes.
Terme hérité d’une des premières applications de la statistique, la
démographie
Exemple: ensemble parcelles de terrain étudiées, population d’insectes,
ensemble des plantes d’une espèce donnée, population d’humains, etc.
Individu (ou unité statistique) : élément de la population
Exemple: une parcelle, un insecte, une plante, un humain, etc.
Échantillon : individus de la population (sous-ensemble) sur laquelle
les mesures ont été faites

ISIMS 58
 La statistique : Vocabulaire
Variable (statistique) : une des propriétés communes aux individus que
l’on souhaite étudier. Peut-être :
Variable quantitative : numérique continue ou discrète
 ses valeurs sont des nombres exprimant une quantité, sur lesquels les
opérations arithmétiques (somme, etc...) ont un sens.
Variable qualitative : variable ordinale ou nominal
 ses valeurs sont des modalités exprimant une qualité, sur lequel des
opérations arithmétiques n'ont aucun sens. Il est possible de les répartir en
classes ou catégories
 Les modalités d’une variable sont l’ensemble des valeurs qu’elle prend dans
les données. Ex : Sexe : féminin/ masculin; Couleur : bleu, verte,...

ISIMS 59
 La statistique : Vocabulaire
Variable quantitative :
Variable numérique continue : peut prendre n’importe quelle valeur
réelle : prendre un nombre infini ou non dénombrable de valeurs
 Ex : le taux d’acidité du sol, la longueur de l’insecte, la longueur de la
tige, l’indice de masse corporelle
Variable numérique discrète : prendre un nombre fini ou
dénombrable de valeurs : dès qu’il y a un saut minimum obligatoire
entre deux valeurs successives, Ex. les nombres entiers
 Ex : la somme (sur tous les jours) du nombre de vaches présentes sur
la parcelle, l’âge de l’insecte (en jours), le nombre de pétales sur la
fleur, le nombre d’année d’études (réussies) depuis la petite école

ISIMS 60
 La statistique : Vocabulaire
Variable qualitative :
Variable nominale : quand ses valeurs sont des éléments d'une
catégorie type nom non hiérarchique
 ses éléments ne peuvent pas se ranger dans une gradation logique, selon
une hiérarchie naturelle.
 Ex : couleur des pétales {rouge, blanc, jaune}
Variable ordinale : quand ses valeurs sont des éléments d'une catégorie
type nom hiérarchique
 il sera possible de ranger dans une gradation logique, selon une hiérarchie
naturelle, les individus de la population étudiée pour le caractère retenu.
 Ex : appréciation de la parcelle {Mauvais, Passable, Bien, Très bien}
Variable binaire ou variable dichotomique : Il s'agit d'un type particulier
de variables catégorielles. Elle ne peut pas être hiérarchisée
 Elle ne possède que deux modalités (deux classes) possibles.
 Ex : sexe {Masculin, Féminin}

ISIMS 61
 La statistique : Vocabulaire
Données (statistiques) : ensemble des individus observés (échantillon),
des variables considérées, et des observations de ces variables sur ces
individus.
Elles sont en général présentées sous forme de tableaux (individus en lignes
et variables en colonnes)
Lorsqu’un tableau ne comporte que des nombres (valeurs des variables
quantitatives ou codes associés aux variables qualitatives), il correspond à la
notion mathématique de matrice.
Il existe des alternatives pour les colonnes, les lignes et les valeurs:
 Colonne, Attribut, Variable, Caractéristique
 Ligne, Enregistrement, Individu, Objet, Vecteur
 Valeur, Observation, Donnée

ISIMS
62
 La statistique : Méthodes
La statistique descriptive: décrire (résumer ou représenter) des
données étudiées à travers leur présentation, leur représentation
graphique, et le calcul de résumés numériques.

La statistique inférentielle: préciser un phénomène sur une

population globale, à partir de son observation sur une partie
restreinte de cette population, l’échantillon. Il s’agit donc d’induire
(ou encore d’inférer) du particulier au général avec un objectif
principalement explicatif.
L’apprentissage statistique (Statistique + Machine Learning):
construire un modèle statistique traditionnel ou algorithmique, en
privilégiant soit la description des données, ou la prévision d’une
variable qualitative (discrimination ou classification supervisée) ou
quantitative (régression).
ISIMS 63
 La statistique : Types
La statistique univariée:
à chaque individu de la population correspond une seule variable
statistique.
Exemple: Population : iris. Variable : longueur des pétales.

La statistique multivariée:
à chaque individu de la population correspond au moins deux
variables statistiques.
Dans le cas de deux variables, ça sera notée statistique bivariée
Exemple: Population : iris. Variable 1 : longueur des pétales.
Variable 2 : largeur des pétales.

ISIMS 64
 Statistique Multivariée : Définition
La statistique multivariée ou multidimensionnelle est l’ensemble
des méthodes de la statistique permettant de traiter
simultanément un nombre quelconque de variables
il s'agit d'aller au-delà de l’étude d'une seule
(cas de la statistique univariée) ou de deux variables
(cas de la statistique bivariée)

Analyse des données ou l’analyse multivariée

traitement de données en masse : grand nombre de variables et
d’individus
vision globale multidimensionnelle des individus et des variables
représentations géométriques, création de nouvelles variables

ISIMS 65
 Statistique Multivariée : Généralités
Avant de pouvoir analyser les données multidimensionnelles, il
faut un moyen pour les répertorier.
L’outil naturel est d’utiliser une matrice 𝑋, appelée matrice des
données ou encore tableau de données.

ISIMS 66
 Statistique Multivariée : Généralités
Matrice des données:
On suppose que l’on a 𝒏 individus, et que pour chacun de ces individus,
on observe p variables. Alors, les données sont répertoriées comme suit :
Lorsque 𝒏 et 𝒑 deviennent grands, le
nombre de données 𝒏𝒑 est grand
 Techniques pour résumer et analyser
ces données.

𝑥𝑖𝑗 : l’observation de la 𝑗è𝑚𝑒 variable pour l’individu 𝑖.

𝑋𝑖𝑡 : la 𝑖è𝑚𝑒 ligne de 𝑋 représentant les données de toutes les variables
pour le 𝑖è𝑚𝑒 individu

𝑋(𝑗) : la 𝑗è𝑚𝑒 colonne de 𝑋 représentant les données de la 𝑗è𝑚𝑒 variable

pour tous les individus. Ainsi,

ISIMS 67
 Statistique Multivariée : Généralités
La matrice de données peut être considérée de deux points de vue :
si on compare des colonnes, alors on étudie la relation entre les variables
correspondantes. (comme la matrice de contingence: croisement de 2
variables qualitatives)
si on compare des lignes, on étudie la relation entre des individus. (comme
l’étude des paramètres fondamentaux dans le cas des variables
quantitatives)

Différents types de matrices de données:

Tableau (matrice) de contingence : croisement de 2 variables qualitatives
Matrices de préférences entre objets : les variables sont les objets et chaque
individu range ces objets par ordre de préférence décroissante.
Matrices de distances : tableaux des 𝑛𝑥𝑛 distances entre individus
Autres types de matrices : matrices de présence/absence, matrices de notes,
matrices de pourcentage, etc.
ISIMS 68
 Statistique Multivariée : Généralités
Exemple de tableau de contingence:
𝑛 = 4 individus, 𝑝 = 3 variables qualitatives à 3, 3 et 2 modalités
Tableau brut de données : 𝑿𝟏 𝑿𝟐 𝑿𝟑
𝐴 3 1
𝐵 1 0
Transformation  tableau disjonctif complet 𝐵 2 1
𝐶 1 1

Tableau de contingence 𝑿𝟏 ∗ 𝑿𝟑

0 1
1 1
0 1

ISIMS 69
 Statistique Multivariée : Généralités
Pour résumer l'ensemble de données, nous recherchons une mesure
qui peut caractériser l'ensemble de données : mesure descriptive
calculée à partir des données de population: un paramètre
calculée à partir des données de l'échantillon: une statistique
Trois types de paramètres fondamentaux dans l’approche multivariée des
différences individuelles:
Paramètres de position ou de tendance centrale: Quelle est la valeur typique
de chaque variable ?  Moyenne arithmétique, Médiane
Paramètres de dispersion : Quelle est la distance entre les observations
individuelles et la valeur centrale d'une variable donnée ?
 Variance, Écart type, Variables centrées- réduites
Paramètres de relation: Lorsque plusieurs variables sont étudiées ensemble,
comment chaque variable est-elle liée aux autres variables ? Comment les
variables sont-elles simultanément liées les unes aux autres ? Sont-elles liées
positivement ou négativement ?  Covariance, Corrélation
ISIMS 70
 Paramètres Fondamentaux
Paramètres de position
Moyenne arithmétique: la somme des valeurs d'une variable divisée
par le nombre total de valeurs
 𝑋(𝑗) : La moyenne arithmétique des données 𝑋(𝑗) de la 𝑗è𝑚𝑒 variable :

 On peut représenter les 𝑝 moyennes arithmétiques des données des 𝑝

variables sous la forme du vecteur ligne des moyennes arithmétiques,
noté 𝑋ത 𝑡 :

 Exemple:

ISIMS 71
 Paramètres Fondamentaux
Paramètres de position …
Médiane: la valeur médiane d'une variable
 On suppose que les valeurs des données 𝑋(𝑗) de la 𝑗è𝑚𝑒 variable sont
classées en ordre croissant.
 Si 𝑛 est impair, la médiane, notée 𝑚(𝑗) , est l’élément du milieu:

 Si 𝑛 est pair, on prendra par convention :

 Le vecteur ligne des médianes, noté 𝑚𝑡

 Exemple: Le vecteur ligne des médianes pour l’exemple des notes est :

ISIMS 72
 Paramètres Fondamentaux
Paramètres de dispersion
La moyenne ne donne qu’une information partielle.
Il est aussi important de pouvoir mesurer combien ces données
sont dispersées autour de la moyenne.
Revenons à l’exemple des notes, les données des deux variables
ont la même moyenne, mais vous sentez bien qu’elles sont de
nature différente.
Il existe plusieurs manières de mesurer la dispersion des
données:
 Étendue
 Variance et écart type
 Variables centrées-réduites

ISIMS 73
 Paramètres Fondamentaux
Paramètres de dispersion …
Étendue
 𝑤(𝑗) : l’étendue des données 𝑋(𝑗) de la 𝑗è𝑚𝑒 variable : la différence entre
la donnée la plus grande pour cette variable, et la plus petite

Alors:

 On peut représenter les 𝑝 étendues sous la forme d’un vecteur ligne:

vecteur ligne des étendues, et noté 𝑤 𝑡 :

 Exemple: Le vecteur ligne des étendues pour l’exemple des notes est :

ISIMS 74
 Paramètres Fondamentaux
Paramètres de dispersion …
Étendue …

 L’étendue est un indicateur instable étant donné qu’il ne dépend que

des valeurs extrêmes.
 Vous pouvez avoir un grand nombre de données qui sont similaires,
mais qui ont une plus grande et plus petite valeur qui sont très
différentes,
o auront alors une étendue très différente,
o mais cela ne représente pas bien la réalité des données.

ISIMS 75
 Paramètres Fondamentaux
Paramètres de dispersion …
Variance et l’écart type
 𝑉𝑎𝑟(𝑋(𝑗) ): la variance des données 𝑋(𝑗) de la 𝑗è𝑚𝑒 variable

 Pour compenser le fait que l’on prenne des carrés, on peut reprendre la
racine, et on obtient alors l’écart-type :

 Exemple: calcul des variances et des écart-types pour l’exemple des notes:

ISIMS 76
 Paramètres Fondamentaux
Paramètres de dispersion …
Variables centrées-réduites
 Les données d’une variable sont dites centrées si on leur soustrait leur
moyenne. Elles sont dites centrées réduites si elles sont centrées et
divisées par leur écart-type.
 Elles sont utiles car elles n’ont plus d’unité, et des données de variables
différentes deviennent ainsi comparables.
 𝑍 la matrice des données centrées réduites

Si =0, on a aussi 

 Exemple: matrice des données centrées réduites de l’exemple des notes

ISIMS 77
 Paramètres Fondamentaux
Paramètres de relation entre deux variables
Covariance
 Pour tout 𝑖 et 𝑗 compris entre 1 et 𝑝, on définit la covariance entre les
données 𝑋(𝑖) et 𝑋(𝑗) des 𝑖è𝑚𝑒 et 𝑗è𝑚𝑒 variables par :

 Théorème 1 (Köning-Huygens)

 Exemple: la covariance entre les données des 1ère et 2ème variables de

l’exemple des notes, en utilisant le Théorème de König-Huygens

ISIMS 78
 Paramètres Fondamentaux
Paramètres de relation entre deux variables …
Covariance …
 Remarques:
o Cov 𝑋 𝑖 , 𝑋 𝑖 = Var 𝑋 𝑖

o La covariance est symétrique, i.e. : Cov 𝑋 𝑖 , 𝑋 𝑗 = Cov 𝑋 𝑗 , 𝑋 𝑖

o Dans le cas de la variance, le Théorème de Köning-Huygens s’écrit :

ISIMS 79
 Paramètres Fondamentaux
Paramètres de relation entre deux variables …
Covariance : matrice de covariance …
 Les covariances sont naturellement répertoriées dans la matrice de
covariance des données 𝑋, de taille 𝑝 × 𝑝, notée 𝐶(𝑋), définie par :
1
𝐶 𝑋 = 𝑋 − 𝑋ത 𝑡
𝑋 − 𝑋ത
𝑛
Cov 𝑋 𝑖 , 𝑋 𝑗 = 𝐶(𝑋) 𝑖𝑗

 Remarquer que les coefficients sur la diagonale de la matrice 𝐶(𝑋)

donnent les variances.
 Exemple: la matrice de covariance pour l’exemple des notes:

ISIMS 80
 Paramètres Fondamentaux
Paramètres de relation entre deux variables …
Covariance : matrice de covariance …
 La variabilité totale de la matrice des données 𝑋 est par définition :
𝑝

Tr(𝐶 𝑋 ) = ෍ Var 𝑋 𝑖
𝑖=1

 Cette quantité est importante car elle donne en quelque sorte la

quantité d’information qui est contenue dans la matrice 𝑋.
 Elle joue un rôle clé dans l’ACP.

ISIMS 81
 Paramètres Fondamentaux
Paramètres de relation entre deux variables …
Corrélation de Bravais-Pearson
 On définit la corrélation de Bravais-Pearson entre les données 𝑋(𝑖) et 𝑋(𝑗)
des 𝑖è𝑚𝑒 et 𝑗è𝑚𝑒 variables par :
Cov 𝑋 𝑖 , 𝑋 𝑗
𝑟 𝑋 𝑖 ,𝑋 𝑗 =
𝜎(𝑋 𝑖 ) 𝜎 𝑋 𝑗

 Elle satisfait les propriétés :

o 𝑟 𝑋 𝑖 , 𝑋 𝑖 =1
o 𝑟 𝑋 𝑖 , 𝑋 𝑗 ≤1
o 𝑟 𝑋 𝑖 , 𝑋 𝑗 = 1, si et seulement si il existe un nbre 𝑎 ∈ ℝ, 𝑡𝑒𝑙 𝑞𝑢𝑒:
une dépendance linéaire entre les
données 𝑋 𝑖 𝑒𝑡 𝑋 𝑗

ISIMS 82
 Paramètres Fondamentaux
Paramètres de relation entre deux variables …
Corrélation de Bravais-Pearson : matrice de corrélation …
 On définit la matrice de corrélation des données 𝑋, de taille 𝑝 ×
𝑝, notée 𝑅(𝑋), par :
(𝑅 𝑋 )𝑖𝑗 = 𝑟 𝑋 𝑖 , 𝑋 𝑗

 Remarquer que les éléments diagonaux de cette matrice sont

tous égaux à 1.
 Exemple : La matrice de corrélation de l’exemple des notes est :
1 0
𝑅 𝑋 =
0 1

ISIMS 83
 Analyse statistique multivariée
L’exploration et l’analyse de données est l’étape cœur du processus de
l’ECD, en vue d’en tirer l’information pertinente pour la compréhension
du phénomène étudié et d’en aider à la prise de décision à travers
plusieurs méthodes et techniques
Ces différentes méthodes peuvent être classées selon l’objectif poursuivi :
description : but est de comprendre au mieux les données grâce à une
description simplifiée aussi proche que possible de la réalité. (On étudie le
tableau entier)
explication et prévision : but est d’expliquer et de prévoir une ou plusieurs
variables du tableau en fonction d’autres variables. (tableau partitionné en 2)
 variables explicatives ou variables indépendantes: dont on se sert pour expliquer
et prédire le phénomène à étudier.
 variables à expliquer ou variables dépendantes: dont on veut expliquer et
prédire la variation dans une recherche

ISIMS 84
 Analyse statistique multivariée
NON Y-a-t-il une variable à
OUI
expliquer et une ou
plusieurs variables
explicatives ?

Méthodes descriptives Méthodes explicatives et prédictives

Variable
Les variables sont OUI à expliquer est-elle
NON
elles quantitatives ? quantitative ?
OUI/NON
NON OUI Apprentissage Supervisé
Les variables (Arbre de décision, RNA, …) Les variables
OUI/NON explicatives explicatives
sont-elles sont-elles
quantitatives ? quantitatives ?
Clustering
(méthodes de OUI/NON
NON
OUI OUI/NON NON
partitionnement et OUI
hiérarchiques)
Analyse Régression
de la covariance Logistique
Analyse en
Analyse des Composantes
Fouille Principales Analyse Analyse Analyse
Correspondances Régression
de Motifs (A.C.P.) de la variance Discriminante Linéaire Conjointe
(A.F.C et A.C.M.) Linéaire Multiple

ISIMS 85
 Analyse statistique multivariée
Méthodes descriptives ou exploratoires :
Méthodes factorielles
réduction du nombre de variables en les résumant par un petit
nombre de composantes synthétiques appelés facteurs :
 Analyse en Composantes Principales (ACP): pour les variables
quantitatives
o cherche à représenter dans un espace de dimension faible (≪ 𝑝)
un nuage de points représentant 𝑛 individus, décrits par 𝑝
variables quantitatives (donc de dimension 𝑝) en utilisant les
corrélations existant entre ces variables.

ISIMS 86
 Analyse statistique multivariée
Méthodes descriptives ou exploratoires …
Méthodes factorielles …
réduction du nombre de variables en les résumant par un petit
nombre de composantes synthétiques appelés facteurs :
 Analyse Factorielle des Correspondances simples (AFC): pour
2 variables qualitatives
 Analyse des Correspondances Multiples (ACM): pour
plusieurs variables qualitatives
o L'analyse des correspondances (AFC ou ACM) étudie les
proximités entre individus décrits par deux ou plusieurs
variables qualitatives ainsi que les proximités entre les modalités
de ces variables.

ISIMS 87
 Analyse statistique multivariée
Méthodes descriptives ou exploratoires …
Méthodes de regroupement
réduction du nombre d’individus par la formation de groupes
homogènes :
 Méthodes de partitionnement: en un nombre fixé de classes a
priori: partitionnement des objets et évaluation des partitions :
méthode des centres mobiles, K-means, nuées dynamiques
 Méthodes hiérarchiques: suite de partitions emboîtées:
décomposition hiérarchique d’ensembles d’objets: méthodes de
classification ascendante hiérarchique (CAH)…

ISIMS 88
 Analyse statistique multivariée
Méthodes descriptives ou exploratoires …
Méthodes d’association
déterminer l’ensemble de descripteurs (attributs) qui sont les plus
corrélés :
 Association simple ou les règles d’association: Recherche de
relations « stables » existant entre les attributs d’un individu

 Association séquentiel: recherche de corrélations entre

attributs mais en prenant en compte le temps entre attributs
=> comportement

ISIMS 89
 Analyse statistique multivariée
Méthodes explicatives et prédictives :
Modèle linéaire général : recherche d’une relation entre une
variable quantitative et plusieurs autres :
 Régression Linéaire Multiple: variables quantitatives
 Analyse de la Variance (ANOVA): variables qualitatives
 Analyse de la Covariance (ANCOVA): variables mixtes (qualitatives
et/ou quantitatives)

Analyse discriminante prédictive: prédiction d’une variable

qualitative à l’aide de plusieurs prédicteurs en général quantitatives
 Analyse Discriminante Linéaire : expliquer et prédire l’appartenance
d’un individu à une classe (groupe) prédéfinie à partir de ses
caractéristiques mesurées à l’aide de variables prédictives

ISIMS 90
 Analyse statistique multivariée
Méthodes explicatives et prédictives …
Régression Logistique: vise à construire un modèle permettant de
prédire / expliquer les valeurs prises par une variable cible
qualitative à partir d’un ensemble de variables explicatives
quantitatives ou qualitatives (un codage est nécessaire dans ce cas)
 Régression logistique binaire: si la variable à expliquer est binaire;
 Régression logistique polytomique: si la variable à expliquer
possède plus de 2 modalités
Analyse conjointe: permettant de recueillir les préférences des
consommateurs sur les attributs d’un produit ou d’un service
 la variable à expliquer reflète un choix ou une situation de compromis
 les variables explicatives sont qualitatives, par conséquent codées
comme des nombres binaires (0 et 1)
ISIMS 91
 Analyse statistique multivariée
Méthodes explicatives et prédictives …
Méthodes d’Apprentissage Supervisée: étudient la prévision d'une
variable qualitative ou quantitative dépendante par une combinaison
de variables explicatives. Les exemples annotés constituent une base
d'apprentissage, et la fonction de prédiction apprise est appelée aussi
« hypothèse » ou « modèle ».
 Arbre de décision: le modèle d’apprentissage induit est un arbre qui
peut être traduit sous forme de règle de décision pour :
o prédire une étiquette (arbre de classification), ou
o prédire une quantité réelle (arbre de régression)
 Réseaux de Neurones Artificiel : visent à établir par apprentissage un
modèle susceptible d'affecter à un jeu de test (différent du jeu
d'apprentissage):
o une qualité (reconnaissance d'image), une valeur (estimation
numérique), appartenance à un groupe, ...

ISIMS 92