Classification
Classification
Bayésienne
Dr A.
Classification
DJEFFAL
Classification Bayésienne
Introduction
Principe
Exemple
Cas particulier
Dr A. DJEFFAL
Valeurs
continues
2ème année Master Systèmes d’Information, Optimisation et Décision
Caractéristiques
Réseaux
bayésiens
2017-2018
www.abdelhamid-djeffal.net
1 / 21
Introduction
Classification bayésienne
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Les techniques statistiques : les premières utilisées pour
Principe
l’analyse de données.
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
2 / 21
Introduction
Classification bayésienne
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Les techniques statistiques : les premières utilisées pour
Principe
l’analyse de données.
Exemple
Cas particulier À travers un sous ensemble d’une population, arriver à des
Valeurs conclusions concernant toute la population.
continues
Caractéristiques
Réseaux
bayésiens
2 / 21
Introduction
Classification bayésienne
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Les techniques statistiques : les premières utilisées pour
Principe
l’analyse de données.
Exemple
Cas particulier À travers un sous ensemble d’une population, arriver à des
Valeurs conclusions concernant toute la population.
continues
Caractéristiques
Basées sur la théorie de Bayes
Réseaux
bayésiens
2 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne
Dr A.
DJEFFAL Théorie de bayes
Introduction
Référence théorique pour les approches statistiques de
Principe résolution des problèmes de classification.
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
3 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne
Dr A.
DJEFFAL Théorie de bayes
Introduction
Référence théorique pour les approches statistiques de
Principe résolution des problèmes de classification.
Exemple Soit X un échantillon de données dont la classe est
Cas particulier inconnue et qu’on veut la déterminer,
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
3 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne
Dr A.
DJEFFAL Théorie de bayes
Introduction
Référence théorique pour les approches statistiques de
Principe résolution des problèmes de classification.
Exemple Soit X un échantillon de données dont la classe est
Cas particulier inconnue et qu’on veut la déterminer,
Valeurs
continues Soit H une hypothèse (X appartient à la classe C par
Caractéristiques exemple).
Réseaux
bayésiens
3 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne
Dr A.
DJEFFAL Théorie de bayes
Introduction
Référence théorique pour les approches statistiques de
Principe résolution des problèmes de classification.
Exemple Soit X un échantillon de données dont la classe est
Cas particulier inconnue et qu’on veut la déterminer,
Valeurs
continues Soit H une hypothèse (X appartient à la classe C par
Caractéristiques exemple).
Réseaux
bayésiens On cherche à déterminer P (H/X) la probabilité de
vérification de H après l’observation de X.
3 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne Théorie de bayes
Dr A.
DJEFFAL
P (H/X) est la probabilité postérieure c’est-à-dire après la
connaissance de X
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
4 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne Théorie de bayes
Dr A.
DJEFFAL
P (H/X) est la probabilité postérieure c’est-à-dire après la
connaissance de X
Introduction
Principe
tandis que P (H) est la probabilité à priori représentant la
Exemple probabilité de vérification de H pour n’importe quel
Cas particulier exemple de données.
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
4 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne Théorie de bayes
Dr A.
DJEFFAL
P (H/X) est la probabilité postérieure c’est-à-dire après la
connaissance de X
Introduction
Principe
tandis que P (H) est la probabilité à priori représentant la
Exemple probabilité de vérification de H pour n’importe quel
Cas particulier exemple de données.
Valeurs
continues
Le théorème de Bayes propose une méthode de calcul de
Caractéristiques
P (H/X) en utilisant les probabilités P (H), P (X) et
Réseaux P (X/H) :
bayésiens
P (H/X) = [P (X/H).P (H)] /P (X)
4 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne
Théorie de bayes
Dr A.
DJEFFAL P (H/X) probabilité d’appartenance de X à la classe C,
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
5 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne
Théorie de bayes
Dr A.
DJEFFAL P (H/X) probabilité d’appartenance de X à la classe C,
Introduction P (H) la probabilité d’apparition de la classe C dans la
Principe population (nombre d’échantillons ∈ C / nombre total
Exemple d’échantillons).
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
5 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne
Théorie de bayes
Dr A.
DJEFFAL P (H/X) probabilité d’appartenance de X à la classe C,
Introduction P (H) la probabilité d’apparition de la classe C dans la
Principe population (nombre d’échantillons ∈ C / nombre total
Exemple d’échantillons).
Cas particulier
P (X/H) probabilité d’apparence de chaque valeur des
Valeurs
continues attributs de X dans les attributs des échantillons
Caractéristiques appartenant à la classe C :
Réseaux
bayésiens Y
P (X/H) = P (ai = vi /H)
5 / 21
Principe
Classification bayésienne
Classification
Classification
Bayésienne
Théorie de bayes
Dr A.
DJEFFAL P (H/X) probabilité d’appartenance de X à la classe C,
Introduction P (H) la probabilité d’apparition de la classe C dans la
Principe population (nombre d’échantillons ∈ C / nombre total
Exemple d’échantillons).
Cas particulier
P (X/H) probabilité d’apparence de chaque valeur des
Valeurs
continues attributs de X dans les attributs des échantillons
Caractéristiques appartenant à la classe C :
Réseaux
bayésiens Y
P (X/H) = P (ai = vi /H)
ai :ième attribut de X et vi sa valeur.
5 / 21
Exemple
Classification bayésienne
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
6 / 21
Exemple
Classification bayésienne
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
7 / 21
Cas particulier
Valeur inexistante
Classification
Classification
Bayésienne
Dr A. En pratique, on peut vouloir trouver la classe d’un
DJEFFAL
enregistrement dont la valeur d’un attribut n’existe pas
Introduction
dans la table.
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
8 / 21
Cas particulier
Valeur inexistante
Classification
Classification
Bayésienne
Dr A. En pratique, on peut vouloir trouver la classe d’un
DJEFFAL
enregistrement dont la valeur d’un attribut n’existe pas
Introduction
dans la table.
Principe
Exemple
”Estimateur de Laplace” : ajouter 1 à tous les
Cas particulier
numérateurs des probabilités et on ajoute le nombre de
Valeurs valeurs distinctes de cet attribut au dénominateur.
continues
Caractéristiques
Réseaux
bayésiens
8 / 21
Cas particulier
Valeur inexistante
Classification
Classification
Bayésienne
Dr A. En pratique, on peut vouloir trouver la classe d’un
DJEFFAL
enregistrement dont la valeur d’un attribut n’existe pas
Introduction
dans la table.
Principe
Exemple
”Estimateur de Laplace” : ajouter 1 à tous les
Cas particulier
numérateurs des probabilités et on ajoute le nombre de
Valeurs valeurs distinctes de cet attribut au dénominateur.
continues
Par exemple au lieu d’avoir les probabilités 29 , 94 et 39 , on
Caractéristiques
3 5 4
Réseaux
utilise les probabilités 12 , 12 et 12 si l’attribut n’a que 3
bayésiens valeurs distinctes.
8 / 21
Cas particulier
Valeur inexistante
Classification
Classification
Bayésienne
Dr A. En pratique, on peut vouloir trouver la classe d’un
DJEFFAL
enregistrement dont la valeur d’un attribut n’existe pas
Introduction
dans la table.
Principe
Exemple
”Estimateur de Laplace” : ajouter 1 à tous les
Cas particulier
numérateurs des probabilités et on ajoute le nombre de
Valeurs valeurs distinctes de cet attribut au dénominateur.
continues
Par exemple au lieu d’avoir les probabilités 29 , 94 et 39 , on
Caractéristiques
3 5 4
Réseaux
utilise les probabilités 12 , 12 et 12 si l’attribut n’a que 3
bayésiens valeurs distinctes.
Minimiser la probabilité sans l’annuler
8 / 21
Valeurs continues
Loi normale
Classification
Classification
Bayésienne l’algorithme ne prend pas en compte, bien comme il faut,
Dr A.
DJEFFAL
les valeurs numériques continues,
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
9 / 21
Valeurs continues
Loi normale
Classification
Classification
Bayésienne l’algorithme ne prend pas en compte, bien comme il faut,
Dr A.
DJEFFAL
les valeurs numériques continues,
Introduction
il se base uniquement sur les égalités des valeurs.
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
9 / 21
Valeurs continues
Loi normale
Classification
Classification
Bayésienne l’algorithme ne prend pas en compte, bien comme il faut,
Dr A.
DJEFFAL
les valeurs numériques continues,
Introduction
il se base uniquement sur les égalités des valeurs.
Principe On ne peut pas dire que la probabilité de 12.36 est égale à
Exemple 0 seulement car la valeur 12.36 est inexistante
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
9 / 21
Valeurs continues
Loi normale
Classification
Classification
Bayésienne l’algorithme ne prend pas en compte, bien comme il faut,
Dr A.
DJEFFAL
les valeurs numériques continues,
Introduction
il se base uniquement sur les égalités des valeurs.
Principe On ne peut pas dire que la probabilité de 12.36 est égale à
Exemple 0 seulement car la valeur 12.36 est inexistante
Cas particulier
Solution supposer que la distribution des valeurs de
Valeurs
continues l’attribut est normale,
Caractéristiques
Réseaux
bayésiens
9 / 21
Valeurs continues
Loi normale
Classification
Classification
Bayésienne l’algorithme ne prend pas en compte, bien comme il faut,
Dr A.
DJEFFAL
les valeurs numériques continues,
Introduction
il se base uniquement sur les égalités des valeurs.
Principe On ne peut pas dire que la probabilité de 12.36 est égale à
Exemple 0 seulement car la valeur 12.36 est inexistante
Cas particulier
Solution supposer que la distribution des valeurs de
Valeurs
continues l’attribut est normale,
Caractéristiques On calcule sa moyenne et sont écart type et la probabilité
Réseaux
bayésiens
peut être calculée selon la loi normale :
(x−x)2
1 −
2ρ2
dx
P (X = x) = p e
2πρ2
9 / 21
Caractéristiques
Méthode naı̈ve de Bayes
Classification
Classification
Bayésienne
Dr A. Méthode naı̈ve de Bayes applicable uniquement en cas de
DJEFFAL
vérification de l’indépendance entre les attributs,
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
10 / 21
Caractéristiques
Méthode naı̈ve de Bayes
Classification
Classification
Bayésienne
Dr A. Méthode naı̈ve de Bayes applicable uniquement en cas de
DJEFFAL
vérification de l’indépendance entre les attributs,
Introduction
Contrôlé par la matrice de corrélation et ses valeurs
Principe
propres.
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
10 / 21
Caractéristiques
Méthode naı̈ve de Bayes
Classification
Classification
Bayésienne
Dr A. Méthode naı̈ve de Bayes applicable uniquement en cas de
DJEFFAL
vérification de l’indépendance entre les attributs,
Introduction
Contrôlé par la matrice de corrélation et ses valeurs
Principe
propres.
Exemple
Cas particulier Les attributs numériques doivent avoir une distribution
Valeurs normale.
continues
Caractéristiques
Réseaux
bayésiens
10 / 21
Caractéristiques
Méthode naı̈ve de Bayes
Classification
Classification
Bayésienne
Dr A. Méthode naı̈ve de Bayes applicable uniquement en cas de
DJEFFAL
vérification de l’indépendance entre les attributs,
Introduction
Contrôlé par la matrice de corrélation et ses valeurs
Principe
propres.
Exemple
Cas particulier Les attributs numériques doivent avoir une distribution
Valeurs normale.
continues
Caractéristiques
Méthode simple et moins coûteuse en temps de calcul
Réseaux
bayésiens
10 / 21
Caractéristiques
Méthode naı̈ve de Bayes
Classification
Classification
Bayésienne
Dr A. Méthode naı̈ve de Bayes applicable uniquement en cas de
DJEFFAL
vérification de l’indépendance entre les attributs,
Introduction
Contrôlé par la matrice de corrélation et ses valeurs
Principe
propres.
Exemple
Cas particulier Les attributs numériques doivent avoir une distribution
Valeurs normale.
continues
Caractéristiques
Méthode simple et moins coûteuse en temps de calcul
Réseaux Incrémentale :l’arrivée d’une nouvelle information (classe
bayésiens
d’un nouvel enregistrement) ne nécessite pas de refaire
tous les calculs pour la prendre en considération.
10 / 21
Réseaux bayésiens
Principe
Classification
Classification
Bayésienne
Dr A. Réseaux Bayésiens ou réseaux de croyance
DJEFFAL
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
11 / 21
Réseaux bayésiens
Principe
Classification
Classification
Bayésienne
Dr A. Réseaux Bayésiens ou réseaux de croyance
DJEFFAL
Prennent en considération les dépendances entre les
Introduction
attributs
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
11 / 21
Réseaux bayésiens
Principe
Classification
Classification
Bayésienne
Dr A. Réseaux Bayésiens ou réseaux de croyance
DJEFFAL
Prennent en considération les dépendances entre les
Introduction
attributs
Principe
Exemple Représenté sous forme d’un graphe orienté acyclique,
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
11 / 21
Réseaux bayésiens
Principe
Classification
Classification
Bayésienne
Dr A. Réseaux Bayésiens ou réseaux de croyance
DJEFFAL
Prennent en considération les dépendances entre les
Introduction
attributs
Principe
Exemple Représenté sous forme d’un graphe orienté acyclique,
Cas particulier les nœuds représentent les attributs et les arcs
Valeurs
continues
représentent les liaisons entre ces attributs (des
Caractéristiques
probabilités conditionnelles).
Réseaux
bayésiens
11 / 21
Réseaux bayésiens
Principe
Classification
Classification
Bayésienne
Dr A. Réseaux Bayésiens ou réseaux de croyance
DJEFFAL
Prennent en considération les dépendances entre les
Introduction
attributs
Principe
Exemple Représenté sous forme d’un graphe orienté acyclique,
Cas particulier les nœuds représentent les attributs et les arcs
Valeurs
continues
représentent les liaisons entre ces attributs (des
Caractéristiques
probabilités conditionnelles).
Réseaux Deux attributs sont reliés par un arc si l’un cause ou influe
bayésiens
sur l’autre : le prédécesseur est la cause et le successeur
est l’effet.
11 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Un médecin reçoit un patient qui souffre d’un problème de
respiration (symptôme) appelé ”dyspnoea”, et qui a peur
Introduction
d’avoir un cancer de poumon.
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
12 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Un médecin reçoit un patient qui souffre d’un problème de
respiration (symptôme) appelé ”dyspnoea”, et qui a peur
Introduction
d’avoir un cancer de poumon.
Principe
Exemple
Le médecin sait que d’autres causes sont possibles tel que
Cas particulier la tuberculose et les bronchites.
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
12 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Un médecin reçoit un patient qui souffre d’un problème de
respiration (symptôme) appelé ”dyspnoea”, et qui a peur
Introduction
d’avoir un cancer de poumon.
Principe
Exemple
Le médecin sait que d’autres causes sont possibles tel que
Cas particulier la tuberculose et les bronchites.
Valeurs Il sait aussi que d’autres informations peuvent augmenter
continues
Caractéristiques
la probabilité du cancer tel que si le patient est fumeur ou
Réseaux
non, et la pollution de l’air où il vie.
bayésiens
12 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Un médecin reçoit un patient qui souffre d’un problème de
respiration (symptôme) appelé ”dyspnoea”, et qui a peur
Introduction
d’avoir un cancer de poumon.
Principe
Exemple
Le médecin sait que d’autres causes sont possibles tel que
Cas particulier la tuberculose et les bronchites.
Valeurs Il sait aussi que d’autres informations peuvent augmenter
continues
Caractéristiques
la probabilité du cancer tel que si le patient est fumeur ou
Réseaux
non, et la pollution de l’air où il vie.
bayésiens
Mais une image rayon X positive confirmera le cancer ou
la tuberculose.
12 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Attribut type valeur
Principe
Pollution Binaire {Basse, Haute}
Exemple
Fumeur Booléen {V, F}
Cas particulier
Valeurs
Cancer Booléen {V, F}
continues Dyspnoea Booléen {V, F}
Caractéristiques X-Ray Binaire {Positif, Négatif}
Réseaux
bayésiens
13 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
14 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
En effet
Dr A.
DJEFFAL La pollution et fumer causent le cancer,
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
15 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
En effet
Dr A.
DJEFFAL La pollution et fumer causent le cancer,
Introduction le cancer cause des rayons X positifs et le symptôme
Principe Dyspnoea.
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
15 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
En effet
Dr A.
DJEFFAL La pollution et fumer causent le cancer,
Introduction le cancer cause des rayons X positifs et le symptôme
Principe Dyspnoea.
Exemple
Les qualités des relations entre ces nœuds sont
Cas particulier
Valeurs
représentées dans des tables appelées CPT (Conditional
continues Probability Table) en fonction des valeurs possibles des
Caractéristiques attributs.
Réseaux
bayésiens
15 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
En effet
Dr A.
DJEFFAL La pollution et fumer causent le cancer,
Introduction le cancer cause des rayons X positifs et le symptôme
Principe Dyspnoea.
Exemple
Les qualités des relations entre ces nœuds sont
Cas particulier
Valeurs
représentées dans des tables appelées CPT (Conditional
continues Probability Table) en fonction des valeurs possibles des
Caractéristiques attributs.
Réseaux
bayésiens Pour chaque valeur possible des pères, on établit une table
représentant les probabilités d’avoir les différentes valeurs
possibles du fils : P(Cancer=V|Pollution, Fumeur).
15 / 21
Réseaux bayésiens
Exemple
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Principe Polution Fumeur P(Cancer=V|Pollution, Fumeur)
Exemple Haute V 0.05
Cas particulier Haute F 0.02
Valeurs Basse V 0.03
continues
Caractéristiques
Basse F 0.001
Réseaux
bayésiens
16 / 21
Réseaux bayésiens
Caractéristiques
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Le réseau Bayésien peut être construit à partir de la base
de données d’apprentissage en calculant la corrélation
Introduction
entre les attributs.
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
17 / 21
Réseaux bayésiens
Caractéristiques
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Le réseau Bayésien peut être construit à partir de la base
de données d’apprentissage en calculant la corrélation
Introduction
entre les attributs.
Principe
Exemple
On commence par ajouter au réseau les nœuds (attributs)
Cas particulier indépendants et à chaque fois, on ajoute des arcs à partir
Valeurs des nœuds existants dans le réseau desquels dépend le
continues
nœud ajouté.
Caractéristiques
Réseaux
bayésiens
17 / 21
Réseaux bayésiens
Caractéristiques
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Le réseau Bayésien peut être construit à partir de la base
de données d’apprentissage en calculant la corrélation
Introduction
entre les attributs.
Principe
Exemple
On commence par ajouter au réseau les nœuds (attributs)
Cas particulier indépendants et à chaque fois, on ajoute des arcs à partir
Valeurs des nœuds existants dans le réseau desquels dépend le
continues
nœud ajouté.
Caractéristiques
Réseaux
Les CPTs peuvent être aussi calculées facilement à partir
bayésiens de la base de données en se basant sur la fréquence
d’apparition des valeurs.
17 / 21
Réseaux bayésiens
Raisonnement
Classification
Classification
Bayésienne Dans les deux sens
Dr A.
DJEFFAL
Au sens des arcs (Prédiction) : on possède des causes et
on cherche les probabilités des différents effets possibles,
Introduction
Par exemple, on connaı̂t qu’un patient est fumeur et on
Principe
cherche la probabilité d’avoir un cancer, on multiplie
Exemple
simplement les probabilités du chemin entre la cause et
Cas particulier
Valeurs
l’effet final.
continues
Caractéristiques
Réseaux
bayésiens
18 / 21
Réseaux bayésiens
Raisonnement
Classification
Classification
Bayésienne Dans les deux sens
Dr A.
DJEFFAL
Au sens des arcs (Prédiction) : on possède des causes et
on cherche les probabilités des différents effets possibles,
Introduction
Par exemple, on connaı̂t qu’un patient est fumeur et on
Principe
cherche la probabilité d’avoir un cancer, on multiplie
Exemple
simplement les probabilités du chemin entre la cause et
Cas particulier
Valeurs
l’effet final.
continues
Au sens contraire des arcs (Diagnostic) : on connaı̂t des
Caractéristiques
effets et on cherche les probabilités de certaines causes,
Réseaux
bayésiens par exemple, on connaı̂t qu’un patient a un cancer, et on
cherche la probabilité qu’il soit un fumeur. Dans ce cas, on
multiplie aussi les probabilités du chemin inversé de l’effet
à la cause.
18 / 21
Réseaux bayésiens
Avantages
Classification
Classification
Bayésienne
Dr A.
DJEFFAL Beaucoup plus précis que d’autres techniques
Introduction d’apprentissage : prennent les dépendances entre les
Principe attributs, et peuvent intégrer des connaissances humaines
Exemple au préalable.
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
19 / 21
Réseaux bayésiens
Avantages
Classification
Classification
Bayésienne
Dr A.
DJEFFAL Beaucoup plus précis que d’autres techniques
Introduction d’apprentissage : prennent les dépendances entre les
Principe attributs, et peuvent intégrer des connaissances humaines
Exemple au préalable.
Cas particulier
On peut introduire directement la topologie du réseau et
Valeurs
continues le faire entraı̂ner pour construire les CPTs.
Caractéristiques
Réseaux
bayésiens
19 / 21
Réseaux bayésiens
Avantages
Classification
Classification
Bayésienne
Dr A.
DJEFFAL Beaucoup plus précis que d’autres techniques
Introduction d’apprentissage : prennent les dépendances entre les
Principe attributs, et peuvent intégrer des connaissances humaines
Exemple au préalable.
Cas particulier
On peut introduire directement la topologie du réseau et
Valeurs
continues le faire entraı̂ner pour construire les CPTs.
Caractéristiques Incrémentaux : les croyances peuvent être modifiées à
Réseaux
bayésiens
chaque arrivée d’une nouvelle information par propagation
directe sur le réseau.
19 / 21
Réseaux bayésiens
Inconvénients
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Principe
Très coûteux en temps de calcul des CPts (probabilité
Exemple
pour chaque valeur possible d’un fils pour chaque valeur
Cas particulier
possible de chacun de ses pères).
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
20 / 21
Réseaux bayésiens
Inconvénients
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Introduction
Principe
Très coûteux en temps de calcul des CPts (probabilité
Exemple
pour chaque valeur possible d’un fils pour chaque valeur
Cas particulier
possible de chacun de ses pères).
Valeurs L’espace nécessaire pour stocker les CPTs est aussi
continues
Caractéristiques
exhaustif.
Réseaux
bayésiens
20 / 21
Réseaux bayésiens
Travaux récents
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Optimisation du temps d’entrainement tout en gardant la
précision.
Introduction
Principe
Exemple
Cas particulier
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
21 / 21
Réseaux bayésiens
Travaux récents
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Optimisation du temps d’entrainement tout en gardant la
précision.
Introduction
Principe
On essaye d’hybrider les réseaux Bayésiens avec les
Exemple
machines à vecteurs supports(SVM) pour estimer les
Cas particulier paramètres d’apprentissage.
Valeurs
continues
Caractéristiques
Réseaux
bayésiens
21 / 21
Réseaux bayésiens
Travaux récents
Classification
Classification
Bayésienne
Dr A.
DJEFFAL
Optimisation du temps d’entrainement tout en gardant la
précision.
Introduction
Principe
On essaye d’hybrider les réseaux Bayésiens avec les
Exemple
machines à vecteurs supports(SVM) pour estimer les
Cas particulier paramètres d’apprentissage.
Valeurs Une combinaison du raisonnement Bayésien avec les
continues
Caractéristiques
méthodes à noyaux a permis selon certaines recherches
Réseaux
d’utiliser plusieurs hyperplans, pour séparer les données,
bayésiens ensuite utiliser ces hyperplans pour produire un seul critère
de classification plus précis.
21 / 21
