K-MEANS ET K PLUS PROCHES VOISIN (KNN)
TPE SIA 417
Octobre 2024
Par Groupe I
PARTICIPANT DU GOUPRE 1
1- FOKA MAGHEN YANN BRONDON 21S56800
2- KEUTCHA TOALEU JOEL 19S29476
3- MADIA MANA INGRID FORTUNE 21S56937
4- NDJAB BONGA MICHEL B. 21S57048S
5- NOUPOUE MBOUGA DESVAN-KEROL 21S57227
6- TCHAKAM DUPLEX CEDRIC 21S57305
PRESENTATION DES K-MEANS ET KNN
En apprentissage automatique, L’algorithme des k-moyennes(k-means en anglais) est un
algorithme de classification non supervisé qui permet de regrouper des données en k-clusters(ou
groupes) distincts en fonction de leur similarité.
L’algorithme fonctionne en attribuant chaque donnée au cluster dont le centre(centroïde) est le
plus proche, puis en mettant a jour les centres des clusters jusqu’à convergence.
En apprentissage automatique, la méthode des k plus proches voisins est une méthode
d’apprentissage supervisé. Il est utilisé pour la régression et la classification. Il est considéré
comme l'un des algorithmes les plus simples et les plus populaires en apprentissage
automatique.
Le KNN est basé sur le principe que des objets similaires sont proches les uns des autres dans
l'espace des caractéristiques. Il est non paramétrique, ce qui signifie qu'il n'effectue pas
d'hypothèses sur la distribution des données.
L’algorithme des K plus proches voisins (KNN) est implémenté dans différents modules et
bibliothèques de programmation, en fonction du langage utilisé. Par exemple, en python, elle
est mise en œuvre dans scikit learn (sklearn.neighbors), Qui propose une implémentation
éfficace et facile à utiliser.
FONCTIONNEMENTDES K-MEANS
L’algorithme des K-moyennes fonctionne de la manière suivante :
On choisit K points aléatoires dans l’espace des données;
On attribue chaque donnée au cluster dont le centre est plus proche;
Mettre à jour les centres des clusters en calculant attribuées à chaque cluster;
On repète les étapes 2 et 3 jusqu’à ce que les centres clusters ne changent plus
significativement
L’algorithme des K-moyennes peut s’arrêter lorsque : Les centres des clusters ne
changent plus significativement, Un nombre maximum d’itération est atteint ou lorsque
La variance intra-cluster est minimisée
FONCTIONNEMENT DES K-MEANS
FONCTIONNEMENT DES K-MEANS
FONCTIONNEMENT DES KNN
Pour prédire la classe d'un nouvel exemple, le KNN recherche les K voisins les plus
proches dans l'espace des caractéristiques.
la classe du nouvel exemple est déterminée par un vote majoritaire parmi les classes
des K voisins les plus proches.
Il existe différentes approches pour le vote, telles que le vote à la majorité, le vote
pondéré par la distance, etc. ici la distance utilisée est la distance de recouvrement (ou
la distance de Hamming).
La distance de Hamming est calculée en comptant le nombre de positions où les
symboles correspondants des deux chaînes diffèrent Pour calculer la distance de
Hamming entre deux chaînes de même longueur on compare les symboles
correspondants des deux chaînes, position par position puis on incrémente le compteur
de distance chaque fois que les symboles diffèrent.
FONCTIONNEMENT DES KNN
Illustration
FONCTIONNEMENT DES KNN
BIBLIOGRAPHIE
Google.com
Wikipedia.org
chatGpt
Youtube.com
