INTRODUCTION
A L'INTELLIGENCE
ARTIFICIELLE
ILYASS MSELLEK
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
01
Définition
"PENSER COMME UN HUMAIN"
Ensemble de théories et de techniques mises en
œuvre en vue de réaliser des machines capables de
simuler l'intelligence humaine
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
02
MODÉLISATION INFORMATIQUE D'UN NEURONE
Warren McCulloch et Walter Pitts en 1943.
TEST DE TURING (1950)
Capacité à discerner un ordinateur d'un humain ?
CONFÉRENCE DE LA DIRTMOUTH (1956)
Histoire de
Des chercheurs spécialistes se réunissent pendant 2
mois (!) et définissent le terme d'IA.
l'IA (1)
ESPOIRS GRANDISSANTS (1956 - 1969)
De nombreux algorithmes d'IA voient le jour pour
résoudre des problèmes simples, prouver des
théorèmes mathématiques déjà établis
INTRODUCTION A
PREMIERES DECEPTIONS (1966 - 1973)
L'ALGORITHMIQUE
EN NEUROSCIENCES Certains algorithmes marchent mal, notamment de
traduction automatique (approche syntaxique
03
insuffisante)
SYSTEMES EXPERTS (1969 - 1979)
IA DANS L'INDUSTRIE (1980 - PRÉSENT)
Capacité à discerner un ordinateur d'un humain ?
Histoire de
LE RETOUR DES RÉSEAUX DE NEURONES
l'IA (2) (1986 - PRÉSENT)
IA MODERNE
Approche scientifique plus rigoureuse, théorie
INTRODUCTION A
L'ALGORITHMIQUE
mathématique beaucoup plus consistante
EN NEUROSCIENCES
04
Santé Applications de
l'IA
Finance
Sécurité informatique
INTRODUCTION A
L'ALGORITHMIQUE EN
Sport NEUROSCIENCES
05
ChatGPT
UN CHATBOT REVOLUTIONNAIRE ?
N'A PAS ACCÈS À INTERNET !
En effet, l'algorithme se sert de sa base de données
d'entraînemnet pour fournir les réponses.
UNE RÉVOLUTION ?
peut écrire des mails
fait les exercices des étudiants INTRODUCTION A
L'ALGORITHMIQUE EN
peut écrire du code ! NEUROSCIENCES
06
Sous-domaines
de l'IA
MACHINE LEARNING
Donne à l'ordinateur la capacité d'apprendre
sans avoir été explicitement programmé.
DEEP LEARNING
Sous-ensemble du ML utilisant des réseaux de
neurones pour mimer l'apprentissage humain.
INTRODUCTION A
L'ALGORITHMIQUE EN
NEUROSCIENCES
07
Fondamentaux du INTRODUCTION A
Machine Learning L'ALGORITHMIQUE EN
NEUROSCIENCES
08
Pour partir à l'assaut du Mont-Blanc, il faut être bien entraîné et équipé !
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
Qu'est-ce que le ML?
09
DÉFINITION
"L'apprentissage automatique est la discipline donnant aux
ordinateurs la capacité d'apprendre sans qu'ils soient
explicitement programmés" - Arthur Samuel 1959
une autre plus technique....
"Etant donné une tâche T et une mesure de performance P,
on dit qu'un programme informatique apprend à partir
d'une expérience E si les résultats obtenus sur T, mesurés
par P, s'améliorent avec l'expérience E." - Tom Mitchell 1997
EXEMPLE :
Filtre anti-spam
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
10
Apprentissage supervisé
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
11
MODÈLE
APPRENTISSAGE
SUPERVISÉ
Exemple : Prédiction du prix d'une maison, en ayant accès à la base de données de SeLoger.com
INTRODUCTION A
Apprentissage non-supervisé
L'ALGORITHMIQUE
EN NEUROSCIENCES
12
i.e. où les données ne sont pas étiquetées
MODÈLE
Exemples :
Détection d'anomalies (Pourquoi ?)
Partitionnement de données (Marketing ciblé !)
INTRODUCTION A
Regression linéaire
L'ALGORITHMIQUE
EN NEUROSCIENCES
13
Voyons deux façons d'entraîner un modèle de régression linéaire :
- une méthode analytique, qui trouve directement le modèle optimal
- méthode d'optimisation intérative, appelée descente de gradient, qui
consiste à modifier graduellement les paramètres du modèle pour
l'ajuster petit à petit au jeu de données d'entraînement
où yi est la valeur prédite pour l'individu i
xi,j la valeur de la j-ème variable
εi représente l'erreur du modèle
β le vecteur des paramètres du modèle
Fonction de coût
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
14
Permet de mesurer l'erreur commise par le modèle. Représente
l'écart quadratique entre les valeurs prédites et les valeurs réelles.
Voyons comment la définir :
m le nombre d'observations dans le jeu de données
h la fonction d'hypothèse (dépend de β)
Équation normale
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
15
Il existe une solution analytique, càd une formule mathématique qui
fournit directement le résultat ! Celle-ci porte le nom d'équation
normale.
est la valeur de θ qui minimise la fonction de coût
INTRODUCTION A
Descente de gradient
L'ALGORITHMIQUE
EN NEUROSCIENCES
16
Un autre type d'algo, très général, capable de trouver des solutions
optimales à un grand nombre de problèmes. L'idée essentielle est de
corriger petit à petit les paramètres dans le but de minimiser une
fonction de coût.
⚠️ Attention aux minima locaux ! ⚠️ INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
17
INTRODUCTION A
Courbes d'apprentissages
L'ALGORITHMIQUE
EN NEUROSCIENCES
18
Un bon modèle de machine learning, c’est un modèle qui généralise.
Qu'est-ce que la généralisation, et comment l'évaluer ?
INTRODUCTION A
Compromis biais/variance
L'ALGORITHMIQUE
EN NEUROSCIENCES
19
Deep Learning
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
20
Avec le Deep Learning, nous parlons d’algorithmes capables de mimer les actions
du cerveau humain grâce à des réseaux de neurones artificielles. Les réseaux sont
composés de dizaines voire de centaines de « couches » de neurones, chacune
recevant et interprétant les informations de la couche précédente.
Objectif : s'inspirer du modèle de pensée humain
pour reproduire des comportements rationnels
MODÉLISATION INFORMATIQUE D'UN NEURONE
Warren McCulloch et Walter Pitts en 1943.
PÉRIODE SOMBRE (1960)
Manque d'intérêt, peu de financements
RETOUR DES RNA (1980)
Nouvelles algorithmes développées
Histoire du
CONCURRENCE AVEC LE ML
Deep Learning D'autres algorithmes de ML voient le jour, et sont
préférés des chercheurs, car se basent sur des théories
mathématiques solides
REGAIN D'INTÉRÊT (2010 - AUJOURD'HUI)
INTRODUCTION A
L'ALGORITHMIQUE
Pourquoi cet intérêt soudain pour les algorithmes de DL
EN NEUROSCIENCES
depuis une dizaine d'années ?
21
INTRODUCTION A
Intérêt du Deep Learning
L'ALGORITHMIQUE
EN NEUROSCIENCES
22
1. Explosion de la quantité de données disponible
2. Puissance de calcul décuplée
3. Algorithmes améliorés depuis les années 1990
4. Limites du DL se sont avérées bénignes
5. Algorithmes de DL font le "buzz" -> ++ financements
INTRODUCTION A
Algorithmes de DL
L'ALGORITHMIQUE
EN NEUROSCIENCES
23
1. Réseaux neuronaux convolutifs (CNN)
2. Réseaux neuronaux récurrents (RNN)
3. Réseaux de mémoire à long et court terme (LSTM)
4. Réseaux adversariaux génératifs (GAN)
5. Auto-encoders
6. Apprentissage par renforcement
Modèle de neurone artificiel
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
24
Perceptron
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
25
1957 - Rosenblatt
Une des architectures de RNA les plus simples
On peut s'en servir comme classificateur binaire, comment ?
INTRODUCTION A
Quizz !
L'ALGORITHMIQUE
EN NEUROSCIENCES
26
Question 1 : Quelle est la différence entre un algorithme d'apprentissage
supervisé et non-supervisé ? Citer un exemple où il serait plus pertinent
d'utiliser un algorithme d'apprentissage non supervisé.
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
27
Réponse 1 :
Supervisé: toutes les données sont étiquetées et les algorithmes
apprennent à prédire le résultat des données d’entrée.
Non supervisé: toutes les données ne sont pas étiquetées et les
algorithmes apprennent la structure inhérente à partir des données en
entrée.
Exemple : détection d'anomalies
INTRODUCTION A
Quizz !
L'ALGORITHMIQUE
EN NEUROSCIENCES
28
Question 2 : Qu'est-ce que le compromis biais-variance ?
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
Réponse 2 : En statistique et en apprentissage automatique, le
29
compromis biais–variance est le problème de minimiser simultanément
deux sources d'erreurs qui empêchent les algorithmes d'apprentissage
supervisé de généraliser au-delà de leur échantillon d'apprentissage :
Le biais est l'erreur provenant d’hypothèses erronées dans
l'algorithme d'apprentissage. Un biais élevé peut être lié à un
algorithme qui manque de relations pertinentes entre les données
en entrée et les sorties prévues (sous-apprentissage).
La variance est l'erreur due à la sensibilité aux petites fluctuations
de l’échantillon d'apprentissage. Une variance élevée peut entraîner
un surapprentissage, c'est-à-dire modéliser le bruit aléatoire des
données d'apprentissage plutôt que les sorties prévues.
INTRODUCTION A
Quizz !
L'ALGORITHMIQUE
EN NEUROSCIENCES
30
Question 3 : Supposons que vous utilisiez une descente de gradient
ordinaire, en représentant graphiquement l'erreur de validation à chaque
cycle : si vous remarquez que l'erreur de validation augmente
régulièrement, que se passe-t-il probablement ? Comment y remédier ?
INTRODUCTION A
L'ALGORITHMIQUE
EN NEUROSCIENCES
31
Réponse 3 : Si l'erreur de validation augmente régulièrement
après chaque cycle, alors il se peut que le taux d'apprentissage
soit trop élevé et que l'algorithme diverge. Si l'erreur
d'entraînement augmente également, alors c'est clairement là
qu'est le problème et vous devez réduire le taux
d'apprentissage. Par contre, si l'erreur d'entraînement
n'augmente pas, votre modèle surajuste le jeu d'entraînement
et vous devez arrêter l'entraînement.
