Cours Deep Learning
Plan
❑ Chapitre 1 : Réseaux de neurones et Introduction au Deep Leaning.
❑ Chapitre 2 : Convolutional Neural Network (CNN)
❑ Chapitre 3 : Recurrent Neural Networks (RNN)
❑ Chapitre 4 : Autoencoder
❑ Chapitre 5: Transfert learning
❑ Chapitre 6 : Reinforcement learning
2
Chapitre I : Réseaux de neurones
Et
Introduction au Deep Leaning
3
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Intelligence artificielle (AI)
Apprentissage automatique
(Machine Learning)
Apprentissage en profondeur
(Deep Learning)
Ingénierie de fabrication Des méthodes statiques
de machines et de conçus pour apprendre les
programmes intelligents. structures permettant de
prédire les résultats futurs. Basé sur le réseau
neuronal profond.
1950 1960 1970 1980 1990 2000 2010
4
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Différences entre Machine Learning et Deep Learning :
- Feature extraction
- Volume de la base de données
- Complexité de Calcul
- Dynamique/statique
5
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Réseau de neurones – Deep Learning : Biologiques/ artificiels
❑ Le système nerveux est composé de milliards de cellules : c’est un réseau de neurones
biologiques. En effet, les neurones ne sont pas indépendants les uns des autres, ils
établissent entre eux des liaisons et forment des réseaux plus ou moins complexes.
❑ Le neurone biologique est composé de trois parties principales :
• Le corps cellulaire : composé du centre de contrôle traitant les
informations reçues par les dendrites.
• Les dendrites : sont les principaux fils conducteurs par lesquels transitent
l’information venue de l’extérieur.
• L’axone : est fil conducteur qui conduit le signal de sortie du corps cellulaire vers
d’autres neurones.
6
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Réseau de neurones – Deep Learning : Biologiques/ artificiels
❑ Synapses : elles font effet de liaison et de pondération entre neurones et permettent
donc aux neurones de communiquer entre eux.
❑ Les neurones biologiques disposent d’un centre de contrôle (appelé cellule
somatique) faisant la somme des informations recueillies par les dendrites. Ensuite, le
centre de contrôle retourne un potentiel d’action en suivant les règles suivantes :
• Si la somme en entrée ne dépasse pas le seuil d’excitation : pas de message
nerveux via l’axone.
• Si la somme en entrée dépasse le seuil d’excitation : un message nerveux est émis
via l’axone .
7
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Réseau de neurones – Deep Learning : Biologiques/ artificiels
Lien entre les neurones biologiques et neurones artificiels
❑ Neurones artificiel se rapproche au mode du fonctionnement des neurones biologiques.
• Les synapses/dendrites : pondération de chaque élément en entrée wi*xi
• Corps cellulaires : application d’une fonction d’activation f à la somme des entrées
pondérées.
• Axone : sortie de notre modèle.
8
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Réseau de neurones – Deep Learning : Biologiques/ artificiels
Lien entre les neurones biologiques et neurones artificiels
Inputs Layer Somme linéaire Activation Function : non linéaire 9
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Single Layer Perceptron (SLP) 𝑁
𝑁𝑒𝑡𝑃 = 𝑊𝑖 ∗ 𝑋𝑖
𝑖=1
b
X1
W1
W2 Net P out P
𝑁
X2
W3 𝑁𝑒𝑡𝑃 = 𝑊𝑖 ∗ 𝑋𝑖 + 𝑏
𝑖=1
X3 b: bias
Wi : weights, poids, edges
𝑂𝑢𝑡𝑃 = 𝑓(𝑁𝑒𝑡𝑃)
b 10
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Single Layer Perceptron (SLP)
❑ Le perceptron : est un algorithme de classification. Plus précisément, il fonctionne comme
un classificateur binaire linéaire. Il a été développé à la fin des années 1950 par Frank
Rosenblatt.
❑ Le perceptron fonctionne essentiellement comme une fonction de seuil - les sorties
positives sont placées dans une classe tandis que les sorties négatives sont placées dans
l'autre classe.
11
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Single Layer Perceptron (SLP)
XOR Function
12
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Single Layer Perceptron (SLP)
XOR Function
13
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
MultiLayer Perceptron (MLP)
14
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Fully Connected Neural Network (FCNN)
15
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Feed Forwrard and backpropagation
16
Chapitre I : Réseaux de neurones et introduction au
Deep Leaning
Feed Forwrard and backpropagartion
17
