Université de Ngaoundéré Année Académique 2021/2022
Faculté des Sciences Master 1 / Semestre 2
Département de Mathématiques et Informatique
TD Réseau d’Automates (INF-INF462)
Exercice -1 Définir ou expliciter les concepts suivants :
Réseau de neurones artificiels
Apprentissage automatique Supervisé
Apprentissage automatique Non-supervisé
Apprentissage automatique Par renforcement
Expliquez de manière sommaire l’algorithme d’optimisation basé sur la descente du
gradient.
Expliquez de manière sommaire l’algorithme de rétro-propagation pour l’entraînement
des réseaux de neurone.
Exercice -2 Perceptron simple
On considère un perceptron simple avec deux entrées et une sortie, et une fonction
1 si x w0 > 0
d’activation suivante : a( x)
0 sinon
1) Trouvez les poids pour que le perceptron calcule la fonction ET logique
2) Même question avec la fonction OU logique.
3) Essayez de trouver des poids pour la fonction XOR.
4) Construisez un réseau de neurones qui calcule la fonction XOR.
Exercice -3 Mise à jour des poids pour réseaux multicouches
On a vu en cours comment mettre à jour les poids dans le cas d’un seul neurone en utilisant
la descente de gradient. Le but de l’exercice est de traiter le cas des réseaux avec deux couches :
une couche de neurones qui est reliée aux entrées et une couche de neurones pour la sortie.
Notations :
x ji désigne l’entrée j de l’unité i
w ji désigne le poids associé à l’entrée j de l’unité i
net j w ji x ji est la somme pondérée des entrées
i
O j est la valeur de sortie de l’unité j
t j est la valeur attendue de l’unité j
est la fonction sigmoid
out est l’ensemble des neurones de la couche de sortie
downstream( j) est l’ensemble des neurones qui utilisent l’unité j en entrée
On mesure l’erreur d’une instance d avec la fonction suivant Ed ( w) t k Ok
1 2
2 kout
1
1) Quelle est la dérivée de la fonction sigmoid ( x)
1 ex
2) En utilisant la descente de gradient, écrire la formule de mise à jour
a) pour les unités en sortie.
b) pour les autres unités.
Exercice -4 Entraînez un perceptron pour qu’il exprime la conjonction x y .
Page 1
Université de Ngaoundéré Année Académique 2021/2022
Faculté des Sciences Master 1 / Semestre 2
Département de Mathématiques et Informatique
TD Réseau d’Automates (INF-INF462)
Exercice -5 Soit x et y deux variables booléennes.
1) Concevoir un réseau de neurones à deux entrées permettant d’implémenter la fonction
booléenne x y
2) Concevoir un réseau de neurones à deux couches implémentant la fonction booléenne
x XOR y
Exercice -6 Soit le réseau de neurones multicouches décrit par le graphe suivant :
1) Donner les formules mathématiques qui déterminent les sorties intermédiaires f11,
f12, h11, h12, f21 ainsi que la sortie finale 𝒚̂.
2) Soit la fonction d’erreur : (𝐰) =( 𝒚−𝒚̂ )2. En appliquant l’algorithme de
propagation en arrière (backpropagation), trouver les expressions des mises à
jour des paramètres ∆w𝑗 pour j = 1, …, 7.
Exercice -7 Soit le réseau de neurones multicouches décrit par le graphe suivant :
Soit la donnée (x, y) = (2, 1)
1) Calculer les sorties intermédiaires f11, f12, h11, h12, f21 ainsi que la sortie finale 𝒚̂.
2) Calculer les paramètres ∆𝒘j et 𝒘j pour j = 1, …, 7 après une itération de mise à jour (en
considérant le paramètre d’apprentissage 𝜶=0.1).
Page 2
