Optimisation TD 2

Centrale Casablanca

Mai 2025

Exercice 1
On considère la fonction f définie sur R2 par

f (x, y) = x4 + y 4 − 2(x − y)2

1. Montrer qu’il existe (α, β) ∈ R2+ (et les déterminer) tels que f (x, y) ≥ α∥(x, y)∥2 + β pour
tous (x, y) ∈ R2 , où la notation ∥ · ∥ désigne la norme euclidienne de R2 . En déduire que le
problème
(P ) inf f (x, y)
(x,y)∈R2

possède au moins une solution.

2. La fonction f est-elle convexe sur R2 ?
3. Déterminer les points critiques de f , et préciser leur nature (minimum local, maximum
local, point-selle, ...).
4. Résoudre alors le problème (P ).

Solution
   
1. f est polynômiale donc de classe C ∞ R2 . En utilisant le fait que xy ≥ − 21 x2 + y 2 , on
écrit
f (x, y) ≥ x4 + y 4 − 2x2 − 2y 2 + 4xy ≥ x4 + y 4 − 4x2 − 4y 2 .
pour tout (x, y) ∈ R2 . En utilisant le fait que pour tout (X, ε) ∈ R2 , X 4 + ε4 − 2εX 2 ≥ 0, il
vient
f (x, y) ≥ (2ε − 4)x2 + (2ε − 4)y 2 − 2ε4 .
Choisissons par exemple ε = 3, on en déduit
 
f (x, y) ≥ 2 x2 + y 2 − 162 −→ +∞
∥(x,y)∥→+∞

ce qui prouve que f est coercive sur R2 qui est fermé et de dimension finie. D’après le
théorème du cours, le problème (P ) admet au moins une solution.
2. Pour étudier la convexité de f (qui est de classe C 2 sur R2 ), calculons
! sa matrice hessienne
3x 2−1 1
en tout point (x, y) de R2 . On a Hess f (x, y) = 4 . Rappelons que f est
1 3y 2 − 1
convexe sur R2 si, et seulement si sa matrice hessienne est semi-définie positive en tout
point. Or, on vérifie aisément que les valeurs propres de Hess f (0, 0) sont 0 et -2 . Par
conséquent, f n’est pas convexe.

1
 30

25

20
30
15
20
10
10
5
2
0
0
0
-5
-2
-1
0
1 -2
2

Figure 1 – f (x, y) = x4 + y 4 − 2(x − y)2

3. Les points critiques de f sont donnés par les solutions de ∇f (x, y) = (0, 0), autrement dit,
les points critiques sont solutions du système :
( 3 ( 3
x + y3 = 0
(
x − (x − y) = 0 y = −x
⇔ ⇔
y 3 + (x − y) = 0 y 3 + (x − y) = 0 x3 − 2x = 0
√ √ √ √
On en déduit que f admet trois points critiques : O(0, 0), A( 2, − 2) et B(− 2, 2). f ét
ant de classe C 2 , on va utiliser la caractérisation des points critiques àl’aide de
! la hes-
20 4
sienne calculée à la question précédente. &) Point A : Hess f (A) = donc la
4 20
trace de Hess f (A) vaut 40 et son déterminant 384 . On en déduit que Hess f (A) possède
deux valeurs propres strictement positives donc que A est un minimiseur local pour f . 8)
Point B : Hess f (B) = Hess f (A), donc! la même conclusion que pour le point A s’impose.
−4 4
8) Point O : Hess f (O) = , donc la trace de Hess f (O) vaut -8 et son détermi-
4 −4
nant est nul. Il vient que ses valeurs propres sont 0 et -8 . On ne peut donc rien conclure
dans ce cas à l’aide de la matrice hessienne. En revanche, on peutdonner  un argument à
4 2 2 4
la main : soit x ∈ R tel que |x| < 2. On a f (x, −x) = 2x − 8x = −2x 4 − x . Or, |x| < 2 donc
4 − x2 > 0 et on en déduit que f (x, −x) < 0. De même, soit x ∈ R. On a f (x, x) = 2x4 ≥ 0.
Puisque les inégalités précédentes sont obtenues pour des x arbitrairement petits, on en
déduit que le point (0, 0) est un point-selle pour f .
4. En conclusion, puisque le problème (P ) possède une solution, la caractérísation des points
critiques de f nous assure que

inf f (x, y) = f (A) = f (B) = −8

(x,y)∈R2

2
Rappel:
" #
a b
1. Soit A = une matrice symétrique de taille 2 × 2 :
b c
— A est définie positive si x⊤ Ax > 0 pour tout vecteur non nul x :
" #" #
h i a b x
⊤
x Ax = x y = ax2 + 2bxy + cy 2 > 0
b c y

— A est définie positive si ses valeurs propres sont strictement positives

— Les valeurs propres de A sont strictement positives :
a) si et seulement si a > 0 et ac − b2 > 0 b) si et seulement si les pivots sont
2
positifs : a > 0 et ac−b
a >0
— Sinon, si a < 0 et Det(A) = ac − b2 > 0, A est définie négative (noté A ≺ 0 )
— Sinon A peut encore être semi-définie positive, semi-définie négative, et sinon
non-définie (ou indéfinie)
2. Soit f une fonction deux fois dérivable telle que f ′′ soit continue. Soit x0 un point
stationnaire de f :
— si f ′′ (x0 ) > 0 alors x0 point de minimum local.
— si f ′′ (x0 ) < 0 alors x0 point de maximum local.
— si f ′′ (x0 ) = 0 alors on ne peut pas conclure.
3. (bis) Soit f une fonction de deux variables possédant des dérivées partielles du
second ordre continues au voisinage d’un point stationnaire P0 = (x0 , y0 ) situé à
∂2 f ∂2 f
l’intérieur de son domaine de définition. Posons r0 = ∂x2
(x0 , y0 ) , s0 = ∂x∂y
(x0 , y0 ) et
2
∂ f
t0 = ∂y 2
(x0 , y0 )
— si r0 t0 − s02 > 0 et r0 > 0 alors f est convexe au voisinage de P0
— si r0 t0 − s02 > 0 et r0 < 0 alors f est concave au voisinage de P0
— si r0 t0 − s02 < 0 alors P0 n’est ni convexe ni concave au voisinage de P0
— sinon on ne peut rien dire...
4. Point selle : Soit (a, b) un point critique de la fonction f . Si en (a, b) la fonction f
a un minimum dans une direction et un maximum dans une autre, le point (a, b)
s’appelle point col ou point selle.
Soit f : R2 −→ R une fonction C 2 et soit (a, b) un point critique de f . Si det Hf (a, b) <
0 alors (a, b) est un point selle.

3
Exercice 2(Fonctions quadratiques)
On considère le problème de minimisation de la fonction quadratique suivante :

1
minimize J(x) = xT Ax + bT x + r
2
où A ∈ Sn .
1. Montre que si A n’est pas semi définie positive, c.a.d la fonction J n’est pas convexe, alors
le problème n’est pas borné inferieurement.
2. On suppose que A ⪰ 0, c.a.d la fonction J est convexe, écrire l’equation d’Euler associée
au problème.
3. Montrer que si b n’est p as dans l’image de la matrice A, le problème de minimisation
n’est pas borné inferieurement.

Solution

1. Si A ≱ 0, il existe alors v tel que v T Av < 0. Soit x = tv on a

   
J(x) = t 2 v T Av/2 + t qT v + r

qui tend vers −∞ lorsque t tend vers I’infini.

2. Si b < R(A) ( image de A). On décompose b comme suit b = b̃ + v, où b̃ représente la
projection orthogonal de b sur R(A). Le vecteur v = b − b̃ est non nul et il est orthogonal à
R(A), c.a.d, v T Av = 0. Donc pour x = tv, on a
 
f (x) = tbT v + r = t(b̃ + v)T v + r = t v T v + r

qui n est pas borné

Exercice 3 (moindres carrés)

On considère la fonction f définie sur l’intervalle [−1, 1] par f (x) = x3 . L’espace C 0 ([−1, 1])
R1
des fonctions continues sur [−1, 1] est muni du produit scalaire défini par ⟨h, g⟩ = −1 h(x)g(x)dx
√ 
et on note ∥ · ∥ la norme associée, définie par ∥h∥ = ⟨h, h⟩, pour tous (h, g) ∈ C 0 ([−1, 1])2 . On
souhaite déterminer le polynôme P de degré inférieur ou égal à 1 qui approche le mieux f au
sens des moindres carrés, c’est-à-dire qui minimise ∥f − P ∥2 parmi tous les polynômes de degré
inférieur ou égal à 1 (sous réserve qu’il existe et soit unique).
1. Mettre ce problème sous la forme d’un problème de moindres carrés de dimension finie.
Quelle est cette dimension ?
2. Étudier l’existence/l’unicité des solutions de ce problème.
3. Résoudre ce problème.

Solution

1. Le problème d’optimisation s’écrit

Z 1  2
inf J(a, b), avec J(a, b) = x3 − ax − b dx
(a,b)∈R3 −1

4
 On calcule alors
Z 1
  1
J(a, b) = x6 + a2 x2 + b2 − 2ax4 − 2bx3 + 2abx dx = ⟨AX, X⟩ − ⟨b̃, X⟩ + c
−1 2
! !
4/3 0 4/5
avec X = (a, b)⊤ , A = , b̃ = et c = 27 . On s’est ramené à un problème
0 4 0
d’optimisation de dimension 2.
2. Le problème d’optimisation précédent est un problème d’optimisation quadratique donc
la matrice hessienne associée est définie positive. On en déduit que Ia fonction J est coer-
cive sur R2 qui est fermé et de dimension finie donc ce problème possède une solution
unique.
3. L’équation d’Euler s’écrit AX = e b qui se résout directement. On obtient :
!
3/5
X=
0

Exercice 4
Le but de l’exercice est de prouver le théorème de projection sur convexe fermé dans un
Hilbert :
Soit C un sous-ensemble convexe fermé non vide de Rn . Donné u ∈ Rn il existe un unique
point PC (u) ∈ C, tel que :
∥PC (u) − u∥ = min ∥v − u∥
v∈C
On l’appelle le projeté de u sur C. Il est caractérisé par :
∀v ∈ C, ⟨PC (u) − u, v − PC (u)⟩ ⩾ 0
De plus l’application PC est contract ante, i.e. :
∀x, y ∈ Rn , ∥PC (x) − PC (y)∥ ⩽ ∥x − y∥
1. Prouver l’existence et l’unicité de PC (u).
2. Prouver la caractérisation donnée de PC (u).
3. Utiliser cette caractérisation pour prouver que PC est une application contractante.

Solution
1. Le problème de minimisation infv∈C ∥u − v∥ est équivalent au problème infv∈C ∥u − v∥2 . Or
I’application
Xn
2
f : x 7→ ∥u − x∥ = (ui − xi )2 = x⊤ I dx − 2u⊤ x + ∥u∥2
i=1
est une application quadratique de matrice hessienne 2 Id. Donc f est une application
elliptique, et donc strictement convexe et coercive. Le domaine C étant convexe fermé et
non vide elle y admet un unique minimum, Pc (u).
2. On est dans le cadre de la programmation convexe, et f est différentiable. La caractérisa-
tion de PC (u) est donnée par :
∀v ∈ C, ⟨∇f (PC (u)⟩ , v − PC (u)⟩ ⩾ 0
Or ∇f (PC (u)) = 2 (PC (u) − u). On obtient donc :
∀v ∈ C, 2 ⟨PC (u) − u, v − PC (u)⟩ ⩾ 0
d’où la caractérisation donnée .

5
 3. En appliquant la caractérisation des points PC (x) et PC (y) :
⟨PC (x) − x, PC (y) − PC (x)⟩ ⩾ 0
⟨PC (y) − y, PC (x) − PC (y)⟩ ⩾ 0
En additionnant ces deux inégalités :
⟨PC (x) − PC (y) − x + y, PC (y) − PC (x)⟩ ⩾ 0
soit
⟨y − x, PC (y) − PC (x)⟩ ⩾ ∥PC (y) − PC (x)∥2
3 et en appliquant l’inégalité de Cauchy-Schwartz au membre de gauche :
∥y − x∥ ∥PC (y) − Pc (x)∥ ⩾ ⟨y − x, PC (y) − PC (x)⟩ ⩾ ∥PC (y) − Pc (x)∥2
donc on déduit l’inégalité recherchée.

Exercice 5
Soient V un espace de Hilbert et a une forme bilinéaire symétrique continue sur V × V . Soit
L une forme linéaire continue sur V . On pose J(u) = 21 a(u, u) − L(u).
1. Montrer que J est déivable sur V et que ⟨J ′ (u), w⟩ = a(u, w) − L(w) pour tout u, w ∈ V .
 R R
2. Soit V = L2 (Ω) (Ω ét ant un ouvert de RN , a(u, v) = Ω uvdx, et L(u) = Ω f udx avec
f ∈ L2 (Ω). En identifiant V et V ′ , montrer que J ′ (u) = u − f .
3. Soit V = H 1 (Ω) et on définit la fonctionnelle J par
Z Z Z
1 2 1 2
J(v) = λ |∇v| dx + k |v| dx − f (x)v(x)dx
2 Ω 2 Ω Ω

Etudier la problème de minimisation suivant :

inf J(v)
v∈H 1 (Ω)

Solution

— Il suffit de développer l’expression J(u + w). On obtient

J(u + w) = J(u) + a(u, w) − L(w) + a(w, w)/2
La forme bilinéaire a étant continue, a(w, w) est égale à. o(w). La fonction J est donc déri-
vable et
J ′ (u), w = a(u, w) − L(w)
— D’après la première question on a
Z
′
J ⟨u), w = (uw − f w)dx = ⟨u − f , w⟩L2 (Ω) .
Ω

En identifiant L2 (Ω) et son dual à l’aide du produit scalaire L2 (Ω), on obtient J ′ (u) = u − f
— On utilise la caractérisation des fonctions différentiables α − convexes. On montre que
⟨J ′ (v) − J ′ (u), v − u⟩ ≥ α||u − v||2H 1 (Ω)

donc J est α − convexe et comme elle est continue sur V (convexe fermé) on a l’existence
et l’unicité d’un minimum unique