Optimisation TD 1
Centrale Casablanca
Mai 2025
Exercice 1
1. Soit f : R2 → R la fonction définie par
y3
f (x, y) = p si (x, y) , (0, 0) et f (0, 0) = 0.
x2 + y 4
(a) Montrer que f admet une dérivée directionnelle suivant tout vecteur non nul au
point (0, 0),
(b) Monter que f mais n’est pas différentiable en (0, 0)
x2 y
2. Prenons U = R2 , F = R et f définie par f (x, y) = x4 +y 2
si (x, y) , (0, 0) et f (0, 0) = 0. Étu-
dions f au point (0, 0).
Solution
1. Soit v = (h, k) , (0, 0).
f (t·v)−f (0,0) f (0,tk)
— Si h = 0, on a t = t =k
(
t
f (t·v) −f (0,0) 3 3 k si h=0
— Si h , 0, on a = √ t k ⩽ t2k2 −→ 0. Ainsi, Dv f (0, 0) =
t h2 t 2 +h4 t 4 t→0 0 si h,0
∂f ∂f
2. Avec v = (1, 0), on aura ∂x
(0, 0)
= 0, et avec v = (0, 1), on aura ∂y (0, 0) = 1. Le candidat à
être la différentielle en (0, 0) est donc ℓ(h, k) = k. Mais l’expression
√
f (h, k) − f (0, 0) − ℓ(h, k) k 3 − k h2 + k 4
ϵ(h, k) = √ =√ √
h2 + k 2 h2 + k 2 h2 + k 4
ne tend pas vers 0 lorsque (h, k) → 0, car limt→0+ ϵ(t, t) = − √1 . Donc f n’est pas différen-
2
tiable au point (0, 0).
3. Démontrons que g n’est pas continue en observant que
1 1 1
g , 2 = , 0 = g(0, 0)
n n 2
D’autre part, fixons (a, b) ∈ R2 \{(0, 0)} et prouvons que g admet une dérivée suivant (a, b)
en (0, 0). On a, pour t , 0
g(ta, tb) − g(0, 0) t 3 a2 b a2 b
= =
t t × t 4 a4 + t 2 b2 t 2 a4 + b2
Si b = 0, ceci est nul, sinon
g(ta, tb) − g(0, 0) t→0 a2
−→
t b
Dans tous les cas, on a prouvé que g admet une dérivée en (0, 0) suivant le vecteur (a, b)
2
qui vaut ab si b , 0, et qui vaut 0 si b = 0.
1
Exercice 2 : Application bilinéaire continue
1. Soit E, F et G des espaces normés et B : E × F → G une application bilinéaire. Alors B est
continue si et seulement s’il existe C > 0 tel que pour tout x ∈ E et tout y ∈ F, ∥B(x, y)∥ ≤
C∥x∥∥y∥. Dans ce cas B est différentiable dans E × F et pour tout (x, y) ∈ E × F, DB(x, y) est
l’application linéaire continue de E × F dans G donnée par
(h, k) 7→ DB(x, y) · (h, k) = B(x, k) + B(h, y)
2. Soit E un espace normé et L(E) l’espace vectoriel normé des applications linéaires conti-
nues de E dans E. Étudier l’application B : L(E) × L(E) → L(E) définie par (u, v) 7→ u ◦ v
3. Si E est muni d’un
√ produit scalaire E × E → R noté ⟨x, y⟩ et si la norme sur E est la norme
associée : ∥x∥ = ⟨x, x⟩, Étudier l’application B : E × E → R, B(x, y) = ⟨x, y⟩
Solution
1. L’affirmation concernant la continuité se montre comme son analogue pour les applica-
tions linéaires. Si B est continue, elle l’est en (0, 0) et il existe α > 0 tel que si ∥(x, y)∥ =
αx αy
max(∥x∥, ∥y∥) < α, alors ∥B(x, y)∥ ≤ 1. Si x ∈ E, x , 0 et y ∈ F, y , 0, (u, v) = 2∥x∥ , 2∥y∥ vérifie
αx αy
∥(u, v)∥ = α2 < α. D’où ∥B(u, v)∥ = B 2∥x∥ , 2∥y∥ ≤ 1 ou encore, en utilisant la bilinéarité et
la propriété convenable d’une norme,
4
∥B(x, y)∥ ≤ ∥x∥∥y∥
α2
ce qui permet de choisir C = α42 . Montrons maintenant que cette propriété implique
la différentiabilité de B. Cela établira a fortiori sa continuité. (Une peuve directe est
un excellent exercice...) Tout d’abord une vérification facile montre que l’application
u : (h, k) 7→ B(x, k) + B(h, y) est linéaire. La majoration
∥u · (h, k)∥ ≤ C(∥x∥∥k∥ + ∥h∥∥y∥) ≤ C(∥x∥ + ∥y∥)∥(h, k)∥
permet d’affirmer la continuité de u (et aussi ∥u∥ ≤ C(∥x∥ + ∥y∥) ). Ensuite si (h, k) ∈ E × F,
la bilinéarité de B permet d’écrire
B(x + h, y + k) − B(x, y) − u · (h, k) = B(h, k)
B(h,k)
et la majoration ∥B(h, k)∥ ≤ C∥h∥∥k∥ ≤ C∥(h, k)∥2 montre que ∥(h,k)∥
→ 0 quand ∥(h, k)∥ → 0
Exemples :
2. Soit E un espace normé et L(E) l’espace vectoriel normé des applications linéaires conti-
nues de E dans E. L’application B : L(E) × L(E) → L(E) définie par (u, v) 7→ u ◦ v est bi-
linéaire continue car ∥u ◦ v∥ ≤ ∥u∥∥v∥. Elle est donc différentiable dans L(E) × L(E) et sa
différentielle en (u, v) est donnée par
(h, k) 7→ DB(u, v) · (h, k) = u ◦ k + h ◦ v.
3. Si E est muni d’un
√ produit scalaire E × E → R noté ⟨x, y⟩ et si la norme sur E est la norme
associée : ∥x∥ = ⟨x, x⟩, la forme bilinéaire B : E × E → R, B(x, y) = ⟨x, y⟩ est continue donc
différentiable en tout point. Lorsque E = Rm , la norme ∥ · ∥2 est obtenue de cette façon à
partir du produit scalaire usuel.
2
Exercice 3 :
Soient f , g ∈ C 1 R2 , R et
ϕ : R3 → R2
(x, y, z) → f x2 y, z2 x , g (xy , zx)
Calculer, si elle existe, la différentielle de ϕ.
Solution
Posons γ : (x, y, z) 7→ x2 y, z2 x et δ : (x, y, z) 7→ (xy , zx). γ et f sont différentiables en tous points
de leurs domaines, donc f ◦ γ est différentiable en tout point de R3 avec
d(f ◦ γ)(x, y, z) = df (γ(x, y, z)) ◦ dγ(x, y, z)
2xy x2 0
!
On calcule Jac(γ)(x, y, z) = . En passant des applications linéaires aux ma-
z2 0 2zx
trices.
Jac(f ◦ γ)(x, y, z) = Jac(f ) x2 y, z2 x · Jac(γ)(x, y, z)
2xy x2 0
!
2 2
= Jac(f ) x y, z x ·
z2 0 2zx
δ est définie et différentiable en (x, y, z) dès lors que x > 0. On calcule de même Jac(δ)(x, y, z) =
yxy−1 xy ln x 0
!
de sorte que pour tout (x, y, z) avec x > 0,
z 0 x
yxy−1 xy ln x 0
!
y
Jac(g ◦ δ)(x, y, z) = Jac(g) (x , zx) ·
z 0 x
La différentielle de f ◦ γ en (x, y, z) est donc
T
! h1 T
h1
2xy x2 0
h2 7→ Jac(f ) x2 y, z2 x · · h2
z2 0 2zx
h3 h3
et celle de g ◦ δ en (x, y, z) avec x > 0
T
! h1 T
h1
yxy−1 xy ln x 0
h2 7→ Jac(g) (xy , zx) · · h2
z 0 x
h3 h3
Soit (x, y+ z) fixé avec x > 0 et h = (h1 , h2 , h3 )
x h1 x + h1 x + h1
ϕ y + h2 = f ◦ γ y + h2 , g ◦ δ y + h2
z h3 z + h3 z + h3
= (f ◦ γ((x, y, z)) + d(f ◦ γ)(x, y, z) (h1 , h2 , h3 ) + ∥h∥ε1 (∥h∥) .
g ◦ δ((x, y, z)) + d(g ◦ δ)(x, y, z) (h1 , h2 , h3 ) + ∥h∥ε2 (| h∥))
−→
où ε1 et ε2 sont des fonctions telles que ε1 (∥h∥) −→ 0 et ε2 (||h∥) −−−−−−→ 0
∥h∥→0 ∥h∥→0
= ϕ((x, y, z)) + (d(f ◦ γ)(x, y, z) (h1 , h2 , h3 ) , d(g ◦ δ)(x, y, z) (h1 , h2 , h3 ))
3
−→
où ε1 et ε2 sont des fonctions telles que ε1 (∥h∥) −→ 0 et ε2 (∥h∥) −−−−−−→ 0
∥h∥→0 ∥h∥→0
= ϕ((x, y, z)) + (d(f ◦ γ)(x, y, z) (h1 , h2 , h3 ) , d(g ◦ δ)(x, y, z) (h1 , h2 , h3 ))
+ ∥h∥ (ε1 (∥h∥), ε2 (||h∥))
| {z }
−→0
∥h∥0
La différentielle de ϕ en (x, y, z) est donc
T
! h1 T ! h1 T
h1
x2 yxy−1 xy ln x
2xy 0 0
h2 7→ Jac(f ) x2 y, z2 x · · h2 , Jac(g) (xy , zx) ·
· h2
z2 0 2zx z 0 x
h3 h3 h3
Exercice 4 : Fonction quadratique
On considère la fonction quadratique f : Rn → R, donné par
f (x) = (1/2)xT P x + qT x + r
avec P ∈ Sn , ensemble des matrices symétriques d’ordre n, q ∈ Rn , et r ∈ R.
1. Calculer la dérivée première et la dérivée seconde de f
2. Donner une condition pour que f soit convexe.
3. En déduire que la fonction dy : Rn → R, x 7→ ∥x − y∥2 est strictement convexe pour tout
y ∈ Rn .
Exercice 5
1. Soit (fi )i∈I une famille quelconque de fonctions convexes de U ⊂ V → R. Démontrer que
la fonction supi∈I fi est convexe.
1 ap q
2. Montrer l’inégalité de Young : ∀a, b > 0, ∀p, q ∈ N tels que p + 1q = 1, ab ≤ p + bq
3. Soit f une fonction convexe de Rn dans R. Montrer que :
p
p p
X X X
+ p n p
∀ (λi )1≤i≤p ∈ (R ) t. q. λi = 1, ∀ (xi )1≤i≤p ∈ (R ) , f λi xi ≤ λi f (xi )
i=1 i=1 i=1
Solution
1. Soient x, y ∈ U et t ∈ [0, 1].∀i ∈ I fi (tx + (1 − t)y) ≤ tfi (x) + (1 − t)fi (y) ≤ t supi∈I fi (x) + (1 −
t) supi∈I fi (y). Donc supi∈I fi (tx + (1 − t)y) ≤ t supi∈I fi (x)+ (1 − t) supi∈I fi (y)
1
2. On utilise la convexité de la fonction exponentielle avec p + 1q = 1. On obtient
!
1 p 1 1 1
exp log a + log b ≤ exp (log ap ) + exp (log bq )
q
p q p q
pour a, b > 0, c’ est-à-dire l’inégalité voulue.
4
3. On raisonne par récurrence : c’est vrai pour p = 2. Supposons que c’est vrai pour p−1. Soit
Pp Pp
(λi )1≤i≤p ∈ (R+ )p tel que i=1 λi = 1. Il existe donc i0 tel que λi0 , 0. Posons µ = i=1,i,i λi
i 0
Il est clair que λi0 , µ ∈ 0, 1 [ et λi0 + µ = 1. Soit (xi )1≤i≤p ∈ Rp . On appelle x le barycentre
Pp
des points (λi , xi )i,i0 de sorte que i=1,i,i0 λi xi = µx. La convexité de f donne
p
X
f λi xi = f µx + λi0 xi0 ≤ µf (x) + λi0 f xi0 .
i=1
Pp λi
comme x = i=1,i,i0 µ xi , on utilise 1’ hypothese de récurrence pour conclure.
..............................................................................................
Exercice 6 : Fonction log-sum-exp
On considère Ia fonction suivante : f (x) = log (ex1 + · · · + exn ) définie sur Rn .
1. Montrer que la Hessienne de f est donnée par
1
∇2 f (x) = 1T z diag(z) − zzT ,
(1T z)2
où z = (ex1 , . . . , exn )
2. Montrer que
n
n n 2
1
X X X
v T ∇2 f (x)v = z v 2
z v z .
−
2
i i i
i i
T
(1 z)
i=1
i=1 i=1
3. En utilisant l’inégalité de Cauchy-Schwarz
2
aT a b T b ≥ aT b
√ √
appliquée aux vecteurs ai = vi zi , bi = zi montrer que Ia fometion f est convexe.
Exercice 7
On dit qu’une fonction ψ : Rn → Rn est monotone si pour tout x, y ∈ dom ψ,
(ψ(x) − ψ(y))T (x − y) ≥ 0
On suppose que f : Rn → R est comvexe et differentiable.
1. Montrer que le gradient ∇f est monotone.
2. Soit la fonction suivante :
" # " #" #
x1 1 0 x1
ψ(x) = =
x1 /2 + x2 1/2 1 x2
(a) Montrer que ψ est monotone
(b) Montrer qu’il n’e xiste pas de fonction f : R2 → R telle que ψ(x) = ∇f (x),
Solution
5
La Comexité de f implique
f (x) ≥ f (y) + ∇f (y)T (x − y), f (y) ≥ f (x) + ∇f (x)T (y − x)
pour tout x, y ∈ dom f . En combinant les deux inégalités on en déduit
(∇f (x) − ∇f (y))T (x − y) ≥ 0
ce qui montre que ∇f est monotone. La réciproque n’est pas vraie en général.En effet on consi-
dère " # " #" #
x1 1 0 x1
ψ(x) = =
x1 /2 + x2 1/2 1 x2
W est monotone car
" # " #
T 1 0 T 1 1/4
(x − y) (x − y) = (x − y) (x − y) ≥ 0
1/2 1 1/4 1
pour tout x, y. Mais il n’existe a une fonction, f : R2 → R telle que ψ(x) = ∇f (x), car
∂2 f ∂ψ1 ∂2 f ∂ψ2
= = 0, = = 1/2
∂x1 ∂x2 ∂x2 ∂x1 ∂x2 ∂x1
..............................................................................................
