Enoncés et corrections : Ana Matos.
Exo7
Décomposition en valeurs singulières. Conditionnement
Exercice 1
Soit A ∈ Rm×n de rang r ⩽ p = min(m, n). On considère la décomposition en valeurs singulières de A
U T AV = diag(σ1 , · · · , σ p )
où les σi sont les valeurs singulières de A
1. Montrer que Im(A) = span{u1 , u2 , · · · , ur } et Ker(A) = span{vr+1 , · · · , vn }.
2. Montrer que Im(T A) = span{v1 , u2 , · · · , vr } et Ker(AT ) = span{ur+1 , · · · , um }.
3. Déterminer les matrices des projections orthogonales sur Im(A), Ker(A), Im(AT ), Ker(AT ) à l’aide de U
et V .
4. Application: calculer la décomposition en valeurs singulières de la matrice
1 1
A= 2 1
−1 1
et les matrices correspondantes aux projections orthogonales de l’exercice précédent.
Correction ▼ [002216]
Exercice 2 Pseudo–inverse d’une matrice
Définition: Soit Σ une matrice diagonale de type (m × n):
µ1
..
.
µr
Σ= 0
..
.
0
⃝
On appelle pseudo–inverse de Σ la matrice Σ† de type (n × m) définie par
−1
µ1 0
Σ† =
..
. ⃝
0 µr−1
Soit A une matrice de type (m × n) dont la décomposition en valeurs singulières est A = UΣV ∗ .
On appelle pseudo-inverse de la matrice A la matrice A† de type (n × m) définie par
A† = V Σ†U ∗ .
1. Quelle application représente la restriction de Σ† Σ au sous-espace span{e1 , · · · , er } ?
2. Montrer que si A est carrée régulière alors A† = A−1 .
1
3. Montrer que
r
1 ∗
A† = ∑ vi ui .
i=1 µi
4. Montrer que
• AA† est la matrice de la projection orthogonale sur Im(A);
• A† A est la matrice de la projection orthogonale sur Im(A∗ )
5. Montrer que la restriction à Im(A∗ ) =Ker(A)⊥ de A∗ A est une matrice inversible et
r
(A∗ A)−1 = ∑ µi−2 vi v∗i .
i=1
Correction ▼ [002217]
Exercice 3
Montrer que, pour A ∈ Cn×m
1. ∥A∥2 = σ1 , la plus grande valeur singulière de A
q
2. ∥A∥F = σ12 + σ22 + · · · + σr2 où les σi sont les valeurs singulières de A.
3. Les valeurs singulières non nulles de A sont les racines carrés des valeurs propres non nulles de A∗ A et
AA∗ .
4. pour A ∈ Cm×m , | det(A)| = ∏m
i=1 σi .
5. Si A = A∗ alors les valeurs singulières de A sont les valeurs absolues des valeurs propres de A
Correction ▼ [002218]
Exercice 4
Montrer que
1. cond2 (A) = µn (A)/µ1 (A) avec µn (A) et µ1 (A) respectivement la plus grande et la plus petite valeur
singulière de A;
2. si A est normale alors
maxi |λi (A)|
cond2 (A) = ;
mini |λi (A)|
3. Si A ∈ Rn×n est inversible, Q ∈ Rn×n orthogonale alors
cond2 (A) = cond2 (AQ) = cond2 (QA)
Correction ▼ [002219]
Exercice 5
1 0
Soit A =
0 10−6
1. Calculer cond2 (A), cond1 (A) et cond∞ (A);
2. Résoudre:
1
• Ax = b pour b =
10−6
2
10−6
0
• Ay = b + δ b pour δ b = et Az = b + ∆b pour ∆b =
0 10−6
3. Pour chacune des trois normes considérées, trouver une majoration théorique de
∥y − x∥ ∥z − x∥
et
∥x∥ ∥x∥
et comparer avec les valeurs exactes. Quelle conclusion?
[002220]
Exercice 6 Conditionnement du problème de l’inversion d’une matrice
Soit A une matrice inversible donnée.
1. si (A + δ A) est une matrice inversible, démontrer
∥(A + δ A)−1 − A−1 ∥ ∥δ A∥
⩽ cond(A)
∥(A + δ A)−1 ∥ ∥A∥
2. Démontrer que
∥(A + δ A)−1 − A−1 ∥ ∥δ A∥
−1
⩽ cond(A) (1 + O(∥A∥))
∥A ∥ ∥A∥
Correction ▼ [002221]
3
Correction de l’exercice 1 ▲
4.On calcule
T 6 2
A A=
2 3
et ses valeurs propres
6−λ 2
det = 0 ⇔ λ1 = 7 = µ12 , λ2 = 2 = µ22
2 3−λ
On calcule ensuite les vecteurs propres associés à ces valeurs propres
6 2 x1 x1
=λ
2 3 x2 x2
et la matrice V est la matrice dont les colonnes sont
√ √ √ √
v1 = (2/ 5, 1/ 5)T , v2 = (1/ 5, −2/ 5)T
les colonnes de U sont alors données par
√ √ √ √
u1 = Av1 /µ1 = 1/( 7 5)(3, 5, −1)T , u2 = Av2 /µ2 = 1/( 2 5)(−1, 0, −3)T
quant à u3 il est choisi orthogonal à u1 et u2 et de norme 1.
Correction de l’exercice 2 ▲
1. Σ† Σei = ei , i = 1, · · · , r c’est l’application identité
2. AA† = UΣV ∗V Σ†U = UΣΣ†U ∗ = I
On a donc obtenu une généralisation de l’inverse.
3. U ∗ ∑m ∗ m †
i=1 εi ui avec{ε1 , · · · , εm } base canonique de R . Comme Σ εi = 0 pour r + 1 ⩽ i ⩽ m on a
r r r
Σ†U ∗ = ∑ µi−1 ei u∗i ⇒ A† = V Σ†U ∗ = ∑ µi−1 (Vei )u∗i = ∑ µi−1 vi u∗i
i=1 i=1 i=1
4. On a
r r r
AA† = ∑ µi ui v∗i ∑ µ −1 ∗
j v ju j = ∑ µ j µ −1 ∗
j u ju j
i=1 j=1 j=1
Comme Im(A) =span{u1 , · · · , ur } le résultat suit.
5. soit y ∈ ImA∗ ⇔ u = ∑ri=1 xi vi . Alors
r r
A∗ A = V Σ∗U ∗UΣV ∗ = V Σ∗ ΣV ∗ = ∑ µi2 vi v∗i ⇒ A∗ Ay = ∑ µi2 xi vi
i=1 i=1
et finalement
r r
( ∑ µi−2 vi v∗i )(A∗ Ay) = ∑ xi vi
i=1 i=1
Correction de l’exercice 3 ▲
1. ∥A∥2 = ∥UΣV ∗ ∥2 = ∥Σ∥2 = max |σ j | = σ1
2. ∥A∥2F =tr(A∗ A) =tr(U ∗ A∗ AU) = ∥AU∥2F =tr(A∗U ∗UA) = ∥UA∥2F et donc
q
∗
∥A∥F = ∥UΣV ∥F = ∥Σ∥F = σ12 + · · · + σr2
4
3. A∗ A = (V Σ∗U ∗ )(UΣV ∗ ) = V (Σ∗ Σ)V ∗ et donc A∗ A est semblable à Σ∗ Σ, les deux matrices ont donc les
mêmes valeurs propres. Les valeurs propres de Σ∗ Σ sont σ12 , · · · , σr2 plus n − r valeurs propres nulles si
n > r.
4. | det A| = | det(UΣV ∗ )| = | detU| det |Σ|| detV ∗ | = | det Σ| = ∏ri=1 σi
5. Une matrice hermitienne étant diagonalisable a une base orthonormale de vecteurs propres
A = QΛQ∗ = Q|Λ|sign(Λ)Q∗
or U =sign(Λ)Q∗ est une matrice unitaire: U ∗U = Qsign(Λ)sign(Λ)Q∗ = QQ∗ = I. Donc Q|Λ|U est une
décomposition en valeurs singulières de A, les valeurs singulières étant |λ1 |, · · · , |λn |.
Correction de l’exercice 4 ▲
1. ∥A∥22 = ρ(A∗ A) = maxi λi (A∗ A) = µ12 (A) la plus grande valeur singulière de A
∥A−1 ∥22 = ρ(A−1 (A−1 )∗ ) = maxi λi ((A∗ A)−1 = µn (A)
1
2 avec µn (A) la plus petite valeur singulière de A.
Donc
cond2 (A) = ∥A∥2 ∥A−1 ∥2 = µn (A)/µ1 (A)
2. Si A est normale alors ∥A∥2 = ρ(A) rayon spectral. Donc
A−1 = UD−1U ∗ ⇒ (A−1 )∗ A−1 = U(D−1 )∗ D−1U ∗ ⇒ ρ((A−1 )∗ A−1 ) = 1/ min |λi (A)|2
i
cond2 (A) = max |λi (A)|/ min |λi (A)|
3. cond2 (QA) = ∥QA∥2 ∥A−1 Q∗ ∥2 = ∥A∥2 ∥A−1 ∥2 =cond2 (A).
Correction de l’exercice 6 ▲
B = A + δ A = A(I + A−1 δ A) matrice inversible si ∥A−1 δ A∥ < 1
B−1 − A−1 = A−1 (A − B)B−1 ⇒ ∥B−1 − A−1 ∥ ⩽ ∥A−1 ∥∥A − B∥∥B−1 ∥ ⇒
∥B−1 − A−1 ∥ ∥δ A∥
⩽ ∥A−1 ∥∥A − B∥ = ∥A−1 ∥∥δ A∥ = cond(A)
∥B−1 ∥ ∥A∥
