Lycée La Bruyère, Versailles Pour le vendredi 16/11/2012

ECS 2 – Mathématiques – A. Troesch

DM no 7 : Algèbre linéaire – DEVOIR FACULTATIF

Problème – (Étude de sous-espaces stables par un endomorphisme)

(ESCP-EAP Scientifique 2001)

L’objet de problème est l’étude, dans certains cas, des sous-espaces stables par un endomorphisme d’un espace vectoriel.
Dans tout le problème, on considère un entier naturel n non nul, et on note E le R-espace vectoriel Rn . On note 0E
le vecteur nul de E, et IdE l’endomorphisme identité de E. On dira qu’un sous-espace vectoriel F de E est stable par
un endomorphisme f de E (ou que f laisse stable F ) si l’inclusion f (F ) ⊂ F est vérifiée.
On observera que le sous-espace vectoriel réduit à {0E } et E lui-même sont stables par tout endomorphisme de E.
On note R[X] l’espace vectoriel des polynômes à coefficients réels et, pour tout entier naturel k, on note Rk [X] le
sous-espace vectoriel formé par les éléments de R[X] qui sont de degré inférieur ou égal à k.
Si f est un endomorphisme de E, on pose f 0 = IdE , f 1 = f , f 2 = f ◦ f , f 3 = f ◦ f ◦ f , etc.
n
ak X k est un élément de R[X], on rappelle qu’on note P (f ) l’endo-
P
Si f est un endomorphisme de E, et si P =
k=0
n
k
P
morphisme de E égal à P (f ) = ak f .
k=0

Partie I – Préliminaire.
Soit f un endomorphisme de E.
1. Soit P un élément de R[X]. Montrer que le sous-espace vectoriel Ker P (f ) est stable par f .
2. (a) Montrer que les droites de E stables par f sont exactement celles qui sont engendrées par un vecteur propre
de l’endomorphisme f .
(b) On note B = (e1 , e2 , e3 ) la base canonique de R3 et on considère l’endomorphisme g de R3 dont la matrice
dans la base B est  
1 1 0
B = 0 1 0 .
 

0 0 2
Déterminer (en en donnant une base) les droites de R3 stables par g.
3. Soit p un entier naturel non nul.
p
(a) Si F1 , . . . , Fp sont p sous-espaces vectoriels de E stables par f , montrer qu’alors la somme Fk est un
P
k=1
sous-espace vectoriel stable par f .
(b) Si λ1 , . . . , λp sont p valeurs propres de f , et si n1 , . . . , np sont p entiers naturels, montrer qu’alors la somme
p
Ker(f − λk IdE )nk est stable par f .
P
k=1
4. (a) Soit λ un réel. Vérifier que les sous-espaces vectoriels de E stables par un endomorphisme f sont exactement
ceux qui sont stables par l’endomorphisme f − λIdE .
(b) Quel lien y a-t-il entre les sous-espaces vectoriels stables par un endomorphisme f et ceux qui sont stables
par l’endomorphisme f 2 ? (justifier toute implication ou non-implication !)
(c) Quel lien y a-t-il entre les sous-espaces vectoriels stables par un automorphisme f et ceux qui sont stables
par l’endomorphisme f −1 ?
(d) Que dire d’un endomorphisme de E laissant stable tout sous-espace vectoriel de E ?
(e) Donner un exemple d’endomorphisme de R2 ne laissant stable que le sous-espace vectoriel réduit au vecteur
nul et l’espace R2 .

1
 5. (a) Montrer que les hyperplans de E sont exactement les noyaux de formes linéaires non nulles sur E.
(b) Soit ϕ une forme linéaire non nulle sur E, et H = Ker ϕ.
i. Montrer que l’hyperplan H est stable par f si et seulement si il existe un élément λ de R vérifiant
l’égalité : ϕ ◦ f = λϕ.
ii. On note A la matrice de f relativement à la base canonique de E, et L la matrice (ligne) de ϕ relati-
vement aux bases canoniques de E et de R.
Montrer que l’hyperplan H est stable par f si et seulement si il existe un réel λ vérifiant l’égalité :
t t
A L = λ tL.

Partie II – Le cas où l’endomorphisme est diagonalisable.

Dans cette partie, on considère un endomorphisme f de E diagonalisable, et on note λ1 , . . . , λp ses valeurs propres
distinctes, et E1 , . . . , Ep les sous-espaces propres correspondants.
1. Que dire des sous-espaces vectoriels de E stables par f si p = 1 ?
2. On suppose l’entier p au moins égal à 2. On considère un sous-espace vectoriel F de E stable par f , et un élément
x de F .
p Pp
(a) Justifier l’existence d’un unique élément (x1 , . . . , xp ) de Ek vérifiant l’égalité x = xk .
Q
k=1
k=1
p
(b) Montrer que le vecteur (λk − λ1 )xk est élément de F .
P
k=2
(c) Montrer que les vecteurs x1 , . . . , xp sont tous dans F .
3. Déduire de la question précédente que les sous-espaces vectoriels de E stables par f sont exactement les sous-
p
espaces vectoriels de la forme Fk où, pour tout entier k vérifiant les inégalités 1 6 k 6 p, Fk est un sous-espace
P
k=1
vectoriel de Ek .
4. Montrer que l’endomorphisme induit par f sur l’un de ses sous-espaces vectoriels stables F est un endomorphisme
diagonalisable de F .
5. Donner une condition nécessaire et suffisante portant sur les valeurs propres de f pour que E possède un nombre
fini de sous-espaces vectoriels stables par f . Quel est alors ce nombre ?

Partie III – Le cas où l’endomorphisme est nilpotent d’ordre n.

1. On note D l’endomorphisme de Rn−1 [X] qui à tout polynôme P associe son polynôme dérivé P ′ .
(a) Déterminer les valeurs propres de D. L’endomorphisme D est-il diagonalisable ?
(b) Vérifier que Dn est l’endomorphisme nul, et que Dn−1 ne l’est pas.
(c) Vérifier que les sous-espaces vectoriels de Rn−1 [X] stables par D sont, en dehors du sous-espace vectoriel
réduit au polynôme nul, les n sous-espaces vectoriels suivants : R0 [X], R1 [X], . . . , Rn−1 [X].
2. On considère un endomorphisme de E nilpotent d’ordre n, c’est-à-dire vérifiant les conditions : f n = 0 et
f n−1 6= 0.
(a) Établir qu’il existe une base B = (e1 , . . . , en ) de E dans laquelle la matrice A de f est :
 
0 1 0 ··· 0
.. .
. .. 

0 0 1
 
. .. .. ..
 ..

A= . . . 0 
.
..

.
. . 0 1


0 ··· ··· 0 0

A est donc la matrice dont le coefficient de la ligne i et de la colonne j (1 6 i 6 n, 1 6 j 6 n) vaut 1 si

j = i + 1, et 0 sinon.

2
 (b) Montrer que la matrice A est semblable à la matrice B suivante :
 
0 1 0 ··· 0
 .. .. 
0
 0 2 . . 

. .. .. ..
 ..

B= . . . 0 

.
..

.
. . 0 n − 1


0 ··· ··· 0 0

B est donc la matrice dont le coefficient de la ligne i et de la colonne j (1 6 i 6 n, 1 6 j 6 n) vaut i si

j = i + 1, et 0 sinon.
(c) Déterminer (en en donnant une base) les sous-espaces vectoriels de E stables par f . (Faites le rapprochement
entre la question (2b) et la question 1.)

Partie IV – Le cas où l’endomorphisme est nilpotent d’ordre 2

Dans cette partie, on considère un endomorphisme f de E nipotent d’ordre 2, c’est-à-dire un endomorphisme non nul
de E tel que f ◦ f est l’endomorphisme nul.
1. On considère un sous-espace vectoriel F2 de E, vérifiant F2 ∩ Ker f = {0E }.
(a) Justifier l’inclusion : f (F2 ) ⊂ Ker f .
(b) On considère de plus un sous-espace vectoriel F1 de Ker f contenant f (F2 ). Montrer que la somme F1 + F2
est directe et que c’est un sous-espace vectoriel de E stable par f .
(c) Étant donné A, B, C trois sous-espaces vectroriels de E, établir l’inclusion : (A∩C)+(B ∩C) ⊂ (A+B)∩C.
A-t-on nécessairement l’égalité ?
(d) Déterminer l’intersection (F1 + F2 ) ∩ Ker f ·
2. Réciproquement, on considère un sous-espace vectoriel F de E stable par f . On pose F1 = F ∩ Ker f et on
considère un sous-espace vectoriel F2 supplémentaire de F1 dans F .
Vérifier l’inclusion f (F ) ⊂ Ker f , et prouver que l’intersection F2 ∩ Ker f est réduite au vecteur nul.
3. Dans cette question, on suppose que l’entier n est égal à 4 ( i.e. E = R4 ) et on considère l’endomorphisme h
de E dont la matrice dans la base canonique B = (e1 , e2 , e3 , e4 ) est la matrice M suivante :
 
1 1 0 0
 
0 1 0 0 
M =  
0 0 2 1 

0 0 0 2

(a) Vérifier que les sous-espaces vectoriels G1 = Ker(h − Id)2 et G2 = Ker(h − 2Id)2 sont supplémentaires.
(b) Montrer que les sous-espaces vectoriels stables par H sont exactement les sommes H1 + H2 , où H1 et H2
sont des sous-espaces vectoriels de G1 et de G2 stables par h.
(c) Déterminer (en en donnant une base) les sous-espaces vectoriels de E stables par h.

Partie V – Existence d’un plan stable par un endomorphisme

Soit f un endomorphisme non nul de E.
1. Justifier l’existence d’un polynôme non nul à coefficients réels annulant f .
On note M un polynôme non nul à coefficients réels de degré minimal annulant f . On observera que M n’est
pas constant
2. Dans cette question, on suppose que le polynôme M n’a pas de racine réelle, et on note z l’une de ses racines
complexes.

3
 (a) Vérifier que le conjugué de z est aussi racine de M et en déduire qu’il existe un polynôme du second degré
à coefficients réels noté X 2 + bX + c qui divise M .
(b) Montrer que l’endomorphisme f 2 + bf + cIdE n’est pas injectif.
(c) En déduire qu’il existe un plan de E stable par f .
3. Dans cette question, on suppose qu’il existe un réel λ, un réel α non nul et un entier p au moins égal à 2 vérifaint
l’égalité : M = α(X − λ)p . On pose g = f − λIdE .
(a) Montrer qu’il existe un vecteur x de E tel que la famille (x, g(x), . . . , g (p−1) (x)) est libre.
(b) En déduire qu’il existe un plan de E stable par f .
4. Montrer que, dans tous les cas, il existe un plan de E stable par f .