Réduction des endomorphismes

3.1 Polynôme caractéristique, valeurs propres et vecteurs propres

Théorème 3.1
Soient E un espace vectoriel de dimension n > 1 sur un corps commutatif K, u un endomorphisme
de E, B = (ei )16i6n une base de E, A(u) = (aij ) la matrice de u dans la base B.
1- Le déterminant de la matrice A − XI (à éléments dans le corps K) ne dépend pas de la base B
(et par suite dépend uniquement de u).
2- Ce déterminant, que nous notons par Pu (X), est un polynôme à une indéterminée X, de degré n,
ayant pour expression

Pu (X) = (−X)n + σ1 (u)(−X)n−1 + · · · + σn−1 (u)(−X) + σn (u) (3.1)

où σn (u) est la somme des mineurs principaux d’ordre k de A.
n
P
En particulier, σ1 = aii = somme des éléments diagonaux
i=1
σn = detA = déterminant de A. 

Preuve

1- Soient B 0 = (e0i )16i6n une autre base de E, P la matrice de changement de base, P −1 son inverse.
Alors, nous savons que si A0 désigne la matrice de u dans la base B 0 , on a la relation

A = P A0 P −1 .

Considérant toutes ces matrices carrées comme des matrices à éléments dans K on peut alors écrire :

A − XI = P A0 P −1 − XP P −1 = P (A0 − XI)P −1

Par conséquent, on a
det(A − XI) = det P det(A0 − XI) (det P )−1
ce qui démontre le point 1.

2- Pour alléger la démonstration de l’expression 3.1 de Pu (X), introduisons les notations suivantes :
(V1 , . . . , Vn ) désignant les vecteurs colonnes de A,
(V10 , . . . , Vn0 ) désignant les vecteurs colonnes de A − XI,
f désigne l’application n-linéaire alternée qui à n vecteurs de k n (k = K(X)) associe leur déterminant.
0
M ···i···j···s··· (s+1···n) (où 1 6 i < j < · · · < s 6 n − 1) désigne le mineur principal, obtenu en biffant
la iième , jième · · · sième (ainsi que la iième , jième · · · sième colonne) de la matrice dont les s-premiers

1
2

colonnes sont celles de A, et les n − s colonnes suivantes celles de A − XI.

Avec ces notations, on a donc :

Pu (X) = f (V10 , V20 , V30 , . . . , Vn0 )

Comme f est n-linéaire, on obtient :

0
Pu (X) = f (V1 , V20 , V30 , . . . , Vn0 ) + (−X)M 61 (2 3 ··· n)
0 0
= f (V1 , V2 , V30 , · · · , Vn0 ) + (−X)M 1 62 (3 ··· n) + (−X)M 61 (2 3 ··· n)
nXn−1 o
0
= f (V1 , V2 , · · · , Vn ) + (−X)M 1 2 ··· 6n + (−X) M ··· 6i (i+1 ··· n)
i=1

On en déduit aussitôt, que

σn = f (V1 , , V2 , . . . , Vn ) = det A
On continue ce processus de calcul sur les termes de la somme précédente : on sépare dans ces
termes, et le terme général avec i 6 n − 2. On obtient alors :

n X o n X o
1 ··· 6i ··· n 2 1 ··· 6i ··· 6n
Pu (X) = det A + (−X) M + (−X) M
16i6n 16i6n−1
n X 0
o
+(−X)2 M 1 ··· 6i ··· 6j (j+1 ··· n)
16i<j<n−1

On entrevoit à ce stade, ce que devient cette expression quand on poursuit le processus p fois :

n X o n X o
Pu (X) = det A + (−X) M 1 ··· 6i ··· n + · · · + (−X)p−1 M ··· i1 ··· ip−1 (3.2)
16i6n 16i1 <i2 <···<ip−1 6n
n o n o
··· 6i1 ··· 6i2 ··· 6ip (ip+1 ··· n)0
X X
p ··· 6i1 ··· 6ip−1 ··· 6n p
+(−X) M + (−X) M
16i1 <i2 <···<ip−1 6n−1 16i1 <i2 <···<ip−1 6n−1

Nous venons de montrer que 3.2 est vraie pour p = 2. Supposons la vraie pour 3, · · · , p, avec
0
p < n − 1. Alors, nous pouvons continuer le processus en considérant d’une part M ···6i1 ···6ip−1 ···6n−1(n) et
le terme général de la somme de la deuxième accolade, avec ip 6 n − 2. On aura
0
M 6i1 ··· 6ip−1 ··· 6n−1 (n) = M ··· 6i1 ··· 6ip−1 ··· 6n−1 n + (−X)M ··· 6i1 ··· 6ip−1 ··· 6n−1 6n

0
M 6i1 ··· 6ip (6ip+1 n)n = M ··· 6i1 ··· 6ip ··· n o
0 0 0
+(−X) M 6i1 ··· 6ip ··· 6n + M 6i1 ··· 6ip 6ip+1 (ip+2 ··· n) + M 6i1 ··· 6ip ·6ip+2 (ip+3 ··· n) + M i1 ··· ip 6(n−1) (n)
0
X
= M 6i1 ··· 6ip ··· n + (−X)M 6i1 ··· 6ip ··· 6n + M i1 ··· ip ip+1 (ip+1 +1 ··· n)
ip <ip+1 6n−1
3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 3

Comme
X X X
M 6i1 6ip 6n + M 6i1 ··· 6ip−1 6n−1 n + M 6i2 ··· 6ip ··· n
16i1 <i2 <···<ip−1 6n−1 16i1 <i2 <···<ip−1 6n−2 16i1 <i2 <···<ip 6n−1

constitue la somme de tous les mineurs principaux d’ordre n − p, on peut en tenant compte de
ce fait et des calculs ci-dessus, conclure.

n X o
p 6i1 6i2 6ip
Pu (X) = det A + · · · + (−X) M
16i1 <i2 <···<ip 6n
n X X o
+(−X)p+1 M 6i1 ··· 6ip−1 6n−1 6n + M 6i1 ··· 6ip 6n
16i1 <i2 <···<ip−1 6n−2 16i1 <i2 <···<ip 6n−2
0
X
+(−X)p+1 M ··· i1 i2 ··· ip+1 ··· (ip+1 ··· n)
16i1 <i2 <···<ip+1 6n−1

ce qui montre 3.2 est encore vraie à l’ordre p + 1, en regroupant la somme des deux termes de la
première accolade.

Pour p = n − 1 dans la première accolade, toutes les colonnes sauf une distincte de la dernière,
sont biffées. Autrement dit, cette somme représente celle des mineurs principaux d’ordre 1 de A à
l’exception de celui obtenu en biffant les (n − 1) premières colonnes (et lignes). Quant à la deuxième
accolade, elle se réduit à un seul terme

0
M 61 62 ··· 6n−1 (n) = (ann − X).

Par suite le calcul s’achève par les deux derniers termes :

n−1
X  n
X 
n−1 n−1 n−1
(−X) aii + (−X) (ann − X) = (−X) aii + (−X)n
i=1 i=1

Ainsi se termine la preuve du théorème. 

Exemple 3.1
1- Soit E = R4 , u l’endomorphisme défini, dans la base canonique par la matrice A
 
−1 1 1 0
 −1 2 1 −1 
A= 
 5 −3 −2 5 
1 −2 −2 3

Illustrons le développement effectué dans la démonstration précédente

4

det(A − XI) =
−1 1 1 0  
 −1 1 1 
−1 2 1 −1
+ (−X) −1 2 1
5 −3 −2 5
5 −3 −2
 
1 −2  −2 3 
 2−X 1 −1 −1 1 0 −1 1 0 
+(−X) −3 −2 − X 5 + 5 −2 − X 5 + −1 2 −1
−2 −2 3 − X 1 −2 3 − X 1 −2 3−X
 
 
 −1 1 1 2 1 −1 −1 1 0 −1 1 0 
= 13 + (−X) −1 2 1 + −3 −2 5 + 5 −2 5 + −1 2 −1
5 −3 −2 −2 −2 3 1 −2 3 1 −2 3
 

2 1 −1 1 −1 1
+(−X)2 + +
 −3 −2 5 −2 −1 2 
2 −X 5 2 −1 −1 0
+(−X) + +
−2 3 −  X −2 3 − X −1 3 − X 
2 1 −1 1 −2 5 2 −1 −1 0 −1 1
= 13 + 14X + (−X)2 + + + + +
−3 −2 −1 2 −2 3 −2 3 1 3 5 2
3 3
+(−X) {(−1) + (2) + (−2)} + (−X) {(3 − X)}
= −13 + 14X − 2X 3 + X 4 .
2- Soit E = R4 , u l’endomorphisme dont la matrice M (u) par rapport à la base canonique est :

1 1 1 1
1 1 −1 −1
M (u) =
1 −1 1 −1
1 −1 −1 1
(a) det M (u) = −16

(b) Les mineurs principaux d’ordre 3

1 1 1
M 1 2 3 64 = M 1 2 63 4 = M 1 62 3 4 = 1 1 −1 = −4
1 −1 1

1 −1 −1
61 2 3 4
M = −1 1 −1 = −4
−1 −1 1
(c) Les mineurs principaux d’ordre 2

1 1
M 1 2 63 64 = M 1 62 3 64 = M 1 62 63 4 = =0
1 1
1 −1
M 61 2 3 64 = M 61 2 63 4 = M 61 62 3 4 = =0
−1 1

(d) La somme des éléments diagonaux est 4. Donc Pu (X) = X 4 − 4X 3 + 16X − 16.
3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 5

2- Soit E = Rn , u l’endomorphisme dont la matrice M (u) par rapport à la base canonique, a tous
ses éléments égaux à 1
 
1 1 ··· 1
 1 1 ··· 1 
M (u) =  .. ..
 
.. .. 
 . . . . 
1 1 1
(a) On a det M (u) = 0.
(b) Tous les mineurs principaux (ou non) sont du même type : des colonnes identiques dont tous les
éléments sont égaux à 1. Donc tous ces mineurs sont nuls lorsque k > 2.
(c) La somme des éléments diagonaux est égale à n :

D’où

Pu (X) = (−X)n + n(−X)n−1 = (−1)n−1 X n−1 (n − X). 

Définition 3.1
Soient E un espace vectoriel de dimension finie n > 1 sur un corps commutatif K, u un endomor-
phisme de E.
On appelle polynôme caractéristique de u, le polynôme

Pu (X) = det(M (u) − XI) = (−X)n + σ1 (−X)n−1 + · · · + σn

où M (u) est la matrice de u dans une base quelconque de E. 

Définition 3.2
Soit A une matrice carrée d’ordre n à coefficients dans un corps commutatif K.
On appelle polynôme caractéristique de A, le polynôme

PA (X) = det(A − XI) 

Définition 3.3
Soient E un espace vectoriel de dimension finie n > 1 sur un corps commutatif K, u un endomor-
phisme de E. On appelle trace de u, le scalaire, noté T r(u), égal à la somme des éléments diagonaux
de M (u), où M (u) est la matrice de u dans une base quelconque de E. 

Définition 3.4
Soit A une matrice carrée d’ordre n à coefficients dans un corps commutatif K.
On appelle trace de A, le scalaire, noté T r(A), égal à la somme des éléments diagonaux. 

Corollaire 3.1
Soit A une matrice carrée d’ordre n à coefficients dans un corps commutatif K.
La somme des mineurs principaux d’ordre k - en particulier la trace - est un invariant dans la classe
des matrices semblables à A. 
6

Preuve :
En effet, la somme des mineurs principaux d’ordre k est le coefficient de (−X)n−k dans le polynôme
caractéristique de A.
Or ce polynôme caractéristique est le même pour toute matrice semblable à A. 
Définition 3.5
Soient E un espace vectoriel de dimension finie n > 1 sur un corps commutatif K,u un endomorphisme
de E. On appelle spectre de u, dans K, l’ensemble des scalaires λ tel que u − λI n’est pas inversible
dans l’algèbre End(E). Le spectre de u dans K est noté SpK (u). Un élément λ de K est appelé valeur
propre de u, si le noyau de u − λI est non réduit à {0}. Dans ce cas, ce noyau est appelé sous-espace
propre de u associé à la valeur propre λ souvent noté Eλ . Les éléments non nuls de Eλ sont appelés
vecteurs propres de u associés à la valeur propre λ. 

Théorème 3.2
Soient E un espace vectoriel de dimension finie n > 1 sur un corps commutatif K, u un endomor-
phisme de E. Alors le spectre de u est égal à l’ensemble des valeurs propres de u, lui même égal à
l’ensemble des racines dans K, du polynôme caractéristique Pu (X) de u. 

Preuve :
Puisque E est de dimension finie, nous savons que u − λI est bijective si et seulement si, u − λI est
injective. Autrement, λ ∈ K appartient au spectre de u si et seulement si, λ est une valeur propre.
Par ailleurs u − λI n’est pas inversible si et seulement si, det M (u) − λI = 0 donc λ appartient au
spectre de u si et seulement si, Pu (λ) = 0 c’est-à-dire que λ est racine du polynôme caractéristique.

Exemples 3.1
1- Déterminer le spectre de l’endomorphisme u de R4 , défini par sa matrice M (u) dans la base
canonique :
 
1 1 1 1
 1 1 −1 −1 
M (u) = 
 1 −1 1 −1 


1 −1 −1 1
a) Nous avons vu que :

Pu (X) = X 4 − 4X 3 + 16X − 16 = (X − 2)(X + 2)(X − 2)2

= (X − 2)3 (X + 2)
Donc SpR (u) = {−2, 2}. b) Le sous-espace propre Ker(u + 2I) est l’ensemble des vecteurs
(x, y, z, t) satisfaisant :


 3x + y + z + t = 0
x + 3y − z + t = 0


 x − y + 3z − t = 0
x − y − z + 3t = 0


3 1 1
Le rang de u + 2I est égal à 3 car M 1 2 3 64 est égal à 1 3 −1 = +16
1 −1 3
3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 7

Par suite le noyau est de dimension 1 défini par les équations

 
 3x + y + z = −t  x = − 2t
x + 3y − z = −t ⇐⇒ y=0
x − y + 3z = t z = 2t
 

On peut prendre comme vecteur générateur le vecteur v1 = (−1, 0, 1, 2)

Ker(u + 2I) = {αv1 : α ∈ K}

c) Le sous-espace propre Ker(u − 2I) est défini par les équations



 −x + y + z + t = 0
x−y−z−t=0

⇐⇒ x − y − z − t = 0

 x−y−z−t=0
x−y−z−t=0


c’est donc le noyau de la forme linéaire définie sur R4 par

(x, y, z, t) 7−→ x − y − z − t
c’est un hyperplan de R4 , donc de dimension 3.
Une base de (Ker(u − 2I) peut donc être définie par les vecteurs

v2 = (1, 1, 0, 0) v2 = (1, 0, 0, −1) v2 = (1, 0, 1, 0)

2- Soit u l’endomorphisme de R3 (resp. C3 ) défini dans la base canonique par sa matrice M (u)
 
2 5 −6
M= 4  6 −9 
3 6 −8
a) On a det M (u) = 1; M 1 2 63 = −8; M 1 62 3 = 2; M 61 2 3 = 6; T r u = 0 d’où Pu (X) = −X 3 + 1 =
(1 − X)(X 2 + X + 1).

b) (i) Le spectre de u dans R3 considéré comme espace vectoriel sur R est {1}. (ii) Le spectre de
u dans C3 considéré comme espace vectoriel sur C est {1, j, j2 }.

c)  
 x + 5y − 6z = 0 
Ker(u − I) = (x, y, z) : 4x + 5y − 9z = 0
3x + 6y − 8z = 0
 

le rang de u − I est de 2. Puisque dim Im(u − I) + dim Ker(u − I) = dim R3 = 3, Ker(u − I) est
donc une droite d’équation.

x + 5y − 6z = 0
⇐⇒ x = y = z.
4x + 5y − 9z = 0
8

Un vecteur générateur est par exemple v1 = (1, 1, 1). L’étude spectrale de l’endomorphisme u
dans R3 s’achève là.
Par contre si nous considérons u comme endomorphisme dans C3 , ce dernier étant un espace vectoriel
sur C, on peut chercher les sous-espaces propres relatifs aux valeurs propres j, j2 .
d) Ker(u − jI) : est défini par le système d’équations


 (2 − j)x + 5y − 6z = 0
4x + (6 − j)y − 9z = 0
3x + 6y − (8 + j)z = 0


2 − j) 5
Le rang de u − jI est 2 (par exemple = −9 − 9j) 6= 0). Donc Ker(u − jI) est la
4 6 − j)
droite complexe d’équation

 
(2 − j)x + 5y − 6z = 0 3x = (2 − j)z
⇐⇒
4x + (6 − j)y − 9z = 0 3y = (j + 3)z

un vecteur générateur est v2 = (2 − j, 3 + j, 3).

e) Ker(u − j2 I) est défini par les équations


 (2 − j2 )x + 5y − 6z = 0
4x + (6 − j2 )y − 9z = 0
3x + 6y − (8 + j2 )z = 0


2 − j2 ) 5
Le rang de u − j2 I est égal à 2 ( = 9j) 6= 0). Par suite le sous-espace est égal à
4 6 − j2 )
la droite complexe


3x = (j + 3)z
3y = (2 − j)z.

On peut prendre comme vecteur générateur v3 = (3 + j; 2 − j; 3).

3- Soit u l’endomorphisme de R4 , donné par sa matrice M par rapport à la base canonique :

 
3 1 0 0
 −4 −1 0 0 
M =
 7

1 2 1 
−17 −6 −1 0

On a
Pu (X) = X 4 − 4X 3 + αX 2 − βX + γ
3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 9

3 1 0
3 1
γ = det M = (−1) −4 −1 0 = =1
−4 −1
−17 −6 −1
−1 0 0 3 0 0 3 1 0 3 1 0
β= 1 2 1 + 7 2 1 + −4 −1 0 + −4 −1 0 = 4
−6 −1 0 −17 −1 0 −17 −6 0 7 1 2
2 1 −1 0 −1 0 3 0 3 0 3 1
α= + + + + + =6
−1 0 −6 0 1 2 −17 0 7 2 −4 −1

d’où

Pu (X) = X 4 − 4X 3 + 6X 2 − 4X + 1 = (X − 1)4

D’où sp u = {1}.
Ker(u − I) a pour équations


 2x + y = 0
−4x − 2y = 0


 7x +y+z+t=0
−17x − 6y − z − t = 0


7 1
Tous les mineurs d’ordre 3 sont nuls. Le mineur 6= 0. Donc u − I est de rang 2. Le
−17 −6
noyau est de dimension 2.
Il est défini par les équations

5x + z + t = 0
2x + y = 0
On peut prendre comme vecteurs générateurs

v1 = (0, 0, −1, 1) v2 = (1, −2, −5, 0) 

Théorème 3.3
Soient E un espace vectoriel de dimension finie n > 1 sur un corps commutatif K, u un endomor-
phisme de E.
Pour qu’il existe une base dans laquelle la matrice de u soit triangulaire supérieure, il faut et il suffit
que que le polynôme aractéristique Pu (X) se décompose dans K[X] en facteurs du premier degré (ce
qui est toujours le cas si K est algébriquement clos en particulier si K = C). 

Preuve :
La condition est nécessaire. En effet, soit (ei )ni=1 une base de E telle que la matrice M (u) soit
triangulaire supérieure :
10

 
a11 a12 · · · a1n
 0 a22 · · · a2n 
M (u) = 
 
.. 
 . 
0 · · · ann
Alors

Pu (X) = (a11 − X)(a22 − X) · · · (ann − X)

Réciproquement ; supposons que
n
Y
Pu (X) = (λi − X)
i=1

où (λi ) est une famille d’éléments de K, non nécessairement distincts.

Nous allons raisonner par récurrence sur la dimension de E.

Ce résultat est évident si n = 1, car toute matrice carrée d’ordre 1 est triangulaire supérieure (et
même diagonale).

Supposons que ce résultat soit établi lorsque l’espace est de dimension n − 1.

Puisque Pu (X) admet une racine λ1 dans K, il existe un vecteur v1 associé à la valeur propre λ1 .

Complétons ce vecteur v1 par n − 1 vecteurs v2 , · · · vn de sorte que le système (V1 , · · · vn ) constitue

une base de E.

Dans cette base, la matrice de u est de la forme

 
λ1 b2 · · · bn
 0 
 
 .. 
 . B 
0
où B est une matrice carrée d’ordre n−1. Désignons par u0 l’endomorphisme de l’espace vectoriel
F , ayant pour base (v2 , · · · vn ), endomorphisme dont la matrice dans cette base est égale à B. D’après
la règle de calcul des déterminants, on a
Y
det(M (u) − XI) = (λ1 − X) det(B − XI) = (λ1 − X) (λi − X)
i6=n

Donc le polynôme caractéristique de l’endomorphisme u0 est décomposé dans K[X] en facteurs

du premier degré, et d’après l’hypothèse de récurrence, il existe donc une base v20 , · · · vn0 de F telle
que la matrice de u0 soit une triangulaire supérieure B 0 .

Alors la matrice de u dans la base (v1 , v20 , · · · vn0 ) est

3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 11

 
λ1 b02 · · · b0n

 0 

 .. 0

 . B 
0
En effet, on a pour i = 2, . . . , n

u(vi ) = bi vi + u0 (vi ).
Alors pour tout i = 2, . . . , n
n
P  Pn n  
αji vj = αji u(vj ) = u αji bj v1 + u0 (ei )
P
u(ei ) = u
j=2 j=2 j=2
= βi0 v1 + u0 (ei )

Corollaire 3.2
Soient K un corps commutatif, A une matrice carrée d’ordre n > 1 à éléments dans K.
A est semblable à une matrice triangulaire supérieure si et seulement si, le polynôme caractéristique
det(A − XI) se décompose dans K[X] en facteurs du premier degré. 

Preuve :
Notons par u l’endomorphisme de Kn , ayant pour A pour matrice par rapport à la base canonique.
Alors Pu (X) = det(A − XI). On applique alors le théorème. 
Exemples 3.2
1- Soit u l’endomorphisme de R3 ayant pour matrice M (u) dans la base canonique
 
3 1 0
M (u) =  −4 −1 0 
4 −8 −2
On cherche une base de R3 telle que la matrice de u soit triangulaire (ou encore une matrice m0
semblable à M (u), triangulaire).

(a) On a, en remarquant que la trace de u est nulle,

Pu (X) = −X 3 − αX + δ
3 1 0
3 1
δ = −4 −1 0 = −2 = −2
−4 −1
4 −8 −2
−1 0 3 0 3 1
α= + + = −3
−8 −2 −4 −2 −4 −1

d’où Pu (X) = −X 3 + 3X − 2 = (X − 1)2 (X + 2). donc spectre de u dans R est Sp(u) = {1, −2}.
12

(b) Le sous-espace propre Ker(u − I) a pour équations

2x + y = 0
−4x − 2y = 0
4x − 8y − 3z = 0

−2 0
Le rang de u − I est égal à 2 (en regardant par exemple le mineur ) donc Ker(u − I)
−8 −3
est de dimension 1, c’est la droite

2x + y = 0
10y + 3z = 0

un vecteur générateur peut être par exemple

v1 = (3, −6, 20).

Associons à ce vecteur les vecteurs e2 , e3 de la base canonique : e2 = (0, 1, 0), e3 = (0, 0, 1). Il
est clair que (v1 , e2 , e3 ) forme une base de E = R3 . Dans cette base, la matrice de u est défini par
u(v1 ) = λv1 avec λ = 1 u(v2 ) = e1 − e2 − 8e3 u(e3 ) = −2e3
or v1 = 3e1 − 6e2 + 20e3 d’où 3e1 = v1 + 6e2 − 20e3 .
D’où u(v1 ) = v1 ; u(e2 ) = 31 (v1 + 6e2 − 20e3 ) − e2 − 8e3 ; u(e3 ) = −2e3 .
En fait, si on pose v2 = e3 , v3 = e2 , on a donc finalement u(v1 ) = v1 , u(v2 ) = −2v2 , u(v3 ) =
1
(v + 3v3 − 44v2 ), d’où la matrice dans cette base
3 1

1
 
1 0 3
M 0 =  0 −2 − 44 3

0 0 1
La matrice de changement de base (et son inverse P −1 ) sont données par
   1 
3 0 0 3
0 0
P =  −6 0 1  P −1 =  − 20 3
0 1 
20 1 0 2 1 0
et l’on vérifie que :

P M 0 P −1 = M
- Soit u l’endomorphisme de R ayant pour matrice dans la base canonique,
 
3 1 0 0
 −4 −1 0 0 
M (u) =  7

1 2 1 
−17 −6 −1 0
3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 13

On cherche une base de R4 telle que la matrice de u soit triangulaire (ou encore une matrice M 0 ,
triangulaire, semblable à M ).

Nous avons déjà calculé Pu (X) = (X − 1)4 . Par suite, 1 est une racine réelle de multiplicité 4,
donc le théorème s’applique.

Partons avec le vecteur v1 = (0, 0, −1, 1). Complétons ce vecteur par les vecteurs (e1 , e2 , e3 ) pour
former une base. Il est clair que(v1 , e1 , e2 , e3 ) sont linéairement indépendants. ((e1 = (1, 0, 0, 0), e1 =
(0, 1, 0, 0), e1 = (0, 0, 0, 1)). La matrice de u dans cette base est déterminée par

u(v1 ) = v1 , u(v2 ) = u(e1 ) = 3e1 − 4e2 + 7e3 − 17e4

u(v3 ) = u(e2 ) = e1 − e2 + e3 − 6e4 , u(v4 ) = u(e3 ) = 2e3 − e4 .

En tenant compte de la définition de v1 , v1 = −e3 + e4 , on obtient

   
1 −17 −6 −1 1 −17 −6 −1
 0 3 1 0  = 0
 
 
 0 −4 −1 0   0 B 
0 −10 −5 1 0
Considérons l’endomorphisme du sous-espace engendré par les vecteurs libres (v2 , v3 , v4 ) et ayant
3−X 1
pour matrice dans cette base B. Le polynôme caractéristique est (1 − X) =
−4 −1 − X
−(X − 1)3 .

Comme

u0 (v4 ) = v4 , on a un vecteur propre évident.

On a qu’à choisir comme nouvelle base (v4 , v3 , v2 ) : la matrice de u0 est alors
 
1 −5 −10
 0 −1 −4 
0 1 3
Par suite, dans la base (v1 , v4 , v3 , v2 ), la matrice de u.
 
1 −1 −6 −17
 0 1 −5 −10 
M (u) =   0 0 −1 −4 


0 0 1 3
On va continuer,en considérant
 l’endomorphisme u00 défini dans le sous-espace engendré par v3 , v2
1 −4
dont la matrice est . On a
1 3

Pu00 (X) = (−1 − X)(3 − X) + 4 = (X − 1)2 .

14

Le sous-espace propre dans E 00 de u00 est défini par les équations

−2x − 4y = 0
x + 2y = 0

qui est donc une droite dans E 00 défini par x = −2y. Un vecteur propre générateur est par exemple
ε3 = 2v3 − v2 , on complète ε3 par v2 . La matrice de u00 est alors

u00 (ε3 ) = ε3 u00 (v2 ) = −4v3 + 3v2 = −2(ε3 + v2 ) + 3v2 = −2ε3 + v2 .

La matrice de u00 est donc
 
1 −2
0 1
Finalement on choisit la base (ε1 , ε2 , ε3 , ε4 )

ε4 = v2 = e1 = (1, 0, 0, 0)
ε3 = 2v3 − v2 = 2e2 − e1 = (−1, 2, 0, 0)
ε2 = v4 = e3 = (0, 0, 0, 1)
ε1 = v1 = e4 − e3 = (0, 0, −1, 1)
d’où P la matrice de changement de base et son inverse
   
0 0 −1 1 0 0 0 1
 0 0 2 0  0 0 1 1 
 P −1 = 

P = 
 −1 1 0 0   0 21 0 0 
1 0 0 0 0 12 0 0
Quant à la matrice de u dans la base (ε1 , ε2 , ε2 , ε3 ), elle est défini par
u(ε1 ) = ε1 ; u(ε2 ) = u(e3 ) = 2e3 − e4 = 2ε2 − ε2 − ε1 = ε2 − ε1
u(ε3 ) = 2u(e2 ) − u(e1 ) = 2(e1 − e2 + e3 − 6e4 ) − (3e1 − 4e2 + 7e3 − 17e4 )
= e1 + 2e2 − 5e3 + 5e4 = ε3 − 5ε2 + 5(ε1 + ε2 ) = ε3 + 5ε1
u(ε4 ) = u(e1 ) = 3e1 − 4e2 + 7e3 − 17e4 = −2ε3 + ε4 − 17ε1 − 10ε2 .
D’où
 
1 −1 5 −17
 0 1 0 −10 
T =  0 0 1 −2 


0 0 0 1
On peut alors vérifier l’égalité M = P T P −1 . 

Théorème 3.4 (Hamilton-Cayley)

Soient E un espace vectoriel de dimension finie n > 1 sur un corps commutatif K, u un endomor-
phisme de E, Pu (X) le polynôme caractéristique de u. Alors

Pu (u) = (−u)n + σ1 (u)(−u)n−1 + · · · + (det u)I = 0. 

3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 15

Preuve :
Soit B une base de E, M la matrice de u dans la base B. Il revient au même de montrer que
Pu (M ) = (−M )n + · · · + (det u)I = 0. On a aussi Pu (X) = det(M − XI). M est une matrice
carrée d’ordre n à éléments dans K. D’après un théorème de Steinitzs, que nous admettrons, K
peut être plongé dans un corps k algébriquement clos (si K = R, on prendra k= C sans faire
appel à ce théorème). Par conséquent, M peut être considéré comme matrice à éléments dans k.
Le polynôme caractéristique de M comme élément de Mn (k) reste le même que précédemment.
Appelons ũ l’endomorphisme de kn , déterminé dans la base canonique, par sa matrice M . Alors
d’après le théorème 3.3, il existe une base de kn , (ẽ1 , ẽ2 , · · · , ẽn ), telle que ũ a dans cette base une
matrice triangulaire supérieure.

ũ(ẽ1 ) = λ1 ẽ1 , ũ(ẽ2 ) = a12 ẽ1 + λ2 ẽ2 , . . . , ũ(ẽn ) = a1n ẽ1 + · · · + a1,n−1 ẽn−1 + λn ẽn

On a évidemment

Pu (X) = δũ (X) = det(M − XI) = (λ1 − X) · · · (λn − X)

Il suffit donc de démontrer que δũ (ũ) = 0. Pour cela on va prouver que δũ (ũ)(ei ) = 0 pour tout
i = 1, . . . , n. (cf remarque ci-dessous).

Considérons le produit (λ1 I − ũ)(λ2 I − ũ) · · · (λn I − ũ).

Montrons que ce produit annule les vecteurs ẽ1 , ẽ2 , . . . , ẽi . Notre résultat découlera en faisant i = n.
Notre assertion est vraie lorsque i = 1. Puisque (λ1 I − ũ)(ẽ1 ) = 0. Supposons que (λ1 I − ũ) · · · (λi I − ũ)
annule les vecteurs (ẽ1 , . . . , ẽi ) alors (λ1 I − ũ) · · · (λi+1 I − ũ) annule les vecteurs (ẽ1 , . . . , ẽi+1 ). En
effet, on a
(λi+1 I − ũ)(ẽi+1 ) = [a1,i+1 ẽ1 + a2,i+1 ẽ2 + · · · + ai,i+1 ẽi ] + λi+1 ẽi+1 − λi+1 ẽi+1
= (a1,i+1 ẽ1 + · · · + ai,i+1 ẽi )
et d’après l’hypothèse de récurrence, cette somme de vecteurs est annulée par le polynôme (en ũ) :
(λ1 I − ũ) · · · (λn I − ũ).
Pour les autres vecteurs (ẽ1 , . . . , ẽi ), on peut commuter les facteurs dans ce polynôme.

(λ1 I − ũ) · · · (λi+1 I − ũ)(ẽk ) = (λi+1 I − ũ)(λ1 I − ũ) · · · (λi I − ũ)(ẽk ) = 0

ce qui achève la démonstration.

Remarque 3.1
On peut poursuivre la démonstration à ce stade par une autre voie.
En effet, il faut montrer que le produit de n matrices triangulaires (λ1 − M )(λ2 − M ) · · · (λn − M )
est nul.
La matrice (λi − M ) est une matrice triangulaire ayant l’élément aii de la diagonale principale nulle.
En effectuant le produit (λ1 − M )(λ2 − M ) nous constatons que les deux premières colonnes du
produit sont nulles. En effet, si on pose (λ1 − M ) = (aij ) et (λ2 − M ) = (a0ij ) alors ai1 = 0 pour tout
i et a0i2 = 0 pour tout i > 2. Par suite, si on note (λ1 − M )(λ2 − M ) = (bij ), on a
16

n
X
bi1 = aik a0k1 = ai1 a0i1 = 0 pour tout i
k=1
n
X
bi2 = aik a0k2 = ai1 a0i2 = 0 pour tout i
k=1

On peut alors démontrer par récurrence sur p, et apparaître ainsi p colonnes nulles en effectuant
le produit (λ1 − M )(λ2 − M ) · · · (λp − M ). En faisant p = n, on a le résultat désiré. 

Remarque 3.2
De la démonstration du théorème 3.3 et de celle du théorème 3.4, il apparaît que pour toute valeur
propre λi , de multiplicité mi , il existe un sous-espace Fi tel que u(Fi ) ⊂ Fi et la restriction de
(u − λi I)mi à Fi est égale à 0. En effet, en reprenant la démonstration du théorème 3.3, avec λi à la
place de λ1 , on remarquera, avec les notation de ce théorème, que
Y
δu0 = (λi − X)mi −1 (λj − X)mj 
j6=1

ce qui permet de continuer le processus sur u0 , avec λi , et ainsi de suite jusqu’à épuisement de
mi . On aura constitué une base (v1 , . . . , vmi ) par rapport à laquelle la matrice de u est

 
λi
 
 

 λi 

 m
  i
M (u) = 
 λi 

 
 
 
 
 O 

Posons F = [v1 , . . . , vmi ]. Alors, en imitant la démonstration du théorème 3.4, on a

(u − λi I)(v1 ) = 0; (u − λi I)(vj ) = 0 pour 1 6 j 6 mi .
Exemples 3.3
Considérons l’endomorphisme de R3 , défini par sa matrice
 
2 5 −6
M= 4  6 −9 
3 6 −8
par rapport à la base canonique. Nous avons vu que Pu (X) = 1 − X 3 .
Par ailleurs, on troue que
3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 17

 
6 4 −9
M 2 =  5 2 −6 
6 3 −8
et
 
1 0 0
M3 =  0 1 0 
0 0 1
D’où

I − M3 = 0
On remarque que, dans ce cas, le polynôme caractéristique n’a pas toutes racines dans R.
2- Considérons l’endomorphisme de R4 , défini par sa matrice M dans la base canonique :
 
1 1 1 1
 1 1 −1 −1 
M =  1 −1 1 −1 


1 −1 −1 1
Nous avons vu que Pu (X) = (X − 2)3 (X + 2).
On a

 
−1 1 1 1
 1 −1 −1 −1 
M −2= 
 1 −1 −1 −1 
1 −1 −1 −1
 
3 1 1 1
 1 3 −1 −1 
M +2= 
 1 −1 3 −1 
1 −1 −1 3

et
 
0 0 0
(M − 2)(M + 2) =  0 0 0 
0 0 0
et à fortiori

(M − 2)3 (M + 2) = 0.
On s’aperçoit dans cet exemple qu’il y a un polynôme de degré plus petit que celui de Pu (X), ici
(X − 2)(X + 2) qui annule u. 
Définition 3.6
Soit u un endomorphisme d’un espace vectoriel E. On dit que u est nilpotent s’il existe p ∈ N tel
que up = 0. 
18

Proposition 3.1
Soit u un endomorphisme de E. Alors u est nilpotent si et seulement si, Pu = (−X)dim E . 

Preuve :
Si Pu = (−X)dim E , alors d’après le théorème de Hamilton Cayley, on a Pu (u) = (−u)dim E = 0.
Réciproquement, si up = 0, écrivons, si A est la matrice de u dans une base,

X p = (−1)n Pu Q.
Donc Pu divise X p . C’est donc une puissance de X. Comme il est de degré n, on a

Pu = (−X)n .

Proposition 3.2
Soient u un endomorphisme d’un espace vectoriel E, F un sous-espace de E tel que u(F ) ⊂ F si
v = u|F , on a Pv divise Pu . 

Preuve :
Soit (e1 , . . . , ep ) une base de F , et (ep+1 , . . . , en ) une famille de vecteurs de E telle que (ei )16i6n soit
une base de E.
Soit A la matrice de u dans cette base et B la matrice de v dans la base (e1 , . . . , ep ). Alors
   
B C B − XI C
A=  , A − XI =  
0 D 0 D − XI
Par suite :

Pu = det(A − XI) = det(B − XI) det(D − XI) = δv Q.


Théorème 3.5
Soient E un espace vectoriel sur un corps commutatif K, u un endomorphisme de E, v1 , . . . , vm des
vecteurs propres de u associés à des valeurs propres deux à deux distinctes λ1 , . . . , λm . Alors les
vecteurs v1 , . . . , vm sont linéairement indépendants. 

Preuve :
Soit F le sous-espace vectoriel engendré par v1 , . . . , vm . On a dim F 6 m. Comme u(vi ) = λi vi , F
réduit u. Soit ũ la restriction de u à F .
Comme ũ(vi ) = λi vi ,
{λ1 , . . . , λm } ⊂ spectre de ũ = {racines du polynôme caractéristique de ũ}. Comme ces valeurs sont
distinctes, on a donc m 6 d◦ Pu = dim F . Par suite dim F = m. Par suite ces m vecteurs sont
linéairement indépendants. 
Corollaire 3.3
Soient E un espace vectoriel de dimension finie n sur un corps commutatif K, u un endomorphisme
de E. On suppose que le polynôme caractéristique de u admet n racines distinctes dans K λ1 , . . . , λm .
Il existe une base de E par rapport à laquelle la matrice de u est diagonale et est exactement
3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 19

 
λ1 · · · 0 ··· 0 ··· 0
 
 
 0 · · · λi ··· 0 ··· 0 



 
 
 
0 ··· 0 · · · 0 · · · λn

Preuve :
Il suffit de prendre des vecteurs propres v1 , . . . , vn , respectivement associés aux valeurs propres
λ1 , . . . , λn . Alors ils sont linéairement indépendants. 
Exemples 3.4
1- Soit u l’endomorphisme de R3 , dont la matrice par rapport à la base canonique est M (u),
 
4 −3 −5
M (u) =  2 −1 −5 
−2 −3 1

(a) On a Pu (X) = det(M − XI) = −X 3 + 4X 2 − αX + β

4 −3 4 −5 −1 −5
α= + + = −20
2 −1 −2 1 −3 1

0 −9 −3
−9 −3
β = det M 0 −4 −4 = −2 = −48
−4 −4
−2 −3 1

Il est clair que 2 est racine de Pu (X). En divisant par X − 2, on trouve alors que

Pu (X) = −X 3 + 4X 2 + 20X − 48 = (X − 2)(4 + X)(6 − X)

D’où le spectre de u = {2, −4, 6}.

(b)
 
 2x − 3y − 5z = 0 
Ker(u − 2I) = (x, y, z) tel que 2x − 3y − 5z = 0
−2x − 3y − z = 0
 

Le rang est évidemment 2. Le sous-espace propre est la droite d’équation

2x − 3y − 5z = 0 − 2x − 3y − z = 0
un vecteur générateur est par exemple (1, −1, 1) = v2
 
 8x − 3y − 5z = 0 
Ker(u + 4I) = (x, y, z) : 2x + 3y − 5z = 0
−2x − 3y + 5z = 0
 
20

Il est clair que le rang est 2 : le sous-espace propre est la droite d’équation

8x − 3y − 5z = 0 2x + 3y − 5z = 0
Un vecteur générateur est par exemple v1 = (1, 1, 1)

 
 −2x − 3y − 5z = 0 
Ker(u − 6I) = (x, y, z) : 2x − 7y − 5z = 0
−2x − 3y − 5z = 0
 

Le sous-espace propre est la droite d’équation :

−2x − 3y − 5z = 0 2x − 7y − 5z = 0
Un vecteur générateur est par exemple v3 = (1, 1, −1). Par suite, la matrice de u dans la base
(v1 , v2 , v3 ) est D, et la matrice de changement de base P
     
−4 0 0 1 1 1 0 1 1
1
D= 0 2 0  P = 1 −1 1  P −1 =  1 −1 0 
2
0 0 6 1 1 −1 1 0 −1

A = P DP −1
2- Soit E = C3 , et u l’endomorphisme ayant pour matrice dans la base canonique, M (u), définie par
 
1 1 0
M (u) =  −1 2 1 
1 0 −1
(a) On a

Pu (X) = −X 3 + 4X 2 − αX + β
1 1 1 0 2 1
où α = + + =6
−1 2 1 1 0 1

1 1 0 1 1 0
β = −1 2 1 = −2 2 1 = 4
1 0 1 0 0 1

Par suite

Pu (X) = −X 3 + 4X 2 − 6X + 4 = (2 − X)(X 2 − 2X + 2) = (2 − X)(X − (1 + i))(X − (1 − i))

Le spectre de u est donc {2, 1 + i, 1 − i}

(b)
3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 21

 
 −x + y = 0 
Ker(u − 2I) = (x, y, z) : −x + z = 0
x−z =0
 

−1 1
Le rang de u − 2I est 2 ( 6= 0), donc ce noyau est de dimension 1. C’est la droite complexe
−1 0
d’équation x = y; x = z =. Un vecteur générateur est par exemple v1 = (1, 1, 1) Ce n’est autre que
la droite (complexe) x ± iz = 0; x ± iy = 0 un vecteur générateur est donné par
 
±i
v± =  −1 
1
Par suite, dans la base (v1 , v+ , v− ), u a pour matrice diagonale
 
2 0 0
D = 0 1+i 0 
0 0 1−i
La matrice de base P et son inverse sont
 
2 0 0  
0 2 2
 1 +i −1 1
P −1

P =  1 −1 −1
 =  −2i i−1 i+1 
 4
2i −(1 + i) 1 − i
1 1 1
On vérifie que

A = P DP −1 

Théorème 3.6
Soit E un espace vectoriel de dimension finie n > 1 sur K, u un endomorphisme de E. Pour que u
soit diagonale, il faut et il suffit que que les deux conditions suivantes soient remplies.

a) Le polynôme caractéristique Pu (X) a toutes ses racines dans K.

b) pour toute valeur propre de λ, la dimension du sous-espace propre est égale à la multiplicité
de la racine λ dans Pu (X). 

Preuve :
Il est clair que ces conditions sont nécessaires. Supposons que (λ1 , . . . , λp ) soient les valeurs propres
de Pu , avec les multiplicités (m(λ1 ), . . . , m(λp )).
Pp
D’après a) on a m(λi ) = n.
i=1
D’après le théorème 3.5, la somme des sous-espaces propres est directe. D’après b), on a donc, si
E1 , . . . , Ep désignant les sous-espaces propres,

dim E1 + · · · + dim Ep = m(λ1 ) + m(λ2 ) + · · · + m(λp ) = n

22

donc E = E1 ⊕ · · · ⊕ Ep .
Par suite, en prenant une base constituée par la réunion des bases de chaque Ei , la matrice de u,
dans cette base, est la matrice diagonale désirée. 
Exemples 3.5
1- Considérons l’endomorphisme u de matrice
 
1 1 1 1
 1 1 −1 −1 
 
 1 −1 1 −1 
1 −1 −1 1
dans la base canonique de R4 .
On a vu que Pu (X) = (X − 2)3 (X + 2). Ker(u + 2I) est de dimension 1, Ker(u − 2I) est de
dimension 3. Par suite, dans la base (v1 , v2 , v3 , v4 ), la matrice de u est diagonale
 
−2 0 0 0
 0 2 0 0 
D=  0 0 2 0 


0 0 0 2
La matrice de changement de P , et son inverse P −1 sont
   
−1 1 1 1 −1 1 1 1
 0 1 0 0  1 0 4 0 0
P −1 = 
  
P = 
 1 0 1 0  4  1 −1 3 −1 
2 0 0 1 2 −2 −2 2
2- Considérons l’endomorphisme u de Rn , dont la matrice M (u), par rapport à la base canonique, a
tous ses coefficients égaux à 1.
Nous avons vu que

Pu (X) = (−X)n + (−X)n−1 n = (−X)n−1 (n − X)

donc spectre de u = {0, n}. La valeur propre n étant simple, il est clair que Ker(u − nI) est de
dimension 1.
C’est l’ensemble des vecteurs satisfaisant

 −(n − 1)x1 + · · · + xn = 0
x1 − (n − 1)x2 + · · · + xn = 0
x1 + · · · − (n − 1)xn = 0


Il est facile de voir avec le raisonnement ci-dessus que u − nI est de rang n − 1 (c’est en effet
une matrice de type v − λI avec comme ordre n − 1, ayant tous ses coefficients égaux à 1, donc son
spectre est u = {0, n − 1}.
Un vecteur générateur est donné par : v1 = (1, 1, 1, 1)

Ker u = {(x1 , . . . , xn ); x1 + x2 + · · · + xn = 0}
C’est un hyperplan de dimension n − 1, une base
3.1. POLYNÔME CARACTÉRISTIQUE, VALEURS PROPRES ET VECTEURS PROPRES 23

v2 = (1, −1, 0, . . . , 0)
v3 = (1, 0, −1, 0, . . . , 0)

vn = (1, 0, . . . , −1)
Par suite, la matrice de u dans la base (v1 , . . . , vn ) est
 
n 0 ··· 0
 0 0 ··· 0 
 
 .. 
 . 
0 0 ··· 0
La matrice P de changement de base et son inverse p−1 sont
 
1 1 ··· 1
 
1 1 1 ··· 1
 1 −1 0 · · · 0   1 1−n ··· 1
 

 1 1 ··· 1
 
 1 0 −1 · · · 0   −1 1 
P = P = 

 .
 1 0 0 ··· 0  n  ..
 
 
 ··· ··· ··· ··· 0  
 1 1 ··· 1


1 0 0 · · · −1 1 1 ··· 1 − n