Chapitre I

Matrices nilpotentes, matrices

trigonalisables, Leçon 157

I.1 Théorème de Lie-Kolchin

[1, Exercice IV-B6]
On note D(K) le groupe dérivé d’un groupe K, c’est-à-dire le sous-groupe
engendré par les commutateurs [g, h] = ghg −1 h−1 , avec g, h ∈ K, de K. On
note D2 (K) le groupe dérivé de D(K) et Dk (K), par récurrence.
On rappelle qu’un groupe G est résoluble si D` = 1 pour un entier ` que
l’on choisira minimal dans la suite.

G = G0 ⊃ G1 ⊃ · · · ⊃ G` = {1}

telle que pour tout entier k compris entre 0 et ` − 1, le sous-groupe Gk+1

soit distingué dans Gk et le quotient Gk /Gk+1 soit abélien.
Théorème I.1.1 (Théorème de Lie-Kolchin).
Soit G est un sous-groupe résoluble connexe de GLn (C), alors G est
conjugué à un sous-groupe du groupe des matrices triangulaires de GLn (C).
On note donc Gk , k de 0 à `, les sous-groupes comme ci-dessus. On
supposera G non abélien ; si G est abélien, on sait déjà qu’une famille de
matrices qui commutent deux à deux sont simultanément trigonalisables sur
C.
1. Montrer que Dk (G) est un sous-groupe distingué, connexe, de G, et
que le groupe quotient Dk−1 (G)/Dk (G) est abélien, pour tout k.
2. On pose A = D`−1 (G). Montrer que A est abélien, non trivial, et en
déduire que l’ensemble

V := {v ∈ Cn , Av ∈ Cv}

est non trivial.

1
2CHAPITRE I. MATRICES NILPOTENTES, MATRICES TRIGONALISABLES, LEÇON 157

3. Soit v non nul dans V . Pour a dans A, on pose χv (a) le complexe tel
que a(v) = χv (a)v. Montrer que pour tout g de G, g(v) est encore dans
V , et que χg(v) (a) = χv (g −1 ag), pour tout a de A.
4. En déduire, en utilisant la connexité de G, que si v est un vecteur
propre de a, pour la valeur propre λ, alors g(v) est un vecteur propre
de a pour la même valeur propre λ.
5. Soit v non nul dans V , et W le sous-espace engendré par les g(v),
g ∈ G. Montrer que W est un sous-espace G-stable, de dimension
0 < dim W < n.
6. En déduire, en utilisant une récurrence sur n, qu’il existe une base de
trigonalisation commune à tous les g de G.
Soluce
1. En fait, tout groupe dérivé d’un groupe donné K est distingué : il
est stable par tout automorphisme de K, par construction, donc, en
particulier, stable par automorphisme intérieur.
Comme G est connexe, G × G est également connexe, et la partie
génératrice X := {[g, h], g, h ∈ G} de D(G), qui est l’image de G × G
par le commutateur, est également connexe. Par l’exercice [H2G2-t1,
II-F5], D(G) est connexe. Par récurrence, on en déduit que Dk (G) est
connexe.
Comme le groupe dérivé de Dk−1 (G) est Dk (G), on obtient par passage
au quotient que le groupe dérivé de Dk−1 (G)/Dk (G) est Dk (G)/Dk (G) =
{1}. Mais cela signifie que tous les commutateurs dans Dk−1 (G)/Dk (G)
sont triviaux, c’est-à-dire, que Dk−1 (G)/Dk (G) est abélien.
2. Par minimalité de `, A est non trivial. Comme le groupe dérivé de
A est trivial, on a que D`−1 (G) est abélien. On sait alors que sur
C, les matrices de D`−1 (G) sont simultanément trigonalisables. Soit
(e1 , · · · , en ) une base qui les trigonalise toutes. On a alors : e1 ∈ V .
3. On a

a g(v) = g (g −1 ag)(v) = g χv (gag −1 )v = χv (gag −1 )g(v).

D’où l’assertion.
4. Tout d’abord, comme v est non nul, g(v) est également non nul. On a vu
que g(v) était vecteur propre pour tout élément a de A. L’application
de G dans C∗ qui envoie g sur χv (g −1 ag) est continue : effectivement,
elle est composée de g 7→ gag −1 qui est continue, avec l’application χv ,
qui est continue sur le stabilisateur de la droite Cv.
Donc, l’image de G est un connexe. Comme χg(v) (a) = χv (g −1 ag), cette
image est dans l’ensemble discret des valeurs propres de a. Conclusion,
χg(v) (a) n’a qu’une valeur quand g varie, celle atteinte pour g = e,
c’est-à-dire λ.
I.2. CARDINAL DU CÔNE NILPOTENT SUR UN CORPS FINI 3

5. Comme le sous-espace W est défini par un système de générateurs G-

stable, il est également G-stable. Comme il contient v qui est non nul,
W est non nul.
Reste à montrer que W 6= Cn . Soit a quelconque dans A. Alors, pour
tout g dans G g(v) est un vecteur propre pour a, pour la même valeur
propre. En conséquence, W est un sous-espace propre pour a. Si, par
l’absurde, W = Cn , alors a est une homothétie pour tout a, et A est
un sous-groupe constitué d’homothéties. Comme G est non abélien,
` > 1 et donc A est le groupe dérivé d’un groupe, en l’occurence, le
groupe dérivé de Dl−2 (G). Ainsi, le déterminant d’un élément de A est
1, et comme toutes les matrices de A sont scalaires, ces scalaires sont
forcément des racines de l’unité. Or, comme on a l’a vu, A est connexe.
Donc, A est le groupe trivial. Ce qui est absurde par minimalité de `.
6. On montre par récurrence sur n que G possède une base de trigona-
lisation simultanée. Pour n = 1, c’est clair. Pour n quelconque, on a
obtenu un sous-espace W de dimension k, 1 ≤ k ≤ n − 1. Soit W 0 un
supplémentaire de W dans Cn . En choisissant une base adaptée à la
n 0
décomposition C = W ⊕W  , on voit que g est semblable à une matrice
ρ(g) ζ(g)
de la forme . De plus, vue comme fonction, ρ, resp. ρ0 ,
0 ρ0 (g)
est un morphisme continu de G dans GL(W ), resp. GL(W 0 ). L’image
de G par ρ, resp. ρ0 , est un sous-groupe connexe résoluble de GL(W ),
resp. GL(W 0 ). Par récurrence, on trouve une base de W et une base
de W 0 qui trigonalisent simultanément respectivement les ρ(g) et ρ0 (g).
En concaténant les deux bases, on obtient une base qui trigonalise tous
les g de G.

Remarque. Si les groupes résolubles généralisent les groupes abéliens, alors

le théorème de Lie-Kolchin généralise le fait qu’une famille de matrices qui
commutent est simultanément trigonalisable. A la différence près que ce théo-
rème demande expressément d’avoir un groupe. Par extension, le théorème de
Lie-Kolchin concerne les représentations de groupes résolubles. Notons que
tout ici repose sur le fait qu’un sous-groupe résoluble connexe G de GLn (C)
possède une droite stable, donc un point fixe si l’on passe en projectif. En ce
sens, le théorème de Lie-Kolchin rejoint le théorème du point fixe de Borel
qui dit que si G est un groupe résoluble connexe agissant régulièrement sur
une variété projective, alors il possède un point fixe.

I.2 Cardinal du cône nilpotent sur un corps fini

Théorème I.2.1. [2, Théorème IV-4.1] Pour tout corps fini Fq de cardinal
q et tout entier d, on a :

Nd (Fq ) = q d(d−1) .
4CHAPITRE I. MATRICES NILPOTENTES, MATRICES TRIGONALISABLES, LEÇON 157

On fixe un espace vectoriel E de dimension d et l’on identifie Nd =

Nd (Fq ) aux endomorphismes nilpotents de E. Commençons par montrer la
proposition suivante.
Proposition. Soient N ∈ Nd et e un vecteur non nul dans E. On note r le
nombre maximal tel que e = (e, N e, N 2 e, . . . , N r−1 e) est une famille libre.
On a alors : N r e = 0.
Démonstration. Soit F le sous-espace de E engendré par e et N , c’est-à-
dire : F = hN s e, s ∈ Ni. Alors, on peut affirmer que e est une base de F . En
effet, elle est libre par construction. Montrons qu’elle est génératrice : pour
cela, il suffit de voir que pour tout s ≥ r, on a N s e ∈ F . Pour
Pr s = ir, c’est
r
encore vrai puisque par construction, on peut écrire N e = i=0 ai N e pour
des scalaires a0 , . . . , ar−1
Pdconvenables. C’est enfin vrai par récurrence pour
s
tout s ≥ r, car N e = i=0 ai N s−r+i e.
Par construction, N stabilise F , on note N 0 = NF l’endomorphisme
induit par la restriction de N à F . Sa matrice dans la base e est donc

0 · · · 0 a0

 . . .. .. 
1 . . . 
..  .
 
 .
0 . . 0 . 
0 0 1 ar−1

On reconnaît alors la matrice compagnon du polynôme P = X r − di=0 ai X i ,

P
dont le polynôme caractéristique est justement le polynôme P (qui est égale-
ment minimal). Comme N 0 est nilpotente, tous les ai valent 0, ce qui termine
la preuve de la proposition.
Prouvons maintenant le théorème. Soit Lr,d l’ensemble des parties libres
dans E à r éléments. On dit que N respecte une famille e = (e1 , . . . , er ) de
Lr,d si, pour tout s entier entre 1 et r, on a : N es = es+1 — on convient
que er+1 est nul.
Posons maintenant nd = |Nd | et déterminons une formule de récurrence
pour nd . Pour cela, calculons de deux manières le cardinal de l’ensemble

Ñd = (N, e), N ∈ Nd , ∃r ∈ {1, . . . , d}, e ∈ Lr,d et N respecte e .
On note π1 (resp. π2 ), la projection sur la première (resp. seconde) compo-
sante.
Premier calcul. Un élément de π1−1 (N ) est entièrement déterminé par un

vecteur non nul e1 de E, puisqu’il s’écrira alors N, (e1 , N e1 , . . . , N r−1 e1 )
pour r convenable. On en déduit donc : |π1−1 (N )| = q d − 1, puis 1 :
X
|Ñd | = |π1−1 (N )| = nd (q d − 1).
N ∈Nd

1. Mais pourquoi tant de N ?

I.2. CARDINAL DU CÔNE NILPOTENT SUR UN CORPS FINI 5

Deuxième calcul. On a :

d
X X
|Ñd | = |π2−1 (e)|.
r=1 e∈Lr,d

Fixons r entre 1 et d et notons gr l’ordre du groupe GL(k r ). L’action naturelle

de GL(E) sur Lr,d est transitive d’après le théorème de la base incomplète.
Fixons e dans Lr,d et complétons-la en une base
ẽ de E. Dans cette base, le
stabilisateur de e s’écrit sous la forme : I0r MB
, avec M dans Mr,d−r (Fq ),
B ∈ GLd−r (Fq ). Il vient donc :

gd
|Lr,d | = ·
gd−r q r(d−r)

Maintenant, une matrice nilpotente N respecte e si et seulement si la matrice

de l’application linéaire associée à N dans une base ẽ est de la forme :
 
Jr M
matẽ = ,
0 Nd−r

où M est une matrice quelconque de Mr,d−r , Nd−r une matrice nilpotente

de taille (d − r) × (d − r) et Jr est le bloc de Jordan de taille r × r. On obtient
alors :
d d
X
r(d−r)
X gd
|Ñd | = |Lr,d |q nd−r = nd−r .
gd−r
r=1 r=1

En comparant les deux calculs, on obtient la formule de récurrence :

d
nd 1 X nd−r
= d ·
gd q −1 gd−r
r=1

Pour r compris entre 1 et d, notons mr = nr /gr . Il vient :

d−1
X d−2
X
(q d −1)md = mr = md−1 + mr = md−1 +(q d−1 −1)md−1 = q d−1 md−1 .
r=0 r=0

On en tire aisément la relation :

q d(d−1)/2 q d(d−1)
md = Qd = ,
r
r=1 (q − 1)
gd

et finalement : nd = q d(d−1) .
6CHAPITRE I. MATRICES NILPOTENTES, MATRICES TRIGONALISABLES, LEÇON 157

I.3 Discussion jury

1. Comment montre-t-on qu’un polynôme caractéristique scindé implique

que la matrice est trigonalisable ?
2. Quel est le spectre de l’exponentielle de A en fonction de celui de A ?
3. Montrer que le coefficient en X n−2 dans le polynôme caractéristique
2 2)
de A est égal à tr(A) −tr(A
2 .
4. Montrer que l’adhérence de l’ensemble des matrices diagonalisables est
égal à l’ensemble des matrices trigonalisables.
5. Inverser In + N où N est nilpotente.
AA


6. A quelle condition sur la matrice A a-t-on 0 A nilpotente ?
7. Montrer que deux matrices nilpotentes proportionnelles sont semblables.
8. Trouver tous les sous-espaces stables d’un bloc de Jordan nilpotent
indécomposable Jn .
9. On considère l’application qui, à la matrice A, associe sa partie nilpo-
tente N dans la décomposition de Dunford. Est-elle continue ?
10. Montrer qu’une matrice est nilpotente si et seulement si la matrice
nulle est dans sa classe de conjugaison.
Bibliographie

[1] Philippe Caldero et Jérôme Germoni. Nouvelles Histoires Hédonistes de

Groupes et de Géométries. Calvage et Mounet, 2017.
[2] Philippe Caldero et Jérôme Germoni. Histoires Hédonistes de Groupes
et de Géométries-Tome 2. Calvage et Mounet, 2015.