Topologie sur les matrices

Marc SAGE
11 avril 2006

Table des matières

1 Continuité du polynôme caractéristique 2

2 Densité de GLn (K) dans Mn (K) 2

3 Densité de GLn (Q) dans GLn (R) 3

4 Densité des matrices diagonalisables dans Mn (C) 3

5 Cayley-Hamilton par la densité des matrices diagonalisables dans Mn (C) 4

6 Frontière de SLn (K) 4

7 Croissance local du rang 5

8 Matrices de rang r 5

9 Sur les matrices racines de l’identité 6

10 Les cycliques forment un ouvert connexe (et dense pour K = C) 6

11 Intérieur et adhérence des matrices diagonalisables 7

12 Une classe de similitude n’est jamais ouverte 8

13 Matrices dont 0 ou In adhère à la classe de similitude 8

14 Matrices dont la classe de similitude est bornée 8

15 Matrices dont la classe de similitude est fermée 9

16 Matrices 2 2 dont la classe de similitude est connexe 10

17 Sous-groupes compacts de GLn (K) 10

1
 Dans tout ce qui suit, K = R ou C. Les matrices seront toujours prises non vides, i.e. dans un Mn (K) avec
n 1.
Les exercices visent surtout à illustrer la remarquable interaction entre réduction, polynômes, et topologie
matricielle. C’est important !

1 Continuité du polynôme caractéristique

Soit n un entier naturel non nul. On se place dans l’espace vectoriel normé Mn (K) muni de la norme produit
kAk = max jai;j j .
i;j

L’espace vectoriel normé Kn [X] des polynômes complexes de degré n sera vu comme un K-ev de dimension
n + 1 muni de la norme produit.

Montrer la continuité de la fonction polynôme caractéristique

Mn (K) ! Kn [X]
: .
A 7 ! A = det (XIn A)

Solution proposée.
est continue ssi chacune de ses applications composantes est continue, i.e. ssi chacun des coe¢ cients devant
les di¤érentes puissances de X dans A est une fonction continue en les coe¢ cients de A. Or, cela est clair car
un déterminant n’utilise que des opérations polynomiales (on a plus précisément
0 1
Xn X
k
A = ( 1) @ det AI A X n k
k=0 jIj=k

où AI est la matrice extraite de A en ne prenant que les termes indicés par une partie I f1; :::; ng, mais il
n’est nul besoin d’établir la formule ci-dessus –dont une preuve se trouve dans les feuilles sur le déterminant et
la réduction –pour comprendre ce qui se passe).

2 Densité de GLn (K) dans Mn (K)

Montrer que GLn (K) est dense dans Mn (K). En déduire que AB = BA pour deux matrices A et B de
Mn (K).

Solution proposée.
Soit A 2 Mn (K). On va approcher A par des matrices inversibles. On cherche pour cela à perturber A de
sorte que le déterminant de la matrice perturbée soit non nul, et ce pour une perturbation in…niment petite.
Plus précisément, considérons A" = A + "In pour un " tout petit. Le déterminant de A" est un polynôme en
1 1
" sur le corps K, donc admet un nombre …ni de racines. Il y a par conséquent un voisinage N N ; de 0 qui ne
contient aucune racine de P (sauf peut-être 0). La suite A p1 est alors dans GLn (K) et tend clairement
p>N
vers A :
1 1
A p1 A =In = kIn k ! 0.
p p
Le résultat sur les polynômes caractéristiques s’établit aisément si A est inversible :
1 1
AB = det (XIn AB) = det A XA B = (det A) det XA B
1 1
= det XA B (det A) = det XA B A = det (XIn BA) = BA .

On conclut en invoquant la densité de GLn (K) et la continuité de : soit (An ) suite de matrices inversibles
qui tend vers A. On donc An B ! AB, d’où

AB = lim An B = lim BAn = BA .

2
3 Densité de GLn (Q) dans GLn (R)

Montrer que GLn (Q) est dense dans GLn (R).

Solution proposée.
Soit P 2 GLn (R) que l’on cherche à approcher par des matrices inversibles rationnelles. On considère
pour cela une matrice de perturbation " à choisir convenablement. Puisque det P 6= 0, et par continuité du
déterminant, pour " assez petit la matrice P + " est inversible. Il su¢ t ensuite de prendre les "i;j de sorte que
les pi;j + "i;j soient rationnels, ce qui est toujours possible par densité de Q dans R.

4 Densité des matrices diagonalisables dans Mn (C)

Montrer que les matrices diagonalisables de Mn (C) sont denses. Qu’en est-il du cas réel ?

Solution proposée.
Soit A 2 Mn (C). Quitte à la trigonaliser, on peut la supposer de la forme
0 1
1 ? ?
B . .. .. .. C
B 0 . . C
B C
B . .. .. C
@ .. . . ? A
0 0 n

où les i sont les valeurs propres de A. On va perturber la diagonale pour que les nouvelles valeurs propres
soient deux à deux distinctes, ce qui est un critère bien connu de diagonalisabilité.
Plus précisément, …xons-nous un entier p qui va servir à borner la perturbation par p1 . On construit de proche
(p) (p) (p) (p) (p)
en proche des réels "1 ; :::; "n de la manière suivante : on prend "1 = p1 , puis en supposant posés "1 ; :::; "k<n ,
(p) 1 (p)
on prend un 0 "k+1 < p distincts des k valeurs i + "i k+1 pour i = 1; :::; k. Ainsi, la matrice
0 1
(p)
"1
B .. C
Ap = A + B
@ . C
A
(p)
"n

(p) (p)
a toutes ses valeurs propres i + "i deux à deux distinctes par construction des "i , donc est diagonalisable.
Comme de plus 0 1
(p)
"1
B .. C 1
Ak1 = B C (p)
kAp @ . A = max "i ! 0,
i=1;:::;n p
(p)
"n 1

la suite (Ap ) tend vers A. Ceci conclut la démonstration.

Le résultat tombe en défaut dans Mn (R). Soit en e¤et A une matrice 2 2 compagnon d’un polynôme
0 1
caractéristique sans racines réelles, par exemple compagnon de X 2 +1. En notant M le discriminant
1 0
du polynôme caractéristique d’une matrice M , qui s’exprime par

X a c 2
0 1 = disc = disc X 2 (a + d) X + ad bc = (a + d) 4 (ad bc)
@
a c A
b X d
b d
2
M = (tr M ) 4 det M

et qui est donc continu, on a A < 0 ; si A s’approchait par des matrices Dk diagonalisables dans Mn (R), Dk
serait scindé (dans R), donc Dk serait positif, et par continuité on aurait A 0, absurde.

3
5 Cayley-Hamilton par la densité des matrices diagonalisables dans
Mn (C)

Soit A une matrice complexe diagonalisable. Montrer que A (A) = 0. Généraliser le résultat à toute matrice
complexe.

Solution proposée.
Soit A une telle matrice. On peut écrire
0 1
1
B .. C 1
A=P@ . AP ,
p

Q
n
de sorte que A = (X i) et donc
i=1
0 1
..
20 1 0 13 B . C
n 1 1 n B C
Y 6B C B C7 Y B
i 1 i C
.. .. B 0 C=0
A (A) = 4@ . A i@ . A5 = B C
i=1 1 i=1 B C
p @ i+1 i A
..
.

car un zéro apparaît dans chaque produit formant un coe¢ cient diagonal.
Remarquer que l’on n’utilise nullement ici les propriétés topologiques de C, le résultat est valable sur un
corps quelconque.
Soit maintenant A quelconque dans Mn (C). On sait que l’on peut l’approcher par une suite de matrices
diagonalisables :
A = lim Dk
où chaque Dk véri…e par ce qui précéde
Dk (Dk ) = 0.

Dk ! A
Puisque , un exercice classique a¢ rme que Dk (Dk ) ! A (A), d’où A (A) = 0 par unicité
Dk ! A
de la limite.

6 Frontière de SLn (K)

On appelle frontière d’une partie A d’un evn la partie Fr A = A A. Calculer dans Mn (K) la frontière de
SLn (K) = fA 2 GLn (K) ; det A = 1g.

Solution proposée.
En écrivant SLn (K) = det 1 (f1g), on voit que SLn (K) est fermé par continuité du déterminant, d’où
SLn (K) = SLn (K).
Montrons à présent que SLn (K) est d’intérieur vide. Soit par l’absurde A0 dans cet intérieur ; on peut
trouver une boule B := B (A0 ; r0 ) qui reste dans SLn (K). La matrice At := A0 + tA0 est alors dans B pour
t < kAr00 k (kA0 k est non nul car det A0 = 1), donc le polynôme det (At ) 1 possède une in…nité de racines, d’où
det (At ) = 1 pour tout t, en particulier pour t = 1, d’où 1 = det (A0 A0 ) = 0, absurde.
Il en résulte que SLn (K) est égal à sa frontière.

4
7 Croissance local du rang

Montrer que la fonction "rang" est localement croissante sur Mn (K) :

8A 2 Mn (K) ; 9r > 0; kM Ak < r =) rg M rg A.

Solution proposée.
Soit A une matrice de Mn (K) et r son rang. Il existe une matrice extraite P inversible de taille r, donc
de déterminant A non nul. Il existe alors un voisinage de A où A (qui est continu en A car polynomial en ses
coe¢ cients) est non nul, de sorte que, pour toute matrice M dans ce voisinage, la matrice extraite de M à la
même place que P a un détermimant M non nul, d’où rg M p.

8 Matrices de rang r

Soit 1 r n. On se place dans Mn (K). Montrer que les matrices de rang r forment un ensemble fermé.
En déduire l’adhérence des matrices de rang exactement r.

Solution proposée.
On dispose de l’équivalence

(9E inversible de taille > r extraite de A) () (rg A > r) ,

ce qui se contrapose en

(rg A r) () (8E de taille > r extraite de A, E non inversible) .

En dé…nissant une application continue f par

X
f (A) = jdet Ej ,
E extraite de A
taille de E >r

on obtient
X
f (A) = 0 () jdet Ej = 0
E extraite de A
taille de E >r
() 8E extraite de A de taille > r, jdet Ej = 0
() rg A r,

d’où fA 2 Mn (K) ; rg A P g = f 1 (f0g) qui est clairement fermé.

Rr = fA 2 Mn (K) ; rg A = rg
Soit . Rr contient Rr et est fermé par ce qui précède, donc Rr Rr =
Rr = fA 2 Mn (K) ; rg A rg
Rr . Montrons l’inclusion réciproque Rr Rr .
Ir0 0
Soit A 2 Rr , que l’on écrit A = P Q avec P et Q inversibles et r0 r. On perturbe la diagonale
0 0
0 1
Ir0
pour obtenir un rang égal à r, en posant par exemple Ak = P @ 1
k Ir r
0 A Q, de sorte que (Ak ) est
0
une suite dans Rr qui tend vers A et donc A 2 Rr .
On a ainsi prouvé que

fA 2 Mn (K) ; rg A = rg = fA 2 Mn (K) ; rg A rg .

5
9 Sur les matrices racines de l’identité

Soit q 1 un entier et Mq = fA 2 Mn (C) ; Aq = In g. Montrer que le spectre est localement constant sur
Mq :
8A 2 Mq ; 9" > 0; 8M 2 Mq ; kM Ak < " =) Sp M = Sp A.

Solution proposée.
Soit A 2 Mq et supposons par l’absurde que pour tout " > 0 il y a une matrice A" de Mq dans la boule
B (A; ") telle que Sp A" 6= Sp A. En prenant " = n1 , on obtient une suite (An ) dans Mq qui tend vers A. Les An
étant annulées par le polynôme X q 1 scindé simple, elles sont diagonalisables sur C de spectre inclus dans
l’ensemble q des racines q-ièmes de l’unité, mettons An = Pn Dn Pn 1 où les Dn sont à valeurs dans q . Les
Dn sont donc en nombre …ni (chaque coe¢ cient de la diagonale ne peut prendre qu’au plus q valeurs), donc on
peut en extraire une sous-suite stationnaire D'(n) = D. En utilisant la continuité du polynôme caractéristique
(dont les racines forment le spectre), on trouve

D = D'(n) = A'(n) ! A,

de sorte que A'(n) est constamment égal sa limite A, d’où l’égalité des spectres Sp A'(n) = Sp A, qui est
absurde vues les hypothèses sur la suite (An ).

10 Les cycliques forment un ouvert connexe (et dense pour K = C)

On rappelle qu’un endomorphisme u d’un K-ev E de dimension …nie n 1 est dit cyclique s’il y a
un vecteur x 2 E dont les n premiers termes de l’orbite selon l’action de u forment une base, i.e. tel que
x; u (x) ; u2 (x) ; :::; un 1 (x) soit libre.

Montrer que les endomorphismes cycliques forment un ouvert connexe, qui est de plus dense pour le cas
K = C (on pourra montrer que les endomorphismes de polynôme caractéristique scindé simple sont cycliques).

Solution proposée.
La condition " x; u (x) ; :::; un 1 (x) libre" peut se réécrire sous la forme detB x; u (x) ; :::; un 1 (x) 6= 0
où B est une base arbitraire de E, ce qui est une condition continue en les coordonnées de la matrice de
u. Le déterminant ci-dessus restera donc non nul pour une petite perturbation de u, ce qui montre que les
endomorphismes cycliques forment un ensemble ouvert.
Quant à la connexité, il s’agit de remarquer que la matrice de u dans la base x; u (x) ; :::; un 1 (x) s’écrit
0 1
0 a0
B .. C
B 1 ... . C
sous la forme C := B C où !a 2 Kn est un vecteur de scalaires, d’où
B . C
@ . . 0 an 2 A
1 an 1
1
Mat u = P CP
B

où P désigne la matrice de passage de la base B de référence à la base cyclique, laquelle peut toujours être
prise de déterminant 1 quitte à la diviser par son déterminant. Réciproquement, s’il y a un vecteur ! a 2 Kn et
1
une matrice P 2 SLn (K) tels que MatB u = P CP , P peut s’interprêter comme la matrice de passage de B
dans une base X = (x0 ; x1 ; :::; xn 1 ), d’où MatX u = C, ce qui montre en lisant C que xi = u (xi 1 ) pour tout
i = 1; :::; n 1, d’où une base cyclique pour u engendrée par le vecteur x0 .
Par conséquent, les endomorphismes cycliques sont exactement l’image de la composée
8 n
> SLn (K) K
>
>
! 0 Mn (K) 1
>
> 0 a0
>
< B .. C
B 1 ... . C Mn (K) ! L (E)
.
> (P; a) 7 ! P B CP 1 Mat u 7 ! u
>
> B . C B
>
> @ .. 0 an 2 A
>
:
1 an 1

6
L’ensemble de départ étant connexe (SLn (K) est engendré par des transvections que l’on envoie chacune
continûment sur l’identité en étou¤ant leur coe¢ cient hors diagonale) et l’application considérée continue,
l’image reste connexe, CQFD.
Pour la densité, suivons l’énoncé. L’intérêt est que tout endomorphisme diagonalisable est approchable par
des endomorphismes à polynôme caractéristique scindé simple (il su¢ t de perturber les valeurs propres pour
les rendre deux à deux distinctes), ce qui conculera dans le cas K = C au vu de l’exercice 4.
Soit donc (e1 ; :::; en ) une base de vecteurs propres pour u dont on note ( 1 ; :::; n ) les valeurs propres
respectivement associées. Il faut exhiber un vecteur cyclique pour u. Il est raisonnable d’essayer d’en créer un
à partir des ei . Comme ces derniers sont symétriques, il vaut mieux prendre une expression symétrique, par
exemple la somme x := e1 + ::: + en . Une récurrence immédiate montre que uk x = k1 e1 + ::: + kn en , d’où la
matrice de la famille x; ux; :::; un 1 x dans la base (e1 ; :::; en ) : c’est un Vandermonde, inversible par hypothèse
sur les i , ce qui montre que la famille x; ux; :::; un 1 x dont on lit les coordonnées dans la base (e1 ; :::; en ) est
libre, CQFD.
Dans le cas K = R, on peut juste dire que l’adhérence des cycliques contient les trigonalisables. ? ? ? ? ?

11 Intérieur et adhérence des matrices diagonalisables

Déterminer l’adhérence, l’intérieur, et la frontrière des matrices diagonalisables sur K = R ou C.

On pourra utiliser la continuité des racines telle qu’elle énoncée dans la feuille 2 sur les polynômes.

Solution proposée.
Pour K = C, l’adhérence est connue (cf. exercice 4). Pour K = R, soit A limite de matrices Dk diagona-
lisables. Dk est alors scindé pour tout n, donc sa limite A l’est aussi (chaque racine complexe de A est
approchable par une suite de k racine de Dk , mais les k étant réelles il en est de même pour ), ce qui montre
que A est trigonalisable. Réciproquement, on fait comme le cas complexe en perturbant la diagonale pour avoir
n valeurs propres distinctes.
Finalement, l’adhérence des matrices diagonalisables de Mn (K) est l’ensemble des matrices trigonalisables.
On retrouve le fait (remarqué dans un cas particulier lors de l’exercice 4) que les matrices réelles dont le polynôme
2
caractéristique n’est pas scindé
0 (par exemple X +1 1) ne sont pas approchables pas des matrices diagonalisables.
1 Id
B .. C
Soit à présent A = P @ . A P 1 dans l’intérieur des diagonalisables. Il est bon de se
p Id
1
souvenir de l’argument montrant pourquoi la matrice n’est pas diagonalisable : son spectre f g
1 1
se lit sur la diagonale, donc la réduite diagonale ne peut être que I2 , d’où = P P 1 = I2 :
1
contradiction. Ainsi, s’il y a une valeur propre multiple, en perturbant par un " au-dessus de la diagonale, on a
"
un matrice extraite de la forme qui doit rester diagonalisable, ce qui est absurde par ce qui précède.
Par conséquent, A est scindé simple.
Montrons réciproquement que cela est su¢ sant pour être dans l’intérieur. Soit D une telle matrice : D est
alors scindé simple. En perturbant D, on perturbe D (continuité de ), et on peut raisonnablement espérer
qu’une petite perturbation des coe¢ cients de D ne va pas trop faire bouger ses racines, ce qui donnera encore
un polynôme scindé simple (et donc une matrice diagonalisable).
Montrons cela par l’absurde, à savoir d’une limite de scindés multiples (dans C) ne peut être scindée simple.
(k) (k)
Soit P = (X 1 ) ::: (X n ) le polynôme limite, supposé scindé simple, et Pk = X 1 ::: X n
(k)
les approximations de P avec i ! i pour tout i. Pour un " > 0 donné, on aura pour k assez grand
(k) (k) (k)
i i < " pour tout i, et il s’agit de choisir " pour que 1 ; :::; n n’aient aucune chance de se rencontrer ; ce
sera le cas si les boules i +"B sont deux à deux disjointes, et il su¢ t pour cela de prendre " < 21 mini6=j j i j j.
Finalement, l’intérieur des matrices diagonalisables est formé des matrices (diagonalisables) dont toutes les
valeurs propres sont simples.
Pour répondre à la question, la frontière des diagonalisables s’obtient en prenant les trigonalisables ayant
au moins une valeur propre multiple.

7
 Les cinq exercices qui suivent visent à étudier les di¤érentes propriétés topologiques des classes de similitudes
et leur lien avec la réduction des matrices considérées.
On notera Sim A la classe de similitude d’une matrice A.

12 Une classe de similitude n’est jamais ouverte

Montrer que l’intérieur d’une classe de similitude est toujours vide.

Solution proposée.
La trace étant un invariant de similitude, Sim A est incluse dans l’hyperplan a¢ ne tr = tr A, lequel est
d’intérieur vide.

13 Matrices dont 0 ou In adhère à la classe de similitude

Montrer qu’une matrice est nilpotente ssi 0 adhère à sa classe de similitude.

En déduire qu’une matrice est unipotente ssi In adhère à sa classe de similitude.

Solution proposée.
=) Soit A une matrice nilpotente. Quitte à la trigonaliser (on reste dans Sim A), on peut supposer A
triangulaire supérieure stricte. On conjugue alors par un produit de dilatations Diag C 1 ; C 2 ; :::; C n où C est
une constante arbitrairement grande. Multiplier à gauche multiplie la i-ligne par C i et diviser à droite divise
la j-colonne par le même facteur C j . Finalement, le terme ai;j se trouve transformé en ai;j C i j . Comme on ne
regarde que les termes pour i < j, la nouvelle matrice tend vers 0 lorsque C tend vers 1.
(= Pour l’autre sens, le polynôme caractéristique est un invariant continu de similitude, donc A =
Sim A = 0 = X n , ce qui une condition bien connue de nilpotence.

Quant aux matrices unipotentes, il s’agit d’observer que

1 1
Sim (A + In ) = P (A + In ) P = P AP + In = (Sim A) + In .

Le résultat tombe alors en appliquant ce qui précède.

14 Matrices dont la classe de similitude est bornée

Déterminer toutes les matrices de Mn (K) dont la classe de similitude est bornée, i.e. les A telles que
1
9M > 0; 8P 2 GLn (K) ; P AP < M.

Solution proposée.
Montrons déjà que Sim A ne contient que des matrices diagonales.
Dans le cas contraire, soit A0 une matrice semblable à A ayant un coe¢ cient a0i0 ;j0 non nul avec i0 6= j0 . On
dilate ce coe¢ cient à l’aide d’une matrice de dilatation
0 1
1
B .. C
B . C
B C
B 1 C
B C
P =B B
C
C
B 1 C
B C
B . C
@ .. A
1

8
où le est à la i0 -ième place. On a alors P AP 1 i ;j = a0i0 ;j0 qui n’est pas bornée, d’où absurdité. En
0 0
particulier, A est diagonale.
Montrons à présent que Sim A ne contient que des matrices scalaires. Si une telle matrice, diagonale par ce
qui précède, n’est pas scalaire, elle contient deux valeurs propres et distinctes. On conjugue alors par une
transvection :
1 1 1 1
= ,
1 1
ce qui donne une matrice non diagonale, contradiction puisqu’on doit rester dans Sim A. En particulier, A doit
être scalaire.
On aurait pu également dire que, étant donnée un vecteur x 2 K n non nul, on peut le compléter en une
base (x; e2 ; :::; en ) de K n et dans cette base la matrice de A est diagonale, ce qui montre que (x; Ax) est liée
pour tout x et il est connu que A est alors scalaire.
Réciproquement, la classe de similitude d’une matrice scalaire est réduite à un point (elle-même), donc est
bornée.
Finalement, les matrices scalaires répondent au problème et sont les seules.

15 Matrices dont la classe de similitude est fermée

Montrer qu’un matrice complexe est diagonalisable ssi sa classe de similitude est fermée.
On pourra montrer que la classe de similitude d’une matrice A diagonalisable est l’ensemble des matrices B
A = B
telles que . Pour l’autre sens, on pensera aux matrices de dilatation.
A = B

Solution proposée.
A = B
=) Soit A diagonalisable. Montrons qu’une matrice B est semblable à A ssi . Le sens
A = B
A = B
direct est immédiat. Soit maintenant B véri…ant . Puisque A est diagonalisable, son polynôme
A = B
minimal est scindé simple ; B est ainsi annulé par B = A scindé simple, donc est diagonalisable et de même
spectre que A. La condition A = B montre alors les valeurs propres de A et B ont même multiplicité, d’où
la similitude de A et B.
On transforme à présent Q la condition A = B en B 2 A1 (f0g). En e¤et, le sens direct est clair, et si
A (B) = 0, alors B j A = 2Sp A (X ), mais la condition A = B implique Sp A = Sp B, d’où l’égalité
B = A .
On peut donc écrire la classe de similitude de A comme 1
(f A g) \ A1 (f0g), la continuité de polynôme
caractéristique et celle de A assurant que ce que l’on vient d’écrire est fermé.
(= Supposons à présent que Sim A est fermée. On dilate A de façon asymétrique, après l’avoir
k
i
trigonalisée, en conjugant par la matrice diagonale D = Diag (1; 2; :::; n). Puisque Dk AD k
i;j
= j ai;j , la
k k
suite D AD tend vers Diag (a1;1 ; :::; an;n ), et cette limite est semblable à A par hypothèse, ce qui prouve que
A est diagonalisable.

Remarques. Il aurait été tentant de conclure en a¢ rmant que la classe de similitude de A peut se décrire
comme l’image réciproque du fermé f( A ; A )g par l’application continue ( ; ). Mais l’application "polynôme
minimal" : A 7! A n’est pas continue ! Considérer par exemple

0 1
1 0 1
=X X et = X.
@
0 0 A n @
0 0 A
1
0 n 0 0

Observer par ailleurs que la démarche pour le sens réciproque est la même que pour montrer que 0 est dans
l’adhérence de Sim N pour N nilpotente : on a simplement dilaté d’une autre manière.

9
16 Matrices 2 2 dont la classe de similitude est connexe

Soit A une matrice réelle de taille 2 2. Montrer que A est diagonalisable ssi sa classe de similitude est
connexe. On pourra, pour l’un des sens, montrer que la classe de similitude de A contient une matrice symétrique
à l’aide d’une application continue gentille.
Qu’en est-il des matrices de taille plus grande ? Des matrices complexes ?

Solution proposée.
1
=) Supposons A semblable à et soit P P dans sa classe de similitude.
Si det P > 0, par connexité de GL+
(R), on relie P à In .
n
1
Si det P < 0, on conjugue par D := :
1

1 1 1
P P = PD D P avec det P D > 0,
( )

ce qui nous ramène au cas précèdent.

a b
(= Essayons de suivre l’énoncé : une bonne application est celle qui à une matrice sem-
c d
blable à A associe b c. Son image est l’image continue d’un connexe, donc un connexe de R, symétrique (car
toute matrice est semblable à sa transposée), donc contient 0, ce qui correspond à une matrice symétrique donc
diagonalisable, CQFD.

Pour n 3, le premier sens fonctionne toujours, mais le second tombe en défaut : il su¢ t de 0
considérer une
1
1 1
matrice non diagonalisable pour laquelle le raisonnement du premier sens s’applique, par exemple @ 1 A.
1
Si le corps de base est C, alors le groupe linéaire devient connexe par arcs, donc toutes les classes de
similitudes également. Et l’argument précédent ne fonctionne évidemment plus, puisqu’on y utilise le fait que
les connexes de R sont les intervalles (ce qui est faux dans C).

17 Sous-groupes compacts de GLn (K)

Soit G un sous-groupe compact de GLn (R). Le but du problème est de montrer que G est un sous-groupe
d’un certain groupe orthogonal.

On admettra que l’enveloppe convexe d’un compact est compacte en dimension …nie (conséquence du théo-
rème de Carathéodory).
On admettra qu’une application a¢ ne stabilisant un corps convexe K (compact convexe non vide) a un
point …xe sur K (théorème de Markov-Kakutani ).

Montrer que le problème revient à trouver une matrice symétrique dé…nie positive S telle que 8g 2
G; g Sg = S. On va chercher S sous la forme g g, et plus généralement dans l’enveloppe convexe K de
tels éléments.
Pour g 2 G, on dé…nit gb : S 7! g Sg. Montrer que G b est un sous-groupe compact de GL (Sn (R)) qui
stabilise K. Le problème revient à présent à chercher un point (de K) …xe par tous les gb.
On dé…nit une application sur Sn (R) par kSk = supg2G kb b
g (S)k2 . Montrer que k k est une norme G-
invariante ( kb
g Sk = kSk pour tout g 2 G) et étudier le cas d’égalité dans l’inégalité triangulaire.
En raisonnant par l’absurde, trouver des g1 ; :::; gk 2 G n’admettant pas de point …xe commun dans K.
Notons Fg := Fix gbjK . En utilisant Markov-Kakutani, obtenir une contradiction.

Solution proposée.

10
 Un groupe orthogonal est un groupe d’applications préservant un produit scalaire h j i sur Mn (R),
un produit scalaire sur Mn (R) étant la donnée d’une matrice S symétrique dé…nie positive – pour laquelle
ha; bi = a Sb. Le problème revient donc à trouver un S tel que

8g 2 G; 8a; b 2 Mn (R) ; hga; gbi = ha; bi

() 8g 2 G; 8a; b 2 Mn (R) ; (ga) S (gb) = a Sb
() 8g 2 G; 8a; b 2 Mn (R) ; a (g Sg) b = a Sb
() 8g 2 G; g Sg = S.

b est clairement un groupe pour la loi gbb

G c de neutre Ibn = Id, donc un sous-groupe de GL (Mn (R)).
h = gh,
Les applications

Mn (R) ! L (Mn (R)) L (Mn (R)) ! L (Mn (R))

et
A 7 ! S 7! A S u 7 ! S 7! u (S) A

b du compact G par leur composée est

sont linéaires donc continues (on est en dimension …nie), donc l’image G
b
un compact de L (Mn (R)). En remarquant que G stabilise Sn (R), on a …nalement que G b est un sous-groupe
b stabilise K : pour a = P
compact de GL (Sn (R)). Montrons que G g2G g g g dans K et g0 dans G, on a
X X
gb0 (a) = g0 ag0 = g (gg0 ) (gg0 ) = gg0 1 g g 2 K.
g2G g2G

b étant compact, à S …xé l’application gb 7! kb

G g (S)k2 atteint son supremum, donc kSk s’écrit kc
gS (S)k2
pour un certain gS 2 G. Ainsi, on a toujours, en allégant g := gS+T :

kS + T k = kb g (S) + gb (T )k2
g (S + T )k2 = kb kb
g (S)k2 + kb
g (T )k2 kSk + kT k ,

et le cas d’égalité force le cas d’égalité pour la norme euclidienne, i.e. gb (T ) + gb (S) = 0 avec 0, d’où
T + S = 0 par injectivité de gb. Les deux autres propriétés d’une norme sont immédiates. Comme de plus G b
est stable par composition, b
k k est G-invariante.
T
Supposons que g2G Fg = ;. Par compacité de K, on en extrait une intersection …nie Fg1 \:::\Fgk = ;. On
pose f = n1 (gb1 + ::: + gbk ), application a¢ ne stabilisant K par convexité de ce dernier. Pour appliquer Markov-
Kakutani à f , il faut prouver que K est un corps convexe. Il est trivialement non vide et convexe, et c’est un
compact comme enveloppe convexe du compact fg g ; g 2 Gg (le voir par exemple en extrayant des suites). f
admet donc un point …xe a 2 K, et en prenant la norme introduite précédemment on trouve
n
X Xn Xn
gbi (a) 1 1
kak = kf (a)k = kgbi (a)k = kak = kak .
i=1
n i=1
n i=1
n

Le cas d’égalité impose à tout le monde d’être sur la même demi-droite, mettons gbi (a) = i gb1 (a) avec i > 0
(observer que a est non nul car dans K). En reprenant la norme, on P obtient kak = i kak, d’où i = 1 pour
1
tout i. On a donc gbi (a) = gbj (a) pour tous i; j, d’où a = f (a) = j n gbi (a) = gbi (a), ce qui montre que
a 2 Fg1 \ ::: \ Fgk , contradiction.

Remarque. Il est clair que les sous-groupes compacts de GLn (C) sont des sous-groupes d’un groupe
unitaires, la même démonstration s’appliquant en rajoutant des barres de conjugaison au besoin.
On a …nalement décrit tous les sous-groupes compacts maximaux de GLn (K) : ce sont les groupes orthogo-
naux/unitaires.

11