Groupes linéaires
J. Le Borgne
Soit K un corps et soit E un K-espace vectoriel de dimension finie. On note n = dim E.
1 Groupe linéaire et groupe spécial linéaire
1.1 Définitions et premières propriétés
Définition 1. Le groupe GL(E) est le groupe des automorphismes K-linéaires de E. C’est aussi le
groupe des éléments inversibles de l’anneau L(E) des endomorphismes de E.
Le groupe SL(E) est l’ensemble des éléments de GL(E) de déterminant 1.
Définition 2. Le groupe GLn (K) est le groupe des matrices inversibles dans Mn (K). Le groupe SLn (K)
est l’ensemble des éléments de GLn (K) de déterminant 1.
Soit B = (e1 , . . . , en ) une base de E. L’application d’écriture dans la base B, donnée par :
L(E) → Mn (K)
u 7→ MatB (u)
est un isomorphisme d’anneaux, et induit des isomorphismes de groupes GL(E) → GLn (K) et
SL(E) → SLn (K).
Lemme 1. Le centre de GL(E) est le sous-groupe des homothéties.
Le centre de SL(E) est SL(E) ∩ Z(GL(E)) ≃ µn .
Démonstration. Soit u ∈ Z(GL(E)) Comme GL(E) engendre L(E), u commute avec tous les élé-
ments de L(E). Soit x ∈ E non nul, et soit H un hyperplan supplémentaire de la droite engendrée
par x. Notons v le projecteur sur cette droite parallèlement à H. Alors, comme uv = vu, on a
u(x) ∈ Vect(x). Donc x est vecteur propre de u. Ainsi u est diagonalisable, et comme tout élément
de E est dans un sous-espace propre, il y a nécessairement un seul sous-espace propre : u est une
homothétie.
Le même raisonnement montre que le centre de SL(E) est SL(E) ∩ Z(GL(E)). L’homothétie de
rapport λ est dans SL(E) si et seulement si λn = 1, i.e. λ ∈ µn .
Lemme 2. On dispose des la suites exactes :
1 → SL(E) → GL(E) → K× → 1.
1 → SLn (K) → GLn (K) → K× → 1.
En particulier, SL(E) et SLn (K) sont des sous-groupes distingués respectivement de GL(E) et GLn (K).
1
On considère une décomposition E = D ⊕ H avec D une droite et H un hyperplan. Soient
πD , πH les projections sur D et H relatives à cette décomposition. Pour α ∈ K× , on pose dα =
απD + πH ∈ GL(E). Alors l’application d : α 7→ dα est un morphisme de groupes, et det ◦d = idK × .
Proposition 1. L’action K × → Aut(SL(E)) définie par α ·v = dα vd−1 ×
α munit SL(E)×K d’une struc-
ture de produit semi-direct, et le morphisme canonique SL(E) ⋊ K × → GL(E) est un isomorphisme.
Démonstration. Cela résulte de la théorie générale des produits semi-directs et du fait que d est une
section de det. Dans ce cas précis, on vérifie sans peine que, pour (v, α) et (w, β) ∈ SL(E) ⋊ K × ,
on a vdα wdβ = v(α · w)dαβ .
Remarque 1. Un raisonnement analogue montre que GLn (K) ≃ SLn (K) ⋊ K× .
1.2 Familles génératrices
1.2.1 Transvections et dilatations
Définition 3. — On dit que u est une transvection si u − idE est de rang 1 et nilpotente.
— On dit que u est une dilatation si u − idE est de rang 1 et non nilpotente.
Remarque 2. Certains auteurs conviennent que l’identité est à la fois une transvection et une dilata-
tion.
Définition 4. On note (Eij )1≤i,j≤n la base canonique de Mn (K). Soit M ∈ Mn (K)
— On dit que M est une matrice de transvection si M est de la forme In + λEij avec λ ∈ K et
i ̸= j.
— On dit que M est une matrice de dilatation de rapport α ∈ K × s’il existe 1 ≤ i ≤ n tel que
M = In + (α − 1)Eii .
Lemme 3. L’ensemble des transvections est inclus dans SL(E) et l’ensemble des dilatations est inclus
dans GL(E).
L’ensemble des matrices de transvection est inclus dans SLn (K) et l’ensemble des matrices de dilatation
est inclus dans GLn (K).
Proposition 2. Soit u ∈ L(E). Les conditions suivantes sont équivalentes :
(i) u est une transvection ;
(ii) il existe une forme linéaire ϕ ∈ E ∗ \ {0} et z ∈ E \ {0} tels que u(z) = z et u = id + ϕz ;
(iii) il existe une base B de E telle que MatB (u) soit une matrice de transvection.
Démonstration. On procède par implications circulaires.
(i) ⇒ (ii). Comme u − id est de rang 1, on dispose de z ∈ E \ {0} et de ϕ ∈ E ∗ \ {0} tels que
u − id = ϕz. Une récurrence immédiate montre que pour tout k ≥ 1, (u − id)k (z) = ϕ(z)k z. Comme
u − id est nilpotent, ϕ(z) = 0 donc u(z) = z.
(ii) ⇒ (iii). Soit H = ker ϕ. Par hypothèse, u(z) = z = z + ϕ(z)z donc z ∈ H. Posons e1 = z.
On peut compléter {e1 } en une base {e1 , . . . , en−1 } de H. On P dispose de en ∈ E, tel que ϕ(en ) = 1.
n
Pn−1 {e1 , . . . , en } est libre : supposons que i=1 λi ei = 0, alors λn ϕ(en ) = 0 donc
Vérifions que la famille
λn = 0. Par suite, i=1 λi ei = 0, donc λ1 = · · · = λn−1 = 0. Ainsi, cette famille est une base de E ;
la matrice de u dans cette base est manifestement In + E1n qui est une matrice de transvection.
2
(iii) ⇒ (i). Si M est une matrice de transvection, alors M − Id est nilpotente de rang 1. Ainsi,
si la matrice de u dans une base donnée est une matrice de transvection, alors u − id est une
transvection.
Remarque 3. Attention, la matrice d’une transvection n’est pas nécessairement une matrice de trans-
vection (mais, d’après la proposition précédente, elle est semblable à une matrice de transvection).
Proposition 3. Soit u ∈ L(E). Les conditions suivantes sont équivalentes :
(i) u est une dilatation ;
(ii) il existe une forme linéaire ϕ ∈ E ∗ \ {0} et z ∈ E \ {0} tels que u(z) ̸= z et u = id + ϕz ;
(iii) il existe une base B de E telle que MatB (u) soit une matrice de dilatation.
Théorème 1. Soit M ∈ SLn (K), alors M est produit de matrices de transvection.
Démonstration. On procède par récurrence sur n. Pour n = 1, le résultat est évident. Supposons-le
vrai pour n ≥ 1 et montrons-le pour n + 1.
Comme M est inversible, la première colonne est non nulle. Quitte à faire une opération de
la forme L1 ← L1 + Li , on peut supposer que le coefficient en haut à gauche de M est non nul.
Par opérations élémentaires sur les lignes, on peut alors annuler toute la première colonne (sauf
son premier coefficient). Par opérations élémentaires sur les colonnes, on peut faire de même à la
première ligne. L’hypothèse de récurrence conclut (avec le fait que les opérations élémentaires se
réalisent par multiplication par une matrice de transvection).
Corollaire 1. Le groupe SLn (K) est engendré par les matrices de transvection et le groupe GLn (K)
est engendré par les matrices de transvection et de dilatation.
Remarque 4. Les matrices de dilatation seules engendrent le groupe des matrices diagonales inver-
sibles, isomorphe à (K × )n .
Corollaire 2. Le groupe SL(E) est engendré par les transvections et le groupe GL(E) est engendré par
les transvections et dilatations.
Remarque 5. On peut montrer directement que les transvections engendrent SL(E). Dans ce cas, on a
un résultat plus précis : tout élément de SL(E) qui n’est pas une homothétie est produit d’au plus dim E
transvections (et dim E + 1 pour une homothétie). Cela se montre par récurrence sur la dimension de
ker(u − id), le cas exceptionnel étant celui des applications linéaires annulées par (X − 1)(X − λ) avec
λ ̸= 1.
Proposition 4. Le groupe GL(E) est engendré par les dilatations.
1.2.2 Groupe dérivé
Rappelons que le groupe dérivé d’un groupe G est le groupe engendré par les commutateurs
[g, h] = ghg −1 h−1 . Dans le cas des groupes linéaires, on a évidemment D(GL(E)) ⊂ SL(E). Lorsque
dim E = 1, on a GL(E) ≃ K × et SL(E) = {1} = D(GL(E)).
Proposition 5. On suppose que n ̸= 3 ou |K| > 2. On a D(GL(E)) = D(SL(E)) = SL(E).
3
Démonstration. Le cas n = 1 est trivial, on peut donc supposer n ≥ 2. Soit v ∈ GL(E) une trans-
vection. D’après la proposition 2, on dispose de ϕ ∈ E ∗ , z ∈ E non nuls tels que h = idE + ϕz.
Si n ≥ 3, alors il existe z ′ , ϕ′ non nuls tels que ϕ′ (z ′ ) = 1, ϕ′ (z) = ϕ(z ′ ) = 0 (en dimension
2, les deux dernières conditions impliquent z ′ = z et ϕ′ = ϕ, ce qui contredit la première). Po-
sons w = id + ϕ′ z et w′ = id + ϕz ′ , alors w et w′ sont des transvections, w−1 = id − ϕ′ z et
w′ −1 = id − ϕz. Ainsi, [w, w′ ] = id + ϕz = v. En particulier, v ∈ D(SL(E)) ⊂ D(GL(E)), donc
D(GL(E)) = D(SL(E)) = SL(E).
n = 2,K ̸=F2 , pour
Il reste à traiter le cas lequel on obtient le résultat en calculant explicitement
λ 0 1 α
le commutateur de et , et en ajustant les valeurs de λ et α.
0 λ−1 0 1
Remarque 6. L’abélianisé GL(E)/D(GL(E)) est K × .
2 Actions de groupes linéaires
2.1 Action naturelle
2.1.1 Action sur E
Par essence, GL(E) agit naturellement sur E par transformations linéaires. Ainsi, pour toute
partie X ⊂ E, le stabilisateur StX est un sous-groupe de GL(E). Soit X = E \ {0}, alors l’action de
GL(E) sur X est transitive. Le stabilisateur d’un élément donné x ∈ X est E isomorphe au groupe
des matrices triangualaires par blocs avec un bloc de taille 1 avec le coefficient 1, et un bloc de
taille dim E − 1.
2.1.2 Action sur les sous-espaces vectoriels
• Action sur les droites : le groupe P SL(E).
Théorème 2. On suppose que n ≥ 3 ou |K| ∈
/ {2, 3}. Alors le groupe P SL(E) est simple.
Démonstration. Soit D ⊂ E une droite, et soit S ⊂ SL(E) le stabilisateur de D. La propriété
universelle du quotient E/D permet de définir un morphisme de groupes φD : S → GL(E/D).
Notons ΓD = ker φD . Soit g ∈ S, et soit gD l’endomorphisme induit par g sur D. Alors det g =
det gD det φ(g). En particulier, pour tout g ∈ ΓD , gD = idD . Cela permet de montrer que le sous-
groupe distingué ΓD ◁ S est abélien. En effet, soit AD = {f ∈ L(E, D) t.q. f (D) = 0}, qui est un
ΓD → AD
sous-espace vectoriel de L(E, D). Il suffit de vérifier que l’application est un
g 7→ g − idE
isomorphisme de groupes d’inverse u 7→ idE + u. On vérifie immédiatement que si g ∈ ΓD , alors
g − idE est à valeurs dans D et que (g − idE )(D) = 0. Réciproquement, si u ∈ AD , alors g = idE + u
stabilise D et induit l’identité sur D et E/D, donc g ∈ ΓD . Enfin, il est clair que ces deux applica-
tions sont inverses l’une de l’autre.
On dispose donc de ΓD ◁ S abélien. Remarquons que si g ∈ SL(E), et si γ ∈ ΓD , alors gγg −1 ∈ ΓgD .
Ainsi, les sous-groupes de la forme ΓD (où D est une droite de E) sont conjugués dans SL(E). Or,
une transvection de la forme x 7→ x + ϕz est un élément de ΓD avec D = Vect(z). En particulier,
puisque les transvections engendrent SL(E), la famille de sous-groupes ΓD engendre SL(E).
Soit maintenant N ◁ SL(E) un sous-groupe distingué. On suppose que N n’est pas contenu dans
le centre de SL(E). Alors on dispose d’une droite D ⊂ E et de h ∈ N tels que D ̸= h(D). Fixons
4
∆1 , ∆2 ⊂ E deux droites distinctes. Comme l’action de SL(E) sur les droites est doublement tran-
sitive, on dispose de g ∈ SL(E) tel que g(D) = ∆1 et gh(D) = ∆2 . Ainsi, ghg −1 (∆1 ) = ∆2 , de sorte
que N agit transitivement sur l’ensemble des droites de E. Soit N ΓD = {ng, n ∈ N, g ∈ ΓD }. On
vérifie que N ΓD est un sous-groupe de SL(E) et que pour tout n ∈ N et g ∈ ΓD , ngn−1 = [n, g]g ∈
N ΓD . Ainsi, N ΓD contient tous les conjugués de ΓD par N ; comme N agit transitivement sur les
droites, N ΓD contient tous les Γ∆ pour ∆ ⊂ E droite. Ainsi, N ΓD = SL(E).
Il reste à remarquer que pour n1 , n2 ∈ N et g1 , g2 ∈ ΓD , on a :
[n1 g1 , n2 g2 ] = n1 (g1 n2 g1−1 )(g2 n−1 −1 −1
1 g2 )n2 ∈ N,
ce qui montre que SL(E) = D(SL(E)) ⊂ D(N ΓD ) ⊂ N , d’où N = D(SL(E)).
Proposition 6. Les sous-groupes distingués de GL(E) sont en bijection avec les sous-groupes de K ×
(via le morphisme canonique K × → GLE).
Démonstration. Soit N ◁ GL(E) un sous-groupe distingué. Notons Z = Z(GL(E)) le centre de
GL(E), c’est-à-dire le sous-groupe des homothéties d’après le lemme 1. On a SL(E)/(SL(E)∩Z) =
P SL(E) qui est un groupe simple. Si N ̸⊂ Z, alors le sous-groupe Γ engendré par les commutateurs
ngn−1 g −1 avec n ∈ N et g ∈ GL(E) est un sous-groupe distingué de SL(E) car N est un sous-groupe
distingué, non trivial car N ̸⊂ Z, donc Γ ∈ {{±idE }, SL(E)}.
Action sur les sous-espaces de dimension k Le groupe GL(E) agit sur l’ensemble Gk (E) des
sous-espaces de dimension k de E. L’action est transitive par le théorème de la base incomplète.
Le stabilisateur d’un élément est isomorphe au groupe des matrices triangulaires par blocs (2 blocs
de tailles dim F et codim F ). Cela permet notamment de dénombrer Gk (Fq ) par la formule orbite-
stabilisateur.
Le groupe GL(E) agit aussi sur les puissances extérieures k E, et le stabilisateur d’un élément de
V
V k
E est isomorphe à l’ensemble des matrices triangulaires par blocs, le bloc supérieur étant dans
SLk et le bloc inférieur dans GLn−k .
2.1.3 Action sur les drapeaux
Action sur les filtrations
Définition 5. Une filtration est une suite de sous-espaces {0} = F0 ⊂ F1 ⊂ · · · ⊂ Fr = E.
Le groupe GL(E) agit sur les filtrations en préservant les dimensions des quotients. L’action
sur l’ensemble des filtrations ayant même suite de dimensions des quotients est transitive, et le
stabilisateur d’un élément est isomorphe au groupe des matrices triangulaires supérieures par blocs
ayant ces tailles.
En particulier, une filtration est un drapeau si les dimensions des quotients successifs sont toutes
égales à 1. Dans ce cas, le stabilisateur est le groupe des matrices triangulaires supérieures.
Remarque 7. En prenant les filtrations décroissantes plutôt que croissantes, on obtient les matrices
triangulaires inférieures (par blocs).
2.2 Action par conjugaison
L’action par conjugaison M 7→ P M P −1 de GL(E) sur L(E) a pour orbites les classes de simi-
litude d’endomorphismes de E. Ces classes sont les mêmes que les classes de l’action de SL(E).
5
Les classes de conjugaison peuvent être décrites par leurs invariants de similitude (ou leur décom-
position de Jordan, quand le corps de base est algébriquement clos). En particulier, l’ensemble des
orbites
P est en bijection avec l’ensemble des suites de polynômes unitaires (P1 , . . . , Pr ) telles que
i deg Pi = dim E et telles que P1P |P2 | . . . |Pr . Une autre façon de le dire : si on se donne (d1 , . . . , dr )
une suite d’entiers tels que n = j (r + 1 − j)dj , et Qi ∈ K[X] est unitaire de degré di , alors la
famille (Q1 , Q1 Q2 , . . . , Q1 · · · Qr ) indexe une orbite de Pcette action. Pour une telle famile d’entiers
D = (d1 , . . . , dr ), il y a un espace
Q de dimension sD = j dj de polynômes possibles. L’ensemble des
orbites est en bijection avec D K sD . En conclusion l’ensemble des orbites est en bijection avec un
espace vectoriel dont la dimension est la somme des max des entiers apparaissant dans p pour p
partition de n (c’est aussi la somme pour p partition de n du nombre de parties de p, par dualité).
La suite donnant cette dimension est A006128 dans OEIS (0,1,3,6,12,20,35,...).
Le stabilisateur d’un élément est son commutant (plus précisément, l’intersection de son com-
mutant avec GL(E)).
2.3 Action par congruence
Définition 6. L’application M 7→ P M P t définit une action de GLn (K) sur Mn (K), dite action par
congruence.
L’étude de l’action par congruence en général est compliquée. On se contente en général d’étu-
dier sa restriction à l’ensemble Sn des matrices symétriques.
Définition 7. Soit q une forme quadratique sur E, de forme polaire b. La matrice de q dans une base
(ei ) de E est la matrice (symétrique) de coefficient générique b(ei , ej ). Deux formes quadratiques q, q ′
sont dites équivalentes s’il existe u ∈ GL(E) tel que q ◦ u = q ′ (ou de manière équivalente, si leurs
matrices sont congruentes).
L’étude des classes de congruence se ramène alors à la classification des formes quadratiques,
qui dépend du corps de base : sur C, deux formes sont équivalentes si et seulement si elles ont
même rang. Sur R, on a le théorème de Sylvester : deux formes quadratiques non dégénérées sont
équivalentes si et seulement si elles ont même signature. Sur les corps finis, les formes quadratiques
non dégénérés sont classifiées par leur discriminant.
Le stabilisateur d’une forme quadratique (ou d’une matrice symétrique) s’appelle le groupe
orthogonal de cette forme quadratique. Le groupe orthogonal de q contient les réflexions (ici, d’axe
z non isotrope) : x 7→ x − 2 b(x,z)
q(z)
.
Proposition 7. Le groupe orthogonal d’une forme quadratique non dégénérée est engendré par les
réflexions.
Cas particuliers remarquables : O(s, t) pour le groupe orthogonal
P de la forme quadratique de
2
signature (s, t) sur R, groupe orthogonal de la forme quadratique xi sur Fq (objet d’étude d’un
développement classique démontrant le loi de réciprocité quadratique).
3 Propriétés topologiques
Dans cette partie, on suppose que K = R.
6
3.1 Décompostion polaire
Théorème 3. L’application S(E)×O(E) → GL(E) définie par (S, O) 7→ SO est un homéomorphisme.
Corollaire 3. Le sous-groupe O(E) est maximal.
Démonstration. Si O(E) ⊂ G avec G compact, soit M ∈ G et S ∈ S ++ (E) sa partie symétrique, la
suite S n , n ∈ Z est bornée donc ses valeurs propres sont de module 1, donc S = I.
3.2 Quelques parties remarquables
3.2.1 Parties denses
3.2.2 Ouverts
3.3 Sous-groupes compacts
Soit E un R-ev.
Lemme 4. Soit K ⊂ E compact convexe non vide et stable par G ⊂ GL(E) compact, alors il existe
x ∈ K tel que pour tout g ∈ G, g(x) = x.
Démonstration. L’application g 7→ supx∈K ∥gx∥ est une norme, et tout élément de norme minimale
est solution.
Théorème 4. Tout sous-groupe compact de GL(E) est conjugué à un sous-groupe de O(E).
Démonstration. On fait agir H par congruence sur S(E), d’où un morphisme H → GL(S(E)). Son
image G est compacte. Soit K = Conv({t M M, M ∈ G}) ⊂ S(E). On a une action de G sur K,
et il existe x ∈ K tel que g(x) = x pour tout g dans G. Comme K ⊂ S ++ (E), un tel x est de la
forme x =t P P (Choleski, par récurrence). Donc pour tout h ∈ H, (t ht P )(P h) = (t P )P , et donc
P hP −1 ∈ O(E). Donc P HP −1 ⊂ O(E).
