0% ont trouvé ce document utile (0 vote)
27 vues38 pages

Groupagreg

Ce document est un cours sur la théorie des groupes, abordant des concepts fondamentaux tels que les morphismes, les sous-groupes, et les générateurs. Il couvre également des théorèmes importants comme le théorème de Lagrange et présente des exemples de groupes spécifiques. La structure du document est organisée en sections détaillant les notions de base, les groupes opérant sur des ensembles, et les représentations des groupes.

Transféré par

Alinour Amena
Copyright
© © All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd
0% ont trouvé ce document utile (0 vote)
27 vues38 pages

Groupagreg

Ce document est un cours sur la théorie des groupes, abordant des concepts fondamentaux tels que les morphismes, les sous-groupes, et les générateurs. Il couvre également des théorèmes importants comme le théorème de Lagrange et présente des exemples de groupes spécifiques. La structure du document est organisée en sections détaillant les notions de base, les groupes opérant sur des ensembles, et les représentations des groupes.

Transféré par

Alinour Amena
Copyright
© © All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd

Cours agrégation (2020-2021) : Groupes

David Harari

Table des matières


1. Généralités 2
1.1. Conventions . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2. Morphisme de groupes, sous-groupes . . . . . . . . . . . . . . 3
1.3. Générateurs d’un groupe ; groupes cycliques . . . . . . . . . . 4
1.4. Théorème de Lagrange . . . . . . . . . . . . . . . . . . . . . . 5
1.5. Sous-groupes distingués, groupes quotients. . . . . . . . . . . . 6
1.6. Sous-groupe dérivé . . . . . . . . . . . . . . . . . . . . . . . . 10

2. Groupes opérant sur un ensemble 12


2.1. Généralités, premiers exemples . . . . . . . . . . . . . . . . . . 12
2.2. p-groupes ; théorèmes de Sylow . . . . . . . . . . . . . . . . . 14

3. Notions de théorie des représentations 18


3.1. Généralités . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
3.2. Sous-représentations . . . . . . . . . . . . . . . . . . . . . . . 19
3.3. Représentations irréductibles . . . . . . . . . . . . . . . . . . . 20
3.4. Caractère d’une représentation, lemme de Schur . . . . . . . . 21
3.5. Les relations d’orthogonalité des caractères . . . . . . . . . . . 24
3.6. Nombre de représentations irréductibles . . . . . . . . . . . . . 27

4. Tables de caractères, exemples 29


4.1. Le groupe S3 . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
4.2. Le groupe A4 . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
4.3. Le groupe S4 . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

5. Compléments : Produit semi-direct 33

1
1. Généralités
1.1. Conventions
Dans ce cours, la loi d’un groupe G (pas forcément commutatif) sera le
plus souvent notée multiplicativement, i.e. (x, y) 7→ xy. Le neutre sera noté
e ou 1, et le symétrique (ou inverse) d’un élément x de G sera noté x−1 .
Pour n > 0, on pose xn = x.x...x (n termes), avec les conventions x0 = 1 et
x−n = (xn )−1 . Noter que pour tous x, y ∈ G, on a (xy)−1 = y −1x−1 .
Si G est abélien (c’est-à-dire commutatif), on notera souvent + la loi, 0 le
neutre, et −x le symétrique de x qu’on appelle alors l’opposé de x. On pourra
aussi alors noter x − y pour x + (−y), et nx pour x + x + ...x (n termes)
quand n est un entier > 0, avec les conventions 0.x = 0 et (−n)x = n(−x).
Ainsi, tout groupe abélien est ipso facto muni d’une structure de module sur
l’anneau commutatif Z.
On se gardera bien d’utiliser la notation ”x/y” si G n’est pas abélien car
on ne saurait pas si cela signifie xy −1 ou y −1x.

Exemple 1.1 a) Le groupe trivial, qu’on note G = {0} ou G = {1} sui-


vant les cas (il est souvent vu comme sous-groupe d’un groupe additif ou
multiplicatif).
b) Si G et H sont deux groupes, l’ensemble G×H est muni ipso facto d’une
structure de groupe définie par (g, h).(g ′, h′ ) := (gg ′, hh′ ). Ceci se généralise
immédiatement à une famille (pas forcément finie) de groupes. On dit que le
groupe ainsi obtenu est le produit direct des groupes considérés.
c) (R, +) et (R∗ , ×) sont des groupes (mais pas (R, ×), car l’élément 0
n’a pas d’inverse).
Il en va de même en remplaçant R par C, ou encore par n’importe quel
corps. 1
d) G = (Z/nZ, +), où n ∈ N∗ . Il est d’ordre (i.e. de cardinal) n.
e) Soient E un ensemble et S(E) l’ensemble des bijections de E dans
E. Alors S(E), muni de la composition ◦ des applications, est un groupe.
Quand E = {1, ..., n}, on note Sn pour S(E) et on appelle ce groupe le
groupe symétrique sur n lettres (ou n éléments). Son ordre est n!, et il n’est
pas abélien si n ≥ 3.
f) Soit K un corps. Alors le groupe GLn (K) des matrices inversibles (n, n)
est un groupe (non abélien si n ≥ 2) pour la multiplication.
1. Par convention dans ce cours, un corps ("field" en anglais) désignera un anneau
commutatif dans lequel tout élément non nul possède un inverse, contrairement à la ter-
minologie (qu’on rencontre parfois en français) dans laquelle on parle de corps commutatifs
ou non commutatifs.

2
1.2. Morphisme de groupes, sous-groupes
Définition 1.2 Soient G et G′ deux groupes. Une application f : G → G′
est un morphisme de groupes si f (xy) = f (x)f (y) pour tous x, y de G. Si f
est de plus bijective, alors f −1 est aussi un morphisme et on dit que f est un
isomorphisme de G sur G′ . Un isomorphisme de G sur lui-même s’appelle un
automorphisme de G.

On dit aussi "homomorphisme" au lieu de morphisme. Noter que si f :


G → G′ est un morphisme, les propriétés f (1) = 1 et f (x−1 ) = f (x)−1
pour tout x de G sont automatiques. On notera parfois G ≃ H pour "G est
isomorphe à H."

Exemple 1.3 a) Si a ∈ R, alors x 7→ ax est un morphisme de (R, +) dans


lui-même. C’est un isomorphisme si a 6= 0, et on a l’analogue en remplaçant
R par n’importe quel corps.
b) L’application z 7→ exp z est un morphisme, surjectif mais non injectif,
de (C, +) dans (C∗ , ×).
c) Si E est un ensemble fini de cardinal n, on a S(E) ≃ Sn . Pour n ≥ 2,
il existe un unique morphisme non trivial ε de Sn vers {±1}, la signature.
En particulier la signature de toute transposition est −1, celle d’un cycle de
longueur k est (−1)k+1 .
d) Soit K un corps. Le déterminant est un morphisme de GLn (K) dans
K ∗ . Si E est un K-ev de dimension n, alors GLn (K) est isomorphe au groupe
(GL(E), ◦) des applications linéaires bijectives de E dans E.

Définition 1.4 Un sous-ensemble H d’un groupe G est un sous-groupe si il


vérifie :
— 1 ∈ H.
— Pour tous x, y de H, on a xy ∈ H.
— Pour tout x de H, on a x−1 ∈ H.
Il revient au même de dire que . est une loi de composition interne sur H
qui en fait un groupe.

Proposition 1.5 Si f : G → H est un morphisme de groupes, alors l’image


directe f (G′) d’un sous-groupe G′ de G et l’image réciproque f −1 (H ′ ) d’un
sous-groupe H ′ de H sont des sous-groupes respectifs de H, G. En particulier
le noyau ker f := f −1 ({e}) est un sous-groupe de G et l’image Im f := f (G)
est un sous-groupe de H. Le morphisme f est injectif si et seulement si son
noyau est réduit à l’élément neutre.

C’est immédiat à vérifier.

3
Exemple 1.6 a) Si a ∈ R, alors aZ est un sous-groupe de (R, +) (tous ceux
qui ne sont pas denses sont de cette forme).
b) Les sous-groupes de Z sont les nZ avec n ∈ N.
c) Soit n ≥ 2. Le noyau de la signature ε : Sn → {±1} est un sous-groupe
de Sn , le groupe alterné An .
d) Soit K un corps. Le noyau du déterminant GLn (K) → K ∗ est un
sous-groupe de GLn (K), appelé groupe spécial linéaire. On le note SLn (K).
e) L’ensemble Aut G des automorphismes d’un groupe G, muni de la com-
position ◦ des applications, est un sous-groupe du groupe des permutations
S(G).
f) Le groupe On (R) des matrices orthogonales réelles (ce sont les ma-
trices M qui vérifient t MM = I) est un sous-groupe de GLn (R) ; le groupe
Un (C) des matrices unitaires complexes (constitué des matrices M qui véri-
fient M ∗ M = I, où M ∗ =t M ) est un sous-groupe de GLn (C).

1.3. Générateurs d’un groupe ; groupes cycliques


Proposition 1.7 Soient G un groupe et A une partie de G. Alors il existe un
plus petit sous-groupe H de G contenant A. On l’appelle sous-groupe engendré
par A et on le note hAi.

Il suffit en effet de prendre pour hAi l’intersection de tous les sous-groupes


de G contenant A. Le sous-groupe engendré par la partie vide est {1}, et on
a hAi = A si et seulement si A est un sous-groupe de G.
Pour toute partie A de G, on peut aussi décrire hAi comme l’ensemble
des produits x1 ...xn (avec n ∈ N quelconque), où chaque xi vérifie : xi ∈ A
ou x−1i ∈ A (on convient que si n = 0, le produit vide est égal à 1). Si
A = {a1 , ..., am } est un groupe
Pm abélien fini, la description de hAi est plus
simple : c’est l’ensemble des i=1 ni ai avec ai ∈ Z (attention, ceci ne s’étend
pas au cas où A n’est pas abélien). Plus généralement, si (ai )i∈I est une
famille d’éléments d’un groupe abélien, P le sous-groupe engendré par les ai
est l’ensemble des combinaisons linéaires i∈I ni ai , où (ni )i∈I est une famille
presque nulle d’éléments de Z.

Définition 1.8 Soient G un groupe et g ∈ G. L’ordre de g est le plus petit


entier n > 0 (s’il existe) tel que g n = 1. Si g n 6= 1 pour tout n > 0, on dit
que g est d’ordre infini.

Proposition 1.9 Soient G un groupe et g ∈ G. Si hgi est infini, il est iso-


morphe à Z. S’il est de cardinal n, il est isomorphe à Z/nZ. Dans les deux
cas, l’ordre de g est le cardinal de hgi dans N∗ ∪ {∞}.

4
On a en effet que si g est d’ordre fini n, alors hgi = {1, g, g 2, ..., g n−1} est
isomorphe à Z/nZ (pour le voir, effectuer la division euclidienne d’un entier
quelconque m par n) ; si g est d’ordre infini, alors hgi = {g m , m ∈ Z} avec
les g m distincts deux à deux, ce qui permet de voir immédiatement que hgi
est isomorphe à Z.

Définition 1.10 Un groupe est dit monogène s’il est engendré par un seul
élément, cyclique s’il est de plus fini.

Ainsi un groupe monogène infini est isomorphe à Z, un groupe cyclique


à Z/nZ, où n est le cardinal du groupe.

Exemple 1.11 a) Le groupe (Zn , +) est engendré par la famille

(1, 0, ...0), (0, 1, ..., 0), ..., (0, ..., 0, 1).

Il n’est pas monogène si n ≥ 2 (le démontrer !). On a même un résultat plus


précis : toute partie génératrice de ce groupe a au moins n éléments (c’est
un cas particulier de la théorie des modules sur un anneau principal).
b) Le groupe symétrique Sn est engendré par les transpositions.
c) Pour n ≥ 2, le groupe orthogonal On (R) est engendré par les réflexions
(i.e. les symétries orthogonales par rapport à un hyperplan), et pour n ≥ 3 le
groupe spécial orthogonal SOn (R) := On (R) ∩ SLn (R) est engendré par les
retournements (i.e. les symétries orthogonales par rapport à un sous-espace
de codimension 2).

1.4. Théorème de Lagrange


Proposition 1.12 Soit H un sous-groupe de G. Alors la relation x ∼ y si
et seulement si x−1 y ∈ H (resp. xy −1 ∈ H) est une relation d’équivalence sur
G. L’ensemble quotient s’appelle ensemble des classes à gauche (resp. classes
à droite) selon H, et est noté G/H (resp. H \ G). Ses éléments sont de la
forme aH (resp. Ha) avec a ∈ G (en particulier H est la classe de e).

Démonstration : On le fait pour les classes à gauche. x ∼ x est clair.


Si x−1 y ∈ H, alors (x−1 y)−1 = y −1x ∈ H d’où la symétrie. Si x−1 y ∈ H et
y −1 z ∈ H, alors (x−1 y)(y −1z) = x−1 z ∈ H, d’où la transitivité.
Soit a ∈ H. Alors si x ∈ aH, on a x = ay avec y ∈ H d’où a−1 x = y ∈ H
et x ∼ a. Réciproquement si x ∼ a, on a a−1 x ∈ H donc x ∈ aH. finalement
la classe de a dans G/H est bien aH.

5
Theorème 1.13 (Th. de Lagrange) Si G est fini, l’ordre de tout sous-
groupe de H de G divise l’ordre de G.
En effet les classes à gauche constituent une partition de G et le cardinal
de aH est le même que celui de H puisque les translations à gauche (i.e. les
applications x 7→ ax pour a ∈ G fixé) sont des bijections de G sur G. Le
cardinal de G/H (qui est aussi celui de H \ G, ou encore #G/#H) s’appelle
l’indice de H dans G (voir les exercices pour une généralisation quand G
n’est pas supposé fini).
Corollaire 1.14 Dans un groupe fini G, l’ordre de tout élément est fini et
divise l’ordre de G. En particulier si m est l’ordre de G, on a xm = 1 pour
tout x de G.
On applique le théorème précédent et la proposition 1.9.
Proposition 1.15 Soit G = Z/nZ. Soit d un entier > 0 divisant n. Alors G
possède un et un seul sous-groupe d’ordre d. Ce sous-groupe Cd est lui-même
cyclique d’ordre d (donc isomorphe à Z/dZ).

Démonstration : On observe d’abord que Cd := {0̄, n/d, ..., (d − 1)n/d}


est un sous-groupe d’ordre d de G. Si maintenant H est un sous-groupe
d’ordre d de G, le théorème de Lagrange dit que tout élément x de H vérifie
dx = 0, autrement dit H ⊂ Cd . Comme H et Cd sont tous deux de cardinal
d, ceci implique que H = Cd .

1.5. Sous-groupes distingués, groupes quotients.


Proposition 1.16 Soient G un groupe et g ∈ G. Alors l’application int g :
G → G, h 7→ ghg −1 est un automorphisme de G, appelé automorphisme
intérieur associé à g. L’application g 7→ int g est un morphisme de groupes
de G dans (Aut G, ◦).
C’est immédiat à vérifier.
Définition 1.17 Un sous-groupe H de G est dit distingué ou normal s’il est
laissé stable par tout automorphisme intérieur, i.e. : pour tout g de G et tout
h de H, on a ghg −1 ∈ H. On note alors H ⊳ G.
Noter que si G est abélien, tout sous-groupe de G est distingué, et d’autre
part {1} et G sont toujours des sous-groupes distingués de G. Attention, la
notion de sous-groupe distingué est relative (H est toujours distingué dans
lui-même).

6
Proposition 1.18 Si f : G → G′ est un morphisme de groupes et si H ′ ⊳G′ ,
alors f −1 (H ′ ) est distingué dans G. En particulier ker f est distingué dans G.
Si H ⊳ G, alors f (H) est distingué dans f (G) (mais pas dans G′ en général).

Vérification facile, laissée au lecteur.

Exemple 1.19 a) Soit n ≥ 2. Alors An est distingué dans Sn .


b) Si K est un corps, alors SLn (K) est distingué dans GLn (K).
c) Soient G un groupe et Z le centre de G, i.e. l’ensemble des x de G
qui vérifient xy = yx pour tout y de G. Alors Z est le noyau du morphisme
int : G → Aut G donc Z ⊳ G.
d) Considérons dans le groupe G = Sn (avec n ≥ 3) le sous-groupe
H = {Id, τ } où τ est la transposition échangeant 1 et 2. On vérifie facilement
que si σ ∈ G, alors στ σ −1 est la transposition échangeant σ(1) et σ(2). En
choisissant par exemple pour σ une permutation qui envoie 1 sur 3, on voit
que H n’est pas distingué dans G.

Remarque 1.20 Attention, ⊳ n’est pas une relation transitive, on peut


avoir K ⊳ H ⊳ G et pas K ⊳ G (cf. exercices).

Définition 1.21 Un sous-groupe H de G est dit caractéristique si pour tout


ϕ ∈ Aut G, on a ϕ(H) ⊂ H (dans ce cas on a en particulier H ⊳ G).

Par exemple le centre Z de G est caractéristique dans G. Contrairement


à être distingué, être caractéristique est une relation transitive.

Theorème 1.22 Soient G un groupe et H un sous-groupe distingué de G.


Alors :
a) Pour tout a de G, on a aH = Ha d’où G/H = H \ G. Ainsi, deux
éléments a et b sont dans la même classe selon H (à gauche ou à droite) si
et seulement s’il existe h ∈ H tel que a = bh, ou encore tel que a = hb.
b) Il existe une unique structure de groupe sur G/H telle que la surjection
canonique p : G → G/H (qui à tout a associe sa classe ā = aH = Ha) soit
un morphisme de groupes. Le groupe G/H ainsi obtenu s’appelle le groupe
quotient de G par H.

Démonstration : a) Par définition d’un sous-groupe distingué, on a les


inclusions aHa−1 ⊂ H et a−1 Ha ⊂ H d’où on tire aH ⊂ Ha et Ha ⊂ aH.
b) La loi sur G/H doit nécessairement être définie par āb̄ = ab. Montrons
d’abord que cette loi est bien définie, i.e. que āb̄ ne dépend pas du choix des
représentants a et b. Si ā = ā′ et b̄ = b̄′ , on peut d’après a) écrire a′ = h1 a

7
et b′ = bh2 avec h1 , h2 dans H, d’où a′ b′ = h1 (ab)h2 . Ainsi a′ b′ ∈ H(abh2 ) =
(abh2 )H d’après a), mais ce dernier ensemble n’est autre que (ab)H vu que
h2 ∈ H. Finalement a′ b′ ∼ ab, c’est ce qu’on voulait.
Le fait que l’on ait défini une loi de groupe résulte alors immédiatement
de la surjectivité de p jointe à la formule p(xy) = p(x)p(y) pour tous x, y de
G.

En particulier, on voit que l’élément neutre de G/H est ē = H et quand


G est fini, le cardinal du groupe quotient G/H est #G/#H. Si G est abélien,
on peut quotienter par n’importe quel sous-groupe, mais il est facile de voir
que le théorème est toujours faux si H n’est pas distingué dans G ("G/H est
juste un ensemble"), vu que la propriété voulue implique que H est le noyau
du morphisme de groupes p.
Noter que le groupe Z/nZ peut être défini comme le quotient de Z par le
sous-groupe nZ. 2

Theorème 1.23 (Th. de factorisation) Soit f : G → G′ un morphisme


de groupes. Alors il existe un unique morphisme de groupes f˜ : G/ ker f → G′
tel que f = f˜ ◦ p. De plus f˜ est injectif d’image Im f .

Noter que G/ ker f est bien un groupe car on a vu que ker f était distingué
dans G. Quand G est fini, on retrouve la formule #G = # ker f.#Im f .

Démonstration : Nécessairement f˜ doit être définie par f˜(ā) = f (a), où


ā est la classe de a dans G/H. Cette définition a bien un sens car si ā = b̄,
alors a = bn avec n ∈ ker f , d’où f (a) = f (b)f (n) = f (b). Si ā, b̄ sont dans
G/H, on a f˜(āb̄) = f˜(ab) = f (ab) = f (a)f (b) = f˜(ā)f˜(b̄) donc f˜ est un
morphisme. Par définition f = f˜ ◦ p d’où Im f = Im f˜ par surjectivité de p.
Enfin ā ∈ ker f˜ signifie a ∈ ker f , i.e. ā = eG/H .

Remarque 1.24 Plus généralement, si N est un sous-groupe distingué de


G inclus dans ker f , on peut factoriser f par un morphisme f˜ : G/N → G′ ,
mais le morphisme f˜ n’est plus injectif en général (son noyau est ker f /N).

Corollaire 1.25 (“Théorème d’isomorphisme I”) Avec les notations du


théorème 1.23, on a G/ ker f ≃ Im f .

Cela résulte de ce que f˜ est un morphisme injectif d’ensemble de départ


G/ ker f et d’image Im f .
2. Définition meilleure que celles qu’on rencontre parfois en classes préparatoires !

8
Proposition 1.26 Soit G un groupe. Soit H un sous-groupe distingué de G,
on note p : G → G/H la surjection canonique. Alors :
a) Les sous-groupes de G/H sont exactement les N/H, où N est un sous-
groupe de G contenant H. De plus N/H ⊳ G/H si et seulement si N ⊳ G.
b) Soit K un sous-groupe de G. Posons KH = {kh, k ∈ K, h ∈ H} (avec
une notation similaire pour HK). Alors on a KH = HK, et cet ensemble
est un sous-groupe de G qui contient H et K.

Démonstration : a) On vérifie immédiatement que si N est un sous-


groupe de G contenant H, alors H (qui est distingué dans G) est a fortiori
distingué dans N, et qu’alors N/H = p(N) est un sous-groupe de G/H.
Réciproquement si A est un sous-groupe de G/H, alors N := p−1 (A) est un
sous-groupe de G contenant H (car A contient le neutre de G/H), et on a
bien A = p(N) = N/H car p est surjective. Si A⊳G/H, son image réciproque
N est un sous-groupe distingué de G, et si N ⊳ G, alors A = p(N) est bien
distingué dans p(G) = G/H.
b) L’égalité KH = HK résulte des identités (valables pour k ∈ K, h ∈
H) : kh = (khk −1 )k et hk = k(k −1 hk) avec khk −1 ∈ H, k −1 hk ∈ H vu
que H ⊳ G. On a alors 1 = 1.1 ∈ HK ; si u1 , u2 ∈ KH, on peut écrire
u1 = k1 h1 et u2 = h2 k2 avec h1 , h2 ∈ H et k1 , k2 ∈ K. Alors u1 u2 = k1 h3 k2
avec h3 = h1 h2 ∈ H ; comme h3 k2 ∈ HK = KH, on peut écrire h3 k2 = k3 h4
avec k3 ∈ K et h4 ∈ H, ce qui donne que u1 u2 = (k1 k3 )h4 ∈ KH. Finalement
si u = kh ∈ KH, alors u−1 = h−1 k −1 ∈ HK = KH. Ainsi KH est bien un
sous-groupe de G.

Theorème 1.27 (“Théorèmes d’isomorphisme”) Soit G un groupe. Soit


H un sous-groupe distingué de G et p : G → G/H la surjection canonique.
a) Pour tout sous-groupe K de G, le le sous-groupe p(K) de G/H est aussi
le sous-groupe KH/H. Ce dernier est isomorphe à K/(K ∩ H) (“deuxième
théorème d’isomorphisme”).
b) Soit N un sous-groupe distingué de G contenant H. Alors le groupe
(G/H)/(N/H) est isomorphe au groupe quotient G/N (“troisième théorème
d’isomorphisme”).

Ainsi, dans G/H “on obtient un sous-groupe si on diminue G et un quo-


tient si on augmente H.”

Démonstration : a) On note déjà que d’après la proposition 1.26, l’en-


semble KH = HK est bien un sous-groupe de G contenant H. Soit u = kh ∈

9
KH. Alors on a p(u) = p(k) ∈ p(K) car p(h) est le neutre de G/H, d’où
KH/H ⊂ p(K). Réciproquement, tout élément de p(K) est de la forme k̄ avec
k ∈ K ⊂ KH, il est donc a fortiori dans KH/H. Soit alors ϕ : K → KH/H
le morphisme de groupes défini par ϕ(k) = k̄ = p(k). Son noyau est clai-
rement K ∩ H car ker p = H. Comme p(K) = KH/H, on voit que ϕ est
surjectif, et le théorème de factorisation donne alors K/K ∩ H ≃ KH/H.
b) Soit ψ : G/H → G/N le morphisme de groupes défini par ψ(ḡ) = g̃,
où g̃ désigne l’image de g dans G/N. Cette définition a un sens car si g, g ′
sont des éléments de G avec ḡ = ḡ ′, alors g −1g ′ ∈ H ⊂ N donc g̃ = g̃ ′ . On
voit immédiatement que ψ est surjectif de noyau N/H, d’où le résultat avec
le théorème de factorisation.

Dans le cas abélien, le deuxième théorème d’isomorphisme s’écrit :

Corollaire 1.28 Soit (A, +) un groupe abélien. Soient B un sous-groupe de


A et π : A → A/B la surjection canonique. Alors, pour tout sous-groupe C de
A, on a π(C) = (B + C)/B, et ce dernier groupe est isomorphe à B/(B ∩ C).

1.6. Sous-groupe dérivé


Définition 1.29 Soit G un groupe, et x, y deux éléments de G. On appelle
commutateur de x et y l’élément [x, y] := xyx−1 y −1 . Le sous-groupe dérivé
de G est par définition le sous-groupe engendré par les commutateurs. 3 On
le note D(G).

L’intérêt de D(G) résulte dans la proposition suivante :

Proposition 1.30 Le sous-groupe D(G) est caractéristique (en particulier


distingué) dans G. Le quotient G/D(G) est abélien, et D(G) est le plus petit
sous-groupe distingué de G qui a cette propriété. On note Gab := G/D(G)
("abélianisé" de G).

L’abélianisé de G est donc le plus "grand quotient abélien" de G, au


sens suivant : si G/H est un autre quotient abélien de G, alors G/H est un
quotient de Gab (cela résulte immédiatement de D(G) ⊂ H et du troisième
théorème d’isomorphisme), ou encore Gab se surjecte sur G/H.
3. Attention l’ensemble des commutateurs ne forme en général pas un sous-groupe, bien
qu’il soit assez difficile de construire un contre-exemple.

10
Démonstration : Commençons par un lemme utile en soi : si A est une
partie d’un groupe G et si ϕ : G → G′ est un morphisme de groupes, alors
ϕ(hAi) = hϕ(A)i. En effet, tout élément de hAi peut s’écrire x = a1 ...ar
avec ai ∈ A ou a−1 i ∈ A pour tout i ; du coup on a ϕ(x) = ϕ(a1 )...ϕ(ar ),
avec ϕ(ai ) ∈ ϕ(A) ou ϕ(ai )−1 ∈ ϕ(A) pour chaque i, ce qui montre que
ϕ(x) ∈ hϕ(A)i. Ainsi ϕ(hAi) ⊂ hϕ(A)i et l’inclusion dans l’autre sens se
montre de façon tout à fait analogue.
Si maintenant ϕ est un automorphisme de G, alors on a ϕ([x, y]) =
[ϕ(x), ϕ(y)] d’où ϕ(D(G)) ⊂ D(G) avec le lemme, ce qui montre que D(G)
est caractéristique. Le groupe G/D(G) est abélien car par définition, on a
xyx−1 y −1 ∈ D(G) pour tous x, y ∈ G, ce qui montre que dans G/D(G) on
a x̄ȳ = ȳ x̄. Si H est un sous-groupe tel que G/H soit abélien, alors on a
xyx−1 y −1 = 1̄ dans G/H pour tous x, y de G, donc [x, y] ∈ H ; ainsi H
contient D(G) puisqu’il contient tous les commutateurs.

Remarque 1.31 On vérifie facilement que tout sous-groupe N contenant


D(G) est automatiquement distingué (et on peut donc parler du groupe
quotient G/N, qui est abélien).

Par exemple D(G) = {e} si et seulement si G est abélien. Pour n ≥ 2, on a


D(Sn ) = An et D(An ) = An pour n ≥ 5 (cf. leçon “groupe symétrique”). Si K
est un corps et n ≥ 2, on a D(GLn (K)) = SLn (K) sauf si on a simultanément
n = 2 et #K = 2 ; on a aussi D(SLn (K)) = SLn (K) sauf si on a à la fois
n = 2 et #K ≤ 3 (cf. exercices).

Définition 1.32 Un groupe G est dit simple si ses seuls sous-groupes dis-
tingués sont G et {e}, parfait si D(G) = G.

Exemple 1.33 a) un groupe abélien est simple si et seulement s’il est iso-
morphe à Z/pZ avec p premier, et un groupe simple non abélien est parfait.
b) Le groupe An est simple si n ≥ 5 (cf. exercices).
c) En général SLn (K) n’est pas simple car son centre (constitué des ho-
mothéties λI avec λn = 1) est non trivial si K contient des racines n-ièmes
de l’unité autre que 1, par exemple si K = C. Par contre SLn (K) est parfait
si l’on n’est pas dans l’un des deux cas exceptionnels (n = 2 et K fini de
cardinal 2 ou 3), voir par exemple le cours d’algèbre de D. Perrin.

11
2. Groupes opérant sur un ensemble
2.1. Généralités, premiers exemples
Définition 2.1 Soit G un groupe et X un ensemble. On dit que G opère
(ou agit) sur X si on s’est donné une application G × X → X, (g, x) 7→ g.x,
vérifiant
— Pour tous g, g ′ de G et tout x de X, on a g.(g ′.x) = (gg ′).x
— Pour tout x de X, on a 1.x = x

Remarque 2.2 a) On a en particulier pour tout g que x 7→ g.x est une


bijection de X sur X, de réciproque x 7→ g −1.x. Une définition équivalente
consiste à se donner un morphisme Φ : G → (S(X), ◦), en posant g.x =
(Φ(g))(x).
b) La définition ci-dessus correspond à celle d’action à gauche. On peut
également parler d’action à droite : (g, x) 7→ x.g, satisfaisant x.(gg ′) =
(x.g).g ′ . Cela correspond à se donner un “anti-morphisme” (i.e. une appli-
cation Φ qui vérifie Φ(gg ′) = Φ(g ′ )Φ(g) pour tous g, g ′) de G vers S(X) au
lieu d’un morphisme.

Exemple 2.3 a) G opère sur lui-même par translations à gauche via g.x :=
gx. De même tout sous-groupe H de G opère sur G par translations à gauche.
b) G opère sur lui-même par conjugaison : g.x := gxg −1 . Ici l’image de
G dans S(G) est de plus contenue dans Aut G (ce qui n’était pas le cas dans
l’exemple précédent). On parle dans ce cas d’action par automorphismes.
c) Sn opère sur {1, ..., n} par σ.x = σ(x).
d) Si H est un sous-groupe de G, G opère sur l’ensemble des classes
à gauche G/H par g.(aH) := (ga)H. Noter qu’il opère aussi à droite sur
l’ensemble des classes à droite par (Ha).g := H(ag).

Définition 2.4 Étant donnée une opération d’un groupe G sur un ensemble
X, on appelle orbite d’un élément x de X l’ensemble des g.x, g ∈ G. Les
orbites sont les classes d’équivalence sur X pour la relation : x ∼ y si et
seulement s’il existe g ∈ G tel que y = g.x. S’il n’y a qu’une orbite, on dit
que G opère transitivement sur X.

Exemple 2.5 a) Si H est un sous-groupe de G, les orbites de l’action de H


sur G par translation à gauche ne sont autre que les classes à droite suivant
H.
b) L’action de Sn sur {1, ..., n} est transitive.
c) L’action de G sur G/H vue plus haut est transitive, ainsi que celle de
G sur lui-même par translations.

12
d) Les orbites pour l’action de G sur lui-même par conjugaison s’appellent
les classes de conjugaison de G. Noter que si G n’est pas le groupe trivial,
l’action n’est jamais transitive vu que 1 est seul dans son orbite.

Définition 2.6 Soit G un groupe opérant sur un ensemble X. On appelle


stabilisateur d’un élément x de X le sous-groupe Stab x des g de G qui véri-
fient g.x = x. Il n’est pas distingué dans G en général.
On dit que l’opération est libre si tous les stabilisateurs Stab x (pour
x ∈ X) sont réduits à {1}. On dit que l’action est fidèle (ce qui est nettement
moins fort) si le Tmorphisme G → S(X) associée à l’opération est injectif,
autrement dit si x∈X Stab x = {1}.

Exemple 2.7 a) L’opération d’un groupe G sur lui-même par translation à


gauche est libre (donc a fortiori fidèle). Si G est fini d’ordre n, on obtient en
particulier qu’il existe un morphisme injectif (donné par cette opération) de
G dans S(G) ≃ Sn (théorème de Cayley).
b) Dans l’opération de Sn sur {1, ..., n}, tous les stabilisateurs sont iso-
morphes à Sn−1 . Ils sont du reste tous conjugués, ce qui est un fait général
pour une action transitive : en effet, quand un groupe G opère sur un ensemble
X et x, y sont dans la même orbites, alors Stab x et Stab y sont conjugués vu
que si y = g.x, alors Stab y = gStab x g −1 .

La proposition ci-dessous va montrer que l’exemple 2.5 c) ci-dessus est en


quelque sorte le cas "générique" d’une action transitive.

Proposition 2.8 Étant donnée une opération d’un groupe G sur un en-
semble X et x ∈ X, on définit une bijection de l’ensemble des classes à
gauche G/Stab x sur l’orbite ω(x) de x via : ḡ 7→ g.x. En particulier si G est
fini on a # ω(x) = #G/#Stab x (donc le cardinal de ω(x) divise celui de G).
Ainsi si l’action est transitive, l’action de G s’identifie à l’action de G sur
G/Stab x par translation à gauche.

Noter que sans supposer G fini, on obtient que le cardinal de l’orbite ω(x)
est celui de l’indice [G : Stab x ], lequel est donc fini si et seulement si ω(x)
est finie.

Démonstration : Déjà l’application ϕ : ḡ 7→ g.x de G/Stab x vers X


est bien définie car si ḡ = ḡ ′ , alors g ′ = g.h avec h ∈ Stab x , donc g ′.x =
g.(h.x) = g.x. Elle est surjective par définition de l’orbite. Enfin si g.x = g ′ .x,
alors (g ′−1 g).x = x, i.e. g ′−1g ∈ Stab x , ou encore ḡ ′ = ḡ dans G/Stab x , ce
qui prouve l’injectivité de ϕ.

13
Corollaire 2.9 (Équation aux classes) Soit G un groupe fini opérant sur
un ensemble fini X. Soit Ω l’ensemble des orbites, notons #Stab ω le cardinal
du stabilisateur de x, pour x dans l’orbite ω (indépendant du choix de x dans
ω d’après la proposition précédente). Alors
X #G
#X = .
ω∈Ω
#Stab ω

Démonstration : Comme les orbites forment une partition de X, c’est


immédiat d’après la proposition précédente.

Remarque 2.10 Malgré la simplicité de la démonstration, l’équation aux


classes a des conséquences tout à fait non triviales, comme on va le voir
au paragraphe suivant. Noter que cette équation aux classes est valable dès
que l’ensemble X est fini (sans supposer forcément G fini), à condition de
#G
remplacer #Stab ω
par l’indice [G : Stab ω ] du stabilisateur Stab ω dans G,
lequel est bien fini puisque c’est aussi le cardinal de l’orbite ω.

2.2. p-groupes ; théorèmes de Sylow


Définition 2.11 Soit p un nombre premier. On appelle p-groupe un groupe
de cardinal pn , où n ∈ N.

Notons que nous adoptons ici la convention selon laquelle le groupe trivial
est bien un p-groupe.

Proposition 2.12 Soit G un p-groupe non trivial. Alors :


a) Si G est de cardinal p, alors G est cyclique.
b) Le centre Z de G n’est pas trivial.
c)Si G est de cardinal p ou p2 , alors p est abélien.

Démonstration : a) Soit x ∈ G un élément autre que le neutre. Alors


son ordre divise p d’après le théorème de Lagrange, donc c’est p puisque ce
n’est pas 1. Cela signifie que le groupe engendré par x est de cardinal p, donc
c’est G tout entier et G est cyclique.
b) On fait opérer G sur lui-même par conjugaison. Il y a #Z points fixes
( :=orbites réduites à un élément), et le cardinal des autres orbites est un
diviseur de pn := #G (par le théorème de Lagrange) autre que 1, donc est
divisible par p. Ainsi, on obtient (via l’équation aux classes) que le nombre

14
#G = pn (avec n > 0) est la somme du cardinal de Z et d’un multiple de p,
donc p divise #Z.
c) Si G est de cardinal p, le résultat est immédiat avec a) puisqu’alors G
est isomorphe à Z/pZ. Supposons que G soit de cardinal p2 . Si G n’était pas
abélien, le cardinal de Z serait p d’après b), donc G/Z serait cyclique (car de
cardinal p). Mais on obtient alors une contradiction via le lemme suivant :

Lemme 2.13 Soit G un groupe de centre Z avec G/Z monogène. Alors G


est abélien.

Le lemme se démontre en prenant un générateur ā de G/Z. Alors tout


élément g de G s’écrit g = am z avec z ∈ Z, et il est alors immédiat que deux
éléments de G commutent.

Théorèmes de Sylow.
On se pose la question suivante : étant donnés un groupe fini G et un
entier n divisant son cardinal, peut-on trouver un sous-groupe d’ordre n ? En
général la réponse est non (A4 est de cardinal 12, mais n’a pas de sous-groupe
d’ordre 6, voir exercices) mais dans le cas particulier des p-sous-groupes, on
va voir qu’on a une réponse positive.

Définition 2.14 Soit p un nombre premier. Soit G un groupe fini de cardinal


n. On appelle p-sous-groupe de Sylow (ou plus simplement p-Sylow de G) un
sous-groupe H de cardinal pα , où n = pα m avec p ne divisant pas m (i.e. p
ne divise pas l’indice [G : H] de H dans G).

Si p ne divise pas #G, un p-Sylow de G est simplement le sous-groupe


trivial (dans ce cas, la notion n’est pas intéressante). On observera que H
est un p-Sylow de G si et seulement s’il vérifie les deux conditions : H est un
p-groupe et p ne divise pas l’indice [G : H].

Theorème 2.15 (Premier théorème de Sylow) Soit G un groupe fini et


p un diviseur premier de #G. Alors G contient au moins un p-sous-groupe
de Sylow.

La preuve repose sur deux lemmes, qui ont un intérêt propre.

Lemme 2.16 Soit H un sous-groupe de G. Si G contient un p-Sylow S,


alors il existe a ∈ G tel que aSa−1 ∩ H soit un p-Sylow de H.

(Ce lemme permet de se ramener à un "sur-groupe" pour prouver le


théorème).

15
Démonstration : On a vu que le sous-groupe H de G opérait sur l’en-
semble G/S des classes à gauche via (h, aS) 7→ (ha)S. On voit tout de suite
que le stabilisateur Stab H (aS) de aS pour l’action de H est aSa−1 ∩H. Cha-
cun de ces Stab H (aS) est un p-groupe comme sous-groupe de aSa−1 , donc
il suffit de montrer que l’un d’entre eux a un indice dans H non divisible par
#H
p. Or, cet indice #Stab H (aS)
est aussi le cardinal de l’orbite ωH (aS). Comme
p ne divise pas le cardinal de l’ensemble G/S (puisque S est un p-Sylow de
G), le résultat vient de ce que les orbites forment une partition de G/S.

Lemme 2.17 Soit Fp = Z/pZ (corps à p éléments) et Gp := GLn (Fp ) avec


n ∈ N∗ . Alors Gp possède un p-Sylow.

Démonstration : On calcule d’abord le cardinal de Gp . C’est celui du


nombre de bases du Fp -espace vectoriel Fnp : en effet si on fixe une base B0
de Fnp (par exemple la base canonique), il existe pour toute base B de Fnp un
et un seul élément de Gp qui envoie B0 sur B. De ce fait, le cardinal de Gp
est
(pn − 1)(pn − p)...(pn − pn−1 ),
car pour le premier vecteur e1 de B on a pn − 1 choix (tout vecteur non nul),
pour le deuxième e2 on a pn − p choix (tout vecteur non multiple de e1 ) etc.
Il en ressort qu’un p-Sylow de Gp est de cardinal p1+2+...+n−1 = pn(n−1)/2 . Or
l’ensemble des matrices triangulaires supérieures dont la diagonale n’a que
des 1 est un sous-groupe de Gp qui possède ce cardinal.

Preuve du premier théorème de Sylow : Il ne reste plus qu’à prouver


que G est isomorphe à un sous-groupe de Gp . Or G est isomorphe à un sous-
groupe de Sn (théorème de Cayley), et Sn se plonge dans Gp en envoyant
la permutation σ sur la matrice Mσ qui envoie le vecteur ei sur eσ(i) , où
(e1 , ..., en ) est la base canonique. 4

Avant d’énoncer et démontrer un théorème sur la conjugaison des p-Sylow,


voici une notion souvent utile en théorie des groupes :

Définition 2.18 Soit G un groupe. Soit H un sous-groupe de G. Le norma-


lisateur de H dans G est le sous-groupe NG (H) de G constitué des g ∈ G
vérifiant gHg −1 = H.
4. Attention si on permutait les coordonnées au lieu des vecteurs de base, on obtiendrait
un anti-morphisme et pas un morphisme.

16
Il est facile de vérifier que NG (H) est bien un sous-groupe de G et qu’il
contient H. Par définition on a NG (H) = G si et seulement si H est distingué
dans G. Si H est fini, tout élément de g vérifiant gHg −1 ⊂ H est dans NG (H)
(en effet gHg −1 et H ont même cardinal), mais ce n’est plus vrai en général
(voir exercices).

Theorème 2.19 (Deuxième théorème de Sylow) Soit G un groupe fini


de cardinal n = pα m avec p ne divisant pas m. Alors :
a) Si H ⊂ G est un p-groupe, il existe un p-Sylow de G qui le contient.
b) Les p-Sylow de G sont tous conjugués, et leur nombre k divise n. En
particulier, si un p-Sylow est distingué, c’est le seul p-Sylow de G.
c) On a k congru à 1 modulo p (et donc k divise m).

On peut montrer qu’un groupe G comme ci-dessus possède des sous-


groupes d’ordre pβ pour tout β ≤ α et pas seulement pour β = α (voir
exercices), le premier théorème de Sylow permettant de se ramener au cas
où G est lui-même un p-groupe.

Démonstration : a) D’après le premier théorème de Sylow, il existe au


moins un p-Sylow S de G. Le lemme 2.16 dit alors qu’il existe a ∈ G tel
que aSa−1 ∩ H soit un p-Sylow de H, i.e. aSa−1 ∩ H = H puisque H est un
p-groupe. Ainsi H est inclus dans aSa−1 qui est un p-Sylow de G.
b) Si H est un p-Sylow de G, on a de plus H = aSa−1 par cardinalité, donc
tout p-Sylow de G est conjugué de S. Faisons alors opérer G par conjugaison
sur l’ensemble X des p-Sylow. Comme il n’y a qu’une seule orbite, le cardinal
k de cette orbite (qui divise celui de G) est celui de X, i.e. le nombre de p-
Sylow.
c) Soit S un p-Sylow de G, on fait opérer S sur X par conjugaison. Soient
X S l’ensemble des points fixes pour cette action (i.e. les orbites réduites à un
élément) et Ω′ l’ensemble des autres orbites. L’équation aux classes s’écrit
X
k = #X S + #ω
ω∈Ω′

Le cardinal des orbites qui sont dans Ω′ divise celui de S et n’est pas 1, donc
est divisible par p. Pour conclure il suffit donc de montrer qu’il n’y a qu’une
seule orbite réduite à un point (celle de S). i.e. : si T est un p-Sylow de G
tel que sT s−1 = T pour tout s de S, alors S = T .
Pour cela, on introduit le sous-groupe N de G engendré par S et T . A
fortiori S et T sont des p-Sylow de N, donc sont conjugués par un élément de
N. Mais T est distingué dans N via le fait que sT s−1 = T pour tout s de S,

17
car le normalisateur NG (T ) contient S et T , donc aussi le sous-groupe qi’ils
engendrent, ce qui implique N ⊂ NG (T ). Finalement on a bien T = S. 5

Un cas particulier important de c) est celui où m n’a aucun diviseur 6= 1


qui est congru à 1 modulo p. Alors G possède un p-Sylow unique, qui est
donc distingué. Par exemple un groupe d’ordre 63 (prendre p = 7) n’est pas
simple. Le même type de raisonnement marche pour un groupe d’ordre 255.

Exemple 2.20 Le groupe A4 est de cardinal 12. Il possède un 2-Sylow dis-


tingué d’ordre 4, constitué de l’identité et des doubles transpositions, qui est
donc son seul 2-Sylow. Le 3-cycle (1, 2, 3) est un 3-Sylow de G ; les autres
s’obtiennent par conjugaison, ce qui fait que les 3-Sylow sont exactement les
3-cycles de G.

3. Notions de théorie des représentations


Dans toute la suite, G désignera un groupe fini (noté multiplicativement)
et V un espace vectoriel de dimension finie n sur le corps des complexes C.
On note GL(V ) le groupe des applications linéaires bijectives de V dans V ,
muni de la loi ◦ (qu’on notera souvent également multiplicativement).

3.1. Généralités
Définition 3.1 Une représentation linéaire (ou simplement représentation)
ρ de G dans V est un morphisme de groupes ρ : G → GL(V ). On dit que V
est l’espace de la représentation ρ et n = dim V son degré.

Si on choisit une base de V , on peut se donner ρ via la matrice Ms de


ρ(s) dans cette base pour tout s ∈ G. On notera souvent ρs pour ρ(s). On
parlera parfois de “la représentation V ” si le morphisme ρ est sous-entendu.

Définition 3.2 Deux représentations ρ : G → V et ρ′ : G → V ′ de G sont


dite isomorphes (ou semblables) s’il existe un isomorphisme de C-espaces
vectoriels u : V → V ′ tel que

u ◦ ρ(s) = ρ′ (s) ◦ u

pour tout s ∈ G.
5. Ce raisonnement s’appelle "l’argument de Frattini".

18
On notera bien que l’isomorphisme u qui réalise l’égalité u◦ρ(s) = ρ′ (s)◦u
doit être indépendant de s.
Exemple 3.3 a) Une représentation de degré 1 d’un groupe fini G n’est
pas autre chose qu’un morphisme ρ : G → GL1 (C) = C∗ . La représentation
unité est le morphisme constant égal à 1. Voir les exercices pour une étude du
groupe multiplicatif de ces morphismes, notamment quand G est abélien (cas
auquel on peut se ramener car un morphisme de G dans le groupe abélien
C∗ est trivial sur le sous-groupe dérivé D(G), donc induit un morphisme de
l’abélianisé Gab = G/D(G) dans C∗ ).
b) La représentation constante de degré n envoie tout s ∈ G sur l’identité
d’un espace vectoriel de dimension n.
c) Soit G un groupe fini de cardinal g. Soit V un C-espace vectoriel de
dimension g, muni d’une base (et )t∈G indexée par les éléments de G. On
définit alors une représentation ρ : G → V par la formule
ρs (et ) = est .
On dit que ρ est la représentation régulière de G (il est immédiat qu’à iso-
morphisme près, elle ne dépend pas du choix de V et de la base (et )). Elle est
de degré g. On peut aussi la définir en prenant pour V l’espace F (G, C) des
fonctions de G dans C et en prenant pour ρs l’élément de GL(V ) qui envoie
toute fonction f sur la fonction t 7→ f (s−1 t) ; le lecteur vérifiera qu’on obtient
bien des représentations isomorphes avec les deux définitions (prendre comme
base de F (G, C) la famille (es )s∈G , où es est la fonction caractéristique de
{s}).

3.2. Sous-représentations
Définition 3.4 Soit ρ : G → GL(V ) une représentation linéaire. Une sous-
représentation de ρ est la restriction ρW : G → GL(W ) de ρ à un sous-espace
vectoriel W de V stable par tous les ρs , s ∈ G. Ainsi ρW est définie par :
ρW
s = (ρs )|W , ∀s ∈ G.
Noter que si W est stable par ρs , alors la restriction de ρs à W reste
injective, donc est bien bijective de W dans W puisqu’on est en dimension
finie.
Exemple 3.5 Si ρ : G → GL(V ) est la représentation régulière P de G, et si W
est le sous-espace de dimension 1 de V engendré par x := t∈G et , alors tous
les ρs induisent l’identité sur W , ce qui fait que W est une sous-représentation
de V , qui est d’ailleurs isomorphe à la représentation unité.

19
Définition 3.6 Soit ρ : G → GL(V ) une représentation. Soit V = ri=1 Vi
L
une décomposition de V en somme directe de sous-espaces stables par ρ. On
dit alors que ρ est la somme directe
Lr des sous-représentations ρi : G → GL(Vi )
associées à ρ, et on note ρ = i=1 ρi .

Par exemple, la représentation constante de degré n est la somme directe


de n copies de la représentation unité.

Theorème 3.7 Soit ρ : G → GL(V ) une représentation linéaire d’un groupe


fini G. Soit W un sous-espace de V stable par ρ. Alors il existe un sous-espace
supplémentaire W 0 de W dans V , qui est stable par ρ.

Démonstration : On commence à choisir un supplémentaire quelconque


W ′ de W dans V , et on appelle p le projecteur sur W parallèlement à W ′ .
Soit g le cardinal de G, posons
1X
p0 := ρt pρ−1
t .
g t∈G

On observe que Im p0 ⊂ W (car Im p ⊂ W et W est stable par ρ), et d’autre


part si x ∈ W , on a p(ρ−1 −1 −1
t (x)) = ρt (x) (puisque ρt (x) ∈ W , toujours par
stabilité de W pour ρ) d’où p0 (x) = x. Il en résulte que p0 est un projecteur
d’image W .
Définissons alors W 0 := Ker p0 . On observe qu’on a l’égalité ρs p0 = p0 ρs
pour tout s ∈ G. En effet, on a :
1X 1X
ρs p0 ρ−1
s = ρst pρt−1 s−1 = ρst pρ(st)−1 = p0 ,
g t∈G g t∈G

vu que l’application t 7→ st est une bijection de G dans lui-même. Il en résulte


immédiatement que W 0 est stable par ρ, et c’est bien un supplémentaire de
W dans V .

Remarque 3.8 On n’a pas utilisé le fait que C est algébriquement clos, par
contre le fait que la caractéristique du corps de base ne divise pas le cardinal
de G est essentiel, pour pouvoir diviser par |G| dans la définition de p0 .

3.3. Représentations irréductibles


La notion suivante est fondamentale :

20
Définition 3.9 Soit G un groupe fini. Une représentation linéaire ρ : G →
GL(V ) est dite irréductible (ou simple) si V 6= {0} et V n’admet aucun
sous-espace stable par ρ autre que V et {0}.

Par exemple, toute représentation de degré 1 est de manière évidente


irréductible (noter par contre que par convention, la représentation V = {0}
n’est pas irréductible).

Theorème 3.10 (Maschke) Soit G un groupe fini. Soit V un C-espace


vectoriel de dimension finie. Alors, toute représentation ρ : G → GL(V ) est
somme directe d’un nombre fini de représentations irréductibles.

Démonstration (esquisse): C’est une conséquence facile, par récurrence


sur dim V , du théorème 3.7.

Noter qu’en général la décomposition en somme directe de représentations


irréductibles n’est pas unique, mais on verra que le nombre de représenta-
tions iréductibles Vi isomorphes à une représentation irréductible donnée ne
dépend pas de L la décomposition choisie. Autrement dit, si on a deux décom-
positions V = ri=1 Vi = si=1 Vi′ avec Vi et Vi′ irréductibles, alors il existe
L
une bijection σ de [1, r] sur [1, s] telle que chaque représentation Vσ(i)

soit
isomorphe à la représentation Vi .

Remarque 3.11 Soit C[G] l’algèbre du groupe G : c’est l’espace des fonc-
tions de G dans
P C, dont on peut écrire tout élément f comme une somme
formelle f = s∈G as s, avec as := f (s) ∈ C. On munit C[G] de l’addition
usuelle et du produit de convolution défini par la formule
X X X X
( as s).( bs s) := ( at bt′ )s.
s∈G s∈G s∈G tt′ =s

Alors, se donner une représentation de G revient à se donner un module


(de type fini) sur l’anneau (non commutatif si G n’est pas abélien) C[G]. Le
théorème précédent assure qu’un tel module est semi-simple (il se décompose
en somme directe de modules simples).

3.4. Caractère d’une représentation, lemme de Schur


Définition 3.12 Soit ρ : G → GL(V ) une représentation linéaire d’un
groupe fini G. Le caractère de ρ est la fonction χ : G → C définie par
χ(s) = Tr (ρs ) pour tout s ∈ G, où Tr désigne la trace.

21
Proposition 3.13 Soit χ le caractère d’une représentation ρ de degré n.
Alors, on a :
a) Si ρ est la représentation constante de degré n, on a χ(s) = n pour
tout s ∈ G.
b) χ(s−1 ) = χ(s) pour tout s ∈ G.
c) χ(tst−1 ) = χ(s) pour tous s, t ∈ G (on dit qu’un caractère est une
fonction centrale sur G, i.e. il vérifie χ(st) = χ(ts) pour tous s, t ∈ G).
d) Si ρ est somme directe de ρ1 , ..., ρr , alors son caractère χ est somme
des caractères χ1 , ..., χr des ρi .

Démonstration : a) est immédiat. Pour b), on observe qu’en notant g le


cardinal de G, on a sg = 1 pour tout s de G par le théorème de Lagrange, et
donc ρgs = Id, ce qui implique que les valeurs propres complexes λ1 , ...λn de
−1
s sont λ1 , ..., λn . Ainsi
ρs sont des racines de l’unité, et celles de ρs−1 = ρ−1 −1

X X
χ(s−1 ) = λ−1
i = λ̄i = χ(s).
i i

Le c) résulte de la formule Tr (ρs ρt ) = Tr (ρt ρs ), et le d) est immédiat en


choissant une base de l’espace de chaque ρi , puis en recollant ces bases en
une base de l’espace de i ρi .
L

Lemme 3.14 (Lemme de Schur) Soit G un groupe fini. Soient ρ1 : G →


GL(V1 ) et ρ2 : G → GL(V2 ) deux représentations irréductibles de G. Soit
f : V1 → V2 une application linéaire vérifiant ρ2s ◦ f = f ◦ ρ1s pour tout s ∈ G.
Alors :
a) Si f n’est pas bijective (en particulier si ρ1 et ρ2 ne sont pas iso-
morphes), alors f = 0.
b) Supposons V1 = V2 et ρ1 = ρ2 . Alors f est une homothétie.

Une application linéaire f : V1 → V2 vérifiant ρ2s ◦ f = f ◦ ρ1s pour tout


s ∈ G s’appelle un opérateur d’entrelacement entre ρ1 et ρ2 . Le lemme de
Schur dit donc que pour ρ1 et ρ2 irréductibles, un tel opérateur est nul si ρ1
et ρ2 ne sont pas isomorphes, et c’est une homothétie si ρ1 = ρ2 .

Démonstration : a) Supposons f 6= 0 et posons W1 = Ker f . Alors on


voit tout de suite que Ker f est stable par ρ1 , donc par irréductibilité on
obtient Ker f = {0} puisqu’on a exclu le cas Ker f = V1 . On démontre de
même par irréductibilité de ρ2 que Im f = V2 , donc f est bijective.

22
b) Comme on est sur C, l’endomorphisme f possède au moins une valeur
propre λ. Posons alors f ′ = f − λid, alors ρ2s ◦ f ′ = f ′ ◦ ρ1s pour tout s ∈ G ;
comme f ′ n’est pas bijective, le a) donne que f ′ = 0, i.e. f est une homothétie.

Remarque 3.15 Il est essentiel de travailler sur un corps algébriquement


clos pour le b). Si on est par exemple sur R, on peut prendre G = Z/n
et définir une représentation ρ de G dans le plan V = R2 en envoyant la
classe d’un entier k sur la rotation d’angle 2kπ/n. On obtient alors une
représentation irréductible de G, mais comme G est abélien, toute application
linéaire de V dans V est un opérateur d’entrelacement entre ρ et elle-même.

Corollaire 3.16 Soit G un groupe fini de cardinal g. Soient ρ1 : G →


GL(V1 ) et ρ2 : G → GL(V2 ) deux représentations irréductibles de G. Pour
toute application linéaire h : V1 → V2 , on définit une application linéaire
h0 : V1 → V2 par la formule :
1 X 2 −1 1
h0 = (ρ ) hρt .
g t∈G t

Alors :
a) Si ρ1 et ρ2 ne sont pas isomorphes, on a h0 = 0.
b) Si V1 = V2 et ρ1 = ρ2 , on a h0 = Trnh id, où n est la dimension de V1 et
V2 .

Démonstration : On observe que ρ2s h0 = h0 ρ1s (le calcul est le même que
dans la preuve du théorème 3.7). Le lemme 3.14 donne alors : dans le cas
a), h0 = 0 et dans le cas b), h0 est une homothétie. Comme par ailleurs on
a, dans le cas b), Tr (h0 ) = Tr h via l’invariance de la trace d’une matrice
par conjugaison, on en déduit bien alors que h0 = Trnh id vu que la trace de
l’identité est n.

Il est intéressant d’avoir maintenant une traduction matricielle du corol-


laire précédent. Si ϕ et ψ sont des fonctions G → C, notons
1X 1X
hϕ, ψi = ϕ(t−1 )ψ(t) = ϕ(t)ψ(t−1 ). (1)
g t∈G g t∈G

On obtient ainsi une forme bilinéaire symétrique définie sur l’espace vectoriel
F (G, C) des fonctions de G dans C.

23
Proposition 3.17 Pour t ∈ G, soient (ri1 j1 (t)) et (ui2 j2 (t)) les matrices
respectives de ρ1 (t) et ρ2 (t) dans des bases B1 , B2 de V1 , V2 . Alors :
a) Si ρ1 et ρ2 ne sont pas isomorphes, on a hui2 j2 , rj1 i1 i = 0 pour tous
indices i1 , j1 , i2 , j2 .
b) Si V1 = V2 est de dimension n et ρ1 = ρ2 (auquel cas on prend B1 = B2
et on a rij = uij pour tous indices i, j), alors hri2 j2 , rj1 i1 i = 0 si i1 6= i2 ou
j1 6= j2 , et hrij , rji i = 1/n pour tous indices i, j.

Démonstration : Soit h : V1 → V2 une application linéaire quelconque, de


matrice (xi2 i1 ) dans les bases B1 , B2 . On peut lui associer l’application linéaire
h0 comme dans le corollaire 3.16, de matrice (x0i2 i1 ). On a alors, d’après la
formule définissant le produit de deux matrices :
1 XX X
x0i2 i1 = ui2 j2 (t−1 )xj2 j1 rj1 i1 (t) = hui2 j2 , rj1 i1 ixj2 j1 .
g t∈G j ,j j ,j
1 2 1 2

Dans le cas a), ceci indique que la forme linéaire en les xj2 j1 définie par le
deuxième membre est nulle, ce qui implique que tous ses coefficients sont
nuls. Ainsi : hui2 j2 , rj1 i1 i = 0 pour tous indices i1 , j1 , i2 , j2 .
Dans le cas b), on sait que h0 est une homothétie de rapport
Tr h 1 X
λ= = xj j .
n n j =j 2 1
1 2

ainsi on a x0i2 i1 = 0 si i2 6= i1 , ce qui donne hri2 j2 , rj1 i1 i = 0 si i2 6= i1 . Si


i2 = i1 = i, on obtient hrij2 , rj1 i i = 0 si j1 6= j2 et hrij , rji i = 1/n pour tous
i, j.

3.5. Les relations d’orthogonalité des caractères


C’est dans ce paragraphe que se trouvent les résultats fondamentaux sur
les caractères irréductibles (=caractères des représentations irréductibles),
et leurs conséquences sur la décomposition d’une représentation en somme
d’irréductibles.
Soit G un groupe fini de cardinal g. On définit un produit scalaire her-
mitien sur l’espace vectoriel F (G, C) des fonctions de G dans C, par la
formule 6 :
1X
(ϕ|ψ) := ϕ(t)ψ(t).
g t∈G

6. On utilise ici la convention qu’un produit scalaire est semi-linéaire en la première


variable et linéaire en la seconde ; beaucoup d’auteurs emploient la convention inverse.

24
Noter que cette formule est légèrement différente de celle de la forme bilinéaire
symétrique hϕ, ψi définie par la formule (1). Néanmoins, si ϕ et ψ sont des
caractères, les deux formules coïncident car dans ce cas ϕ(t) = ϕ(t−1 ) par la
proposition 3.13, (b). Travailler maintenant avec le produit scalaire hermitien
(.|.) est meilleur, afin d’utiliser les propriétés usuelles des espaces hermitiens
(alors que l’emploi provisoire de la forme bilinéaire symétrique h., .i était plus
commode pour formuler la proposition 3.17).

Theorème 3.18 a) Soient ρ1 , ρ2 deux représentations irréductibles non iso-


morphes de G. Soient χ1 , χ2 leurs caractères respectifs. Alors (χ1 |χ2 ) = 0.
b) Soit χ le caractère d’une représentation irréductible ρ de G. Alors
(χ|χ) = 1.

Observons que b) donne aussi la valeur de (χ|χ′ ) lorsque χ, χ′ sont les


caractères respectifs de deux représentations irréductibles isomorphes, puis-
qu’alors les fonctions χ et χ′ coïncident.

Démonstration : a) Écrivons les formes matricielles respectives rij (t)


et uijP
(t) de ρ1 , ρ2 . P
Alors, par définition de la trace, on a dans F (G, C) :
χ1 = i rii et χ2 = j ujj , d’où
X
(χ1 |χ2 ) = hχ1 , χ2 i = hrii , ujj i,
i,j

qui est nul d’après la proposition 3.17, a).


b) Supposons ρ de degré n, donnée sous forme matricielle ρt = (rij (t)).
Alors χ = i rii dans F (G, C), d’où
P

X
(χ|χ) = hχ, χi = hrii , rjj i.
i,j

D’après la proposition 3.17 b), on a hrii , rjj i = 0 si i 6= j et hrii , rjj i = 1/n si


i = j, ce qui donne finalement (χ|χ) = 1.

On appellera pour simplifier caractère irréductible de G le caractère d’une


représentation irréductible de G. Le théorème précédent peut s’interpréter
comme l’orthogonalité de deux caractères irréductibles distincts de G. En
particulier, les caractères irréductibles forment une famille orthonormée de
vecteurs de l’espace vectoriel hermitien F (G, C) des fonctions de G dans C
(qui est de dimension finie #G). On en déduit :

25
Corollaire 3.19 Les caractères irréductibles sont en nombre fini.

En effet, ils forment une famille orthonormée du C-espace vectoriel de


dimension finie F (G, C).

Dans toute la suite, on écrira pour simplifier


r
M
ρ= ρi
i=1

pour signifier qu’une représentation ρ est isomorphe à la somme directe des


représentations ρ1 , ..., ρr .

Theorème 3.20 Soient ρ1 , ρ2 , ..., ρr les représentations irréductibles de G


(bien définies à isomorphisme près) avec ρi non isomorphe à ρj si i 6= j. On
note χi le caractère de ρi . Soit ρ une représentation de G, de caractère χ,
telle que
Mr
ρ= mi ρi ,
i=1

où on a noté mi ρi la somme directe de mi représentations qui sont toutes


isomorphes à ρi (et si mi = 0, cela signifie que la représentation ρi n’apparaît
pas dans la décomposition). Alors on a mi = (χ|χi ).

La décomposition de ρ en somme directe de représentations irréductibles


est donc unique à isomorphisme près des sous-représentations intervenant
dans cette décomposition. On dit que mi est le nombre de fois que ρ contient
ρi .

Démonstration : On a χ = j mj χj par la proposition 3.13 d), et (χj |χi )


P
vaut 1 si i = j, 0 sinon d’après le théorème 3.18. On conclut par linéarité du
produit scalaire (.|.).

Corollaire 3.21 Soit G un groupe fini. Alors deux représentations de G de


même caractère sont isomorphes.

Cet énoncé et le corollaire 3.19 seront précisés au paragraphe suivant

26
Démonstration : En effet, leurs décompositions respectives en somme de
représentations irréductibles contiennent alors le même nombre de fois toute
représentation irréductible donnée.

Corollaire 3.22 Soit ϕ le caractère d’une représentation ρ : G → GL(V ).


Alors (ϕ|ϕ) est un entier ≥ 0 (et > 0 si dim V > 0), égal à 1 si et seulement
si ρ est irréductible.

Démonstration : Écrivons ρ = ρi avec les ρi irréductibles et deux


L
miP
à deux non isomorphes. Alors (ϕ|ϕ) = m2i est un entier, égal à 1 si et
seulement s’il y a une seule ρi avec de plus mi = 1, ce qui signifie exactement
que ρ est irréductible.

3.6. Nombre de représentations irréductibles


On commence par un énoncé sur la représentation régulière.

Proposition 3.23 Soit G un groupe fini de cardinal g.


a) Le caractère rG de la représentation régulière τ est donné par rG (1) = g
et rG (s) = 0 si s 6= 1.
b) Soit ρ une représentation irréductible. Alors ρ est contenue deg ρ fois
dans la représentation régulière.
c) Si n1 , ..., nh sont les degrés des représentations irréductibles
Ph (à 2isomor-
phisme près) ρ1 , ...ρh de G et χ1 , ..., χh leurs caractères, on a i=1 ni = g et
Ph
i=1 ni χi (s) = 0 pour s 6= 1.

Démonstration : a) La représentation régulière τ : G → GL(V ) est


donnée par τs (et ) = est , où (et )t∈G est une base de V . On a rG (1) = g = dim V
car τ (1) = idV . Pour s 6= 1, la matrice de τs dans la base (et ) n’a que des
zéros sur la diagonale, donc sa trace est nulle.
b) Soit χ le caractère de ρ. D’après le théorème 3.20, le nombre de fois
que ρ est contenue dans τ est :
1X 1
(rG |χ) = rG (s)χ(s) = gχ(1) = χ(1)
g s∈G g

d’après a). Or χ(1) = deg ρ.

27
Lh
c) D’après b), la représentation régulière τ s’écrit τ = i=1 ni ρi , d’où
rG = hi=1 ni χi . Il suffit alors d’appliquer a).
P

On va maintenant déterminer le nombre de caractères irréductibles de G


via le lien avec les fonctions centrales.

Lemme 3.24 Soit f une fonction centrale sur G. Soit ρ : G → GL(V ) une
représentation de G. On définit un endomorphisme ρf de V par :
X
ρf = f (t)ρ(t).
t∈G

Supposons ρ irréductible de degré n et de caractère χ. Alors ρf = λId, avec


1X g
λ= f (t)χ(t) = (χ̄|f ).
n t∈G n

Démonstration : On calcule, pour s ∈ G :


X X
ρ(s)−1 ρf ρ(s) = f (t)ρ(s−1 ts) = f (s−1 ts)ρ(s−1 ts)
t∈G t∈G

car f (s−1 ts) = f (t) par l’hypothèse que f est centrale. Comme t 7→ s−1 ts est
une bijection de G dans G, on obtient ρ(s)−1 ρf ρ(s) = ρf autrement dit ρf
est un opérateur d’entrelacement entre ρ et elle-même.. D’après le lemme de
Schur, on obtient que ρf est une homothétie. Son rapport est
1X
Tr (ρf )/n = f (t)χ(t),
n t∈G

comme on voulait.

Theorème 3.25 Soit H le C-espace vectoriel des fonctions centrales sur


G. Soient χ1 ,...,χh les caractères irréductibles (deux à deux distincts) de G.
Alors (χ1 , ..., χh ) est une base orthonormée de H.

Démonstration : On sait déjà que la famille (χ1 , ..., χh ) est orthonormée


par le théorème 3.18. Pour montrer qu’elle engendre H, il suffit de montrer
que son orthogonal est nul, ou encore que l’orthogonal de la famille conjuguée
(χ̄1 , ..., χ̄h ) est nul. Soit donc f ∈ H une fonction centrale orthogonale à tous
les χ̄i . Si ρ est une représentation irréductible de G, le lemme 3.24 donne

28
ρf = 0. Ceci reste vrai pour toute représentation ρ : G → GL(V ), car en
la décomposant en somme directe de représentations irréductibles associées
à des sous-espaces Vi de V , on obtient en effet que la restriction de ρf à
chaque Vi est nulle. Ceci s’applique en particulier à la représentation régulière
τ : G → GL(V ) . Pour celle-ci, on a une base (et )t∈G de V telle qu’on ait
τ (t)e1 = et pour tout t de G, d’où :
X
0 = τf .e1 = f (t)et ,
t∈G

ce qui donne f (t) = 0 pour tout t ∈ G puisque (et ) est une base. Ainsi f = 0.

Corollaire 3.26 Le nombre de représentations irréductibles de G à isomor-


phisme près est le nombre c de classes de conjugaison de G.

Démonstration : D’après le corollaire 3.21, le nombre de représentations


irréductibles de G à isomorphisme près est l’entier h du théorème 3.25. Or,
ce théorème dit qu’il s’agit de la dimension du C-espace vectoriel H des
fonctions centrales, lequel est de dimension c vu que se donner une fonction
centrale revient à donner sa valeur sur chaque classe de conjugaison de G (de
façon plus formelle, les fonctions caractéristiques des classe de conjugaison
forment une base de H).

4. Tables de caractères, exemples


Soit G un groupe fini possédant h classes de conjugaison. D’après le co-
rollaire 3.26, le nombre de caractères irréductibles de G est h. La table de
caractères de G est le tableau carré possédant h lignes (correspondant aux ca-
ractères irréductibles χ1 , ..., χh ) et h colonnes (correspondant aux classes de
conjugaison c1 , .., ch ), l’élément de coordonnées (i, j) du tableau étant χi (cj )
(ceci a un sens puisqu’un caractère est une fonction centrale). Nous allons
passer en revue quelques exemples où on peut déterminer la table de carac-
tères et parfois expliciter les différentes représentations irréductibles de G. La
table des caractères est une information importante, même si deux groupes
peuvent avoir la même table (i.e. le tableau est le même pour un certain choix
dans l’ordre des χi et des ci ) sans être isomorphes (c’est le cas par exemple
pour le groupe diédral d’ordre 8 et le groupe des quaternions d’ordre 8).
La première étape pour trouver la table de caractères d’un groupe G
consiste en général à déterminer les morphismes de G dans C∗ , qui donnent

29
les représentations de degré 1 ; ils correspondent aussi aux morphismes de
Gab = G/D(G) dans C∗ (puisqu’un morphisme de G dans un groupe abélien
est trivial sur tout commutateur, donc sur le sous-groupe dérivé D(G)). Il
y a donc #Gab représentations de degré 1 (on peut le voir par exemple en
décomposant Gab en produit de groupes cycliques). On peut ensuite détermi-
ner le nombres de classes de conjugaison c de G soit directement, soit parfois
en utilisant le théorème 3.23, c). Les valeurs des caractères de degré 1 sont
souvent assez faciles à déterminer, et on s’aide du théorème 3.23 c) pour les
autres caractères.

4.1. Le groupe S3
Soit S3 le groupe des permutations d’un ensemble à 3 éléments, qui pos-
sède le groupe alterné A3 comme sous-groupe distingué d’indice 2. Le cardinal
de G est g = 6, et le nombre de classes de conjugaison est h = 3 : l’élément
1, la classe d’une transposition t, et la classe d’un 3-cycle c. On a deux re-
présentations irréductibles de degré 1, correspondant au caractère unité χ1
et à la signature ǫ. On sait qu’il y a un troisième caractère irréductible θ,
qui vérifie (deg θ)2 + 2 = 6 d’après la Prop. 3.23 c). Ainsi θ est de degré 2.
On obtient aussi avec la Prop. 3.23 c), que θ(s) = 1/2(−1 − ǫ(s)) si s 6= 1 et
θ(1) = deg θ = 2, d’où la table de caractères :
 
1 t c
χ1 1 1 1
 
 ǫ 1 −1 1 
θ 2 0 −1

La représentation irréductible de degré 2 peut se réaliser géométrique-


ment en voyant S3 comme le groupe des isométries d’un triangle équilatéral
(qui est un sous-groupe de O2 (R) ⊂ GL2 (C)). En effet, les transpositions
correspondent à des réflexions (de trace nulle) et les 3-cycles à des rotations
d’angle ±2π/3 (de trace −1).

4.2. Le groupe A4
Soit G = A4 , c’est un groupe de cardinal 12. Le groupe G possède un
sous-groupe distingué V4 ≃ (Z/2Z)2 , constitué de l’identité et des doubles
transpositions, et H = G/V4 est de cardinal 3, donc isomorphe à Z/3Z (c’est
d’ailleurs l’abélianisé de G). On a donc déjà trois caractères irréductibles
de degré 1 de G, notés χ1 (caractère trivial), χ2 , χ3 , correspondant aux
trois caractères du groupe cyclique H. Par ailleurs G possède 4 classes de

30
conjugaison : celle de 1, celle d’une double transposition x, celle du 3-cycle
y = (1, 2, 3) et celle du 3-cycle z = (2, 1, 3) (qui est conjugué du précédent
dans S4 mais pas dans A4 ).
Le caractère χ2 est non trivial, donc envoie y (dont l’image dans H en est
un générateur) sur une racine primitive cubique j de l’unité. Le caractère χ3
envoie alors y sur l’autre élément non trivial d’ordre 3 de C∗ , à savoir j 2 .
p
Le dernier caractère irréductible χ′ est de degré 12 − (1 + 1 + 1) =
3 par la Prop. 3.23 c), et on détermine les valeurs de χ′ par cette même
proposition, ce qui donne la table de caractères suivante :
 
1 x y z
χ1 1 1 1 1 
 
χ2 1 1 j j 2 
 
χ3 1 1 j 2 j 
χ′ 3 −1 0 0
Une autre possibilité, si on ne veut pas au départ chercher les classes
de conjugaison de G, est d’utiliser le fait que comme Gab est de cardinal
3, il y a exactement trois représentations de degré 1 ; on voit alors que la
seule possiblité pour que la somme des degrés au carré des représentations
irréductibles donne 12, est que h = 4 ; pour cela, il faut savoir que V4 est bien
le sous-groupe dérivé de A4 .

Remarque 4.1 Dans l’espace euclidien R3 , soit T le tétraèdre régulier de


centre 0, de sommets (1, 1, 1), (1, −1, −1), (−1, 1, −1), (−1, −1, 1). Le groupe
S4 peut se réaliser comme le groupe des isométries de R3 laissant stable T , et
son sous-groupe A4 correspond alors aux isométries positives (les rotations).
On obtient ainsi un morphisme injectif S4 → GL3 (R), et donc une repré-
sentation fidèle ρ : S4 → GL3 (C), que l’on peut restreindre à A4 . La trace
d’une rotation d’angle ±θ est 1 + 2 cos(θ). L’image de x ∈ A4 par ρ doit être
d’ordre 2, c’est donc un renversement (rotation d’angle π), dont la trace est
−1, tandis que les images de y et z sont des rotations d’ordre 3, donc d’angle
±2π/3 et de trace nulle. Ainsi le caractère de ρ : A4 → GL3 (C) est χ′ , et
cette représentation “géométrique” est bien la représentation irréductible de
degré 3 de A4 .

4.3. Le groupe S4
Ce cas est déjà nettement plus compliqué, et va nécessiter d’utiliser les
remarques générales suivantes (valables pour tout groupe fini G) :

31
Remarque 4.2 a) Si N est un sous-groupe distingué de G et H := G/N,
alors toute représentation ρ de H donne naissance 7 à une représentation τ de
G définie par la formule τ (s) = ρ(π(s)) pour tout s ∈ G, où π : G → H est la
surjection canonique. On a clairement : ρ irréductible ⇔ τ irréductible. On
va voir une application de ce principe pour G = S4 et N = V4 (sous-groupe
constitué de l’identité et des doubles transpositions).
b) Si la restriction d’une représentation ρG de G à un sous-groupe H de G
est irréductible, il est immédiat que ρG elle-même est irréductible. Là encore,
ce sera utile dans le cas G = S4 (avec H = A4 ).
c) Si ε : G → C∗ est un caractère de degré 1 de G, et χ est le caractère
d’une représentation irréductible ρ, alors εχ est encore le caractère d’une re-
présentation irréductible, à savoir la représentation s 7→ ε(s)ρ(s) (vérification
immédiate). Cette remarque est souvent utile pour les groupes symétriques
(en prenant pour ε la signature).

Comme on sait que dans un groupe symétrique, les classes de conjugai-


son sont déterminées par la décomposition en cycles d’une permutation, on
obtient que G = S4 possède 5 classes de conjugaison : celle de 1, celle d’une
transposition t, celle d’une double transposition d, celle d’un 3-cycle c, et
celle d’un 4-cycle q.
Le groupe G possède encore le sous-groupe V4 (constitué de l’identité et
des doubles transpositions) comme sous-groupe distingué, avec cette fois-ci
un quotient S = S4 /N isomorphe à S3 . Les trois caractères irréductibles
χ1 , ǫ et θ de S3 vus au paragraphe 4.1. sont de degré respectif 1, 1, et 2,
et correspondent (cf. remarque 4.2, a) à trois caractères irréductibles de ces
mêmes degrés de S4 (on les notera encore χ1 , ǫ et θ). Noter que si on sait
que le sous-groupe dérivé de S4 est A4 (qui est d’indice 2), cela donne tout
de suite qu’il n’y a que
Pdeux représentations de degré 1 (ce qui permet de
prévoir via la formule ni = #G = 24 du théorème 3.23 c) qu’il reste deux
2

autres représentations irréductibles, chacune de degré 3).


On a d’autre part la représentation géométrique fidèle ρ : G → GL3 (R) ⊂
GL3 (C) de la remarque 4.1. Pour s ∈ G, le déterminant de ρ(s) est la
signature de s (il suffit de le vérifier quand s est une transposition, ce
qui est facile puisqu’alors ρ(s) induit l’identité sur un plan et l’opposé de
l’identité sur la droite orthogonale à ce plan). Comme on a vu au para-
graphe précédent que la restriction de ρ à A4 était irréductible, on ob-
tient que ρ est irréductible (remarque 4.2, b)), et de degré 3. Enfin, on
7. En revanche définir une représentation de G à partir d’une représentation d’un sous-
groupe n’est pas évident : c’est la notion importante de représentation induite, qui n’est
pas au programme de l’agrégation.

32
obtient (cf. remarque 4.2, c)) une autre représentation irréductible ρε de
degré 3 de G en posant ρε (s) = ε(s).ρ(s), où ε est la signature. Comme
12 + 12 + 22 + 32 + 32 = 24 = |G|, on a obtenu toutes les représentations
irréductibles de G (ce qui est cohérent avec le fait qu’il y a 5 classes de
conjugaison dans G).
Les valeurs des caractères χ1 , ǫ et θ se déduisent de la table de caractères
de S ∼= S3 , en observant que l’image de t et q (qui sont d’ordre pair) dans S
correspond à la classe d’une transposition (car cette image ne peut être que
d’ordre 2), l’image de c (d’ordre 3) correspond à la classe d’un 3-cycle de S3 ,
et l’image de d est le neutre de S.
Les valeurs du caractère ψ de ρ en d et c se déduisent de la table de
caractère de A4 . Enfin, l’image de t par ρ est (comme on l’a déjà vu) une
réflexion par rapport à un plan (de trace 1) ; l’image de q par ρ est une
isométrie négative d’ordre 4, dont la matrice dans une base adaptée est donc
 
−1 0 0
 0 0 −1
0 1 0

qui est de trace −1. On en déduit la table de caractères de S4 :


 
1 t d c q
 χ1 1 1 1 1 1
 
 ε 1 −1 1 1 −1 
 
θ 2 0 2 −1 0 
 
 ψ 3 1 −1 0 −1
εψ 3 −1 −1 0 1
Pour aller plus loin sur la théorie des représentations, on pourra consulter
la partie I de [3].

5. Compléments : Produit semi-direct


Soit N un groupe. L’ensemble Aut N des automorphismes de groupe de
N est lui-même un groupe pour la loi ◦. Par exemple si n est un entier ≥ 2, le
groupe des automorphismes du groupe additif Z/nZ est isomorphe au groupe
multiplicatif (Z/nZ)∗ des éléments inversibles de l’anneau Z/nZ. Si p est un
nombre premier, le groupe des automorphismes du groupe abélien (Z/pZ)r
est le groupe multiplicatif GLr (Z/pZ).
Soient N et H deux groupes. Le produit semi-direct est une généralisation
de la notion de produit direct N × H. Soit ϕ : H → Aut N un morphisme

33
de groupes, qui définit en particulier une action h.n := ϕ(h)(n) de N sur G
(mais on demande en plus ici que l’image de ϕ soit incluse dans Aut N, et
pas seulement dans S(N)).

Proposition 5.1 On définit une loi de groupes sur l’ensemble produit N ×H


en posant
(n, h).(n′ , h′ ) := (n(h.n′ ), hh′ )
Ce groupe s’appelle le produit semi-direct de N par H relativement à l’action
ϕ ; on le note N ⋊ϕ H (ou simplement N ⋊H si l’action ϕ est sous-entendue).

Démonstration : Clairement (1, 1) est élément neutre pour la loi définie


(on utilise déjà ici que h.1 = 1, qui vient du fait que l’action est à valeurs
dans Aut N). D’autre part (n, h) a pour inverse (h−1 .n−1 , h−1 ) (pour voir que
c’est un inverse aussi à gauche, on utilise (h−1 .n−1 )(h−1 .n) = h−1 .(n−1 n) =
h−1 .1 = 1).
Il reste à vérifier l’associativité. Or on a

[(n1 , h1 )(n2 , h2 )](n3 , h3 ) = (n1 (h1 .n2 ), h1 h2 )(n3 , h3 ) =


(n1 (h1 .n2 )[(h1 h2 ).n3 ], h1 h2 h3 )
et
(n1 , h1 )[(n2 , h2 )(n3 , h3 )] = (n1 , h1 )(n2 (h2 .n3 ), h2 h3 ) =
(n1 [h1 .(n2 (h2 .n3 ))], h1 h2 h3 ).
Or (h1 .n2 )[(h1 h2 ).n3 ] = [h1 .(n2 (h2 .n3 ))] d’après les axiomes des actions de
groupe et le fait que n 7→ h1 .n soit un automorphisme de N. D’où le résultat.

Remarque 5.2 a) Parler "du" produit semi-direct de N par H n’a de sens


que si on précise l’action, il peut exister plusieurs actions de H sur N, donc
plusieurs produits semi-directs. On fera aussi attention au fait que H et N
ne jouent pas des rôles symétriques.
b) L’action triviale correspond au produit direct.

Définition 5.3 Si H et N sont deux groupes, on dit qu’un groupe G est une
extension de 8 H par N s’il existe une suite exacte courte
i p
1 → N → G → H → 1,

ce qui signifie qu’on a un morphisme surjectif de G dans H dont le noyau est


i(N) (lequel est isomorphe à N).
8. Certains auteurs, par exemple D. Perrin, disent plutôt extension de N par H.

34
Proposition 5.4 Avec les notations ci-dessus, soit G = N ⋊ H. Alors :
1. On a une suite exacte
i p
1→N →G→H→1

avec i(n) = (n, 1) et p(n, h) = h. En particulier N s’identifie à un


sous-groupe distingué (noté encore N) 9 dans G. Ainsi un produit
semi-direct de N par H est une extension de H par N.
2. La suite exacte est scindée, i.e. il existe un morphisme s : H → G
("section") vérifiant p ◦ s = IdH . Ainsi H s’identifie à un sous-groupe
(encore noté H) de G.
3. Dans G, on a N ∩ H = {1} et NH = G, où NH est par définition
l’ensemble des nh avec n ∈ N et h ∈ H. De plus l’opération de H
sur N est décrite par h.n = hnh−1 , le produit de droite étant effectué
dans G.

Démonstration : 1. Les applications i et p sont des morphismes via


(n, 1)(n , 1) = (n(1.n ), 1) = (nn′ , 1) et (n, h)(n′ , h′ ) = (n(h.n′ ), hh′ ). Le fait
′ ′

que la suite soit exacte est immédiat.


2. Il suffit de poser s(h) = (1, h).
3. D’après 1., N ∩ H est l’ensemble des (n, h) avec n = h = 1, donc il est
réduit au neutre de G. Si g = (n, h) est un élément de G, on a g = (n, 1).(1, h),
donc G = NH. Enfin on a dans G :

hnh−1 = (1, h)(n, 1)(1, h−1) = (h.n, h)(1, h−1 ) = (h.n, 1) = h.n.

Remarque 5.5 Via la proposition précédente, on peut désormais écrire les


éléments de N ⋊ H de manière unique sous la forme nh (n ∈ N, h ∈ H) avec
la règle de commutation hn = (h.n)h. Notons aussi que N ⋊ H est abélien
si et seulement si l’opération est triviale, avec N et H tous deux abéliens.

On a une sorte de réciproque de la proposition précédente pour savoir


quand un groupe se décompose en produit semi-direct.

Proposition 5.6 1. (Caractérisation "interne").


Soit G un groupe contenant deux sous-groupes N et H avec
9. N comme "normal" ; le symbole ⋊ ressemble à ⊳ et permet de se rappeler le "sens"
dans lequel on effectue le produit semi-direct.

35
i) N ⊳ G.
ii) N ∩ H = {1}.
iii) G = NH.
Alors G ≃ N ⋊ H pour l’opération h.n = hnh−1 .
2. (Caractérisation "externe") Soit
1→N →G→H→1
une suite exacte admettant une section s : H → G. Alors G ≃ N ⋊ H
pour l’opération h.n = s(h)ns(h)−1 .

Démonstration : 1. Soit ϕ l’opération de H sur N définie par ϕ(h)(n) =


hnh−1 . Alors l’application Φ : N ⋊ϕ H → G qui associe à (n, h) le produit
nh (dans G) est un morphisme car Φ((n, h)(n′ , h′ )) = Φ(n(hn′ h−1 ), hh′ ) =
(nh)(n′ h′ ). L’injectivité de Φ résulte de ii) et sa surjectivité de iii).
2. Posons H1 = s(H). Comme s est injective vu que p◦s = idH , H1 est un
sous-groupe de G isomorphe à H et via 1., il suffit de montrer : N ∩H1 = {1}
et NH1 = G (on a identifié N à son image dans G). Si h1 ∈ N ∩ H1 , alors
p(h1 ) = 1 mais h1 = s(h) avec h ∈ H, d’où 1 = p(s(h)) = h et h1 = 1. Si
maintenant g ∈ G, alors g et s(p(g)) ont même image par p, donc ils diffèrent
d’un élément du noyau N, i.e. g = nh1 avec h1 := s(p(g)), et g ∈ NH1 .

C’est en général le deuxième critère qui est le plus utile pour obtenir
des décompositions en produit semi-direct, mais on gardera bien à l’esprit la
façon de déterminer l’opération de H sur N associée en fonction de la suite
exacte et de la section.
Exemple 5.7 1. Pour n ≥ 2, la suite exacte
ε
1 → An → Sn → Z/2Z → 1
est scindée via la section s qui envoie 0̄ sur Id et 1̄ sur une transposition
(arbitraire) τ . On en déduit une décomposition Sn ≃ An ⋊Z/2Z. Noter
que Sn n’est pas isomorphe au produit direct An × Z/2Z, car Sn ne
possède pas de sous-groupe distingué d’ordre 2.
2. Soient K un corps et n ∈ N∗ . La suite exacte
det
1 → SLn (K) → GLn (K) → K ∗ → 1
est scindée (envoyer λ ∈ K ∗ sur la matrice Diag(λ, 1, ..., 1)). Ainsi
GLn (K) ≃ SLn (K)⋊K ∗ . Ici, encore, ce n’est pas isomorphe au produit
direct en général (exercice, pas évident...).

36
3. Le groupe Z/4Z n’est pas produit semi-direct de Z/2Z par Z/2Z. En
effet le seul automorphisme de Z/2Z est l’identité, donc l’action serait
triviale ; or Z/4Z n’est pas isomorphe au produit direct Z/2Z × Z/2Z
(le premier groupe a des éléments d’ordre 4 et pas le deuxième). En
particulier la suite exacte

0 → Z/2Z → Z/4Z → Z/2Z → 0

(obtenue en envoyant x (mod. 4) sur x (mod.2), le noyau est {0̄, 2̄}


qui est isomorphe à Z/2Z) n’est pas scindée. 10
4. Soit n ≥ 3, on note Dn le groupe diédral des isométries du plan conser-
vant un polygone régulier convexe à n côtés. Il est de cardinal 2n ; plus
précisément Dn contient les n rotations de centre O (le centre du po-
lygone) et d’angle 2kπ/n (0 ≤ k ≤ n − 1) et n réflexions par rapport
aux droites passant : par O et chaque sommet (si n est impair), par O
et chaque sommet ou milieu d’un côté (si n est pair). On a une suite
exacte
1 → Z/nZ → Dn → Z/2Z → 1
obtenue en prenant le déterminant d’une isométrie, qui est à valeurs
dans {±1}. Elle est scindée (on envoie l’élément non trivial ε de Z/2Z
sur une réflexion), d’où une décomposition Dn ≃ Z/nZ ⋊ Z/2Z (non
isomorphe au produit direct car Dn n’est pas abélien). Notons que
l’action correspondante de Z/2Z sur Z/nZ consiste à poser ε.x = −x
pour x ∈ Z/nZ.
5. Si p et q sont des nombres premiers avec p < q, les groupes d’ordre
pq sont tous cycliques si p ne divise pas q − 1 (c’est une application
classique des théorèmes de Sylow, cf. [2], Th. I.7.13, 1)). Si par contre
p divise q − 1, on a de plus un produit semi-direct non commuta-
tif Z/qZ ⋊ Z/pZ, via le fait qu’il y a des morphismes non triviaux
Z/pZ → Aut (Z/qZ) ≃ Z/(q − 1)Z (il faut un peu plus d’efforts pour
montrer qu’il n’y a qu’un tel produit semi-direct non commutatif à
isomorphisme près, voir [2], Lemme 8.12 et Th. I.7.13, 2)).
6. Si p est un nombre premier impair, il y a deux groupes non commu-
tatifs d’ordre p3 , qui sont des produits semi-directs de groupes plus
petits ([2], exercice IE8). Le cas p = 2 est exceptionnel : le groupe
diédral est le seul produit semi-direct non trivial d’ordre 8, et on a de
10. On voit donc que même dans des cas très élémentaires, on ne peut pas toujours
"reconstituer" un groupe à partir de ses sous-groupes. En particulier, la connaissance des
groupes finis simples ne suffit absolument pas à connaître tous les groupes finis, contrai-
rement à une croyance populaire assez répandue (notamment chez les agrégatifs !).

37
plus le groupe des quaternions H8 , qui ne se décompose pas en produit
semi-direct de groupes plus petits ([2], exercice IE1). En effet, si on
avait H8 isomorphe à N ⋊ H avec N et H de cardinal < 8, alors N
et H seraient abéliens (car de cardinal ≤ 4) ; mais alors, pour ne pas
avoir le produit direct (qui donnerait un groupe abélien), il faudrait
N de cardinal 4 (pour que Aut N soit non trivial), soit en l’occurrence
isomorphe à Z/4Z, mais le seul produit semi-direct non trivial avec
H ≃ Z/2Z donne alors le groupe diédral et non H8 .

Références
[1] M. Hall Jr : The theory of groups, The Macmillan Co., New York, N.Y.
1959.
[2] D. Perrin : Cours d’algèbre, Ellipses 1996.
[3] J-P. Serre : Représentations linéaires des groupes finis, Hermann, Paris,
1967.

38

Vous aimerez peut-être aussi