GROUPES ET ALGÈBRES DE LIE

Cours de DEA à l’Université de Rennes 1 (2003–2004)

Antoine Chambert-Loir
Antoine Chambert-Loir
IRMAR, Campus de Beaulieu, 35042 Rennes Cedex.
E-mail : [email protected]
Url : http://name.math.univ-rennes1.fr/antoine.chambert-loir

Version du 24 février 2004

TABLE DES MATIÈRES

1. Sous-groupes fermés du groupe linéaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

§1. L’exponentielle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
§2. Sous-groupes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
§3. Sous-algèbres de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
§4. Exemples classiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
§5. Homomorphismes, représentation adjointe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2. Représentations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
§1. Premières notions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
§2. Opérateurs d’entrelacement, représentations irréductibles . . . . . . . . . . . . . . . . 18
§3. Représentations semi-simples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
§4. Théorèmes de Burnside et de Schur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
§5. Représentations d’algèbres de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
§6. Un exemple : sl2 (C) et SL2 (C) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3. Représentations des groupes compacts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
§1. Mesure de Haar . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
§2. Généralités sur les représentations continues des groupes topologiques . . . . 33
§3. Unitarisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
§4. Coefficients matriciels, caractères . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
§5. Le théorème de Peter-Weyl . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
§6. Démonstration du théorème de Peter-Weyl . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
4. Variétés différentielles, groupes de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
§1. Notion de variété différentielle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
§2. Fibré tangent . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
§3. Groupes de Lie « généraux » . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
§4. Sous-groupes fermés d’un groupe de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
§5. Groupes de Lie simplement connexes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
§6. Le théorème de Frobenius . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
§7. Correspondance groupes et algèbres de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
CHAPITRE 1

SOUS-GROUPES FERMÉS DU GROUPE LINÉAIRE

Ce premier chapitre introduit quelques concepts fondamentaux de la théorie des

groupes de Lie. Le résultat principal de ce chapitre est un théorème de von N EUMANN
qui montre qu’un sous-groupe fermé du groupe linéaire GLn (C) jouit de propriétés
inattendues.

§1. L’exponentielle
1.1. Rappelons que l’application exponentielle,
exp : Mn (C) → GLn (C)
est définie par la série
∞ 1
Ak .
X
exp(A) =
k=0 k!
Cette série converge pour toute matrice A ∈ Mn (C). Plus précisément, si k·k désigne
une norme d’opérateur sur Mn (C), cette série converge normalement. On déduit en
effet de la majoration k! 6 (k/2)k/2 l’inégalité
à ° ° !k/2
2 ° A2 °
° °
° 1 k° 1
° A ° 6 Ak 6
° k! ° k! k
qui majore la norme du terme général de cette série par une série géométrique. Plus
précisément encore, la série entière
∞ 1
z k Ak
X
exp(z A) =
k=0 k!
est de rayon de convergence infini et définit une fonction analytique de C dans Mn (C).
Si A et B sont deux matrices qui commutent, la formule de Newton
à !
k k k n−k
(A + B)k =
X
A B
p=0 p

est valable et les manipulations habituelles sur les séries entières montrent que
exp(A + B) = exp(A) exp(B).
6 CHAPITRE 1. SOUS-GROUPES FERMÉS DU GROUPE LINÉAIRE

En particulier, exp(A) exp(−A) = In et l’image de l’application exponentielle est bien

contenue dans GLn (C). Pour tous z et u dans C, les matrices z A et u A commutent,
d’où la relation exp((z + u)A) = exp(z A) exp(u A) qui montre que l’application
z 7→ exp(z A), C → GLn (C)
est un morphisme de groupes. Sa restriction à R est appelé sous-groupe à un paramètre
dans GLn (C) ; il vérifie l’équation différentielle
d ¡ ¢
exp(t A) = A exp(t A) = exp(t A)A.
dt
Si A appartient à Mn (R), exp(A) aussi et l’application t 7→ exp(t A) est un sous-groupe à
un paramètre d’image contenue dans GLn (R). Inversement :

P ROPOSITION 1.2. — Soit f une application continue de R dans GLn (C) qui est un mor-
phisme de groupes. Alors, il existe une unique matrice A ∈ Mn (C) telle que f (t ) = exp(t A)
pour tout réel t .

Démonstration. — Par construction, F est de classe C 1 , F (0) = 0 et F 0 (0) = f (0) = In .

Lorsque t → 0, on a donc F (t ) = t In + o(t ), ce qui entraîne qu’il existe a > 0 tel que F (a)
soit inversible. Alors, pour tout réel t , on a
Z t +a Z t Z t +a
F (t + a) = f (s) d s = f (s) d s + f (s) d s
0 t
Z a 0
= F (t ) + f (t ) f (s) d s = F (t ) + f (t )F (a),
0
d’où la relation
f (t ) = F (t + a) − F (t ) F (a)−1 .
¡ ¢

En particulier, f est de classe C 1 , et par récurrence, de classe C ∞ . La relation f (s +

t ) = f (s) f (t ) entraîne alors que f 0 (t ) = f (t ) f 0 (0) pour tout réel t . Posons A = f 0 (0) et
g (t ) = f (t ) exp(−t A). La fonction g est dérivable et l’on a
g 0 (t ) = f 0 (t ) exp(−t A) − f (t )A exp(−t A) = 0.
Par suite, g est constante, égale à g (0) = In et f (t ) = exp(t A) pour tout réel t .
Il n’est pas vrai que l’exponentielle soit un morphisme de groupes, mais on peut
regarder ce qui se passe au second ordre. On a en effet les relations
1
exp(A + B) = In + (A + B) + (A + B)2 + O(kAk + kBk)3
2
1
= In + (A + B) + (A2 + AB + B A + B 2 ) + O(kAk + kBk)3
2
et µ ¶µ ¶
1 1
exp(A) exp(B) = In + A + A2 + O(kAk)3 In + B + B 2 + O(kBk)3
2 2
1 2 1 2
= In + A + A + B + AB + B + O(kAk + kBk)3 ,
2 2
 §1. L’EXPONENTIELLE 7

d’où l’on déduit la formule

1
exp(A) exp(B) = exp(A + B) + (AB − B A) + O(kAk + kBk)3
2
(début de la formule de Campbell–Hausdorff). L’expression AB − B A de cette formule
va jouer un rôle fondamental dans toute la suite. On l’appelle crochet de Lie de A et B
et on le note [A, B].
Un autre développement limité intervient aussi :

exp(t B) exp(t A) exp(−t B)

1 1 1
= (I + t B + t 2 B 2 )(I + t A + t 2 A2 )(I − t B + t 2 B 2 ) + O(t 3 )
2 2 2
2 1 2 1 2 1
= (I + t (A + B) + t ( A + B A + B ))(I − t B + t 2 B 2 ) + O(t 3 )
2 2 2
2 1 2 1 2 1
= I + t (A + B) + t ( A + B A + B ) − t B − t (A + B)B + t 2 B 2 + O(t 3 )
2
2 2 2
1 2 2 2 3
= I + t A + t A + t ([B, A]) + O(t )
2
= exp(t A + t 2 [B, A] + O(t 3 )).
1.3. L’application exponentielle, étant définie par une série entière de rayon de
convergence infini, est indéfiniment différentiable, et sa différentielle est obte-
nue par dérivation terme à terme. (Mais on prendra garde que la différentielle
de l’application polynomiale A 7→ A n est l’application linéaire Mn (C) → Mn (C),
B 7→ A n−1 B + A n−2 B A + · · · + AB A n−2 + B A n−1 .) La différentielle de l’exponentielle en
la matrice nulle est facile à déterminer : comme exp(A) = In + A + O(kAk2 ), l’appli-
cation linéaire d exp(0) est l’identité. Il résulte alors du théorème d’inversion locale
(version complexe) que l’exponentielle réalise un difféomorphisme d’un voisinage de 0
dans Mn (C) sur un voisinage de In dans GLn (C)
Le même calcul vaut si l’on considère l’exponentielle de Mn (R) dans GLn (R), si bien
que l’exponentielle réalise aussi un difféomorphisme d’un voisinage de 0 dans Mn (R)
sur un voisinage de In dans GLn (R).
L’exponentielle usuelle C → C∗ admet une réciproque au voisinage de 1, donnée par
le logarithme. De même, si A ∈ Mn (C) vérifie kAk < 1, la série
n 1
(−1)k−1 A k
X
k=1 k

converge normalement dans Mn (C). Notons log(In + A) sa limite. La composition des

séries entières entraîne que exp(log(In + A)) = In + A.
Inversement, si kAk < log 2,
∞ 1
kAkk < e log 2 − 1 = 1
° ° X
°exp(A) − In ° 6
k=1 k!

et l’on a log(exp(A)) = A.
8 CHAPITRE 1. SOUS-GROUPES FERMÉS DU GROUPE LINÉAIRE

Exercices. — 1) Montrer que pour A et B dans Mn (C), on a la relation

¡ ¢k
exp(A + B) = lim exp(A/k) exp(B/k) .
k→∞

2) Soit A, B, C des éléments de Mn (C). Montrer que l’on a l’identité suivante, dite de Jacobi
[A, [B,C ]] + [B, [C , A]] + [C , [A, B]] = 0.
3) Déterminer les images des applications exponentielle
Mn (C) → GLn (C) et Mn (R) → GLn (R).

§2. Sous-groupes
Soit maintenant G un sous-groupe de GLn (C), sous-groupe que l’on suppose fermé
2
(pour la topologie naturelle de GLn (C) qui est un ouvert de Mn (C) identifié à Cn ).
Désignons par g (cette lettre est un g minuscule gothique) l’ensemble des ma-
trices A ∈ Mn (C) telles qu’il existe une suite (g k ) d’éléments de G et une suite (εk ) de
réels non nuls tendant vers 0 telles que
g k = In + εk A + o(εk ).

L EMME 2.1. — a) On a les conditions équivalentes sur la matrice A ∈ Mn (C) :

(i) A appartient à g ;
(ii) il existe une suite (tk ) de réels non nuls tendant vers 0 tels que exp(tk A) ∈ G
pour tout k.
(iii) exp(t A) ∈ G pour tout t ∈ R ;
b) L’ensemble g est un sous-espace vectoriel réel de Mn (C).

Démonstration. — a) La condition (iii) implique évidemment la condition (ii). De

plus, comme exp(tk A) = In + tk A + O(tk )2 , la condition (ii) implique que A appartient
à g, par définition de g. Montrons alors que (i) entraîne (iii). Pour cela, supposons
que l’on ait des suites (g k ) et (εk ) comme ci-dessus. Pour k assez grand, g k appar-
tient à l’image de l’exponentielle, donc il existe une matrice A k ∈ Mn (C) telle que
g k = exp(A k ) et l’on peut de plus choisir ces matrices de sorte que la suite (A k ) tende
vers 0 dans Mn (C). On a ainsi
g k = In + εk A + o(εk ) = In + A k + o(A k ),
si bien que A k = O(εk ), puis
A k = εk A + o(εk ).
Soit mk des d’entiers telle que la suite εk mk converge vers t , si bien que la
suite mk A k converge vers t A. Par suite,
mk
gk = exp(A k )mk = exp(mk A k )
m
converge vers exp(t A). D’autre part, g k k est un élément du sous-groupe G de GLn (C).
m
Comme il est supposé fermé, la limite de la suite (g k k ) appartient à G, ce qui montre
que exp(t A) ∈ G.
 §2. SOUS-GROUPES 9

b) Si A ∈ g, le a) implique que t A ∈ g pour tout réel t . Soit alors A et B des éléments

de g. La relation
exp(t A) exp(t B) = In + t (A + B) + O(t 2 ),
pour t tendant vers 0, montre que que A + B appartient à g. Cela prouve que g est un
sous-espace vectoriel réel de Mn (C).

D’après le lemme, la restriction à g de l’application exponentielle définit une appli-

cation
expG : g → G.

L EMME 2.2. — L’image de expG contient un voisinage de In dans G.

Démonstration. — Soit V un supplémentaire de g dans Mn (C) et considérons l’appli-

cation de g × V qui, au couple (X , Y ), associe la matrice exp(X ) exp(Y ). Elle est indé-
finiment différentiable, de différentielle en 0 égale à l’application (X , Y ) 7→ X + Y , car
exp(X ) exp(Y ) = In +X +Y +o(kX k+kY k). Elle réalise donc, en vertu du théorème d’in-
version locale, un difféomorphisme d’un voisinage de 0 dans Mn (C) sur un voisinage
de In dans GLn (C).
Supposons que le lemme soit faux. Il existe alors une suite (g k ) d’éléments de G qui
tend vers In et telle que g k n’appartient pas à expG (g), pour tout k. Pour k assez grand,
on peut écrire g k = exp(X k ) exp(Yk ), où X k ∈ gk et Yk ∈ V tendent vers 0. Par hypo-
thèse, Yk 6= 0. Posons hk = g k exp(−X k ) = exp(Yk ) ; on a hk ∈ G pour tout k. Posons
εk = kYk k et Bk = Yk /εk . La suite (Bk ) est ainsi une suite d’éléments de la sphère unité
de V , qui est compacte. Elle admet donc une sous-suite convergente, que nous notons
toujours (Bk ) ; soit B sa limite. On a ainsi
hk = exp(εk Bk ) = In + εk Bk + o(εk ) = In + εk B + o(εk ),
ce qui prouve que B ∈ g, alors que c’est un élément de norme 1, donc non nul, d’un
supplémentaire de g. Cette contradiction termine la démonstration du lemme.

Ainsi, l’application expG définit un paramétrage de G au voisinage de In et munit

un voisinage de l’identité dans G d’une structure de sous-variété (réelle) de GLn (C).
Comme exp(A) = In + A + O(kAk)2 , l’espace tangent à G en In s’identifie à l’espace vec-
toriel réel g.
Soit maintenant g un élément de G. L’application A 7→ g exp(A) de Mn (C) dans GLn (C)
est indéfiniment différentiable, car c’est la composée de l’exponentielle et de la trans-
lation à gauche par g , qui est définie par des polynômes (linéaires !). Comme g est
supposé inversible, cette application induit un difféomorphisme d’un voisinage de 0
dans Mn (C) sur un voisinage de g dans GLn (C). Restreignons cette application au sous-
espace g. On obtient de la sorte un paramétrage d’un voisinage de g dans G, (toute
matrice h ∈ G proche de g s’écrit de manière unique comme le produit de g et d’une
matrice de G proche de l’identité), ce qui munit G d’une structure de sous-variété
(réelle) de GLn (C) au voisinage de g .
D’où le théorème :
10 CHAPITRE 1. SOUS-GROUPES FERMÉS DU GROUPE LINÉAIRE

T HÉORÈME 2.3 (von Neumann, 1927–29). — Un sous-groupe fermé de GLn (C) est une
sous-variété (réelle) de GLn (C).

On dit que G est un sous-groupe de Lie (réel) du groupe GLn (C). Par définition, sa
dimension est celle de son espace tangent en l’origine. C’est en fait celle de son espace
tangent en tout point.

Remarque. — L’application exponentielle étant définie par une série entière, elle est
analytique (suivant les cas, réelle ou complexe). Grâce à la version analytique du théo-
rème d’inversion locale, il en résulte qu’un sous-groupe fermé de GLn (C) est une sous-
variété analytique réelle. Si G est un sous-groupe fermé de GLn (C) tel son espace tan-
gent g à l’origine soit un sous-espace vectoriel complexe de Mn (C), alors G est une
sous-variété analytique complexe de GLn (C).

§3. Sous-algèbres de Lie

Conservons les notations du paragraphe précédent, de sorte que G est un sous-
groupe fermé de GLn (C) et g son espace tangent (réel) à l’origine.
Soit A et B deux éléments de g. Lorsque t tend vers 0, on a le développement limité
1
exp(t A) exp(t B) = In + t (A + B) + t 2C + O(t 3 ), C = (A2 + 2AB + B 2 ),
2
d’où l’on déduit que
exp(t A) exp(t B) exp(−t A) exp(−t B)
= In + t (A + B) + t 2C In − t (A + B) + t 2C + O(t 3 )
¡ ¢¡ ¢

= In + 2t 2C − t 2 (A + B)2 + O(t 3 )
= In + t 2 (A2 + 2AB + B 2 ) − (A2 + AB + B A + B 2 ) + O(t 3 )
¡ ¢

= In + t 2 (AB − B A) + O(t 3 ).
Par suite, [A, B] = AB − B A appartient à g. Autrement dit :

P ROPOSITION 3.1. — Si G est un sous-groupe fermé de GLn (C), son espace tangent (réel)
en l’identité g ⊂ Mn (C) est stable par le crochet de Lie.

On dit que c’est une sous-algèbre de Lie (réelle) de Mn (C), et que c’est l’algèbre de Lie
du groupe de Lie G. C’est d’ailleurs pour respecter les usages de la théorie des groupes
de Lie que nous avions utilisé la notation g. Il est en effet courant de noter l’algèbre
de Lie d’un (sous)-groupe de Lie par la lettre minuscule gothique correspondante. Par
exemple, gln (C) n’est rien d’autre que Mn (C).

P ROPOSITION 3.2. — Soit G un sous-groupe fermé de GLn (C) et notons g son algèbre
de Lie. Le sous-groupe de G engendré par l’image de expG est la composante connexe de
l’élément neutre dans G. En particulier, si G est connexe, expG (g) engendre G.
 §4. EXEMPLES CLASSIQUES 11

Démonstration. — Comme l’exponentielle est continue, exp(g) est une partie connexe
de G ; elle contient en outre un voisinage de In dans G. Par suite, le sous-groupe G0 en-
gendré par exp(g) est connexe et ouvert dans G. Il est nécessairement fermé dans G, car
son complémentaire est ouvert puisqu’on peut l’écrire comme une réunion de classes
à droite sous G0 et que ces classes sont ouvertes. Le groupe G0 est ainsi le plus grand
sous-groupe ouvert connexe de G ; c’est aussi la composante connexe de l’élément
neutre In dans G. En particulier, si G est connexe, on a G0 = G.

Voici une conséquence immédiate, mais importante, de cette proposition :

P ROPOSITION 3.3. — Si deux sous-groupes fermés connexes de GLn (C) ont même al-
gèbre de Lie, ils sont égaux.

Exercices. — 1) Dans un groupe topologique, la composante connexe de l’identité est un

sous-groupe fermé et distingué.
2) Soit G et H des sous-groupes de Lie de GLn (C). On suppose que H est discret et que c’est un
sous-groupe distingué de G. Montrer que H est contenu dans le centre de G, c’est-à-dire que
g h = hg pour tout g ∈ G et tout h ∈ H.
3) Soit G un sous-groupe de Lie connexe de GLn (C). Montrer que G est engendré par tout voi-
sinage de In dans G.
4) Soit G un sous-groupe de Lie de GLn (C). Montrer qu’il existe un voisinage U de In dans G tel
que U ne contienne aucun sous-groupe distinct de {In }.
5) Soit G un sous-groupe de Lie connexe commutatif. Montrer que [A, B] = 0 pour A et B dans g.
En déduire que l’exponentielle expG est un morphisme de groupes, qu’elle est surjective et que
son noyau est un sous-groupe discret de g. En déduire que G ' Ra × (R/Z)b pour deux entiers a
et b.
6) Soit G un sous-groupe de Lie. Pour A et B dans g, montrer que [A, B] = 0 si et seulement
si exp(t A) exp(sB) = exp(sB) exp(t A) pour t , s ∈ R. Le centre Z de G est un sous-groupe de Lie
de G. Si G est connexe, l’algèbre de Lie de Z est l’ensemble des A ∈ g telles que [A, B] = 0. pour
tout B ∈ g. Ce résultat est-il nécessairement valable si G n’est pas connexe ?

§4. Exemples classiques

4.1. Groupe spécial linéaire. — Le groupe GLn (R) est de dimension n 2 . De même, le
groupe GLn (C) est de dimension 2n 2 si on le regarde comme groupe de Lie réel, et de
dimension n 2 si on le considère comme groupe de Lie complexe.
Le groupe SLn (R) est le noyau du déterminant, det : GLn (R) → R∗ , qui est un mor-
phisme de groupes continu. Il est donc fermé. Son algèbre de Lie n (R) est formée des
matrices A telles que det(exp(t A)) = 1 pour tout t ∈ R. Comme det(exp(A)) = exp(tr A),
il en résulte que sln (R) est l’ensemble des matrices de trace nulle. Ainsi, SLn (R) est de
dimension n 2 − 1.
Le résultat analogue vaut pour le groupe SLn (C), dont l’algèbre de Lie est l’ensemble
des matrices complexes de trace nulle. Comme son algèbre de Lie est un sous-C-espace
vectoriel de gln (C), SLn (C) est un sous-groupe de Lie complexe et sa dimension com-
plexe est n 2 − 1 ; sa dimension comme sous-groupe de Lie réel est le double.
12 CHAPITRE 1. SOUS-GROUPES FERMÉS DU GROUPE LINÉAIRE

4.2. Groupe orthogonal. — Le groupe On est l’ensemble des matrices g ∈ GLn (R) telles
que tg · g = In , ou encore tg = g −1 Il est fermé. Son algèbre de Lie est constituée des ma-
trices A telles que t exp(t A) = exp(−t A) pour tout réel t . Comme t exp(A) = exp(tA), un
développement limité au voisinage de t = 0 montre qu’on a alors tA = −A. Inversement,
cette condition implique évidemment que exp(t A) ∈ On pour tout t . Autrement dit, on
est l’ensemble des matrices antisymétriques. Cela entraîne que On est de dimension
n(n − 1)/2.
Le groupe orthogonal admet comme sous-groupe SOn , formé des matrices orthogo-
nales de déterminant égal à 1, soit
SOn = On ∩ SLn (R).
Il est encore fermé. Comme toute matrice antisymétrique est automatiquement de
trace nulle, l’algèbre de Lie son de SOn est égale à celle de On , voilà pourquoi celle
de On était en général notée son .
Le groupe SO2 est isomorphe au groupe des nombres complexes de module 1
dans C, donc au groupe R/Z.
Le groupe SOn est connexe. Cela résulte par exemple de ce que toute matrice ortho-
gonale est semblable à une matrice diagonale ¡ par blocs,
¢ dont les blocs sont ou bien
des matrices orthogonales 2 × 2, de la forme cos θ − sin θ , ou bien des ±1. Pour une ma-
sin θ cos θ
trice orthogonale de déterminant 1, le nombre de −1 est pair ; on les regroupe deux
par deux, en les écrivant sous la forme d’une matrice de rotation d’angle π. Il est alors
facile d’écrire un chemin dans SOn qui rejoint toute matrice à l’identité.
Plus généralement, si q est une forme quadratique sur Rn , le groupe orthogonal de q,
noté O(q) est le groupe des matrices g ∈ GLn (R) telles que q(g x) = q(x) pour tout x ∈ Rn
et SO(q) est son sous-groupe formé des matrices de déterminant 1. Un cas particuliè-
rement intéressant en physique est celui de la forme quadratique de Lorentz sur R4
q(x, y, z, t ) = x 2 + y 2 + z 2 − c 2 t 2 ,
de signature (3, 1). (c est la vitesse de la lumière.)
4.3. Groupe unitaire. — C’est l’ensemble Un des matrices g ∈ GLn (C) telles que g ∗ g =
In , où g ∗ = tḡ . Son algèbre de lie un est formée des matrices A (dites antihermitiennes)
telles que A + A∗ = 0. Ce n’est pas un groupe de Lie complexe. Sa dimension comme
groupe de Lie réel est égale à n 2 .
Son sous-groupe SUn , intersection avec SLn (C), a pour algèbre de Lie l’ensemble sun
des matrices antihermitiennes de trace nulle. Par suite, SUn est un groupe de Lie réel
de dimension n 2 −1 (la condition sur la trace ne rajoute qu’une équation linéaire sur R
car la diagonale d’une matrice antihermitienne est imaginaire pure).
4.4. Groupe symplectique. — Soit maintenant une forme bilinéaire alternée b sur Cn
et intéressons-nous aux automorphismes g de Cn telles que b(g x, g y) = b(x, y)
pour x, y ∈ Cn . Si l’on exige que b soit inversible, c’est-à-dire que b(x, y) = 0
pour tout y implique x = 0, alors n est pair et, notant m = n/2, Cn admet une
base (e1 , . . . , em , f1 , . . . , fm ) telle que b(ei , e j ) = 0, b( fi , f j ) = 0 pour 1 6 i , j 6 m,
b(ei , f j ) = 0 si i 6= j , et b(ei , fi ) = 1. Dans cette base, la matrice de b est égale à la
 §4. EXEMPLES CLASSIQUES 13

matrice par blocs

µ ¶
0 Im
J= .
−Im 0
Le groupe symplectique Spn (C) l’ensemble des matrices g ∈ GLn (C) telles que tg J g = J.
C’est un sous-groupe fermé de GLn (C), donc un sous-groupe de Lie. Comme
t
(exp(t A))J exp(t A) = J + t (tAJ + J A) + o(t ),
son algèbre de Lie spn (C) est contenue dans l’ensemble des matrices A telles que tAJ +
J A = 0 ; réciproquement, une telle matrice A vérifie
∞ tn ∞ tn
t n
t
(−1)n J A n = J exp(−t A),
X X
(exp(t A))J = A J=
k=0 n! k=0 n!
donc appartient à spn (C). On voit aussi que spn (C) est une sous-algèbre de Lie com-
plexe, donc Spn (C) est un sous-groupe¡ de¢ Lie complexe.
Si l’on écrit la matrice A par blocs YX TZ , la condition tAJ + J A = 0 devient
µt
X tY
¶µ ¶ µ ¶µ ¶
0 Im 0 Im X Z
t + ,
Z tT −Im 0 −Im 0 Y T
soit encore
−tY t
µ ¶ µ ¶
X Y T
+ ,
−tT t
Z −X −Z
si bien que spn (C) est l’ensemble des matrices par blocs de la forme YX −ZtX où Y et Z
¡ ¢

sont symétriques. Par suite, Spn (C) est de dimension complexe 2 21 m(m + 1) + m 2 =
2m 2 + m = m(2m + 1). De même, Spn (R) est un sous-groupe de Lie réel, de dimension
moitié.
4.5. Nombres complexes et quaternions. — Le corps des nombres complexes agit sur
lui-même par translation, ce qui permet de l’identifier à une¡sous-algèbre de M2 (R).
x −y ¢
Précisément, l’application qui, à x + i y ∈ C, associe la matrice y x est un homomor-
phisme de R-algèbres, injectif.
Plus généralement, on peut identifier GLn (C) à un sous-groupe fermé de GL2n (R),
en associant à la matrice inversible X + i Y la matrice par blocs YX −Y
¡ ¢
X .

Le corps (non commutatif) H des quaternions est une algèbre de dimension 4 sur R,
de base {1, i , j , k}, avec les relations i 2 = j 2 = k 2 = −1 et i j = − j i = k. Si a = x + y i +
z j + t k ∈ H, notons ā = x − y i − z j − t k ; l’application a 7→ ā est un antiautomorphisme
de H (R-linéaire, et ab ¯ = b̄ ā). De plus, a ā = x 2 + y 2 + z 2 + t 2 (norme de a) est non nul
si a 6= 0, ce qui montre que H est un corps.
L’action de H par multiplication à gauche sur lui-même permet de le considérer
comme une sous-algèbre de M4 (R), l’élément a ci-dessus étant identifié à la matrice
 
x −y −z −t
 y x −t z 
 .
z t x −y 
t −z y x
14 CHAPITRE 1. SOUS-GROUPES FERMÉS DU GROUPE LINÉAIRE

On peut aussi écrire un quaternion sous la forme

a = x + y i + z j + t k = (x + y i ) + (z − t i ) j = u + v j.
Grâce à l’identification de C avec certaines matrices 2 × 2, cela permet d’identifier H à
la sous-algèbre de M2 (C) formée des matrices de la forme
µ ¶
u −v̄
.
v ū
Plus généralement, on peut ainsi considérer le groupe GLn (H) comme un sous-
groupe de GL2n (C), ou de GL4n (R). On peut aussi considérer le groupe unitaire d’une
forme hermitienne sur le corps des quaternions.
4.6. Groupes unipotents. — Soit N l’ensemble des matrices de GLn (C) qui sont
triangulaires supérieures, avec des 1 sur la diagonale. C’est un sous-groupe fermé
de GLn (C). Son algèbre de Lie n est formée des matrices triangulaires supérieures
n’ayant que des 0 sur la diagonale, donc nilpotentes.
¡ 1 t ¢ en remplaçant C par R. Pour n = 2, N est l’ensemble
On a une définition analogue
des matrices de la forme 0 1 . C’est un sous-groupe isomorphe à R.
4.7. Produits de groupes. — Le groupe GLn (C) × GLm (C) peut-être considéré naturel-
lement comme un sous-groupe fermé de GLn+m (C), celui des matrices diagonales par
blocs, le premier bloc étant de taile n et le second de taille m. Si G et H sont des sous-
groupes fermés dans GLn (C) et GLm (C) respectivement, G × H est ainsi naturellement
un sous-groupe fermé de GLn+m (C). Son algèbre de Lie s’identifie à la somme directe
g ⊕ h vue comme sous-algèbre de Lie de Mn (C) ⊕ Mm (C) ⊂ Mn+m (C).
Exercice. — Montrer que l’application exponentielle est surjective pour SOn , SUn et Un .

§5. Homomorphismes, représentation adjointe

5.1. Un sous-groupe à un paramètre dans GLn (C) est un homomorphisme continu de
groupes R → GLm (C). Nous avons vu qu’un tel homomorphisme est nécessairement
indéfiniment différentiable, et même analytique.
Nous voulons généraliser cette propriété lorsque R est remplacé par un sous-groupe
fermé arbitraire de GLn (C). Dans ce cas, la notion de fonction différentiable (resp. ana-
lytique) qu’il faut considérer est définie par la théorie des sous-variétés. On a en plu-
sieurs caractérisations équivalentes d’une fonction différentiable f : C :
– c’est une fonction différentiable d’un voisinage de G dans GLn (C), à valeurs
dans C ;
– pour une paramétrisation locale ϕ : U → G, où U est un ouvert de Rd , l’application
f ◦ ϕ : U → C est différentiable.
La même caractérisation reste valable si l’on remplace différentiable par analy-
tique. Enfin, rappelons qu’une fonction à valeurs dans GLm (C), ou dans une partie
de GLm (C), est dite différentiable (resp. analytique) si chacune de ses composantes
l’est.
 §5. HOMOMORPHISMES, REPRÉSENTATION ADJOINTE 15

T HÉORÈME 5.2. — Soit G un sous-groupe fermé de GLn (C), H un sous-groupe fermé

de GLm (C) ; notons g et h leurs algèbres de Lie. Soit f : G → H un homomorphisme de
groupes qui est continu.
a) Il existe alors une unique application ϕ : g → h telle que f (expG (t A)) = expH (t ϕ(A))
pour tout A ∈ g.
b) L’application ϕ est R-linéaire et l’on a
ϕ([A, B]) = [ϕ(A), ϕ(B)]
pour A, B ∈ g.
c) L’homomorphisme f : G → H est indéfiniment différentiable, et même analytique.
L’application ϕ est sa différentielle à l’origine.
Démonstration. — Si A ∈ g, l’application t 7→ f (expG (t A)) est un sous-groupe à un pa-
ramètre dans H. Il est donc de la forme t 7→ exp(t ϕ(A)) pour une unique matrice A ∈ h.
Considérons alors le graphe de f dans GLn (C) × GLm (C), c’est-à-dire l’ensemble Γ
des couples (g , f (g )), pour g ∈ G. C’est un sous-groupe de GLn (C) × GLm (C). Comme
f est continu, il est fermé : si (g n , f (g n )) converge vers (g , h), alors g n → g et f (g n )
converge vers h ; puisque f est continu, h = f (g ) et (g , h) ∈ Γ. Comme GLn (C)×GLm (C)
est lui-même fermé dans GLn+m (C), Γ est d’après le théorème de von Neumann un
sous-groupe de Lie.
Son algèbre de Lie L est une sous-algèbre de Lie de gln+m (C), contenue dans le pro-
duit g ⊕ h. C’est de plus l’ensemble des couples (A, ϕ(A)) pour A ∈ g car un sous-groupe
à un paramètre de Γ est de la forme t 7→ (g (t ), f (g (t ))) pour un unique sous-groupe à
un paramètre dans G. Cela entraîne le b).
L’exponentielle expG : g → G définit une paramétrisation locale de G au voinage de
l’identité. La formule f ◦ expG = expH ◦ϕ entraîne alors que, au voisinage de l’iden-
tité, f est la composée de l’exponentielle de H, de l’application linéaire ϕ est de l’in-
verse de l’exponentielle de G. C’est donc une application différentiable, et même ana-
lytique (réelle). La dérivée en t = 0 de l’application t 7→ expG (t A) est égale à A. En dé-
rivant en t = 0 la relation f (expG (t A)) = expH (t ϕ(A)), il vient ainsi d f0 (A) = ϕ(A), pour
tout A ∈ g, si bien que ϕ = d f0 .
Un tel homomorphisme f sera aussi appelé homomorphisme de groupes de Lie. L’ap-
plication linéaire ϕ caractérisée dans le théorème respecte la structure d’espace vecto-
riel et le crochet de Lie ; on dit que c’est un homomorphisme d’algèbres de Lie.
Une conséquence de ce théorème est qu’il y a au plus une structure de groupe de
Lie sur un groupe topologique : si G et G 0 sont deux sous-groupes de Lie, tout isomor-
phisme de G sur G 0 est différentiable, ainsi que son inverse ; il induit en particulier un
isomorphisme entre leurs algèbres de Lie.
C OROLLAIRE 5.3. — Un homomorphisme de groupes de Lie connexes est déterminé par
l’homomorphisme correspondant entre algèbres de Lie.
Démonstration. — Supposons H ⊂ Mm (C). Soit en effet f1 et f2 : G → H des homomor-
phismes de groupes de Lie ayant même différentielle ϕ. L’ensemble K des g ∈ G tels
que f1 (g ) = f2 (g ) est un sous-groupe de G. Comme f1 et f2 sont continus, la fonction
16 CHAPITRE 1. SOUS-GROUPES FERMÉS DU GROUPE LINÉAIRE

f1 − f2 : G → Mm (C) l’est aussi et K est fermé. La formule f1 ◦ expG = expH ◦ϕ = f2 ◦ expG

montre que f1 et f2 coïncident sur l’image de l’exponentielle, donc sur un voisinage
de l’élément neutre de G. Comme K est un sous-groupe de G, K est ouvert dans K .
Puisque G est connexe, on a donc K = G.
D ÉFINITION 5.4. — Soit G un sous-groupe de Lie de GLn (C). Si V est un espace vectoriel
(réel, complexe, voire quaternionique), un homomorphisme continu de G dans GL(V )
est appelé représentation linéaire (réelle, complexe, quaternionique) de G sur V .
5.5. Représentation adjointe. — Voici un exemple important. Soit G un sous-groupe
de Lie. Pour g ∈ G, l’application ϕg : x 7→ g xg −1 de G dans lui-même est un morphisme
de groupes. Il induit une application linéaire, notée Ad(g ) de g dans elle-même, telle
que
g expG (t A)g −1 = expG (t Ad(g )(A))
pour tout t ∈ R et tout A ∈ g. En outre, si g et h sont des éléments de G, on a ϕg h =
ϕg ◦ ϕh , si bien que Ad(g h) = Ad(g ) ◦ Ad(h). Si e désigne l’identité de G, ϕe = idG , donc
Ad(e) = idg . Autrement dit, g 7→ Ad(g ) est un homomorphisme de G dans le groupe
GL(g) des automorphismes de g (en tant qu’espace vectoriel). Cet homomorphisme
est continu. Il suffit de le vérifier au voisinage de l’identité. Il suffit en outre de mon-
trer que pour tout A ∈ g, l’application g 7→ Ad(g )(A) est continue au voisinage de e,
car alors chacun des coefficients de la matrice Ad(g ) dans une base fixée de g défi-
nira une fonction continue de g . Or, sur un voisinage assez petit de l’identité, cette
application est la composée de l’inverse de l’exponentielle et de l’application continue
g 7→ g expG (A)g −1 .
Nous avons ainsi défini une représentation de G sur g, appelée représentation ad-
jointe de G.
Lorsque G = GLn (C), on a g = gln (C) = Mn (C), la représentation adjointe de G sur g
est donnée par
Ad(g )(A) = g Ag −1 .
Par suite, sa différentielle à l’origine est donnée par
d ¡ ¢ d ¡ t B −t B ¢
ad(B)(A) = Ad(e t B )(A) = e Ae = B A − AB = [B, A].
dt dt
On la note généralement ad ; c’est une application linéaire de gln (C) dans End(Mn (C)),
compatible au crochet de Lie, autrement dit un homomorphisme d’algèbres de Lie.
Lorsque G est un sous-groupe fermé de GLn (C), la représentation adjointe est la res-
triction de celle de GLn (C), de même que sa différentielle, qui est un homomorphisme
d’algèbres de Lie g → End(g).
Exercices. — 1) Montrer que tout sous-groupe de Lie de GLn (C) qui est connexe et de dimen-
sion 1 est isomorphe, ou à R, ou à SO2 .
2) Définir un homomorphisme injectif et continu On → SOn+1 .
3) Montrer qu’un homomorphisme bijectif de sous-groupes de Lie est un isomorphisme.
4) Soit G un sous-groupe de Lie complexe de GLn (C). On suppose que c’est un sous-groupe de
Lie complexe. Montrer que la représentation adjointe G → GL(g) est une application analytique
complexe. En déduire que, si G est compact et connexe, alors G est commutatif.
CHAPITRE 2

REPRÉSENTATIONS

§1. Premières notions

1.1. Soit G un groupe ; une représentation de G sur un k-espace vectoriel V est un
homomorphisme de groupes ρ : G → GL(V ). Si V est de dimension 1, GL(V ) = k ∗ et
on parle alors de caractère. On dit qu’un sous-espace W ⊂ V est stable par ρ si l’on
a ρ(g )(W ) ⊂ W pour tout g dans G. D’un tel sous-espace stable, on déduit une sous-
représentation de G sur W , ainsi qu’une représentation quotient de G sur l’espace vec-
toriel V /W . L’ensemble, noté V ρ ou simplement V G , des vecteurs fixes de ρ, c’est-à-dire
des v ∈ V tels que ρ(g )(v) = v pour tout g ∈ G est évidemment un sous-espace stable
de ρ.
1.2. À partir de représentations d’un groupe G sur des espaces vectoriels (sur le même
corps), les constructions tensorielles de l’algèbre linéaire permettent d’en déduire
d’autres :
– si ρi : G → GL(Vi ) sont des représentations, leur somme, ρi : G → GL( i Vi ) est
L L
définie par
( ρi )(g )( vi ) = ρi (g )(vi );
M X X
i i i
– on définit de manière analogue le produit d’une famille quelconque de représen-
tations, la notion n’étant différente que si le produit est infini ;
– la représentation contragrédiente d’une représentation ρ : G → GL(V ) est une re-
présentation sur le dual V ∗ de V , définie par
ρ∗ (g )(ϕ) = t(ρ(g −1 ))(ϕ), pour ϕ ∈ V ∗ ,
soit encore, si v ∈ V et ϕ ∈ V ∗ ,
(ρ∗ (g ))(ϕ)(v) = ϕ(ρ(g −1 )(v));
– plus généralement, si ρ1 et ρ2 sont deux représentations de G sur V1 et V2 , on dé-
finit une représentation ρ de G sur Hom(V1 , V2 ) en posant
ρ(g )( f )(v1 ) = ρ2 (g )( f (ρ1 (g −1 )(v1 ))),
pour g ∈ G, f ∈ Hom(V1 , V2 ) et v1 ∈ V1 . On la note Hom(ρ1 , ρ2 ) ;
18 CHAPITRE 2. REPRÉSENTATIONS

– le produit tensoriel de deux représentations ρ1 et ρ2 sur des espaces vectoriels V1

et V2 est une représentation de G sur V1 ⊗V2 telle que (ρ1 ⊗ρ2 )(v1 ⊗ v2 ) = ρ1 (v1 )⊗ρ2 (v2 ).
L’identification usuelle de V1∗ ⊗ V2 avec Hom(V1 , V2 ) identifie aussi les deux représen-
tations ρ∗1 ⊗ ρ2 et Hom(ρ1 , ρ2 ) ;
– si ρ est une représentation de G sur un espace vectoriel V , on définit de manière
analogue des représentations de G sur les puissances symétriques et alternées de V . Si
V est de dimension finie n, on a ainsi la représentation déterminant det ρ : G → k ∗ .

§2. Opérateurs d’entrelacement, représentations irréductibles

2.1. Soit ρ1 et ρ2 deux représentations d’un groupe G sur des espaces vectoriels V1 et
V2 . On dit qu’une application linéaire f : V1 → V2 entrelace ρ1 et ρ2 , ou que c’est un
opérateur d’entrelacement, si l’on a ρ2 (g )( f (v)) = f (ρ1 (g )(v)) pour tout g ∈ G et tout v ∈
V1 . Notant ρ = Hom(ρ1 , ρ2 ), cela revient donc à dire que ρ(g )( f ) = f pour tout g ∈
G, c’est-à-dire f est un vecteur fixe de la représentation ρ. On dit aussi que f est un
homomorphisme de ρ1 dans ρ2 , ou que f est un G-homomorphisme de V1 dans V2 .
On note HomG (ρ1 , ρ2 ) l’ensemble des opérateurs d’entrelacement entre ρ1 et ρ2 ; il est
aussi égal à Hom(V1 , V2 )G .
Deux représentation ρ1 et ρ2 sont dites isomorphes, ou équivalentes, s’il existe un
opérateur d’entrelacement f : V1 → V2 qui est bijectif.
2.2. On dit qu’une représentation ρ d’un groupe G sur un espace vectoriel V est
irréductible si V 6= 0 et si ses seuls sous-espaces stables sont les sous-espaces triviaux 0
et V . Ainsi, dans le cas où V est de dimension finie, une représentation ρ est au
contraire réductible si V possède une base dans laquelle les matrices des applications
linéaires ρ(g ), pour g ∈ G, soient toutes triangulaires par blocs.

L EMME 2.3. — Soit (ρ1 , V1 ) et (ρ2 , V2 ) deux représentations d’un groupe G et soit
f : V1 → V2 un opérateur d’entrelacement. Le noyau de f est un sous-espace vectoriel
stable de V1 ; l’image de f est un sous-espace vectoriel stable de V2 .
En particulier, supposant f 6= 0, on a les propriétés suivantes :
a) si ρ1 est irréductible, f est injective ;
b) si ρ2 est irréductible, f est surjective ;
c) si ρ1 et ρ2 sont toutes deux irréductibles, f est bijective.

Démonstration. — Soit v un élément du noyau de f . Pour tout g ∈ G, on a donc

f (ρ1 (g )(v)) = ρ2 (g )( f (v)) = ρ2 (g )(0) = 0, donc ρ1 (g )(v) appartient au noyau de f . Cela
prouve que le noyau de f est stable.
Soit w un élément de l’image de f et soit v ∈ V1 tel que w = f (v). Pour tout g ∈ G,
les égalités ρ2 (g )(w) = ρ2 (g )( f (v)) = f (ρ1 (g )(v)) montrent que ρ2 (g )(w) appartient à
l’image de f . Ainsi, l’image de f est stable par ρ2 .
Les trois autres propriétés découlent immédiatement de ceci et de la définition
d’une représentation irréductible.
 §2. OPÉRATEURS D’ENTRELACEMENT, REPRÉSENTATIONS IRRÉDUCTIBLES 19

T HÉORÈME 2.4 (Suites de Jordan-Hölder). — Soit ρ une représentation d’un groupe G

sur un k-espace vectoriel de dimension finie V .
a) Il existe une suite croissante de sous-espaces stables
0 = Vm ⊂ Vm−1 ⊂ · · · ⊂ V1 ⊂ V0 = V
telles que pour tout entier i , 1 6 i 6 m, la représentation déduite de ρ sur Vi −1 /Vi soit
irréductible.
b) Si 0 ⊂ Wn−1 ⊂ · · · ⊂ W1 ⊂ V est une seconde suite de tels sous-espaces stables, on
a n = m et il existe une permutation σ de {1, . . . , n} telle que la représentation de G
sur Vi −1 /Vi soit isomorphe à celle de G sur Wσ(i )−1 /Wσ(i ) , pour tout entier i , 1 6 i 6 n.

Une telle suite de sous-espaces stables est appelée suite de composition.

Démonstration. — L’existence d’une telle suite de sous-espaces stables se démontre

par récurrence sur la dimension de V . En effet, l’ensemble des sous-espaces non nuls
de V qui sont stables par ρ admet un élément W de dimension minimale ; la repré-
sentation de G sur W déduite de ρ est alors irréductible et on conclut en appliquant
l’hypothèse de récurrence à la représentation de G sur l’espace quotient V /W .
Démontrons la seconde assertion par récurrence sur dim V . Posons F = W1 ∩ V1 ;
c’est un sous-espace stable de V .
Si F = W1 , alors W1 ⊂ V1 . Alors, la représentation déduite de ρ sur V /W1 admet le
sous-espace stable V /V1 , ce qui implique W1 = V1 = F . Par récurrence, on a n−1 = m−1
est les quotients successifs Vi −1 /Vi et Wi −1 /Wi , pour 1 6 i 6 n − 1 sont égaux, à l’ordre
près. Le cas où F = V1 se traite de même.
Supposons maintenant que F soit distinct de V1 et W1 . L’application évidente W1 →
V /V1 est un opérateur d’entrelacement, et son noyau est F . On en déduit un opérateur
d’entrelacement injectif, non nul, W1 /F → V /V1 ; comme V /V1 est irréductible, il est
nécessairement surjectif, si bien que les représentations de G déduites de ρ sur W1 /F
et V /V1 sont isomorphes. Il en est de même des représentations sur V1 /F et V /W1 que
l’on déduit de ρ.
Considérons alors une suite de composition de F , F ⊃ F1 ⊃ . . . Fp = 0, d’où deux suites
de composition de V :
V ⊃ V1 ⊃ F ⊃ F1 ⊃ · · · ⊃ Fp = 0
V ⊃ W1 ⊃ F ⊃ F1 ⊃ · · · ⊃ Fp = 0
pour lesquelles l’assertion à démontrer est vraie, car V /W1 est isomorphe à V1 /F , et
V /V1 est isomorphe à W1 /F . De plus, le premier cas traité montre que les quotients
successifs de la première suite coïncident avec ceux de la suite de composition
V ⊃ V1 ⊃ V2 ⊃ · · · ⊃ Vm = 0
tandis que les quotients successifs de la seconde coïncident avec ceux de la suite de
composition
V ⊃ W1 ⊃ W2 ⊃ · · · ⊃ Wn = 0.
Cela démontre le théorème.
20 CHAPITRE 2. REPRÉSENTATIONS

§3. Représentations semi-simples

3.1. On dit qu’une représentation ρ : G → GL(V ) est semi-simple, ou complètement ré-
ductible, si elle est isomorphe à une somme directe de représentations irréductibles.
L n
Supposons V de dimension finie ; une telle représentation peut alors s’écrire ρ = ρi i ,
où les ρi : G → GL(Vi ) sont des représentations irréductibles deux à deux non iso-
n n
morphes et où ρi i désigne la représentation déduite de ρi sur Vi i . D’après le théorème
de Jordan-Hölder, l’ensemble des couples (ρi , ni ) est uniquement déterminé par ρ.

L EMME 3.2. — Soit ρ : G → GL(V ) une représentation. Les conditions suivantes sont
équivalentes :
(i) la représentation ρ est semi-simple ;
(ii) tout sous-espace stable de V possède un supplémentaire stable ;
(iii) tout sous-espace stable de V est l’image d’un projecteur dans V qui est un endo-
morphisme de ρ.

Démonstration. — On a (iii)⇒(ii), car le noyau d’un projecteur dans V est stable par ρ,
si c’est un endomorphisme de ρ. Inversement, si V est la somme directe W ⊕ W 0 de
sous-espaces stables de V , le projecteur p de noyau W 0 et d’image W est un endomor-
phisme de ρ. En effet, pour tout v dans V , on peut écrire v = w + w 0 , avec w ∈ W et
w 0 ∈ W 0 , et alors

p(ρ(g )(v)) = p(ρ(g )(w)) + p(ρ(g )(w 0 )) = ρ(g )(w) = ρ(g )(p(v)),

pour tout g ∈ G.
Supposant (iii), remarquons tout d’abord que toute sous-représentation de ρ vérifie
aussi l’assertion (iii). Soit en effet W un sous-espace stable de V et W 0 un sous-espace
stable de W . Il existe un projecteur p dans V , d’image W 0 qui est un endomorphisme
de ρ. Sa restriction à W est alors un projecteur d’image W 0 (car W 0 ⊂ W ) et c’est un
endomorphisme de la sous-représentation de ρ sur W . Si l’hypothèse (iii) est satisfaite,
montrons maintenant que ρ est semi-simple, par récurrence sur la dimension de V . Si
ρ est irréductible, elle est semi-simple. Sinon, il existe un sous-espace stable W , avec
W 6= 0 et W 6= V . Par hypothèse, W possède un sous-espace stable W 0 , de sorte que ρ est
la somme directe des sous-représentations déduites de ρ sur W et W 0 . Par récurrence,
ces deux représentations sont semi-simples, si bien que ρ est semi-simple.
Supposons enfin que ρ soit semi-simple et montrons que tout sous-espace stable W
de V possède un supplémentaire stable. Écrivons ρ = m i =1 ρi , où ρi : G → GL(Vi ) est
L
une représentation irréductible de G. Pour tout i , W ∩ Vi est un sous-espace stable
de Vi , si bien que l’on a ou bien W ∩ Vi = 0, ou bien Vi ⊂ W . On construit alors par
récurrence une suite (Wi0 )06i 6m de sous-espaces stables de V de la façon suivante :
Posons W00 = 0, puis posons Wi0 = Wi0−1 + Vi si (Wi0−1 + W ) ∩ Vi = 0 et Wi0 = Wi0−1 sinon.
Par récurrence, on a les relations Wi0 + W ⊃ V1 + · · · + Vi et Wi0 ∩ W = 0. La première
est évidente ; la seconde l’est aussi si Wi0−1 + W contient Vi , car alors Wi0 = Wi0−1 , et si
Wi0−1 + W ∩ Vi = 0, les espaces Wi0−1 , W et Vi sont en somme directe, donc Wi0−1 + Vi
0
et W aussi. Finalement, Wm est un supplémentaire stable de W .
 §3. REPRÉSENTATIONS SEMI-SIMPLES 21

C OROLLAIRE 3.3. — Toute sous-représentation, tout quotient d’une représentation

semi-simple est semi-simple. La contragrédiente d’une représentation semi-simple est
semi-simple. Une somme de représentations semi-simple est semi-simple.
Exemple 3.4. — Supposons que V soit un espace vectoriel euclidien (ou hermitien) et
que ρ : G → GL(V ) soit une représentation unitaire, c’est-à-dire d’image contenue dans
le groupe orthogonal (unitaire) de V . Alors, V est semi-simple. Soit en effet W un sous-
espace stable de V , et soit W 0 son supplémentaire orthogonal. Si v ∈ W 0 et w ∈ W , on
a, pour tout g ∈ G,
〈ρ(g )(v), w〉 = 〈v, ρ(g )∗ (w)〉 = 〈v, ρ(g )−1 (w)〉 = 〈v, ρ(g −1 )(w)〉 = 0
car ρ(g −1 )(w) ∈ W ; par suite, ρ(g )(v) est orthogonal à W , donc ρ(g )(W 0 ) ⊂ W 0 .
T HÉORÈME 3.5 (Théorème du bicommutant). — Soit ρ une représentation d’un
groupe G sur un espace vectoriel de dimension finie V . Soit A l’espace vectoriel en-
gendré dans End(V ) par l’image de ρ, A0 son commutant (ensemble des u ∈ End(V ) tels
que au = ua pour tout a ∈ A) et A00 le commutant de A. Si ρ est semi-simple, on a A00 = A.
Remarquons que A, A0 et A00 sont des sous-algèbres de End(V ). De plus, un endo-
morphisme u ∈ End(V ) appartient à A0 si et seulement s’il commute à tout ρ(g ), g ∈ G.
Par suite, A0 = EndG (V ). Remarquons aussi que l’inclusion A ⊂ A00 est évidente.
Démonstration. — Considérons un élément x de V et soit W = Ax l’espace vectoriel
engendré par les ρ(g )(x) dans V . C’est un sous-espace stable de V . Comme V est semi-
simple, il existe donc un projecteur p dans V d’image W tel que ρ(g )pρ(g −1 ) = p pour
tout g ∈ G. Autrement dit, p ∈ A0 . Si u ∈ A00 , on a ainsi up = pu, si bien que u(W ) ⊂ W .
Par suite, il existe a ∈ A tel que u(x) = a(x).
Nous allons appliquer ce raisonnement à la représentation ρn de G sur V n . Elle est
semi-simple. Notons B le sous-espace engendré par l’image de ρn dans End(V n ), B 0
son commutant, et B 00 le commutant de B 0 . Identifions End(V n ) à des matrices n × n à
coefficients dans End(V n ). L’algèbre B est constituée de matrices diagonales par blocs,
tous égaux à un même endomorphisme dans A. Puis, B 0 s’identifie aux matrices (bi j )
avec bi j ∈ A0 pour tout couple (i , j ). Enfin, constatons que B 00 contient les matrices
diagonales par blocs tous égaux à un même endomorphisme appartenant à A00 .
Soit u ∈ A00 . Soit v ∈ End(V n ) l’endomorphisme diagonal par blocs, chaque bloc
étant u ; on a v ∈ B 00 . Soit (e1 , . . . , en ) une base de V ; appliquant ce qui précède à l’élé-
ment (e1 , . . . , en ) de V n , on voit qu’il existe b ∈ B tel que b(e1 , . . . , en ) = v(e1 , . . . , en ) pour
tout i . Par suite, il existe a ∈ A tel que a(ei ) = u(ei ) pour tout i . Cela entraîne a = u, et
donc A00 ⊂ A, d’où le théorème.
Exercices. — 1) Soit G = Z ou R, et soit ρ : G → GL2 (R) défini par ρ(t ) = 10 1t . Quels sont les
¡ ¢

sous-espaces stables de ρ ? Montrer que ρ n’est pas semi-simple.

2) Toute sous-représentation, tout quotient d’une représentation semi-simple est semi-
simple.
3) Soit G un groupe, soit V1 et V2 des espaces vectoriels et soit V = V1 ⊕ V2 leur somme directe.
Soit ρ une représentation de G³ sur V tel´ que V1 soit un sous-espace stable par ρ. Remarquer
ρ1 (g ) f (g )
que ρ s’écrit, par blocs, ρ(g ) = 0 ρ2 (g ) , où ρ1 et ρ2 sont des représentations de G sur V1 et V2 .
22 CHAPITRE 2. REPRÉSENTATIONS

On suppose que ρ1 et ρ2 sont irréductibles et non isomorphes. Montrer que ρ est isomorphe
à ρ1 ⊕ρ2 si et seulement s’il existe u ∈ Hom(V2 , V1 ) tel que f (g ) = ρ1 (g )u−uρ2 (g ) pour tout g ∈ G.
4) Soit V un espace vectoriel de dimension finie. Soit u un endomorphisme de V et soit v ∈
End(V ) un endomorphisme qui commute à tout endomorphisme commutant avec u. Montrer
qu’il existe un polynôme P tel que v = P(u).
5) Soit ρ : G → GL(V ) une représentation sur un espace de dimension finie. Montrer que tout
sous-espace stable possède un unique supplémentaire stable si et seulement si ρ est isomorphe
à une somme directe de représentations irréductibles deux à deux non isomorphes.
6) Soit G un groupe fini, k un corps dont la caractéristique ne divise pas l’ordre de G. Soit V
un espace vectoriel sur k et ρ une représentation de G sur V . Si p est un projecteur dans V ,
montrer que
1
ρ(g ) ◦ p ◦ ρ(g )−1
X
q=
CardG g ∈G
est un projecteur de même image que p qui entrelace¡ρ. En ¢ déduire que V est semi-simple.
7) L’application Z/pZ → GL2 (Z/pZ) donnée par n 7→ 10 n1 est une représentation qui n’est pas
semi-simple.
8) Soit H un espace de Hilbert et A ⊂ L (H) une sous-algèbre stable par passage à l’adjoint.
Soit u un élément du bicommutant de A. Soit x1 , . . . , xn des éléments de H et soit ε un réel > 0.
Montrer qu’il existe v ∈ A tel que kv(xi ) − u(xi )k 6 ε. En déduire que le bicommutant de A est
l’adhérence de A pour la topologie de L (H) donnée par la convergence simple (théorème du
bicommutant de von Neumann).

§4. Théorèmes de Burnside et de Schur

T HÉORÈME 4.1 (Lemme de Schur). — Soit ρ une représentation irréductible d’un
groupe G sur un k-espace vectoriel de dimension finie V . Supposons que le corps k soit
algébriquement clos. Alors, tout opérateur d’entrelacement de V dans lui-même est une
homothétie.
Démonstration. — Soit f un endomorphisme de ρ. Comme k est algébriquement
clos, l’endomorphisme de V défini par f possède au moins une valeur propre λ. Alors,
f − λ idV est un endomorphisme de ρ qui n’est pas injectif. Puisque ρ est irréductible,
il est nul et f est égal à l’homothétie de rapport λ.
C OROLLAIRE 4.2. — Soit G un groupe commutatif et soit ρ une représentation irréduc-
tible de G sur un espace vectoriel de dimension finie V . Si k est algébriquement clos, V
est de dimension 1.
Démonstration. — Soit g ∈ G. L’application ρ(g ) : V → V est alors un opérateur d’en-
trelacement de V dans lui-même car pour tout h ∈ G, ρ(h) ◦ ρ(g ) = ρ(hg ) = ρ(g h) =
ρ(g ) ◦ ρ(h). Il résulte du lemme de Schur que ρ(g ) est une homothétie ; notons λ(g )
son rapport. L’application g 7→ λ(g ) est un homomorphisme de groupes G → k ∗ et
ρ(g ) = λ(g ) idV pour tout g ∈ G. Tout sous-espace de V est donc stable par V . Puisque ρ
est supposée irréductible, dim V = 1.
T HÉORÈME 4.3 (Théorème de Burnside). — Soit G un groupe et soit ρ une représenta-
tion irréductible de G sur un k-espace vectoriel V de dimension finie. Supposons que le
 §4. THÉORÈMES DE BURNSIDE ET DE SCHUR 23

corps k soit algébriquement clos. Alors, les applications linéaires ρ(g ), pour g ∈ G, en-
gendrent End(V ).
Démonstration. — Soit A le sous-espace vectoriel de End(V ) engendré par les ρ(g ),
g ∈ G. Comme V est irréductible et k algébriquement clos, le commutant A0 = EndG (A)
de A est réduit aux homothéties. Par suite, le bicommutant de A est égal à End(V ). Le
théorème résulte donc du théorème du bicommutant.
Avant d’en donner une application, rappelons qu’un endomorphisme u d’un espace
vectoriel V de dimension finie est dit unipotent si u − idV est nilpotent ; lorsque cela
revient à dire que 1 est la seule racine du polynôme minimal (ou caractéristique) de u.
Par suite, la trace d’une matrice unipotente est égale à la dimension de V .
T HÉORÈME 4.4. — Soit G un sous-groupe de GLn (C) formé de matrices unipotentes. Il
existe alors une matrice P ∈ GLn (C) tel que pour tout g ∈ G, P g P −1 soit triangulaire
supérieure.
On peut le formuler de manière plus intrinsèque : Soit V un espace vectoriel de di-
mension finie et soit G un sous-groupe de GL(V ) formé d’endomorphismes unipotents. Il
existe alors une suite de sous-espaces de V stables par G, 0 = V0 ⊂ V1 ⊂ · · · ⊂ Vn = V , avec
dim Vi = i pour tout i . En effet, si ei est un élément quelconque de Vi \ Vi −1 , la matrice
d’un élément de G dans la base (e1 , . . . , en ) est alors triangulaire supérieure.
Démonstration. — Démontrons le théorème par récurrence sur la dimension de V .
On dispose de fait d’une représentation ρ de G sur V . Si W est un sous-espace de V
stable par G et non trivial, le théorème résulte de l’hypothèse de récurrence appliquée
à la sous-représentation sur W et à la représentation quotient sur V /W . On peut ainsi
supposer que ρ est irréductible et V 6= 0.
Fixons un élément u dans G et posons n = u − idV . Pour tout g ∈ G, tr(ng ) = tr(ug ) −
tr(g ) = 0 car ug et g sont toutes deux unipotentes. Par suite, A désignant le sous-espace
vectoriel de End(V ) engendré par les g , g ∈ G, on a tr(na) = 0 pour tout a ∈ A. On a
A = End(V ), d’après le théorème de Burnside. Il résulte alors du lemme suivant que
n = 0. Autrement dit G = {idV } et, dans ce cas, le théorème est évident.
L EMME 4.5. — Soit V un espace vectoriel de dimension finie sur un corps k. La forme
bilinéaire (u, v) 7→ tr(uv) sur End(V ) est inversible.
Démonstration. — Si (e1 , . . . , en ) est une base de V , End(V ) admet la base (E i j )16i , j 6n ,
où E i j = ei∗ ⊗ e j . On a E i j E k` = δ j k E i ` et tr(E i ` ) = δi ` . Si u = ui j E i j appartient au
P
noyau de la forme trace, on a donc tr(uE k` ) = 0 pour tout k et tout `, d’où
n
ui j δ j k tr(E i ` ) = u`,k
X
0=
i , j =1

ce qui montre que u = 0.

Exercices. — 1) Soit ρ : R → GL2 (R) la représentation donnée par ρ(t ) = cos
¡ t − sin t ¢
sin t cos t . Montrer
qu’elle est irréductible. Montrer que la sous-algèbre de M2 (R) qu’elle engendre est isomorphe
à C.
24 CHAPITRE 2. REPRÉSENTATIONS

2) Si ρ : G → GL(V ) est une représentation de dimension finie, sa trace est la fonction G →

k donnée par g 7→ tr ρ(g ). Si ρ1 et ρ2 sont des représentations de dimension finie, calculer la
trace des représentations ρ1 ⊕ρ2 , ρ∗1 , Hom(ρ1 , ρ2 ), ρ1 ⊗ρ2 . Calculer la trace d’une représentation
en fonction des traces des quotients successifs d’une suite de composition. Si ρ1 et ρ2 sont
isomorphes, alors elles ont même trace. Exhiber un contre-exemple à la réciproque.
3) Pour i = 1, 2, soit Gi un groupe et ρi une représentation irréductible de Gi sur un C-espace
vectoriel Vi de dimension finie. Montrer à l’aide du théorème de Burnside que la représentation
ρ1 ⊗ ρ2 de G1 ×G2 sur l’espace vectoriel V1 ⊗ V2 est irréductible.
4) (1) Soit G un groupe commutatif et soit ρ une représentation irréductible de G sur un R-
espace vectoriel V de dimension finie 6= 1. On suppose que ρ est isomorphe à une représen-
tation orthogonale. Montrer que dim V = 2 et qu’il existe un morphisme de groupes ϕ : G →
R/2πZ telle que ρ s’écrive, dans une base convenable
cos ϕ(g ) − sin ϕ(g )
µ ¶
ρ(g ) = .
sin ϕ(g ) cos ϕ(g )

§5. Représentations d’algèbres de Lie

5.1. Soit g une algèbre de Lie sur un corps k. Une représentation de g sur un k-espace
vectoriel V est une application linéaire ϕ : g → End(V ) telle que ϕ([A, B]) = [ϕ(A), ϕ(B)]
pour A, B dans g.
On définit de manière évidente la somme directe ou le produit de représentations.
Si ϕ1 et ϕ2 sont des représentations de g sur V1 et V2 respectivement, on définit une
représentation ϕ1 ⊗ ϕ2 de g sur V1 ⊗ V2 par la formule
(ϕ1 ⊗ ϕ2 )(A)(v1 ⊗ v2 ) = ϕ1 (A)(v1 ) ⊗ v2 + v1 ⊗ ϕ2 (A)(v2 ),
pour A ∈ g, v1 ∈ V1 et v2 ∈ V2 . On définit aussi une représentation Hom(ϕ1 , ϕ2 ) de g sur
Hom(V1 , V2 ) par
Hom(ϕ1 , ϕ2 )(A)( f ) : v 7→ ϕ2 (A)( f (v)) − f (ϕ1 (A)(v)),
pour A ∈ g, f ∈ Hom(V1 , V2 ) et v ∈ V1 .
5.2. Un sous-espace stable d’une représentation ϕ : g → End(V ) est un sous-espace
vectoriel W ⊂ V tel que ϕ(A)(W ) ⊂ W pour tout A ∈ g. On en déduit alors une sous-
représentation de g sur W , ainsi qu’une représentation quotient de g sur V /W . La no-
tion de représentation irréductible est analogue au cas des groupes.
Un opérateur d’entrelacement entre deux représentations (ϕ1 , V1 ) et (ϕ2 , V2 ) est une
application linéaire f : V1 → V2 telle que f ◦ ϕ1 (A) = ϕ2 (A) ◦ f pour tout A ∈ g. Noyau et
image d’un opérateur d’entrelacement sont des sous-espaces stables. Par suite, f est
injective si ϕ1 est irréductible ; f est surjective si ϕ2 est irréductible. Si le corps k est
algébriquement clos, un opérateur d’entrelacement d’une représentation irréductible
dans elle-même est une homothétie (analogue du lemme de Schur).
On a aussi un énoncé de type Jordan-Hölder : existence d’une suite de composition,
et unicité des quotients successifs à l’ordre près.

(1)
Vérifier !
 §6. UN EXEMPLE : sl2 (C) ET SL2 (C) 25

§6. Un exemple : sl2 (C) et SL2 (C)

6.1. Commençons par déterminer les représentations de l’algèbre de Lie sl2 (C). Les
trois matrices
X = 00 10 , Y = 01 00 , H = 10 −1
¡ ¢ ¡ ¢ ¡ 0¢

forment une base de sl2 (C). Elles vérifient les relations

[X , Y ] = H, [H, X ] = 2X , [H, Y ] = −2Y .
Soit ϕ : sl2 (C) → End(V ) une représentation de sl2 (C) Pour λ ∈ C, notons Vλ le noyau
de l’endomorphisme ϕ(H) − λ idV . Un nombre complexe λ sera appelé poids de la re-
présentation ϕ si Vλ 6= 0, c’est-à-dire si λ est une valeur propre de ϕ(H). Remarquons
que ϕ(X ) applique Vλ dans Vλ+2 ; en effet, si v ∈ Vλ , on a
ϕ(H)(ϕ(X )(v)) = [ϕ(H), ϕ(X )](v) + ϕ(X )(ϕ(H)(v))
= 2ϕ(X )(v) + ϕ(X )(λv)
= (λ + 2)(ϕ(X )(v)).
De même, ϕ(Y ) applique Vλ dans Vλ−2 .
Puisque ϕ(H) n’a qu’un nombre fini de valeurs propres, ϕ(X ) et ϕ(Y ) sont des en-
domorphismes nilpotents. Il existe ainsi des vecteurs v ∈ V qui sont vecteurs propres
de ϕ(H) et qui sont annulés par ϕ(X ) ; de tels vecteurs seront dits primitifs.
Fixons un tel vecteur v0 et posons, pour tout entier m > 1, vm = ϕ(Y )m (v0 ). Soit n > 0
le plus grand entier tel que vn 6= 0.

L EMME 6.2. — Pour tout entier m > 0, on a les relations

ϕ(Y )(vm ) = vm+1 , ϕ(H)(vm ) = (n − 2m)vm et ϕ(X )(vm ) = m(n − m + 1)vm−1
(où l’on a posé v−1 = 0).

Démonstration. — La première relation est la définition de vm+1 . Soit λ ∈ C tel que

ϕ(H)(v0 ) = λv0 . Comme ϕ(Y )(Vµ ) ⊂ Vµ−2 , on a par récurrence ϕ(H)(vm ) = (λ − 2m)vm .
On a ϕ(X )(v0 ) = 0 par définition d’un vecteur primitif ; pour m > 0, on a
ϕ(X )(vm+1 ) = ϕ(X )(ϕ(Y )(vm )) = [ϕ(X ), ϕ(Y )](vm ) + ϕ(Y )(ϕ(X )(vm )).
Supposons que ϕ(X )(vm ) = λm vm−1 , il vient
ϕ(X )(vm+1 ) = (λ − 2m)vm + ϕ(Y )(λm vm−1 ) = (λ − 2m + λm )vm .
On a donc par récurrence ϕ(X )(vm ) = λm vm−1 pour tout entier m > 0, où
λm = λ + (λ − 2) + · · · + (λ − 2m + 2) = m(λ − m + 1).
Par définition de l’entier n, vn 6= 0 et vn+1 = 0. En particulier, ϕ(X )(vn+1 ) = 0 et (n +
1)(λ − n) = vn = 0, si bien que λ = n. Cela termine la démonstration du lemme.
Les calculs précédents montrent que le sous-espace vectoriel de V engendré
par v0 , . . . , vn est stable par les endomorphismes ϕ(H), ϕ(X ) et ϕ(Y ). De plus, v0 , . . . , vn
sont vecteurs propres de ϕ(H) pour des valeurs propres distinctes ; ils sont en particu-
lier linéairement indépendants. Par suite :
26 CHAPITRE 2. REPRÉSENTATIONS

C OROLLAIRE. — Le sous-espace de V engendré par v0 , . . . , vn est un sous-espace stable

de V de dimension n + 1.

Remarque. — Comme H = [X , Y ], l’endomorphisme ϕ(H) de ce sous-espace stable est

égal au commutateur [ϕ(X ), ϕ(Y )]. Il est par conséquent de trace nulle, ce qui permet
de retrouver l’égalité λ = n établie dans la démonstration du lemme.

6.3. Supposons maintenant que ϕ soit une représentation irréductible et soit v un vec-
teur primitif. Le sous-espace stable construit au paragraphe précédent est nécessaire-
ment égal à V , d’où en particulier une base (v0 , . . . , vn ) de V telles que soient vérifiées
les relations :
ϕ(H)(vm ) = (n − 2m)vm , ϕ(X )(vm ) = m(n − m + 1)vm−1 , et ϕ(Y )(vm ) = vm+1 ,
pour 0 6 m 6 n, avec les conventions v−1 = vn+1 = 0.
6.4. En fait, nous allons montrer que V est isomorphe à la représentation de sl2 (C),
puissance symétrique n-ième de la représentation standard. Soit V (n) le C-espace vec-
toriel Symn C2 , dont la famille (e1n , e1n−1 e2 , . . . , e2n ) est une base, où (e1 , e2 ) est la base
canonique de C2 . L’action de GL(2, C) sur C2 s’étend de manière naturelle en une re-
présentation sur V (n). La représentation correspondante de l’algèbre de Lie est ainsi
définie par
d ¡
ϕ(A)(v) ϕ(e t A )(v) t =0 ,
¢
dt
pour A ∈ sl2 (C). Remarquons que
³ t ´
e = 0 e −t , e t X = 10 1t , e t Y = 1t 10 .
tH e 0
¡ ¢ ¡ ¢

Par suite, on a
d
ϕ(H)(e1n−m e2m ) = e (n−2m)t e1n−m e2m = (n − 2m)e1n−m e2m
¡ ¢
t =0
dt
d
ϕ(X )(e1n−m e2m ) = e1n−m (t e1 + e2 )m = me1n−m+1 e2m−1
¡ ¢
t =0
dt
d
ϕ(Y )(e1n−m e2m ) = (e1 + t e2 )n−m e2m = (n − m)e1n−m−1 e2m+1 .
¡ ¢
t =0
dt
1
Par suite, posant vm = (n−m)! e1n−m e2m , on a
ϕ(H)(vm ) = (n − 2m)vm , ϕ(X )(vm ) = m(n − m + 1)vm−1 , ϕ(Y )(vm ) = vm+1 .
Cela montre que la représentation V de l’algèbre de Lie sl2 (C) étudiée plus haut est
isomorphe à la représentation dérivée de celle du groupe SL2 (C) sur V (n).
6.5. Opérateur de Casimir. — Soit ϕ une représentation de sl2 (C) sur un espace vec-
toriel V de dimension finie. L’opérateur de Casimir dans V est défini par
1
C = ϕ(H)2 + ϕ(H) + 2ϕ(Y )ϕ(X ).
2
L EMME 6.6. — L’opérateur C ∈ End(V ) commute à l’image de ϕ.
 §6. UN EXEMPLE : sl2 (C) ET SL2 (C) 27

Démonstration. — Il suffit de montrer que [C , ϕ(A)] = 0 pour A ∈ {H, X , Y }. Simplifions

tout d’abord ce commutateur : si A ∈ sl2 (C), on a
1¡
[C , ϕ(A)] = ϕ(H)2 ϕ(A) − ϕ(A)ϕ(H)2 + [ϕ(H), ϕ(A)]
¢
2
+ 2(ϕ(Y )ϕ(X )ϕ(A) − ϕ(A)ϕ(Y )ϕ(X ))
1 1
= ϕ(H)[ϕ(H), ϕ(A)] + [ϕ(H), ϕ(A)]ϕ(H) + [ϕ(H), ϕ(A)]
2 2
+ 2ϕ(Y )[ϕ(X ), ϕ(A)] + 2[ϕ(Y ), ϕ(A)]ϕ(X )
1 1
= ϕ(H)ϕ([H, A]) + ϕ([H, A])ϕ(H) + ϕ([H, A])
2 2
+ 2ϕ(Y )ϕ([X , A]) + 2ϕ([Y , A])ϕ(X ).
On obtient ainsi
[C , ϕ(H)] = 0 + 0 + 0 + 2ϕ(Y )ϕ(−2X ) + 2ϕ(2Y )ϕ(X ) = 0
1 1
[C , ϕ(X )] = ϕ(H)ϕ(2X ) + ϕ(2X )ϕ(H) + ϕ(2X ) + 2ϕ(−H)ϕ(X )
2 2
= [ϕ(X ), ϕ(H)] + 2ϕ(X ) = ϕ([X , H]) + 2ϕ(X ) = ϕ(−2X ) + 2ϕ(X ) = 0
1 1
[C , ϕ(Y )] = ϕ(H)ϕ(−2Y ) + ϕ(−2Y )ϕ(H) + ϕ(−2Y ) + 2ϕ(Y )ϕ(H)
2 2
= [ϕ(Y ), ϕ(H)] − 2ϕ(Y ) = ϕ([Y , H]) − 2ϕ(Y ) = ϕ(2Y ) − 2ϕ(Y ) = 0.
Cela démontre le lemme.

Calculons l’opérateur C dans le cas où V est la représentation V (n) : pour tout en-
tier m tel que 0 6 m 6 n, on a :
1
C (vm ) = (n − 2m)2 vm + (n − 2m)vm + 2m(n − m + 1)vm vm
2
1¡ 2
= (n − 4mn + 4m 2 ) + (2n − 4m) + (4mn − 4m(m − 1)) vm
¢
2
1¡
= n 2 + 2n vm .
¢
2
Ainsi, l’opérateur C agit comme l’homothétie de rapport 12 n 2 + n ; en particulier, C est
inversible si n > 0. (Comme V (n) est irréductible, il résulte du lemme de Schur que C
est une homothétie ; nous aurons cependant besoin d’utiliser le fait que C est inver-
sible.)

T HÉORÈME 6.7. — Toute représentation de dimension finie de sl2 (C) est semi-simple.

Démonstration. — Soit ϕ : sl2 (C) → End(V ) une telle représentation ; il suffit de mon-
trer que tout sous-espace stable W ⊂ V admet un supplémentaire stable.
De la représentation ϕ sur V , on déduit une représentation π de sl2 (C) sur End(V ),
définie par
(π(A)( f ))(v) = ϕ(A)( f (v)) − f (ϕ(A)(v)) = [ϕ(A), f ](v),
28 CHAPITRE 2. REPRÉSENTATIONS

pour A ∈ sl2 (C) et f ∈ End(V ) et v ∈ V . Un supplémentaire stable d’un sous-espace

stable W est le noyau d’un un projecteur f dans V d’image W qui commute à l’image
de ϕ, c’est-à-dire est invariant par π. On cherche ainsi une application linéaire f : V →
W invariante par π dont la restriction à W est l’identité.
Considérons plus généralement le sous-espace M de End(V ) formé des applications
linéaires f : V → W dont la restriction à W est une homothétie, et soit N le sous-espace
de M formé des applications linéaires f : V → W dont la restriction à W est nulle. Ce
sont des sous-espaces stables de End(V ). En effet, si f ∈ Hom(V, W ) vérifie f |W = λ idW ,
la formule ci-dessus montre que (π(A)( f ))(v) appartient à W pour tout v ∈ V et tout A ∈
sl2 (C), car W est un sous-espace stable de V . Si de plus v ∈ W ,
(π(A)( f ))(v) = ϕ(A)(λv) − λϕ(A)(v) = 0
car ϕ(A)(v) ∈ W . En particulier, π(A)(M) ⊂ N pour tout A ∈ sl2 (C).
Cela nous ramène à montrer que si W est un sous-espace stable de codimension 1
dans V , il existe un vecteur v ∈ V \ W tel que ϕ(A)(v) = 0 pour tout A ∈ sl2 (C). Démon-
trons ce fait par récurrence sur dim V .
Au préalable, remarquons que toute représentation de sl2 (C) sur un espace vecto-
riel de dimension 1 est identiquement nulle. Cela résulte de ce qu’une telle représen-
tation est nécessairment irréductible, donc isomorphe à la représentation V (0). Cela
peut aussi se vérifier directement en utilisant le fait que les trois générateurs H, X et Y
de sl2 (C) sont des commutateurs, donc agissent par 0 sur un espace de dimension 1.
Par suite, il revient au même de chercher un supplémentaire stable de dimension 1
ou de chercher un vecteur v annulé par la représentation.
Premier cas : dim W = 1. La sous-représentation ϕ|W est aussi nulle, si bien que
ϕ(A)(W ) = 0. Par suite, si A et B ∈ sl2 (C),
ϕ(A)ϕ(B)(V ) ⊂ ϕ(A)(W ) = 0,
et en particulier
ϕ([A, B]) = [ϕ(A), ϕ(B)] = 0.
Comme sl2 (C) est engendré par des commutateurs, la représentation ϕ est nulle. Tout
vecteur de V \ W convient.
Deuxième cas : la sous-représentation sur W est irréductible de dimension > 1. L’opé-
rateur de Casimir C de V laisse stable W . Sa restriction à W n’est autre que l’opérateur
de Casimir de W , tandis que l’application linéaire qu’il induit sur le quotient V /W est
l’opérateur de Casimir de V /W , donc est nul. Cela entraîne que C (V ) ⊂ W et que la res-
triction à W de C est inversible, car W est isomorphe à une représentation V (n), n > 1.
Comme C commute à l’image de ϕ, son noyau est un sous-espace stable de V ; c’est un
supplémentaire de W .
Cas général. Si W est irréductible, on conclut par l’un des deux cas précédents.
Considérons sinon un sous-espace vectoriel stable non trivial U ⊂ W de dimension
minimale, de sorte que la sous-représentation de ϕ sur U est irréductible. Le sous-
espace stable W /U de la représentation quotient V /U est de codimension 1 ; comme
dimU > 0, il admet un supplémentaire par l’hypothèse de récurrence. Il existe ainsi
un sous-espace stable M ⊂ V tel que V /U = M/U ⊕ W /U. Alors, U est un sous-espace
 §6. UN EXEMPLE : sl2 (C) ET SL2 (C) 29

stable de codimension 1 de la sous-représentation sur M déduite de ϕ. Comme

dimU < dim V , l’espace U admet par récurrence un supplémentaire stable dans M,
lequel est automatiquement un supplémentaire (stable) de W dans V .
Par suite, toute représentation de dimension finie de sl2 (C) est une somme directe
V (p)dp .
M
V=
p >0

La multiplicité dp de la représentation V (p) dans la représentation V se détermine ai-

sément en considérant les valeurs propres de ϕ(H). En effet, comme les valeurs propres
de H agissant sur V (n) sont les entiers n − 2m, avec 0 6 m 6 n, celles de ϕ(H) sont
des entiers et pour tout entier k > 0, les multiplicités des valeurs propres k et −k sont
toutes deux égales à dk +dk+2 +. . . . Cela permet de décomposer explicitement certaines
représentations. Voici un exemple.

T HÉORÈME 6.8 (Formule de Clebsch-Gordan). — Si m et n sont deux entiers positifs

ou nuls, on a
min(m,n)
M
V (m) ⊗ V (n) ' V (p).
p=0

Démonstration. — L’action de H sur V (m) ⊗ V (n) se fait par la formule

H · (v ⊗ w) = (H · v) ⊗ w + v ⊗ (H · w).
Ses valeurs propres sont les sommes d’une valeur propre de H sur V (m) et d’une valeur
propre de H sur V (n), comptées avec multiplicités : ce sont les (m − 2p + n − 2q), avec
0 6 p 6 m et 0 6 q 6 n. Supposons m 6 n ; alors m + n − 2k est valeur propre avec la
multiplicité k + 1 si k 6 m, avec la multiplicité m + 1 si k 6 n, et avec la multiplicité
m + n + 1 − k si n 6 k 6 m + n. On a ainsi, si V (m) ⊗ V (n) = V (p)dp , les relations
L

d0 = d1 = · · · = dm = 1, et dp = 0 si p > m,
d’où la formule annoncée.
6.9. considérons maintenant une représentation analytique complexe ρ de SL2 (C) sur
un C-espace vectoriel de dimension finie V . Soit ϕ sa différentielle, elle est C-linéaire
par hypothèse. C’est ainsi une représentation l’algèbre de Lie complexe sl2 (C) sur V .
Soit W ⊂ V un sous-espace stable de ρ ; il est alors stable par ϕ. Inversement, le cal-
cul de l’exponentielle d’une matrice par blocs montre que, si W est stable par ϕ, alors
W est stable par l’image de l’exponentielle, donc par le sous-groupe de SL2 (C) qu’elle
engendre. Comme SL2 (C) est connexe (il est engendré par l’ensemble connexe des ma-
trices de transvections), W est un sous-espace stable de ρ. Autrement dit, ρ est irréduc-
tible si et seulement si sa différentielle l’est. De même, tout supplémentaire de W qui est
stable par sl2 (C) est un supplémentaire de W , stable par ρ. Puisque les représentations
de l’algèbre de Lie sl2 (C) sont semi-simples, la représentation ρ est semi-simple.
Nous avons déterminé toutes les représentations irréductibles de sl2 (C) et démon-
tré qu’elles proviennent toutes de représentations holomorphes du groupe SL2 (C).
Toute représentation holomorphe irréductible de SL2 (C) est donc isomorphe à l’une
30 CHAPITRE 2. REPRÉSENTATIONS

des V (n). De plus, toute représentation holomorphe de dimension finie de SL2 (C) est
somme directe de représentation irréductibles.
Exercices. — 1) Soit V , W deux espaces vectoriels de dimension finie, A ∈ End(V ), B ∈ End(W ),
de valeurs propres a1 , . . . , am et b1 , . . . , bn respectivement. Montrer que les valeurs propres de
l’endomorphisme A ⊗ idW + idV ⊗B de V ⊗ W sont, comptées avec multiplicité, les ai + b j , avec
1 6 i 6 m et 1 6 j 6 n. (Se ramener au cas où les ai et b j sont distincts par le principe de pro-
longement des identités algébriques ; considérer alors des bases formées de vecteurs propres.
2) Calculer de même le spectre de l’endomorphisme A ⊗ B de V ⊗ W (même méthode.) Une
autre approche consiste à expliciter la décomposition de Dunford–Jordan de A ⊗ B à partir de
celles de A et B.
3) Décomposer les représentations Symm V (n) et m V (n), pour m et n > 0.
V

4) Montrer que la contragrédiente de V (n) est isomorphe à V (n) ; déterminer l’ensemble des
isomorphismes de l’une sur l’autre.
CHAPITRE 3

REPRÉSENTATIONS DES GROUPES COMPACTS

Ce chapitre est de nature plus analytique et culmine avec le théorème de P ETER-

W EYL, généralisation aux groupes topologiques compacts de la théorie des séries de
Fourier. Nous allons voir que les représentations irréductibles d’un groupe compact
sont de dimension finie et que toute représentation unitaire sur un espace de Hilbert
(séparable) est somme directe hilbertienne de représentations irréductibles.

§1. Mesure de Haar

1.1. Si X est un espace topologique localement compact, on identifiera mesures de Ra-
don positives sur X et formes linéaires positives sur l’espace vectoriel Cc (X ) des fonc-
tions continues à support compact sur X .
Supposons qu’un tel espace soit muni d’une action à gauche d’un groupe G ; si g ∈
G, notons λg : X → X l’application x 7→ g · x (translation). Une mesure µ sur X est
dite Rinvariante (à gauche)
R si l’on a (λg )∗ µ = µ pour tout g ∈ G. Cela revient à dire
que X f (g x) dµ(x) = X f (x) dµ(x) pour toute fonction continue à support compact f
sur X et tout g ∈ G.
Il y a une notion analogue de mesure invariante lorsqu’on a une action à droite, et
une notion de mesure bi-invariante si l’on a deux actions, l’une à droite et l’autre à
gauche. Cela s’applique en particulier lorsque X = G, muni de ses deux actions par
translation à gauche et à droite.

T HÉORÈME 1.2. — Soit G un groupe topologique compact. Il existe une unique mesure
de probabilité invariante à gauche sur G. Cette mesure est aussi invariante à droite.

En fait, on peut démontrer que tout groupe topologique localement compact pos-
sède une mesure invariante à gauche, unique à un scalaire près, qu’on appelle mesure
de Haar. (C’est H AAR qui, le premier, en a démontré l’existence sous des hypothèses
un peu restrictives ; l’unicité est due à VON N EUMANN.) L’unique mesure de probabilité
bi-invariante sur un groupe compact est parfois appelée mesure de Haar normalisée.

Démonstration. — Nous supposerons que G est métrisable. L’espace de Banach C (G)

des fonctions continues sur G est alors séparable ; fixons une suite ( fn ) de fonctions
32 CHAPITRE 3. REPRÉSENTATIONS DES GROUPES COMPACTS

continues sur G qui est dense dans sa boule unité. Munissons le dual de C (G) de la to-
pologie faible-*, c’est-à-dire de la topologie
¯ de la convergence simple. Cette topologie
est définie par les semi-normes µ 7→ ¯µ( fn )¯, donc par la distance d définie par
¯

X −n ¯(µ − ν)( fn )¯
¯ ¯
d(µ, ν) = 2 ¯.
1 + ¯(µ − ν)( fn )¯
¯
n
pour laquelle cette boule unité est compacte (théorème de Banach-Alaoglu, consé-
quence du théorème de Tychonov). Soit en effet une suite (µi ) de mesures vérifiant
°µi ° 6 1 pour tout i . La suite (µi ( f1 ))i est alors bornée, donc admet une sous-suite
° °

convergente (µϕ1 (i ) ( f1 )). Par récurrence, il existe une fonction strictement croissante
ϕk : N → N telle que la suite (µϕ1 ◦···◦ϕk (i ) ( fk )) converge. Posons ϕ(i ) = ϕ1 ◦ · · · ◦ ϕi (i ) ;
la suite (µϕ(i ) )( fk )) converge ainsi pour tout entier k. Comme la suite (µϕ(i ) ) est équi-
continue et qu’elle converge (simplement) sur la partie dense { f1 , . . .}, elle converge en
tout point vers une forme linéaire µ, nécessairement de norme 6 1. Cela montre que la
suite (µi ) converge vers µ pour la topologie faible-*.
En particulier, l’ensemble P des mesures de probabilité sur G, muni de cette to-
pologie, est une partie convexe et compacte de l’espace des mesures. L’application Φ
de P dans R+ définie par
ϕ(µ) = 2−n ¯µ( fn )¯
X ¯ ¯
n
est continue, convexe, et même strictement convexe. Supposons en effet que ϕ(t µ +
(1 − t )ν) = t ϕ(µ) + (1 − t )ϕ(ν) pour µ, ν ∈ P et t ∈ [0, 1]. Alors, µ( fn ) et ν( fn ) sont de
même signe pour tout n. Par suite, pour toute fonction f ∈ C (G), µ( f ) et ν( f ) sont de
même signe. Cela entraîne que µ et ν sont proportionnelles, donc égales car ce sont
des mesures de probabilité.
Le groupe G agit sur P par translation à gauche et à droite ; ces actions seront notées
λ et δ. Posons alors pour µ ∈ P ,
Φ(µ) = sup ϕ((λg )∗ µ).
g ∈G

La fonction Φ est semi-continue inférieurement (comme sup de fonctions continues),

convexe (comme sup de fonctions convexes). Comme P est compact, l’ensemble des
mesures µ ∈ P telles que Φ(µ) = inf Φ est une partie P0 , convexe, compacte, non vide
de P . Par construction, Φ est G-invariante : Φ((λg )∗ µ) = Φ(µ) pour tout g ∈ G. Par
suite, P0 est stable par l’action de G.
Remarquons que l’application g 7→ (λg )∗ µ est continue. R En effet, si f ∈ C (G) et si
(g
R n ) est une suite d’éléments de G qui converge vers g , G f (g n x) dµ(x) converge vers
G f (g x) dµ(x) par convergence dominée (uniforme, même !). Comme G est compact,
la borne supérieure qui définit Φ est un maximum. Cela entraîne que Φ est strictement
convexe et donc que P0 est un singleton, d’où l’existence d’une mesure de probabilité
invariante à gauche sur G.
Par le même argument, G possède des mesures de probabilité invariantes à droite ;
on peut aussi pousser une mesure invariante à gauche par l’anti-isomorphisme g 7→
g −1 . Soit ainsi µ et ν des mesures de probabilité invariantes, respectivement à gauche
et à droite, sur G.
 §2. GÉNÉRALITÉS SUR LES REPRÉSENTATIONS CONTINUES DES GROUPES TOPOLOGIQUES 33

Soit f ∈ C (G). Nous allons calculer l’intégrale double G×G f (y x) dµ(x) dν(y) de deux
R

manières. On a en effet
Z Z µZ ¶ Z
f (y x) dµ(x) dν(y) = f (y x) dµ(x) dν(y) = µ( f ) dν(y) = µ( f )
G×G G G G
car µ est invariante à gauche et ν est de masse totale 1. De même, on a
Z Z µZ ¶ Z
f (y x) dµ(x) dν(y) = f (y x) dν(y) dµ(x) = ν( f ) dµ(x) = ν( f )
G×G G G G
car ν est invariante à droite et µ est de masse totale 1. Il en résulte que µ = ν. Cela
prouve à la fois l’unicité d’une mesure de probabilité invariante à gauche (resp. à
droite) sur G et sa bi-invariance.
1.3. Le cas des groupes de Lie. — Lorsque G est un sous-groupe fermé de GLn (C), on
peut donner une démonstration relativement simple de l’existence d’une mesure in-
variante à gauche sur G.
1.4. Exemples. —

§2. Généralités sur les représentations continues des groupes topologiques

2.1. Soit (ρ, V ) une représentation d’un groupe G. Si G est muni d’une topologie de
groupe et si V est muni d’une structure d’espace vectoriel topologique, on dit que la re-
présentation ρ est continue si l’application de G ×V dans V donnée par (g , v) 7→ ρ(g )(v)
est continue. Cela entraîne que pour tout g ∈ G, l’application linéaire ρ(g ) est continue.
Cela entraîne aussi que pour tout v ∈ V et tout ϕ ∈ V ∗ , la fonction sur G donnée par
g 7→ ϕ(ρ(g )(v)) est continue.
Si V est de dimension finie, chacun des coefficients matriciels de la matrice de ρ(g )
dans une base fixée de V est une fonction continue de g ∈ G. L’application ρ : G →
GL(V ) est alors continue.
Si V est de dimension infinie, l’application ρ n’est en général pas continue (exer-
cice 2).
2.2. Soit (ρ, V ) une représentation continue d’un groupe topologique ° G sur°un espace
vectoriel normé. L’application de G ×V dans R donnée par (g , v) 7→ °ρ(g )(v)° est conti-
° donc°un voisinage ouvert Ω de l’élément neutre
nue ; elle envoie G × {0} sur 0. Il existe
dans G et un réel δ > 0 tels que °ρ(g )(v)° 6 1 si g ∈ Ω et kvk 6 δ. En particulier,
°ρ(g )° 6 1/δ si g ∈ Ω.
° °

Supposons que G soit compact. On peut alors ° recouvrir G° par un

° nombre fini d’ou-
verts G de la forme Ωg i . Il en résulte que °ρ(g )° 6 max °ρ(g i )° /δ, si bien que les
°

normes des applications linéaires ρ(g ) sont uniformément bornées lorsque g ∈ G. Ap-
pliquant ceci à l’application linéaire ρ(g )−1 = ρ(g −1 ), on en déduit qu’il existe deux
réels strictement positifs m et M tels que
m kvk 6 °ρ(g )(v)° 6 M kvk
° °

pour tout g ∈ G et tout v ∈ V .

34 CHAPITRE 3. REPRÉSENTATIONS DES GROUPES COMPACTS

2.3. Soit (ρ, V ) une représentation continue d’un groupe topologique sur un espace
vectoriel topologique (en général un espace vectoriel normé). Nous ne considérerons
en général que les sous-espaces fermés de V . La représentation ρ sera par exemple dite
irréductible si V n’a pas de sous-espace vectoriel fermé stable non trivial. L’adhérence
d’un sous-espace stable (non nécessairement fermé) est encore stable. L’irréductibi-
lité au sens usuel entraîne ainsi l’irréductibilité au sens des représentations continues,
mais la réciproque n’est pas vraie en général(1) . En dimension finie, tout sous-espace
vectoriel est fermé, si bien que ces deux notions sont équivalentes.
2.4. Si (ρ1 , V1 ) et (ρ2 , V2 ) sont deux représentations continues de G, un opérateur d’en-
trelacement entre ρ1 et ρ2 , ou un morphisme de la représentation ρ1 vers la représen-
tation ρ2 est une application linéaire continue f : V1 → V2 telle que ρ2 (g ) ◦ f = f ◦ ρ1 (g )
pour tout g ∈ G.
Les constructions tensorielles usuelles sont définies dans ce contexte, pour autant
qu’elles ne mettent en jeu qu’un nombre fini de représentations.
Exercices. — 1) Soit G un groupe topologique localement compact et soit ρ une représenta-
tion de G sur un espace de Banach V telle que :
(i) pour tout g ∈ G, l’application v 7→ ρ(g )(v) est continue ;
(ii) pour tout v ∈ V , l’application g 7→ ρ(g )(v) est continue.
Démontrer à l’aide du théorème de Banach-Steinhaus ° existe un voisinage Ω de l’élé-
qu’il
ment neutre dans G et un réel C > 0 tels que l’on ait °ρ(g )° 6 C pour tout g ∈ Ω. En déduire
°

que ρ est une représentation continue.

2) Considérons la représentation ρ obtenue en faisant agir le groupe R/Z agissant sur l’espace
de Hilbert H = L2 (R/Z) par translations. Montrer qu’elle est continue et que pour tout g ∈ R/Z,
ρ(g ) est un automorphisme unitaire de H. Calculer la norme de ρ(g )−idH lorsque g ∈ R/Z est la
classe d’un nombre irrationnel. En conclure que l’application R/Z → GL(H) n’est pas continue.

§3. Unitarisation
3.1. Soit G un groupe compact, muni de son unique mesure de probabilité bi-
invariante. Soit V un espace vectoriel de dimension finie (sur R ou C) et soit
ρ : G → GL(V ) une représentation continue.
Soit π l’endomorphisme de V donné par
Z
π(v) = ρ(g )(v) d g , (v ∈ V ).
G
Si h ∈ G et v ∈ V , on a Z
ρ(h)(π(v)) = ρ(hg )(v) d g = π(v),
G
si bien que l’image de π est contenue dans l’espace V G des vecteurs invariants par G.
Inversement, si ρ(g )(v) = v pour tout g ∈ G, on a π(v) = v. Cela prouve que π est un
projecteur sur V G dans V .
Si de plus C est une partie convexe de V stable par ρ, on constate que π(C ) ⊂ C .

(1)
Trouver un exemple ?
 §3. UNITARISATION 35

3.2. Soit W un sous-espace stable de V et appliquons cet argument à la représentation

de G sur End(V ) déduite de ρ, prenant pour C l’espace affine des projecteurs dans V
sur W (qui est stable par G car pour tout projecteur p d’image W et tout g ∈ G, ρ(g ) ◦
ρ(g )−1 est un projecteur dans V d’image ρ(g )(W ) = W ). Il existe ainsi un projecteur
G-invariant sur W dans V ; son noyau est un supplémentaire stable de W .

C OROLLAIRE. — Toute représentation continue de dimension finie d’un groupe com-

pact est semi-simple.

3.3. Si (ρ, V ) est une représentation continue de G, G agit sur l’espace V ∗ ⊗ V ∗ des
∗
formes bilinéaires sur V , resp. sur l’espace V ⊗ V ∗ des formes sesquilinéaires sur V
sur le corps de base est C. Les produits scalaires (resp. hermitiens) en forment une
partie convexe, d’où l’existence d’un produit scalaire (hermitien) invariant sur V . Par
suite, la représentation (ρ, V ) est isomorphe à une représentation unitaire, c’est-à-dire
une représentation dont l’image est formée d’applications unitaires.
Du point de vue matriciel, cela montre que tout sous-groupe compact de GLn (R) ou
de GLn (C) est conjugué à un sous-groupe du groupe orthogonal On (R) (resp. du groupe
unitaire Un (C)).
Lorsque V est de dimension infinie, adapter cet argument requiert apparemment la
théorie, un peu subtile, des mesures vectorielles. Nous procéderons directement.

P ROPOSITION 3.4. — Soit G un groupe compact, muni de son unique mesure de proba-
bilité bi-invariante. Soit V un espace de Hilbert (réel ou complexe) et soit ρ : G → GL(V )
une représentation continue. Alors V possède un produit scalaire G-invariant qui défi-
nit une norme équivalente à la norme hilbertienne initiale. La représentation (ρ, V ) est
donc isomorphe à une représentation unitaire.

Démonstration. — Notons q le produit scalaire et k·k la norme initiaux sur V . Comme

G est compact, on a démontré qu’il existe deux réels m > 0 et M > 0 tels que
m 6 °ρ(g )° 6 M
° °

pour tout g ∈ G. Posons, pour v et w ∈ V ,

Z
q1 (v, w) = q(ρ(g )(v), ρ(g )(w)) d g .
G
Il est immédiat que cela définit une forme bilinéaire (sesquilinéaire) sur V et que
m kvk2 6 q1 (v, v) 6 M kvk2
pour tout v ∈ V . Par suite, q1 est un produit scalaire équivalent au produit scalaire ini-
tial sur V . Notons V1 l’espace V muni de q1 ; c’est un espace de Hilbert et la représen-
tation (ρ, V ) est isomorphe à la représentation (ρ, V1 ). Enfin, q1 est G-invariant, ce qui
montre que cette représentation est unitaire.
Exercice. — Soit ρ une représentation irréductible d’un groupe compact G sur un espace vec-
toriel complexe de dimension finie V . Montrer que deux produits scalaires invariants sur V
sont proportionnels.
36 CHAPITRE 3. REPRÉSENTATIONS DES GROUPES COMPACTS

§4. Coefficients matriciels, caractères

4.1. Soit G un groupe compact ; notons C (G) l’espace de Banach des fonctions conti-
nues sur G et L2 (G) l’espace de Hilbert des fonctions (à valeurs complexes, mesurables,
modulo l’égalité presque partout) sur G qui sont de carré intégrable pour la mesure
de probabilité invariante. Comme G est compact, C (G) est un sous-espace dense
de L2 (G).
4.2. Soit (ρ, V ) une représentation continue de G sur un C-espace vectoriel de dimen-
sion finie V . Nous désignerons par C (ρ) le sous-espace vectoriel de C (G) engendré par
les coefficients matriciels de ρ dans une base fixée de V . C’est aussi l’espace vectoriel
engendré par les fonctions de la forme g 7→ ϕ(ρ(g )(v)) pour v ∈ V et ϕ ∈ V ∗ . Il ne dé-
pend donc pas de la base choisie. En particulier, si ρ0 est une représentation isomorphe
à ρ, les espaces C (ρ) et C (ρ0 ) sont égaux.
Puisque G est compact, toute représentation ρ est somme directe de représentations
irréductibles ρi . L’espace C (ρ) est alors la somme des espaces C (ρi ) dans C (G).
La fonction constante égale à 1 est le coefficient matriciel de la représentation tri-
viale.
Si ρ1 et ρ2 sont deux représentations de dimension finie, les coefficients matriciels
de la représentation ρ1 ⊗ ρ2 (dans une base formée de tenseurs décomposés) sont les
produits d’un coefficient matriciel de ρ1 et de ρ2 . Il en résulte que l’espace C (ρ1 ⊗ ρ2 )
est le produit des espaces C (ρ1 ) et C (ρ2 ) dans C (G).
Les coefficients matriciels de la représentation Hom(ρ1 , ρ2 ) sont engendré par les
fonctions de la forme f1 (g −1 ) f2 (g ), où f1 est un coefficient matriciel de ρ1 et f2 un coef-
ficient matriciel de ρ2 . Si ρ1 et ρ2 sont unitaires, ρ1 (g −1 ) = ρ∗ (g ), si bien que les coeffi-
cients matriciels de Hom(ρ1 , ρ2 ) sont engendrés par les fonctions de la forme f1 f2 , avec
f1 ∈ C (ρ1 ) et f2 ∈ C (ρ2 ). En particulier, les coefficients matriciels de la représentation
contragrédiente ρ∗ sont les conjugués des coefficients matriciels de ρ.
Notons R (G) la somme des espaces C (ρ) dans C (G), lorsque ρ parcourt les (classes
d’isomorphisme) représentations de dimension finie de G. Il résulte de ce qui précède
que R (G) est une sous-algèbre de C (G) stable par la conjugaison complexe.
4.3. Soit ρ une représentation de G sur un espace vectoriel de dimension finie V . Rap-
pelons que nous avions défini un projecteur π sur V G dans V , donné par la formule
Z
π(v) = ρ(g )(v) d g , (v ∈ V ).
G

Si V G = 0, c’est-à-dire si V ne contient pas la représentation triviale, on a alors π = 0 :

les fonctions de C (ρ) sont de moyenne nulle.
4.4. Relations d’orthogonalité de Schur. — Appliquons ceci au cas à une représenta-
tion ρ de la forme Hom(ρ1 , ρ2 ), où ρ1 et ρ2 sont deux représentations unitaires irréduc-
tibles de G. Les coefficients matriciels de ρ sont engendrés par les fonctions de la forme
f1 f2 , où f1 et f2 sont des coefficients matriciels de ρ1 et ρ2 respectivement. Si ρ1 et ρ2 ne
sont pas isomorphes, on a Hom(ρ1 , ρ2 )G = 0. Par suite, les espaces C (ρ1 ) et C (ρ2 ) sont
orthogonaux dans L2 (G).
 §4. COEFFICIENTS MATRICIELS, CARACTÈRES 37

Soit (ρ, V ) une représentation unitaire irréductible de G et appliquons ceci à la re-

présentation Hom(ρ, ρ). D’après le lemme de Schur, Hom(ρ, ρ)G est l’ensemble des ho-
mothéties de V . Soit f ∈ End(V ) ; il existe un élément c( f ) ∈ C tel que π( f ) = c( f ) idV .
Pour calculer c( f ), rappelons que, par définition, G agit sur f par
g · ( f ) = ρ(g ) ◦ f ◦ ρ(g −1 )
pour g ∈ G, si bien que
Z Z
−1
(dim V )c( f ) = tr π( f ) = tr ρ(g ) ◦ f ◦ ρ(g )
¡ ¢
dg = tr( f ) d g = tr( f ),
G G
d’où l’égalité
1
Z
(4.5) ρ(g ) ◦ f ◦ ρ(g )−1 d g = tr( f ) idV .
G dim V
Considérons le cas particulier de l’application linéaire f : v 7→ 〈α, v〉β dont la trace
est 〈α, β〉. (Dans l’identification End(V ) ' V ∗ ⊗ V , f correspond au tenseur décomposé
(〈α, ·〉) ⊗ β.) Il vient, pour v ∈ V et w ∈ V ,
1
Z
〈α, β〉〈v, w〉 = 〈v, ρ(g ) ◦ f ◦ ρ(g )−1 (z)〉 d g
dim V
ZG
= 〈ρ(g −1 )(v), f ◦ ρ(g −1 )(w)〉 d g
ZG
= 〈ρ(g )(v), f ◦ ρ(g )(w)〉 d g
ZG
ρ(g )(v), 〈α, ρ(g )(w)〉β d g
­ ®
=
ZG
= 〈ρ(g )(v), β〉 〈α, ρ(g )(w)〉 d g
ZG
= 〈α, ρ(g )(w)〉 〈β, ρ(g )(v)〉 d g .
G
Soit n = dim V et soit (e1 , . . . , en ) une base orthonormée de V . Soit (ρi j (g )) la matrice
de ρ(g ) dans cette base. Si α = ei et w = e j , on a 〈α, ρ(g )(w)〉 = ρi j (g ). Les relations pré-
p
cédentes entraînent donc : lorsque 1 6 i , j 6 n, les fonctions dim V ρi j sur G forment
une base orthonormée de C (ρ). En particulier, dim C (ρ) = (dim V )2 .
4.6. Caractères. — Soit ρ une représentation continue d’un groupe compact sur un
C-espace vectoriel de dimension finie. On appelle caractère de ρ la fonction continue
g 7→ tr ρ(g ) sur G. On la note parfois χρ .
Si ρ est la somme des représentations ρ1 et ρ2 , son caractère est la somme des carac-
tères de ρ1 et ρ2 .
Si ρ1 et ρ2 sont deux représentations isomorphes, on a tr ρ1 (g ) = tr ρ2 (g ), car si f
est un isomorphisme V1 → V2 , ρ2 (g ) = f ◦ ρ1 (g ) ◦ f −1 et ρ1 (g ) ont même trace. Dans la
suite, on pourra en particulier se limiter aux caractères des représentations unitaires.
On en déduit ainsi que, χ désignant le caractère d’une représentation ρ, le caractère de
la représentation contragrédiente ρ∗ est la fonction g 7→ χ(g −1 ) = χ(g ).
38 CHAPITRE 3. REPRÉSENTATIONS DES GROUPES COMPACTS

On a
Z Z ¯¯dim V
¯
¯ XV 1
dim
¯χρ (g )¯2 d g = ρi i (g )¯ d g =
¯ ¯ X
= 1.
¯ ¯
¯
G G ¯ i =1 i =1 dim V
¯
De plus, si ρ1 et ρ2 sont deux représentations continues irréductibles non isomorphes,
leurs caractères sont donc orthogonaux dans L2 (G) puisque le caractère d’une repré-
sentation ρ est un élément de C (ρ). Les caractères d’une famille de représentations irré-
ductibles deux à deux non isomorphes forment donc une famille orthonormale.
Rappelons que toute représentation de dimension finie d’un groupe compact est
somme directe de représentations irréductibles. Soit (ρ, V ) une représentation, et soit
P n
ρ ' ρi i une décomposition de ρ en somme directe de représentations irréductibles
deux à deux non isomorphes. On a ainsi
χρ (g ) = ni χρi (g ).
X
i
Multiplions cette relation par χρ j et intégrons la sur G ; il vient
Z
n j = χρ j (g )χρ (g ) d g .
G
Par conséquent, deux représentations de dimension finie d’un groupe compact qui
ont même caractère sont isomorphes.
Calculons aussi la norme du caractère d’une représentation ρ. On a
Z
¯χρ (g )¯2 d g = n 2 .
¯ ¯ X
i
G i
En particulier, une représentation ρ d’un groupe compact est irréductible si et seulement
son caractère est de norme 1.
4.7. Produits de groupes. — Soit G1 et G2 deux groupes compacts, soit (ρ1 , V1 ) une re-
présentation de G1 et soit (ρ2 , V2 ) une représentation de G2 (toutes deux continues et de
dimension finie). Le groupe G = G1 ×G2 est alors muni d’une représentation continue
sur l’espace vectoriel V = V1 ⊗ V2 , en posant, pour g = (g1 , g2 ) ∈ G1 ×G2 ,
ρ(g ) = ρ1 (g1 ) ⊗ ρ2 (g2 ).
Notons (ρ1i j (g1 )) la matrice de ρ1 (g1 ) dans une base (e1 , . . . , en ) de V1 , et ρ2i j (g2 ) la ma-
trice de ρ2 (g2 ) dans une base ( f1 , . . . , fm ) de V2 . Dans la base formée des ei ⊗ f j , la ma-
trice de ρ est égale à (ρ1i i 0 (g1 )ρ2j j 0 (g2 )). Par suite, le caractère de ρ est donné par
n X
m
χρ (g ) = ρ1i i (g1 )ρ2j j (g2 ) = χρ1 (g1 )χρ2 (g2 ).
X
i =1 j =1

Par suite, ρ1 ⊗ ρ2 est irréductible si ρ1 et ρ2 le sont (voir aussi l’exercice 3, p. 24).

Inversement, considérons une représentation irréductible (ρ, V ) du groupe G. La re-
présentation du groupe G1 ⊂ G qu’elle définit par restriction est semi-simple : il existe
des représentations irréductibles (Vi ) de G1 , deux à deux distinctes, telle que l’applica-
tion linéaire M
Vi ⊗ HomG1 (Vi , V ) → V
i
 §5. LE THÉORÈME DE PETER-WEYL 39

soit un isomorphisme. Pour tout i , l’action de G2 sur V permet d’en déduire une
sur HomG1 (Vi , V ), d’où une action de G1 ×G2 sur Vi ⊗ HomG1 (Vi , V ), de sorte que cette
application linéaire soit un morphisme de représentations de G. Si V est irréductible, il
n’y a qu’un facteur, ce qui montre que (ρ, V ) est isomorphe à une représentation de la
forme ρ1 ⊗ ρ2 , où les deux représentations ρ1 et ρ2 sont nécessairement irréductibles.

§5. Le théorème de Peter-Weyl

5.1. La représentation (bi-)régulière. — Soit G un groupe compact et munissons le de
son unique mesure de probabilité bi-invariante. L’espace de Hilbert L2 (G) est alors doté
de deux actions de G, l’une par translation à droite, l’autre par translation à gauche :
r(g1 , g2 )( f ) = g 7→ f (g1−1 g g2 ) .
¡ ¢

Montrons que c’est une représentation unitaire continue de G ×G, que nous appellerons
représentation bi-régulière de G ×G. On en déduit deux représentations de G sur L2 (G),
par translations à droite ou à gauche ; on les appelle la représentation régulière droite
et la représentation régulière gauche de G.
Tout d’abord, r(g1 , g2 )( f ) appartient à L2 (G) et est de même norme que f , car la me-
sure d g est bi-invariante. Ainsi, r(g1 , g2 ) est un automorphisme unitaire de L2 (G). Pour
montrer que r est une représentation continue, il suffit alors de montrer que, f ∈ L2 (G)
étant fixée, l’application (g1 , g2 ) 7→ r(g1 , g2 )( f ) est continue de G ×G dans L2 (G). Quitte
à remplacer f par r(h1 , h2 )( f ), il suffit de montrer la continuité en l’élément neutre.
Soit ε > 0. Comme ° C (G)
2
° est dense dans L (G), il existe une fonction continue
ϕ ∈ C (G) telle que ° f − ϕ°2 6 ε. Puisque G est compact, ϕ est uniformément conti-
nue et il existe
¯ un voisinage Ω de l’élément neutre de G tel que Ω = Ω−1 et tel que
¯ϕ(g ) − ϕ(h)¯ 6 ε si g −1 h ∈ Ω. Alors, si g1 , g2 ∈ Ω et g ∈ G,
¯

¯ϕ(g −1 g g2 ) − ϕ(g )¯ 6 ¯ϕ(g −1 g g2 ) − ϕ(g g2 )¯ + ¯ϕ(g g2 ) − ϕ(g )¯ 6 2ε.

¯ ¯ ¯ ¯ ¯ ¯
1 1
Par suite, on déduit de l’inégalité de Cauchy-Schwarz que
°r(g1 , g2 )(ϕ) − ϕ° 6 2ε,
° °
2
et donc ° °
°r(g1 , g2 )( f ) − f ° 6 4ε.
2
Cela montre que l’application (g1 , g2 ) 7→ r(g1 , g2 )( f ) est continue en l’élément neutre
de G ×G et termine la démonstration de ce que la représentation bi-régulière de G ×G
sur L2 (G) est une représentation unitaire continue.
5.2. Soit (ρ, V ) une représentation irréductible de dimension finie d’un groupe com-
pact G. Considérons la représentation de G×G sur V ∗ ⊗V définie par π(g1 , g2 ) = ρ∗ (g1 )⊗
ρ(g2 ). L’application linéaire
Φ : V ∗ ⊗ V → L2 (G), (ϕ ⊗ v) 7→ g 7→ ϕ(ρ(g )(v)
¡ ¢

est un morphisme de représentations de G ×G. En effet, l’image par Φ ◦ π(g1 , g2 ) d’un

tenseur ϕ ⊗ v est la fonction qui, à g ∈ G, associe
ρ∗ (g1 )(ϕ)(ρ(g )(ρ(g2 )(v))) = (ϕ ◦ ρ(g1 )−1 )(ρ(g g2 )(v)) = ϕ(ρ(g1−1 g g2 )(v)).
40 CHAPITRE 3. REPRÉSENTATIONS DES GROUPES COMPACTS

C’est bien l’image par r(g1 , g2 ) de la fonction Φ(ϕ ⊗ v) : g 7→ ϕ(ρ(g )(v)). L’image de Φ
est le sous-espace C (ρ), donc Φ 6= 0 (si V 6= 0). Comme V ∗ ⊗ V est une représentation
irréductible de G ×G, Φ est injective et définit donc un isomorphisme
V ∗ ⊗ V → C (ρ)
de représentations de G ×G.
Si ρ est unitaire, il résulte des relations d’orthogonalité de Schur que

°Φ(ϕ ⊗ v)°2 = ¯ϕ(ρ(g )(v))¯2 d g = 1 °ϕ°2 kvk2 .

Z
° ° ¯ ¯ ° °
G dim V
p
Autrement dit, l’application linéaire dim V Φ est un isomorphisme de représentations
unitaires.
5.3. Inversement, soit V un sous-espace vectoriel de L2 (G), de dimension finie,
et stable par translation à droite. L’espace V définit donc une sous-représentation
de L2 (G). Soit ( f1 , . . . , fn ) une base de V . Pour tout g ∈ G, il existe donc une matrice
(ρi j (g )) telle que
n
ρi j (g ) f j (x),
X
fi (xg ) = 1 6 i 6 n,
j =1
et l’application g 7→ (ρi j (g )) est continue ; c’est la matrice de la sous-représentation
(rV , V ) de la représentation régulière sur V . Appliquons cet égalité lorsque x = e est
l’élément neutre de G ; il vient
n
ρi j (g ) f j (e),
X
fi (g ) =
j =1

ce qui montre que fi est une combinaison linéaire de coefficients matriciels de ρ : les
fi appartiennent à C (rV ). Ce sont en particulier des fonctions continues.
Si f ∈ C (V ), posons Z
π( f ) = f (g )π(g ) d g .
G
C’est un endomorphisme de V . Si f (g ) = ϕ(ρ(g )(v)), on a
Z
ψ(π( f )(w)) = ϕ(ρ(g )(v))ψ(ρ(g )(w)) d g = 〈ϕ, ψ〉〈v, w〉.
G
5.4. Soit alors (ρi , Vi ) une famille de représentations irréductibles, unitaires, de di-
mension finie, deux à deux non isomorphes, contenant un représentant de chaque
classe d’isomorphisme. Comme les espaces C (ρi ) sont deux à deux orthogonaux, ils
sont en somme directe, d’où un isomorphisme de représentations (préhilbertiennes)
C (ρi ) = R (G),
M ∗ M
Vi ⊗ Vi →
i i

où les sommes directes sont orthogonales.

T HÉORÈME (Peter-Weyl). — L’espace R (G) est dense dans C (G) (pour la topologie de la
convergence uniforme) et dans L2 (G) (pour sa topologie d’espace de Hilbert).
 §5. LE THÉORÈME DE PETER-WEYL 41

Lorsque G est un sous-groupe fermé de GLn (R) (ou GLn (C), cela revient au même),
on peut démontrer ce théorème assez simplement. En effet, dans ce cas les coeffi-
cients matriciels de la représentation naturelle suffisent à séparer les points de G.
Comme R (G) est une sous-algèbre involutive de C (G) et comme G est compact, il
résulte du théorème de Stone-Weierstrass, R (G) est dense dans C (G). Comme C (G)
est dense dans L2 (G), R (G) l’est alors aussi. Le cas général fera l’objet du paragraphe
suivant. Avant de donner des exemples, remarquons la conséquence suivante.

P ROPOSITION 5.5. — Soit G un groupe compact, muni de sa mesure de Haar normali-

sée, et soit (ρ j , V j ) une famille de représentations irréductibles de dimension finie de G.
Les conditions suivantes sont équivalentes :
a) toute représentation irréductible de dimension finie de G est isomorphe à l’une
des V j ;
b) les coefficients matriciels des représentations V j engendrent un sous-espace dense
de L2 (G) ;
b0 ) les coefficients matriciels des représentations V j engendrent un sous-espace dense
de C (G) ;
c) les caractères des représentations V j engendrent un sous-espace dense du sous-
espace de L2 (G) formé des fonctions invariantes par conjugaison ;
c0 ) les caractères des représentations V j engendrent un sous-espace dense du sous-
espace de C (G) formé des fonctions invariantes par conjugaison.

Démonstration. — Le théorème de Peter-Weyl estR que a) entraîne b) et b0 ). Si (ρ, V ) est

une représentation irréductible de G, l’intégrale G ρi j (hg h −1 ) d h est un multiple du
caractère de ρ. On en déduit facilement(2) que b) entraîne c) et que b0 ) entraîne c0 ). En-
fin, supposons qu’il existe une représentation (ρ, V ) de G, irréductible et de dimension
finie, qui ne soit pas dans la liste (ρ j , V j ). Son caractère χ est alors orthogonal aux ca-
ractères χ j des ρ j , ce qui contredit c). Cela contredit aussi c’) car C (G) est dense dans
L2 (G).
5.6. Cas particulier des groupes finis. — Si G est un groupe fini muni de la topologie
discrète, il est compact. Notons n = cardG. L’espace L2 (G) s’identifie alors à l’espace
des fonctions sur G, muni du produit scalaire hermitien
1 X
〈 f1 , f2 〉 = f1 (g ) f2 (g ).
CardG g ∈G
Son sous-espace des fonctions invariantes par conjugaison est de dimension r et les
caractères d’une famille (ρi , Vi )16i 6r de représentations complexes irréductibles de
dimension finie, deux à deux non isomorphes, en forment une base. Par suite, r est
égal au nombre de classes de conjugaison dans G. Soit ni la dimension de Vi . L’iso-
morphisme i Vi∗ ⊗ Vi ' L2 (G) entraîne la relation
L

n12 + · · · + nr2 = n.

(2)
vérifier
42 CHAPITRE 3. REPRÉSENTATIONS DES GROUPES COMPACTS

5.7. Exemple du groupe S1 . — C’est le groupe des nombres complexes de module 1. Il

est compact, commutatif. Son application exponentielle est θ 7→ exp(iθ). Sa mesure de
Haar normalisée est dθ/2π, où le représentant θ appartient à, disons, [0, 2π[.
Soit ρ : S1 → GL(V ) une représentation irréductible de S1 sur un C-espace vectoriel
de dimension finie. D’après le corollaire 4.2, on a dim V = 1, car S1 est commutatif.
L’application θ 7→ ρ(exp(iθ)) est un morphisme de groupes R → C∗ , donc est de la forme
θ 7→ exp(θx), avec x ∈ C, et exp(2iπx) = 1, c’est-à-dire x ∈ Z.
Cela montre que les représentations irréductibles de S1 sont de dimension 1, in-
dexées par un entier n ∈ Z : ρn : S1 → C∗ , z 7→ z n . L’espace C (ρn ) est de dimension 1,
engendré par la fonction z 7→ z n , de S1 dans C. L’espace R (S1 ) s’identifie à l’espace
C[z, z −1 ] des polynômes en z et en 1/z. D’après le théorème de Peter-Weyl, il est dense
dans C (S1 ) et dans L2 (S1 ).
On retrouve ainsi que toute fonction 2π-périodique de carré intégrable se décom-
pose en série trigonométrique (au sens L2 ) ; toute fonction continue 2π-périodique est
approchable uniformément par des polynômes trigonométriques. En ce sens, le théo-
rème de Peter-Weyl généralise la théorie des séries de Fourier.
Nous n’avons en revanche pas démontré de résultat analogue au théorème de Di-
richlet (convergence ponctuelle de la série de Fourier) ou de Fejér (convergence en
moyenne de Cesàro). La généralisation de la transformation de Fourier, c’est-à-dire
l’extension du théorème de Peter-Weyl au groupes non nécessairement compacts né-
cessite de faire intervenir des représentations de dimension infinie.
5.8. Exemple du groupe SU2 . — Considérons maintenant le groupe SU2 des matrices
unitaires 2×2. Il possède une représentation tautologique de dimension 2 ; définissons
V (n) comme la puissance symétrique n-ième de la représentation standard de SU2 .
C’est la restriction SU2 de la représentation de SL2 (C) que nous avions étudiée au pa-
ragraphe 6.9. Si (e1 , e2 ) est une base de la représentation tautologique de SU2 , une base
de V (n) est formée des e1k e2n−k , pour 0 6 k 6 n.
Montrons qu’elle est irréductible. Soit W un sous-espace de V (n) stable par SU2 .
Il est alors stable par l’algèbre de Lie su2 de SU2 . L’action de su2 sur V (n) n’est autre
que la puissance symétrique n-ième de la représentation standard de su2 ; c’est aussi
la restriction à su2 de la représentation de sl2 (C) sur V (n), dérivée de la représenta-
tion de SL2 (C) sur V (n). Rappelons que l’algèbre de Lie su2 de SU2 est l’ensemble des
matrices antihermitiennes de trace nulle. Elle est de dimension 3 sur R ; une base en
est µ ¶ µ ¶ µ ¶
i 0 0 1 0 i
, , .
0 −i −1 0 −i 0
Ces trois matrices forment une base sur C de sl2 (C). Par suite, l’espace W est stabilisé
par sl2 (C), donc aussi par SL2 (C), car ce groupe est connexe. Puisque la représentation
de SL2 (C) sur V (n) est irréductible, W = 0 ou W = V (n), ce qui montre que la représen-
tation V (n) de SU2 est irréductible.
Une matrice g de SU2 est diagonalisable dans une base ³orthonormée
´ (directe, si l’on
iϕ
veut), donc est conjuguée dans SU2 à une matrice g (ϕ) = e −iϕ0 . On a tr g = tr g (ϕ) =
0 e
2 cos ϕ et l’on peut choisir une détermination de ϕ dans l’intervalle [0, π]. Par ρn , la
 §6. DÉMONSTRATION DU THÉORÈME DE PETER-WEYL 43

matrice g (ϕ) multiplie le vecteur e1k e2n−k de V (n) par e(2k−n)iϕ . Le caractère de la repré-
sentation V (n) est ainsi égal à
n ei(n+1)ϕ − e−i(n+1)ϕ sin(n + 1)ϕ
χn (g ) = ei(n−2k)ϕ =
X
= ,
k=0 eiϕ − e−iϕ sin ϕ
avec tr g = 2 cos ϕ. On en déduit la relation
χm (g )χn (g ) = χm+n (g ) + χm+n−2 (g ) + · · · + χ|m−n| (g ).
On retrouve ainsi le fait que la représentation V (m) ⊗ V (n) est isomorphe à la somme
directe des représentations V (m +n), V (m +n −2), . . ., V (|m − n|) (formule de Clebsch-
Gordan, th. 6.8).
Il en résulte que l’espace vectoriel engendré par les coefficients matriciels des re-
présentations V (n), n > 1, est une sous-algèbre de l’algèbre des fonctions continues
sur SU2 . Elle est stable par conjugaison complexe (comme V (n) admet un produit sca-
laire invariant par SU2 , elle est isomorphe à la représentation V (n)∗ .) Elle sépare les
points (les coefficients matriciels de V (1) y suffisent). D’après le théorème de Stone-
Weierstrass, elle est donc dense dans C (SU2 ). D’après la proposition 5.5, toute repré-
sentation irréductible de dimension finie de SU2 est l’une des représentations V (n).
Exercices. — 1) Soit V un sous-espace de dimension finie de L2 (G) qui est stable par transla-
tion à droite. Montrer que V est contenu dans R (G). En déduire que R (G) est la plus grande
sous-représentation semi-simple de R (G).
2) Démontrer que la représentation V (n) de SU2 est irréductible en la restreignant aux ma-
trices diagonales de SU2 et aux matrices de O2 .
3) Montrer qu’une matrice de SU2 est de la forme ab −āb̄ , avec |a|2 + |b|2 = 1. En déduire un
¡ ¢

homéomorphisme de SU2 sur la sphère unité de R4 . Calculer la mesure de Haar de SU2 .

4) L’application SU2 → [−2, 2], g 7→ tr g induit une bijection de l’ensemble des classes de conju-
gaison de SU2 sur l’intervalle [−2, 2]. Si l’on munit l’ensemble des classes de conjugaison de la
topologie quotient, c’est un homéomorphisme. Calculer l’image directe de la mesure de Haar
de SU2 sur [−2, 2]. En utilisant le fait que les séries trigonométriques en sin sont denses dans
l’ensemble des fonctions impaires sur [0, π], re-démontrer que toute représentation irréduc-
tible de dimension finie de SU2 est l’une des représentations V (n).

§6. Démonstration du théorème de Peter-Weyl

6.1. Opérateurs à noyau. — Soit X un espace métrique compact muni d’une mesure
de Radon µ. Soit K ∈ L 2 (X × X ) ; on définit l’opérateur TK « de noyau K » sur L2 (X ) par
la formule Z
TK ( f )(x) = K (x, y) f (y) dµ(y).
X
Par l’inégalité de Cauchy-Schwarz,
Z Z
¯TK ( f )(x)¯ 6 ¯K (x, y)¯ dµ(y) ¯ f (y)¯2 dµ(y),
¯ ¯2 ¯ ¯2 ¯ ¯
X X
d’où l’inégalité ° ° ° °
°TK ( f )° 6 kK k2 ° f °
2 2
44 CHAPITRE 3. REPRÉSENTATIONS DES GROUPES COMPACTS

qui montre que TK est une application linéaire continue de L2 (X ) dans lui-même, de
norme 6 kK k2 .
Soit f et g des éléments de L2 (X ). On a
Z
〈 f , TK (g )〉 = f (x)g (y)K (x, y) dµ(x) dµ(y) = 〈TK ∗ ( f ), g 〉
X ×X

où K est le noyau défini par K ∗ (x, y) = K (y, x). En particulier, si K est symétrique à
∗

valeurs réelles, TK est autoadjoint.

Les combinaisons linéaires de fonctions sur X × X de la forme g ⊗ h : (x, y) 7→
g (x)h(y), pour g et h dans L2 (X ), sont denses dans L2 (X × X ). Pour tout ε > 0, il existe
ainsi des fonctions g i , hi (1 6 i 6 n) dans L2 (X ) telles que
n
°K − K̃ ° 6 ε,
° ° X
2 K̃ = g i ⊗ hi .
i =1

Alors, pour f ∈ L2 (X ),
n µZ
X
¶
TK̃ ( f ) = hi (y) f (y) dµ(y) g i ,
i =1 X

et
°T − TK ° 6 ε.
° °
K̃
Autrement dit, les opérateurs à noyau sont des limites d’opérateurs de rang fini. Cela
entraîne qu’ils sont compacts, c’est-à-dire que pour tout noyau K , l’image par TK de la
boule unité de L2 (X ) est d’adhérence compacte dans L2 (X ).

T HÉORÈME 6.2. — Soit H un espace de Hilbert séparable et soit T : H → H un opérateur

compact autoadjoint sur H. Pour tout nombre complexe λ, notons Hλ le noyau de T −
λ idH et soit S l’ensemble des λ ∈ C tels que Hλ 6= 0.
a) L’ensemble S est contenu dans R.
b) Si λ 6= µ, Hλ et Hµ sont orthogonaux.
c) Pour tout λ 6= 0, Hλ est un sous-espace de dimension finie de H.
d) Pour tout t > 0, l’ensemble des λ ∈ T vérifiant |λ| > t est fini.
e) La somme directe des Hλ pour λ ∈ S est dense dans H.

Démonstration. — Les deux premières assertions sont classiques. Si f ∈ Hλ et g ∈ Hµ

sont non nuls,
µ〈 f , g 〉 = 〈 f , T (g )〉 = 〈T ( f ), g 〉 = λ̄〈 f , g 〉.
Prenant λ = µ et f = g , il vient λ = λ̄ ; prenant λ 6= µ, on en déduit 〈 f , g 〉 = 0.
Considérons par l’absurde une suite (λn ) d’éléments distincts de S vérifiant |λn | >
1/t pour tout n. Pour tout entier n, soit fn un élément de Hλn dont la norme est égale
à 1. Si n 6= m,
° q
°T ( fn ) − T ( fm )° = °λn fn − λm fm ° = λ2 + λ2 > 2/t
° ° °
n m

et la suite (T ( fn )) ne peut pas admettre de sous-suite convergente. Cela contredit l’hy-

pothèse que T est un opérateur compact et montre l’assertion c).
 §6. DÉMONSTRATION DU THÉORÈME DE PETER-WEYL 45

Pour tout λ ∈ S l’espace Hλ est fermé dans H et l’application linéaire T induit la

multiplication par λ sur Hλ . Supposons λ 6= 0. Soit ( fn ) une suite d’éléments de Hλ de
normes 6 1. La suite (T ( fn )) = (λ fn ) possède une sous-suite convergente, car l’opéra-
teur T est compact. Il en résulte que la suite ( fn ) possède une sous-suite convergente
dans H, donc dans Hλ qui est fermé. La boule unité de Hλ est donc compacte et le
théorème de Riesz entraîne que Hλ est de dimension finie.
Montrons la dernière assertion. Soit V la somme directe des Hλ et soit W son ortho-
gonal dans H. Nous devons montrer que V est dense dans H, c’est-à-dire W = 0. Or,
V est stable par T , si bien que W est stable par T . L’espace W est fermé dans H, donc
est un espace de Hilbert et l’application linéaire T définit ainsi un opérateur autoad-
joint compact sur W . Si W 6= 0, le lemme suivant montre que T |W admet une valeur
propre, ce qui est absurde puisqu’un vecteur propre de T |W est vecteur propre de T ,
donc appartient à l’un des Hλ .

L EMME 6.3. — Soit H un espace de Hilbert et soit T un opérateur linéaire autoadjoint

compact sur H. Alors T possède une valeur propre de valeur absolue égale à kT k.

Démonstration. — On peut bien sûr supposer que T 6= 0. Pour tout f ∈ H, on a

°T ( f )°2 = 〈T ( f ), T ( f )〉 = 〈T 2 ( f ), f 〉 6 °T 2 ° ° f °2 ,
° ° ° °° °

si bien que kT k2 6 °T 2 °, d’où les égalités,

° °

kT k2 = sup 〈T 2 ( f ), f 〉 = °T 2 ° .
° °
k f k61
° ° ° °
Soit ( fn ) une suite d’éléments de H tels que ° fn ° = 1 et que la suite °T ( fn )° converge
vers kT k. Posons g n = T ( fn ) ; quitte à extraire une suite ° ° suite, on peut supposer que
la suite (g n ) converge vers un élément g de H. On a °g ° = kT k. Posons M = kT k2 . En
passant à la limite dans l’inégalité
° °2 °
°g n ° = °T fn °2 = 〈 fn , T 2 fn 〉 6 ° fn ° °T g n ° = °T g n ° ,
° ° °° ° ° °

° ° ° °2
on en déduit que °T g ° > °g ° , d’où en fait l’égalité.
Si U = T 2 , on a pour tout entier n,
°U(g n ) − M g n °2 = °U(g n )°2 − 2M〈U(g n ), g n 〉 + M 2 °g n °2 ,
° ° ° ° ° °

d’où il résulte que

°U(g ) − M g °2 = lim °U(g n ) − M g n °2 = °T 2 (g )°2 − 2M〈T 2 (g ), g 〉 + M 2 °g °2

° ° ° ° ° ° ° °
n
°2 °2
6 kT k2 °T (g )° − 2M °T (g )° + M 2 kT k2 6 0
° °

si bien que g est un vecteur propre de U pour la valeur propre M = kT k2 . L’espace

propre correspondant est de dimension finie, car U est encore autoadjoint et compact ;
il est en outre stable par T . La diagonalisation de T sur cet espace propre montre que
ses valeurs propres y sont ± kT k.
46 CHAPITRE 3. REPRÉSENTATIONS DES GROUPES COMPACTS

6.4. Supposons de plus que K soit continue sur X × X . Alors, pour toute fonction f ∈
L2 (X ), T ( f ) est continue sur X et
µZ ¶1/2
¯K (x, y)¯2 dµ(y)
° ° ¯ ¯ ° ° ° °
°T ( f )° 6 sup ° f ° 6 kK k∞ ° f ° ,
∞ 2 2
x X

ce qui montre que T est une application linéaire continue de L2 (X ) dans C (X ).

6.5. Soit δ ∈ C (G) une fonction continue à valeurs réelles positives telle δ(x −1 ) = δ(x)
pour tout x ∈ G. Considérons l’opérateur à noyau T : L2 (G) → L2 (G) défini par
Z
T ( f )(g ) = δ(g x −1 ) f (x) d x.
G

C’est en particulier un opérateur compact auto-adjoint de L2 (G) dans lui-même. Par

suite, l’espace L2 (G) est la somme hilbertienne du noyau N de T et des espaces propres
Vλ de T , chacun étant de dimension finie.
Si h ∈ G, on a de plus
Z Z
T ( f )(g h) = δ(g hx ) f (x) d x = δ(g (xh −1 )−1 ) f (xh −1 h) d x
−1

ZG G

= δ(g y) f (y h) d y.
G
Autrement dit, T est un endomorphisme de la représentation régulière droite et
chaque espace propre Vλ est un sous-espace de dimension finie de L2 (G), stable par
translation à droite. Cela entraîne que Vλ est contenu dans R (G). Par suite, pour toute
fonction f ∈ L2 (G), T ( f ) appartient à l’adhérence de R (G) dans L2 (G).
6.6. Soit f ∈ C (G). Comme G est compact, f est uniformément continue. Soit ε > 0
et soit Ω un voisinage de l’élément neutre de G tel que ¯ f (g ) − f (h)¯ 6 ε si g −1 h ∈ Ω.
¯ ¯

Soit δ une fonction continue positive d’intégrale 1 sur G à support contenu dans Ω et
considérons l’opérateur T défini au paragraphe précédent. Pour tout g ∈ G, on a
Z
¯T ( f )(g ) − f (g )¯ 6 δ(g x −1 ) ¯ f (x) − f (g )¯ d x 6 ε,
¯ ¯ ¯ ¯
G

f ) − f °°2 6 ε. Soit ϕ un élément de R (G) tel

d’où°°T ( f ) − f°° 6 ε et a fortiori, °T ( °
° ° ° °

que °T ( f ) − ϕ°2 6 ε. Il en résulte que ° f − ϕ°2 6 2ε, ce qui prouve que l’adhérence
de R (G) dans L2 (G) contient C (G), donc est égale à C (G).
Il reste à montrer que R (G) est dense dans ° C (G). Soit
° f ∈ C (G) et soit ε > 0. Choisis-
sons δ comme précédemment, de sorte que T ( f ) − f ° 6 ε. Soit ϕ ∈ R
°
¯ (G) une fonction
telle que °f − ϕ 2 6°ε/ ∞ . Alors, T (ϕ) appartient à R (G) et vérifie T ( f ) − T (ϕ) 6 ε.
° ° ¯
° ° kδk ¯ ¯
Par suite, f − T (ϕ) 6 2ε, ce qui montre que R (g ) est dense dans C (G).
° °

Exercices. — 1) Soit T un opérateur sur un espace de Hilbert H et soit ξ un vecteur unitaire

de H tel que
|〈ξ, T (ξ)〉| = sup |〈x, T (x)〉| .
kξk=1

Montrer que si 〈ξ, y〉 = 0, alors 〈ξ, T (y)〉 = 0. En déduire que ξ est vecteur propre de T .
 §6. DÉMONSTRATION DU THÉORÈME DE PETER-WEYL 47

2) Soit T un opérateur autoadjoint compact sur un espace de Hilbert H. Soit M la borne supé-
rieure des |〈T (x), x〉|, lorsque x ∈ H, kxk = 1.
Considérer une suite (xn ) d’éléménts de norme 1 dans H telle |〈T (xn ), xn 〉| converge vers M.
Montrer que l’on peut supposer, quitte à en extraire une sous-suite, que (xn ) converge faible-
ment vers un élément ξ tel que kξk = 1, et que (T (xn )) converge. Montrer que |〈T (ξ), ξ〉| = M. En
déduire que ξ est vecteur propre de T .
CHAPITRE 4

VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

§1. Notion de variété différentielle

1.1. Atlas. — Il y a deux façons d’approcher la notion de variété. Dans le point de vue
« atlas » , on se donne un espace topologique M (1) , un recouvrement ouvert (Ui ) de M
et, pour tout i , un homéomorphisme ϕi : Ui → Ωi où Ωi est un ouvert de Rn . Les ϕi
sont appelés cartes locales et les Ui ouverts de cartes. On impose en outre que pour
tout couple (i , j ), la composition
ϕ−1
i ϕj
ϕi , j : ϕi (Ui ∩U j ) −−→ Ui ∩U j −→ ϕi (Ui ∩U j )
soit un difféomorphisme de classe C ∞ . On peut demander seulement que ces difféo-
morphismes soient de classe C k , ou dans l’autre sens, exiger que ce soient des dif-
féomorphismes analytiques réels (ce qu’on note parfois C ω ) ; cela définit la notion de
variété de classe C k , ou de variété analytique réelle.
Sur une telle variété, le calcul différentiel (C ∞ , C k , voire holomorphe) garde un sens.
Si U est un ouvert de M, on dit en effet qu’une fonction f : U → R est C ∞ si pour toute
carte (Ui , ϕi ), la fonction f ◦ ϕ−1
i
sur l’ouvert Ωi ∩ ϕi (U ∩Ui ) de Rn soit de classe C ∞ .
De la même façon, on peut définir la notion d’application C ∞ d’une variété dans
une autre : les applications qu’on peut écrire dans des cartes sont C ∞ . D’où aussi la
notion d’isomorphisme (difféomorphisme) de variétés, etc.
1.2. Faisceaux. — Cela nous amène au point de vue « faisceaux » dans lequel une va-
riété est la donnée d’un espace topologique M et, pour tout ouvert U ⊂ M, d’un en-
semble de fonctions continues C ∞ (U), vérifiant les propriétés suivantes :
– soit V un ouvert de M et f : V → R ; la fonction f est C ∞ si et seulement si pour
tout x ∈ V , il existe un voisinage Vx de x contenu dans U tel que f |Vx soit C ∞ sur Vx
(propriété de faisceau) ;
– pour tout point x ∈ M, il existe un voisinage Vx ⊂ M et un homéomorphisme
ϕx : Vx → Ωx , où Ωx est un ouvert de Rn , de sorte que pour tout U ⊂ Vx et toute fonction
f : U → R, f appartient à C ∞ (U) si et seulement si f ◦ ϕ−1
x appartient à C (ϕx (U)).
∞

(1)
L’usage veut qu’on se restreigne aux espaces séparés — deux points distincts ont des voisinages ou-
verts disjoints — et paracompacts — tout recouvrement ouvert admet un raffinement localement fini.
50 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

Une application continue ϕ : M → N entre deux variétés est dite C ∞ si pour tout
ouvert V ∈ N et toute fonction f ∈ C ∞ (V ), la fonction f ◦ ϕ appartient à C ∞ (ϕ−1 (V )).
Il est pratique de définir l’ensemble CM,x
∞
des germes de fonctions C ∞ en un point x
d’une variété M. C’est un couple (U, f ) où U est un voisinage ouvert de x et f une fonc-
tion C ∞ sur U, modulo la relation d’équivalence : (U, f ) ∼ (V, g ) s’il existe un voisinage
W de x contenu dans U ∩ V tel que f |W = g |W (« f et g coïncident sur un voisinage
de x »).
1.3. Ces deux points de vue sont équivalents. Soit M une variété définie par un atlas.
Le faisceau des fonctions C ∞ sur M vérifie les axiomes ci-dessus : qu’une fonction soit
C ∞ se vérifie dans un ouvert de carte, et dans un tel ouvert, identifié à un ouvert de Rn ,
les fonctions C ∞ sont exactement les fonctions C ∞ usuelles.
Inversement, soit M une variété définie par le point de vue faisceaux. On considère le
recouvrement ouvert de M formé des voisinages Vx . Montrons que les (Vx , ϕx ) forment
un atlas. Il suffit de vérifier que l’homéomorphisme ψx,y = ϕx ◦ ϕ−1 y , de l’ouvert U y =
ϕ y (Vx ∩ V y ) de Ω y sur l’ouvert Ux = ϕx (Vx ∩ V y ) de Ωx , est un difféomorphisme. Par
hypothèse, les fonctions y1 , . . . , yn sont C ∞ sur U y , donc les fonctions y j ◦ ϕ y sont C ∞
sur Vx ∩V y . Par suite, les fonctions ψ∗x,y (y j ) = y j ◦ψx,y sont C ∞ sur Ux . D’après le lemme
ci-dessous, cela montre que les composantes de ψx,y sont des fonctions C ∞ . De même,
les composantes de ϕ y ◦ ϕ−1 x sont des fonctions C . Il en résulte que ϕ y ◦ ϕx est un
∞ −1

C -difféomorphisme.
∞

L EMME 1.4. — Soit U un ouvert de Rn , V un ouvert de Rm et f : U → V une application.

On écrit f = ( f1 , . . . , fm ), où les f j sont des fonctions de U dans R. On a les propriétés
équivalentes, où k ∈ {0, 1, . . . , ∞, ω}.
a) l’application f est de classe C k ;
b) les fonctions f j sont de classe C k ;
c) pour toute fonction ϕ : V → R, ϕ ◦ f est de classe C k .

La démonstration est laissée en exercice.

1.5. Sous-variétés. — Soit Ω un ouvert de Rn et soit X une partie de Ω. S’il existe n − p
fonctions f1 , . . . , fn−p ∈ C ∞ (Ω) telles que
a) X est le lieu où f1 ,. . ., fn−p s’annulent ;
¡ ∂ fi ¢
b) en tout point x de X , la matrice des dérivées partielles ∂x j est de rang n − p,
on dit alors que X est une sous-variété de dimension p. Plus généralement, on dit que X
est une sous-variété de dimension p si tout point x de Ω possède un voisinage U tel que
X ∩U soit une sous-variété de dimension p de U au sens précédent. Une sous-variété
est automatiquement fermée ; le fait d’être une sous-variété est stable par difféomor-
phisme de l’espace ambient.
Le théorème des fonctions implicites permet de montrer qu’une partie fermée X
de Ω est une sous-variété de dimension p si et seulement si pour tout point x de X ,
il existe un voisinage U de 0 dans Rp , un voisinage V de x dans Ω et une application
f : U → V tels que
 §2. FIBRÉ TANGENT 51

a) X ∩ V = f (U) ;
b) f est injective, de même que sa différentielle en tout point de U (on dit que f est
une immersion injective).
On dit alors qu’une partie N d’une variété M est une sous-variété si pour toute carte
(U, ϕ), ϕ(N ∩U) est une sous-variété de ϕ(U).
Un couple (N, i ) formé d’une variété N et d’une immersion injective i : N → M est
appelé sous-variété immergée de M. On prendra garde que son image n’est pas néces-
sairement une sous-variété de M (à moins que i ne soit propre).
1.6. Produits. — Si M et N sont deux variétés de dimensions m et n, leur produit M×N
est muni d’une structure naturelle de variété, dont la dimension est m + n. Si (Ui , ϕi )
est un atlas de M et (V j , ψ j ) est un atlas de N, la famille (Ui × V j , (ϕi , ψ j )) est un atlas
de M × N.
1.7. Variétés analytiques complexes. — Soit M une variété qui est définie à l’aide de
cartes (Ui , ϕi ) telles que les Ωi soient des ouverts de Cn et telles que les difféomor-
phismes ϕi , j soient des applications holomorphes (c’est-à-dire développable en série
entière au voisinage de tout point). On peut alors définir sur M le faisceau OM des fonc-
tions holomorphes : une fonction f sur un ouvert de M à valeurs complexes sera dite
holomorphe si f ◦ ϕ−1 i
: Ωi → C. Alors, le couple (M, OM ) est localement isomorphe au
couple formé d’un ouvert de Cn et du faisceau des fonctions holomorphes sur cet ou-
vert. Inversement, donnons-nous un tel couple. Cela permet de définir la notion d’ap-
plication holomorphe vers un ouvert de Cn et donc de carte holomorphe, d’où une
description en terme d’atlas.
Comme les fonctions holomorphes sont C ∞ , on peut définir le faisceau CM ∞
qui dans
une (ou dans toute) carte, s’expriment par une fonction C . Le couple (M, CM
∞ ∞
) est
2n
alors localement isomorphe au couple formé d’un ouvert de R et du faisceau des
fonctions C ∞ sur cet ouvert, ce qui munit M d’une structure de variété différentielle
(analytique) réelle de dimension 2n.

§2. Fibré tangent

2.1. Vecteurs tangents. — Il y a plusieurs façons équivalentes de définir un vecteur
tangent en un point x d’une variété M.
La plus abstraite : c’est une dérivation en x, c’est-à-dire une application X : CM,x∞
→R
telle que X ( f g ) = f (x)X (g ) + g (x)X ( f ).
On peut aussi définir un vecteur tangent comme une classe d’équivalence de germe
de courbe γ : I → M, où I est un voisinage de 0 dans R et γ une application C ∞ telle que
γ(0) = x. La relation d’équivalence est la suivante : (I, γ) ∼ (J, θ) si pour toute fonction
f ∈ CM,x
∞
, on a ( f ◦ γ)0 (0) = ( f ◦ θ)0 (0). Cela équivaut aussi à dire que pour une carte
ϕ : U → Ω contenant x, (ϕ ◦ γ)0 (0) = (ϕ ◦ θ)0 (0) (et cela est alors vrai pour toute carte. . .).
La dernière, à la fois bizarre et commode : un vecteur tangent en un point ξ de Rn
est un vecteur de Rn (« posé en x », si cela avait un sens) ; un vecteur tangent en point x
de M est la donnée, pour toute carte (U, ϕ) d’un vecteur X ϕ en ϕ(x) tel que l’on ait, si
52 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

(U, ϕ) et (V, ψ) sont deux ouverts de cartes contenant x,

X ϕ = (ϕ ◦ ψ−1 )0 (x)(X ψ ) où (ϕ ◦ ψ−1 ) : ψ(U ∩ V ) → ϕ(V ∩U).
Il suffit ainsi de se donner un vecteur tangent dans une carte pour en déduire sa valeur
dans les autres.
Esquissons la démonstration de l’équivalence de ces notions. On peut supposer que
M est un ouvert de Rn . Si (I, γ) est un germe de courbe en x, on définit une dérivation
en x par la formule f 7→ ( f ◦ γ)0 (0). Le vecteur tangent en un point de Rn de coordon-
nées (a1 , . . . , an ) correspond à la dérivation a1 ∂x∂1 + · · · + an ∂x∂n . Inversement, soit D une
dérivation en x sur Rn . Si f est une fonction C ∞ sur un voisinage de x,
Z 1 n
f 0 (x + t (y − x))(y − x) d t = f (x) +
X
f (y) = f (x) + g j (y)(y j − x j ),
0 j =1
R1 ∂f ∂f
avec g j (y) = 0 ∂x j (x +t (y −x)) d t . Les fonctions g j sont C ∞ et l’on a g j (x) = ∂x (x). Par
j
suite,
n ¡
X ¢ X n ∂f
D( f ) = 0 + D(g j )(y j − x j )| y=x + g j (x)D(y j − x j ) = D(y j ) (x).
j =1 j =1 ∂x j
Par suite, toute dérivation est associée à un vecteur tangent. Enfin, il est facile, dans
un ouvert de Rn , de prolonger un vecteur tangent en un germe de courbe définissant
la même dérivation (prendre une ligne droite !) ; pour une variété, on fait de même en
choisissant une carte.
2.2. On note Tx M l’ensemble des vecteurs tangents en un point x d’une variété M.
C’est un espace vectoriel de dimension dim M. Un morphisme de variétés f : M → N
possède, en tout point x ∈ M, une différentielle Tx f : Tx M → T f (x) N définie par la for-
mule
Tx f (X )(ϕ) = X (ϕ ◦ f ),
si ϕ est une fonction C sur N dans un voisinage de f (x) et X une dérivation en x. Si X
∞

est la classe d’un germe de courbe (I, γ), Tx f (X ) est la classe du germe (I, f ◦γ). Dans des
cartes (U, ϕ) de M et (V, ψ) de N, f induit une fonction C ∞ , F = ψ◦ f ◦ϕ−1 ϕ(U) → ψ(V )
et l’on a F 0 (ϕ(x))(X ϕ ) = Yψ , si X ϕ est l’expression du vecteur tangent X dans la carte
(U, ϕ) et Yψ est l’expression du vecteur tangent Y = Tx f (X ) dans la carte (V, ψ).
Si f : M → N et g : N → P sont des morphismes de variétés, leur composée g ◦ f l’est
et l’on a
Tx (g ◦ f ) = T f (x) (g ) ◦ Tx ( f ) : Tx M → Tg ( f (x)) P.
2.3. Champs de vecteurs. — Un champ de vecteurs (disons de classe C ∞ , mais la défi-
nition générale est analogue) sur un ouvert U de Rn n’est rien d’autre qu’une applica-
tion C ∞ de U dans Rn . Soit M une variété. Un champ de vecteurs sur un ouvert U de M
est la donnée, en tout point x ∈ U, d’un vecteur tangent X (x) en x, de sorte que pour
tout ouvert de carte (V, ϕ), l’application ξ 7→ X ϕ (ϕ−1 (ξ)) soit un champ de vecteurs C ∞ .
Un tel champ de vecteurs X définit par la formule X ( f ) = x 7→ X (x)( f ) un endomor-
phisme R-linéaire X de C ∞ (U) dans lui-même qui vérifie la relation X ( f g ) = g X ( f ) +
f X (g ). Inversement une telle application définit un unique champ de vecteurs.
 §2. FIBRÉ TANGENT 53

Soit f : M → N un difféomorphisme. La différentielle de f s’étend alors en une ap-

plication notée T f ou f∗ des champs de vecteurs sur M vers les champs de vecteurs
sur N, par la formule f∗ (X )( f (x)) = (Tx f )(X ), où X est un champ de vecteurs sur M et
x ∈ M. On a (g ◦ f )∗ = g∗ ◦ f∗ , si g : N → P est un second difféomorphisme de variétés.
Soit f : M → N un difféomorphisme local, c’est-à-dire que tout point x ∈ M possède
un voisinage ouvert Vx tel que f |Ux soit un difféomorphisme de Ux sur Vx = f (Ux ). Pour
tout champ de vecteurs X sur N, on peut alors définir un champ, noté f ∗ (X ), dont
la restriction à l’ouvert Ux est le champ (( f |Ux )−1 )∗ (X |Vx . Si g : N → P est un second
difféomorphisme local, la composition g ◦ f est un difféomorphisme local et l’on a
(g ◦ f )∗ = f ∗ ◦ g ∗ .
Si f est un difféomorphisme, les applications f ∗ et f∗ sont inverses l’une de l’autre.
2.4. Équations différentielles. — Soit M une variété différentielle et soit X un champ
de vecteurs sur M. Intégrer le champ de vecteurs X à partir de la condition initiale x0 ∈
M, c’est chercher une courbe paramétrée γ : I → M telle que γ(0) = x0 et γ0 (t ) = X (γ(t ))
pour tout t ∈ I. En utilisant le théorème de Cauchy-Lipschitz dans des cartes, on voit
qu’il existe une unique solution maximale (I, γ), définie sur un intervalle ouvert de R.
On dit que γ est une courbe intégrale du champ de vecteurs X . Si M est compacte (plus
généralement, si le champ X est à support compact), on a I = R : la solution est définie
pour tout temps.
Le flot du champ de vecteurs X est l’application ΦX qui, à (t , x) ∈ R×M associe, si elle
existe, la valeur en t de l’unique courbe intégrale maximale de X qui vaut x au temps 0.
Il est défini sur un voisinage D (X ) de {0} × M dans R × M et l’application D (X ) × M
est C ∞ , comme le montre le théorème sur la dépendance des solutions d’équations
différentielles en la solution initiale. Supposons que ΦX soit défini en (t , x). Alors ΦX
est défini en (t + u, x) si et seulement si il est défini en (u, ΦX (t , x)) et l’on a alors

ΦX (t + u, x) = ΦX (u, ΦX (t , x)).

En particulier, si M est compacte, on a D (X ) = R×M et l’équation précédente vaut pour

tous réels t , u et tout x ∈ M.
Le théorème sur les solutions d’équations différentielles dépendant d’un paramètre
entraîne aussi que si X s est un champ de vecteurs dépendant de manière C ∞ d’un pa-
ramètre s ∈ S (S est une variété), la solution maximale γs dépend de s de manière C ∞ .
Si M est compacte, il en résultera par exemple une fonction γ : S ×R telle que γ(s, ·) soit
pour tout s ∈ S une courbe intégrale du champ de vecteurs X s .
De même, les flots ΦX s s’organisent en une application C ∞ d’un voisinage de {0} ×
M × S dans R × M × S dans M. Si M est compacte, cette application est définie sur R ×
M × S.
2.5. Crochet de Lie. — Soit X et Y deux champs de vecteurs sur un ouvert U d’une
variété M. Soit [X , Y ] : f 7→ X (Y ( f ))−Y (X ( f )) l’endomorphisme X ◦Y −Y ◦X de C ∞ (U).
C’est encore un champ de vecteurs. En effet, si f et g sont deux fonctions C ∞ , on a

[X , Y ]( f g ) = X (Y ( f g )) − Y (X ( f g )) = X ( f Y (g ) + g Y ( f )) − Y ( f X (g ) + g X ( f ))
54 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

¡ ¢
= X ( f )Y (g ) + f X (Y (g )) + X (g )Y ( f ) + g X (Y ( f ))
¡ ¢
− Y ( f )X (g ) + f Y (X (g )) + Y (g )X ( f ) + g Y (X ( f ))
¡ ¢ ¡ ¢
= f X (Y (g )) − Y (X (g )) + g X (Y ( f )) − Y (X ( f ))
= f [X , Y ](g ) + g [X , Y ]( f ),
si bien que [X , Y ] est un champ de vecteurs sur U. On l’appelle le crochet de Lie des
champs X et Y .
Si f : M → N est un difféomorphisme de variétés, on a f∗ ([X , Y ]) = [ f∗ (X ), f∗ (Y )]. Si
f : N → M est un difféomorphisme local, on a f ∗ ([X , Y ]) = [ f ∗ (X ), f ∗ (Y )].
On a aussi l’identité de Jacobi : si X , Y et Z sont des champs de vecteurs sur une
variété M,
[X , [Y , Z ]] + [Y , [Z , X ]) + [Z , [X , Y ]] = 0.
2.6. Soit f : M → N un morphisme de variétés. Soit X un champ de vecteurs sur M
et soit Y un champ de vecteurs sur N. Nous dirons que les champs X et Y sont f -
associés si pour tout x ∈ M, on a Tx f (X (x)) = Y ( f (x)). Cela équivaut à ce que pour
toute fonction ϕ ∈ C ∞ (N), on ait l’égalité X (ϕ ◦ f ) = Y (ϕ) ◦ f , comme le montrent les
relations, où x ∈ X ,
(∗)
X (ϕ ◦ f )(x) = X (x)(ϕ ◦ f ) = (Tx f )(X (x))(ϕ) = Y ( f (x))(ϕ) = Y (ϕ)( f (x))
dans lesquelles l’égalité (∗) est la définition même pour X et Y d’être f -associés.
Si X est un champ de vecteurs sur M, il n’existe pas nécessairement de champ Y
sur N tel que X et Y soient f -associés ; s’il en existe, il n’est pas forcément unique. Si
f est un difféomorphisme, le champ f∗ (X ) est l’unique champ de vecteurs sur N qui
soit f -associé à X ; si f est un difféomorphisme local, le champ de vecteurs f ∗ (Y ) est
l’unique champ sur X qui soit f -associé à Y .
P ROPOSITION 2.7. — Soit f : M → N un morphisme de variétés différentielles, soit X 1 et
X 2 des champs de vecteurs sur M ; soit Y1 et Y2 des champs de vecteurs sur N. Supposons
que X 1 et Y1 d’une part, et X 2 et Y2 d’autre part soient f -associés. Alors :
a) pour tout couple de nombres réels (λ1 , λ2 ), les champs de vecteurs λ1 X 1 + λ2 X 2 et
λ1 Y1 + λ2 Y2 sont f -associés.
b) les champs de vecteurs [X 1 , X 2 ] et [Y1 , Y2 ] sont f -associés.
La relation pour deux champs de vecteurs d’être f -associés est ainsi compatible aux
structures d’algèbres de Lie des espaces de champs de vecteurs sur M et N.
Démonstration. — La première partie est évidente ; démontrons la seconde. Soit ϕ ∈
C ∞ (N). On a
[X 1 , X 2 ](ϕ ◦ f ) = X 1 (X 2 (ϕ ◦ f )) − X 2 (X 1 (ϕ ◦ f ))
= X 1 (Y2 (ϕ) ◦ f ) − X 2 (Y1 (ϕ) ◦ f ) car X i et Yi sont f -associés
= Y1 (Y2 (ϕ)) ◦ f − Y2 (Y1 (ϕ)) ◦ f
= [Y1 , Y2 ](ϕ) ◦ f ,
ce qui montre que [X 1 , X 2 ] et [Y1 , Y2 ] sont f -associés.
 §2. FIBRÉ TANGENT 55

2.8. Soit f : M → N un morphisme de variétés différentielles, soit X un champ de vec-

teurs sur M et Y un champ de vecteurs sur N. Notons ΦXt et ΦYt leurs flots. On suppose
que X et Y sont f -associés. Si x ∈ M, l’application γ : t 7→ ΦXt (x) est solution de l’équa-
tion différentielle γ0 (t ) = X (γ(t )), avec γ(0) = x. Par suite, l’application f ◦ γ vérifie

( f ◦ γ)0 (t ) = Tγ(t ) f (γ0 (t )) = Tγ(t ) f (X (γ(t )) = Y ( f (γ(t )),

puisque les champs X et Y sont f -asociés. Comme f ◦ γ(0) = f (x), l’unicité de la solu-
tion d’une équation différentielle entraîne que f (γ(t )) = ΦYt ( f (x)), d’où la relation

f ◦ ΦXt = ΦYt ◦ f .

Si f est un difféomorphisme local, on a X = f ∗ (Y ) et cette formule se récrit

f ∗Y
Φt = f −1 ◦ ΦYt ◦ f .
2.9. Soit X et Y deux champs de vecteurs sur une variété M. Notons ΦXt le flot associé
à X ; au voisinage de tout point de M, ΦXt est défini pour |t | assez petit et est un dif-
féomorphisme local. Par suite, le champ de vecteur (ΦXt )∗ Y est bien défini, localement
sur M et pour |t | assez petit. Nous allons montrer que
d
(ΦXt )∗ Y ¯t =0 = [X , Y ].
¯
(2.10)
dt
(Le premier membre est appelé dérivée de Lie du champ Y par rapport au champ X .)
Posons en effet, pour (s, t ) ∈ R2 et f ∈ C ∞ (M),

α(s, t ) = Y ( f ◦ ΦXs ) ◦ ΦXt .

On a α(0, t ) = Y ( f ) ◦ ΦXt , d’où

∂
α(0, 0) = X (Y ( f )).
∂t
On a aussi α(s, 0) = Y ( f ◦ ΦXs ), d’où
∂
α(0, 0) = Y (X ( f )).
∂s
Finalement, au voisinage de 0,
∂ ∂
α(−t , t ) = α(0, 0) − t α(0, 0) + t α(0, 0) + O(t 2 ) = Y ( f ) + t [X , Y ]( f ) + O(t 2 ).
∂s ∂t
Comme
α(−t , t ) = Y ( f ◦ ΦX−t ) ◦ ΦXt = ((ΦXt )∗ )( f ),
cela montre que
d
((ΦXt )∗ )( f )¯t =0 = [X , Y ]( f ),
¯
dt
d’où la relation (2.10).
56 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

2.11. Supposons que les champs X et Y commutent, c’est-à-dire que l’on ait [X , Y ] = 0.
Posons Yt = (ΦXt )∗ Y . On a Yt +s = (ΦXs )∗ Y , d’où l’équation différentielle ddt Yt = [X , Yt ].
Puisque [X , Y ] = 0, cette équation admet les champs t 7→ Yt et t 7→ Y pour solution,
donc Y = (ΦXt )∗ Y . Comme le flot associé à (ΦXt )∗ Y est égal à s 7→ (ΦXt )−1 ◦ ΦYs ◦ ΦYt .
Autrement dit,
ΦXt ◦ ΦYs = ΦYs ◦ ΦXt :
les flots de deux champs de vecteurs qui commutent commutent.

Exercices. — 1) Calculer explicitement le crochet de deux champs de vecteurs sur Rn .

2) Démontrer la prop. 2.7 par un calcul explicite lorsque f : Rp → Rn est l’application donnée
par f (x1 , . . . , xp ) = (x1 , . . . , xp , 0, . . . , 0).

§3. Groupes de Lie « généraux »

D ÉFINITION 3.1. — On appelle groupe de Lie un groupe topologique G muni d’une
structure de variété telle que la multiplication G × G → G et l’inverse G → G soient des
applications C ∞ .

Un homomorphisme de groupes de Lie f : G → H une application C ∞ qui est un

morphisme de groupes.
Même s’il en existe, il n’est pas encore possible à ce stade du cours de donner
d’exemple de groupe de Lie connexe qui ne soit pas un sous-groupe d’un groupe
linéaire. Le lecteur doit donc se contenter quelques temps encore des exemples du
chapitre 1.
La « formule de Campbell–Hausdorff » permet de montrer qu’un groupe de Lie est
canoniquement muni d’une structure de variété analytique (réelle) pour laquelle mul-
tiplication et passage à l’inverse sont des applications analytiques.
Il y a aussi une notion de groupe de Lie complexe, dont la définition est obtenue à
partir de la définition ci-dessus en remplaçant le mot variété par le mot variété analy-
tique complexe et la condition C ∞ par holomorphe.
Tout élément g d’un groupe de Lie G définit deux applications de translation (à
droite, à gauche) dans G, ρg et λg , par les formules ρg (x) = xg et λg (x) = g x.
3.2. Un champ de vecteurs X sur un groupe de Lie G est dit invariant à droite si
(ρg )∗ (X ) = X pour tout g ∈ G. Il est dit invariant à gauche si (λg )∗ (X ) = X . Si X est un
champ de vecteurs et si DX désigne la dérivation associée, le champ X est invariant à
gauche si et seulement si, pour toute fonction f ,
DX f (g ) = DX (e) (h 7→ f (g h)).
Ainsi, un champ de vecteur invariant est déterminé par sa valeur en l’origine e de G.
Inversement, si X est un vecteur tangent en e, la formule X (g ) = (λg )∗ (X ) définit un
vecteur tangent en tout g ∈ G et l’application g 7→ X (g ) est C ∞ , ainsi qu’on le voit dans
des cartes. Le champ de vecteurs obtenu est invariant à gauche et vérifie X (e) = X ;
on le notera parfois LX . Autrement dit, l’ensemble des champs de vecteurs invariants
à gauche est un espace vectoriel de dimension dimG, canoniquement isomorphe à
 §3. GROUPES DE LIE « GÉNÉRAUX » 57

l’espace tangent de G en l’orgine. Un raisonnement analogue vaut pour les champs de

vecteurs invariants à droite.
Pour tout g ∈ G, (λg )∗ [X , Y ] = [(λg )∗ X , (λg )∗ Y ]. Cela montre que le crochet de deux
champs de vecteurs invariants à gauche est invariant à gauche et munit Te G d’une
structure d’algèbre de Lie. On l’appelle l’algèbre de Lie de G ; on la note Lie(G) ou g.
De même, le crochet de deux champs de vecteurs invariants à droite est invariant à
droite. Notons ν : G → G l’application g 7→ g −1 . Sa différentielle en l’origine est X 7→ −X .
Si X est un champ de vecteurs invariant à droite, ν∗ (X ) est un champ de vecteurs inva-
riant à gauche. La formule ν∗ ([X , Y ]) = [ν∗ (X ), ν∗ (Y )] montre que la structure d’algèbre
de Lie sur Te G qu’on déduit du crochet des champs de vecteurs invariants à droite est
identique à celle fournie par le crochet des champs de vecteurs invariants à gauche.
3.3. Soit f : G → H un morphisme de groupes de Lie. Soit X ∈ Lie(G) et soit Y l’unique
champ de vecteurs invariant à gauche sur H dont la valeur en l’élément neutre est
Te ( f )(X (e)). Cela définit une application de Lie(G) dans Lie(H), notée Lie( f ). Pour tout
g ∈ G, on a f ◦ λg = λ f (g ) ◦ f , si bien que pour champ de vecteurs invariant à gauche X
sur G et tout g ∈ G,

(Tg f )(X (g )) = f∗ ((λg )∗ )(X (e)) = (λ f (g ) )∗ ( f∗ (X (e))) = Lie( f )(X )( f (g )),

ce qui montre que les champs X et Y sont f -associés. D’après la proposition 2.7, l’ap-
plication Lie( f ) est un morphisme d’algèbres de Lie.
3.4. Un sous-groupe à un paramètre dans un groupe de Lie G est un homomorphisme
de groupes de Lie f : R → G, autrement dit une application C ∞ f de R dans G telle
que f (s + t ) = f (s) f (t ) pour tout couple (s, t ) de nombres réels. Si f est un tel sous-
groupe à un paramètre, f 0 (0) est un élément de g (penser à la définition de Te G en
termes de courbes). En outre, pour tout t ∈ R, f 0 (t ) est un vecteur tangent à G en f (t ).
Comme f (t +u) = f (t ) f (u) = λ f (t ) ( f (u)) dans G, on a f 0 (t ) = (λ f (t ) )∗ ( f 0 (0)). (On a aussi
f 0 (t )) = (ρ f (t ) )∗ ( f 0 (0)).
Inversement, si v est un vecteur tangent en e, montrons qu’il existe un unique sous-
groupe à un paramètre f tel que f 0 (0) = v. Pour cela, prolongeons v en un champ de
vecteurs invariant à gauche X v . La formule ci-dessus montre que f est nécessairement
la courbe intégrale de X v passant par e. Considérons donc une telle courbe intégrale,
définie sur un intervalle ouvert maximal I contenant 0.
Fixons u ∈ I et considérons la courbe F définie par

t 7→ f (u)−1 f (u + t ) = λ f (u)−1 ( f (u + t )),

pour |t | assez petit. Sa dérivée en t est

(λ f (u)−1 )∗ ( f 0 (u + t )) = (λ f (u)−1 )∗ X v (u + t ) = (λ f (u)−1 )∗ (λ f (u+t ) )∗ (v)

= (λF (t ) )∗ (v) = X v (F (t )).

C’est donc une courbe intégrale du champ X v . Par unicité, F = f et f (u + t ) = f (u) f (t )

pour |t | assez petit. Cela entraîne que l’on peut prolonger f à tout R, donc que l’inter-
valle I est R. Cette formule est alors vraie pour tout t ∈ R et tout u ∈ R, si bien que f est
58 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

un sous-groupe à un paramètre. Notons exp(v) = f (1) ; on a en fait exp(t v) = f (t ) pour

tout t ∈ R.
3.5. Soit F : G → H un morphisme de groupes de Lie. Pour tout sous-groupe à un para-
mètre f : R → G de dérivée à l’origine X , F ◦ f est un sous-groupe à un paramètre dont
la dérivée en l’origine est Lie(F )(X ).
3.6. Lorsque v varie, il résulte du théorème sur les équations différentielles dépendant
d’un paramètre que l’aplication exponentielle exp : g → G définie par v 7→ exp(v) est de
classe C ∞ . Par construction, sa dérivée à l’origine est l’identité.
Il en résulte le théorème :

T HÉORÈME. — Soit a1 , . . . , am des sous-espaces vectoriels de g dont g soit la somme di-

L
recte. L’application (X 1 , . . . , X m ) 7→ exp(X 1 ) . . . exp(X m ) de ai dans G est un difféomor-
phisme d’un voisinage de 0 dans g sur un voisinage de e dans G.

Démonstration. — La différentielle en l’origine de la multiplication G ×G → G est l’ad-

dition g ⊕ g → g. En composant les différentielles, on voit donc que la différentielle
Q
en l’origine de l’application de l’énoncé est l’application de ai sur g donnée par
(X 1 , . . . , X m ) 7→ X 1 + · · · + X m . C’est un isomorphisme et le théorème d’inversion locale
permet de conclure.
Cela s’applique en particulier à l’exponentielle elle-même, de g dans G.

L EMME 3.7 (Formule de Taylor). — Soit X ∈ g et notons DX le champ de vecteurs inva-

riant à gauche associé à X . Pour toute fonction f ∈ C ∞ (G) et tout entier n > 0, on a alors
le développement limité
1 n
DX f (e) + O(kX kn+1 ),
f (exp X ) = f (e) + DX f (e) + · · · +
n!
pour une norme arbitraire k·k sur g. En particulier, on a
1 n n
f (exp(t X )) = f (e) + t DX f (e) + · · · + t DX f (e) + O(t n+1 ).
n!
Démonstration. — Par définition d’une dérivation invariante à gauche, on a, pour f ∈
n
C ∞ (G), DX f (g ) = ddt f (g exp(t X ))|t =0 et, par récurrence, DXn f (g ) = ddt n f (g exp(t X ))|t =0 .
D’après la formule de Taylor pour les fonctions réelles d’une variable réelles,
1 1
f (exp(t X )) = f (e) + t DX f (e) + t 2 DX2 f (e) + · · · + t n DXn f (e) + O(t n+1 ).
2 n!
Cela montre le cas particulier. Pour en déduire la première formule, remarquons que
la formule de Taylor pour la fonction f ◦ exp : g → R s’écrit
1
Pn (X ) + O(kX kn+1 ),
f (exp(X )) = f (e) + P1 (X ) + · · · +
n!
où Pm désigne la différentielle m-ième de f ◦ exp en l’origine ; c’est un polynôme ho-
mogène de degré m sur g. En substituant X à t X à ce développement limité et en com-
parant avec le cas particulier déjà démontré, on en déduit que t m DXm f (e) = Pm (t X ) =
t m Pm (X ). Le lemme en résulte.
 §3. GROUPES DE LIE « GÉNÉRAUX » 59

Les formules données au chapitre 1 dans le cas d’un sous-groupe de GLn n’ont pas
toutes un sens dans ce cadre plus général (on y ajoutait à l’identité, c’est-à-dire un
élément du groupe, une matrice, c’est-à-dire un élément de son algèbre de Lie). Leur
version générale est la suivante.

P ROPOSITION 3.8. — Soit G un groupe de Lie, notons g son algèbre de Lie. Si X , Y ∈ g et

t ∈ R, on a
1
exp(t X ) exp(t Y ) = exp t (X + Y ) + t 2 [X , Y ] + O(t 3 )
¡ ¢
(3.8a)
2
exp(t X ) exp(t Y ) exp(−t X ) = exp t Y + t 2 [X , Y ] + O(t 3 )
¡ ¢
(3.8b)
exp(−t X ) exp(−t Y ) exp(t X ) exp(t Y ) = exp t 2 [X , Y ] + O(t 3 )
¡ ¢
(3.8c)

Démonstration. — Notons DX et DY les dérivations invariantes à gauche sur C ∞ (G)

associées à X et Y . On a remarqué dans la démonstration du lemme précédent que
n
DXn f (g ) = ddt n f (g exp(t X ))|t =0 pour tout g ∈ G et tout n > 0. Il en résulte aussi que
dn ¡ m dn dm
DXn DYm f (e) =
¢¯ ¢
n
DY f (exp(t X )) ¯
t =0 = n m
f (exp(t X ) exp(t Y ) |t =s=0 .
dt dt ds
Autrement dit, on a le développement limité

f (exp(t X ) exp(t Y )) =
1
f (e) + t (DX f (e) + DY f (e)) + t 2 (DX2 f (e) + 2DX DY f (e) + DY2 f (e)) + O(t 3 )).
2
Comme l’exponentielle réalise un difféomorphisme d’un voisinage de 0 dans g sur un
voisinage de e dans G, on peut écrire, pour t assez petit,
exp(t X ) exp(t Y ) = exp(Z (t )) = exp(t Z1 + t 2 Z2 + O(t 3 )).
D’après la formule de Taylor, on a donc
f (exp(t X ) exp(t Y )) = f (exp(t Z1 + t 2 Z2 + O(t 3 )))
1
= f (e) + t DZ1 f (e) + t 2 DZ2 f (e) + t 2 DZ21 f (e) + O(t 3 ),
2
d’où, en comparant ces expressions, DZ1 = DX + DY et
1 2 1 1
(DX + 2DX DY + DY2 ) = DZ2 + DZ21 = DZ2 + (DX + DY )2 .
2 2 2
Finalement, on obtient
1 1
DZ2 = (DX DY − DY DX ) = [X , Y ].
2 2
Cela démontre la première relation, et même le dévelopement limité
1
exp(X ) exp(Y ) = exp (X + Y ) + [X , Y ] + O(kX k + kY k)3 .
¡ ¢
2
Les deux autres relations s’en déduisent facilement.
60 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

3.9. Si g ∈ G, l’application cg : G → G qui, à x ∈ G, associe g xg −1 est différentiable

en l’origine. Notons Ad(g ) sa différentielle en l’origine ; c’est un automorphisme de g.
Comme cg ◦ ch (x) = cg (hxh −1 = (g h)x(g h)−1 = cg h (x), on a Ad(g ) ◦ Ad(h) = Ad(g h) :
l’application Ad de G dans GL(g) est un morphisme de groupes. Elle est en outre (évi-
demment ?) différentiable. On l’appelle la représentation adjointe de G. Sa différentielle
en l’origine est un homomorphisme d’algèbres de Lie ad : g → End(g). Par fonctorialité
de l’exponentielle, on a
Ad(exp(X )) = exp(ad(X )), X ∈ g.
Pour tout g ∈ G et tout X ∈ g, on a aussi
g exp(X )g −1 = exp(Ad(g )(X )),
comme on le voit en considérant le groupe à un paramètre t 7→ g exp(t X )g −1 . Alors,
expG (X ) expG (Y ) expG (−X ) = expG (Ad(expG (X ))(Y ))
¡ ¢
= expG expGL(g) (ad(X ))(Y )
1
= expG Y + ad(X )(Y ) + ad(X )2 (Y ) + . . . .
¡ ¢
2!
En particulier, lorsque t tend vers 0,
expG (t X ) expG (t Y ) expG (−t X ) = expG (t Y + t 2 ad(X )(Y ) + O(t 3 )).
En comparant avec la formule (3.8b), on en déduit la relation
ad(X )(Y ) = [X , Y ].
Exercices. — 1) Soit X et Y ∈ g tels que [X , Y ] = 0. Montrer que exp(X ) et exp(Y ) commutent.
2) Inversement, montrer qu’il existe un voisinage U de 0 dans g tel que si X et Y sont des élé-
ments de U tels que exp(X ) et exp(Y ) commutent, on a [X , Y ] = 0. (Soit U une boule ouverte de
centre 0 dans g telle que l’exponentielle réalise un difféomorphisme de U sur son image exp(U).
Si X et Y ∈ U sont tels que exp(X ) et exp(Y ) commutent, montrer que Y = Ad(exp(X ))(Y ), puis
que exp(X ) et exp(t Y ) commutent pour |t | 6 1.)
3) Montrer que tout morphisme de groupes continu R → G est de la forme t 7→ exp(t X ).

§4. Sous-groupes fermés d’un groupe de Lie

4.1. Soit G un groupe de Lie et soit H un sous-groupe fermé de G. Sous l’hypothèse que
G = GLn (C), nous avons démontré au chapitre 1 que H est une sous-variété de GLn (C).
C’est donc un sous-groupe de Lie de GLn (C). Ce paragraphe est consacré à la démons-
tration de la généralisation de ce fait lorsque G est un groupe de Lie arbitraire. La dé-
monstration n’est cependant pas très différente.
Notons h l’ensemble des X ∈ g tels qu’il existe une suite (g k ) d’éléments de H, une
suite (εk ) de réels non nuls tendant vers 0 telles que
g k = exp(εk A + o(εk )).
L EMME 4.2. — a) Les conditions suivantes sur X ∈ g sont équivalentes :
(i) on a X ∈ h ;
 §4. SOUS-GROUPES FERMÉS D’UN GROUPE DE LIE 61

(ii) il existe une suite (tk ) de réels non nuls tendant vers 0 tels que exp(tk A) ∈ H
pour tout k ;
(iii) on a exp(t X ) ∈ H pour tout X ∈ R.
b) La partie h de g est une sous-algèbre de Lie de g.

Démonstration. — a) Le seul point non trivial est que (i) entraîne (iii). Considérons
donc des suites (g k ) et (εk ). Comme g k → e, on peut écrire g k = exp(X k ) pour k assez
grand, où (X k ) est une suite d’éléments de g qui tend vers 0. On a alors X k =e psk X +
o(εk ). Soit t un réel et choisissons une suite d’entiers (mk ) telle que (εk mk ) converge
m
vers t . Alors, mk X k converge vers t X et g k k = exp(mk X k ) tend vers exp(t X ). Comme
mk
g k ∈ H, g k ∈ H pour tout k ; puisque H est fermé dans G, exp(t X ) ∈ H.
b) Comme exp(t X ) exp(t Y ) = exp(t (X +Y )+o(t )), h est stable par addition. Il est évi-
demment stable par multiplication par un scalaire, donc est un sous-espace vectoriel
de g.
En outre, exp(−t X ) exp(−t Y ) exp(t X ) exp(t Y ) = exp(t 2 [X , Y ] + o(t 2 )), ce qui montre
que [X , Y ] ∈ h si X et Y appartiennent à h.

Il résulte du lemme que la restriction à h de l’exponentielle est une application de h

dans H. Soit V un supplémentaire de h dans g. L’application de h ×V dans G qui à (X , Y )
associe exp(X ) exp(Y ) est un difféomorphisme d’un voisinage U de 0 dans h × V sur un
voisinage de e dans G.
L’image de U ∩ h est alors une sous-variété de G au voisinage de e. Montrons que,
quitte à diminuer U, cette image est l’intersection de H avec un voisinage de e dans G.

L EMME 4.3. — Il existe un voisinage Ω de 0 dans g tel que pour X ∈ Ω, exp(X ) ∈ H si et

seulement si X ∈ h.

Démonstration. — Si ce n’est pas vrai, il existe une suite (X k ) d’éléments de g ten-

dant vers 0, telle que exp(X k ) appartienne à H mais X k 6∈ h. On peut écrire exp(X k ) =
exp(A k ) exp(Bk ) avec A k ∈ h et Bk ∈ V , avec A k → 0 et Bk → 0. Par hypothèse, Bk 6= 0.
De plus, hk = exp(−A k ) exp(X k ) = exp(Bk ) appartient à H. Munissons g d’une norme et
posons εk = kBk k. La suite (Bk /εk ) est une suite d’éléments de norme 1 dans V ; quitte à
remplacer la suite (g k ) par une sous-suite, on peut donc supposer qu’elle converge vers
un élément B ∈ V de norme 1. Alors, Bk = εk (Bk /εk ) = εk B + o(εk ) et exp(Bk ) ∈ H. Cela
montre que B ∈ h et contredit l’hypothèse que V est un supplémentaire de h dans g.

Cela montre que H est une sous-variété de G au voisinage de e. Si h est un point de H,

H = hH est alors une sous-variété de G = hG au voisinage de h = he. La multiplication
H × H → H et le passage à l’inverse H → H sont les restrictions de la multiplication et
de l’inverse de G ; ce sont donc des applications C ∞ .
Nous avons ainsi démontré le théorème :

T HÉORÈME 4.4 (Élie Cartan). — Tout sous-groupe fermé d’un groupe de Lie en est une
sous-variété et est canoniquement muni d’une structure de groupe de Lie.

Les conséquences sont les mêmes qu’au chapitre 1. J’y renvoie.

62 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

4.5. Homomorphismes continus de groupes de Lie. — Il s’agit de prouver qu’un homo-

morphisme continu f : G → H entre deux groupes de Lie est nécessairement C ∞ . La
démonstration du chapitre 1 faisait usage des sous-groupes à un paramètre, et notam-
ment du fait que tout sous-groupe à un paramètre était différentiable. Modulo ce fait,
qui est d’ailleurs un cas particulier du résultat visé, la démonstration est identique.

P ROPOSITION 4.6. — Soit G un groupe de Lie et soit f : R → G un sous-groupe à un pa-

ramètre que l’on suppose seulement continu. Alors il existe X ∈ g tel que f (t ) = exp(t X )
pour tout t . En particulier, f est différentiable.

Démonstration. — Soit U une boule ouverte de centre 0 dans g telle que l’exponen-
tielle réalise un difféomorphisme de U sur son image. Comme f est continu et f (0) = e,
il existe un réel r > 0 tel que f (t ) ∈ exp(U) pour |t | < r, donc une fonction continue
t 7→ X (t ) de ]−r, r[ dans g telle que f (t ) = exp(X (t )). Quitte à diminuer r, on peut sup-
poser que 2X (t ) appartient à U pour |t | < r.
Si |t | < r/2, on a alors exp(X (2t )) = f (2t ) = f (t )2 = exp(2X (t )), si bien que X (2t ) =
2X (t ), car X (2t ) et 2X (t ) appartiennent à U. Le même argument montre que X (kt ) =
kX (t ) pour tout entier k ∈ Z \ {0} tel que que |t | < r/k et kX (t ) ∈ U.
Par récurrence, on a alors X (2−n t ) = 2−n X (t ) si |t | < r, puis X (k2−n t ) = k2−n X (t )
si |t | < r et |k| 6 2n . Comme les nombres rationnels de la forme k/2n sont denses
dans [0, 1] et comme X est continue, cela montre que X (st ) = sX (t ) pour tout s ∈ [0, 1]
et tout réel t tel que |t | < r. Il existe donc X ∈ g tel que X (t ) = t X pour |t | < r (car X (t )/t
est constant, pour |t | < r, t 6= 0). Par suite, f (t ) = exp(t X ) pour |t | < r. Comme le sous-
groupe de R engendré par l’intervalle ]−r, r[ est égal à R, cette formule est vraie pour
tout réel t .

T HÉORÈME 4.7. — Un groupe de Lie compact est isomorphe à un sous-groupe fermé

d’un groupe linéaire.

Démonstration. — Soit G un groupe de Lie compact. Notons (Vn , ρn ) des représen-

tants, indexés par n ∈ N, des classes d’isomorphisme de représentations irréductibles
de dimension finie de G. Soit πN la somme directe des ρn pour n 6 N ; c’est un ho-
momorphisme de G dans un groupe linéaire. Son noyau HN est un sous-groupe de Lie
de G. Si M ⊂ M 0 sont deux sous-variétés d’une variété compacte, dim M 6 dim M 0 , et
si l’on a égalité, le nombre de composantes connexes de M est inférieur ou égal à ce-
lui de M 0 . Si ces deux entiers sont les mêmes pour M et pour M 0 , on a alors M = M 0 .
L’application qui à N associe le couple formé de la dimension de HN et du nombre
de ses composantes connexes est décroissante, lorsque N2 est muni de l’ordre lexico-
graphique. Comme c’est un bon ordre sur N2 , la suite de sous-groupes (HN ) est alors
stationnaire. Soit H sa limite et soit N un entier tel que Hn = H pour n > N.
Toute fonction continue sur H est la restriction d’une fonction continue sur G.
D’après le théorème de Peter-Weyl, une telle fonction doit être approchée d’une com-
binaison linéaire de coefficients matriciels de G. Comme ceux-ci sont constants sur H,
les seules fonctions continues sur H sont les constantes. Cela montre que H est réduit
à l’élément neutre.
 §5. GROUPES DE LIE SIMPLEMENT CONNEXES 63

L’homomorphisme πN : G → GL(VN ) est un homomorphisme injectif, continu, de

groupes de Lie. Son image G 0 est un sous-groupe de Lie de GL(VN ), nécessairement
compact, et l’application de G dans G 0 induite par πN est une application bijective
continue. D’après le théorème de Cartan, elle est différentiable. Sa bijection réciproque
est continue, car G est compact (th. de Poincaré). D’après le théorème de Cartan, elle
est aussi différentiable. Cela montre que G est isomorphe à un sous-groupe compact
d’un groupe linéaire.

§5. Groupes de Lie simplement connexes

5.1. Soit M un espace topologique. Rappelons qu’on dit qu’un espace topologique
E muni d’une application continue p : E → M est un revêtement s’il existe, pour tout
point x de M, un voisinage U de x, un espace discret F et un homéomorphisme
ϕU : p −1 (U) → U ×F tel que p = pr1 ◦ϕU . Un tel homéomorphisme est appelé trivialisa-
tion du revêtement au-dessus de U. Si M est connexe, toutes les fibres d’un revêtement
ont même cardinal, donc sont homéomorphies entre elles.
On dit qu’un espace est simplement connexe si tous ses revêtements sont triviali-
sables.
5.2. Supposons pour simplifier que M soit connexe et localement connexe. Soit
p : E → M un revêtement et notons F « sa » fibre. Soit U et V des ouvert de M au-dessus
duquel E admet une trivialisation ϕU : p −1 (U) → U × F et ϕV : p −1 (V ) → V × F . L’ap-
plication ϕV ◦ ϕU −1
de U ∩ V × F dans lui-même est de la forme (x, t ) 7→ (x, ψUV (x, t )),
où ψUV : (U ∩ V ) × F dans F est continue. Fixons t ∈ F ; lorsque x varie dans une
composante connexe de U ∩ V , l’application x 7→ ψUV (x, t ) est constante. À x fixé,
l’application t 7→ ψUV (x, t ) est une permutation de F .
Inversement, si l’on se donne un recouvrement ouvert (Ui ) de M, un ensemble dis-
cret F et, pour tout couple (i , j ) tel que Ui ∩U j 6= ∅, une permutation ϕi j de F de sorte
que ϕi i = idF , ϕ j i = ϕ−1
ji
et ϕi j ◦ ϕ j k = ϕi k si Ui ∩U j ∩Uk 6= ∅, on peut construire un
revêtement de M dont la fibre est F . Il suffit pour cela de quotienter l’espace réunion
disjointe des Ui ×F par la relation d’équivalence (x, t )i ∼ (x, ϕ j i (t )) j pour x ∈ Ui ∩U j et
t ∈ F.
5.3. Supposons que M soit une variété connexe ; en particulier, tout point x de M pos-
sède un voisinage homéomorphe à une boule ouverte. Soit a un point de M et notons
λa (M) l’ensemble des classes d’homotopies de chemins d’origine a, les homotopies
étant astreintes à préserver origine et extrémité des chemins. L’espace λa (M), muni de
l’application « extrémité du chemin », notée ε, est alors un revêtement de M (pour une
unique topologie, en l’occurence la topologie quotient de la topologie de la conver-
gence uniforme sur les chemins). Comme les applications constantes sont différen-
tiables, le revêtement λa (M) possède une structure canonique de variété différentiable
pour laquelle l’application λa (M) → M est un différentiable ; c’est alors un difféomor-
phisme local.
64 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

Ce revêtement est même universel : pour tout revêtement E → M et tout point x de E

au-dessus de a, il existe une unique application continue λa (M) dans E qui applique
la classe du chemin constant d’origine a sur le point x.
L’ensemble des lacets en a est noté π1 (M, a). C’est la fibre en a du revêtement
λa (M) → M. Muni de la composition des chemins, π1 (M, a) est un groupe, appelé
groupe fondamental de l’espace M en a. En particulier, l’espace M est simplement
connexe si et seulement si π1 (M, a) est réduit à l’élément neutre.
Par composition des chemins, le groupe π1 (M, a) agit librement sur λa (M). Comme
λa (M) est connexe par arcs, cette action est transitive sur les fibres. De la sorte, les
revêtements connexes de M sont de la forme λa (M)/G, où G est un sous-groupe de
π1 (M, a).
5.4. Revêtement universel d’un groupe de Lie. — Supposons que G soit un groupe de
Lie connexe et soit e l’origine de G. Notons G̃ = λe (G). Si c1 : [0, 1] → G et c2 : [0, 1] → G
sont deux chemins dans G d’origine e, t 7→ c1 (t )c2 (t ) est un chemin d’origine e dans G.
Si, pour i = 1 ou 2, Fi est une homotopie joignant le chemin ci à un chemin ci0 , l’ap-
plication F : [0, 1] × [0, 1] → G définie par F (t , s) = F1 (t , s)F2 (t , s) est une homotopie qui
joint le chemin t 7→ c1 (t )c2 (t ) au chemin t 7→ c10 (t )c20 (t ). Cela munit l’espace G̃ d’une
structure de groupe, pour laquelle l’élément neutre est la classe du lacet constant et
telle que la projection p : G̃ → G soit un homomorphisme de groupes. Cela munit G̃
d’une structure de groupe de Lie. En outre, la différentielle de p en l’origine de G̃ induit
un isomorphisme de l’algèbre de Lie de G̃ sur celle de G.
On note π1 (G) le groupe fondamental de G en l’élément neutre. Il s’identifie à un
sous-groupe distingué et discret de G̃, tel que G̃/π1 (G) ' G.
Soit γ ∈ π1 (G, e). L’application de G̃ dans lui-même définie par g 7→ g γg −1 est
d’image contenue dans π1 (G, e), donc constante, car G̃ est connexe. Comme elle
applique l’élément neutre de G̃ sur γ, g γg −1 = γ pour tout g ∈ G̃. Par suite, π1 (G, e) est
contenu dans le centre de G̃. En particulier :

P ROPOSITION. — Le groupe fondamental d’un groupe de Lie est commutatif.

Les revêtements de G sont tous de la forme G̃/H, où H est un sous-groupe

de π1 (G, e). Comme H est distingué, ils sont automatiquement munis d’une structure
de groupe de Lie.
5.5. Soit f : G → H un morphisme de groupes de Lie. Si G est un revêtement de H,
l’application f est surjective et son noyau est discret.
Inversement, supposons que f soit surjective de noyau discret et que G soit
connexe.(2) Soit ϕ : g → h l’homomorphisme d’algèbres de Lie déduit de f . Montrons
d’abord que c’est un isomorphisme.
Comme f est injective sur un voisinage de e, ϕ est injective. Soit V un voisinage
compact de e dans G tels que ϕ : V → ϕ(V ) soit un isomorphisme de V sur son image.
Comme G est connexe, il est engendré par le voisinage V de e ; Les parties V n = V · · · V
sont des compacts de G dont G est la réunion. Cela entraîne que G est réunion d’une

(2)
Il suffirait de supposer que l’ensemble des composantes connexes de G est au plus dénombrable.
 §5. GROUPES DE LIE SIMPLEMENT CONNEXES 65

famille dénombrable de compacts. En particulier, on peut extraire de tout recouvre-

ment ouvert de G un recouvrement dénombrable. Soit alors U un voisinage ouvert de e
dans G tel que Ū ·Ū ⊂ V . Comme les parties gU de G recouvrent G, on peut trouver une
S
suite (g n )n∈N d’éléments de G tels que G = n g n U. Les images f (g n ) f (U) ¯ = f (g¯n U)
forment un recouvrement fermé dénombrable de H. Comme H est localement com-
¯ n’est pas d’intérieur vide. Par
pact, H vérifie le théorème de Baire et l’un des f (g n ) f (U)
¯
suite, f (U) n’est pas d’intérieur vide dans H.
¯ = f (Ū) bar Ū ⊂ V , et l’hypothèse que f induit un isomorphisme de variétés
Or, f (U)
de V sur une sous-variété d’un voisinage de e dans H montre que f (V ) est d’intérieur
vide dans H, à moins que ϕ ne soit surjective. En définitive, nous avons montré que
l’homomorphisme ϕ est un isomorphisme d’algèbres de Lie.
D’après le théorème des fonctions implicites, il existe un voisinage U de e dans G et
un voisinage V de e dans H tel que f induise un difféomorphisme de U sur V . Notons
Γ le noyau de f ; on a Γ∩U = {e} et f −1 (V ) est difféomorphe à l’espace U ×Γ. Soit h ∈ H
et soit g ∈ G tel que f (g ) = h. L’application de gU × Γ qui à (g x, γ) associe g xγ ∈ G est
un difféomorphisme sur son image f −1 (hV ). Cela montre que f est un revêtement.
5.6. Exemples. — Le groupe SU2 est homéomorphe à l’ensemble des couples (a, b) de
nombres complexes tels que |a|2 + |b|2 = 1, donc à la sphère S3 dans R4 . C’est donc un
groupe simplement connexe.
Le groupe SO(2) est homéomorphe au cercle. Son³ revêtement ´ universel n’est autre
cos ϕ − sin ϕ
que le groupe R, la projection étant donnée par ϕ 7→ sin ϕ cos ϕ .
forme 0t 1/t
¡ z ¢
Soit B l’ensemble des matrices de SL2 (C) de la avec t ∈ R∗+ et z ∈ C.
Le procédé d’orthogonalisation de Gram-Schmidt montre que SL2 (C) = SU2 ·B ; plus
précisément, l’application de SU2 ×B dans SL2 (C) donnée par (g , b) 7→ g b est un ho-
méomorphisme. Elle est en effet continue, surjective (Gram-Schmidt) et injective car
SU2 ∩B est réduit à l’élément neutre. Montrons que sa bijection réciproque est conti-
nue. Considérons donc une suite (g n , bn ) d’éléments de SU2 ×B telle que g n bn tend
vers g b, avec (g , b) ∈ SU2 ×B. Comme SU2 est compact, on peut supposer que la suite
(g n ) converge vers g 0 ∈ SU2 , quitte à en extraire une sous-suite. Alors, bn = g n−1 g b
converge vers b 0 = (g 0 )−1 g b. On a b 0 ∈ B par B est fermé dans SL2 (C) et l’égalité g b =
g 0 b 0 entraîne g = g 0 et b = b 0 .
Comme R∗+ × C est contractile, il est simplement connexe. Il en résulte que SL2 (C),
homéomorphe au produit de deux espaces simplement connexes, est simplement
connexe.
Appliquons le même argument à SL2 (R). De la décomposition de Gram-Schmidt, on
déduit un homéomorphisme ¡t x ¢ de SL2 (R) avec O2 ×B, où B est le sous-groupe de SL2 (R)
formé des matrices 0 1/t , avec t > 0 et x ∈ R. Il en résulte que le groupe fondamental
du groupe SL2 (R) est isomorphe à Z.
P ROPOSITION 5.7. — Soit G̃ le revêtement universel du groupe SL2 (R). Tout homomor-
phisme continu de G̃ dans un groupe linéaire se factorise par SL2 (R).
En particulier, aucun revêtement non trivial de SL2 (R) n’est isomorphe à un sous-
groupe d’un groupe linéaire.
66 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

Démonstration. — Notons p la projection de G̃ sur SL2 (R) et rappelons que p∗ : g̃ →

sl2 (R) est un isomorphisme. Soit ρ : G̃ → GLn (R) un homomorphisme de groupes de
Lie. Sa différentielle dρ est un homomorphisme d’algèbres de Lie. Notons ϕ = dρ ◦
(p∗ )−1 l’homomorphisme de sl2 (R) dans Mn (R) qui en résulte.
L’homomorphisme ϕC : sl2 (C) → Mn (C) obtenu par complexification de ϕ est un ho-
momorphisme d’algèbres de Lie. D’après les résultats du chapitre 2, § 6.9, c’est la dif-
férentielle d’une représentation (holomorphe) πC de SL2 (C) sur Cn . Si X ∈ Mn (C), on a
¯ ). Par suite, la restriction π à SL2 (R) de l’homomorphisme πC : SL2 (C) →
exp(X̄ ) = exp(X
GLn (C) qui en résulte est d’image contenue dans GLn R). Les homomorphismes π ◦ p
et ρ de G̃ dans GLn (R) ont même différentielle en l’origine. Comme G̃ est connexe, ils
sont donc égaux, d’où la proposition.

§6. Le théorème de Frobenius

6.1. Distributions. — Soit M une variété différentielle de dimension n. Une distribu-
tion D sur M est la donnée en tout point x de M d’un sous-espace Dx de Tx M. On ne
considérera dans la suite que des distributions, dites lisses de dimension r, pour les-
quelles il existe, au voisinage de tout point x de M, r champs de vecteurs X 1 , . . . , X r ,
sur M tels que X 1 (x), . . . , X r (x) forment une base de Dx . Un champ de vecteurs X sur M
sera dit tangent à D si l’on a X (x) ∈ Dx pour tout x ∈ M. Nous dirons qu’une distribu-
tion D est involutive si le crochet [X , Y ] de tout couple de champ de vecteurs X et Y
tangents à D est encore tangent à D.
Une sous-variété N de M sera dite variété intégrale de la distribution D si l’on a
Tx N = Dx pour tout x ∈ N. Une distribution sera dite intégrable s’il passe par tout point
de N une sous-variété intégrale, et localement intégrable si pour tout point x de M, il
existe un voisinage U de x et une sous-variété intégrale N de la distribution restreinte
à U.
6.2. Condition nécessaire d’intégrabilité. — Soit x un point de M et supposons qu’il
existe un voisinage U de x et une sous-variété intégrale N de U passant par x ; notons
alors i : N → M l’immersion canonique. Soit X 1 et X 2 des champs de vecteurs sur M
tangents à D. Leur restriction à N définit des champs de vecteurs sur N, qu’on notera
Y1 et Y2 . Par définition, Y1 et X 1 sont i -associés, de même pour Y2 et X 2 . Il en résulte
que leurs crochets [Y1 , Y2 ] et [X 1 , X 2 ] sont aussi i -associés. Cela signifie que [X 1 , X 2 ](y)
appartient à D y pour tout point y de U ; cela vaut en particulier pour y = x.
Par suite, si la distribution D est localement intégrable, les crochets [X 1 , X 2 ] appar-
tient à D y en tout point de M : la distribution D est involutive.
6.3. Considérons inversement une distribution (lisse de dimension r) sur M qui soit
involutive. Soit U un ouvert de carte sur lequel il existe r champs de vecteurs X 1 , . . . , X r
qui forment une base de D en tout point. Fixons un point x0 de U. Quitte à restreindre U
et à renuméroter les coordonnées locales, on peut supposer que la projection π : Rn →
Rr fournie par les r premières coordonnées, induit, pour tout point x de U, un isomor-
phisme de Dx sur son image. Quitte à remplacer les champs X i par l’image réciproque
 §6. LE THÉORÈME DE FROBENIUS 67

par π−1 des champs ∂/∂xi sur Rr , on peut alors écrire, pour 1 6 i 6 r,
∂ Xn ∂
Xi = + ai ,k .
∂xi k=r+1 ∂xk

Si 1 6 i , j 6 r, le crochet [X i , X j ] est π-associé au crochet des champs ∂/∂xi et ∂/∂x j ;

comme ils sommutent, [X i , X j ] se projette sur 0 par π. Comme la distribution D est
involutive, cela entraîne que les champs X i et X j commutent.
X X
Soit ϕ l’application donnée par (t1 , . . . , tr ) 7→ Φt11 ◦ · · · ◦ Φtrr (x0 ). Elle est bien définie
r
sur un voisinage de 0 dans R . On a
∂ϕ
(t1 , . . . , tr ) = X 1 (ϕ(t1 , . . . , tr )).
∂t1
Comme les champs de vecteurs X i commutent, il en est de même de leurs flots, et on
peut écrire
X X X
ϕ(t1 , . . . , tr ) = Φti i ◦ Φt11 ◦ · · · ◦ Φtri
et l’on a en dérivant
∂ϕ
(t1 , . . . , tr ) = X i (ϕ(t1 , . . . , tr )).
∂ti
La différentielle de ϕ en l’origine est l’application de Rr dans Tx0 M donnée par
(t1 , . . . , tr ) 7→ ti X i (x0 ). Elle est donc injective. Cela montre que ϕ est une immersion et
P
(t1 , . . . , tr ) est le début d’un système de coordonnées locales autour de x0 . En définitive,
cela permet de supposer que l’on a X i = ∂x∂ , si 1 6 i 6 r.
i
Nous avons ainsi construit un voisinage U de 0 dans Rr , un voisinage V de x0 dans M,
une immersion ϕ : U → V telle que ϕ(U) soit une sous-variété intégrale de la distribu-
tion D. Cela montre qu’une distribution involutive est localement intégrable ; c’est le
théorème de Frobenius.
6.4. L’image de l’immersion locale ϕ peut aussi être décrite indépendamment de ces
coordonnées locales. En effet, la description ci-dessus entraîne que toute courbe locale
γ qui est tangente à la distribution D et telle que γ(0) = x0 est contenue dans l’image
de ϕ. En fait, ϕ(U) est l’ensemble des extrémités des chemins d’origine x0 qui sont
contenus dans V , C 1 par morceaux et tangents à D.
Fixons encore x0 ∈ M et soit F la réunion des images des chemins (C 1 par morceaux)
d’origine x0 dans M qui sont tangents à D et notons i : F → M l’injection canonique.
Soit x un point de F ; alors x possède un voisinage U dans M tel que les points de M
qui sont joignables à x par une chemin contenue dans U forment une sous-variété Vx
de de dimension r de U. Mettant bout à bout un chemin joignant x0 à x et un chemin
d’origine x, on voit que Vx ⊂ F ∩U.
Munissons F de la topologie la moins fine pour laquelle ces Vx soient des voisinages
de x. Pour cette topologie, les voisinages de x dans F sont exactement les voisinages
de x dans Vx . En effet, notant V y une sous-variété intégrale passant par y, si l’on a x ∈
V y , la description locale de l’image de l’immersion ϕ montre que V y et Vx coïncident
au voisinage de x.
68 CHAPITRE 4. VARIÉTÉS DIFFÉRENTIELLES, GROUPES DE LIE

Pour cette topologie, F est connexe par arcs, donc est connexe. De plus, les voisi-
nages Vx munissent F , muni de cette topologie, d’une structure de variété différen-
tielle de dimension r, telle que i : F → M soit une immersion. On dira que F est la
sous-variété immergée maximale tangente à D passant par x0 .

§7. Correspondance groupes et algèbres de Lie

7.1. Soit G un groupe de Lie et soit H un sous-groupe de Lie. Alors, l’algèbre de Lie
de H s’identifie à une sous-algèbre de Lie de l’algèbre de Lie g de G. Inversement, il
n’est pas vrai que toute sous-algèbre de Lie de g soit l’algèbre de Lie d’un sous-groupe
de Lie. Nous allons voir que c’est cependant l’algèbre de Lie d’un germe de sous-groupe
de Lie, objet appelé parfois groupuscule de Lie.
7.2. Soit donc h une sous-algèbre de Lie de g. Soit X 1 , . . . , X r une base de h. Considérant
les X i comme des champs de vecteurs invariants à gauche. On lui associe une distribu-
tion D(h) sur G. Comme h est une sous-algèbre de Lie, cette distribution est involutive,
donc localement intégrable, d’après le théorème de Frobenius.
Soit (H, i ) la sous-variété immergée maximale passant par e et tangente à la distri-
bution D(h). Ainsi, H est une variété différentielle connexe de dimension r et i : H → G
est une immersion injective telle que Tx i soit un isomorphisme de Tx H sur (λi (x) )∗ h.
7.3. Montrons que H est un sous-groupe de G. Si γ : t 7→ γ(t ) est un chemin tangent
à D(h) joignant e à g , le chemin t 7→ g −1 γ(t ) est tangent à D(h) et joint g −1 à e. Par
suite, g −1 ∈ G. De même, le chemin t 7→ g 0 γ(t ) est tangent à D(h) et joint g 0 à g 0 g ; si
on le concatène à un chemin joignant e à g 0 , on obtient un chemin C 1 par morceaux,
tangent à D(h), qui joint e à g 0 g .
En outre, si g ∈ H et si V est une sous-variété intégrale locale au voisinage de e ∈ H,
g V est une sous-variété intégrale locale au voisinage de g . Pour tout g ∈ V , il existe en
particulier un voisinage U de e contenu dans V tel que gU ⊂ V . Cela montre que V est
stable par la multiplication de G au voisinage de e, donc que cette multiplication est
différentiable au voisinage de l’origine. Par suite, H est un groupe de Lie.
7.4. Tout homomorphisme de groupes de Lie f : G → H a une différentielle, qui est
un homomorphisme g → h entre leurs algèbres de Lie. Inversement, tout homomor-
phisme ϕ : g → h de l’algèbre de Lie de G vers celle de H n’est pas nécessairement de
cette forme.
Considérons, dans l’algèbre de Lie g ⊕ h, le graphe de ϕ ; c’en est une sous-algèbre de
Lie. Soit (Γ, i ) le groupe de Lie immergé dans G ×H qui l’intègre. L’application pr1 : Γ →
G déduite de la première projection G ×H → G a pour différentielle l’identité. Par suite,
c’est un revêtement de G.

P ROPOSITION 7.5. — Soit G et H des groupes de Lie et soit ϕ : g → h un homomor-

phisme de leurs algèbres de Lie. Si G est un groupe de Lie connexe et simplement connexe,
il existe un unique homomorphisme de groupes de Lie f : G → H dont ϕ soit la différen-
tielle.
 §7. CORRESPONDANCE GROUPES ET ALGÈBRES DE LIE 69

En d’autres termes : le foncteur qui, à un groupe de Lie connexe et simplement

connexe, associe son algèbre de Lie est pleinement fidèle. C’est en fait une équiva-
lence de catégories : on peut construire, pour toute algèbre de Lie de dimension finie un
groupe de Lie connexe et simplement connexe dont ce soit l’algèbre de Lie (troisième
théorème de Lie). Ce groupe de Lie est unique à isomorphisme unique près, mais on
n’en connaît pas de construction « naturelle ».
INDEX

application exponentielle, 5 poids, 25

atlas, 49 quaternions, 13
caractère d’une représentation, 37 relations d’orthogonalité de Schur, 36, 40
carte locale, 49 représentation adjointe, 16
centre, 11 représentation complètement réductible, 20
champ de vecteurs, 52 représentation continue, 33
crochet de Lie, 7, 16, 54 représentation d’un groupe, 17
difféomorphisme, 7 représentation irréductible, 18
faisceau, 49 représentation linéaire, 16
groupe orthogonal, 12 représentation semi-simple, 20
groupe symplectique, 12 représentation unitaire, 35
groupe unitaire, 12 sous-algèbre de Lie, 10
homomorphisme d’algèbres de Lie, 15, 16 sous-espace stable, 18
homomorphisme de groupes de Lie, 15 sous-groupe à un paramètre, 6, 14
identité de Jacobi, 8 sous-groupe distingué, 11
lemme de Schur, 22, 27, 37 suite de composition, 19
mesure de Haar, 31 théorème d’inversion locale, 7, 9
mesure invariante, 31 théorème de Jordan-Hölder, 18
opérateur à noyau, 44 théorème de Riesz, 45
opérateur compact, 44 théorème de Stone-Weierstrass, 41
opérateur d’entrelacement, 18 variété, 49
opérateur de Casimir, 26 vecteur primitif, 25