INTRODUCTION AU DOMAINE DE RECHERCHE:

VARIÉTÉS DE NAKAJIMA ET THÉORIE GÉOMÉTRIQUE DES

REPRÉSENTATIONS DES ALGÈBRES DE HALL

ALIAKSANDR MINETS

Dans cet exposé nous sommes interessés par les moyens géométriques de la construction des
algèbres de Lie semisimples, des algèbres de Hall et de leurs représentations. On commence avec le
cas le plus simple : l’algèbre sl2 . On va toujours travailler sur le corps C sauf indication contraire.

1. Algèbre sl2 et ses représentations

On rappelle que l’algèbre sl2 = {A ∈ End(C2 ) : Tr A = 0} est munie d’un crochet de Lie
donné par [A, B] = AB − BA, et elle est complètement déterminée par sa base
     
1 0 0 1 0 0
H= , E= , F = ,
0 −1 0 0 1 0
avec des relations
(1) [H, E] = 2E, [H, F ] = −2F, [E, F ] = H.
Pour chaque n ∈ N0 on a l’unique représentation irreductible Vn de sl2 de dimension n + 1. Si
on fixe une base (v0 , . . . , vn ) de Vn , alors l’action de sl2 sur Vn peut être décrit par les formules
suivantes :
Hvk = (n − 2k)vk ;
Evk = (n − k + 1)vk−1 , k = 1 . . . n; Ev0 = 0;
F vk = (k + 1)vk+1 , k = 0 . . . n − 1; F vn = 0.
Cette classification des représentations est un exercice classique en théorie des représentations
(voir par exemple [3], problem 1.55). Mais nous sommes interessés à trouver une interpréta-
tion géométrique de ces formules. Pour faire ça, on va regarder les grassmaniennes Gr(k, n) qui
paramétrisent les sous-espaces de W = Cn de dimension k. On définit les variétés suivantes :
Yk = {(V, V 0 ) ∈ Gr(k, n) × Gr(k, n) | V = V 0 };
Yk+ = {(V, V 0 ) ∈ Gr(k + 1, n) × Gr(k, n) | V 0 ⊂ V, dim V /V 0 = 1};
Yk− = {(V, V 0 ) ∈ Gr(k − 1, n) × Gr(k, n) | V ⊂ V 0 , dim V 0 /V = 1}.
Moralement, on veut représenter la base (v0 , . . . , vn ) de Vn par les grassmaniennes, et les
opérateurs E et F par Yk+ et Yk− , qui augmentent ou diminuent la dimension d’un sous-espace
de W par 1. Une façon de faire le produit des variétés est par composition.
Définition 1.1. Soit X1 , X2 , X3 trois ensembles, et Y12 ⊂ X1 × X2 , Y23 ⊂ X2 × X3 . On appelle
l’ensemble
(2) Y12 ◦ Y23 = {(x1 , x3 ) : ∃x2 ∈ X2 tel que (x1 , x2 ) ∈ Y12 , (x2 , x3 ) ∈ Y23 } ⊂ X1 × X3
la composition de Y12 et Y23 .

1
 Avec notre motivation en tête, on va regarder les compositions de variétés Yk+ et Yk− :
−
Yk+ ◦ Yk+1 = {(V1 , V2 ) ∈ Gr(k + 1, n) × Gr(k + 1, n) : ∃V ∈ Gr(k, n) tel que V ⊂ V1 ∩ V2 }
= Yk+1 ∪ {(V1 , V2 ) ∈ Gr(k + 1, n) × Gr(k + 1, n) : dim(V1 ∩ V2 ) = k}
= Yk+1 ∪ Xk+1 ,
où on note Xk = {(V1 , V2 ) ∈ Gr(k, n) × Gr(k, n) : dim(V1 ∩ V2 ) = k − 1}. De même on a :
−
Yk+1 ◦ Yk+ = {(V1 , V2 ) ∈ Gr(k, n) × Gr(k, n) : ∃V ∈ Gr(k + 1, n) tel que V1 + V2 ⊂ V }
= Yk ∪ {(V1 , V2 ) ∈ Gr(k, n) × Gr(k, n) : dim(V1 ∩ V2 ) = k − 1}
= Yk ∪ Xk .
En reprenant notre motivation, il faut maintenant construire le commutateur de Yk+ et Yk− . Pour
ce faire, on considère la théorie d’homologie convenable.

2. Homologie de Borel-Moore et convolution

Définition 2.1. Soit X une variété algébrique complexe, et X̂ = X ∪ {∞} son compactifié
d’Alexandrov. On définit l’homologie H∗BM (X) de Borel-Moore de X par H∗BM (X) = H∗ (X̂, ∞),
où on a l’homologie relative de la paire (X̂, ∞) à droite.
On note que dans les homologies de Borel-Moore d’une variété irreductible X, il y a toujours
la classe fondamentale [X]. En effet, si X est lisse, alors d’après de la suite exacte longue de la
paire (X̂, ∞) on a l’isomorphisme H2BM dim X (X) ' H2 dim X (X̂) ' C, et on pose [X] = [X̂] sous
cet isomorphisme. Si X n’est pas lisse, on note par Xreg l’ouvert de ses points lisses. On a la
partie suivante de la suite exacte longue en homologie de Borel-Moore (voir [2]) :
BM BM BM BM
· · · → Hdim X (X \ Xreg ) → Hdim X (X) → Hdim X (Xreg ) → Hdim X−1 (X \ Xreg ) → · · ·
BM (X) − ∼
Comme la dimension réelle de X \ Xreg est au plus dim X − 2, on a l’isomorphisme Hdim X →
BM
Hdim X (Xreg ), et donc on définit [X] comme l’unique classe qui se restreint à [Xreg ]. De plus, on
a la proposition suivante :
Proposition 2.1. Soit X une variété algébrique de dimension n et X1 , . . . , Xm ses composantes
irréductibles de dimension n. Alors les classes fondamentales [X1 ], . . . , [Xk ] constituent une base
BM (X) des homologies de degré maximal.
de l’espace vectoriel Htop
Démonstration. Comme ci-dessus, on peut supposer que X est lisse. Mais dans ce cas les com-
posantes irréductibles sont les composantes connexes, et on conclut par Mayer-Vietoris appliqué
à X̂ et ses composantes irréductibles. 
La plupart des constructions homologiques usuelles, comme tiré-en-arrière, poussé-en-avant
et le couplage d’intersection, peuvent être definies sur les homologies de Borel-Moore (pour les
définitions plus précises, voir [2]). Alors, à partir de maintenant, on va noter les homologies de
Borel-Moore juste par H∗ .
Pour traduire la notion de composition dans le cadre homologique on récrit l’égalité (2) de la
façon suivante :
Y12 ◦ Y23 = p13 p−1 −1


12 (Z12 ) ∩ p23 (Z23 ) .
Cette forme peut être traduite assez directement dans le contexte homologique :
Définition 2.2. Soit M1 , M2 , M3 des variétés algébriques, pij : M1 × M2 × M3 → Mi × Mj les
projections, et Y12 ⊂ M1 × M2 , Y23 ⊂ M2 × M3 des sous-variétés. Alors on définit le produit de
convolution en homologie de Borel-Moore
Hi (Y12 ) × Hj (Y23 ) → Hi+j−dim M2 (Y12 ◦ Y23 ), (c12 , c23 ) 7→ c12 ∗ c23

2
par la formule suivante :
c12 ∗ c23 = (p13 )∗ (p∗12 c12 ∩ p∗23 c23 ) = (p13 )∗ ((c12  [M3 ]) ∩ ([M1 ]  c23 )) .
On peut observer que si i = (dim M1 + dim M2 )/2 et j = (dim M2 + dim M3 )/2, alors l’image
de Hi (Y12 ) × Hj (Y23 ) va être dans H(dim M1 +dim M3 )/2 (Y12 ◦ Y23 ). On appelle ça la propriété de
la dimension moyenne. En particulier, si M1 = M2 = M3 = M , Y12 = Y23 = Y12 ◦ Y23 = Y et
dim Y = dim M , alors le produit de convolution définit une structure d’algèbre associative sur
Htop (Y ).
Généralement, le produit de convolution n’est pas facile à calculer, même pour les classes
fondamentales, parce qu’il faut compter les intersections avec des multiplicités. Mais dans ce qui
suit, le seul cas qui va nous intéresser est celui de fibrés conormaux.
Définition 2.3. Soit X une variété complexe lisse, Y ⊂ X une sous-variété. On définit le fibré
conormal TY∗ X comme le sous-fibré de T ∗ X annulant T Y :
TY∗ X = {(y, ϕ) ∈ T ∗ X : y ∈ Y, ϕ(v) = 0 ∀v ∈ Ty Y }.
Dans le cas où l’espace ambiant est évident, on va aussi utiliser la notation simplifiée TY∗ .
Le théorème suivant est la cœur technique de ce chapitre :
Théorème 2.2. Dans les notations de la définition 2.2, on note Y13 = Y12 ◦ Y23 et Zij =
TY∗ij (Xi × Xj ). Si les assertions suivantes sont satisfaites :
• l’intersection p−1 −1
12 (Y12 ) ∩ p23 (Y23 ) est transverse ;
−1 −1
• p13 : p12 (Y12 )∩p23 (Y23 ) → Y13 est un fibré localement trivial avec la fibre F lisse compacte ;
alors
(1) Z12 ◦ Z23 = Z13 ;
(2) dans H∗ (Z13 ) on a l’équation [Z12 ] ∗ [Z23 ] = χ(F ) · [Z13 ], où χ(F ) dénote la caractéristique
d’Euler de F .
La démonstration de ce théorème est assez compliquée, donc on ne va pas la reproduire ici (on
peut regarder [2], théorème 2.7.26). Moralement ça signifie que le passage aux fibrés conormaux
"détord" les intersections dans un sens. Aussi, dans toutes les utilisations de ce théorème on ne
va pas vérifier le transversalité pour éviter les détails calculatoires (le lecteur est invité à le faire).
Le théorème précédent nous suggère de regarder la variété M = tnk=0 Gr(k, n) et son fibré
cotangent T ∗ M .
Proposition 2.3. Soit V ⊂ W est un point dans Gr(k, n). Alors on a TV∗ Gr(k, n) = Hom(W/V, V ).
Démonstration. Dans les coordonnées locales de la grassmanienne (c’est-à-dire on choisit une
base de V telle que le premier mineur de la matrice d’application V ,→ W est égal à identité)
le voisinage de V est identifié avec le voisinage de zéro dans Hom(V, W/V ). Donc TV Gr(k, n) =
Hom(V, W/V ), et par conséquent TV∗ Gr(k, n) = Hom(V, W/V )∗ = Hom(W/V, V ). 

Remarquons qu’on a une égalité

[
Hom(W/V, V ) = {ϕ ∈ End W | ϕ2 = 0} =: N2 ,
V

où l’inclusion Hom(W/V, V ) ,→ End W est donnée par la composition W  W/V → V ,→ W .

On peut donc définir l’application
π : T ∗ M → N2 , (V ⊂ W, ϕ : W/V → V ) 7→ ϕ.

3
Remarque. Cette application est une équivalence birationelle (voir [2]), mais on n’utilise pas
ce fait dans ce qui suit. Par contre, π n’est pas un isomorphisme de variétés. Par exemple,
π −1 (0) = tnk=0 Gr(k, n), comme l’application zéro est contenue dans tous les espaces cotangents.
On va aussi noter
Z = T ∗ M ×N2 T ∗ M = {(x1 , x2 ) ∈ T ∗ M × T ∗ M : π(x1 ) = π(x2 )}
= {(V1 , V2 , ϕ) ∈ M × M × End W : V1 + V2 ⊂ Ker ϕ, Im ϕ ⊂ V1 ∩ V2 }
⊂ T ∗ (M × M ).
Remarque. La dernière inclusion demande le choix d’un isomorphisme T ∗ M ×T ∗ M ' T ∗ (M ×M ).
Pour des raisons de commodité, on prefère utiliser l’isomorphisme qui envoie le deuxième facteur
sur son inverse, c’est-à-dire
T ∗ M × T ∗ M → T ∗ (M × M )
(x1 , ϕ1 ), (x2 , ϕ2 ) 7→ (x1 , ϕ1 , x2 , −ϕ2 ).
Évidemment on a Z ◦ Z = Z. L’importance de cette variété vis-à-vis de nos considérations est
justifiée par la proposition suivante :
Proposition 2.4. Z est l’union des fibrés conormaux de toutes les GL(W )-orbites dans M × M .
Démonstration. Soit (V1 , V2 ) ∈ M × M , et ϕ ∈ T(V ∗ (M × M ). On note ιi : Vi ,→ W , pi :
1 ,V2 )
W  W/Vi les applications naturelles. On va aussi noter G = GL(W ). L’élément ϕ peut être
représenté par une paire (ϕ1 , ϕ2 ) ∈ Hom(W/V1 , V1 ) ⊕ Hom(W/V1 , V1 ) ,→ End W ⊕ End W . Par
la définition de l’action de GL(W ) sur M , l’espace tangent à l’orbite G · (V1 , V2 ) dans le point
(V1 , V2 ) peut être exprimé de la manière suivante :
T(V1 ,V2 ) G(V1 , V2 ) = {(p1 ◦ g ◦ ι1 , p2 ◦ g ◦ ι2 ) ∈ Hom(V1 , W/V1 ) ⊕ Hom(V2 , W/V2 ) : g ∈ End W } .
Alors ϕ est dans le fibré conormal si et seulement si
Tr(ϕ1 ◦ p1 ◦ g ◦ ι1 ) + Tr(ϕ2 ◦ p2 ◦ g ◦ ι2 ) = 0 ⇔ Tr(ϕ1 g + ϕ2 g) = 0 ∀g ∈ End W.
Mais la dernière condition est équivalente à ϕ1 = −ϕ2 qui, modulo notre convention de signe,
signifie exactement ϕ ∈ Z. 
Corollaire 2.5. Si Z 0 est une composante irreductible de Z qui est contenu dans T ∗ Gr(k, n) ×
T ∗ Gr(l, n), alors dim Z 0 = dim Gr(k, n) + dim Gr(l, n).
D’après la propriété de la dimension moyenne, le corollaire nous dit que Htop (Z) est une
algèbre associative.

3. Construction de U (sl2 )
Notons Hn le sous-espace vectoriel de H∗ (π −1 (0)) engendré par les classes fondamentales
[Gr(k, n)] (voir la remarque 2). Le produit de convolution nous définit l’action de Htop (Z) sur
Hn .
On regarde maintenant trois éléments de Htop (Z) :
n
X n−1
X n
X
h= (2k − n)[TY∗k ], e= [TY∗ + ], f= [TY∗ − ],
k k
k=0 k=0 k=1
et on calcule leur action sur Hn en utilisant le théorème 2.2. Dans l’énoncé du théorème on pose
M1 = M2 = M , M3 = {∗}. Dans ce cas on a Y23 ⊂ M2 = M , et
Y12 ◦ Y23 = {x ∈ M : ∃y ∈ Y23 , (x, y) ∈ Y12 }.

4
En outre, les variétés Gr(k, n) ⊂ π −1 (0) sont égales à leurs fibrés cotangents, comme ils se
trouvent dans la section zéro du fibré cotangent T ∗ M .
• (Yk × {∗}) ∩ (M × Gr(k, n)) se projette sur Gr(k, n), la fibre F ne consiste qu’en un point,
donc
h · [Gr(k, n)] = (2k − n)[Gr(k, n)];
• (Yk+ × {∗}) ∩ (M × Gr(k, n)) se projette sur Gr(k + 1, n), la fibre en un point V est égale
à {V 0 ∈ Gr(k, n) : V 0 ⊂ V } ' Pk . Alors on a
e · [Gr(k, n)] = χ(Pk )[Gr(k + 1, n)] = (k + 1)[Gr(k + 1, n)];
• (Yk− × {∗}) ∩ (M × Gr(k, n)) se projette sur Gr(k − 1, n), la fibre en un point V est égale
à {V 0 ∈ Gr(k, n) : V ⊂ V 0 } ' Pn−k . Alors on a
f · [Gr(k, n)] = χ(Pn−k )[Gr(k − 1, n)] = (n − k + 1)[Gr(k − 1, n)].
Pour terminer notre construction, on prétend que l’attribution E 7→ e, F 7→ f , H 7→ h
s’étend en un morphisme d’algèbres associatives Φn : U (sl2 ) → Htop (Z), où U (sl2 ) est l’algèbre
enveloppante de sl2 . Pour ça, il faut vérifier les relations (1). On va utiliser le théorème 2.2 encore
une fois. Prenons M1 = M2 = M3 = M .
Les relations [h, e] = 2e, [h, f ] = −2f sont plus faciles, donc on commence avec elles. Comme
+ + + +
Yk ◦ Yk−1 = Yk−1 , et la fibre de l’application (Yk × M ) ∩ (M × Yk−1 ) → Yk ◦ Yk−1 est triviale, on
∗ ∗ ∗
a l’égalité [TYk ] ∗ [TY + ] = [TY + ]. Par le même raisonnement, on a
k−1 k−1

[TY∗k ] ∗ [TY∗ − ] = [TY∗ − ], [TY∗ + ] ∗ [TY∗k ] = [TY∗ + ], [TY∗ + ] ∗ [TY∗k ] = [TY∗ + ].

k+1 k+1 k k k k

Maintenant, on fait un peu de calcul :

[h, e] = h ∗ e − e ∗ h
n n−1 n−1 n
! ! ! !
X X X X
= (2k − n)[TY∗k ] ∗ [TY∗ + ] − [TY∗ + ] ∗ (2k − n)[TY∗k ]
k k
k=0 k=0 k=0 k=0
n−1
X n−1
X
= (2(k + 1) − n)[TY∗ + ] − (2k − n)[TY∗ + ]
k k
k=0 k=0
n−1
X
=2 [TY∗ + ] = 2e.
k
k=0

En faisant le même type de calcul, on montre aussi [h, f ] = −2f .

Pour démontrer [e, f ] = h, on commence avec le résultat plus faible suivant :
Lemme 3.1. Il existe une constante m vérifiant
(3) [TY∗ + ] ∗ [TY∗ − ] − [TY∗ − ] ∗ [TY∗ + ] = m[TY∗k ].
k−1 k k+1 k

−
Démonstration. On sait que pour tout k on a l’égalité au niveau des ensembles Yk+1 ◦ Yk+ =
Yk ∪ Xk . Comme Yk et Xk sont les G-orbites dans M × M , d’après la proposition 2.4 on a
l’égalité
[TY∗ − ] ∗ [TY∗ + ] = m1 [TY∗k ] + r[TX∗ k ]
k+1 k

pour des constantes m1 , r. Maintenant on va regarder la même égalité sur l’ensemble M ×M \Yk .
−
Dans ce cas, la fibre de (Yk+1 × M ) ∩ (M × Yk+ ) sur Xk dans un point (V1 , V2 ) est égal à
{V ∈ Gr(k + 1, n) : V1 + V2 ⊂ V }.

5
Mais comme dim(V1 ∩ V2 ) = k − 1, la fibre ne consiste qu’en un point {V1 + V2 }. Alors en
appliquant le théorème 2.2 on trouve
[TY∗ − ] ∗ [TY∗ + ] = [TX∗ k ]
k+1 k

sur Xk . Comme le produit de convolution commute avec la restriction, ceci nous montre r = 1.
En répétant les arguments ci-dessus, on montre qu’il existe une constante m2 telle que
[TY∗ + ] ∗ [TY∗ − ] = m2 [TY∗k ] + [TX∗ k ].
k−1 k

En soustrayant les deux égalités, on montre que l’assertion du lemme est vérifiée pour m =
m2 − m1 . 
Comme on connaît déjà l’action de e et f sur [Gr(k, n)], on peut calculer la valeur précise de
m:
m[Gr(k, n)] = m[TY∗k ] · [Gr(k, n)]
 
∗ ∗ ∗ ∗
= [TY + ] ∗ [TY − ] − [TY − ] ∗ [TY + ] · [Gr(k, n)]
k−1 k k+1 k

= (k(n − k + 1) − (n − k)(k + 1)) [Gr(k, n)] = (2k − n)[Gr(k, n)].

Finalement, on a
[e, f ] = e ∗ f − f ∗ e
n−1 n n n−1
! ! ! !
X X X X
= [TY∗ + ] ∗ [TY∗ − ] − [TY∗ − ] ∗ [TY∗ + ]
k k k k
k=0 k=1 k=1 k=0
n 
X  Xn
= [TY∗ + ] ∗ [TY∗ − ] − [TY∗ − ∗
] ∗ [TY + ] = (2k − n)[TY∗k ] = h.
k−1 k k+1 k
k=0 k=0
et donc [e, f ] = h.
Enfin, on peut recoller nos résultats dans un théorème :
Théorème 3.2. L’application Φn : U (sl2 ) → Htop (Z) est un morphisme d’algèbres. De plus, le
foncteur
Φ∗n : Htop (Z)-mod → U (sl2 )-mod
induit par Φn envoie le Htop (Z)-module Hn sur le sl2 -module Vn .
Remarque. En fait, l’application Φn est surjective, et on a l’isomorphisme Û (sl2 ) ' limn Htop (Z),
←−
où Û (sl2 ) est la complétion de U (sl2 ) par rapport à la topologie donnée par les idéaux de codi-
mension finie. Remarquons qu’on ne précise pas la structure de système projectif sur {Htop (Z)}
(voir [2], chapitre 4.4).

6
 4. Les variétés de Nakajima
Maintenant on va esquisser comment on peut étendre cette stratégie géométrique dans le cas
d’une algèbre de Lie semisimple quelconque (ou, plus généralement, une algèbre de Kac-Moody
quelconque). Quand on faisait les constructions pour sl2 , on regardait les fibrés cotangents des
grassmaniennes. Chaque point V ⊂ W de Gr(k, n) peut être regardé comme GL(V )-orbite d’une
application ϕ ∈ Hom(V, W ) de rang maximal. Le fibré cotangent T ∗ Hom(V, W ) est égal à
Hom(V, W ) ⊕ Hom(W, V ), en d’autres termes à l’espace des représentations du carquois suivant :
◦

◦
Généralement, pour obtenir T ∗ (X/G) à partir de T ∗ X, il faut faire le quotient symplectique
de T ∗ X par G (pour les détails, voir [1]). Donc en gros on a justement quotienté un ouvert de
l’espace des représentations d’un carquois par les automorphismes d’un des deux sommets en
sens symplectique. Remarquons que ◦ est la diagramme de Dynkin de sl2 . Il semble logique de
remplacer ce carquois par le carquois dont le graphe non orienté sous-jacent est le diagramme
de Dynkin d’une algèbre de Lie semisimple. Dans ce qui suit, on va brièvement préciser cette
stratégie.
Soit Q = (I, E) un carquois sans boucle. On considère le carquois encadré dédoublé Q♥ :

◦ ◦ ◦ ◦
/ ◦ v
◦
( ◦ ◦ ◦
◦

◦
Plus précisément, Q♥ = (I 0 , E 0 ), où I0 = {i, i0 | v ∈ I}, et
E 0 = {e, e | e ∈ E} t {i → i0 , i0 → i | i ∈ I}.
Pour chaque paire de vecteurs v = (vi )i∈I , w = (wi )i∈I ∈ NI , on prend des espaces Vi ,
Vi0 = Wi , i ∈ I tels que dim Vi = vi , dim Wi = wi . Considérons l’espace Rep(Q♥ , v, w) des
représentations de Q♥ :
M
Rep(Q♥ , v, w) = Hom(Vout(e) , Vin(e) ) =
e∈E 0
M M M M
= Hom(Vout(e) , Vin(e) ) ⊕ Hom(Vin(e) , Vout(e) ) ⊕ Hom(Wi , Vi ) ⊕ Hom(Vi , Wi ).
e∈E e∈E i∈I i∈I

On écrit (x, y, i, j) ∈ Rep(Q♥ , v, w). Cet espace est symplectique par rapport à la forme sym-
plectique naturelle ω, donnée par
ω((x, y, i, j), (x0 , y0 , i0 , j0 )) = Tr x ◦ y0 − x0 ◦ y + i ◦ j0 − i0 ◦ j .

L’action naturelle de G = i∈I GL(Vi ) sur Rep(Q♥ , v, w) est évidemment symplectique, et aussi
Q
hamiltonienne, d’application moment suivante :
µ : Rep(Q♥ , v, w) → g∗ ,
µ(x, y, i, j) = x ◦ y − y ◦ x + i ◦ j ∈ g,

7
où on identifie g avec g∗ par le moyen de la forme de Killing. Alors on peut construire la variété
M0 (v, w) := µ−1 (0)/G = Spec C[µ−1 (0)]G . Cette variété va habituellement être singulière. Pour
remédier à cette circonstance malheureuse, on fera le quotient GIT [6] par rapport à un caractère
χ : G → C∗ . On définit alors les variétés de Nakajima par
M(v, w) := µ−1 (0)/χ G = µ−1 (0)st /G
pour tout v, w.
Maintenant on choisit χ = i∈I det−1
Q
Vi . Dans ce cas, la condition de la stabilité peut s’écrire
de la façon suivante :
(x, y, i, j) est (semi-)stable si et seulement si le seul sous-espace ⊕i Vi0 de ⊕i Vi , contenu dans
Ker j et invariant sous x et y, est le trivial.
D’après les résultats généraux sur GIT (voir [6]) M(v, w) est lisse, et on a une application
projective π : M(v, w) → M0 (v, w). Notons
M(w) = tv M(v, w), M0 (w) = lim M0 (v, w),
−→
v
Z(w) = M(w) ×M0 (w) M(w),
où les inclusions M0 (v0 , w) ⊂ M0 (v, w) sont induites à partir des inclusions Vi0 ⊂ Vi pour tout
v0 ≤ v.
Le produit de convolution munit H∗ (Z(w)) d’une structure d’algèbre associative, et définit
l’action de H∗ (Z(w)) sur H∗ (π −1 (x)) pour tout x ∈ M0 (w). On va restreindre notre attention
à la sous-algèbre Hw := Htop (Z(w)) ⊂ H∗ (Z(w)) et le Hw -module Lw := Htop (π −1 (x)), qui
consiste des homologies de degré plus haut.
Notons gQ l’algèbre de Kac-Moody correspondant au carquois Q avec les directions des arêtes
oubliées (si Q est une diagramme de Dynkin, on va obtenir l’algèbre de Lie semisimple corres-
pondante). Nakajima a montré le théorème suivant, qui nous donne une description géométrique
de U (gQ ) :
Théorème 4.1. Il existe un homomorphisme d’algèbres
Φ : Ũ (gQ ) → H∗ (Z(w))
pour tout w ∈ NI , où Ũ (gQ ) est l’algèbre enveloppante modifiée [7]. En plus, Lw est isomorphe
au gQ -module simple intégrable avec le poids plus haut w.
On ne donnera pas la définition précise de l’algèbre enveloppante modifiée ici. En gros, si
U (gQ ) = U (n+ ) ⊗ U (h) ⊗ U (n− ) est la décomposition triangulaire, on retrouve Ũ (gQ ) en rem-
plaçant la partie diagonale U (h) par l’espace vectoriel Ũ ayant le réseau des poids de gQ pour
base.

5. L’algèbre de Hall
Dans cette section on essaie de donner une idée de comment on peut généraliser la théorie de
Nakajima dans le cadre plus général des algèbres de Hall.
Soit C une catégorie abélienne finitaire héréditaire, c’est-à-dire :
i) pour tout M, N ∈ Ob(C) on a | Hom(M, N )| < ∞, | Ext1 (M, N )| < ∞ ;
ii) la dimension globale de C est inférieure ou égale à 1.
Les exemples principaux de telles catégories sont
• la catégorie RepFq Q des représentations d’un carquois Q sur le corps Fq ; on peut aussi
considérer la sous-catégorie Repnil
Fq Q des représentations nilpotentes ;
• la catégorie Coh(X) des faisceaux cohérents sur une courbe lisse X définie sur Fq .

8
Soit C une catégorie abélienne finitaire héréditaire. On définit la forme d’Euler sur l’ensemble
des objets de C par
s
| Hom(M, N )|
(M, N ) = .
| Ext1 (M, N )|
On note que d’après la suite exacte longue en Ext, associée à une suite exacte courte, cette
quantité ne dépend que des classes de M et N dans le groupe de Grothendieck K(C) de C.
Ringel [8] a défini une C-algèbre associative HC , appelé l’algèbre de Hall de C, qui est engendrée
par les classes d’isomorphisme des objets de C comme C-espace vectoriel, où la multiplication
est donnée par
X #{0 → N → R → M → 0}
[M ] · [N ] = (M, N ) [R].
| Aut M | · | Aut N |
[R]
Cette multiplication encode plus ou moins l’information sur les extensions dans notre catégorie.
Le facteur (M, N ) n’est pas nécessaire pour définir le produit associatif, mais est très utile pour
la formulation des théorèmes à venir. Pour la convenance on va aussi définir l’algèbre de Hall H̃C
étendue de la manière suivante :
H̃C = HC ⊗C C[K(C)],
où C[K(C)] est l’algèbre du groupe de K(C) engendrée par les éléments kα , α ∈ K(C), et la
multiplication est donnée par
kα [M ]k−1
α = (α, M )[M ].
Remarquons que cette définition est un peu parallèle à la définition de l’algèbre enveloppante
modifiée.
C’est un fait bien connu que les algèbres de Lie semisimples sont des objets rigides, c’est-à-dire
que l’on ne peut pas déformer le crochet de Lie de façon non triviale. Par contre, on a une famille
de déformations Uν (g) de l’algèbre enveloppante U (g) de g, appelée le groupe quantique. On ne
va pas définir tout la déformation Uν (g) ici, mais juste sa restriction à la sous-algèbre nilpotente
b0+ = n+ .
Définition 5.1. L’algèbre associative Uν (b0+ ) est donnée par les générateurs Ei , Ki± , i ∈ I, et
les relations
[Ki , Kj ] = 0, Ki Ej Ki−1 = ν ai j Ej ,
1−aij  
l 1 − aij 1−a −l
X
(−1) Ei Ej Ei ij = 0,
l
l=0
 
1 − aij
où A = (aij ) est la matrice de Cartan, et est le coefficient ν-nomial, défini par
l
n
1 − νk
 
n [n]ν ! Y
= , [n]ν ! = .
k [k]ν ![n − k]ν ! 1−ν
k=1

L’observation motivant la recherche d’une interprétation géométrique de HC est le théorème

suivant :
Théorème 5.1 ([9], théorème 3.16). Soit C = Repnil Fq Q, et ν = q
1/2 . Alors il existe un plongement

Ψ : Uν (b0+ ) ,→ H̃Q , où H̃C est l’algèbre de Hall étendue, et Uν (b0+ ) est la partie positive du groupe
quantique Uv (g0 ), spécialisée à v = ν. En plus, Ψ est un isomorphisme si et seulement si Q est
de type fini.

9
 Alors il semble raisonnable d’essayer de trouver un analogue des variétés de Nakajima pour
une catégorie finitaire héréditaire quelconque. On va se concentrer sur le cas de la catégorie des
faisceaux sur une courbe. Plus précisément, on regarde une courbe algébrique lisse X̃ définie sur
Z, sa réduction X = X̃/Fq , et on considère C = Coh(X). Comme les variétés de Nakajima sont
construites à partir d’espace de représentations sur C d’un carquois, le premier candidat pour
remplacer cet espace dans notre cas est l’espace Coh(XC ) de modules des faisceaux cohérents
sur XC .
Définition 5.2. Soit M : Sch/k → Ensop un foncteur contravariant. On dit que l’objet
M ∈ Sch/k est l’espace de modules (fin) s’il représente ce foncteur, c’est-à-dire s’il existe un
isomorphisme naturel τ : M → Hom(−, M ).
Pour les faisceaux sur une courbe on a deux invariants discrets : rang et degré. Alors on définit
le foncteur
Cohr,d : Sch/k → Ensop ,
qui envoie Y ∈ Sch/k sur l’ensemble des faisceaux cohérents F sur XC × Y , plat sur XC ,
et tels que pour tout y ∈ Y la fibre F (y) est de rang r et de degré d. Si ce foncteur est
representé par Cohr,d , alors il existe une famille universelle F ∈ Coh(XC ×Cohr,d ), correspondant
à id ∈ Hom(Cohr,d , Cohr,d ), qui va contenir tous les faisceaux de rang r et de degré d comme
fibres. Malheureusement, ce n’est pas le cas :
Définition 5.3. Soit V = {Fα } un ensemble de classes d’isomorphisme de faisceaux cohérents
sur X. On dit que V est bornée, s’il existe une variété S ∈ Sch/k et un faisceau F ∈ Coh(S × X)
vérifiant V ⊂ {F(s) | s ∈ S}.
Proposition 5.2. L’ensemble des classes d’isomorphisme des fibrés vectoriels de rang r et de
degré d n’est pas borné pour r ≥ 2.
Démonstration. On fixe un fibré en droites OX (1) sur X, qui est ample et de degré 1, et considère
les fibrés
r−2
Ek = OX (−k) ⊕ OX (d + k) ⊕ OX
pour tout k ∈ N. D’après le théorème de Riemann-Roch, on a h1 (Ek ) ≥ h1 (OX (−k)) = k + g − 1.
Comme les nombres de Betti des fibres doivent être bornés par une constante (voir [5], corollaire
4.14), la famille {Ek } n’est pas bornée, d’où la proposition. 
On voit alors qu’il n’existe pas de schéma représentant le foncteur Cohr,d ; généralement, on
parle plutôt des soi-disants champs algébriques et le champ de modules représentant ce foncteur.
Néanmoins, on peut saisir une partie géométrique assez grande des faisceaux cohérents sur XC ,
deg E
à savoir les faisceaux semistables. On note µ(E) = .
rg E
Définition 5.4. Soit E un faisceau cohérent sur X. On dit que E est semistable si µ(F ) ≤ µ(E)
pour tout sous-OX -module propre F de E, et stable si l’inégalité est stricte.
D’après [5], il existe un espace de modules fin des faisceaux stables, et un espace de modules
grossier des faisceaux semistables, qui est propre sur C.
De la même façon, pour imiter la construction de Nakajima on peut fixer un faisceau F ∈
Coh(XC ), regarder le champ de modules des paires (E ∈ Coh(XC ), α ∈ Hom(E, F )) et passer
à son fibré cotangent. En fixant la notion de semistabilité convenable, on retrouve une partie
géométrique de ce champ. Mais il s’avère qu’en fait on a une famille de notions de semistabilité
parametrisée par un paramètre rationnel, et a priori on n’a pas de choix naturel. De plus, on n’a
plus d’analogue de l’application π : M(v, w) → M0 (v, w). De toute façon, c’est encore possible

10
de définir les variétés de paires Z, et je crois qu’on peut éventuellement reproduire la théorie de
Nakajima dans ce cadre.

Références
[1] A. Cannas da Silva. Lectures on symplectic geometry, Springer, 2008.
[2] N. Chriss, V. Ginzburg. Representation theory and complex geometry, Birkhäuser, 1997.
[3] P. Etingof. Introduction to representation theory, AMS, 2011.
[4] V. Ginzburg. Lectures on Nakajima’s quiver varieties, arXiv :0905.0686, 2009.
[5] Joseph Le Potier. Fibrés vectoriels sur les courbes algébriques, Université de Paris 7 - Denis Diderot, Paris,
1994.
[6] D. Mumford, J. Fogarty, F. Kirwan. Geometric invariant theory, Springer-Verlag, 1994.
[7] H. Nakajima. Quiver varieties and Kac-Moody algebras, Duke Math. J. 91 (1998), no. 3, 515–560.
[8] C. Ringel. Hall algebras, Topics in algebra, Part 1 (Warsaw, 1988), 433–447, Banach Center Publ., 26, Part 1,
PWN, Warsaw, 1990.
[9] O. Schiffmann. Lectures on Hall algebras, arXiv :math/0611617, 2006.

11