journal of functional analysis 158, 289324 (1998)

article no. FU983281

Coefficients binomiaux generalises et polyno^mes

de Macdonald
Michel Lassalle

Ecole Polytechnique, 91128 Palaiseau Cedex, France

E-mail: lassalle[Link]

Received February 1, 1998; accepted March 22, 1998

1. INTRODUCTION

On connait deux generalisations de la formule classique du bino^me dans

des
View directions
metadata, apparemment
citation tresatdiffe
and similar papers  rentes.
D'une part on dispose depuis
[Link] brought to you by CORE
Heine (1847) de la non moins classique formule q-binomiale provided by Elsevier - Publisher Connector

k&1 k
k
` (1+xq i )= :
i=0 l=0
\l+ q q
l(l&1)2
x l.

D'autre part A. Lascoux [4] a introduit la notion de ``determinant bino-

mial'' d *+ associe a deux partitions, et explicite une formule du bino^me
pour les fonctions de Schur

s *(1+x 1 , ..., 1+x n )= : d *+ s +(x 1 , ..., x n ).

+*

La theorie des polyno^mes de Macdonald [6] unifie dans un nouveau

formalisme 1'etude combinatoire des fonctions de Schur et l'analyse en
base q. Il est donc naturel de rechercher dans ce cadre une generalisation
de la formule du bino^me. C'est le sujet de cet article.
Soient q et t deux indeterminees, et considerons l'algebre des polyno^mes
symetriques de n variables a coefficients rationnels en q et t. Les polyno^mes
de Macdonald P *(x; q, t) forment une base de cette algebre, indexee par les
partitions * de longueur inferieure ou egale a n. A deux telles partitions }
et * nous associons un coefficient du bino^me generalise ( }*) q, t . Nous
etudions les proprietes generales de ces coefficients, et donnons une expression
analytique explicite des plus elementaires d'entre eux.
Cet article etait en redaction quand nous avons recu le travail de
Okounkov [8] qui aborde le me^me probleme sous un angle complemen-
taire. Okounkov ecrit une formule du bino^me generalisee a l'aide des poly-
no^mes de Macdonald ``decales'' qu'il a etudies ailleurs [7]. Nous montrons
289
0022-123698 25.00
Copyright  1998 by Academic Press
All rights of reproduction in any form reserved.
290 MICHEL LASSALLE

que les coefficients qui interviennent dans sa formule sont precisement les
me^mes que ceux introduits ici.
Les polyno^mes de Jack J *(x; :) peuvent e^tre obtenus comme la limite
lorsque t tend vers 1 des polyno^mes de Macdonald P *(x; t :, t). Dans cette
limite ( }* ) q, t definit un coefficient du bino^me generalise ( }* ) : associe aux
polyno^mes de Jack. Nous etudions brievement ces coefficients et la formule
du bino^me associee, demontrant ainsi les resultats annonces dans [5] (voir
egalement [1] et [9]).
Donnons pour conclure le plan de cet article. Les Sections 2 et 3 etablis-
sent nos notations. Les coefficients du bino^me generalises sont definis a la
Section 4. La Section 5 est consacree a quelques resultats combinatoires
auxiliaires. Les Sections 6 a 8 etudient les coefficients binomiaux ( }* ) q, t dans
le cas elementaire |}| = |*| +1. Nous obtenons une formule analytique
explicite, et associons ces coefficients a une equation aux differences finies
ainsi qu'a une formule de Pieri. Le coefficient binomial ( }1 ) q, t est explicite
a la Section 9. La Section 10 etablit une formule de recurrence, ce qui per-
met de traiter aux Sections 11 et 12 le cas particulier des equerres et des
rectangles. La Section 13 demontre la formule du bino^me generalisee et
compare nos resultats a ceux de [8]. La Section 14 est consacree au cas
limite des polyno^mes de Jack, et la Section 15 a une remarque de
Macdonald.

2. GENERALITES ET NOTATIONS

Pour tout cet article la reference est le chapitre 6 du livre de Macdonald

[6]. Dans cette section nous etablissons nos notations et rappelons les
resultats de [6] dont nous aurons besoin.

2.1. Fonctions symetriques

Une partition * est une suite decroissante finie d'entiers positifs. On dit
que le nombre n d'entiers non nuls est la longueur de *. On note
*=(* 1 , ..., * n ) et n=l(*). On dit que |*| = i * i est le poids de *, et pour
tout entier i que m i (*)=card( j: * j =i) est la multiplicite de i dans *. On
pose

z * = ` i mi (*) m i (*)!.
i1

On note *$ la partition conjuguee de * definie par *$i =card( j: * j i). On

identifie * avec son diagramme [(i, j) : 1il(*), 1 j* i ] et *$ avec le
diagramme [(i, j) : ( j, i) # *].
 POLYNOMES DE MACDONALD 291

On ecrit *+ si |*| = |+| et si on a * 1 +* 2 + } } } +* k + 1 ++ 2 +

} } } ++ k pour tout k1. On definit ainsi un ordre partiel sur les partitions
de me^me poids. On note +* lorsque + i * i pour tout i, c'est-a-dire lors-
que le diagramme de + est contenu dans celui de *. Pour toute partition *
on pose n(*)= i (i&1) * i .
Soit +* avec |+| = |*| &1. Il existe alors un entier i tel que + i =* i &1
et + j =* j ( j{i). Dans cette situation on note indifferemment +=* (i) et
*=+ (i).
Considerons n indeterminees independantes x 1 , ..., x n . On note 4 n
l'anneau des polyno^mes symetriques en x 1 , ..., x n a coefficients dans Z. Soit
* une partition de longueur n. Le polyno^me symetrique monomial m * est
defini par

m *(x 1 , ..., x n )=: x _11 } } } x _n n ,

_

ou la somme s'effectue sur toutes les permutations distinctes de * 1 , ..., * n .

Les polyno^mes [m * , l(*)n] forment une base de 4 n .
Pour tout entier r on note 1 r la partition (1, ..., 1) de longueur r et (r)
sa conjuguee de longueur un. On pose e r =m 1r et p r =m (r) . A chaque parti-
tion * on associe le polyno^me symetrique
l(*)
p * = ` p *i = ` p m
i
i (*) .

i=1 i1

Soit mainteriant x=(x 1 , x 2 , ...) un ensemble infini d'indeterminees. On

appelle fonction symetrique f (x) la donnee pour tout entier n d'un poly-
no^me symetrique f n(x 1 , ..., x n ) # 4 n , telle que

f n+1(x 1 , ..., x n , 0)= f n(x 1 , ..., x n ).

On definit ainsi l'anneau 4 des fonctions symetriques.

2.2. Polyno^mes de Macdonald

Soient q, t deux indeterminees independantes et F=Q(q, t) le corps des
fonctions rationnelles de q et t. On note 4 F =4 Z Q(q, t) l'algebre des
fonctions symetriques a coefficients dans Q(q, t). On munit 4 F d'un produit
scalaire ( } , } ) q, t defini par
l(*)
1&q *i
(p * , p + ) q, t =$ *+ z * ` ,
i=1
1&t *i

avec $ *+ =1 si *=+ et sinon $ *+ =0.

292 MICHEL LASSALLE

Pour toute partition * il existe une fonction symetrique unique P *(x; q, t)

# 4 F telle que

(i) P *(q, t)= : u *+ m +

+*

avec u *+ # F et u ** =1,

(ii) ( P *(q, t), P +(q, t)) q, t =0 si *{+.

La famille [P *(q, t)] forme une base de 4 F . Soit * une partition telle que
l(*)n. La restriction P *(x 1 , ..., x n ; q, t) est un polyno^me symetrique
homogene de degre |*| qu'on appelle polyno^me de Macdonald.
Pour toute partition * on pose

c *(q, t)= ` (1&q *i & j t *$j &i+1 )

(i, j) # *

c$*(q, t)= ` (1&q *i & j+1 t *$j &i ).

(i, j) # *

On definit la ``forme integrale'' de P *(q, t) en posant

J *(x; q, t)=c *(q, t) P *(x; q, t).

Les quantites suivantes ont ete evaluees par Macdonald:

j *(q, t)=( J *(q, t), J *(q, t)) q, t =c *(q, t) c$*(q, t) (2.1)

J *(1, t, ..., t n&1; q, t)= ` (t i&1 &q j&1 t n ). (2.2)

(i, j) # *

On note desormais

J *(x 1 , ..., x n ; q, t)
J *(x
* 1 , ..., x n ; q, t)= .
J *(1, t, ..., t n&1; q, t)

Cette definition est dependante de n. En posant

J *(x; q, t)
J*
* (x; q, t)= ,
j *(q, t)

on obtient la base de 4 F qui est duale de la base [J *(q, t)] pour la forme
( } , } ) q, t . La relation suivante sera utile. Cest une consequence immediate
des relations (2.3) (page 309) et (8.5) (page 353) de [6].

J*
* (x; 1q, 1t)=(&1)
|*| n(*$)+ |*| n(*) *
q t J * (x; q, t). (2.3)
 POLYNOMES DE MACDONALD 293

2.3. q-calcul
Soit a une indeterminee. On note

(a; q)  = ` (1&aq i )
i0

p
(a; q) 
(a, q) p = = ` (1&aq i&1 ).
(aq p; q)  i=1

Si r et s sont deux entiers, on note

s
r 1&q r&i+1
\+s q
=`
i=1
1&q i

le coefficient q-binomial classique.

3. FONCTIONS HYPERGEOMETRIQUES

Soit a une indeterminee. On introduit l'homomorphisme = a, t : 4 F  F

defini par

1&a r
= a, t( p r )= (r1).
1&t r

On a

l(*)
1&a *i
= a, t( p * )= `
i=1
1&t *i

et ([6], (8.8), p. 354)

= a, t(J *(q, t))= ` (t i&1 &aq j&1 ). (3.1)

(i, j) # *

Soient x et y deux ensembles infinis d'indeterminees. Si on pose

(tx i y j ; q) 
6(x, y; q, t)=`
i, j
(x i y j ; q) 
294 MICHEL LASSALLE

on sait ([6], (2.6), p. 309, et (2.7), p. 310) qu'on a

l(*)
1&t *i
6(x, y; q, t)=: z &1
* ` p *(x) p *( y) (3.2)
* i=1
1&q *i

=: J *( y; q, t) J *
* (x; q, t). (3.3)
*

On introduit la ``fonction hypergeometrique generalisee'' suivante

18 0(a; x; q, t)=: = a, t(J *(q, t)) J *

* (x; q, t).
*

Le resultat suivant generalise le ``theoreme de Heine''. Il a ete etabli par

Macdonald dans un manuscrit non publie (Hypergeometric series II:
q-analogues); voir aussi [2], Theorem 3.5.

Proposition 1. On a
l(*)
1&a *i
8 0(a; x; q, t)=: z &1
1 * ` p *(x).
* i=1
1&q *i

Et si l 'on specifie n variables x=(x 1 , ..., x n ),

n
(ax i ; q) 
1 8 0(a; x 1 , ..., x n ; q, t)= ` .
i=1
(x i ; q) 

Preuve. En vertu des relations (3.2) et (3.3), on a

1 8 0(a; x; q, t)== a, t(6(x, y; q, t))

l(*)
1&t *i
=: z &1
* ` (= a, t p * ) p *(x).
* i=1
1&q *i

D'ou la premiere relation. Pour etablir la seconde, on remarque que le

membre de droite est 6(x, (1, 0, ..., 0); q, a) et on applique (3.2). K
On note desormais

,(x; q, t)= 18 0(0; x; q, t)=: t n(*)J *

* (x; q, t)
*

(x; q, t)= lim 18 0(a; xa; q, t)=: (&1) |*| q n(*$)J *

* (x; q, t).
a
*
 POLYNOMES DE MACDONALD 295

La Proposition 1 implique immediatement

l(*)
1
,(x; q, t)=: z &1
* ` p *(x) (3.4)
* i=1
1&q *i
l(*)
1
(x; q, t)=: z &1 ` p (x). (3.5)
*
* i=1
q &1 *
*i

Si l'on specifie n variables x=(x 1 , ..., x n ) on a aussi

n
,(x; q, t)= ` (x i ; q) &1

i=1

n
(x; q, t)= ` (x i ; q)  .
i=1

4. COEFFICIENTS BINOMIAUX GENERALISES

On introduit les coefficients du bino^me generalises par la definition sui-

vante qui est independante du nombre de variables.

Definition 1. Soit * une partition. Les coefficients binomiaux genera-

lises ( }* ) q, t sont definis par

}
J*
* (x; q, t) ,(x; q, t)=:
}
\+* q, t
t n(})&n(*)J *
} (x; q, t).

En prenant les parties homogenes de , par (3.4), cette definition est equi-
valente a la suivante

l(+)
1
J*
* (x; q, t)
_ : z &1
+
|+| = p
`
i=1
1&q +i
p +(x)
&
}
= :
|}| = |*| + p
\ *+ q, t
t n(})&n(*)J *
} (x; q, t). (4.1)

On introduit l'automorphisme de 4 F defini par

l(+)
1&q +i
| q, t( p + )=(&1) |+| &l(+) ` p+ .
i=1
1&t +i
296 MICHEL LASSALLE

Cet automorphisme a ete etudie par Macdonald ([6], p. 312). La relation

suivante est une consequence immediate des relations (8.6) et (8.7) de [6]
(p. 353):

| q, t(J * *
* (q, t))=J *$ (t, q).

Theoreme 1. On a la relation de dualite suivante

} }$
\+ \ +
* q, t
=
*$ 1t, 1q
.

Preuve. On applique | q, t a la relation (4.1). On a

l(+)
1
J*
*$ (t, q)
_ : z &1
|+| = p
+ `
i=1
+i
t &1
p + (&1) p
&
}
= :
|}| = |*| + p
\*+ q, t
t n(})&n(*)J *
}$ (t, q).

En substituant * a *$, } a }$, et t a 1q il vient

l(+)
1
J*
* (1q, 1t)
_ : z &1
|+| = p
+ `
i=1
1&q +i
p + (&q) p
&
}$
= :
|}| = |*| + p
\*$+ 1t, 1q
q n(*$)&n(}$)J *
} (1q, 1t). (4.2)

Il suffit alors d'appliquer la relation (2.3) et de comparer avec (4.1). K

Theoreme 2. La definition suivante est equivalente a la de finition 1:

}
J*
* (x; q, t) (x; q, t)=: (&1)
|}| & |*|

}
\*+ 1q, 1t
q n(}$)&n(*$)J *
} (x; q, t).

Preuve. En portant le Theoreme 1 dans la relation (4.2) on obtient

l(+)
1
J*
* (1q, 1t)
_ : z &1
+
|+| = p
`
i=1 1&q +i
p + (&q) p
&
}
= :
|}| = |*| + p
\+* q, t
q n(*$)&n(}$)J *
} (1q, 1t).
 POLYNOMES DE MACDONALD 297

Il suffit de substituer q a 1q et t a 1t pour conclure, en appliquant

(3.5). K
Remarquons qu'on a ,=1. La Definition 1 et le Theoreme 2 entrainent
immediatement

} +
:
}
\ * + \ }+
q, t 1q, 1t
(&1) |+| & |}| q n(+$)&n(}$) t n(})&n(*) =$ *+ . (4.3)

En comparant la Definition (4.1) avec la definition de ,, on a immediatement

} }
\0+ =\ }+
q, t q, t
=1.

Nous donnerons une expression de ( }1 ) q, t a la Section 9. La. Section 6

sera consacree a l'etude des coefficients binomiaux ( }* ) q, t dans le cas ele-
mentaire |}| = |*| +1.

5. RESULTATS COMBINATOIRES AUXILIAIRES

Les resultats auxiliaires presentes dans cette section permettent d'expri-

mer en termes analytiques des expressions combinatoires.

Proposition 2. Pour toute partition * et tout 1kl(*), on a

*k
1&q *k & j t *$j &k+1 1&t l(*)
1&q *k &*i t i&k+1
` *k & j+1 *$j &k+1
= *k l(*)&k+1
` . (5.1)
j=1
1&q t 1&q t i=k+1
1&q *k &*i t i&k

Preuve. Designons par r 1 >r 2 > } } } >r p les valeurs distinctes prises par
* $j lorsque j varie de l a * k . On a r 1 =*$1 =l(*) et * rp =* k . Par definition on
a *$j =r s pour tout * rs&1 < j* rs . D'ou
*r
s
1&q *k & j t *$j &k+1 1&q *k &*rs t rs &k+1
` = .
j=*r +1
1&q *k & j+1 t *$j &k+1 1&q *k &*rs&1 t rs &k+1
s&1

Avec la convention * r0 =0 le membre de gauche de (5.1) s'ecrit donc

p
1&q *k &*rs t rs&k+1 1&t rp &k+1 p&1 1&q *k &*rs t rs &k+1
` = ` . (5.2)
s=1
1&q *k &*rs&1 t rs &k+1 1&q *k t r1 &k+1 s=1 1&q *k &*rs t rs+1 &k+1

Par definition on a de me^me * i =* rs pour tout r s+1 <ir s . D'ou

rs
1&q *k &*i t i&k+1 1&q *k &*rs t rs &k+1
` = .
i=rs+1 +1
1&q *k &*i t i&k 1&q *k &*rs t rs+1 &k+1
298 MICHEL LASSALLE

On en deduit que
l(*) rp
1&q *k &*i t i&k+1 p&1 1&q *k &*rs t rs &k+1 1&q *k &*i t i&k+1
` =` `
i=k+1
1&q *k &*i t i&k s=1
1&q *k &*rs t rs+1 &k+1 i=k+1
1&q *k &*i t i&k
rp &k+1 p&1 *k &*r r &k+1
1&t 1&q s t s
= ` *k &*r rs+1 &k+1
, (5.3)
1&t 1&q s t
s=1

puisque * i =* k pour tout k+1i r p . On conclut par comparaison de

(5.2) et (5.3). K

Proposition 3. Soient deux partitions * et +, avec +=* (k) pour 1k

l(*). On a
k&1
c *(q, t) 1 1&q *i &*k &1 t k&i l(*)
1&q *k &*i t i&k+1
= ` `
c +(q, t) 1&q *k t l(*)&k+1 i=1 1&q *i &*k &1 t k&i+1 i=k+1 1&q *k &*i t i&k

et de me^me
k&1
c$*(q, t) 1 1&q *i &*k t k&i&1 l(*)
1&q *k &*i +1 t i&k
= ` ` .
c$+(q, t) 1&q *k +1 t l(*)&k i=1 1&q *i &*k t k&i i=k+1
1&q *k &*i +1 t i&k&1

Preuve. On voit facilement que la contribution d'un point (i, j) # * est

la me^me pour c *(q, t) et c +(q, t), sauf si i=k ou si * j =* k +1. C'est-a-dire
si (i, j) appartient a la ligne ou a la colonne passant par (k, * k +1). On en
deduit

c *(q, t) 1 k&1 1&q *i &*k &1 t k&i *k 1&q *k & j t *$j &k+1
= ` ` .
c +(q, t) 1&t i=1 1&q *i &*k &1 t k&i+1 j=1 1&q *k & j+1 t *$j &k+1

On applique alors la Proposition 2. La preuve de la seconde relation est

analogue. K

Proposition 4. Soient deux partitions * et +, avec +=* (k) pour

1kl(*). On a

j *(q, t)
=(1&q *k &1 t l(*)&k+1 )(1&q *k t l(*)&k )
j +(q, t)
k&1
1&q *i &*k t k&i+1 1&q *i &*k +1 t k&i
_`
i=1
1&q *i &*k t k&i 1&q *i &*k +1 t k&i&1
l(*)
1&q *k &*i &1 t i&k 1&q *k &*i t i&k&1
_ ` .
i=k+1
1&q *k &*i &1 t i&k+1 1&q *k &*i t i&k

Preuve. C'est une consequence immediate de (2.1) et de la Proposition 3. K

 POLYNOMES DE MACDONALD 299

Nous sommes alors en mesure de donner la formulation analytique sui-

vante de la formule de Pieri etablie par Macdonald ([6], (6.24), iv, p. 341).

Proposition 5. Pour toute partition * on a

l(*)+1
e 1 J *(q, t)= : c *k(q, t) J *(k)(q, t)
k=1

avec
k&1
1 1&q *i &*k t k&i&1 l(*)+1
1&q *k &*i t i&k+1
c *k(q, t)= ` ` .
1&q *k t l(*)&k+2 i=1 1&q *i &*k t k&i i=k+1
1&q *k &*i t i&k
(5.4)

Preuve. Macdonald (loc. cit.) a demontre qu'on a

l(*)+1
e 1 P *(q, t)= : $(* (k)*) P *(k)(q, t)
k=1

avec
k&1
1&q *i &*k t k&i&1 1&q *i &*k &1 t k&i+1
$(* (k)*)= ` .
i=1
1&q *i &*k t k&i 1&q *i &*k &1 t k&i

En effet avec les notations de Macdonald, C *(k)* &R *(k)* est forme des
points (i, j) # * tels que 1ik&1 et j=* k +1. On a evidemment

c *(q, t)
c *k(q, t)= $(* (k)*).
c *(k)(q, t)

L'expression enoncee est alors obtenue en appliquant la Proposition 3

lorsque 1kl(*), et directement lorsque k=l(*)+1. K
Remarque. Pour 1kl(*) la relation (5.4) se simplifie et s'ecrit
k&1
1 1&q *i &*k t k&i&1 l(*)
1&q *k &*i t i&k+1
c *k(q, t)= ` ` .
1&q *k t l(*)&k+1 i=1 1&q *i &*k t k&i i=k+1
1&q *k &*i t i&k
(5.5)

6. COEFFICIENTS BINOMIAUX ELEMENTAIRES

Nous revenons maintenant a l'etude des coefficients binomiaux ( }* ) q, t

dans le cas elementaire ou |}| = |*| +1.
300 MICHEL LASSALLE

Theoreme 3. Soient deux partitions * et } avec |}| = |*| +1. On a

( }* ) q, t {0 seulement si *}, c'est-a -dire si }=* (k) pour un entier k avec
1kl(*)+1. On a
l(*)+1
* (k)
e1 J *
* (q, t)= : (1&q) t k&1
k=1
\ +* q, t
J*
*(k)(q, t). (6.1)

Preuve. On applique la definition (4.1) avec p=1. On obtient

e1 }
J*
* (q, t) = :
1&q |}| = |*| +1 * \+ q, t
t n(})&n(*)J *
} (q, t).

Par la formule de Pieri (5.4) de Macdonald, la sommation au membre de

droite est reduite aux partitions } telles que *}. K

Theoreme 4. Pour toute partition * et tout 1kl(*), on a

* 1&q *k t l(*)&k k&1 1&q *i &*k t k&i+1

\* + (k) q, t
=t 1&k
1&q
`
i=1
1&q *i &*k t k&i
l(*)
1&q *k &*i t i&k&1
_ ` .
i=k+1
1&q *k &*i t i&k

Preuve. Le Theoreme 3 implique

* j *(q, t) *
(1&q) t k&1
\* + (k) q, t
= c (k)(q, t).
j *(k)(q, t) k
(6.2)

On applique alors la Proposition 4 et la Proposition 5 dans sa formulation

(5.5). K

Exemple. Soit *=(r, 1 s ). On a

r, 1 s 1&q r t s 1&q r&1

\ + r&1, 1 s q, t
=
1&q r&1 t s 1&q
(6.3)

s
r, 1 1 1&q r&1 t s+1 1&t s
\ r, 1 + s&1
q, t
=
t s 1&q r&1 t s 1&t
. (6.4)

En particulier

(n) 1&q n n
\ (n&1) + q, t
=
1&q
=
\ +
n&1 q

n n
1 1 1&t n
\1 +
n&1
q, t
=
t n&1 1&t \ n&1 +
=
1t
.
 POLYNOMES DE MACDONALD 301

On observera qu'on a

* *
\* +
(k) 1q, 1t
=t k&1q 1&*k
\* + (k) q, t
, (6.5)

et que le Theoreme 4 peut se reecrire sous la forme condensee

* 1&q *k t l(*)&k 1&q *i &*k t k&i+1

\* +
(k) q, t
=t 1&l(*)
1&q
`
i{k 1&q *i &*k t k&i
.

7. OPERATEURS AUX DIFFERENCES FINIES

Jusqu'a la fin de cette section, on specifie n variables x=(x 1 , ..., x n ).

Pour tout 1in, on pose
n
tx i &x j
A i (x; t)= ` .
j=1
x i &x j
j{i

Proposition 6. On a
n
1&t n
(a) : A i (x; t)=
i=1
1&t
n n
(b) : x i A i (x; t)=t n&1 : x i
i=1 i=1
n n
1 1
(c) : A i (x; t)= : .
i=1
xi i=1
xi

Preuve. Les deux premieres relations sont donnees a l'exemple 2, p. 319

de [6]. La troisieme s'obtient en substituant 1x i a x i et t a 1t dans la
seconde. K
On note 4 nF l'algebre de polyno^mes symetriques en x 1 , ..., x n a coeffi-
cients dans F. On introduit les operateurs suivants qui operent dans 4 nF .
Pour tout u # F et tout 1in, on note T u, i l'operateur de decalage
defini par

(T u, i f )(x 1 , ..., x n )= f (x 1 , ..., ux i , ..., x n ).

L'operateur de q-derivation partielle  u x i est defini par

 T &1
= u, i .
 u x i (u&1) x i
302 MICHEL LASSALLE

On a facilement

  
u x i
fg=
\
u x i +
f g+(T u, i f )
u xi
g .
\ + (7.1)

Pour tout entier k0 on introduit l'operateur aux differences finies

n

E k(x; q, t)= : x ki A i (x; t) .
i=1
q xi

On sait ([6], page 322) que les polyno^mes de Macdonald sont fonctions
propres de l'operateur E 1(x; q, t). On a

E 1(x; q, t) P *(x; q, t)=t n&1e *(q, t) P *(x; q, t) (7.2)

avec

e *(q, t)= : q j&1 t 1&i.

(i, j) # *

Dans la suite de cet article, on ecrira parfois E k pour E k(x; q, t).

Proposition 7. On a

n
1 1
E 0(x; q, t)=
\ x (A (x; t)T &1)+
q&1
:
i=1 i
i q, i

n n
1 1&t
q&1 \ 1&t +
E (x; q, t)=
1 : A (x; t) T &
i . q, i
i=1

Preuve. Consequence elementaire de la Proposition 6. K

On designe par e + &

1 (resp. e 1 ) l'operateur de multiplication par e 1(x)=
n n
 x i (resp.  i=1 1x i ).
i=1

Proposition 8. On a

n&1 +
(a) (q&1) E 2 =[E 1 , e +
1 ]&t e1

(b) (1&q) E 0 =q[E 1 , e & &

1 ]+e 1 .
 POLYNOMES DE MACDONALD 303

Preuve. Pour tout f # 4 nF la relation (7.1) implique

n
[E 1 , e +
1 ] f = : x i A i (x; t) T q, i f
i=1

n n
f
=(q&1) : x 2i A i (x; t) + f : x i A i (x; t)
i=1
q xi i=1

n n
 1 1 n 1
[E 1 , e &
1 ] f = : x i A i (x; t) T q, i f
i=1
q xi \ :
i=1
xi +
=& :
q i=1 x i
A i (x; t) T q, i f

1&q n f 1 n
1
= : A i (x; t) & f : A i (x; t).
q i=1  q x i q i=1 x i

On applique la Proposition 6. K

Propositon 9. Pour toute partition * de longueur n, on a

l(*)+1
* (k)
E 2(x; q, t) J *
* (x; q, t)=t
n&1
:
k=1
\ +
* q, t
(t k&1 &q *k ) J *
*(k)(x; q, t).

Preuve. En vertu de la Proposition 8 (a) et des relations (6.1) et (7.2),

le membre de gauche est egal a
l(*)+1
* (k)
t n&1 :
k=1
\ +
* q, t
t k&1(1+e *(q, t)&e *(k)(q, t)) J *
*(k) (x; q, t).

Mais on a

e *(k)(q, t)&e *(q, t)=q *k t 1&k. K

Proposition 10. Au point x 0 =(1, t, ..., t n&1 ) on a

E k(x 0 ; q, t) P *(x 0 ; q, t)=t k(n&1)e *(q, t) P *(x 0 ; q, t).

Preuve. Au point x 0 on a visiblement

A i (x 0 ; t)=0 (1in&1)

E k(x 0 ; q, t)=t k(n&1)A n(x 0 ; t) .
q xn

On applique la relation (7.2). K

304 MICHEL LASSALLE

8. EQUATION AUX DIFFERENCES FINIES

Jusqu'a la fin de cette section, on specifie n variables x=(x 1 , ..., x n ).

Theoreme 5. Pour toute partition * de longueur n, on a

l(*)
*
E 0(x; q, t) J **(x; q, t)= :
k=1
\* +
(k) q, t
J*
*(k)(x; q, t).

Remarque. Le theoreme 5 etablit que les coefficients binomiaux ( **(k) ) q, t

sont egaux, au facteur t 1&k pres, a ceux introduits par Kaneko [2]. Notre
demonstration simplifie considerablement celle de [2].

Nous allons proceder en deux etapes et demontrer d'abord la propriete

remarquable suivante.

Theoreme 6. Pour toute partition * de longueur n, on a

l(*)
E 0(x; q, t) J **(x; q, t)= : c k(n) J**(k)(x; q, t)
k=1

ou les coefficients c k(n) dependent de n et restent a determiner.

Preuve. 0n a evidemment

n
1 e (x)
e&
1 P *(x; q, t)= :
\ i=1
xi+P *(x; q, t)= n&1
e n(x)
P *(x; q, t).

En vertu de la formule de Pieri demontree par Macdonald ([6], (6.24),

page 340), le membre de droite s'ecrit

1
: a + P +(x; q, t),
e n(x) +

ou + est une partition telle +"* soit une (n&1)-bande verticale. En
particulier + est de longueur n ou n&1.
Appliquons la Proposition 8 (b). Nous obtenons, en ecrivant e * pour
e *(q, t):

P+
(1&q) E 0 P * =q : a + E 1
+
\ +
en
+(1&qt n&1e * ) e &
1 P* .
 POLYNOMES DE MACDONALD 305

Maintenant on a
n
P+  1 1 
E1
\ +
en i=1
\ \ +
= : x i A i (x; t)
q xi en
P++
qe n  q x i
P+
+
n
1 P
q_ \ +& e
n&1 +
= t e & : A (x; t) + i
i=1 n

ou la seconde relation resulte de (7.2) et de

 1 1
q xi en
=&
\ +
qx i e n
.

Finalement on a, en appliquant la Proposition 6(a),

t n &t P +
+
_
(1&q) E 0 P * =: a + t n&1(e + &qe * )+
1&t e n & .

Montrons qu'au membre de droite la sommation est reduite aux

partitions + de longueur n. En effet si + est de longueur n&1, on a
l(*) *i
e *(q, t)= : : q j&1 t 1&i
i=1 j=1
l(*) *i +1 n&1
e +(q, t)= : : q j&1 t 1&i + : t 1&i.
i=1 j=1 i=l(*)+1

D'ou
n&1
1&t n&1
e +(q, t)&qe *(q, t)= : t 1&i =t 2&n ,
i=1
1&t

et l'assertion.
Lorsque la partition + est de longueur n et s'ecrit +=(+1 , ..., + n ), on sait
par la propriete (4.17). page 325, de [6] que

P +(x; q, t)
=P (+1 &1, ..., +n &1)(x; q, t).
e n(x)

On a + i =* i +1 sauf pour un entier i 0 , pour lequel on a + i0 =* i0 . La parti-

tion (+ 1 &1, ..., + n &1) est donc egale, a * (i0 ) . K
On note D l'operateur adjoint de la multiplication par e 1 pour la forme
( } , } ) q, t :

( Df, g) q, t =( f, e 1 g) q, t ( f, g # 4 F ).
306 MICHEL LASSALLE

Proposition 11. Pour toute partition *, on a

l(*)
*
DJ *(q, t)=(1&q) : t k&1
k=1
\* + (k) q, t
J *(k)(q, t).

Preuve. Par definition on a

( DJ *(q, t), J * *
+ (q, t) ) q, t =( J *(q, t), e 1 J + (q, t)) q, t

c'est-a-dire

DJ *(q, t)=: (J *(q, t), e 1 J *

+ (q, t)) q, t J +(q, t).
+

On applique le Theoreme 3. K

Proposition 12. Le coefficient de x n+1 dans J *(x, x n+1 ; q, t) est

[(1&t)(1&q)] DJ *(x; q, t).
Preuve. Rappelons la notion de fonction symetrique gauche Q *+ definie
par Macdonald ([6], page 344) par

1
( Q *+(q, t), f ) q, t = ( J *(q, t), P +(q, t) f ) q, t ( f # 4 F ).
c$*(q, t)

Par la definition de D on a

DJ *(q, t)=c$*(q, t) Q *[1](q, t).

Par la relation (7.9) de [6] (p. 345) on a

c$*(q, t)
J *(x, x n+1 ; q, t)=: Q (x; q, t) J +(x n+1; q, t).
+
c$+(q, t) *+

Mais J +(x n+1 ; q, t) est non nul seulement si + est de longueur un, c'est-a-
dire +=(k) et alors J +(x n+1 ; q, t)=a k x kn+1 , pour une constante a k . Fina-
lement le coefficient de x n+1 dans J *(x, x n+1 ; q, t) est

c$*(q, t) a1
a1 Q *[1] (x; q, t)= DJ *(x; q, t). K
c$1(q, t) c$1(q, t)

Proposition 13. On a

E 0(x, x n+1 ; q, t) J *(x, x n+1 ; q, t)| xn+1 =0

l(*)
*
=tE 0(x; q, t) J *(x; q, t)+(1&t) :
k=1
\* + (k) q, t
t k&1J *(k)(x; q, t).
 POLYNOMES DE MACDONALD 307

Preuve. On a clairement

A n+1(x, x n+1 ; t)| xn+1 =0 =1

A i (x, x n+1 ; t)| xn+1 =0 =tA i (x; t) (1in)

E 0(x, x n+1 ; q, t) J *(x, x n+1 ; q, t)| xn+1 =0


=tE 0(x; q, t) J *(x; q, t)+
 q x n+1
J *(x, x n+1 ; q, t)
} xn+1 =0
.

On applique les Propositions 11 et 12. K

Preuve du Theoreme 5. Il s'agit de determiner les coefficients c k(n) du

Theoreme 6. La Proposition 13 implique immediatement

J *(1, t, ..., t n ) J *(1, t, ..., t n&1 ) *

n
J *(k)(1, t, ..., t )
c k (n+1)=t
J *(k)(1, t, ..., , t n&1 c k(n)+(1&t) t
)
k&1
* (k) \ + q, t
.

Soit encore en vertu de (2.2)

(t k&1 &q *k &1 t n+1 ) c k(n+1)

*
=t(t k&1 &q *k &1 t n ) c k(n)+(1&t) t k&1
\* +(k) q, t
.

Cette relation de recurrence possede une solution independante de n. K

Nous aurons ulterieurement besoin d'exprimer le Theoreme 5 en utilisant
les operateurs T q, i au lieu des operateurs  q x i.

Theoreme 5 bis. Pour toute partition * de longueur n, on a

n n
1
_ :
x
i=1 i
\ + &
A i (x; t) T q, i &1 &t 1&n : A i (x; t) T q, i J **(x; q, t)
i=1
l(*)
*
=(q&1) :
\* + J* (x; q, t)
k=1 (k) q, t
*(k)

n
1&t
\
& (q&1) e (q, t)+t
*
1&t +
1&n
J *(x; q, t). *

Preuve. Consequence immediate du Theoreme 5, de la relation (7.2) et

de la Proposition 7. K
308 MICHEL LASSALLE

Donnons pour terminer une consequence interessante du Theoreme 5.

On introduit la fonction hypergeometrique generalisee a deux variables

F(x, y; q, t)=: t n(*)J *

* (x; q, t) J *
*( y; q, t).
*

Cette definition est dependante de l'entier n.

Theoreme 7. On a

1
E 0( y; q, t) F(x, y; q, t)= e 1(x) F(x, y; q, t).
1&q

Preuve. Il suffit de comparer les Theoremes 3 et 5. K

9. LE CAS PARTICULIER *=1

Nous sommes maintenant en mesure de calculer ( }1 ) q, t . Par la Definition

1, on a d'une part

e1 }
1&q
,(q, t)=:
}
1 \+ q, t
t n(})J *
} (q, t) (9.1)

Mais d'autre part la definition de , implique

e1 1
,(q, t)= : t n(*)e 1 J *
* (q, t)
1&q 1&q *
l(*)+1
* (k)
=: t n(*)
*
:
k=1
\ + t * q, t
k&1 *
J
*(k) (q, t)

l(})
}
=: t n(})
}
\ \} + + J
:
i=1 (i) q, t
*
} (q, t) (9.2)

ou la seconde egalite resulte du Theoreme 3. En identifiant les coefficients

de J *
} (q, t) dans les developpements (9.1) et (9.2), on obtient

l(})
} }
\+1 q, t
=:
i=1
\} +
(i) q, t
. (9.3)

Maintenant au point x 0 =(1, t, ..., t n&1 ) on a gra^ce a la Proposition 10

E 0(x 0 ; q, t) J*
} (x 0 ; q, t)=e } (q, t) J*
} (x 0 ; q, t)= : q j&1 t 1&i.
(i, j) # }
 POLYNOMES DE MACDONALD 309

Et d'apres le Theoreme 5
l(})
}
E 0(x 0 ; q, t) J*
} (x 0 ; q, t)= :
i=1
\ +
} (i) q, t
.

Par comparaison avec (9.3) on voit qu'on a demontre le

Theoreme 8. Pour toute partition } on a

l(})
} }
\+ 1 q, t
=:
i=1
\} +
(i) q, t
= :
(i, j) # }
q j&1t 1&i.

10. RELATIONS DE RECURRENCE

Le but de cette section est d'etablir deux relations de recurrence entre

les differents coefficients binomiaux generalises. On specifie n variables
x=(x 1 , ..., x n ) et on note pour simplifier
n
,=,(x; q, t)= ` (x i ; q) &1

i=1

E 1 ,=E 1(x; q, t) ,(x; q, t).

Proposition 14. Pour toute partition * on a

l(*)+1
* (k)
E 1(J * *
* ,)&(E 1 J * ) ,=t
n&1
,
\ k=1
:
\ +* q, t
q *kJ *
+
*(k) .

Preuve. En utilisant

 1
((x i ; q) &1
 )= (x i ; q) &1

q xi 1&q

et la Proposition 6 (b), on a
n
,(x; q, t) 1 n&1
E 1 ,= : x i A i (x; t) = t e 1 ,.
i=1 1&q 1&q

En vertu de (7.1) on en deduit

n
1 n&1 
E 1(J *
* ,)= t e1 J *
* ,+ : x i A i (x; t)(T q, i ,) J* .
1&q i=1
q xi *
310 MICHEL LASSALLE

Maintenant on a facilement

T q, i ,(x; q, t)=(1&x i ) ,(x; q, t).

D'ou
n
1 n&1  *
E 1(J *
* ,)=
1&q
t e1 J *
\
* ,+ : x i A i (x; t)(1&x i )
i=1
 q xi
J* ,
+
1 n&1
= t e1 J * * *
* ,+(E 1 J * ) ,&(E 2 J * ) ,.
1&q

Le Theoreme 3 et la Proposition 9 permettent de conclure. K

Theoreme 9. Soient } et * deux partitions arbitraires. On a ( }* ) q, t {0

seulement si *}. On a
l(*)+1
} } * (k)
\ :
(i, j) # } "*
q j&1 t 1&i
+\ + * q, t
= :
k=1
\ + \ +
* (k) q, t * q, t
q *k t 1&k

Preuve. On part de la Definition 1. En appliquant l'operateur E 1(x; q, t)

a chaque membre, et en tenant compte de la Proposition 14, on obtient

}
:
}
\+* q, t
t n(})&n(*)(e } (q, t)&e *(q, t)) J *
} (q, t)

l(*)+1
* (k) +
\ + \* +
(k)
= : q *k : (k)
t n(+)&n(* )J *
+ (q, t).
k=1
* q, t + q, t

En identifiant les coefficients de J *

} (q, t) dans chaque membre, on obtient

l(*)+1
} * (k) }
(e }(q, t)&e *(q, t))
\+ * q, t
= :
k=1
\ +* q, t
q *k
\* +(k)
q, t
t 1&k.

Cette relation de recurrence implique que ( }* ) q, t {0 seulement si *}.

En effet ceci est verifie si |}| & |*| =1. Or la relation de recurrence implique
que si ( }*) q, t {0 il existe au moins un ( *}(k) ) q, t {0. Une recurrence croissante
sur |}| & |*| permet donc de conclure. K
De maniere analogue on a le

Theoreme 9 Bis. Soient } et * deux partitions arbitraires. On a

l(})
} } } (i)
\ :
(i, j) # } "*
q j&1 t 1&i
+\ +
* 1q, 1t
=:
i=1
\ +
} (i) 1q, 1t \ +
* 1q, 1t
q }i &1t 1&i.
 POLYNOMES DE MACDONALD 311

Preuve. On part du Theoreme 2 qu'on ecrit

}
J*
* (x; q, t)=: (&1)
}
|}| & |*|
\*+ 1q, 1t
q n(}$)&n(*$)J *
} (x; q, t) ,(x; q, t).

On applique l'operateur E 1(x; q, t) a chaque membre, puis la Proposition 14.

On a facilement

}
:(&1) |}| & |*|
}
\+
* 1q, 1t
q n(}$)&n(*$)(e *(q, t)&e } (q, t)) J *
} (q, t) ,

l(})+1
} } (i)
=: (&1) |}| & |*|
}
\+ * 1q, 1t
q n(}$)&n(*$),
\ :
i=1
\ +} q, t
q }iJ *
+
}(i)(q, t)) .

Il suffit alors d'identifier les coefficients dans chaque membre, en tenant

compte de la relation (6.5). K
Remarque 1. Chacune des relations des Theoreme 9 et 9 bis se reduit
a une identite triviale lorsque *=} (i)(1il(})). Lorsque *=0 on
retrouve les deux egalites du Theoreme 8.
Remarque 2. Chacun des Theoremes 9 ou 9 bis permet en principe de
calculer tous les coefficients binomiaux par recurrence sur l'entier |}| & |*|,
(k)
puisque les coefficients binomiaux elementaires ( ** ) q, t ou ( }} ) 1q, 1t sont (i)

explicitements connus. Nous allons maintenant utiliser cette methode dans

les situations ou } est une equerre ou un rectangle.

11. LE CAS DES EQUERRES

Nous explicitons d'abord la valeur de ( }* ) q, t lorsque } est une equerre

(r, 1 s ). Toute partition *} est alors une equerre (r$, 1 s$ ), avec 1r$r et
0s$s.

Theoreme 10. Avec les notations pre ce dentes, on a

} r&1 s
\*+ = \r$&1+ \s$+
q, t q 1t
t s$&s

(1&q r t s$ )(1&q r$&1 t s+1 )&q r$ t s$(1&q r&r$ )(1&t s&s$ )

_ .
(1&q r$ t s$ )(1&q r$&1 t s$+1 )

Preuve. Par recurrence decroissante sur |*| =r$+s$. La relation est evi-
dente si *=}. Si on la suppose vraie pour toutes les equerres *=(r$, 1 s$ )
telles que r$+s$=N, la relation de recurrence donne ( }*) q, t pour toutes les
equerres * avec r$+s$=N&1. On a en effet
312 MICHEL LASSALLE

r, 1 s 1&q r&r$ &s 1&t s&s$

\ + \
r$, 1 s$ q, t
q r$
+ 1&q
+t
1&t
s s$ s s$+1
r, 1 r$+1, 1 r, 1 r$, 1
=
\r$+1, 1 + \ r$, 1 + q + \ r$, 1 + \ r$, 1 +
s$
q, t
s$
q, t
r$
s$+1
q, t
s$
q, t
t &s$&1

s r$+1 s$ r$
r, 1 1&q t 1&q
=
\r$+1, 1 + 1&q 1&q t q s$
q, t
r$ s$
r$

s r$&1 s$+2 s$+1

r, 1 1&q t 1&t
+
\r$, 1 + 1&t 1&q t t , s$+1
q, t
r$&1 s$+1
&2(s$+1)

ou la derniere relation resulte des expressions (6.3) et (6.4). Si on pose

r, 1 s r&1 s v(r$, s$)

\ + = \r$&1+ \s$+
r$, 1 s$ q, t q 1t
t s$&s
(1&q r$t s$ )(1&q r$&1t s$+1 )

un calcul elementaire, laisse au lecteur, montre que la relation precedente

devient

[q r$(1&q r&r$ )(1&t)+t &s(1&q)(1&t s&s$ )](1&q r$t s$+1 ) v(r$, s$)
=q r$(1&t)(1&q r$&1t s$+1 )(1&q r&r$ ) v(r$+1, s$)
+t &s(1&q)(1&q r$t s$ )(1&t s&s$ ) v(r$, s$+1).

Le theoreme sera demontre si on etablit que

v(r$, s$)=(1&q rt s$ )(1&q r$&1t s+1 )&q r$t s$(1&q r&r$ )(1&t s&s$ )

satisfait cette relation de recurrence. Pour cela posons a=t s&s$, b=q r&r$ et
c=q r$t s. La relation precedente devient

tc
[c(1&b)(1&t)+(1&a)(1&q)] 1&
\ a +
bc tc c
_
_\ 1&
a +\ 1&
q+ & (1&b)(1&a)
a &
tc bc qc b
=c(1&t) 1&
+ _\ + \ qa\ + &
(1&b) 1&
a
(1&tc)&
a
1& (1&a)
q
c tbc tc tc a
\ a+ _\ a +\1& q + & a (1&b) \1& t +& .
+(1&q) 1& (1&a) 1&

Cette identite est aisement verifiee, par exemple au moyen d'un logiciel de
calcul formel comme Maple. K
 POLYNOMES DE MACDONALD 313

12. LE CAS DES RECTANGLES

Nous calculons maintenant ( }* ) q, t lorsque } est un rectangle (k n ), c'est-a-

dire l(})=n et } 1 = } } } =} n =k.

Theoreme 11. Avec les notations pre ce dentes, on a

} t n(*)
\+ * q, t
=(&q k t 1&n ) |*|
q n(*$)
= q&k, t (J *(q, t)) J *
* (1, t, ..., t
n&1
; q, t)

t i&1 &q j&1 t n 1&q k& j+1 t i&1

= ` t i&n .
(i, j) # *
1&q *i & j t *$j &i+1 1&q *i & j+1 t *$j &i

Preuve. Par recurrence decroissante sur |*|. La propriete est aisement

verifiee pour *=(k n ). Si on la suppose vraie pour toutes les partitions *
n
avec |*| =N, la relation de recurrence explicite ( k* ) q, t pour toutes les parti-
tions * avec |*| =N&1. On a en effet

kn 1&t n 1&q k l(*)+1

kn * (i)
\ + \
* q, t
t 1&n
1&t 1&q
&e *(q, t) = :
i=1
+* (i) \ + \ + q, t * q, t
q *i t 1&i.

Mais les relations (3. 1) et (2.2) impliquent

= q &k, t(J *(i)(q, t))== q &k, t (J *(q, t))(t i&1 &q *i &k )
(12.1)
J *(i)(1, t, ..., t n&1; q, t)=J *(1, t, ..., t n&1; q, t)(t i&1 &q *i t n ).

Le Theoreme sera donc etabli si l'on prouve

1&t n 1&q k
e *(q, t)&t 1&n
1&t 1&q
l(*)+1
j *(q, t) * (i)
= : q k&*i t i&n(t i&1 &q *i &k )(t i&1 &q *i t n ) q *i t 1&i
i=1
j *(i)(q, t) * \ + q, t
.

Compte-tenu de (6.2) cette relation est equivalente a

1&t n
(1&q &k ) +q &k t n&1(1&q) e *(q, t)
1&t
l(*)+1
= : (t i&1 &q *i &k )(t i&1 &q *i t n ) t 1&ic *i(q, t).
i=1

Mais c'est une consequence immediate de la proposition suivante. K

314 MICHEL LASSALLE

Proposition 15. Pour toute partition *, on a

l(*)+1 l(*)+1
1
: q *i c *i(q, t)= : t i&1c *i(q, t)=
i=1 i=1
1&t
l(*)+1
1 1&q
: q 2*i t 1&ic *i(q, t)= + e *(q, t).
i=1 1&t q

Preuve. Les deux premieres relations resultent facilement de la definition

de c *i(q, t).On a en effet
l(*)+1
e 1(1, t, ..., t n&1 ) J *(1, t, ..., t n&1; q, t)= : c *i(q, t) J *(i)(1, t, ..., t n&1; q, t).
i=1

D'ou en utilisant (2.2),

l(*)+1
1&t n
: (t i&1 &q *i t n ) c *i(q, t)=
i=1
1&t

et on identifie dans chacun des membres les contributions independantes

de n.
Pour demontrer la troisieme relation, ecrivons la Proposition 9 au point
x 0 =(1, t, ..., t n&1 ). Nous obtenons
l(*)+1
* (i)
E 2(x 0 ; q, t) J *
* (x 0 ; q, t)=t
n&1
:
i=1
\ +
* q, t
(t i&1 &q *i ) J *
*(i) (x 0 ; q, t).

Soit encore en vertu de la Proposition 10 et de la relation (6.2),

l(*)+1
(q&1) t n&1e *(q, t) J *(x 0 ; q, t)= : (q *i t 1&i &1) c *i(q, t) J *(i)(x 0 ; q, t).
i=1

D'ou gra^ce a (12.1),

l(*)+1
(q&1) t n&1e *(q, t)= : (q *i t 1&i &1)(t i&1 &q *i t n ) c *i(q, t).
i=1

En developpant le membre de droite, on obtient la troisieme relation

annoncee. K
Specifions maintenant n variables x=(x 1 , ..., x n ) et considerons la fonc-
tion 18 0(a; x; q, t) introduite a la Section 3. En vertu de la Proposition 1,
on a
n
(x i ; q) 
8 0(q &k; q kx; q, t)= `
1 .
i=1
(q kx i ; q) 
 POLYNOMES DE MACDONALD 315

Soit encore d'apres la definition de 18 0 ,

n
: = q &k, t (J *(q, t)) q k |*|J *
* (x; q, t)= ` (x i ; q) k .
* i=1

Compte-tenu du Theoreme 11, ceci s'ecrit

n
kn q n(*$) (n&1) |*|
` (x i ; q) k = :
i=1 *k n
\ +
* q, t
(&1) |*|
t n(*)
t J *(x;
* q, t). (12.2)

Cette relation est une premiere generalisation de la formule q-binomiale

classique
k
k
(x; q) k = :
l=0
\+q
l q
l(l&1)2
(&x) l,

que nous allons maintenant etendre au cas le plus general.

13. FORMULE DU BINOME GENERALISE

Jusqu'a la fin de cette section, on specifie n variables x=(x 1 , ..., x n ).

Plusieurs auteurs [3, 7, 10, 11] ont simultanement introduit la notion de
polyno^me de Macdonald ``decale''. Pour toute partition *, de longueur infe-
t
rieure ou egale a n, on designe ainsi l'unique polyno^me P *(x i , ..., x n ; q, t)
qui est
(i) symetrique dans les variables x i t 1&i (1in),
(ii) de degre |*|,
t t
(iii) tel que P *(q +1, ..., q +n; q, t){0 O *+, et P *(q *1, ..., q *n; q, t){0.
Nous aurons besoin des deux resultats suivants qui ont ete demontres
par Okounkov [8]. D'une part on a

t
P *(x 1 , ..., x n ; q, t)

=P *(x 1 , t &1x 2 , ..., t 1&nx n ; q, t)+termes de degre inferieur,

et

t q n(*$)
P *(0; q, t)=(&1) |*| n(*) P *(1, t &1, ..., t 1&n; q, t). (13.1)
t
316 MICHEL LASSALLE

D'autre part il existe un operateur aux differences finies D(u; q, t) tel que
n
t t
D(u: q, t) P *(x; q, t)= ` (q &*i t i&1 &ut n&1 ) P *(x: q, t). (13.2)
i=1

Okounkov [8] a donne 1'expression explicite suivante de D(u; q, t):

n
1
D(u; q, t)= `
\ i=1 xi + :
I/ [1, 2, ..., n]
(&1) |I | t (n& |I | )(n& |I | &1)2

_` (1&x i t n&i ) ` (1&ux i t n&i )

i#I iI
i& j+1
x i &x j t
_ ` ` T 1q, i .
i # I, jI
x i &x j t i& j i#I

Nous allons demontrer la formule du bino^me generalisee suivante.

Theoreme 12. Pour toute partition *, de longueur inferieure ou egale

a n, on a
t
P *(x 1 , ..., x n ; 1q, 1t) * q n(+$)
t
P *(0; 1q, 1t)
=:
+
\+
+ q, t t n(+)
(&1) |+| J +*(x 1 , tx 2 , ..., t n&1x n ; q, t).
(13.3)

Une formule analogue a ete obtenue par Okounkov [8]. Le Theoreme 12

demontre ainsi que les coefficients binomiaux que nous avons introduits
dans cet article sont les me^mes que ceux de [8].
Avant de demontrer le Theoreme 12, notons que lorsque *=(k n ), on a
la

Proposition 16. On a
t n
P k n (x 1 , ..., x n ; q, t)
t = ` (x i t n&i; 1q) k .
P k n (0; q, t) i=1

Preuve. On utilise la Proposition 4.2 de [7] qui implique

t n
t
P k n (x 1 , ..., x n ; q, t) n&i
P (k&1)n (x 1 q, ..., x n q; q, t)
t = ` (1&x i t ) t .
P k n (0; q, t) i=1 P (k&1)n (0; q, t)
L'assertion se demontre alors par recurrence sur k, le cas k=1 etant connu
par l'Exemple 5.5 de [7]. K
On voit ainsi que la relation (12.2) n'est autre que le Theoreme 12 dans
le cas particulier *=(k n ).
 POLYNOMES DE MACDONALD 317

Preuve du The ore me 12. Notons R * (x; 1q, 1t) le membre de gauche
de (13.3). C'est un polyno^me symetrique dans les variables z=(z 1 , ..., z n )
avec z i =x i t i&1. On peut donc ecrire son developpement sur les polyno^mes
de Macdonald, de la forme

q n(+$)
R *(x; 1q, 1t)=: c *+ (&1) |+| )J +*(z; q, t) (13.4)
+
t n(+)

Les coefficients c *+ sont a determiner. On a evidemment c *0 =1, et en appli-

quant (13.1), c ** =1.
Notons C(q, t) le coefficient de u n&1 dans D(u; 1q, 1t). En vertu de
(13.2), on a
n
C(q, t) R *(x; 1q, 1t)=(&1) n&1 t &(n&1)(n&1)
\ +
: q *i t 1&i R *(x; 1q, 1t).
i=1
(13.5)

L'operateur C(q, t) s' ecrit explicitement

n n n
1
C(q, t)= `
\ i=1
xi +_ t &n(n&1)2(&1) n&1 : ` x j t j&n
i=1 j=1
j{i
n n
&t &(n&1)(n&2)2(&1) n&1 : (1&x i t i&n ) ` x j t j&n
i=1 j=1
j{i
n
x i &x j t j&i&1
_`
j=1
j{i
x i &x j t j&i
T q, i
&
n
1
_
=(&1) n&1 t &n(n&1)2 t &n(n&1)2 :
i=1
x i t i&n
&t &(n&1)(n&2)2

n
1&x i t i&n 1&n n t ix i &t j&1x j
_:
i=1
x i t i&n
t ` i&1
j=1
T
t x i &t j&1x j q, i
j{i
&
n
1 1
=(&1) n&1 t &(n&1)(n&1)
_ :
i=1
zi \ +
& &t 1&n A i (z; t) T q, i .
zi &
Appliquons alors le Theoreme 5bis. On obtient

1&t n
C(q, t) J +*(z; q, t)=(&1) n&1 t &(n&1)(n&1)
\_ (q&1) e +(q, t)+t 1&n
1&t &
l(+)
+
_J +*(z; q, t)&(q&1) :
k=1
\+ + (k) q, t +
J*+(k)(z; q, t) .
318 MICHEL LASSALLE

Considerons maintenant le developpement (13.4), et appliquons lui l'ope-

rateur C(q, t). En vertu de la relation (13.5) on obtient

n
q n(+$)
\ i=1
+
: q *i t 1&i : c *+
*
t n(+)
(&1) |+|J +*(z; q, t)

q n(+$) 1&t n
\
= : c *+
*
t n(+)
(&1) |+|
_
(q&1) e + (q, t)+t 1&n
1&t
J +*(z; q, t)
& +
q n(+$) l(+)
+
&(q&1) : c *+
*
t n(+)
(&1) |+| :
k=1
+ \ +
(k) q, t
J*
+(k)(z; q, t).

En identifiant les coefficients de J +* dans chacun des membres, on obtient

la relation de recurrence suivante pour les coefficients c *+ :

n
1&t n
_ : q *i t 1&i &(q&1) e +(q, t)&t 1&n
i=1
1&t
c *+
&
l(+)+1
+ (k)
=(q&1) : c *+(k )
k=1
\ + + q, t
q +k t 1&k. (13.6)

Mais on a

n
1&t n n
tn&1 : q *i t 1&i & = : (q *i &1) t n&i =(q&1) t n&1e *(q, t).
i=1
1&t i=1

La relation de recurrence (13.6) peut donc se reecrire

l( +)+1
+ (k)
(e *(q, t)&e +(q, t)) c *+ = : c *+(k )
k=1
\ + + q, t
q +k t 1&k. (13.7)

Nous sommes alors en mesure de prouver le theoreme, c'est-a-dire la

relation

*
c *+ =
\+
+ q, t
.

La propriete s'etablit par une recurrence decroissante, sur |+|. On a vu

qu'elle est vraie pour +=*. Si on la suppose vraie pour toute partition +
telle que |+| =N, elle est egalement vraie pour |+| =N&1. Il suffit en effet
de comparer la relation de recurrence (13.7) avec le Theoreme 9. K
 POLYNOMES DE MACDONALD 319

Corollaire. Pour toute partition * de longueur inferieure ou egale a n,

on a inversement
n&1
J *(x
* 1 , tx 2 , ..., t x n ; q, t)
t
* t n( +) P +(x 1 , ..., x n ; 1q, 1t)
=:
+
\+
+ 1q, 1t q
n( +$)
(&1) |+|
t
P +(0, 1q, 1t)
.

Preuve. En vertu du Theoreme 9 la matrice

* t n( +)
\\ +
+ 1q, 1t q
n( +$)
(&1) |+|
+ *, +

est triangulaire (par rapport a l'ordre partiel associe a l'inclusion ), et en

vertu de la relation (4.3) son inverse est la matrice

* q n( +$)
\\ +
+ q, t t
n( +) (&1)
|+|
+ *, +
. K

14. POLYNOMES DE JACK

Dans cette section nous explicitons brievement les consequences des

resultats precedents en ce qui concerne les polyno^mes de Jack. La reference
est la section 10 du chapitre 6 de [6] (voir aussi [12]). Les resultats
que nous allons preciser ont ete auparavant annonces dans [5]. Une
demonstration en a ete ulterieurement donnee dans [1]. Une nouvelle
approche a recemment ete presentee dans [9].
La ``forme integrale'' des fonctions symetriques de Jack est definie pour
toute partition * par

x
J *(x; :)= lim J *
t1 \1&t; t , t+ , :

ou x est un ensemble infini d'indeterminees et : un nombre reel >0.

On a

( J *(:), J +(:)) : = j *(:) $ *+ ,

ou le produit scalaire, ( } , } ) : est defini par

( p * , p + ) : = lim (p * , p + ) t :, t =$ *+ z * : l(*).
t1
320 MICHEL LASSALLE

On note

J *(x; :)
J*
* (x, :)=
j *(:)
J *(x; :)
J *(x;
* :)= .
J *(1, 1, ..., 1; :)

On introduit la fonction

,(x; :)=: : |*|J *

* (x; :),
*

et on definit les coefficients binomiaux ( }* ) : par la relation suivante

}
J*
* (x; :) ,(x; :)=: :
|}| & |*|

}
\+J * :
*
} (x; :).

On voit facilement qu'on a

J* * :
* (x; :))= lim J * ((1&t) x; t , t)
t1

,(x; :)= lim ,((1&t : ) x; t :, t)=exp(e 1(x))

t1

} }
\+
* :
= lim
t1 \+
* t :, t
.

D'ou la relation de dualite (Theoreme 2)

} }$
\*+ = \ *$+
: 1:
,

et l'expression analytique suivante des coefficients binomiaux elementaires

(Theoreme 4)
l(*)
* 1 :(* k &* j )+ j&k&1
\* + \
(k) :
= * k + (l(*)&k)
: +` j=1
j{k
:(* k &* j )+ j&k
.

Specifions n variables x=(x 1 , ..., x n ). On introduit les operateurs

differentiels E k(x) definis par
n

E k(x)= : x ki = lim E k(x; t :, t).
i=1
x i t  1
 POLYNOMES DE MACDONALD 321

La Proposition 9 et le Theoreme 6 entrai^ nent

l(*)
*
E 0 J **(x; :)= :
i=1
\ + J* (x; :)
* (i) :
*(i)

E 1 J *(x; :)= |*| J *(x; :) (14.1)

l(*)+1
* (i)
E2 J*
* (x; :)= :
i=1
\ + (:* &i+1)J
* :
i
*
*(i) (x; :).

Si l'on introduit la fonction hypergeometrique generalisee a deux

variables

F(x, y; :)=: : |*|J *

* (x; :) J *(
: :
* y; :)= lim F((1&t ) x, y; t , t)
t1
*

on a

E 0( y) F(x, y; :)=e 1(x) F(x, y; :).

Enfin les coefficients binomiaux satisfont la relation de recurrence des

Theoreme 9 et 9 bis.
l(*)+1
} } * (i)
( |}| & |*| )
\+
* :
= :
\ +\ +,
i=1
* (i) : * :
l(})
} }
=:
\} + \ * +
i=1 (i) :
(i)

:
(14.2)

qui permet en principe de les calculer tous explicitement par recurrence sur
|}| & |*|.
En particulier si } est l'equerre (r, 1 s ) et *} l'equerre (r$, 1 s$ ) avec
1r$r et 0s$s, on a

} r&1 s (s$+:r)(s+1+:(r$&1))&:(r&r$)(s&s$)
\*+ = \r$&1+ \s$+
: (s$+:r$)(s$+1+:(r$&1))
.

De me^me si } est le rectancyle (k n ), on a pour tout *}

kn
\ +=
* :
` (k:&:( j&1)+i&1) J *
(i, j) # *
* (1, 1, ..., 1; :).

Enfin on a la formule du bino^me generalisee

*
J **(1+x 1 , ..., 1+x n ; :)= :
+*
\ + J *(x , ..., x ; :).
+ :
+ 1 n
322 MICHEL LASSALLE

Preuve. La demonstration est plus simple que celle du Theoreme 12.

Posons

J **(1+x 1 , ..., 1+x n ; :)=: c *+(:) J +*(x 1 , ..., x n ; :).

+

Alors (voir par exemple [1], relations (38) et (52)), il resulte uniquement
de cette definition et de l'homogeneite des polyno^mes de Jack que
l(*)
E 0 J **(x; :)= : c **(i)(:) J*
*(i)(x; :)
i=1

|*| & |+|

\ p& |+| +c *+(:)= : c *v(:) c v+(:).
|v| =p

La premiere relation et (14.1) impliquent c *(i) =( ** ) :. La seconde, ecrite

(i)

pour p= |+| +1, et comparee a la relation de recurrence (14.2), donne

c *+(:)=( +* ) : . K

15. UNE REMARQUE DE MACDONALD

Apres avoir lu cet article, le Professeur Macdonald nous a communique

les remarques suivantes que nous incluons ici avec sa permission. Pour tout
couple (}, *) de partitions on pose

c } (q, t) c$} (q, t)

J }*(x; q, t)= P }*(x; q, t)= Q }*(x; q, t),
c *(q, t) c$*(q, t)

ou les fonctions symetriques gauches P }*(x; q, t) et Q }*(x; q, t) sont defi-

nies, comme au 97 de [6], page 344, par

( P }*(q, t), f ) q, t =( P } (q, t), Q *(q, t) f ) q, t

( Q }*(q, t), f ) q, t =( Q } (q, t), P *(q, t) f ) q, t ( f # 4F )

avec ([6], relations (4.12), page 323, (6.19), page 339 et (8.7), page 353)

c *(q, t)
Q *(q, t)= P *(q, t)=c *(q, t) J *
* (q, t).
c$*(q, t)

On en deduit immediatement

( J }*(q, t), f ) q, t =(J } (q, t), J *

* (q, t) f ) q, t ( f # 4 F ).
 POLYNOMES DE MACDONALD 323

Theoreme. On a
(a) ( }*) q, t {0 seulement si *},
(b) ( }*) q, t t n(})&n(*) =J }*(1, t, t 2, ..., ; q, t).
Preuve. La Definition 1 peut se reecrire, avec ,=,(x; q, t),

}
\*+ q, t
t n(})&n(*) =( J } (q, t), J *
* (q, t) ,) q, t =( J }*(q, t), ,) q, t .

Mais on sait ([6], (7.7) (i), p. 344) que Q }*(q, t)=0 sauf si *}. D'ou (a).
Pour etablir (b) on pose

J }*(x; q, t)=: a +(q, t) p +(x),

+

ou ([6], (7.7)(ii), p. 344) la sommation a lieu sur les partitions + telles que
|+| = |}| & |*|. La relation (3.4) implique
l( +)
1
( J }*(q, t), ,) q, t =: a +(q, t) z &1
+ ` +i
( p + , p + ) q, t
+ i=1
1&q
l( +)
1
=: a +(q, t) ` +i
.
+ i=1
1&t

Mais on a clairement
mi ( +)
p +(1, t, t 2, ...)= `
\i1
p i (1, t, t 2, ...)
+
mi( +) l( +)
1 1
=`
\1&t +
i1
i =`
i=1
1&t +i . K

Il resulte de ce theoreme que ( }* ) q, t peut e^tre exprime comme une somme

de tableaux. Plus precisement on a

} c }(q, t) n(*)+ |*| &n(})& |}|

\*+ q, t
=
c *(q, t)
t : 9 T (q, t) t |T | ,
T

ou la sommation a lieu sur les tableaux de forme }&* avec |T | =

 s # }* T(s), et 9 T (q, t) est defini par la relation (7.11') de [6], page 346.
Dans le cas limite des polyno^mes de Jack, si on pose

x
J }*(x; :)= lim J }*
t1 \ 1&t +
+
; t :, t =: a +(:) p +(x),
324 MICHEL LASSALLE

on voit facilement qu'on a

l( +)
} 1
\+* :
= lim : a +(t :, t) `
t1
+ i=1
1&t +i
l( +)
(1&t) +i
=: a +(:) lim ` =a 1|}| & |*| (:).
+ t  1 i=1 1&t +i

Ainsi ( }* ) : est le coefficient de p 1|}| & |*| dans le developpement de J }*(:). Il

revient au me^me de dire qu'on a ( }*) : =`(J }*(:)), ou `: 4 F  F est l'homo-
morphisme d'algebres defini par

`( p 1 )=1 et `(p r )=0 (r>1).

BIBLIOGRAPHIE

1. J. Kaneko, Selberg integrals and hypergeometric functions associated with Jack polyno-
mials, SIAM J. Math. Anal. 24 (1993), 10861110.
2. J. Kaneko, q-Selberg integrals and Macdonald polynomials, Ann. Sci. Ecole. Norm. Sup.
29 (1996), 583637.
3. F. Knop, Symmetric and non-symmetric quantum Capelli polynomials, to appear.
4. A. Lascoux, Classes de Chern des varietes de drapeaux, C.R. Acad. Sci. Paris Ser. I 295
(1982), 393398.
5. M. Lassalle, Une formule du bino^me generalisee pour les polyno^mes de Jack, C. R. Acad.
Sci. Paris Ser. I 310 (1990), 253260.
6. I. G. Macdonald, ``Symmetric Functions and Hall Polynomials,'' 2nd ed., Clarendon,
Oxford, 1995.
7. A. Okounkov, (Shifted) Macdonald polynomials: q-integral representation and combinato-
rial formula, Compositio Math. (1998).
8. A. Okounkov, Binomial formula for Macdonald polynomials and applications, Math.
Research Lett. 4 (1997), 533553.
9. A. Okounkov et G. Olshanski, Shifted Jack polynomials, binomial formula and applica-
tions, Math. Research Lett. 4 (1997), 6978.
10. A. Okounkov and G. Olshanski, Shifted Schur functions, St. Petersburg Math. J. 9 (1998).
11. S. Sahi, Interpolation, integrality, and a generalization of Macdonald's polynomials,
Internat. Math. Res. Notices 10 (1996), 457471.
12. R. P. Stanley, Some combinatorial properties of Jack symmetric functions, Adv. in Math.
77 (1989), 76115.