Notations, définitions et rappels

– Soient S 1 le cercle : {z ∈ C, |z| = 1}, D le disque : {z ∈ C, |z| < 1}. On note C la C-algèbre
des fonctions continues de S 1 dans C, C ∗ le groupe des inversibles de cette algèbre, c’est-à-dire
l’ensemble des éléments de C qui ne s’annulent pas sur S 1 . L’algèbre C est munie de la norme
uniforme sur S 1 , définie par :
! "
∀ϕ ∈ C, |ϕ|∞ = max |ϕ(z)| ; z ∈ S 1 .
– Si n est dans Z, soit en l’élément de C défini par :

∀z ∈ S 1 , en (z) = z n .
– Si f est une fonction de S 1 dans C, on note f˜ la fonction 2π-périodique de R dans C définie
par :
∀t ∈ R, f˜(t) = f (eit ).
Selon l’usage, on identifie deux fonctions f1 et f2 de S 1 dans C telles que les fonctions f˜1
et f˜2 soient mesurables au sens de Lebesgue et coïncident sur le complémentaire d’une partie
négligeable de [−π, π]. On note L1 (resp. L2 ) l’ensemble des (classes de) fonctions f de S 1 dans
C telles que f˜ soit intégrable (resp. de carré intégrable) au sens de Lebesgue sur [−π, π]. Pour f
dans L1 , soit : # # π # π
1 ˜ 1
f= f= f (eit ) dt.
2π −π 2π −π
#
L’application qui à f dans L associe |f |1 = |f | est une norme sur L1 .
1

– Si f est dans L1 , on note fˆ la fonction de Z dans C définie par :

# # π
1
∀n ∈ Z, fˆ(n) = f e−n = f (eit ) e−int dt.
2π −π
On rappelle que fˆ est nulle si et seulement si f# est l’élément nul de L1 .
– Pour f1 et f2 dans L2 , on notera $f1 , f2 % = (f1 × f2 ), définissant ainsi un produit scalaire
hermitien sur L2 . La norme associée à $ , % est notée | |2 . Si f est dans L2 , alors :
$ #
1 π
|f |2 = |f (eit )|2 dt.
2π −π

– On rappelle que L2 est contenu dans L1 , avec de plus :

∀f ∈ L2 , |f |1 ≤ |f |2 .

– On rappelle également que L2 est un espace de Hilbert complexe dont (en )n∈Z est une base
hilbertienne.
– Si E est un espace vectoriel et F un sous-espace de E, on dit que F est de codimension finie
dans E si et seulement si l’espace quotient E/F est de dimension finie. La dimension de E/F
est alors appelée codimension de F dans E, notée codimE (F ).
On rappelle par ailleurs que tout supplémentaire de F dans E est isomorphe à E/F . Si G est un
tel supplémentaire, F est donc de codimension finie dans E si et seulement si G est de dimension
finie, et on a alors : codimE (F ) = dim G.
– Dans la fin de ces rappels, (H, $ , %) est un espace de Hilbert complexe.
– Si V est un sous-espace de H, on note V ⊥ l’orthogonal de V ; le sous-espace V ⊥ est un supplé-
mentaire de V dans H si et seulement si V est fermé dans H.

2
– On note L(H) la C-algèbre des endomorphismes continus de H. Les éléments de L(H) sont
appelés opérateurs de l’espace H. Si T1 et T2 sont dans L(H), on abrège T2 ◦ T1 en T2 T1 . On
note I l’identité de H, c’est-à-dire le neutre multiplicatif de L(H). L’algèbre L(H) est munie de
la norme subordonnée définie par :
% &
|T (x)|
∀T ∈ L(H), )T ) = sup , x ∈ H \ {0} ,
|x|
'
où |x| = $x, x% désigne la norme du vecteur x de H.
– Pour tout élément T de L(H) il existe un unique T ∗ dans L(H) tel que :

∀(x, y) ∈ H 2 , $T (x), y% = $x, T ∗ (y)% .

– On rappelle enfin les relations suivantes, valables pour tout T de L(H) :

ker T ∗ = Im T ⊥ , Im T ∗ = ker T ⊥ .

Objectif du problème, dépendance des parties

– Le but du problème est d’associer à tout élément ϕ de C un endomorphisme continu Tϕ d’un
espace de Hilbert et d’étudier Tϕ .

– La partie I démontre une formule de Jensen relative aux éléments de H(D). La partie II détermine
les composantes connexes par arcs de C ∗ . La partie III introduit l’espace de Hardy H 2 , la partie
IV les opérateurs de Toeplitz Tϕ . Les parties V et VI étudient respectivement les opérateurs
compacts et les opérateurs de Fredholm d’un espace de Hilbert et appliquent les résultats obtenus
aux Tϕ ; elles aboutissent notamment à la caractérisation des ϕ de C tels que Tϕ soit inversible.
– La partie I n’est utilisée que dans la partie III. La partie II n’est utilisée que dans la partie VI.
La partie III n’est utilisée que dans la partie IV.

I. Formule de Jensen
1. (a) Soit n dans N∗ . Ecrire le polynôme X 2n − 1 comme produit de polynômes irréductibles
unitaires de C[X], puis de R[X].
En déduire, si r est dans ]1, +∞[, une expression simple de :
n−1
(
ln(1 − 2r cos(kπ/n) + r2 ).
k=1

(b) Soit r dans ]1, +∞[. En utilisant éventuellement la question précédente, établir les égalités :
# π
ln(1 − 2r cos t + r2 ) dt = 2π ln r,
0
# π )* *+
ln *1 − reit * dt = 2π ln r.
−π

(c) Justifier l’existence de :

# π )* *+
ln *1 − eit * dt,
−π
puis montrer que cette intégrale est nulle.

3
 (d) Soient a dans C∗ , r dans R+∗ avec : |a| ≤ r. Calculer l’intégrale :
# π
)* *+
ln *a − reit * dt.
−π

2. Ici, F est une fonction holomorphe sur D telle que F (0) += 0. On fixe r dans ]0, 1[ et on note
Dr = {z ∈ C, |z| ≤ r}. On rappelle (théorème des zéros isolés) que F n’a qu’un nombre fini de
zéros comptés avec multiplicités dans Dr . On note a1 , . . . , ap ces zéros comptés avec multiplicités.
Montrer l’égalité :
# p
( , -
1 π ) + r
ln |F (re )| dt = ln (|F (0)|) +
it
ln .
2π −π |ai |
i=1

Indication. On pourra utiliser, sans démonstration, l’existence d’une fonction G holomorphe sur
un voisinage de Dr telle que :
p
.
∀z ∈ Dr , F (z) = (z − ai ) eG(z) .
i=1

La formule précédente implique l’inégalité ci-après, utilisée en III.3.(c) :

# π
1 ) +
ln |F (reit )| dt ! ln (|F (0)|) .
2π −π

II. Composantes connexes par arcs de C ∗

Si ϕ est dans C ∗ , on appelle relèvement de ϕ toute application continue θ de R dans C telle que :
) +
∀t ∈ R, ϕ eit = eθ(t) .

L’ensemble des relèvements de ϕ est noté R(ϕ).

1. Soient I un intervalle de R non vide et non réduit à un point, f et g deux fonctions continues
de I dans C telles que :
∀t ∈ I, ef (t) = eg(t) .
Montrer que la fonction f − g est constante.
2. Soient ϕ dans C ∗ , A dans R+∗ . Pour n dans N∗ et k dans {0, . . . , n − 1}, on note uk,n la fonction
continue de [−A, A] dans C∗ définie par :
) +
ϕ ei(k+1)t/n
∀t ∈ [−A, A], uk,n (t) = ) + .
ϕ eikt/n

(a) Soit ε > 0. Montrer qu’il existe n dans N∗ tel que :

* / 0 / 0*
* *
∀k ∈ {0, . . . , n − 1}, ∀t ∈ [−A, A], *ϕ ei(k+1)t/n − ϕ eikt/n * < ε.

4
 (b) Montrer qu’il existe n dans N∗ tel que :

∀k ∈ {0, . . . , n − 1}, ∀t ∈ [−A, A], |uk,n (t) − 1| < 1.

En déduire que pour tout k de {0, . . . , n − 1} il existe une fonction continue vk,n de [−A, A]
dans C telle que :
∀t ∈ [−A, A], uk,n (t) = evk,n (t) .
Indication. On rappelle qu’il existe une (unique) fonction continue L de C \ R− dans la
bande {z ∈ C, |Im (z)| < π} vérifiant :

∀z ∈ C \ R− , eL(z) = z.

(c) Montrer qu’il existe une fonction continue θA de [−A, A] dans C telle que :

∀t ∈ [−A, A], ϕ(eit ) = eθA (t) .

(d) Conclure que R(ϕ) n’est pas vide.

3. (a) Si ϕ est dans C ∗ , θ dans R(ϕ) et t dans R, montrer que le réel

θ(t + 2π) − θ(t)

2iπ
est un entier relatif indépendant du couple (θ, t) de R(ϕ)×R. L’entier ainsi défini est appelé
degré de ϕ et noté deg(ϕ).
(b) Calculer le degré de ϕ dans les cas suivants :
i) ϕ = en où n ∈ Z,
ii) ϕ = ϕ1 × ϕ2 où ϕ1 et ϕ2 sont dans C ∗ (réponse en fonction des degrés de ϕ1 et ϕ2 ),
iii) ϕ est un élément de C ∗ à valeurs dans C \ R− .
(c) Soient ϕ1 et ϕ2 dans C ∗ telles que : |ϕ1 − ϕ2 | < |ϕ1 |. Montrer :

deg(ϕ1 ) = deg(ϕ2 ).

Indication. On pourra considérer ϕ2 /ϕ1 .

(d) Montrer que l’application deg qui à ϕ associe deg(ϕ) est continue sur C ∗ muni de la topologie
provenant de la norme | |∞ .
4. Pour n dans Z, soit Cn∗ l’ensemble des ϕ de C ∗ de degré n.
Montrer que les Cn∗ sont les composantes connexes par arcs de C ∗ (toujours muni de la topologie
provenant de | |∞ ).
Indication. Pour ϕ dans C0∗ , on pourra considérer θ dans R(ϕ) et, pour s dans [0, 1], Hs l’appli-
cation définie sur S 1 par :
∀t ∈ R, Hs (eit ) = esθ(t) .

III. Espace de Hardy H 2

On note H 2 le sous-espace de L2 constitué des f telles que :

∀n ∈ Z \ N, fˆ(n) = 0.

5
1. Montrer que H 2 est un sous-espace fermé de L2 dont (en )n∈N est une base hilbertienne.
Dans la suite, l’espace H 2 est muni de la structure d’espace de Hilbert induite par celle de L2 .
On note Π le projecteur orthogonal de L2 sur H 2 .
Si f est dans L2 , exprimer la décomposition de Π(f ) sur (en )n∈N .
2. Soit f dans H 2 . Justifier que le rayon de convergence de la série entière
(
fˆ(n) z n
n≥0

est supérieur ou égal à 1.

Pour z dans D, soit :
+∞
(
F (z) = fˆ(n) z n .
n=0

Pour r dans [0, 1[, soit fr la fonction définie sur S 1 par :

∀z ∈ S 1 , fr (z) = F (rz).

Prouver que |fr − f |2 tend vers 0 lorsque r tend vers 1.

3. Soit f un élément non nul de H 2 . Le but de cette question est de démontrer que l’ensemble des
t de [−π, π] tels que f (eit ) = 0 est de mesure de Lebesgue nulle. Quitte à multiplier f par e−m
où m est le plus petit i de N tel que : fˆ(i) += 0, on peut supposer fˆ(0) += 0 et c’est ce qu’on fait
désormais. On fixe ε dans ]0, 1[.
(a) Montrer que ln(|f | + ε) appartient à L1 .
(b) Si r est dans [0, 1[, t dans R, établir :

*ln |fr (eit )| + ε − ln |f (eit )| + ε * " |fr (e ) − f (e )| .

* ) + ) +* it it

ε
(c) En utilisant l’inégalité obtenue à la fin de I, établir :
# π /* *0
1 )* * + * *
ln *f (eit )* + ε dt ! ln *fˆ(0)* .
2π −π

(d) Conclure.

IV. Opérateurs de Toeplitz

Soit ϕ dans C.
1. (a) Si f est dans H 2 , vérifier que Π(ϕ × f ) est un élément de H 2 .
Dans la suite, on note Tϕ l’application de H 2 dans lui-même qui à f associe Π(ϕ × f ). Il
est clair que Tϕ est un endomorphisme de H 2 .
Vérifier que Tϕ appartient à L(H 2 ) ; Tϕ est appelé opérateur de Toeplitz de symbole ϕ.
(b) Si i et j sont dans N, exprimer $ei , Tϕ (ej )% à l’aide de ϕ̂.
L’application qui à ϕ associe Tϕ est-elle injective ?
(c) Montrer la relation : Tϕ ∗ = Tϕ .
2. On suppose que ϕ n’est pas l’application nulle. On fixe f dans ker Tϕ , g dans H 2 , on pose :
u = ϕ × f × g.
(a) Montrer que u est dans L1 et que û est nulle sur N.

6
 (b) On suppose désormais que g est dans ker Tϕ∗ . En considérant u, montrer que u est l’élément
nul de L1 .
(c) Conclure en utilisant la question III.3 que l’un au moins des deux opérateurs Tϕ et Tϕ∗ est
injectif.
Si Tϕ n’est pas injectif, montrer que son image est dense dans H 2 .

Dans les parties V et VI, (H, $ , %) est un espace de Hilbert complexe. On adopte les notations
rappelées au début du problème et on note B la boule fermée de centre 0 et de rayon 1 de H.

V. Opérateurs compacts et opérateurs de Toeplitz

Un élément T de L(H) est dit compact si et seulement si T (B) est une partie compacte de H. On
note K(H) l’ensemble des T de L(H) vérifiant cette propriété, K0 (H) l’ensemble des T de L(H) dont
l’image est de dimension finie.
1. (a) Montrer que K(H) est un idéal bilatère de l’algèbre L(H) contenant K0 (H).
(b) Montrer que K(H) est fermé dans L(H).
Indication. On rappelle qu’une partie X de H est d’adhérence compacte si, pour tout ε > 0,
on peut recouvrir X par une réunion finie de boules fermées de rayon ε.
2. Dans cette question, H est l’espace de Hilbert H 2 , P le sous-espace de C engendré par la famille
(en )n∈Z .
(a) Si ϕ1 et ϕ2 sont dans P, montrer que Tϕ1 Tϕ2 − Tϕ1 ×ϕ2 est dans K0 (H 2 ).
(b) Si ϕ1 et ϕ2 sont dans C, montrer que Tϕ1 Tϕ2 − Tϕ1 ×ϕ2 est dans K(H 2 ).
3. Soit K dans K(H).
(a) Montrer que ker(I + K) est de dimension finie.
(b) Montrer que Im (I + K) est fermé dans H.
Indication. Soient y dans H adhérent à Im (K + I), (xn )n≥O une suite d’éléments de H
telle que : K(xn ) + xn → y, et, pour tout n de N, x(n la projection orthogonale de xn
sur ker(K + I)⊥ . En raisonnant par l’absurde et en considérant un = x(n /|x(n |, montrer que
(x(n )n≥1 est bornée. Conclure.
(c) Montrer que K ∗ appartient à K(H).
Indication. Soient (xn )n≥0 une suite d’éléments de B, Γ l’adhérence de K(B) dans H, et,
pour tout n de N, fn la fonction de Γ dans C qui à x associe $xn , x%. En utilisant le théorème
d’Ascoli, montrer qu’il existe une suite strictement croissante (nk )k≥0 d’entiers naturels telle
que (fnk )k≥0 converge uniformément sur Γ. En déduire que (K ∗ (xnk ))k≥0 converge dans H.
(d) Montrer que Im (I + K) est de codimension finie dans H.

VI. Opérateurs de Fredholm et opérateurs de Toeplitz

Soit T dans L(H). On dit que T est de Fredholm si et seulement s’il vérifie les deux propriétés
suivantes :
i) l’espace ker T est de dimension finie,
ii) l’espace Im T est fermé et de codimension finie dans H.
On note F(H) l’ensemble des T de L(H) vérifiant ces propriétés. Si T est dans F(H) on appelle
indice de T et on note ind (T ) l’entier relatif :
dim(ker T ) − codimH (Im T ).
On remarquera que si T est un élément inversible de L(H), alors T appartient à F(H) et a pour
indice 0.

7
1. (a) Soient V et W deux sous-espaces de H tels que V ⊂ W et que V soit fermé et de codimension
finie dans H. Montrer que W est fermé et de codimension finie dans H.
(b) Soit T dans L(H). On suppose qu’il existe S1 et S2 dans L(H) tels que K1 = S1 T − I et
K2 = T S2 − I appartiennent à K(H). Montrer que T est dans F(H).
2. Dans cette question, H est l’espace de Hilbert H 2 , ϕ un élément de C ∗ . Montrer que Tϕ est dans
F(H 2 ).
Indication. On pourra utiliser les questions V.2.(b), VI.1(b) et considérer la fonction 1/ϕ.
3. On se propose d’établir une réciproque de la question VI.1.(b) ci-dessus.
Soit T dans F(H). On note T0 l’application linéaire de ker T ⊥ dans Im T obtenue en restreignant
T à ker T ⊥ , P le projecteur orthogonal de H sur Im T . Il est clair que T0 est un isomorphisme
de ker T ⊥ sur Im T . Or, tout isomorphisme linéaire continu d’un espace de Banach sur un autre
est un homéomorphisme (théorème de Banach) ; il en résulte que T0−1 est continu, ce que l’on ne
demande pas de justifier davantage.
Soit S l’élément T0−1 P de L(H). Reconnaître les éléments ST − I et T S − I de L(H) et montrer
en particulier qu’ils appartiennent à K0 (H).
Des questions VI.1.(b) et VI.3 il résulte qu’un élément de L(H) est dans F(H) si et seulement
s’il est “inversible modulo K(H) " ou “inversible modulo K0 (H)". Ceci prouve en particulier que si
T1 et T2 sont dans F(H), T2 T1 est dans F(H), ce que l’on ne demande pas de justifier davantage.
4. Le but de cette question est d’établir que F(H) est ouvert dans L(H) et que la fonction ind est
localement constante sur F(H).
Soient T dans F(H), S dans L(H) telle que K = ST − I et L = T S − I soient dans K0 (H), J
dans L(H) vérifiant : )J) × )S) < 1.

(a) Montrer qu’il existe K ( et L( dans K0 (H) tels que :

S(T + J) = (I + SJ)(I + K ( ) , (T + J)S = (I + L( )(I + JS).

En déduire que T + J est dans F(H), ce qui justifie bien le caractère ouvert de F(H).
Indication. On pourra utiliser la question VI.1(b) et le fait que si U est un élément de L(H)
tel que )U ) < 1, alors I + U est inversible dans l’algèbre L(H).
(b) On admet les deux résultats suivants, qui peuvent être prouvés de manière entièrement
algébrique :
i) si T1 et T2 sont dans F(H), alors : ind(T2 T1 ) = ind(T1 ) + ind(T2 ),
ii) si K est dans K0 (H), ind(I + K) = 0.

Montrer que :
ind(T + J) = ind(T ).
La fonction ind est donc localement constante sur F(H).
5. Dans cette question, H est l’espace de Hilbert H 2 .
(a) Montrer que si ϕ est dans C ∗ , on a :

ind(Tϕ ) = − deg(ϕ).

(b) Si ϕ est dans C ∗ , préciser la dimension de ker Tϕ et la codimension de Im Tϕ dans H 2 .

(c) Quels sont les éléments ϕ de C tels que Tϕ soit un élément inversible de l’algèbre L(H 2 ) ?