12

Endomorphismes d’un espace

euclidien

Le but de ce chapitre est d’étudier certains types d’endomorphismes d’un espace euclidien. On s’intéresse
en particulier aux isométries vectorielles (les endomorphismes conservant les distances) et aux endomor-
phismes autoadjoint, dont la matrice dans une base orthonormale est symétrique.
On montrera notamment que, dans une base orthonormale bien choisie, les isométries f ont une matrice
diagonale par blocs, chaque bloc étant de taille 1 ou 2, et correspondant à une direction stable sur laquelle
f agit comme une symétrie ou l’identité (pour les blocs de taille 1), ou a un plan stable sur lequel f agit
comme une rotation.
On montrera également que les endomorphismes autoadjoints (ou symétriques) sont diagonalisables en
base orthonormale, ce qui se réexprime en disant que toute matrice symétrique réelle est diagonalisable.
C’est le théorème spectral. Enfin, nous caractériserons, pour un endomorphisme autoadjoint a, la positi-
vité de la forme quadratique x fiÑ xx, apxqy (ou matriciellement X fiÑ X J AX) par la positivité du spectre.
Cette propriété sera utile en particulier pour l’étude des points critiques des fonctions de plusieurs va-
riables, en vue de faire de l’optimisation (recherche d’extrema).

I Rappels sur les espaces euclidiens

Ce survol rapide des définitions et propriétés essentielles du cours de première année ne remplace pas une
révision complète et en profondeur de votre cours de première année. Il n’a pas vocation à être complet,
et ne fait que réintroduire rapidement les notions que nous aurons à utiliser par la suite.

I.1 Formes bilinéaires et produit scalaire

Définition 12.1.1 – Forme bilinéaire
Soit E un espace vectoriel sur R. Une forme bilinéaire ' sur E est une application ' : E ˆ E Ñ R,
linéaire par rapport à chaque facteur, l’autre étant fixé, c’est-à-dire :
(i) @px, y, zq P E 3 , @ P R, 'p x ` y, zq “ 'px, zq ` 'py, zq
(ii) @px, y, zq P E 3 , @ P R, 'px, y ` zq “ 'px, yq ` 'px, zq.

On rappelle la propriété de bilinéarité généralisée

Lemme 12.1.2 – Bilinéarité généralisée

Soit ' une forme bilinéaire sur E. Soit pk, `q P pN˚ q2 , et soit px1 , . . . , xk , y1 , . . . , y` q P E k`` , et
182 CHAPITRE 12. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN

p 1, . . . , k , µ1 , . . . , µ ` q P Kk`` . Alors
˜ ¸
ÿk ÿ̀ ÿ
k ÿ̀
' i xi , µ j yj “ i µj 'pxi , yj q.
i“1 j“1 i“1 j“1

Définition 12.1.3 – Matrice associée à une forme bilinéaire

Soit ' une forme bilinéaire sur E de dimension finie, et B “ pe1 , . . . , en q une base de E. Alors on
définit la matrice de ' relativement à la base B par :

MatB p'q “ p'pei , ej qq1§i,j§n .

Théorème 12.1.4 – Caractérisation de MatB p'q par la relation 'px, yq “ X J M Y

Soit M P Mn pKq. La matrice M est la matrice de ' relativement à la base B si et seulement si pour
tout px, yq P E 2 , dont les matrices colonnes coordonnées dans B sont X et Y ,

'px, yq “ X J M Y.

Proposition 12.1.5 – Formule de changement de base

Soit E un espace vectoriel de dimension finien et ' une forme bilinéaire. Soit B et C deux bases de
E, et P “ PBC la matrice de passage de B à C. Alors

MatC p'q “ P J MatB p'qP.

Définition 12.1.6 – Produit scalaire

Un produit scalaire ' sur E est une forme bilinéaire telle que :
(i) (positivité) : pour tout x P E, 'px, xq • 0
(ii) (caractère défini) : pour tout x P E, 'px, xq “ 0 ñ x “ 0
(iii) (Symétrie) : pour tout px, yq P E 2 , 'px, yq “ 'py, xq.
On note souvant xx, yy ou px|yq.

L’expression matricielle d’une forme bilinéaire s’applique aussi aux produits scalaires, et donc, en notant
M la matrice du produit scalaire x¨, ¨y dans une base B et X et Y les vecteurs-colonne coordonnées de x
et y, le produit scalaire s’exprime :
xx, yy “ X J M Y.

Proposition 12.1.7 – Matrice d’un produit scalaire

La matrice d’un produit scalaire dans une base quelconque est symétrique et inversible. La réci-
proque est fausse.

Définition 12.1.8 – Espace préhilbertien réel

Un espace préhilbertien réel pE, x¨, ¨yq est un espace vectoriel E sur R, muni d’un produit scalaire
x¨, ¨y.

S’il n’y a pas d’ambiguïté sur le produit scalaire, on parlera plus simplement de l’espace préhilbertien E,
au lieu de pE, x¨, ¨yq.
I Rappels sur les espaces euclidiens 183

Définition 12.1.9 – Espace euclidien

Un espace euclidien est un espace préhilbertien réel de dimension finie.

I.2 Orthogonalité
On suppose que E est un espace euclidien. La plupart des notions se généralise au cas préhilbertien réel,
mais certains propriétés peuvent être fausses en revanche.
On rappelle que deux vecteurs x et y sont orthogonaux si, par définition, xx, yy “ 0.

Définition 12.1.10 – Famille orthogonale, orthonormale

1. Une famille pxi qiPI est orthogonale si pour tout i ‰ j de I, xi Kxj .
2. On dit que la famille pxi qiPI est orthonormale (ou orthonormée) si et seulement si elle est
orthogonale, et que pour tout i P I, }xi } “ 1.

Une propriété important de ces familles est leur liberté :

Proposition 12.1.11 – Liberté des familles orthogonales

1. Une famille orthogonale ne contenant pas le vecteur nul est libre.
2. Une famille orthonormale est libre.

Le procédé de Gram-Schmidt permet, à partir d’une famille libre pe1 , . . . , en q, de construire une famille
orthonormale pf1 , . . . , fn q telle que pour tout k P J1, nK

Vectpe1 , . . . , ek q “ Vectpf1 , . . . , fk q, et xek , fk y “ 1.

En particulier, en partant d’une base d’un espace euclidien, on en déduit :

Théorème 12.1.12 – Existence d’une base orthonormale

Soit E un espace euclidien. Alors E admet une b.o.n.

Plus précisément, en appliquant le procédé de Gram-Schmidt à une base obtenue en complétant une
famille orthonormale :
Théorème 12.1.13 – Théorème de la base orthonormale incomplète
Soit E un espace euclidien. Alors toute famille orthonormale peut être complétée en une base
orthonormale.

Définition 12.1.14 – Sous-espaces orthogonaux

Les sous-espaces F et G de E sont orthogonaux si pour tout px, yq P F ˆ G, x K y.

Proposition 12.1.15 – Orthogonalité et somme directe

à
Soit pFi qiPI une famille de sous-espaces de E, 2 à 2 orthogonaux. Alors la somme Fi est directe.
iPI

Proposition/Définition 12.1.16 – Supplémentaire orthogonal

Soit E un espace euclidien, et F un sous-espace vectoriel de E. L’ensemble F K “ ty P E, y K F u
est un supplémentaire de E, orthogonal à F . Il est appelé supplémentaire orthogonal de F .
184 CHAPITRE 12. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN

Avertissement 12.1.17
C’est faux si E n’est pas de dimension finie (cadre préhilbertien réel au lieu d’euclidien).

I.3 Projection orthogonale

Définition 12.1.18 – Projeté orthogonal sur un sev
Soit F un sous-espace vectoriel de E, et y P E. On dit que z P E est le projeté orthogonal de y sur
F si et seulement si :
(i) z P F
(ii) py ´ zqKF .

Théorème 12.1.19 – Existence du projeté orthogonal sur un sev de dimension finie

Soit y P E, et F un sous-espace vectoriel de dimension finie de E, et B “ pb1 , . . . , bm q une b.o.n.
de F . Alors le projeté orthogonal de y sur F existe, est unique, et vaut :
ÿ
m
z“ xy, bi y bi .
i“1

Proposition 12.1.20 – Description de la projection orthogonale

Soit E un espace euclidien et F un sous-espace de E. L’application p qui à x associe son projeté
orthogonal sur F est un projecteur de E. Plus précisément, c’est le projecteur sur F parallèlement
à F K.

I.4 Coordonnées en base orthonormale

Théorème 12.1.21 – Coordonnées d’un vecteur dans une b.o.n. et norme
Soit E un espace euclidien, et B “ pb1 , . . . , bn q une b.o.n. de E. Soit x, y P E. Alors :
¨ ˛
xx, b1 y
∞
n ˚ . ‹
˝ .. ‚.
xx, bi y bi , c’est-à-dire rxsB “ ˚
(i) x “ ‹
i“1
xx, bn y
∞
n
(ii) xx, yy “ xx, bi y xy, bi y
i“1
∞
n
2
(iii) }x}2 “ xx, bi y
i“1

Ainsi, si B est une b.o.n. et si

¨ ˛ ¨ ˛
x1 y1
˚ . ‹ ˚.‹
˝ .. ‚
X “ rxsB “ ˚ ˝ .. ‚
‹ et Y “ rysB “ ˚ ‹
xn yn

sont les coordonnées de x et y dans la b.o.n. B, le produit scalaire et la norme s’expriment par les formules
usuelles :
ÿ
n ÿn
xx, yy “ x i yi “ X J Y et }x}2 “ x2i “ X J X.
i“1 i“1

Ces relations traduisent le fait que la matrice du produit scalaire dans une base orthonormale pour ce
produit scalaire est égale à In .
I Rappels sur les espaces euclidiens 185

Théorème 12.1.22 – Matrice d’un endomorphisme relativement à une b.o.n.

Soit E un espace euclidien muni d’une b.o.n. B “ pb1 , . . . , bn q. Soit u P LpEq. Alors :
¨ ˛
xb1 , upb1 qy ¨ ¨ ¨ xb1 , upbn qy
˚ .. .. ‹
MatB puq “ pxbi , upbj qyq1§i,j§n “ ˚
˝ . .
‹.
‚
xbn , upb1 qy ¨ ¨ ¨ xbn , upbn qy

I.5 Changements de base orthonormales, matrices orthogonales

Théorème 12.1.23 – propriété des matrices de passage d’une b.o.n. à une autre
Soit B et C deux bases de E. Soit P “ PBC la matrice de passage de la base B à la base C. Alors :

P J P “ In “ P P J , donc: P ´1 “ P J .

Ÿ Éléments de preuve.
Utiliser la formule de changement de base pour la matrice du ps dans les bases B et C. On peut aussi
le retrouver à l’aide de la desciption explicite de PBC et des expressions des xci , cj y en b.o.n. B. ô

Définition 12.1.24 – Matrice orthogonale

Soit P P Mn pRq une matrice carrée d’ordre n. On dit que P est une matrice orthogonale si et
seulement si P J P “ In .

Exemples 12.1.25
˜ ¸ ˜ ¸
cosp✓q ´ sinp✓q cosp✓q sinp✓q
1. Dans Mn pRq, les matrices Rp✓q “ et Sp✓q “
sinp✓q cosp✓q sinp✓q ´ cosp✓q
2. La matrice In , la matrice ´In , et plus généralement, toute matrice obtenue de In en changeant
les signes de certains de ses coefficients diagonaux, et en permutant les colonnes.

De la définition même découle de façon immédiate :

Proposition 12.1.26 – Inverse d’une matrice orthogonale
Soit P une matrice orthogonale. Alors P est inversible, et P ´1 “ P J .

Une matrice orthogonale peut se caractériser également par l’orthonormalité de ses colonnes ou ses lignes :
Théorème 12.1.27 – Caractérisation d’une matrice orthogonale par ses colonnes ou lignes
Soit P P Mn pRq. Les propositions suivantes sont équivalentes:
(i) P est orthogonale
(ii) P J est orthogonale
(iii) Les colonnes de P forment une base orthonormale de Rn » Mn,1 pRq
(iv) Les lignes de P forment une base orthonormale de Rn » M1,n pRq.

Théorème 12.1.28 – Caractérisation des matrices de passage entre b.o.n. par orthogonalité
Soit E un espace euclidien.
1. Toute matrice de passage d’une b.o.n. de E à une autre b.o.n. de E est une matrice ortho-
gonale.
2. Réciproquement, soit B une b.o.n. de E, et P une matrice orthogonale. Alors il existe une
186 CHAPITRE 12. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN

unique base C telle que P soit la matrice de passage de B à C, et cette base C est une b.o.n.
de E.
3. De même, si C est une b.o.n. de E, et P une martice orthogonale, il existe une unique base
B telle que P soit la matrice de passage de B à C, et cette base B est une b.o.n. de E.

Ÿ Éléments de preuve.
1. Résulte de la définition.
2. Remarquer que si x et y sont deux vecteurs de coordonnées X et Y dans une b.o.n, et si ' est le
psc, xx, yy “ 'pX, Y q. Justifier que ceci permet de définir une b.o.n. dont les coordonnées dans
B sont les colonnes de P .
3. Appliquer ce qui précède à P ´1 qui est encore orthogonal.
ô

Définition 12.1.29 – Groupe orthogonal

On note On pRq, ou Opnq l’ensemble des matrices orthogonales de Mn pRq. Cet ensemble On pRq est
appelé groupe orthogonal.

Théorème 12.1.30 – Structure de On pRq

L’ensemble On pRq est un groupe multiplicatif, ce qui est cohérent avec la terminologie introduite
dans la définition précédente.

Ÿ Éléments de preuve.
Montrer que c’est un sous-groupe de GLn pRq ; les vérifications sont simples. ô

Théorème 12.1.31 – Déterminant d’une matrice orthogonale

Soit P P On pRq. Alors detpP q P t´1, 1u. Plus précisément, det est un morphisme de groupe de
On pRq dans pt´1, 1u, ˆq.

Ÿ Éléments de preuve.
Appliquer le det à l’égalité P J P “ In . ô
Le noyau de ce morphisme est donc un sous-groupe de On pRq.

Définition 12.1.32 – Groupe spécial orthogonal

Le noyau du déterminant défini sur On pRq est appelé groupe spécial orthogonal, et noté SOn pRq ou
SOpnq. Ainsi, les éléments de SOn pRq sont les matrices orthogonales P telles que detpP q “ 1.

Remarque 12.1.33
Si n P N˚ , le sous-groupe SOn pRq n’est pas égal à Opnq tout entier. En effet, la matrice Diagp´1, 1, ¨ ¨ ¨ , 1q
est dans OpnqzSOpnq.
Plus précisément, on peut alors montrer qu’il y a « autant » d’éléments dans SOpnq que dans
OpnqzSOpnq.

Proposition 12.1.34 – Bijection entre Opnq et SOpnq

Soit P P OpnqzSOpnq. L’application
Q ބ P Q
est une bijection de SOpnq dans OpnqzSOpnq.
I Rappels sur les espaces euclidiens 187

Définition 12.1.35 – Matrices orthogonales directes, indirectes

Soit P P On pRq. On dit que :
‚ P est une matrice orthogonale positive (ou directe) si P P SOn pRq ;
‚ P est une matrice orthogonale négative (ou indirecte) si P P On pRqzSOn pRq.

Terminologie 12.1.36 – Matrices orthogonalement semblables

Soit A et B deux matrices de Mn pRq.
1. On dit que A et B sont orthogonalement semblables s’il existe P P Opnq telle que B “
P ´1 AP “ P J AP .
2. On dit que A est orthogonalement diagonalisable si A est orthogonalement semblable à une
matrice diagonale.
3. On dit que A est orthogonalement trigonalisable si A est semblable à une matrice triangulaire
supérieure.

I.6 Orientation d’un espace

Proposition/Définition 12.1.37 – Orientation d’un espace
Soit E un espace vectoriel sur R.
1. La relation BRB 1 ñ detB pB 1 q ° 0 est une relation d’équivalence sur l’ensemble des bases
de E
2. Cette relation d’équivalence possède exactement deux classes d’équivalence
3. On dira que B et B 1 ont même orientation si elles appartiennent à la même classe d’équiva-
lence.
4. Une orientation de E est alors le choix arbitraire d’une de ces deux classes d’équivalence,
qu’on fait généralement en se donnant une base de référence B0 .
5. Ainsi, étant donné une base de référence B0 , une base B est directe si detB0 pBq ° 0, et
indirecte si detB0 pBq ° 0.

Ainsi, orienter l’espace E consiste à choisir une base de référence B0 . Toute base de la même orientation
que B0 sera alors appelée base directe.

Proposition 12.1.38 – Caractérisation de l’orientation pour les b.o.n.

Soit B et B 1 deux b.o.n. d’un espace euclidien E. Les propositions suivantes sont équivalentes:
(i) B et B 1 ont même orientation ;
(ii) MatB pB 1 q P SOpnq
(iii) detB pB 1 q “ 1
(iv) detB “ detB1 .

Définition 12.1.39 – Produit mixte dans un espace euclidien orienté

Soit E un espace euclidien orienté, et B une b.o.n. directe. Soit pu1 , . . . , un q P E n . Le produit mixte
de pu1 , . . . , un q est défini par :

ru1 , . . . , un s “ detB pu1 , . . . , un q.

188 CHAPITRE 12. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN

Cette définition est indépendante du choix de la b.o.n. directe B.

II Endomorphismes autoadjoints
II.1 Adjoint d’un endomorphisme
Théorème 12.2.1 – Théorème de représentation de Riesz
Soit E un espace euclidien, et ' P E ˚ une forme linéaire sur E. Il existe un unique vecteur a P E
tel que ' “ xa, ¨y.
Plus précisément, a fiÑ 'a “ xa, ¨y est un isomorphisme de E dans E ˚ .

Proposition/Définition 12.2.2 – Adjoint d’un endomorphisme

Soit E un espace euclidien, et u P LpEq.
1. Pour tout x P E :
‚ l’application y fiÑ xx, upyqy est une forme linéaire ;
‚ il existe un unique vecteur u˚ pxq P E tel que pour tout y P E, xx, upyqy “ xu˚ pxq, yy.
2. L’application u˚ : x fiÑ u˚ pxq est un endomorphisme de E.
3. L’endomorphisme u˚ P LpEq est appelé adjoint de l’endomorphisme u.

Ÿ Éléments de preuve.
Le premier point est une vérification élémentaire. Le second provient du théorème de représentation
de Riesz.
Le fait que u˚ soit un endomorphisme provient de l’unicité dans le théorème de représentation de
Riesz, en constatant que u˚ pxq`u˚ px1 q répond au problème de la représentation de la forme linéaire
x x ` x1 , ¨y. ô

Proposition 12.2.3 – Adjoint d’une composée

Soit E un espace euclidien, et u et v deux endomorphismes de E. Alors

pv ˝ uq˚ “ u˚ ˝ v ˚ .

Ÿ Éléments de preuve.
Vérifier que xu˚ ˝ v ˚ pxq, yy “ xx, v ˝ uy, égalité qui caractérise l’adjoint pv ˝ uq˚ . ô

Proposition 12.2.4 – Double-adjoint

L’application u fiÑ u˚ de LpEq dans lui-même est involutif. En d’autres termes, pour tout u P LpEq,

pu˚ q˚ “ u.

Ÿ Éléments de preuve.
Simplifier xpu˚ q˚ pxq, yy. La symétrie du produit scalaire pourra être utile pour se ramener de façon
précise à la définition. ô

Proposition 12.2.5 – Stabilité par u˚ de l’orthogonal d’un sous-espace stable

Soit E un espace euclidien, et u P LpEq. Soit F un sous-espace de E. Les propositions suivantes
sont équivalentes:
(i) F est stable par u
II Endomorphismes autoadjoints 189

(ii) F K est stable par u˚ .

Ÿ Éléments de preuve.
Sens direct : calculer xu˚ pxq, yy pour x P F K et y P F .
Sens réciproque : cela se ramène au sens direct, par involutivité du passage à l’adjoint et du passage
au supplémentaire orthogonal. ô

Proposition 12.2.6 – Relations entre images et noyaux, HP

Soit E un espace euclidien et u P LpEq. Alors

Kerpu˚ q “ pImpuqqK et Impu˚ q “ KerpuqK .

Ÿ Éléments de preuve.
La première égalité provient de l’équivalence x P Kerpu˚ q ssi @y P E, xu˚ pxq, yy “ 0, puis utiliser la
définition de l’adjoint.
La seconde égalité se ramène à la première en remplaçant u par u˚ . ô

Corollaire 12.2.7 – Rang d’un adjoint

Soit E un espace euclidien, et u un endomorphisme de E. Alors

rgpu˚ q “ rgpuq.

Une interprétation matricielle permet de relier ce résultat à un résultat déjà connu, démontré de façon
algorithmique.

Proposition 12.2.8 – Représentation matricielle d’un adjoint

Soit E un espace euclidien, muni d’une base orthonormale B, et u P LpEq. Alors

MatB pu˚ q “ MatB puqJ .

Ÿ Éléments de preuve.
Les formes bilinéaires px, yq fiÑ xu˚ pxq, yy et px, yq fiÑ xx, upyqy ont des matrices dans B respectivement
associées à MatB pu˚ qJ et à MatB puq, et sont égales. ô
L’égalité des rangs de u et u˚ provient alors de l’invariance du rang par transposition. Ce résultat est
plus général que celui qu’on a prouvé ci-dessus (car valide pour des matrices de tout format), mais la
démonstration ci-dessus donne un éclairage géométrique à un résultat qui sinon reste purement algorith-
mique. D’ailleurs, on pourrait adapter cette démonstration à la situation générale, en considérant des
applications linéaires entre 2 espaces euclidiens E et F .
Le déterminant, la trace, le polynôme minimal et le polynôme caractéristique sont aussi invariants par
transposition. On obtient donc :

Proposition 12.2.9 – Rang, trace, déterminant, spectre d’un adjoint

Soit E un espace euclidien, et u P LpEq. Alors :
1. rgpu˚ q “ rgpuq
2. trpu˚ q “ trpuq
3. detpu˚ q “ detpuq
4. µu˚ “ µu
5. u˚ “ u
190 CHAPITRE 12. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN

6. Sppu˚ q “ Sppuq, avec égalité des multiplicités (algébriques).

II.2 Endomorphismes autoadjoints

Une situation particulière importante est le cas des endomorphismes égaux à leur adjoint.

Définition 12.2.10 – Endomorphisme autoadjoint

Soit E un espace euclidien, et u P LpEq. On dit que u est un endomorphisme autoadjoint (ou
endomorphisme symétrique) si u “ u˚
On note SpEq l’ensemble des automorphismes auto-adjoints de E.

Remarque 12.2.11
La notation utilisée se réfère à la terminologie « endomorphisme syémtrique », qui s’explique par
l’aspect matriciel évoqué ci-dessous. Mais le programmme officiel stipule explicitement de privilégier
la terminologie « endomorphisme autoadjoint ».

La propriété de stabilité des supplémentaires orthogonaux se réexprime dans ce contexte de la façon

suivante :
Proposition 12.2.12 – Orthogonal d’un sous-espace stable par un endomorphisme autoadjoint
Soit E un espace euclidien, et u en endomorphisme autoadjoint de E. Soit F un sous-espace de E.
Les propositions suivantes sont équivalentes:
(i) F est stable par u
(ii) F K est stable par u.
De plus, si cette propriété est vérifiée, les endomorphismes induits uF et uF K sont eux-même au-
toadjoints.

Proposition 12.2.13 – Caractérisation des endomorphismes auto-adjoints

Soit E un espace euclidien et u P LpEq. Les propositions suivantes sont équivalentes:
(i) u est un endomorphisme autoadjoint ;
(ii) @px, yq P E 2 , xupxq, yy “ xx, upyqy ;
(iii) pour tout b.o.n. B de E, MatB puq P Sn pRq ;
(iv) il existe une b.o.n. B de E telle que MatB puq P Sn pRq.

Ÿ Éléments de preuve.
‚ piq ñ piiq par définition
‚ piq ùñ piiiq par description matricielle de l’adjoint.
‚ piiiq ùñ pivq par existence d’une b.o.n.
‚ pivq ùñ piq aussi par description matricielle de l’adjoint.
ô
Ainsi, les endormophismes autoadjoints sont exactement les endomorphismes dont la matrice est symé-
trique (réelle) en base orthonormale.
Vous avez peut-être déjà remarqué au cours d’exercices que lorsque vous exprimez la matrice d’un pro-
jecteur orthogonal en base orthonormale, vous obtenez une matrice symétrique. Cela n’est pas un hasard,
et résulte de la proposition suivante.
II Endomorphismes autoadjoints 191

Proposition 12.2.14 – Caractérisation des projecteurs orthogonaux parmi les projecteurs

Soit E un espace euclidien, et p P LpEq un projecteur de E. Les propositions suivantes sont équiva-
lentes:
(i) p est un projecteur orthogonal
(ii) p est un endomorphisme autoadjoint (et un projecteur par hypothèse)

II.3 Théorème spectral

Dans cette section, nous nous intéressons à la réduction des endomorphismes autoadjoints. Le théorème
principal est la diagonalisabilité des endomorphismes autoadjoints, en base orthonormale.
Dans tout ce paragraphe, E est un espace euclidien. Le corps de base est donc R, et le spectre est donc
un sous-ensemble de R. Même lors des traductions matricielles, le spectre sera toujours considéré dans R.
Le point clé permettant la diagonalisation des endomorphismes autoadjoints est l’existence d’au moins
une valeur propre réelle d’une matrice symétrique réelle.

Lemme 12.2.15 – Spectre d’une matrice symétrique réelle

Soit M P Sn pRq. Alors SppM q ‰ ?.

Ÿ Éléments de preuve.
Considérer (exceptionnellement) une valeur propre complexe (pourquoi en existe-t-il une ?) et un
J J
vecteur propre complexe X associé. Considérer X M X “ X X, transposer et conjuguer, pour
conclure que “ . Qu’en déduire sur les racines du polynôme caractéristique de M ?
C’est la seule incursion dans les complexes, désormais, on travaille exclusivement dans R. ô

Corollaire 12.2.16 – Spectre d’un endomorphisme autoadjoint

Soit u P SpEq. Alors Sppuq ‰ ?.

Théorème 12.2.17 – Théorème spectral

Soit E un espace euclidien, et u P LpEq. Les propositions suivantes sont équivalentes:
(i) u P SpEq
K
à
(ii) E “ E puq
PSppuq

(iii) u est diagonalisable en b.o.n.

(iv) il existe une b.o.n. B telle que MatB puq P Dn pRq.

Corollaire 12.2.18 – Diagonalisabilité des matrices symétriques réelles

Soit M P Mn pRq. Les propositions suivantes sont équivalentes:
(i) M P Sn pRq
(ii) M est orthogonalement semblable à une matrice orthogonale.

Avertissement 12.2.19
Une matrice symétrique de Mn pCq n’est pas nécessairement diagonalisable !
192 CHAPITRE 12. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN

II.4 Endomorphismes autoadjoints positifs

Au voisinage d’un point critique, une application de classe C 2 sue un ouvert U de Rn pourra être approchée
localement au second ordre par une application f pX0 q ` H T SH, où H “ X ´ X0 et S est une matrice
symétrique, appelée matrice hessienne de f . On s’intéressera alors au signe de H J SH, afin de déterminer
si la fonction présente en X0 un extremum local ou non. Cette expression s’apparente à une expression
du type xx, upxqy, où u est un endomorphisme autoadjoint. Pour cette raison, l’étude du signe de telles
expressions revêt une grande importance.

Définition 12.2.20 – Endomorphismes autoadjoints (définis) positifs

Soit E un espace euclidien, et u P SpEq.
1. On dit que u est un endomorphisme autoadjoint positif si @x P E, xx, upxqy • 0.
On note S ` pEq l’ensemble des automorphismes autoadjoints positifs.
2. On dit que u est un endomorphsime autoadjoint défini positif si @x P Ezt0u, xx, upxqy ° 0.
On note S `` pEq l’ensemble des automorphismes autoadjoints définis positifs.

Proposition 12.2.21 – Caract. spectrale des endomorphismes autoadjoints positifs

Soit u P SpEq. Les propositions suivantes sont équivalentes:
(i) u est autoadjoint positif
(ii) Sppuq Ä R`

Proposition 12.2.22 – Caract. spectrale des endomorphismes autoadjoints définis positifs

Soit u P SpEq. Les propositions suivantes sont équivalentes:
(i) u est autoadjoint défini positif
(ii) Sppuq Ä R˚`

Ces définitions et propriétés se traduisent bien matriciellement.

Définition 12.2.23 – Matrices symétriques (définies) positifs

M P Sn pRq.
1. On dit que M est une matrice syémtrique positive si @X P Mn,1 pRq, X J M X • 0.
On note Sn` pRq l’ensemble des matrices symétriques positives. M est une matrice syémtrique
positive si @X P Mn,1 pRqzt0u, X J M X ° 0.
On note Sn`` pRq l’ensemble des matrices symétriques définies positives.

Proposition 12.2.24 – Caract. spectrale des matrices syémtriques positives

Soit M P Sn pRq. Les propositions suivantes sont équivalentes:
(i) M est symétrique positive
(ii) SppM q Ä R`

Proposition 12.2.25 – Caract. spectrale des matrices syémtriques définies positives

Soit u P Sn pEq. Les propositions suivantes sont équivalentes:
(i) M est symétrique définie positive
(ii) SppM q Ä R˚`
III Isométries vectorielles 193

Exemples 12.2.26
1. Pour toute matrice M P Mn pRq, M J est symétrique positive. Elle est définie positive ssi
M P GLn pRq.
2. Une matrice M est symétrique définie positive ssi c’est la matrice d’un produit scalaire
relativement à une base B arbitraire.
3. Une matrice M est symétrique définie positive si et seulement s’il existe P P GLn pRq telle
que M “ P J P .
4. Les matrices suivantes sont-elles positives, définies positives ?
¨ ˛ ¨ ˛ ¨ ˛
1 0 1 1 0 12 1 0 ?1
2
˚ ‹ ˚ 1‹ ˚ ‹
?1 ‚.
M1 “ ˝0 1 1‚, M2 “ ˝ 0 1 2 ‚, M3 “ ˝ 0 1 2
1 1 ?1 ?1
1 1 1 2 2 1 1
2 2

III Isométries vectorielles

III.1 Définitions
Définition 12.3.1 – Isométrie vectorielle
‚ Soit E un espace euclidien. Une isométrie vectorielle est un endomorphismes u P LpEq
conservant la norme, c’est-à-dire tel que

@x P E, }upxq} “ }x}.

Une isométrie vectorielle est parfois aussi appelée endomorphisme orthogonal.

‚ On note OpEq l’ensemble des isométries vectorielles de E.

Proposition 12.3.2 – Structure de Opnq; groupe orthogonal

pOpnq, ˝q est un sous-groupe de GLpEq. Il est appelé groupe orthogonal de E

Ÿ Éléments de preuve.
‚ La conservation de la norme et la séparation des normes permet de décrire facilement Kerpuq,
pour u P Opnq. Un argument de dimension montre alors l’inclusion dans GLpEq.
‚ La structure de sous-groupe se vérifie facilement ensuite.
ô

Exemples 12.3.3
Les endomorphismes de R2 (muni du ps usuel) canoniquement associés à Rp✓q et Sp✓q sont des
isométries. Pouvez-vous les décrire géométriquement en analysant l’image de la base canonique ?

L’exemple de Sp✓q se généralise facilement à tout espace

Définition 12.3.4 – Symétries orthogonales, réflexions

Soit E un espace euclidien, et s P LpEq.
‚ s est une symétrie orthogonale ssi il existe un sous-espace F de E tel que s soit la symétrie
par rapport à F , parallèlement à F K .
‚ s est une réflexion si et seulement si s est une symétrie orthogonal par rapport à un hyperplan
P.
194 CHAPITRE 12. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN

Remarque 12.3.5
‚ Une symétrie orthogonale par rapport à une droite D est appelée symétrie d’axe D.
‚ Une symétrie orthogonale (mais il n’y a pas trop le choix...) par rapport à t0u est appelée
symétrie centrale.

Proposition 12.3.6 – Les symétries orthogonales sont des isométries

Yep !

Ÿ Éléments de preuve.
Décomposer x “ xF ` xF K , exprimer spxq à l’aide de cette décomposition, et comparer }x} et }spxq}
grâce au théorème de Pythagore. ô

Proposition 12.3.7 – Caractérisations des isométries

Soit u P LpEq. Les propositions suivantes sont équivalentes:
(i) u P Opnq
(ii) @px, yq P E 2 , xupxq, upyqy “ xx, yy
(caractérisation par conservation du produit scalaire)
(iii) pour toute b.o.n. B “ pb1 , . . . , bn q, la famille upBq “ pupb1 q, . . . , upbn qq est encore une b.o.n.
(caractérisation par l’image des bases orthonormales) ;
(iv) il existe une b.o.n. B “ pb1 , . . . , bn q telle que upBq “ pupb1 q, . . . , upbn qq soit encore une b.o.n.
(caractérisation par l’image d’une base orthonormale) ;
(v) pour toute b.o.n. B “ pb1 , . . . , bn q, MatB puq P On pRq ;
(caractérisation par sa matrice dans toute base orthonormale)
(vi) il existe une b.o.n. B “ pb1 , . . . , bn q, telle que MatB puq P On pRq ;
(caractérisation par sa matrice dans une base orthonormale)
(vii) u˚ “ u´1
(caractérisation par l’adjoint)

Ÿ Éléments de preuve.
‚ piq ùñ piiq en considérant }upx ` yq}. La réciproque est évidente.
‚ piiq ùñ piiiq ùñ pivq ùñ pviq ùñ pvq ùñ pviiq ùñ piiq ; ce n’est évidemment pas le seul
parcours possible.
ô

Remarques 12.3.8
1. En particulier, le point (ii) assure qu’une isométrie conserve l’orthogonalité. Mais la conser-
vation de l’orthogonalité n’est pas suffisante pour caractériser les isométries.
2. Les points (v) et (vi) justifient la terminologie « endomorphisme orthogonal. Le programme
mentionne les deux terminologies, mais stipule de privilégier « isométrie vectorielle ».
3. Les points (v) et (vi) justifient également la ressemblance de notation et la correspondance
des terminologies utilisées pour désigner le groupe des isométries et le groupe des matrices
orthogonales. Plus précisément, u fiÑ MatB puq est un isomorphisme entre OpEq et On pRq.
III Isométries vectorielles 195

Exemple 12.3.9
‚ Soit s une symétrie orthogonale. Trouver une b.o.n. dans laquelle MatB psq est orthogonale.
Remarquez que cela propose une alternative à la preuve précédente du caractère isométrique
des symétries orthogonales.
‚ Une symétrie s P LpEq est orthogonale ssi s˚ “ s

Ce dernier point permet de caractériser les symétries qui sont des isométries.
Proposition 12.3.10 – Caractérisation des symétries isométriques
Soit s une symétrie de E. Alors s est une isométrie ssi s est une symétrie orthogonale.

Les points pvq et pviq donnent accès au déterminant d’une isométrie vectorielle

Proposition 12.3.11 – Isométries directes et indirectes

Soit u P OpEq. Alors detpuq P t´1, 1u.
‚ Si detpuq “ 1, on dit que u est une isométrie directe.
‚ Si detpuq “ ´1, on dit que u est une isométrie indirecte.

Proposition/Définition 12.3.12 – Groupe spécial orthogonal

On note SOpEq l’ensemble des isométries indirectes de E
C’est un sous-groupe de OpEq, appelé groupe spécial orthogonal.

Remarques 12.3.13
‚ L’égalité |detpuq| “ 1 est assez naturelle, puisque le déterminant calcule l’effet sur les volumes
de l’endomorphisme u : detpuq est le coefficient de proportionnalité entre le volume orienté
du parallélotope engendré par px1 , . . . , xn q et le volume orienté du parallélotope engendré
par pupx1 q, . . . , upxn qq.
Ainsi, l’égalité |detpuq| “ 1 ne fait que traduire le fait qu’un isométrie conserve les configu-
rations spaciales, et donc les volumes.
‚ Les isométries directes sont celles qui conservent l’orientation des b.o.n., les isométries indi-
rectes sont celles qui inverse l’orientation des b.o.n.

Exemple 12.3.14
‚ Caractériser les syémtries orthogonales qui sont dans SOpEq.
‚ Une réflexion est-elle une isométrie directe ?
‚ À quelle condition sur E une symétrie d’axe D est-elle une isométrie directe ?

III.2 Matrices orthogonales de M2 pRq

Dans ce paragraphe, nous donnons la description complète des isométries d’un espace de dimension 2.
Au passage, nous définierons la notion d’angle dans un espace euclidien de dimension 2 quelconque, en
supposant connue la notion d’angle dans le plan euclidien usuel.
Nous donnons dans cette section une description complète des isométries en dimension 2. Pour cela, nous
commençons par déterminer les matrices orthogonales de M2 pRq.

Proposition 12.3.15 – Matrices orthogonales de M2 pRq

˜ ¸
cosp✓q ´ sinp✓q
(i) Soit M P SOp2q, alors il existe ✓ P R tel que M “ ;
sinp✓q cosp✓q
196 CHAPITRE 12. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN

˜ ¸
cosp✓q sinp✓q
(ii) Soit M P Op2qzSOp2q, alors il existe ✓ P R tel que M “ ;
sinp✓q ´ cosp✓q
Ces descriptions sont uniques modulo 2⇡.

Ÿ Éléments de preuve. ˜ ¸
cosp✓q
En notant C1 et C2 les colonnes de M , C1 est de norme 1 et peut donc s’écrire . Le vecteur
sinp✓q
C2 doit être orthogonal à C1 et unitaire aussi. Cela ne laisse que deux possibilités. ô
On note : ˜ ¸ ˜ ¸
cosp✓q ´ sinp✓q cosp✓q sinp✓q
Rp✓q “ et Sp✓q “ .
sinp✓q cosp✓q sinp✓q ´ cosp✓q

Proposition 12.3.16 – produits dans Op2q

Soit ✓, ✓1 dans R.
(i) Rp0q “ I2
(ii) Rp✓qRp✓1 q “ Rp✓ ` ✓1 q “ Rp✓1 qRp✓q
(iii) Rp✓q´1 “ Rp´✓q.
(iv) Sp✓qSp✓1 q “ Rp✓ ´ ✓1 q
(v) Sp✓qRp✓1 q “ Sp✓ ´ ✓1 q
(vi) Rp✓qSp✓1 q “ Sp✓ ` ✓1 q.

Ÿ Éléments de preuve.
Calcul direct et peu intéressant, basé sur les formules de trigonométrie ô
En particulier, on reconnaît en SOp2q un groupe qu’on a déjà rencontré.

Théorème 12.3.17 – SOp2q est isomorphe à U

L’application qui à Rp✓q associe ei ✓ est un isomorphisme de groupe entre SOp2q et U.
En particulier, SOp2q est commutatif.

Ÿ Éléments de preuve.
Montrer qu’on peut passer ✓ fiÑ Rp✓q au quotient (de R par 2⇡Z). ô

III.3 Isométries en dimension 2

De l’étude précédente, et de la caractérisation matricielle des isométries, il découle de façon immédiate
que l’on sait décrire explicitement toutes les isométries d’un espace euclidien de dimension 2.

Lemme 12.3.18 – Matrices orthogonalement semblables à Rp✓q

La seule matrice orthogonalement semblable à Rp✓q est Rp✓q elle-même.

Définition 12.3.19 – Rotation d’angle ✓

Soit E un espace euclidien de dimension 2. On dit que u P LpEq est une rotation d’angle ✓ s’il existe
une b.o.n. B telle que MatB puq “ Rpthetaq.
En vertu du lemme précédent, cette définition est indépendante du choix de la b.o.n. B et on aura,
pour toute b.o.n. C, MatC puq “ Rp✓q.
On notera ⇢✓ la rotation d’angle ✓.

D’après les résultats précédents sur les matrices Rp✓q, on obtient ⇢✓ “ ⇢theta1 ssi ✓ ” ✓1 r2⇡s.
III Isométries vectorielles 197

Théorème 12.3.20 – Classification des isométries en dimension 2

Soit E un espace euclidien de dimension 2.
1. Les éléments de SOp2q sont exactement les rotations
2. Les éléments de Op2qzSOp2q sont exactement les réflexions.

Ÿ Éléments de preuve.
Le premier point résulte de la description de SO2 pRRq et de la définition des rotations.
Pour le second point, une inclusion est déjà acquise. Pour la seconde, constater que Sp✓q2 “ I2 , donc
les éléments de Op2qzSOp2q sont des symétries. Une propriété précédente caractérise les symétries
isométriques parmi toutes les symétries. ô

Les règles de produit matriciel dans SOp2q amènent directement les règles de composition des rotations,
dont l’interprétation géométrique est assez intuitive :

Proposition 12.3.21 – Inverse et composée de deux rotations

(i) ⇢0 “ idE
(ii) Pour tout p✓, ✓1 q P R, ⇢✓ ˝ ⇢✓1 “ ⇢✓`✓1 “ ⇢✓1 ˝ ⇢✓
(iii) Pour tout ✓ P R, ⇢´1
✓ “ ⇢´✓ .

Nous pouvons définir la notion d’angle orienté entre deux vecteurs grâce aux rotations. Pour cela, nous
utilisons le lemme suivant :

Lemme 12.3.22
Soit E un espace euclidien orienté, et soit x et y deux vecteurs de norme 1 de E. Il existe une unique
rotation ⇢ telle que ⇢pxq “ y.

Ÿ Éléments de preuve.
Si on se fixe une orientation, il existe une unique b.o.n. directe B de premier vecteur x et une unique
b.o.n. directe C de premier vecteur y. La rotation ⇢ doit nécessairement envoyer B sur C. ô

Définition 12.3.23 – Angle orienté entre deux vecteurs

z
Soit E un espace vectoriel orienté, et x et y deux vecteurs non nuls de E. Alors l’angle orienté px, yq
est l’angle ✓, défini modulo 2⇡, de l’unique rotation ⇢ telle que
ˆ ˙
x y
⇢ “ .
}x} }y}

Proposition 12.3.24 – Réflexion de matrice Sp✓q

Soit E un espace euclidien de dimension 2, s P OpEqzSOpEq, et B “ pb1 , b2 q une b.o.n. de E. Il
existe donc ✓ P R tel que MatB psq “ Sp✓q.
{
Alors, s est la réflexion par rapport à la droite dirigée par un vecteur unitaire u tel que pb 1 , uq “ 2 .
✓

Ÿ Éléments de preuve.
Faire un changement de base pour exprimer s dans l’unique base pu, vq telle que pu, vq soit orthonor-
male de même orientation que B. Que peut-on dire de la matrice de passage ?
ô
198 CHAPITRE 12. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN

III.4 Réduction des isométries

On cherche maintenant à décrire toutes les isométries de E. On montre plus précisément qu’un endomor-
phisme est une isométrie si et seulement s’il existe une b.o.n. dans laquelle sa matrice est diagonale par
bloc, chaque bloc étant de la forme 1, ´1, Rp✓q.
Dans cette section, E désigne un espace euclidien.

Lemme 12.3.25 – Stabilité des orthogonaux

Soit u une isométrie, et F un sous-espace stable par u. Alors F K est aussi stable par u.

Ÿ Éléments de preuve.
Passer par u˚ , et le fait que u´1 est un isomorphisme. ô

Lemme 12.3.26 – Existence d’un sous-espace strict stable

Soit E de dimension au moins 3, et soit u P OpEq. Il existe F un sous-espace de E, distinct de t0u
et de E, tel que F soit stable par u.

Ÿ Éléments de preuve.
Considérer un facteur irréductible P de u , de degré d, et un vecteur x P KerpP puqq. Justifier que
Vectpx, upxq, . . . , ud´1 pxqq est stable par u. ô

Théorème 12.3.27 – Réduction des isométries

Soit u un isométrie. Il existe une b.o.n. B, des entiers naturels p, q et k, et des réels ✓1 , . . . , ✓k P Rz⇡Z
tels que MatB puq soit diagonale par blocs de la forme
¨ ˛
Ip 0 ¨¨¨ ¨¨¨ 0
˚ .. .. ‹
˚ 0 ´I . . ‹
˚ q ‹
˚. . . . ‹
MatB puq “ ˚ ..
˚ . . Rp✓ q
1
.. .. ‹
‹
˚. ‹
˚. .. .. ‹
˝. . . 0 ‚
0 ¨¨¨ ¨¨¨ 0 Rp✓k q

Réciproquement, tout endomorphisme se réduisant ainsi en base orthonormale est une isométrie.

Ÿ Éléments de preuve.
Par récurrence forte. Puisque le lemme donnant l’existence d’un sous-espace stable strict est valide
uniquement à partir de la dimension 3, il faut initialiser pour E de dimension inférieure ou égale à
2. L’étude précédente nous donne le cas dimpEq “ 2. ô

Corollaire 12.3.28 – Classification des isométries en dimension 3

Toute isométrie d’un espace euclidien de dimension 3 se réduit sous l’une des formes suivantes, en
base orthonormale B “ pb1 , b2 , b3 q :
¨ ˛
1 0 0
˚ ‹
1. Isométrie directe : ˝0 cos ✓ ´ sin ✓‚, ✓ P R
0 sin ✓ cos ✓
(rotation autour de l’axe Rb1 , dans le plan Vectpb2 , b3 q)
¨ ˛
´1 0 0
˚ ‹
2. Isométries indirectes : ˝ 0 cos ✓ ´ sin ✓‚
0 sin ✓ cos ✓
(rotation autour de l’axe Rb1 et réflexion par rapport à Vectpb2 , b3 q)