Chapitre 25

E SPACES VECTORIELS EUCLIDIENS

(2) A UTOMORPHISMES ORTHOGONAUX

Mohamed TARQI

Table des matières

1 Automorphismes orthogonaux 1
1.1 Définitions et propriétés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Matrices orthogonales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.3 Symétries et réflexions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

2 Classifications des automorphismes orthogonaux du plan 4

2.1 Automorphismes orthogonaux du plan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.2 Matrices orthogonales d’ordre 2 : O(2) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

3 Classifications des automorphismes orthogonaux de l’espace 6

3.1 Automorphismes orthogonaux de l’espace . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
3.2 Matrices orthogonales d’ordre 3 : O(3) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
3.3 Exemples d’applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8

•••••••••••
Dans ce chapitre E est un espace vectoriel euclidien de dimension n.

1 Automorphismes orthogonaux
1.1 Définitions et propriétés
Définition 1.1 Soit E un espace vectoriel euclidien muni d’un produit scalaire (.|.). Un endomorphisme de E est dit ortho-
gonal si, et seulement si, :
∀(x, y) ∈ E 2 , (f (x)|f (y)) = (x|y).

Proposition 1.1 Soit E un espace vectoriel euclidien muni d’un produit scalaire (.|.). Un endomorphisme
de E est orthogonal si, et seulement si, s’il conserve la norme, c’est-à-dire :

∀x ∈ E, k f (x) k=k x k .

Démonstration : Soit f un endomorphisme orthogonal de E, alors

∀x ∈ E, kf (x)k2 = (f (x)|f (x)) = (x|x) = kxk2 .

Donc f conserve la norme.

1
C HAPITRE 25 A UTOMORPHISMES ORTHOGONAUX

Réciproquement, d’après la formule de polarisation, pour tout (x, y) ∈ E 2 , on a :

1
(f (x)|f (y)) = (kx + yk2 + kx − yk2 )
4
1
= (kf (x + y)k2 + kf (x − y)k2 )
2
1
= (kx + yk2 + kx − yk2 )
2
= (x|y)

Donc f est endomorphisme orthogonal. u

t

Corollaire 1.1 Si f est un endomorphisme orthogonal, alors f est bijective.

Démonstration : En effet :

∀x ∈ E, f (x) = 0 =⇒ kf (x)k = kxk = 0 =⇒ x = 0.

Donc ker f = {0} et comme E est de dimension finie f est bijectif. Donc un endomorphisme orthogonal est néces-
sairement un automorphisme : on dit automorphisme orthogonal. u
t

Exemples :
1. Id et −Id sont des automorphismes orthogonaux.
2. Une symétrie orthogonale par rapport à F est un automorphisme orthogonal, en effet, si x = y + z, avec
y ∈ F et z ∈ F ⊥ , on a :
ks(x)k2 = ky − zk2 = kyk2 + kzk2 = ky + zk2 = kxk2
3. Par contre une projection orthogonale sur un sous-espace strict de E n’est pas un automorphisme orthogo-
nale, car elle ne conserve pas la distance.

Proposition 1.2 Soit E une espace euclidien et B = {e1 , e2 , ..., en } une base orthonormée de E. Un endomor-
phisme f de E est orthogonal si, et seulement si, f (B) = {f (e1 ), f (e2 ), ..., f (en )} est une base orthonormée.

Démonstration : Si f est un automorphisme orthogonal, il conserve la norme et le produit scalaire, donc aussi
l’orthogonalité, alors :
∀i, j ∈ [1, n]2 , (f (ei )|f (ej )) = (ei |ej ) = δij ,
donc {f (e1 ), f (e2 ), ..., f (en )} est une famille orthonormée, comme elle a n éléments, c’est une base.
Réciproquement, supposons que f (B) = {f (e1 ), f (e2 ), ..., f (en )} est une base de E. Pour tout x = ξ1 e1 + ξ2 e2 +
... + ξn en de E, f (x) = ξ1 f (e1 ) + ξ2 f (e2 ) + ... + ξn f (en ), donc
p
kxk = ξ12 + ξ22 + ... + ξn2 = kf (x)k
donc f conserve la norme, il est donc orthogonal. u
t

Proposition 1.3 Soit B une base orthonormée de E. Un endomorphisme f de E est orthogonale si, et
seulement si, l’image par f de B est une base orthonormée.

Démonstration : L’image d’une base orthonormée est donc une une famille orthonormée, et une base car f est
un automorphisme.
n
P
Soit B = {e1 e2 , ..., en } et x = xi ei un vecteur de E. On a :
i=1

n
X
2
kxk = x2i .
i=1

Cours de Mathématiques MP 2/8 Rédigé par: [Link]

C HAPITRE 25 A UTOMORPHISMES ORTHOGONAUX

n
P
De plus f (x) = xi f (ei ) et comme f (B) est orthonormée, on a :
i=1

n
X
kf (x)k2 = x2i = kxk2 .
i=1

L’endomorphisme f conserve la norme est donc orthogonal. u

t

Proposition 1.4 L’ensemble des endomorphismes orthogonaux de E est un sous-groupe de GL(E), appelé
groupe orthogonal de E et noté O(E).

Démonstration : idE est un endomorphisme orthogonal ; la composée de deux endomorphismes orthogonaux

de E est un endomorphisme orthogonal ; l’inverse d’un endomorphisme orthogonal est un endomorphisme or-
thogonal. u
t

1.2 Matrices orthogonales

Définition 1.2 On dit qu’une matrice A de Mn (R) est orthogonale si At A = In .

Remarque : A est orthogonale si elle est inversible et son inverse égal à sa transposée.
Soit E une espace vectoriel euclidien et B = {e1 , e2 , ..., en } une base de E et f ∈ O(E).
Soit  
a11 a12 . . a1n
 a21 a22 . . a2n 
 
A = M (f, B) =   . . . . . 
 . . . . . 
am1 am2 . . amn
Comme f est orthogonal, les vecteurs colonnes de A, {C1 , C2 , ..., Cn } forme une famille orthonormale, c’est-à-dire
t
∀(i, j) ∈ [1, n]2 , Ci Cj = δij
donc t AA = At A = In ou encore t A = A−1 .
Donc la matrice d’un endomorphisme orthogonal est une matrice orthogonale.
On déduit facilement le résultat suivant :

Proposition 1.5 L’ensemble des matrices orthogonales d’ordre n est un sous-groupe de GLn (R), appelé
groupe orthogonal d’ordre n et noté O(n).

Exemple : La matrice de passage d’une base orthonormée à une base orthonormée est une matrice orthogonale.
Soit A une matrice orthogonale d’ordre n. Alors l’égalité t AA = In implique det A2 = 1, c’est-à-dire det A = ±1.

Théorème 1.1 L’ensemble des matrices orthogonales d’ordre n dont le déterminant est égal à 1 est un
sous-groupe de O(n), appelé groupe spécial orthogonal d’ordre n et noté SO(n), ses éléments sont appe-
lés des rotations.

Démonstration : En effet, il suffit de vérifier que SO(n) = ker ϕ, avec :

ϕ : O(n) 7−→ {−1, +1}

A 7−→ det A

u
t

1.3 Symétries et réflexions

Proposition 1.6 Une symétrie est un automorphisme orthogonal si, et seulement si, c’est une symétrie
orthogonale.

Cours de Mathématiques MP 3/8 Rédigé par: [Link]

C HAPITRE 25 A UTOMORPHISMES ORTHOGONAUX

Démonstration :
1. Soit F et G deux sous-espaces vectoriels supplémentaires de E et s la symétrie par rapport à F parallèlement
à G. Supposons s ∈ O(E).
∀(x, y) ∈ F × G, (x|y) = (s(x)|s(y) = (x| − y) = −(x|y)
d’où (x|y) = 0, donc F et G sont orthogonaux et supplémentaires, donc s est une symétrie orthogonale.
2. Soit F un sous-espace vectoriel de E et s la symétrie orthogonale par rapport à F . Pour tout x et y de E, on
peut écrire x = x1 + x2 et y = y1 + y2 avec (x1 , y1 ) ∈ F 2 et (x2 , y2 ) ∈ (F ⊥ )2 , donc :
(x|y) = (x1 + x2 |y1 + y2 ) = (x1 |y1 ) + (x2 |y2 )
(s(x)|s(y)) = (x1 − x2 |y1 − y2 ) = (x1 |y1 ) + (x2 |y2 )
donc s conserve le produit scalaire ; c’est un automorphisme orthogonal.
u
t

Définition 1.3 On appelle réflexion une symétrie orthogonale par rapport à un hyperplan.

Remarque : Une réflexion est un automorphisme orthogonal de déterminant −1.

Définition 1.4 Soit E un espace vectoriel euclidien et f un automorphisme orthogonal de E. L’ensemble des vecteurs de E
invariants par f est le sous-espace vectoriel F = ker(f − idE )).

Proposition 1.7 Un automorphisme orthogonal dont l’ensemble des vecteurs invariants est un hyperplan
H est la réflexion par rapport à H.

Démonstration : Le sous-espace H ⊥ est une droite vectorielle, la restriction de f à H ⊥ est un automorphisme

orthogonal de H ⊥ , distinct de idH ⊥ (sinon, l’ensemble des vecteurs invariants par f serait E tout entier ), donc
fH ⊥ = −idH ⊥ . Pour tout x ∈ E, x = x1 + x2 avec x1 ∈ H et x2 ∈ H ⊥ , f (x) = x1 − x2 : f est la réflexion par rapport
à l’hyperplan H. u
t

2 Classifications des automorphismes orthogonaux du plan

Lemme 2.1 Soit f un endomorphisme orthogonal de E et F l’ensemble des vecteurs de E invariants par f .
Alors F ⊥ est stable par f .

Démonstration : On a : ∀x ∈ F ⊥ , ∀y ∈ F, (f (x)|y) = (f (x)|f (y)) = (x|y) = 0, donc f (x) ∈ F ⊥ et par conséquent

f (F ⊥ ) ⊂ F ⊥ . u
t

Remarque : La restriction de f à F ⊥ est un automorphisme orthogonal de F ⊥ .

Proposition 2.1 Un automorphisme orthogonal dont l’ensemble des vecteurs invariants est un hyperplan
H est la réflexion par rapport à H.

Démonstration : Le sous-espace H ⊥ est une droite. La restriction de f à H ⊥ est automorphisme orthogonal de

H ⊥ , distinct de idH ⊥ . C’est nécessairement −idH ⊥ . Pour tout x ∈ E se décomposant en x = x1 + x2 avec x1 ∈ H,
x2 ∈ H ⊥ , f (x) = x1 − x2 : f est la réflexion par rapport à l’hyperplan H. u
t

2.1 Automorphismes orthogonaux du plan

Soit E un espace euclidien de dimension 2, f un automorphisme de E. On pose F = ker(f − idE ) l’ensemble des
vecteurs invariants par f .

1er cas : Si dim E = 2, alors F = E, donc f = idE .

Cours de Mathématiques MP 4/8 Rédigé par: [Link]

C HAPITRE 25 A UTOMORPHISMES ORTHOGONAUX

2e cas : Si dim E = 1, alors F est un droite vectorielle, c’est-à-dire un hyperplan de E, f est une réflexion de E
par rapport à la droite F .

3e cas : Si dim E = 0, alors F = {0}. Soit a un vecteur non nul de E et s la réflexion par rapport à la médiatrice
de [a, f (a)]. L’automorphisme s ◦ f laisse a invariant ; comme ce n’est pas l’identité de E, il s’agit d’une réflexion
s0 , donc f = s−1 ◦ s0 = s ◦ s0 . f est la composée de deux réflexions. Pour tout x de E, l’angle orienté (x, f (x)) est le
double de l’angle des axes des deux réflexions c’est une constante θ : f est la rotation vectorielle d’angle θ. ( figure
1. )

θ
−
→
a f (−
→
a)

s s0

F IGURE 1: f = s ◦ s0

D’où le théorème :

Théorème 2.1 Les automorphismes orthogonaux du plan euclidien sont les rotations et les réflexions.

Corollaire 2.1 Les réflexions engendrent O(E).

Démonstration : En effet, toute automorphisme orthogonal du plan est la composée d’au plus deux réflexions.
u
t

2.2 Matrices orthogonales d’ordre 2 : O(2)

Proposition 2.2
1. Les matrices orthogonales de M2 (R) sont de la forme :
   
cos θ − sin θ cos θ sin θ
R(θ) = et S(θ) =
sin θ cos θ sin θ − cos θ
2. Le groupe SO(2) est l’ensemble des matrices R(θ) pour θ ∈ R.

 
a c
Démonstration : 1. Si M = est une matrice orthogonale, alors ses colonnes sont normées, donc a2 + b2 =
b d
c2 + d2 = 1 ce qui preuve l’existence de deux réels θ et ϕ tels que :
(a, b) = (cos θ, sin θ) et (c, d) = (sin ϕ, cos ϕ)
L’orthogonalité des colonnes nous donne alors sin(θ + ϕ) = 0 c’est-à-dire ϕ = −θ[π]. Les matrices orthogonales de
M2 (R) sont donc :
   
cos θ − sin θ cos θ sin θ
et , avec θ ∈ R.
sin θ cos θ sin θ − cos θ
2. C’est une conséquence de det R(θ) = +1 et det S(θ) = −1. u
t

Cours de Mathématiques MP 5/8 Rédigé par: [Link]

C HAPITRE 25 A UTOMORPHISMES ORTHOGONAUX

Remarque :
Proposition 2.3
1. Pour (θ, θ0 ) ∈ R2 , on a : R(θ + θ0 ) = R(θ)R(θ0 ).
2. Le groupe (SO(2), .) est commutatif.
3. L’application : θ −→ R(θ) est un morphisme surjectif de groupe de (R, +) sur (SO(2), .) dont le noyau
est 2πZ.

Démonstration :
1. Il suffit d’effectuer les produits :
cos θ0 − sin θ0 cos(θ + θ0 ) − sin(θ + θ0 )
    
cos θ − sin θ
= .
sin θ cos θ sin θ0 cos θ0 sin(θ + θ0 ) cos(θ + θ0 )
2. On a évidement R(θ)R(θ0 ) = R(θ + θ0 ) = R(θ0 )R(θ).
3. C’est évident et on a :
R(θ) = I2 ⇐⇒ (cos θ, sin θ) = (1, 0) ⇐⇒ θ = 0[2π].
u
t

3 Classifications des automorphismes orthogonaux de l’espace

3.1 Automorphismes orthogonaux de l’espace
Théorème 3.1 Tout automorphisme orthogonal de l’espace est la composée d’au plus trois réflexions,
c’est-à-dire les réflexions engendrent O(E).

Démonstration : Soit E un espace euclidien de dimension 3 orienté et f un automorphisme orthogonal de E.

Posons F = ker(f − idE ) l’ensemble des vecteurs invariants par f .
1. Si dim F = 3, alors F = E et f = idE .
2. Si dim F = 2, F est un plan, c’est-à-dire un hyperplan de E, f est donc la réflexion par rapport à F . Son
déterminant est −1.
3. Si dim F = 1, F est une droite, F ⊥ est un plan, la restriction de f à F ⊥ est un automorphisme orthogonal
de F ⊥ qui n’a pas de vecteurs invariants non nuls : c’est donc une rotation du plan F ⊥ , composée de deux
réflexions d’axe D1 et D2 dans le plan F ⊥ . Donc f est la composée des réflexions de l’espace par rapport au
plans D1 + F et D2 + F . Elle appelée rotation d’axe F . Son déterminant est +1.
4. Si dim F = 0, F = {0}. Soit a un vecteur non nul de E, s la réflexion par rapport au plan médiateur de
[a, f (a)]. L’automorphisme orthogonal s ◦ f laisse fixe a, comme ce n’est pas l’identité ni une réflexion, c’est
nécessairement une rotation, c’est-à-dire la composée de deux réflexions. Donc f est la composée de trois
réflexions ; son déterminant −1.
u
t

3.2 Matrices orthogonales d’ordre 3 : O(3)

D’après l’étude précédente, il existe quatre types d’automorphismes orthogonaux, soit f un tel automorphisme de
E, nous allons donner la matrice de f dans une base orthonormée convenablement choisie.
1. Si f est l’identité, alors la matrice de f une base quelconque est I3 .
2. Si f est la rotation d’axe D = vect(e1 ), avec e1 unitaire, et d’angle θ ( relativement à l’orientation de D par le
vecteur e1 ), on complète e1 en une base orthonormée B = {e1 , e2 , e3 }. La matrice de f dans cette base est
 
1 0 0
A = 0 cos θ − sin θ
0 sin θ cos θ

Cours de Mathématiques MP 6/8 Rédigé par: [Link]

C HAPITRE 25 A UTOMORPHISMES ORTHOGONAUX

3. Si f est la réflexion de plan P , on complète une base orthonormée {e1 , e2 } de P en une base orthonormée
B = {e1 , e2 , e3 } de E. Dans cette base la matrice de f s’écrit :
 
1 0 0
A = 0 1 0 
0 0 −1

4. Si f est la composée de la réflexion de plan P et de la rotation d’axe P ⊥ de vecteur unitaire e1 et d’angle

θ ( relativement à l’orientation de P ⊥ par le vecteur e1 ), on complète e1 en une base orthonormée directe
B = {e1 , e2 , e3 }. La matrice de f dans cette base est :
 
−1 0 0
A =  0 cos θ − sin θ
0 sin θ cos θ

u
t

Remarque : On remarque que

    
−1 0 0 −1 0 0 1 0 0
A =  0 cos θ − sin θ  =  0 1 0 0 cos θ − sin θ
0 sin θ cos θ 0 0 1 0 sin θ cos θ

ce qui permet de voir que f est la composée d’une réflexion et d’une rotation.
Proposition 3.1 Soit f une rotation d’angle θ autour d’un vecteur unitaire →
−
w.
→
− →
−
1. Si x est un vecteur orthogonal à w , on a :

f (→
−
x ) = cos θ→
−
x + sin θ→
−
w ∧→
−
x

2. Si →
−
x est un vecteur unitaire orthogonal à → −
w , on a :
cos θ = →
−
x .f (→
−
x ) et sin θ = det(→
−
x , f (→
−
x ), →
−
w ).

Démonstration : 1. Il suffit de le montrer dans le cas où →

−w est normé. Dans le plan P = [Vect(→ −
w )]⊥ orienté par
→
− →
− →
− →
−
w , on peut compléter x en une base orthonormée { x , y }. Comme la restriction à P de la rotation f est la rotation
d’angle θ, on en déduit :
f (→
−
x ) = cos θ→
−
x + sin θ→
−
y
ce qui donne le résultat, puisque {→
−
x,→
−
y ,→
−
w } étant une base orthonormée directe, on a : →
−
y =→ −
w ∧→ −
x.
2. Conséquence du résultat précédent et de la relation
det(→
−
x , f (→
−
x ), →
−
w ) = det(→
−
w,→
−
x , f (→
−
x )) = (→
−
w ∧→
−
x ).f (→
−
x ).
u
t
Détermination des éléments caractéristiques d’une rotation vectorielle de E.
1. L’axe de rotation est obtenu en résolvant le système AX = X.
2. On détermine θ par :
(a) tr A = 1 + cos θ.
(b) sin θ est du signe du produit mixte [→
−x , f (→
−
x ), →
−
w ] pour n’importe quel vecteur →
−
x non colinéaire à I, où
I est le vecteur normé dirigeant et orientant l’axe de f .

Cours de Mathématiques MP 7/8 Rédigé par: [Link]

C HAPITRE 25 A UTOMORPHISMES ORTHOGONAUX

3.3 Exemples d’applications

1. Soit f l’endomorphisme de R3 dont la matrice dans la base canonique de R3 est
 
−2 −1 2
1
A =  2 −2 1
3
1 2 2

C’est une rotation car ses vecteurs colonnes forment une base orthonormée de R3 et det A = 1.
On détermine l’axe en résolvant le système AX = X, ce qui donne D = Vect(→ −
w ), avec →
−w = √111 (1, 1, 3).
Choisissons un vecteur → −x orthogonal à →
−w , par exemple →−
x = √12 (1, −1, 0), donc f (→
− 1
x ) = 3√ 2
(−1, 4, −1) et
→
−
l’angle de rotation autour de w est donc caractérisé par les relations :
√
cos θ = →
−
x .f (→
−
x) = −5
6et sin θ = det(→
−
x , f (→
−
x ), →
−
w ) = 611 > 0.
Donc f est la rotation d’axe dirigé et orienté par →
−
w = √111 (1, 1, 3) et d’angle θ = arccos(− 56 )[2π].
2.  
−8 4 1
1
A=  4 7 4
9
1 4 −8
On a t AA = I3 , donc A est orthogonale. Comme, de plus, det A = 1, f est une rotation.
t 2
On remarque  A est symétrique, donc AA = A = I3 , donc f est une symétrie.
 que
x 
x=z
Pour X = y , on a : AX = X =⇒ . Finalement, f est le retournement autour de la droite
y = 4z
z
Vect(→
−e ) avec →
−
e = (1, 4, 1).
3. Soit f l’endomorphisme de R3 dont la matrice dans la base canonique de R3 est
 
−2 −1 2
−1 
A= 2 −2 1
3
1 2 2
t
AA = I3 implique A est orthogonal et det A = −1 entraîne A n’est pas symétrique. Don f est la composée
→
−
commutative d’une rotation d’axe D , d’angle θ et de la réflexion par rapport au plan orthogonal à D.
→
− →
−
La résolution du système AX = X donne D = Vect √111 (1, 1, 3) = Vect I .
On a −1 + cos θ = tr A = 23 , donc cos θ = 56 .
→
− − →
→ − −5
De plus, sin θ est du signe de det( i , f ( i ), I ) = 3√ 11
< 0, donc θ = − arccos 65 [2π].
→
− →
− →
−
Finalement, f est la composée commutative de la rotation d’axe dirigé et orienté par i + j + 3 k et d’angle
− arccos 65 [2π] et de la réflexion par rapport au plan d’équation x + y + 3z = 0.

• • • • • • • • ••

Cours de Mathématiques MP 8/8 Rédigé par: [Link]