Soit H ⊆ GLn(R) un sous-groupe fermé

1. Théorème de Cartan

On notera gl_n(R) = Mⁿ(R) selon le contexte.

Lemme 1.1. — Soit H ⊆ GL_n(R) un sous-groupe fermé. Alors, h =X ∈ gl_n(R) : ∀t ∈ R, e^t·X ∈ H ,

est un sous-espace vectoriel de gl_n(R). On l’appelle l’algèbre de Lie du groupe H.

Théorème 1.2. — Un sous-groupe fermé H ⊆ GL_n(R) est une sous-variété de Mn(R).

Démonstration. — Soit m ⊆ gl_n(R) un supplémentaire de h dans gln(R). On considère l’application, ϕ : h ⊕ m −→ GLn(R), X + Y 7→ e^Xe^Y.

Alors ϕ : gl_n(R) → GLn(R) est de classe C^∞ et vérifie ϕ(0) = I_n, (dϕ)₀ = I_n. D’après le théorème d’inversion locale, il existe un voisinage U ⊆ gl_n(R) de X = 0 et un voisinage V ⊆ GLn(R) de In tel que la restriction ϕU réalise un C¹-difféomorphisme U ' V . Par définition de l’algèbre de Lie h, on a ϕU(h) ⊆ H donc ϕU(h ∩ U ) ⊆ H ∩ V . Il s’agit maintenant de restreindre U et V de sorte que l’égalité ait lieu. Notons que si h ∈ H ∩ V , il existe un unique X + Y ∈ U tel que e^Xe^Y = h, donc par conséquent e^Y = e^−Xh est un élément de H. D’où l’intérêt du lemme suivant.

Lemme 1.3. — Soit A0 =Y ∈ m : e^Y ∈ H . Alors {0} est isolé dans A0, c’est à dire qu’il existe un ouvert W ⊆ gl_n(R) tel que A⁰∩ W = {0}.

Démonstration. — Supposons que ce ne soit pas le cas. Il existe alors une suite {Yk}_k d’éléments non nuls de A0 telle que limk→∞Yk = 0 avec hk = exp(Yn_k) dans H. Considérons alors αk= Yk/ kYkk. Par compacité de la sphère unité de m, il existe α ∈ m tel que kαk = 1 et une sous-suite {αn_k} telle que limk→∞α_nk= α. On va montrer que α ∈ h et ainsi conclure (car α = 0 et kαk = 1 sont contradictoires).

Soit t ∈ R et posons t kYⁿkk⁻¹= νk+ µk avec νk∈ Z et |µk| < 1/2, de sorte que αn_kt = νkYn_k+ µkYn_k. On a alors, puisque νkYn_k et µkYn_k commutent,

e^αt = lim

k→∞e^νkYnke^µkYnk.

Mais limk→∞exp(µkYn_k) = In car {µk} est bornée et que Yn_k converge vers Y = 0. En particulier, l’élément gk = exp(νkYn_k) converge vers un élément g ∈ GLn(R). Mais puisque ν^k ∈ Z et que gk= h^k_n

k, on a gk∈ H pour tout k et puisque H est fermé, on a g ∈ H. Celà conclut puisque g = e^αt.

Il ne reste plus qu’à choisir U⁰= U ∩ W et V⁰= ϕ(U⁰). D’après les remarques précédentes, on a bien ϕ(h ∩ U⁰) = H ∩ V⁰. On transporte cette structure en tout point h ∈ H puisque les translations par des éléments de H sont des difféomorphismes.

1