SYSTEMES A CARACTERISTIQUES SIMPLES
Andrea D’Agnolo Giuseppe Zampieri
Abstract. Let M be a real C
2submanifold of a complex analytic manifold X, and let M be a system of partial differential equations with complex simple characteristics on X. Let Ω ⊂ M be an open subset with C
2boundary S = ∂Ω.
Here, we prove a theorem of microlocal hypoellipticity at the boundary for the solutions of the system M. More precisely, we give a criterion for the vanishing of the cohomology of the complex RHom
DX(M, C
Ω/X) of microfunction at the boundary solutions of the system. This work extends to the case of boundary value problems previous results of [S-K-K], [K-S 2], [D’A-Z 2].
R´ esum´ e. Soit M une sous-vari´ et´ e r´ eelle de classe C
2d’une vari´ et´ e complexe analy- tique X, et soit M un syst` eme d’´ equations diff´ erentielles ` a caract´ eristiques complexes simples dans X. Soit Ω ⊂ M un ouvert ` a bord C
2S = ∂Ω.
On prouve ici un th´ eor` eme d’hypoellipticit´ e microlocale au bord pour les solutions du syst` eme M. Plus precis´ emment, on donne un crit` ere d’annulation de la cohomo- logie pour le complexe RHom
DX(M, C
Ω/X) des microfonctions au bord solutions du syst` eme. Ce travail ´ etend au cas des probl` emes aux limites r´ esultats pr´ ec´ edents de [S-K-K], [K-S 2], [D’A-Z 2].
R´ esum´ e des resultats classiques
Soit M un syst` eme d’´ equations aux d´ eriv´ ees partielles lin´ eaires analytiques ` a ca- ract´ eristiques complexes simples sur une vari´ et´ e analytique r´ eelle M de complexifi´ e X. Dans l’oeuvre classique [S-K-K], Sato, Kawa¨ı et Kashiwara d´ emontrent qu’au voisinage d’un point r´ eel p ∈ char M∩T M ∗ X de la vari´ et´ e caract´ eristique du syst` eme, M se r´ eduit par une transformation de contact quantifi´ ee (pr´ eservant le fibr´ e conor- mal T M ∗ X) aux mod` eles suivants: Cauchy-Riemann, de Rham, Lewy-Mizohata. En outre, ils montrent qu’il y a un lien entre l’annulation de cohomologie du complexe des solutions microfonctions de M et les nombres de valeurs propres positives et n´ egative de la forme de Levi g´ en´ eralis´ ee du syst` eme. Par exemple, l’op´ erateur de Lewy-Mizohata P = D 1 + ix 1 D 2 est hypoelliptique (i.e. injectif en tant que endomorphisme de l’espace des microfonctions) au voisinage du point microlocale p = (0; idx 2 ), tandis qu’il est r´ esoluble (i.e. surjectif) au point p = (0; −idx 2 ).
En utilisant la m´ ethode de [K-S 2], nous montrerons comment ´ etendre ces r´ esultats d’annulation de cohomologie aux solutions microfonctions au bord.
§ 1 Formes de Levi g´ en´ eralis´ ees
Soit X une vari´ et´ e analytique complexe, π : T ∗ X → X son fibr´ e cotangent, α X = α R X + iα R X (resp. σ X = σ X R + iσ X R ) la 1-forme (resp. 2-forme) sur T ∗ X. Notons
Appeared in: Rend. Sem. Mat. Univ. Politec. Torino 51 (1993), no. 4, 413–421 (1994), Partial differential equations, I (Turin, 1993).
1
par X R la vari´ et´ e analytique r´ eelle sous-jacente ` a X, et consid´ erons l’identification T ∗ (X R ) ' (T ∗ X) R obtenue en munisant T ∗ (X R ) de la 1-forme α R X . Soit M une sous-vari´ et´ e C 2 de X R , p ∈ ˙ T M ∗ X un point du fibr´ e conormal ` a M priv´ e de la section nulle. Si φ = 0 est une ´ equation de M au voisinage de x = π(p), telle que d φ(x) = p, on d´ efinit la forme de Levi de M en p par
(1.1) L M (p) = ∂∂φ| TC
x
M ,
o` u T x C M = T x M ∩ iT x M note l’espace vectoriel complexe tangent ` a M .
Soient λ 0 = T p π −1 (x), λ M = T p T M ∗ X, µ = λ M ∩ iλ M (un plan isotrope), et consid´ erons la forme Hermitienne L λM/λ
0 sur λ µ 0 = (λ 0 ∩ µ ⊥ )/µ d´ efinie par
(1.2) L λM/λ
0(v, w) = σ X µ (v, w c ),
o` u σ X µ note la forme symplectique induite par σ X sur µ ⊥ /µ, et w c note le conjugu´ e de w par rapport ` a l’identification µ ⊥ /µ = C ⊗ R λ µ M . D’apr` es [S], [D’A-Z 1] on a une ´ equivalence
L M (p) ∼ L λM/λ
0
en rang et signature, ce qui montre entre outre l’ind´ ependance de (1.1) par rapport au choix de l’´ equation φ.
Notons que la d´ efinition (1.2) garde un sens quand l’on remplace λ M par n’importe quelle Lagrangienne λ de T ∗ X R et λ 0 par n’importe quel plan isotrope complexe ρ de T ∗ X. En particulier, si V ⊂ ˙ T ∗ X est une vari´ et´ e involutive r´ eguli` ere au voisinage de p et ρ = T p V ⊥ , on obtient la forme L λM/ρ qui s’av` ere ˆ etre ´ equivalente ` a la forme de Levi g´ en´ eralis´ ee L T
M∗X (V, p) de Sato, Kawa¨ı et Kashiwara [S-K-K, Def. 2.3.1]
(cf. [K-S 2], [D’A-Z 2]). En effet, soit f i = 0, i = 1, . . . , l un syst` eme d’´ equations ind´ ependantes pour V et supposons que ρ ⊂ λ M + iλ M . Alors L λM/ρ est la forme Hermitienne de matrice {f i , f J c } i,j dans la base H f
i de ρ, o` u {·, ·} note le crochet de Poisson, f j c est la seule fonction holomorphe de T ∗ X telle que f j c | TM∗X = f j | T
M∗X , et H f
i note le champ Hamiltonien.
X = f j | T
M∗X , et H f
inote le champ Hamiltonien.
Exemple. Soient M = R n , X = C n , et V ⊂ T ∗ X l’hypersurface donn´ ee par l’´ equation f = 0. Si f = f R + if I avec f R | T∗
M
X = Re f | T
∗M
X , et f I | T
∗M
X = Im f | T
∗M
X , alors
L T∗
Rn
C
n(V, p) = {f, f c }(p) = −2i{f R , f I }.
En particulier, si V est la vari´ et´ e caract´ eristique de l’op´ erateur de Lewy-Mizohata P = D 1 + ix 1 D 2 et f = σ(P ) = (−iζ 1 ) + iz 1 (−iζ 2 ), alors
{f, f c }(±id x 2 ) = −2i{−iζ 1 , z 1 (−iζ 2 )}(±id x 2 ) = 2iζ 2 (±id x 2 ) = ∓2.
Notations. On note par s ± M (p) (resp. s ± M,V (p)) le nombre de valeurs propres pos- itives et n´ egative de L M (p) (resp. L T∗
M
X (V, p)), et par δ M,V (p) la codimension de ρ ∩ (λ M ∩ iλ M ) dans ρ = (T p V ) ⊥ .
Soient S ⊂ M deux sous-vari´ et´ es C 2 de X R . D’apr` es [D’A-Z 1], [D’A-Z 2], pour p ∈ S × M T ˙ M ∗ X on a les estimations:
s ± S (p) ≤ s ± M (p) ≤ s ± S (p) + cod TC
p
M T p C S, (1.3)
s ± M,V (p) + δ M,V (p) ≤ s ± S,V (p) + δ S,V (p).
(1.4)
§ 2. Enonc´ e du r´ esultat principal
Soient X une vari´ et´ e analytique complexe, S ⊂ M deux sous-vari´ et´ es C 2 de X R , et p ∈ S × M T ˙ M ∗ X un point tel que ip / ∈ T S ∗ X. On note par
γ M (x) = dim C (T M ∗ X x ∩ iT M ∗ X x ) (= dim C (λ M ∩ iλ M ∩ λ 0 ))
le “d´ efaut de g´ en´ ericit´ e” de M en x = π(p). Soit Ω une composante connexe de M \ S au voisinage de x. Suivant [K-S 1] et [S 2], on d´ efinit les complexes
B Ω/X = RΓ Ω (O X ) ⊗ or M/X [cod R X M − γ M (x)], C Ω/X = µ Ω (O X ) ⊗ or M/X [cod R X M − γ M (x)],
des hyperfonctions (resp. microfonctions) le long de Ω au voisinage de x et p res- pectivement. Moyennant le morphisme spectral
π −1 H 0 (B Ω/X ) → H j 0 C Ω/X ,
on d´ efinit d’apr` es [S 2] le micro-support au bord de u ∈ H 0 (B Ω/X ) par SS Ω (u) = supp j(u).
Exemple. Si M est une vari´ et´ e analytique r´ eelle de complexifi´ e X, cette d´ efinition co¨ıncide sur Ω avec celle usuelle de micro-support SS(u) de Sato: SS Ω (u)| π−1Ω = SS(u)| π
−1Ω . On d´ emontre aussi que p / ∈ SS Ω (u) si et seulement si u est somme de valeurs au bord sur M de fonctions holomorphes F i d´ efinies dans des “wedges”
avec propri´ et´ e de cˆ one au bord ∂Ω, dont le “profile” Γ i ⊂ T M X v´ erifie p / ∈ −Γ ◦ i , l’antipodale du polaire de Γ i .
Soit M un syst` eme diff´ erentiel ` a caract´ eristiques simples le long de V = char(M) au voisinage de p ∈ S × M T ˙ M ∗ X. On fera toujours l’hypoth` ese que
(2.1) V ∩ T M ∗ X et V ∩ T S ∗ X sont “clean”.
On note par C Ω/X M = RHom DX(M, C Ω/X ) le complexe des solutions C Ω/X de M, et par B Ω/X M = RHom DX(M, B Ω/X ) celui des solutions B Ω/X .
(M, B Ω/X ) celui des solutions B Ω/X .
Th´ eor` eme 2.1. On a
H j (C Ω/X M ) p pour tout j < s − M + (s − M,V + δ M,V ).
Remarque.
(a) Si M est g´ en´ erique (i.e. γ M = 0) et u = b M (F ) est la valeur au bord sur M d’une fonction holomorphe F d´ efinie dans un “wedge” conique en ∂Ω ` a profile Γ, solution d’un syst` eme M tel que
ou bien s − M (p) ≥ 1 ∀p ∈ −Γ ◦ ,
ou bien s − M,V (p) + δ M,V (p) ≥ 1 ∀p ∈ −Γ ◦ ,
alors F s’´ etend ` a un domaine W dont le cˆ one de Whitney est un voisinage de Ω (e.g. si Ω = {x 1 > 0, x 2 = 0}, alors W ⊃ {|x 2 | < x 1 } pour quelque
<< 1).
(b) Si M est une vari´ et´ e analytique g´ en´ erique de complexifi´ e M C , alors B Ω/X s’identifie au complexe RHom D
M C
(∂ b , Γ Ω B M/MC) des hyperfonctions CR sur Ω, c’est ` a dire aux solutions hyperfonctions du syst` eme ∂ tangentiel.
En particulier
B Ω/X M = B j
−1
M Ω/M
Co` u j : M C → X est l’application lisse induite par l’immersion M ,→ X, et j −1 M note le syst`eme induit sur M C . Nous avons cependant pr´ ef´ er´ e l’´ enonc´ e du Th´ eor` eme 2.1 qui mieux clarifie les contributions s − M et s − M,V + δ M,V de la vari´ et´ e M et du syst` eme M respectivement.
Id´ ee de la preuve du Th´ eor` eme 2.1. Pour Ω = M \ S, on a un triangle distingu´ e (2.2) µ S (O X ) M → µ M (O X ) M → µ Ω (O X ) M +1 → .
D’apr` es [K-S 2], dans la version g´ en´ eralis´ ee de [D’A-Z 2], on peut montrer que H j µ M (O X ) M p pour tout j < c 1M + c 2M ,
H j µ S (O X ) M p pour tout j < c 1S + c 2S , o` u on pose
c 1M = cod X M + s − M − γ M (x), c 2M = s − M,V + δ M,V , et de mˆ eme pour c 1S , c 2S .
Par les estimations (1.3), (1.4) on a c 1S +c 2S ≥ c 1M +c 2M , et donc H j (C Ω/X M ) p = 0 pour tout j < c 1M + c 2M − 1. Il nous reste ` a prouver l’annulation en degr´ e j = c 1M + c 2M − 1, ce que l’on d´ eduit du th´ eor` eme suivant. q.e.d.
Th´ eor` eme 2.2. Supposons
(2.3) c 1M = c 1S ,
c 2M = c 2S .
Alors pour c = c 1M + c 2M = c 1S + c 2S le morphisme naturel (2.4) H c µ S (O X ) M p → H c µ M (O X ) M p est injectif.
Dans la mˆ eme lign´ ee on a aussi
Th´ eor` eme 2.3. Supposons (2.3) et aussi
(2.5) T M ∗ ^ X ∩ V = T S ∗ ^ X ∩ V ,
o` u T M ∗ ^ X ∩ V note la r´ eunion des feuilles bicaract´ eristiques de V issues de T M ∗ X ∩V . Alors
µ S (O X ) M p → µ ∼ M (O X ) M p .
Exemple. Soit M est une vari´ et´ e analytique r´ eelle de complexifi´ e X, M = D X /D X P pour P = D 1 + ix 1 D 2 l’op´ erateur de Lewy-Mizohata. Soit p = (0; idx 2 ), et S = ∂Ω d´ efini par g = 0 avec dg / ∈ Rdx 2 . Alors c 1M = c 1S = n; puisque en outre s − M,V = 1, il en suit
H 0 (C Ω/X M ) p = 0
(cf [T-U] pour le cas g = x 1 ). Donc, au point p l’op´ erateur de Lewy-Mizohata P est hypoelliptique au bord de Ω. Si en plus on choisit g = x 1 , alors V ∩T M ∗ X = V ∩T S ∗ X et δ S,V = 1; donc (2.3), (2.5) sont satisfaites avec c 2M = c 2S = 1, et cela donne
(C Ω/X M ) p = 0.
§3. Id´ ee de la preuve des Th´ eor` emes 2.2 et 2.3.
On choisi une transformation de contact complexe χ telle que
χ(T M ∗ X) = T ∗
M f X, cod R X M = 1, f s −
M f (χ(p)) = 0, χ(T S ∗ X) = T ∗
S e X, cod R X S = 1, e
χ(V ) = X × Y T ∗ Y, pour une application lisse f : X → Y,
D’apr` es [K-S 3, ch. 7], on peut alors quantifier χ avec un noyau K pour obtenir ( φ K (C M ) ' C
M f [c 1M − 1], φ K (C S ) ' C
S e [c 1S − 1 − s −
S e ].
Le foncteur φ K ´ echange le morphisme de restriction C M → C S en un morphisme non nul C
M f [c 1M − 1] → C
S e [c 1S − 1 − s −
S e ]. Mais Hom D
b(X;p) (C
M f [c 1M − 1], C
S e [c 1S − 1 − s −
S e ]) ' H 0 µhom(C
M f , C
S e ) χ(p) [c 1S − c 1M − s −
S e ] ' H 0 RΓ
S e
+(C
M f
+) π(χ(p)) [c 1S − c 1M − s −
S e ], o` u D b (X; p) note la cat´ egorie “microlocale” des faisceaux d´ efinie par [K-S 3], et e S + et f M + notent les demi-espaces ferm´ es ` a bord S et M , et de conormale interne χ(p).
En remarquant que c 1S = c 1M on d´ eduit ( s −
S e = 0, S e + ⊂ f M + .
Soit f π : χ(V ) → T ∗ Y la projection le long des feuilles de χ(V ). Moyennant une nouvelle transformation en T ∗ Y , on peut supposer que
( f π t f 0−1 (T ∗
M f X) = T N ∗ Y, cod R Y N = 1, s − N = 0, f π t f 0−1 (T ∗
S e X) = T Z ∗ Y, cod R Y Z = 1, s − Z = 0.
Soit f ! µ,p le foncteur d’image directe microlocale de [K-S 3, Ch. 6]. D’apr` es [K-S 2], [D’A-Z 2], on a
f ! µ,p C
M f
+[c 1M − 1] = C N+[c 1M + c 2M − 1], f ! µ,p C
S e
+[c 1S − 1] = C Z+[c 1S + c 2S − 1],
avec c jM = c jM =: c j (j = 1, 2). On obtient alors par adjonction µ M (O X ) M p ∼ = RΓ
M f
+(f −1 O Y ) π(χ(p)) [1 − (c 1 + c 2 )]
∼ = RΓ N+(O Y ) π(q) [1 − (c 1 + c 2 )],
pour q = f π (χ(p)). De mˆ eme pour µ S (O X ) M p . En outre, le morphisme H c1+c
2µ S (O X ) M p → H c1+c
2µ M (O X ) M p
+c
2µ M (O X ) M p
induit un morphisme
(3.1) H 1 Z+(O Y ) y → H 1 N+(O Y ) y ,
(O Y ) y ,
pour y = π(q). Pour prouver (2.4) il s’agit donc de prouver que ce dernier mor- phisme est injectif. Ce qui est une cons´ equence de la
Proposition 3.1. Le morphisme f ! µ,p : Hom Db(X;p) (C
M f
+, C
S e
+) −→ Hom Db(Y ;q) (C N
+, C Z+) est un isomorphisme.
) est un isomorphisme.
En effet, cette proposition entraˆıne que N + ⊂ Z + et que le morphisme (3.1) est induit par cette inclusion.
preuve de la Proposition 3.1. On pose M 1 = M , M 2 = S. On doit montrer que le morphisme
“lim”
←−
U 3x
Rf ! C M+
1
∩U −→ “lim”
←−
U 3x
Rf ! C M+
2
∩U
induit par C M+
1
→ C M+
2
est non nul. Pour cela il suffit de prouver que le morphisme induit
(3.2) “lim”
←−
U 3x
Rf ! C M+
1
∩U
y −→ “lim”
←−
U 3x
Rf ! C M+
2
∩U
y
est un isomorphisme.
On choisi un syst` eme de coordonn´ es locales (y, t) sur X et (y) = (y 1 , y 0 ) sur Y , tel que p = (0; d y 1 ), f (y, t) = y, M j = {y 1 = h j (y 0 , t)} avec h j = d h j = 0 sur M j au voisinage de x (j = 1, 2). D` es que (Rf ! C M+
2
∩U ) y ∼ = RΓ c (f −1 (y)∩M 2 + ∩U ; C f
−1(0) ), dans ces coordonn´ es (3.2) se lit
(3.2)’
“lim”
←−
V 30
RΓ c ({V ∩{h 1 (0, t) ≤ 0}; C R2n−2l
t
) −→ “lim” ∼
←−
V 30
RΓ c ({V ∩{h 2 (0, t) ≤ 0}; C R2n−2l
t
), o` u V est un voisinage de 0 dans R 2n−2l t , l = cod C X V . Il est facile de voir que h j (0, t) s’annule ` a l’ordre 2 en 0. L’inclusion M 1 + ⊃ M 2 + implique que h 1 ≥ h 2 . En plus, par l’hypoth` ese (2.3) du Th´ eor` eme 2.2, on s’aper¸ coit que Hess t h 1 (0, t) et Hess t h 2 (0, t) ont le mˆ eme nombre de valeurs propres positives. L’injectivit´ e de (3.2)’ d´ ecoule alors de la proposition suivante pour m = 2n − 2l, h j (t) = h j (0, t), T = R m . q.e.d.
Pour h j : T → R (j = 1, 2) et δ, ε > 0, soit Z j = {t ∈ T ; h j (t) ≤ 0}
B δ,ε = {t ∈ T ; |u| < ε |v, w| < δε}.
Proposition 3.2. Supposons
(a) h 1 et h 2 nulle ` a l’ordre 2 en 0, (b) h 1 ≥ h 2 ,
(c) Hess h 1 et Hess h 2 ont le mˆ eme nombre s + de valeurs propres positives.
Soit d = m − s + . Alors il existe δ > 0 tel que pour tout 0 < ε << 1 (i) RΓ c (Z j ∩ B δ,ε ; C T ) ∼ = A[d],
(ii) le morphisme
RΓ c (Z 1 ∩ B δ,ε ; C T ) −→ RΓ c (Z 2 ∩ B δ,ε ; C T )
induit par le morphisme de restriction C Z1 → C Z2 est un isomorphisme.
est un isomorphisme.
Preuve. On choisi un syst` eme de coordonn´ ees locales (t) = (u, v, w) sur T avec (u) = (u 1 , . . . , u s+), (v) = (v 1 , . . . , v s−) tel que au voisinage de 0:
) tel que au voisinage de 0:
h 1 (t) = Q 1 (u) − v 2 + O(u)O(v) + O(|u| 3 ) + O(|v| 3 ), (3.3)
h 2 (t) = u 2 − [v 2 + Q 2 (v, w)] − R 2 (v, w) + O(u)O(v, w) + O(|u| 3 ) + O(|v| 3 ), (3.4)
o` u Q 1 , Q 2 sont des formes quadratiques avec Q 1 > 0, Q 2 ≥ 0 et 0 ≤ R 2 (v, w) = O(w)O(v, w) (cf [D’A-Z 4]).
Alors pour quelque 0 < δ < 1 les petites racines des ´ equations h 1 (u, v, w) = 0 et h 2 (u, v, w) = 0 satisfont
δ|u| ≤ |v, w|.
Soit a T : T → {0} la projection. On se rappelle que
(3.5) RΓ c (Z j ∩ B δ,ε ; C T ) ∼ = Ra T ! C Zj∩B
δ,ε. Factorisons a T moyennant
T −→ V q −→ {0}, aV
o` u q est la restriction ` a T de la projection R m u,v,w → R d v,w , et V = q(T ) (on peut supposer T = B a,b pour quelque a, b > 0). Si l’on prouve que pour 0 < ε << 1,
|v, w| < ε, l’ensemble q −1 (v, w) ∩ Z j ∩ B δ,ε est (non vide) compact et contractile, alors
Rq ! C Zj∩B
δ,ε ∼ = C B0δ,ε,
,
o` u B δ,ε 0 = q(B δ,ε ) = {(v, w); |v, w| < δε}. D` es que Ra T ! = Ra V ! ◦ Rq ! et Ra V ! C B0
δ,ε
∼ = A[d], par (3.5) l’assertion (i) s’en suit.
Prouvons que q −1 (v, w) ∩ Z j ∩ B δ,ε est compact et contractile. Pour u ◦ ∈ R s u+, λ > 0, soit u = λu ◦ . En prenant par exemple j = 1, on a h 1 (λu ◦ , v) = 0 si et seulement si
[1 + O(λ)]λ 2 + aλ − [v 2 + O(|v| 3 )] = 0
qui admet deux petites racines λ, le discriminant ´ etant positif. Cela prouve (i).
Remarquons que (Rq ! C Zj∩B
δ,ε) (v,w) = RΓ c (C (v,w) j ; C Rm−d
u
) pour C (v,w) j = q −1 (v, w)∩
Z j ∩B δ,ε . Par le mˆ eme argument comme avant, pour prouver (ii) il suffit de montrer que le morphisme
RΓ c (C (v,w) 1 ; C Rm−d
u
) −→ RΓ c (C (v,w) 2 ; C Rm−d
u
) induit par le morphisme de restriction C C1
(v,w)
→ C C2
(v,w)