La transform´ ee de Radon-Penrose des D-modules

La transform´ ee de Radon-Penrose des D-modules

Andrea D’Agnolo Pierre Schapira

R´esum´e Soit Z ←−

g Y −→

f X une correspondance de vari´et´es analytiques complexes avec g lisse, f propre, et (g, f ) une immersion ferm´ee. Pour F un faisceau sur X et N un DZ-module coh´erent, on pose PF = Rg_!f⁻¹F, PN = f_!g⁻¹N . On d´emontre la formule d’adjonction:

RHom_DZ(N ⊗ PF, OZ) ' RHom_DX(PN ⊗ F, OX)[d]

pour un d´ecalage [d] li´e aux dimensions. Sous des hypoth`eses g´eom´etriques satisfaites en particulier dans la correspondance des twisteurs de Pen- rose, on montre que la transformation P ´etablit une ´equivalence de cat´egories entre D_Z-modules coh´erents, modulo connexions plates, et DX-modules coh´erents r´egulier singulier le long d’une vari´et´e involu- tive V , modulo connexions plates.

Abstract

The Radon-Penrose transform for D-modules. Let Z ←−

g

Y −→

f X be a correspondence of complex analytic manifolds with g smooth, f proper, and (g, f ) a closed embedding. For F a sheaf on X and N a coherent DZ-module, we set PF = Rg_!f⁻¹F, PN = f_!g⁻¹N . We prove the adjunction formula:

RHom_DZ(N ⊗ PF, OZ) ' RHom_DX(PN ⊗ F, OX)[d]

for a shift [d] given by the dimensions. Under a geometrical hypothesis, which is in particular satisfied in the case of the Penrose’s twistor correspondence, we show that the transformation P establishes an equivalence of categories between coherent DZ-modules, modulo flat connections, and coherent DX-modules with regular singularities along an involutive manifold V , modulo flat connections.

Appeared in: C. R. Acad. Sci. Paris S´er. I Math. 319 (1994), no. 5, 461–466.

Version abr´eg´ee en anglais Let Z ←−

g Y −→

f X be a correspondence of complex analytic manifolds.

We shall assume:

 g is smooth and f is proper,

(g, f ) is a closed embedding. (0.1) For H a sheaf on Z (more generally, an object of the derived category), we set

PH = Rf_!g⁻¹(H).

Let DZdenote the sheaf of rings of differential operators on Z, and let N be a left DZ-module (more generally, an object of the derived category). Denoting by dX the complex dimension of X, we set

PN = f

!g⁻¹N , PN = fe

∗g⁻¹N [d_X − d_Z].

Denote by D^b_good(DZ) the triangulated subcategory of D^b_coh(DZ) generated by the DZ-modules that admit good filtrations in a neighborhood of any compact subset (cf [11] for a precise definition).

Proposition 0.1. Assume (0.1). Let N ∈ D^b_good(DZ), F ∈ D^b(X). Then, for d = dX + dY − 2dZ, there is a canonical isomorphism:

RHom_DZ(N ⊗ PF, OZ) ' RHom_DX(PN ⊗ F, OX)[d].

Consider the correspondence ˙T^∗Z ←−

p^a₁|_Λ Λ −→

p₂|_Λ

T˙^∗X, where p1 and p2

denote the projections from T^∗(Z × X) to T^∗Z and T^∗X respectively, and where Λ = T_Y^∗(Z × X) ∩ ( ˙T^∗Z × ˙T^∗X) is the conormal bundle to Y with the zero-sections removed. We assume

 p2|Λ induces an isomorphism Λ ' V ⊂ ˙T^∗X, where V

is a closed smooth involutive regular submanifold. (0.2) Proposition 0.2. Assume (0.1), (0.2). Let N ∈ D^b_good(DZ). Then H⁰(PN ) is a coherent DX-module with regular singularities along V (in the sense of [7]), and for j 6= 0, the characteristic variety of H^j(PN ) is contained in T_X^∗X.

Now we assume (0.1), (0.2), and:





f is smooth and g is proper,

p^a₁|Λ is smooth and surjective on ˙T^∗Z,

the fibers of g are connected and simply connected.

(0.3)

We denote by D^b_good(DZ; OZ) the localization of D^b_good(DZ) with respect to the full triangulated subcategory {N ∈ D^b_good(DZ); char(N ) ⊂ T_Z^∗Z}, and by Mod_good(DZ; OZ) the heart of D^b_good(DZ; OZ) for the natural t-structure.

We similarly define D^b_{RS(V )}(DX; OX) starting with D^b_{RS(V )}(DX), the full tri- angulated subcategory of D^b_good(DX) whose objects have regular singularities along V .

The composite H⁰◦ P defines a functor:

P⁰ : Mod_good(DZ; OZ) −→ Mod_{RS(V )}(DX; OX), and we similarly define:

Pf⁰ : ModRS(V )(DX; OX) −→ Modgood(DZ; OZ).

Theorem 0.3. Assuming (0.1)–(0.3), the functors P⁰ and fP⁰ are equiva- lences of categories inverse to each other.

Example 0.4. The geometrical hypotheses (0.1)–(0.3) are satisfied by cor- respondences of flag manifolds, such as projective duality (cf [1]) or the twistor correspondence of [3]. In particular, in the twistor correspondence Theorem 0.3 shows that any coherent D-module on the four-dimensional Minkowski space with regular singularities along V , the characteristic vari- ety of the wave equation, is the unique transform of a coherent D-module on the three-dimensional projective space, up to flat connections.

1 Notations

Nous suivrons les notations de [8]. En particulier, D^b(X) d´esigne la cat´egorie d´eriv´ee de la cat´egorie des complexes born´es de faisceaux de C-espaces vec- toriels sur une vari´et´e X, et f⁻¹, f^!, Rf∗, Rf!, ⊗ et RHom(·, ·) les “six op´erations” usuelles de th´eorie des faisceaux. Rappelons que RHom(·, ·) ' RΓ(X; RHom(·, ·)).

Dans cette note, toutes les vari´et´es et tous les morphismes de vari´et´es sont analytiques complexes. Les vari´et´es sont en particulier orient´ees. Si X est une vari´et´e, on note dX sa dimension sur C. On d´esigne par π : T^∗X −→ X son fibr´e cotangent, T_X^∗X la section nulle, et ˙T^∗X = T^∗X \ T_X^∗X.

Sur une vari´et´e X, on note DX le faisceau des op´erateurs diff´erentiels d’ordre fini, et on renvoie `a [6], [10] pour la th´eorie des D-modules.

On note Modcoh(DX) la sous-cat´egorie des DX-modules `a gauche coh´erents et Modgood(DX) la sous-cat´egorie ´epaisse de Modcoh(DX) form´ee des objets admettant au voisinage de tout compact une filtration finie dont le gradu´e

soit muni d’une bonne filtration. On note D^b(DX) la cat´egorie d´eriv´ee de Mod(DX), D^b_good(DX) la sous-cat´egorie pleine form´ee des objets `a cohomolo- gie born´ee et “good”. On note f⁻¹, f

∗, et f

! les op´erations d’image inverse, image directe, et image directe propre des D-modules.

Utilisant la notion due `a [7] de module r´egulier singulier (R-S en abr´eg´e) le long d’une vari´et´e involutive (localement ferm´ee) V de T^∗X, on note ModRS(V )(DX) la sous-cat´egorie ´epaisse de Modgood(DX) form´ee de tels mod- ules.

2 Formule d’adjonction pour les correspon- dances

Soit

Z ←−g Y −→

f X

une correspondance de vari´et´es analytiques complexes.

D´efinition 2.1. Soient H ∈ D^b(Z) et N ∈ D^b(DZ). Nous posons:

PH = Rf!g⁻¹(H), PH = Rfe ∗g^!(H), PN = f

!g⁻¹N , PN = fe

∗g⁻¹N [d_X − d_Z],

et nous d´efinissons de la mˆeme fa¸con PF , ePF , PL et ePL pour F ∈ D^b(X), L ∈ D^b(DX).

On fait les hypoth`eses:





g est lisse, f est propre,

(g, f ) est une immersion ferm´ee.

(2.1) En utilisant des formules classiques en th´eorie des D-modules (cf. [11]), on obtient:

Proposition 2.2. On suppose (2.1). Soit L ∈ D^b(DX) et N ∈ D^b_good(DZ).

Alors PN ∈ D^b_good(DX), et on a les isomorphismes:

RHom_DZ(N , ePL) ' RHom_DX(PN , L),

PRHom_DZ(N , OZ) ' RHom_DX(PN , OX)[−dY + dX].

En combinant cette proposition avec les formules d’adjonction de la th´eorie des faisceaux (dualit´e de Poincar´e-Verdier), on obtient:

Proposition 2.3. On suppose (2.1). Soit N ∈ D^b_good(DZ), F ∈ D^b(X). On a alors un isomorphisme canonique:

RHom_DZ(N ⊗ PF, OZ) ' RHom_DX(PN ⊗ F, OX)[d], avec d = dX + dY − 2dZ.

Pour x ∈ X, U ⊂ X, et z ∈ Z, on note:

b

x = g(f⁻¹(x)), U = g(fb ⁻¹(U )), bz = f (g⁻¹(z)).

Corollaire 2.4. On fait les hypoth`eses de la Proposition 2.3.

(i) [Formule du germe] Pour x ∈ X, on a l’isomorphisme:

RΓ(bx; RHom_DZ(N , OZ)) ' RHom_DX(PN , OX)x[−dY + dX].

(ii) [Solutions holomorphes] Soit U ⊂ X un sous-ensemble ouvert tel que:

U ∩ bz soit contractile pour tout z ∈ bU . (2.2) Alors on a l’isomorphisme:

RΓ( bU ; RHom_DZ(N , OZ)) ' RΓ(U ; RHom_DX(PN , OX))[−dY + dX].

3 Th´ eor` emes d’annulation

On fait l’hypoth`ese (2.1), on note

Λ = T_Y^∗(Z × X) ∩ ( ˙T^∗Z × ˙T^∗X), et on consid`ere la correspondance:

T˙^∗Z ←−

p^a₁|_Λ Λ −→

p₂|_Λ

T˙^∗X, (3.1)

o`u on d´esigne par p₁, p₂les projections d´efinie sur T^∗(Z ×X) ' T^∗Z ×T^∗X, et par p^a₁ la compos´e de p1 avec l’application antipodale de T^∗Z. On supposera:

 p2|Λ induit un isomorphisme Λ ' V ⊂ ˙T^∗X, o`u V

est une sous-vari´et´e lisse involutive r´eguli`ere. (3.2) Proposition 3.1. On suppose (2.1), (3.2). Soit N ∈ D^b_good(DZ). Alors:

(i) H⁰(PN ) est un DX-module coh´erent r´egulier singulier le long de V ,

(ii) pour j 6= 0, la vari´et´e caract´eristique de H^j(PN ) est contenue dans T_X^∗X.

La d´emonstration est bas´ee sur le fait que la transformation P “commute”

`a la microlocalisation (cf. [5] pour le cas projectif, [11] pour le cas g´en´eral).

Soit G un OZ-module localement libre de rang fini, et posons:

G^∗ = Hom_OZ(G, OZ), DG = D_Z⊗_O

Z G.

Corollaire 3.2. Sous les hypoth`eses pr´ec´edentes, P(DG) est concentr´e en degr´e ≥ 0. Il est concentr´e en degr´e z´ero si et seulement s’il existe x ∈ X (X ´etant connexe) tel que

H^j(bx; G^∗) = 0 pour tout j < dY − dX.

4 Equivalence de cat´ egories

On note par D^b_good(DZ; OZ) la cat´egorie localis´ee de D^b_good(DZ) par la sous- cat´egorie pleine triangul´ee:

NZ = {N ∈ D^b_good(DZ); char(N ) ⊂ T_Z^∗Z},

et par Modgood(DZ; OZ) le coeur de D^b_good(DZ; OZ) pour la t-structure na- turelle. On d´efinit de mˆeme NX, D^b_{RS(V )}(DX; OX) et ModRS(V )(DX; OX).

Comme P envoie les objets de NZ dans NX, ce foncteur “passe au quo- tient” et, par composition avec H⁰(·), il d´efinit un foncteur:

P⁰ : Modgood(DZ; OZ) −→ ModRS(V )(DX; OX).

On d´efinit de mˆeme:

Pf⁰ : Mod_{RS(V )}(DX; OX) −→ Mod_good(DZ; OZ).

Dans cette section nous ferons les hypoth`eses suivantes:

















a) f et g sont lisses et propres, b) (g, f ) est une immersion ferm´ee,

c) p2|Λ induit un isomorphisme Λ ' V ⊂ ˙T^∗X, o`u V est une sous-vari´et´e lisse involutive r´eguli`ere ferm´ee de ˙T^∗X, et p^a₁|_Λ est lisse et surjective sur ˙T^∗Z

d) les fibres de g sont connexes et simplement connexes.

(4.1)

Th´eor`eme 4.1. Sous les hypoth`eses (4.1), les foncteurs P⁰ et fP⁰ sont des

´equivalences de cat´egories inverses l’une de l’autre.

Esquisse de d´emonstration: La preuve est l`a encore bas´ee sur le fait que la transformation P commute `a la microlocalisation. L’hypoth`ese (4.1) d) permet de se ramener `a un probl`eme local sur Λ, et apr`es transformation canonique, la correspondance 3.1 se r´eduit `a:

Λ⁰× T_S^∗S

zzuuuuuuuuuu

''N NN NN NN NN NN

UZ U_Z⁰ × T_S^∗S,

o`u Λ<sup>0</sup> est le graphe d’une transformation canonique UZ ' U<sub>Z</sub><sup>0</sup> . Tout mod- ule (microdiff´erentiel) R-S sur V est alors localement isomorphe `a L⁰ × OS, avec L⁰ coh´erent sur U_Z⁰ . On est donc ramen´e `a la situation classique des transformations canoniques quantifi´ees trait´ee par [9]. q.e.d.

Remarque 4.2. Des r´esultats analogues `a ceux de la Proposition 3.1 (ii) et du Th´eor`eme 4.1 avaient ´et´e obtenus par Brylinski [1] dans le cadre des faisceaux pervers.

5 Application: la correspondance de Penrose

Soit TT un espace vectoriel complexe de dimension 4, IF = F12(TT) sa vari´et´e des drapeaux de type (1, 2), IP = F₁(TT) l’espace projectif de dimension 3, et IM = F2(TT) la grassmannienne des sous-espaces de dimension 2, identifi´ee

`a une compactification conforme du complexifi´e de l’espace de Minkowski.

La transformation de Penrose est une transformation int´egrale associ´ee `a la correspondance:

IP ←−

g IF −→

f IM, (5.1)

o`u g et f d´esignent les projections naturelles. On v´erifie ais´ement que les hypoth`eses 4.1 sont satisfaites, V ⊂ ˙T^∗IM n’´etant autre que la vari´et´e car- act´eristique de l’´equation des ondes.

Appliquant le Th´eor`eme 4.1, on obtient que tout DIM-module R-S sur V est (modulo connexions plates) le transform´e par P d’un unique DIP-module coh´erent.

Soit h l’´equation de champs de masse z´ero d’h´elicit´e h sur IM, suivant la terminologie de [3] (en particulier 0 d´esigne l’´equation des ondes), et no- tons par Lh le DIM-module associ´e. Notons par OIP(k) la −k-i`eme puissance tensorielle du fibr´e tautologique sur IP, et posons DIP(k) = DIP⊗_O

IP OIP(k).

Proposition 5.1. (i) Le complexe PDIP(−k) est concentr´e en degr´e z´ero si et seulement si k < 0.

(ii) Pour k < 0, posant h(k) = −(1+k/2), on a un isomorphisme PDIP(−k) ' L_h(k)

Le point (i) r´esulte du Corollaire 3.2. Le point (ii) est demontr´e implicite- ment dans [3].

Soit U ⊂ IM un ouvert tel que

U ∩ bz soit contractile pour tout z ∈ bU . (5.2) Pour k < 0, appliquant le Corollaire 2.4 (ii) avec N = PDIP(−k), on obtient que le morphisme naturel associ´e `a (5.1) qui a une 1−forme associe l’int´egrale dans les fibres de f de son image inverse par g, d´efinit un isomorphisme:

P : H¹( bU ; OIP(k)) −→ ker(U ; h(k)).

C’est le r´esultat de Eastwood, Penrose et Wells [3].

On peut aussi retrouver le Th´eor`eme 6.1 de [12]. Soit φ une forme Hermitienne sur TT de signature (+, +, −, −). La sous-vari´et´e compacte et compl`etement r´eelle de IM:

M = {L₂ ∈ IM; φ(v) = 0 ∀v ∈ L₂},

est une compactification conforme de l’espace de Minkowski. On consid`ere aussi:

F = {(L1, L2) ∈ IF; φ(v) = 0 ∀v ∈ L2}, P = {L1 ∈ IP; φ(v) = 0 ∀v ∈ L₁},

et on remarque avec [12] que P ' S² × S³ est une hypersurface r´eelle de IP, et que eg : F −→ P est un fibr´e en cercles (i.e. localement isomorphe `a P × S¹ −→ P ).

On note BM = RHom(D⁰_IMC_M, OIM) le faisceau des hyperfonctions de Sato sur M , o`u D_IM⁰ C_M = RHom(CM, C_IM). La Proposition 2.3, avec K = C_M, N = DIP(−k), donne alors l’isomorphisme pour k < 0:

H_P²(IP; O_IP(k))−→ Hom^∼ _D

IM(PD_IP(−k), BM).

R´ ef´ erences bibliographiques

[1] J. L. Brylinski. Transformations canoniques, Dualit´e projective, Th´eorie de Lefschetz, Transformations de Fourier et sommes trigonom´etriques.

Ast´erisque, 140-141 (1986) p. 3–134.

[2] A. D’Agnolo et P. Schapira. Correspondance de D-modules et transfor- mation de Penrose. S´em. Eq. D´er. Part. Publ. Ec. Polyt., 1992/1993.

Exp. XXI, et article `a paraˆıtre.

[3] M. G. Eastwood, R. Penrose, et R. O. Jr. Wells. Cohomolgy and massless fields. Comm. Math. Phys., 78 (1981) p. 305–351.

[4] V. Guillemin et S. Sternberg. Some problems in integral geometry and some related problems in micro-local analysis. American J. of Math., 101 (1979) p. 915–955.

[5] M. Kashiwara. b-functions and holonomic systems. Invent. Math., 38 (1976) p. 33–53.

[6] M. Kashiwara. Systems of microdifferential equations. Progress in Math- ematics 34. Birkh¨auser (1983).

[7] M. Kashiwara et T. Oshima. Systems of differential equations with regu- lar singularities and their boundary value problems. Ann. of Math., 106 (1977) p. 145–200.

[8] M. Kashiwara et P. Schapira. Sheaves on manifolds. Springer-Verlag 292 (1990).

[9] M. Sato, T. Kawai, et M. Kashiwara. Hyperfunctions and pseudo- differential equations. In: Hyperfunctions and Pseudo-Differential Equa- tions, H. Komatsu, editor. LNM 287 Springer-Verlag (1973) p. 265–529.

[10] P. Schapira. Microdifferential systems in the complex domain. Springer- Verlag 269 (1985).

[11] P. Schapira et J.-P. Schneiders. Elliptic pairs I. Relative finiteness and duality. Preprint 937, Kyoto University (1993), et article `a paraˆıtre.

[12] R. O. Wells Jr., Hyperfunction solutions of the zero-rest-mass field equa- tions. Commun. Math. Phys. 78 (1981) p. 567–600.

A. D’Agnolo, P. Schapira Math´ematiques

Tour 46-0, 5^`eme ´etage, Boˆıte 172 Universit´e Paris VI

4, place Jussieu 75252 Paris Cedex 05 FRANCE