Une interpr´etation cohomologique de la condition de Radon-Cavalieri

Une interpr´etation cohomologique de la condition de Radon-Cavalieri

Andrea D’Agnolo

R´esum´e : Dans cette Note, nous appliquons les m´ethodes des transformations int´egrales pour les faisceaux et les D-modules `a l’´etude de la transform´ee de Radon affine r´eelle. Classiquement, on obtient la “condition de Cavalieri” en utilisant la formule d’inversion pour la transform´ee de Fourier. Notre approche est diff´erente, et montre comment cette condition, li´ee `a la transform´ee de Radon projective complexe, est de nature g´eom´etrique (ou cohomologique).

A cohomological interpretation of Radon-Cavalieri condition Abstract: In this note, we apply the methods of integral transforms for sheaves and D-modules to the study of the real affine Radon transform. Classically, “Cav- alieri condition” is obtained using the inversion formula for the Fourier transform.

Our approach is different, and shows how this condition, related to the complex projective Radon transform, is of a geometrical (or cohomological) nature.

1991 AMS Mathematics Subject Classification: 44A12, 32L25, 35C15

Abridged English Version

Let P be a complex n-dimensional projective space, P^∗ the dual projective space, and denote by [z], [ζ] dual systems of homogeneous coordinates. As- sume n > 2 for simplicity. Let A ⊂ P × P^∗ be the incidence relation defined by the equation hz, ζi = 0. Let L = C_(P×P^∗_)\A be the sheaf on P × P^∗ which is constant with fiber C on (P × P^∗) \ A and zero elsewhere. Denote by D^b_R−c(C_P) the (bounded) derived category of sheaves of C-vector spaces on P with R-constructible cohomology groups. For F ∈ D^b_R−c(C_P), set

F ◦ L = Rq_2!(q₁⁻¹F ⊗ L), where X ←−

q1

X × Y −→

q2

Y are the natural projections, and Rq_2!, q₁⁻¹ denote the operations of proper direct image and inverse image for sheaves. For

Appeared in: C. R. Acad. Sci. Paris S´er. I Math. 324 (1997), no. 1, 19–24.

k ∈ Z, set k^∗ = −n − 1 − k, and denote by O_P(k) the −k-th tensor power of the tautological line bundle on P. By [3, Corollary 4.5], for −n − 1 < k < 0 there is a natural isomorphism:

RΓ(P; F ⊗ O^w _P(k))−→ RΓ(P^{∼ ∗}; (F ◦ L)⊗ O^w _P^∗(k^∗))[n], (1) where ⊗ denotes the functor of formal cohomology introduced in [10].^w

Let P and P^∗ be real n-dimensional projective spaces of which P and P^∗ are linear complexifications. There are essentially two locally constant sheaves of rank one on P , here denoted by CP(ε) for ε ∈ Z/2Z (with CP(0) being the constant sheaf). For k ∈ Z, the complex CP(ε)⊗O^w _P(k) is identified to C_P^∞(ε|k). This is the C^∞-line bundle on P whose sections, written in homogeneous coordinates, satisfy the relation:

f (λx) = (sgn λ)^ελ^kf (x) ∀λ ∈ R \ {0}.

As it is well-known (cf e.g., [4, page 73]) the real projective Radon transform R^(ε|k)_P of Definition 1.1 is an isomorphism for −n − 1 < k < 0. In [3], we recovered this result as a corollary of formula (1) for F = CP(ε), by checking that CP(ε) ◦ L is isomorphic to CP^∗(ε^∗)[−n], up to constant sheaves on P^∗.

Let E = P \ H be an affine chart. The Schwartz space S(E) of rapidly decreasing C^∞-functions is naturally identified to Γ(P; CE

⊗ Ow _P(k)). Denote by ξ_◦ ∈ P^∗ the point corresponding to H ⊂ P . For −n − 1 < k < 0 and ε^∗ ≡ 1, the image of S(E) by R^(ε|k)_P is the set of sections of C_P^∞∗(ε^∗|k^∗), which are flat at ξ◦, and which satisfy the Cavalieri condition: for any non-negative integer m and for any ξ⁰, the integral:

c^(0|m)_ξ◦ ϕ(ξ⁰) = Z +∞

−∞

ϕ(sξ◦+ ξ⁰)s^mds is a homogeneous polynomial of degree m + k^∗ + 1 in ξ⁰.

Classically (cf e.g., [4, page 86]), the proof of this statement makes use of the inversion formula for the Fourier transform. Here, we recover this result, in a projectively invariant manner, as a corollary of formula (1) for F = CE. More precisely, the embedding H ,→ P induces by duality a projection P^∗\{ξ◦} −→ H^∗, where H^∗is an (n−1)-dimensional real projective space. Denote by q : P^∗ \ {ξ_◦} −→ H^∗ a complexification of this projection, and set Q^∗ = q⁻¹(H^∗). An explicit computation shows that, modulo constant sheaves on P^∗, there is a distinguished triangle:

C_E ◦ L −→ CP^∗\{ξ◦}(1)[−n] −→ C_Q∗[1 − n] −→

+1 .

Using this distinguished triangle to compute the r.h.s. of (1), we see in par- ticular how Cavalieri condition is of a geometrical nature, the integrals being taken along lines whose complexifications are the fibers of q. By the Legen- dre contact transformation, these lines correspond to the complex conormal directions to H in P.

1 Enonc´ ´ e des r´ esultats

Soit P un espace projectif r´eel de dimension n, P^∗ l’espace projectif dual, et [x] = [x₀, . . . , xn], [ξ] des syst`emes de coordonn´ees homog`enes duaux sur P et P^∗ respectivement. Pour k ∈ Z, ε ∈ Z/2Z, notons C_P^∞(ε|k) le fibr´e en droites de classe C^∞ dont les sections satisfont la relation :

f (λx) = (sgn λ)^ελ^kf (x) ∀λ ∈ R \ {0}. (2) Consid´erons la distribution sur R :

δ^(ε|k)(t) = 1 2πi

d^k dt^k

 1

t − i0− (−1)^ε t + i0

 .

D´efinition 1.1. Pour k^∗ = −n − 1 − k, ε^∗ ≡ −n − 1 − ε, on consid`ere la transformation int´egrale :

R^(ε|k)_P : Γ(P ; C_P^∞(ε|k)) −→ Γ(P^∗; C_P^∞∗(ε^∗|k^∗)) f (x) 7→

Z

f (x)δ^(n+ε|n+k)(hx, ξi)ω(x),

o`u ω(x) =Pn

j=0(−1)^jxjdx₀∧· · ·∧ cdxj∧· · ·∧dxn d´esigne la n-forme de Leray.

Le r´esultat suivant est bien connu (cf e.g., [4, page 73]) :

Th´eor`eme 1.2. Pour −n − 1 < k < 0, R^(ε|k)_P est un isomorphisme, l’inverse

´etant donn´ee par R^(ε_P∗^∗|k∗) .

Remarquons que R_P^(−n|−n) co¨ıncide avec la transform´ee de Radon projec- tive. Pour U ⊂ P ouvert sous-analytique, on note par Γ_w(U ; C_P^∞(ε|k)) le sous-espace de Γ(P ; C_P^∞(ε|k)) des fonctions nulles `a l’ordre infini dans P \ U . L’espace de Schwartz S(E) des fonctions rapidement d´ecroissantes dans une carte affine E ⊂ P , s’identifie `a Γ_w(E; C_P^∞(ε|k)). Il est donc naturel de d´ecrire l’image par R^(ε|k)_P de Γw(E; C_P^∞(ε|k)).

Th´eor`eme 1.3. Soit H = P \ E l’hyperplan `a l’infini de E, notons ξ◦ ∈ P^∗ le point correspondant, et identifions l’espace tangent projectif `a P<sup>∗</sup> en ξ<sub>◦</sub> `a un hyperplan H^∗ ⊂ P^∗, avec ξ◦ ∈ H/ ^∗. Soit ϕ ∈ Γ(P^∗; C_P^∞∗(ε^∗|k^∗)). Supposons

−n − 1 < k < 0. Alors il existe f ∈ Γ_w(E; C_P^∞(ε|k)) telle que ϕ = R^(ε|k)_P f si et seulement si :

(i) (le cas ε^∗ ≡ 0) pour tout entier non n´egatif m et pour tout ξ⁰ ∈ H^∗ les diff´erentielles non-locales de ϕ en ξ◦ au sens de [5] :

d^(1|k_ξ◦ ^∗+m+1)ϕ(ξ⁰) = Z +∞

−∞

ϕ(ξ◦+ tξ⁰)δ^(1|k∗+m+1)(t)dt (3) s’annulent.

(ii) (le cas ε^∗ ≡ 1) ϕ appartient `a Γw(P^∗\ {ξ◦}; C_P^∞∗(1|k^∗)), et satisfait la

“condition de Cavalieri” : pour tout entier non n´egatif m et pour tout ξ⁰ ∈ H^∗, l’int´egrale :

c^(0|m)_ξ◦ ϕ(ξ⁰) = Z +∞

−∞

ϕ(sξ◦+ ξ⁰)s^mds (4) est un polynˆome homog`ene de degr´e m + k^∗+ 1 en ξ⁰.

La partie (ii) de l’´enonc´e a ´et´e d´emontr´e e.g. dans [4, page 86] pour k = −n. La partie (i) pourrait aussi ˆetre d´emontr´ee par la mˆeme m´ethode, qui consiste `a utiliser la formule d’inversion pour la transform´ee de Fourier.

Ici notre approche est diff´erente, et utilise la th´eorie des transformations int´egrales pour les faisceaux et les D-modules de [2], [3], [10] (cf aussi [6]

pour une approche voisine). En particulier, on verra que les conditions (3), (4) sont de nature g´eom´etrique (ou cohomologique), li´ee `a la transform´ee de Radon projective complexe.

2 Transformations int´ egrales pour les faisceaux et les D-modules

Soit X une vari´et´e analytique complexe, OX son faisceau structural, ΩX

le faisceau des formes de degr´e maximal, et DX le faisceau d’anneaux des op´erateurs diff´erentiels lin´eaires `a coefficients holomorphes. Si A ⊂ X est un sous-ensemble localement ferm´e, on note CA le faisceau sur X, constant de fibre C sur A et z´ero ailleurs. On note par D^b(CX) (resp., D^b(DX)) la cat´egorie d´eriv´ee de la cat´egories des complexes born´es de faisceaux de C- vectoriels (resp., de DX-modules) sur X. Soit Y une autre vari´et´e analytique

complexe. Pour G ∈ D^b(CY), M ∈ D^b(DX), L ∈ D^b(CX×Y), et L ∈ D^b(D_X×Y), on pose :

( L ◦ G = Rq_1!(L ⊗ q⁻¹₂ G), M ◦ L = q_2!(q1−1M ⊗^L

OX×Y L), (5)

o`u X ←−

q₁ X ×Y −→

q₂ Y d´esignent les projections naturelles, et Rq_1!, q₂⁻¹ (resp., q_2!, q1−1) d´esignent les op´erations d’image directe propre et d’image inverse pour les faisceaux (resp., pour les D-modules). On d´efinit de la mˆeme fa¸con F ◦ L pour F ∈ D^b(CX).

On note D^b_R−c(CX) la sous-cat´egorie triangul´ee pleine de D^b(CX) dont les objets sont `a cohomologie R-constructible. On dit qu’un DX-module M est quasi-good si, pour tout sous-ensemble relativement compact de X, il admet une filtration {Mk} par des DX-sous-modules coh´erents, telle que tout quotient Mk/Mk−1 admette une bonne filtration, et Mk = 0 pour k  0.

On note D^b_q−good(DX) la sous-cat´egorie triangul´ee pleine de D^b(DX) dont les objets sont `a cohomologie quasi-good. Pour F ∈ D<sup>b</sup><sub>R−c</sub>(CX), les complexes F⊗O<sup>w</sup> X et T Hom (F, OX) de cohomologie formelle et temp´er´ee ont ´et´e d´efinis dans [8], [10]. Le th´eor`eme suivant est l’analogue en cohomologie formelle d’une formule d’adjonction de [2]

Th´eor`eme 2.1. ([10, Theorem 10.8]) Soient G ∈ D^b_R−c(CY) et M ∈ D^b_q−good(DX).

Soit L ∈ D^b(DX×Y) holonome r´egulier, et posons L = RHom_DX×Y(L, OX×Y).

Supposons que :

 (supp(M) × Y ) ∩ supp(L) soit propre sur Y, (X × supp(G)) ∩ supp(L) soit propre sur X.

Alors, on a un isomorphisme : RHom_D

X(M, (L ◦ G)⊗ O^w X)[dX]−→ RHom^∼ _D

Y(M ◦ L, G⊗ O^w Y). (6)

3 Transformation de Radon projective com- plexe

Soit P un espace projectif complexe de dimension n, P^∗ son espace projectif dual, et [z], [ζ] des syst`emes duaux de coordonn´ees homog`enes. Soit A ⊂ P× P^∗ la vari´et´e d’incidence d´efinie par l’´equation hz, ζi = 0. Posons :

L = C_(P×P^∗_)\A, L = T Hom (L, O_P×P^∗). (7)

Pour k ∈ Z, on note O_P(k) la −k-i`eme puissance tensorielle du fibr´e tau- tologique, et on pose D_P(k) = D_P ⊗_O

P O_P(k). La fonction m´eromorphe : sk(z, ζ) = ω(z)

hz, ζi^n+1+k, (8)

consid´er´ee dans [11], d´efinit une section de

L^(n,0)(−k, k^∗) = ((Ω_P⊗_OP O_P(−k))  OP^∗(k^∗)) ⊗_O

P×P∗ L.

Th´eor`eme 3.1. ([3, Theorem 4.3]) Supposons −n − 1 < k < 0. Alors, sk

induit un isomorphisme dans D^b(D_P^∗) :

D_P^∗(−k^∗) −→ D_P(−k) ◦ L.

Soit F ∈ D^b_R−c(C_P). Comme corollaire des Th´eor`emes 2.1 et 3.1, pour

−n − 1 < k < 0 on obtient un isomorphisme induit par sk :

RΓ(P; F ⊗ O^w _P(k))−→ RΓ(P^{∼ ∗}; (F ◦ L)⊗ O^w _P^∗(k^∗))[n]. (9)

4 Esquisse de la preuve

Soient P et P^∗ les espaces projectifs r´eels dont P et P^∗ sont les complexifi´es lin´eaires. Supposons par simplicit´e n > 2. Puisque π1(P ) = Z/2Z, il y a essentiellement deux faisceau localement constants de rang un sur P : le faisceaux constant CP, qu’on notera CP(0), et le fibr´e canonique, qu’on notera CP(1). Pour ε ∈ Z/2Z, on pose ε^∗ ≡ −n − 1 − ε. Si F est un faisceau sur P , on pose F (ε) = F ⊗ CP(ε). D’apr`es [3, Proposition 5.16], C<sub>P</sub>(ε) ◦ L est isomorphe `a CP^∗(ε^∗)[−n], modulo faisceaux constants sur P^∗. Plus exactement, on a un isomorphime :

C_P(ε) ◦ L ' CP^∗(ε^∗)[−n] dans D^b(C_P^∗; ˙T^∗P^∗), (10) la cat´egorie localis´ee de D^b(C_P^∗) en ˙T^∗P^∗, le fibr´e conormal `a P<sup>∗</sup> priv´e de la section nulle (cf [9]). Avec les notations du Th´eor`eme 1.3, l’immersion H ,→ P induit par dualit´e une projection P^∗\{ξ◦} −→ H^∗, o`u H^∗est un espace projectif r´eel de dimension (n − 1). Soit q : P^∗\ {ξ_◦} −→ H^∗ un complexifi´e de cette projection, et posons Q^∗ = q⁻¹(H^∗). Par un calcul explicite, on montre qu’on a les triangles distingu´es dans D^b(C_P^∗; ˙T^∗P^∗) :

C_E(0^∗) ◦ L −→ CP^∗(0)[−n] −→ CQ^∗(1)[1 − n] −→

+1 , (11)

C_E(1^∗) ◦ L −→ CP^∗\{ξ◦}(1)[−n] −→ C_Q∗[1 − n] −→

+1 . (12)

Rappelons que, pour k ∈ Z, ε ∈ Z/2Z, on a les isomorphismes : Γ(P ; C_P^∞(ε|k)) ' RΓ(P; CP(ε)⊗ O^w _P(k)), Γw(E; C_P^∞(ε|k)) ' RΓ(P; CE(ε)⊗ O^w _P(k)).

Pour −n − 1 < k < 0, le foncteur RΓ(P^∗; (·)⊗ O^w _P^∗(k^∗)) est bien d´efini dans D^b_R−c(C_P^∗; ˙T^∗P^∗). Dans [3], on a retrouv´e le Th´eor`eme 1.2 comme corollaire de la formule (9) pour F = CP(ε). Si on applique RΓ(P^∗; (·)⊗ O^w _P^∗(k^∗)) au triangle distingu´e :

C_E(ε) ◦ L −→ CP(ε) ◦ L −→ CH(ε) ◦ L −→

+1 ,

en utilisant les formules (10), (11), (12), et (9) on obtient les suites exactes courtes :

0 −→ R_P^(0∗|k)Γw(E; C_P^∞(0^∗|k)) −→ Γ(P^∗; C_P^∞∗(0|k^∗)) (13)

−−−−−−→

d^{(1|k∗+·+1)}

ξ◦

Y

m≥0

Γ(H^∗; C_H^∞∗(1|k^∗+ m + 1)) −→ 0, 0 −→ R_P^(1∗|k)Γw(E; C_P^∞(1^∗|k)) −→ Γw(P^∗\ {ξ◦}; C_P^∞∗(1|k^∗)) (14)

−

→c H¹(P^∗; C_Q∗

⊗ Ow _P^∗(k^∗)) −→ 0.

L’exactitude de (13) d´emontre la partie (i) du Th´eor`eme 1.3. En appliquant le foncteur RΓ(P^∗; (·)⊗ O^w _P^∗(k^∗)) au diagramme :

0 ^//C_Q∗ //C

Q^∗ //C_ξ

◦ //0

C_P∗\{ξ◦}

OO ::v

vv vv vv vv

on voit que le morphisme c de (14) s’ins`ere dans le diagramme commutatif : 0 −→ O_P^∗ˆ|ξ◦

t //

Q

m≥0

Γ(H^∗; C_H^∞∗(0|k^∗+ m + 1)) _//H¹(P^∗; C_Q∗

⊗ Ow _P^∗(k^∗)) −→ 0

Γ_w(P^∗\ {ξ_◦}; C_P^∞∗(1|k^∗))

chhhhhhhhhh33 hh

hh hh hh hh h

c^(0|·)

ξ◦

OO

Une section de O_P^∗ˆ|ξ◦est une s´erie formelleP

mψm, o`u ψmsont des polynˆomes homog`enes de degr´e m. On v´erifie alors que t(P

mψm) =P

mψk^∗+m+1. Ceci d´emontre la partie (ii) du Th´eor`eme 1.3.

5 Commentaires et remarques

La surjectivit´e du morphisme c dans (14) d´emontre un th´eor`eme de Borel pour les diff´erentielles non-locales. Par des m´ethodes analogues on pourrait obtenir d’autres r´esultats, comme le th´eor`eme des supports d’Helgason, ou une description de l’image de la transform´ee de Radon conforme.

Les r´esultats de cette Note sont d´evelopp´es dans la pr´epublication [1].

Enfin, il nous est agr´eable de remercier ici Masaki Kashiwara pour des nom- breuses conversations utiles sur ce sujet.

R´ ef´ erences bibliographiques

[1] A. D’Agnolo, Nonlocal differentials, Radon transform, and Cavalieri condi- tion: a cohomological approach, Pr´epublication, Univ. Paris VI and Paris VII, January 1996.

[2] A. D’Agnolo and P. Schapira, La transform´ee de Radon-Penrose des D- modules, C. R. Acad. Sci. Paris S´er. I Math., 319 (1994), 461–466; The Radon-Penrose transform for D-modules, J. Funct. Anal. 139 (1996), 349–

382.

[3] , Quantification de Leray de la dualit´e projective, C. R. Acad. Sci. Paris S´er. I Math., 319 (1994), 595–598; Leray’s quantization of projective duality, Duke Math. J. 84 (1996), 453–496.

[4] I. M. Gelfand, S. G. Gindikin, and M. I. Graev, Integral geometry in affine and projective spaces, Journal of Soviet Math. 18 (1982), 39–167.

[5] I. M. Gelfand and M. M. Smirnov, Lagrangians satisfying Crofton formulas, Radon transforms, and nonlocal differentials, Adv. in Math. 109 (1994), 188–

227.

[6] A. Goncharov, Integral geometry and D-modules, Mathematical Research Let- ters 2 (1995), 415–435.

[7] S. Helgason, The Radon transform, Progress in Mathematics, no. 5, Birkh¨auser, 1980.

[8] M. Kashiwara, The Riemann-Hilbert problem for holonomic systems, Publ.

Res. Inst. Math. Sci. 20 (1984), no. 2, 319–365.

[9] M. Kashiwara and P. Schapira, Sheaves on manifolds, Grundlehren der math- ematischen Wissenschaften, no. 292, Springer, 1990.

[10] , Moderate and formal cohomology associated with constructible sheaves, M´em. Soc. Math. France (N.S.) 123 (1996), no. 63.

[11] J. Leray, Le calcul diff´erentiel et int´egral sur une vari´et´e analytique complexe (probl`eme de Cauchy III), Bull. Soc. Math. France 87 (1959), 81–180.