Math. Ann. 272, 117-127 (1985) tleemalt

�9 Springer-Vedag 1985

Une formule int6grale pour l'<tedge of the wedge)

Jean-Pierre Rosay

UER de Math6matiques et CNRS LA 225, Universit6 de Provence, 3, Place Victor Hugo, F-13331 Marseille Cedex, France

Introduction

L'usage 6tant trop fort, nous garderons l'anglicisme et paderons de l'~edge of the wedge}>.

Dans ce papier, on donne une formule de repr6sentation int6grale pour une fonction holomorphe d6finie dans rintersection d'un voisinage de rorigine dans C n et d'un ttwedge>> c'est fi dire d'un domaine tube dans C ~ de la forme W=t2+iR", off ~ est un c6ne ouvert, de sommet l'origine, dans R ~.

Cette formule fair apparaitre deux termes (voir Proposition dans I). L'un dffmit une fonction holomorphe au voisinage de l'origine. L'autre est obtenu par une formule d'int6gration, clans un voisinage de 0, sur l'<~edge>> iN" seulement, fi raide d'un noyau ne pr6sentant de singularit6 que sur la diagonale.

Le th6or6me de redge of the wedge de Bogolioubov a d6j/t re~u maintcs d6monstrations [-2, 5, 8, I0 .... ].

C'est plut6t fi titre de test pour la formule int6grale pr6sent6e que nous constaterons que cr th6or6me, dans sa version pour valeurs au bord continues, en est une cons6quence imm6diate.

La preuve copie, sans changement, la preuve, fi partir de la formule de Cauchy dans C, du fait que toute fonction continue sur un ouvert co de C et holomorphe hors de l'axe r6el, est holomorphe sur tout co. La m6thode permet tout aussi bien d'aborder le cas d'<tedges>> non lin6aires (cf. [6, 3, 1], et voir Remarque en fin de II) et de valeurs au bord distributions (Remarque fi la fin de I). Ces g6n6ralisations ne demandent aucun vrai effort suppl6mentaire, si ce n'est de r6daction (!).

Notations. Rappel~

Soit t~ un ouvert born6 de ~n fi fronti6re continfiment diff6rentiable par morceaux, la fronti6re sera not6e btP.

Pour z (~ bC on appelera une section du fibr6 de Leray la donn6e d'un n-uple de fonctions S((,z)=(sl(( ,z) ..... sn((,z)) d6finies pour (ebt~ et v6ritiant

J = l

118 J.-P. R.osay

Si S est continfurtent diff6rentiable, on a pour toute fonction continue surr (la fermeture de t~) dont la restriction ~ ~ est holomorphe:

(n- l)! ~ f(OKs(~,z)={f(z ) si z~O, (*) (2i~)* r si Z r 1 6 2

o/1 n

Ks((,z)= ~, (-1)i+ls/Jst A ... A~Sj A ... A~-S, A d(t ^ ... A dfn j= t

(les diff6rentiations ~-6tant prises par rapport aux variables (1 .... , (~), cf. par exemple, [4]. Dons la suite nous serons amen6s ~i prendre des sections S discontinues. I1 convient alors de pr6ciser la signification de Ks, de sorte que la formuIe (,) soit encore valide. Ceci fait apparaitre des termes <<singuliers>>. Consid6rer des sections discontinues n'est certes pas une nouveaut6 [7, 4, 9 .... ]. Et le lecteur familier avec les travaux de G. Roos ou [4] ne verra aucune utilit6 aux paragraphes 1.1 (except6 pour fixer les notations) et II.1. Dons resprit d'une pr6sentation commode de calculs simples et explicit6s, il n'a toutefois pas sembl6 inutile d'esquisser la preuve des quelques faits utilis6s. Nous suivons d'ailleurs une approche qui semble 16g6rement diff6rente, en partant du cos de sections continfiment diff6rentiables, pour proc6der ensuite par approximation. I1 a d6j~ 6t6 remarqu6 que la formule de Weil pour les poly6dres analytiques est une formule de Cauchy Fantappi6, obtenue it partir d'un choix discontinu de sections [4, 7]. Un cas particulier est la formule de Cauchy pour le polydisque (voir II.1).

Insistons toutefois sur le fait qu'une repr6sentation int6grale par la formule de Cauchy dans le polydisque n'est pas satisfaisante pour nos besoins car elk ~<propage des singularit6s>>. Pour ((1, ..-,(~) hors d'un voisinage d'un point p = (e ~e~ .. . . , e ~~ le noyau de Cauchy n'est en. effet pas une fonction analytique de z au voisinage de p. L'holomorphie de S e n (, hors des discontinuites, cause rannulation du noyau Ks hors de ces discontinuit6s. Et ce ph6nom6ne, li6 ~ une pseudo-coneavit6 de la fronti6re, sera par contre repris.

Dans la partie I on traite en d6tail le cas de tE 2, 6bauchant seulement les calculs pour r (n >_- 3) darts II. Le parti, certes discutable, a 6t6 pris d'essayer de d6gager le plus dairement la d6marche suivie, indiquant seulement la voie des g6n6ralisa- tions, au d6triment du souci de trouver des hypoth6ses minimales (par exemple de r6guladt6 de l'edge).

I. Caleals dam C 2

1. Noyau de Cauchy Fantappie issu d'un choix discontinu de section I-4, 7]

On consid6re M une hypersufface orient6e de r de classe ~1 par morceaux. On suppose M d~compos6e en 3 r6gions d'intersections rides M0, M1 et M:, ayant pour fronti6re commune dons M une courbe y de classe (gl, et pour j < k Mj et M k ayant pour fronti6re commune une surface (dimension r6elle 2) Zj, k de classe ~f~ et de bord y. On orientera toujours ZI.~ en consid6rant Zj, k eomme la fronti6re de Mi: Soit z E IE 2, z r M. Pour chaquej ~ {0, I, 2} on donne S~ z) = (s~), ~:~ une_ section continfiment diff6rentiable du fibr6 de Leray, d6finie pour (~Mj.

L'~<edge of the wedges 119

D6finissant S((, z) = (s~, S2) par S((, z) = St~(~, z) si ~ e M~, il s'agit maintenant de pr6ciser le sens de

Ks(~,z)=(s~s2-s2~s~) A d ~ A d(2.

Voyons d 'abord ce qui se passe le long de l'ar~te s Soit Z la fonction caract6ristique de Mi (qu'en toute rigueur il faudrait, ~ ce stade, approcher par une fonction c~1). On a ~ consid6rer S=~SO~+(1-~)S (~. On a

(**) Ks((, z) = [(Xs~ ~ + ( 1 - )Os~k))~(Zs~ ~) + ( 1 - )Os~ ~)

- (Zs2 ~ + (1 - X)s(2~))$(Xs~ ~ + (1 - Z)s~t))] A d~ 1 A d(2 ;

Ks((, z) = XKs~, + (1 -- X)Ks,~ + ( -- tSr + s(k)sO3h~71 2 ; / ; A d(i A d~2.

Par consid6ration de degr6 3-X peut 6tre remplac6 par dz; et ( - d x ) est le courant d'int6gration sur Z:.k.

I1 faut aussi se pr6occuper de ce qui se passe au voisinage de la courbe ~. Nous allons voir qu 'aucun terme suppl6mentaire n'apparalt.

Fixons e > 0 et consid6rons U, un voisinage tubulaire de diam6tre ~ de ~. Pour p entier (grand) consid6rons (Zj)~=o. 1,2 une partition de l'unit6 off xj (m)=0 si

1 dist (m, M~) > Pet I lZz~l = O(p). Consid6rons la section S*, aprochant S, S* = XoS ~~

+X~S"~+Z2S ~2~. On observe, pour terminer que j [Ks.t=eO(1) (ind6pendam- u,

ment de p). En effet, hors du support des IzZj l'int6grant est born6 ind6pendamment de pe t

U, est de volume 0(r L'ensemble des m e M tel que au moins l'un des Vxj(m) soit

non nul est de volume e O / ~ ) et sur cet ensemble IKs.l=O(p). En r6sum6:

Conclusion. L 'action du noyau K s est d, d~finir par

3

S f (OKs(~, z) = Z ~ f(OKs,J,(~, z)

+ E I f(~) r~ti~otk~_ slk)sO2~]d(1 n d(2 LOl o 2 j < k ~,~'~.Lk

La formule (,) est alors valide si M = b(9.

2. Une formule intdgrale

On consid6re ici ~ l'ensemble d6fini dans R 2 par les conditions suivantes, off 0<0<=1:

x +x +2x2>O, x~ + x 2 < 0 2 .

C'est un ensemble d~limit~ par le cercle de centre l'origine et de rayon Q et les Cercles 0-1 e t a 2 de centres respectifs ( - 1, O) et (0, - 1) et rayon 1. On consid6rera aussi u_,- d~fini par les conditions

+ + 2xl <O, + + 2x2 <O, + <Q 2.

120 J.-P. Rosay

Fig. 1

)<2

)<1

Soient r et r162 l'intersection de la boule de centre 0 et de rayon Q avec, respectivement, les tubes de C 2 de base m e t m - ; ainsi

~(resp. ~ - ) = {z e r Izl < 0 et Re z ~ a~(resp. ~ - ) } .

Soit M la fronti6re de ~V'. On d6compose M e n les r6gions Mo qui est la partie de M sur la sph6re de rayon Q et M1 et M2 les parties respectivement au dessus de ~1 e t a 2.

On prend pour Sw~([, z) la section de Cauchy (~ ~ Mo et z e ~r

"

Soit a~]O,~[ on pose

( "/ L, = (xl, x2) E 112; xl et x2 ~ ]0, 1], 6ex2 < xt < ~ �9

La construction de S~) est bas~e sur la consideration de la fonction ~=(~,[~) ~ 1 ( 1 + ~ l ) + a ~ ; pour ~ tel que Re~ea l , on a, en posant

-~( th +~h)=0. ~j=r Re(~l(1 + a ~ l ) + a ~ ) = ~ l ( 1 - 2 ~ ) 2 2 <

Et l'in~galit~ est striete sauf pour r 0. L'6tape suivante est d'observer que pour (Xl,X2)~L,, et r 1 6 2 tel que R e ~ a ~ , on a

R e [ ( ~ - x t ) (1 + a(r - x l ) ) + ~(~2 - x2) 2] < 0 .

L'~edge of the wedge~> 121

En effet,/t la quantit6 pr6c6demment 6tudi6e, s'ajoute la quantit6

m X t Re [ - xl(1 + zr - x l ) ) - Ct~lXl - 20t~uXu + ax~] < ~ + 3ax2 < 0.

Ceci m4ne enfin (par translation) ~i poser pour (Zl, z2)~Ga:

491)([, z) = (~1 - z O O +a(~ l - - z l ) ) + a(~z-Zz) 2.

On a Re r z) < 0 si Re ~ z ~, et Re z z L~. Et, fait capital, si Re [ ~ o, et ~ # 0. On a encore Re 4~"(~, 0) < 0. Posons enfin pour ~ ~ M1 et z tel que Re z ~ L~:

z) ' q,")(r z) ]" De m6me pour ~ e M2 et z tel que Rez ~ L= on pose

S~2)(~, z)= (~(r - z l ) , 1 + ~(r - z2)'~ \ ]

off ~a~([, z) = (~2 - z2) [1 + a(~2 - z2)] + a(r - z0 2, et Re ~2)(r 0) < 0 si Re ~ ~ a2 et 40. Proposition. a) Soit f une fonction continue sur ~/" dont la restriction ~ ~ est holomorphe. Soit z ~ ~ tel que Re z ~ L~ alors, D ~ ~tant le disque de R u centr~ en 0 et de rayon 0 avec sort orientation habituelle :

- 1 f (z ) = (2~z)z ~ f(it~, it2)H(t~, t2, z)dt, ^ dtz + ~ f ( z )

( t ~ , t ~ ) v D ~

off:

1 + a[i(tl + t z ) - (zl + z2)] H(tl , t2, z) = ~~ z)~(2~(it, z)

et oi~ ~ est un opdrateur (donnd par des formules int~grales explicit~es dans la d~monstration) qui fi route fonction g continue sur M associe une fonction ~(g) d~finie sur {z~ ~f', Rez~L~}, admettant un prolonoement holomorphe sur un voisinaoe de l'origine ( inddpendant de 0).

b) Si f - est une fonction continue sur ~,V- dont la restriction fi ~, /- est holomorphe. Alors pour z ~ ~ tel que Rez ~ L~ on a:

- 1 S f - ( i t l , it2)H(tl, t2,z)dtl ^ dt2 + ~ ' ( f - ) ,

off ~ ' ( f - ) est une fonction se prolongeant en fonction holomorphe au voisinage de l ' " ortgine.

D~monstration. a) On prend pour S la section obtenue par juxtaposition des sections So), SI1) et S a). La th6orie des noyaux de Cauchy Fautappie donne f ( z )

1 ------- ~ f([)Ks(~, z), l'int6grale 6tant fi comprendre au sens 6tudi6 en 1. Puisque (2in) 2 u

Sm et S r sont holomorphes en ( on a Ksm et Ksa~ =0. Sur l'<<edge>> iR 2, plus

122 L-P. Rosay

pr6cis6ment en reprenant les notations de 1 sur ZI,: , apparait l'int6grale

11.2 = S f(~l ,(2)l+a[(~l+~e)-(zl~ze)]d~l ~ , , . qBtt)((, z)q~tz)(~, ^ d~2"

Posant ((1, ~z)= (ih, it2) et v6rifiant que l'orientation de Z~.2 (consid6r~ comme fronti6re de M~ dans M lui m6me consid6r6 comme fronti6re de ~ ) correspond

1 ainsi A l'orientation inverse de R z, on voit que ~ I i . 2 est le premier terme

donn6 dans l'6nonc6. Le terme ~ ( f ) est la somme des autres int6grales 1

consid6rer: ~ ( f ) = ~ (I0 + I0, 1 + 10.2) o/t:

1o = S f (O ~d~2-(2d~l + G( 2-z2)] 2 ^ dr ^ d G ,

Io, t = I ~-x(1 + ct(r - zx))-- (-2((2 -- z2) . to,, f ( 0 ((-1 (~1 - z l) + ~'2((2 -- zz))Om(~, z) '

Io 2 = I ~-1((1-zl)-~-2(1 +~((z-Z2)) ' z 0 + z) '

So, ~ et Zo, ~ sont les fronti6res communes de Mo et M~, respectivement Mo et M2, et sont donc constitu6s par les points de la sph6re de centre 0 et rayon 0 dont les parties r6elles appartiennent fi r 1, resp. a2. Pour ( e 2;0.1 (resp. Zo. 2) ~m(~, 0)(resp. r162 fl s'ensuit que pour tels ( les sections S(t)(~,z) et SeZ)(~,z) se prolongent holomorphiquement en fonctions de z dans un voisinage de 0.

La section S~~ z) est holomorphe en z pour I(I = e e t Izl < ~. L'holomorphie de ~ ( f ) au voisinage de 0 est alors imm6diatr

b) Toujours avec ze ~ tel que RezeL~ on d6finit la section S-(~,z) pour (~ M - la fronti6re de ~g'- en d6finissant pareillement les sections S (~ (sur la sphere de rayon ~), S tl) (au dessus de a~), S <2~ (au dessus de ~r2). On est alors men6 similairement, en explicitant la signification de 0 = ~ f - (OKs (~, z), fi la conclu- sion 6nonc6e. u -

3. L'r162 of the wedge~ clans r Dans le th~or6me ~classique>> de l'edge of the wedge, on consid~re W un domaine tube de C 2 de base un c6ne de R 2 de sommet rorigine.

On consid6re f + et f - des fonctions holomorphes d6finies sur un voisinage de 0 dans Wet - I4:. On suppose que f • se prolongent continfiment sur l'edge iR 2 au voisinage de 0 et que ces prolongements coincident.

Quitte ~i faire un changement lin6aire de variable, on peut supposer que le c6ne d6finissant W contient strictement le c6ne {Rezl >0 et Rez2 >0}.

Prenant O assez petit on a alors ~ C W•iR 2. Par application de la partie a)de la Proposition ~i f + et de la partie b) ~i f - il vient apr6s soustraction membre membre des 6galit6s:

Pour z E ~ tel que Rez ~ L. f+(z) =~( f+) -~ l ' ( f - ) .

L't tedge o f t h e w e d g e ~ 123

Ainsi ~ ( f + ) - ~ ' ( f - ) d6finit un prolongement holomorphe de f § au voisinage de 0.

Remarques. i) Bien des variantes de la construction sont possibles. Par exemple au lieu de a: on peut utiliser le cercle de centre (1, 0) et rayon 1, ce qui introduit un wedge <<fin>>. On peut obtenir alors des termes r6guliers [ ~ ( f ) et ~ ' ( f - ) pr6c6demment] analytiques r6els au voisinage de 0.

ii) Reprenons les notations de la d~monstration de la Proposition, partie a, en rendant explicites les d6pendances en Q. Ainsi nous 6crivons I a, 2(Q) au lieu de I L z pr~c6demment, etc . . . . . Fixons r et R 0 < r < R < 1. Soit 2(Q) une fonction qqoo ~t

R support compact dans It, R] et d'int6grale ~ 2(Q)dQ = 1. Si f est holomorphe dans

r

Ie domaine {z e C z, Rez e ~ , Izl < R} et continue sur la fermeture de ce domaine, il vient pour Izl < r et Rez e L,:

f (z) = ~ Io(Q)2(Q)d 0 + ~ IIi.k(Q)2(Q)dQ �9 . i ,k

Ceci donne la possibilit~ de traiter le cas de valeurs au bord (sur l'edge) distributions [8], en appliquent la proposit ion ~i la fonction (z~,zz) --,f(z~ + ~, zz + ~) avec e > O, puis faisant tendre s vers O. Int6grant d 'abord en Q on obtient en effet pour ~ILz(Q)2(Q)dQ une expression de la forme

f(it)I4(it, z)dtl ^ dt2 oil tJ est une fonction W ~ ~i support compact en la iR 2

variable t. I1 reste alors, ce qui est un peu plus d61icat, fi ma~triser les autres int6grales en jeu [qui doivent d6finir une fonction holomorphe au voisinage de 0), mais ceci peut &re fait grfice au th6orbme de Banach-Steinhaus, et en utilisant le th6or+me de Fubini pour faire intervenir des int6grations sur des translat6s de redge iR 2.

II. Ebauche des calculs dans C* p �9 ,

our alder I approche des calculs qui demandent un peu plus de pr6cision dans ~", il n'est peut-~tre pas inutile de commencer par un exercice.

I. La formule de Cauchy sur le polydisque comme formule de Cauchy-Fantappi~

Soient A" le polydisque unit6 de C", bd ~ sa fronti6re topologique et T ' sa fronti6re distingu6e. Soit p e N. Soit (X~)j--, ..... , une partition r de runit6 sur bA" oil X~ est support darts

{ ~ b A ~, 1 - ~ < [ ~ j , < l } .

1 Pour z e d", tel que Izil < 1 - P tj = 1, ..., n), on consid6re la section

S ( ~ , z ) = ( Z, Z: X. ) , ~ * ~ �9

1-zl ~2-z2 ~.~z.

124 J.-P. Rosay

Le noyau de Cauchy-Fantappi6 d~fmi par S est alors

r~(~ ,z)= ~ ( - 1 ) j+~ x: ~-x_____~ ̂ ... ^ _ j=~ ~ i - z j ~ x - z l

^ ... ^ ~ ^ d~, ^ ... ^ ~ . .

On a 0-;~n = - 0 - ~ - . . . -~YZ,. I1 vient

(j-- zl

1 Ks(~, z) =

((1 - z 0 ... ( ~ . - z.) II

�9 Y. ( - 1)J+l(-- 1)"-2-JZj~-Z1 ^ ... ^ 0-Z,-1 ^ d~x ^ ... ^ d~, j - - - - 1

( - 1 ) "+1 dx1 ^ ..- ^ d x , - l ^ d(1 ^ ... ^ d~,,.

( ~ l - z J ... ( ~ . - z . )

I1 convient maintenant de specifier la construction de la partition de l'unit6 (X~)-

Partons de lpl, ..., ~o, off ~p~ est une fonction cg~o sur bA", 6gale ~t 1 sur {l~jl = 1}, " l

nulle pour I~il < 1 - 2 ( p j > p ) et de gradient de norme O(pj). On peut prendre:

XI =IPl,

X2 = Ip2( l - - 1/~1),

X3 = tP3([ - - ~91)( 1 --1/)2),

Xn-I = g ' , - 1 ( 1 - u ... (1 - l p . _ 2),

Z . = ( 1 - ~o._,)(1 -~o , ) . . . (1 - v2.- 2) �9

Alors

dx1 ^ ... ^ d;t.-1 =(1- lp l )n -2d lp l A (1--/p2)n-adlP2 A (1-1Pn_2)d/pn_ 2 A dlPn-1.

La limite de l'expression ci-dessus (au sens des courants) est facile ~ trouver si l'on observe que

( - 1 ) "+l dz1 ^ ... A dx,_x = ( n _ 1 ) ~ d ( l - ~ 1 ) "-1 ^ ... ^ d ( 1 - u 2 ^ d(1-~p , -0 .

Quand pj tend vers + ~ ( 1 - ~ j ) " - J 0Pj d6pend de pj) tend faiblement vers la fonction caract6dstique du compl6mentaire de la << face ~ {1~1 = 1 }. Et d((1 - ~)~- J) tend vers le courant d'int6gration sur la fronti6re de cette face. Faisant tendre

L'<<edge of the wedge)) 125

successivement p,_ 1 . . . . ,Pl vers + go on a pour le cas limite o~:

1 si I~d=l,

~1 --Zl

1 S ( ~ , z ) = . - - si I~zl=l , I ~ d < l ,

~2 -- Z 2

1 si I ( d = l , I ~ d , . . , l ~ , - d < l ,

~n -- gn

l'interpr6tation suivante de Ks

I f ( ( ) K s ( ( , z ) - 1 f ( ( ) d( 1 A ... A d(. . r (n-- 1)~ ~- ( (1- -za)- . . (~.--z.)

Ceci donne bien pour f holomorphe la formule de Cauchy classique

(n--1)] 1 f ( O d(l A ... A d( . . f t z )= (2in)" ba-I f (OKs( ( , z )= (2ire)-------- ff ~. ((1 - z O ... ( ~ . - z . )

2. Une formule pour l'edge of the wedge

Dans C" on consid6re maintenant ~r la r6gion, contenant le point

( Q ) , par sph6re centre l'origine et rayon Q \

Q d61imit6e la de de

P

(0<Q < 1) et les sphSres a , , . . . , a, de rayon I centr6es respectivement aux points (-1,0, . . . ,0) , ( 0 , - 1 , 0 . . . . ,0) . . . . , (0 ... . . 0 , - 1 ) . Et on note Mo, M~ . . . . . M, les parties correspondantes de la fronti6re de ~ .

On d6finit pour a > 0, �9 assez petit, et z darts un voisinage conique de la demi- droite de vecteur dimcteur (1, 1 . . . . . 1) les sections S (m . . . . . S {') par:

pour ~ ~ Mo, et

off

s(~162 ( ~. ~1 �9 ( - " ) j =1 ~ ( ~ j - - Z j ) . . . . Z ~ ( ~ j - - Z j)

s(')(~,z)=(sT .... ,s~')= \ ~")(~,z) ' ~")(~,z) ..... ~")(r

~(l)(~,Z)=(~l--Zl)(1 q-~(~l--Zl))+ ~ O~(~j--Zj) 2' ~ M 1 . ./=2

Pour} ~ {2 . . . . , n}, S {j) = (s~) . . . . . s~ )) est d6fini de la m~me fa~on que S (1), permutant los indices 1 et j.

Soit S la section obtenue par juxtaposition des sections S (~ S ") . . . . . S ("). I1 s'agit de comprendre le scns fi donner fi

K s = ( - l y + ~ s f l s ~ ^ .. . ^ gsj ^ . . . ^ g s . ^ d G ^ . . . ^ d ~ . . j=l

126 J.-P. Rosay

Les sections S (~, ..., S C') &ant holomorphes en ( les noyaux Kscl~ ..... Ks~.) obtenus sur M~, ..., M. sont nuls. Par consideration de degr6, il n'appara~t aucun terme d'int~gration au lieu de rencontre (intersection des fermetures) de p r~gions M~ si p < n. On 61imine, comme en I, le probl~me de l'int6gration au lieu de rencontre des (n+ 1) r6gions Mi.

I1 reste qu'il appara~t des int6grales au lieu de rencontre de n r6gions Mj entre elles, en particulier sur l'edge JR", plus pr6cisbment sur M~ n...c~M.. Le fait que les sections S C~, ..., S ~*J soient holomorphes en ~ all6ge la r6daction du caleu]. Reprenant le calcul men6 en 1.1 on est amen6, au lieu de (**)/t la consid6ration de l'expression:

. . . + + . . . + z : ( : ' ) i = l

A... A ~ 1 ~ + ... ~ ) A... ^ d(z I s~, 1) +-. . + Z,s~, ")) A d~ ~ ̂ . . . A d~,,

Le calcul donne:

K s = ( - 1 ) ~+~ Y', ~(O)s~)...s~,~n)d~ A ... A dx , -~ A d ~ A ... A d~,;

od 5a, est le groupe des permutations de ( 1, ..., n} et e(0) la signature de 0. Comme en ILl, mais en tenant compte des orientations, dz~ A ... A dx,- ~ est/t remplacer

1 par ~ fois le courant d'int6gration sur redge i~" (avec rorientation usuelle

de R"). La conclusion est alors la suivante. Pour z dans un voisinage conique de la

demi-droite de vecteur directeur (1 ..... 1) et Izl < ~ posons:

[~'(f)](z) ( - 1)'+' = - - ~ f ( i t , z )H(t ,z )dt~ ^ ... ^ dr,, (2rr)" t=~,, ..... t . )~r

Zt~ < Q~

avec H(t , z) = E e(O)s~ it, z) ... s~ z).

Alors si f est une fonct ion continue sur ff/" dont la restriction fi "if est holomorphe f - [ g ( f ) ] se prolonge en une fonct ion holomorphe au voisinaoe de O. I1 ne semble pas n6cessaire de d6gager l'6nonc6 pr6cis tout-/t-fait similaire/t celui donn6 en I.

3. Remarques

Le th6or~me de l'edge of the wedge a 6t6 g6n~ralis~ pour des ~edges>> non lin6aires: edges totalement r6els [6, 3, 1]. L'approche par repr6sentation int6grale permet d'obtenir aussi ce genre de g6n6ralisation (y compris pour des valeurs au borden un sens faible, par exemple distributions). En effet, deux faits importants ont 6t6 utilis6s.

Le premier fait important a 6t6 la d6pendance holomorphe en ~ des sections $o~, ..., S~,~. De 1/, est venu le fait qu'aucune int6gration n'6tait #, faire sur aucune des r6gions M1,.. . , M,. La stricte pseudo-concavit~ des hypersurfaces M , . . . , M, est la propri&6 ~, retenir autorisant une telle construction. Si E est un gerrne de vari6t6, de dimension n, totalement r6elle dans {E ", de classe ~r il existe r utt diff6omorphisme local de ~E", de classe cr envoyant l'~<edge)> E dans JR" et tel que

L'<~edge of the wedge~ 127

- 1 - 1

~-r s'annule ,i l 'ordre 2 sur E. Alors r (M1) . . . . . �9 (Mn) sont, au voisinage de E, des hypersurfaces strictement pseudo-concaves s 'appuyant sur E, qui peuvent done jouer le rrle tenu prrcrdemment par M, . . . . . M,.

Le deuxi~me fait important fut la drpendance holomorphe en z, au voisinage de 0, des sections su)(~, z), j = O, 1 . . . . . n, pour ( sur la sphrre de rayon Q, resp. l'intersection de cette sphrre et Mj (j = 1, ..., n). I1 n'apparait pas clairement qu'une telle drpendance holomorphe en z soit possible en grnrral. Travaillons pour z au voisinage de 0 et pour un wedge dont l'edge contient 0. Voici une faqon aisre de contourner la difficult6: si S((, z) est une section du fibr6 de Leray, la technique bien connue de geler les coefficients consiste ~ passer au voisinage d 'un point z ~ fix6 clans le wedge (done z~ de la section S ~ la section S((,z)

s, (~, z ~ - ~ , ( ( _ z j ) s j ( ( , z o ) , . . . , qui a une drpendance holomorphe en z. Pour

t'application au throrrme de l'edge of the wedge, il restera /t vrrifier aprds annulation des intrgrales sur l'edge que les intrgrales prenant la place des [ntrgrales drfinissant #~(f+) et ~ t ' ( f - ) en 1.3 drfinissent des fonctions holomor- phes de z sur un voisinage ouvert connexe de z ~ contenant 0 [m~me si ~((, z) ne peut &re utilis6 pour z au voisinage de 0 et ( voisin de 0, il suftit/t ce stade final de pouvoir utiliser g(~, z) pour z voisin de 0 et ~ appartenant ~ l'intersection de la frontirre du wedge et de la sphrre de rayon Q].

Note. J. Chaumat a attir6 mon attention sur un article de Airapetjan et Henkin [11]. Une grnrralisation du throrrme de l'edge of the wedge y est &ablie ~ l'aide de reprrsentations intrgrales de fonctions CR sur des sous-varirtrs de tE ~. Bien que l'esprit de l'article [11] soit assez diffrrent de celui de ce papier (et les m&hodes, ~ mon gofit, nettement moins 616mentaires), on ne manquera pas d'observer certaines similaritrs.

Bibliographie 1. Bedford, E.: Holomorphic continuation at a totally real edge. Math. Ann. 230, 213-225 (1977) 2. Bogolioubov, N., Chirkov, D.: Introduction fi la throrie quantique des champs. Paris: Dunod

1960 3. Cirka, E.: Analytical representation of C.R. functions. Math. USSR Sb. 27, 526-553 (1975) 4. Henkin, G., Leiterer, J.: Theory of functions on complex manifolds. Basel, Boston, Stuttgart:

Birkh/iuser 1983 5. Hrrmander, L.: The analysis of linear partial differential operators. I. Grundlehren Math.

Wiss. 256. Berlin, Heidelberg, New York: Springer 1983 6. Pincuk, S.: Bogoljubov's theorem on the "edge of the wedge" for generic manifolds. Math.

USSR Sb. 23, 441-455 (1974) 7. Roos, G.: Fonctions de plusieurs variables complexes et formules de reprrsentation intrgrale.

Thrse Paris (1982) (et publication antrrieures) 8. Rudin, W.: Lectures on the edge of the wedge theorem. Res. Conf. Ser. Math. 6. Providence,

RI: AMS 1971 9. Sergeev, A.G., Henkin, G.: Uniform estimates for solutions of the ~equation in pseudoconvex

polyhedra. Math. USSR Sb. 40, 469-507 (1981) 10. Vladimorov, V.S.: Les fonetions de plusieurs variables complexes. Paris: Dunod 1967 I I. Airapetjan, R., Henkin, G.: Analytic continuation of CR functions through the edge of the

wedge. Soy. Math. Dokl. 24, 128-132 (1981)

Re~u le 1 drcembre 1984