4
C. R. Acad. Sci. Paris, t. 327, SCrie I, p. 123-126, 1998 ThCorie des groupeslGroup Theory Solutions Umentaires invariantes pour les ophrateurs diffkrentiels invariants sur les espaces symhtriques rhductifs de type G~-GR Nils Byrial ANDERSEN Department of Mathematirs, Louisiana State University, Baton Rouge, LA 70803, USA Courriel : hyrialQmath.lsu.edu (Requ le 1” mars 1998, accept6 aprZs rCvision le 18 mai 1998) R&urn& Soit G un groupe de Lie rkductif complexe connexe de groupe dCrivC simplement connexe. Soit H une forme r&elle de G. Soit z un opkrateur diffkrentiel G-invariant sur l’espace symktrique rkductif G/H. On donne une condition suffisante explicite pour que z ait une solution ClCmentaire invariante sur G/H. 0 AcadCmie des Sciences/Elsevier, Paris Invariant fundamental solutions for invariant differential operators on reductive symmetric spaces of type Gc/Gw Abstract. Let G be a complex connected reductive group with simply connected derived group. Let H be a real form of G. Let z be a G-invariant differential operator on the reductive symmetric space G/H. We give an explicit suficient condition for z to have an invariant fundamental solution on G/H. 0 AcadCmie des SciencesElsevier, Paris 1. Notations et prkliminaires Soit G un groupe de Lie rkductif complexe connexe de groupe dCrivC simplement connexe et d’algkbre de Lie 0. Soit H une forme rkelle de G d’algbbre de Lie IJ. On note CT la conjugaison de g relativement B b. Elle dCfinit une involution du groupe G que l’on notera encore v et H est l’ensemble des points de G fix& par (T. L’espace symktrique rkductif G/H est dit du type Gc-GR. Soit p la projection canonique de G sur G/H. L’application : G/H 3 p(g) I-+ go(g)-’ E G, g E G, est G-kquivariante, et rkalise un isomorphisme sur son image, que l’on note X. Pour g E G et x E X, on note g . z l’action de 9 sur z dkfinie par g . z = gzcr(g)-‘. Soit 6’ une involution de Cartan de G commutant g cr, et 0 = 0 6~p la dkomposition de Cartan correspondante. Enfin, on notera exp l’application exponentielle de g dans G. Soit < E C. Soit DX la fonction analytique sur X dkfinie par : dCtc((l + 01 - Ad(z)) z lrang “D%(z) mod lrang h+l , n: E X. Un ClCment z de X est dit r&plier si I&(z) # 0. Si U est une partie de X, on notera u’“” l’ensemble des &ments rkguliers de U. Note prksentke par Michel DUFLO. 0764-4442/98/03270123 0 AcadCmie des SciencesElsevier, Paris 123

Solutions élémentaires invariantes pour les opérateurs différentiels invariants sur les espaces symétriques réductifs de type Gℂ/Gℝ

Embed Size (px)

Citation preview

C. R. Acad. Sci. Paris, t. 327, SCrie I, p. 123-126, 1998 ThCorie des groupeslGroup Theory

Solutions Umentaires invariantes pour les ophrateurs diffkrentiels invariants sur les espaces symhtriques rhductifs de type G~-GR

Nils Byrial ANDERSEN

Department of Mathematirs, Louisiana State University, Baton Rouge, LA 70803, USA Courriel : hyrialQmath.lsu.edu

(Requ le 1” mars 1998, accept6 aprZs rCvision le 18 mai 1998)

R&urn& Soit G un groupe de Lie rkductif complexe connexe de groupe dCrivC simplement connexe. Soit H une forme r&elle de G. Soit z un opkrateur diffkrentiel G-invariant sur l’espace symktrique rkductif G/H. On donne une condition suffisante explicite pour que z ait une solution ClCmentaire invariante sur G/H. 0 AcadCmie des Sciences/Elsevier, Paris

Invariant fundamental solutions for invariant differential

operators on reductive symmetric spaces of type Gc/Gw

Abstract. Let G be a complex connected reductive group with simply connected derived group. Let H be a real form of G. Let z be a G-invariant differential operator on the reductive symmetric space G/H. We give an explicit suficient condition for z to have an invariant fundamental solution on G/H. 0 AcadCmie des SciencesElsevier, Paris

1. Notations et prkliminaires

Soit G un groupe de Lie rkductif complexe connexe de groupe dCrivC simplement connexe et d’algkbre de Lie 0. Soit H une forme rkelle de G d’algbbre de Lie IJ. On note CT la conjugaison de g relativement B b. Elle dCfinit une involution du groupe G que l’on notera encore v et H est l’ensemble des points de G fix& par (T. L’espace symktrique rkductif G/H est dit du type Gc-GR. Soit p la projection canonique de G sur G/H. L’application : G/H 3 p(g) I-+ go(g)-’ E G, g E G, est G-kquivariante, et rkalise un isomorphisme sur son image, que l’on note X. Pour g E G et x E X, on note g . z l’action de 9 sur z dkfinie par g . z = gzcr(g)-‘. Soit 6’ une involution de Cartan de G commutant g cr, et 0 = 0 6~ p la dkomposition de Cartan correspondante. Enfin, on notera exp l’application exponentielle de g dans G.

Soit < E C. Soit DX la fonction analytique sur X dkfinie par : dCtc((l + 01 - Ad(z)) z lrang “D%(z) mod lrang h+l , n: E X. Un ClCment z de X est dit r&plier si I&(z) # 0. Si U est une partie de X, on notera u’“” l’ensemble des &ments rkguliers de U.

Note prksentke par Michel DUFLO.

0764-4442/98/03270123 0 AcadCmie des SciencesElsevier, Paris 123

N.B. Andersen

Soit a une sous-algebre de Cartan de b. On notera A( a) le systeme de racines de la paire (0, ac), ou ac = a + ia, A+(a) un systeme positif de A(a) et W( ac) = ‘Vo(ac)/&(ac) le groupe de Weyl associe. Pour a E A(a), on note H, la coracine de N et gn l’espace radiciel de ~YJ relatif a (1.

Soit c le centre de h. On definit la partie deployee aR = c f? p + (C,,ta(aJ RH,> fl a et la partie

compacte aI = c n P + ColEhcaI iRH, ( > n a de a de telle sorte que l’on ait a = aR + aI. Une

racine cy. E A( a) est dite imaginaire si m(a) C iR. Une racine imaginaire @ est dite non compacte si (gLy + g-a + Cfi,) n h est isomorphe a sI(2, R). Soit I? l’ensemble des X E a tels que exp2,1X = 1. C’est un reseau de aR. Soit I’* l’ensemble des /L E a; tels que, pour tout X E P, I’on ait p(X) E 2~2. Soit aT.r’g l’ensemble des p E a; tels que, pour toute racine imaginaire o, I’on ait IL(H~) # 0.

A la sous-algebre de Cartan a on associe I’ensemble A, appele sous-ensemble de Cartan associe a a, form6 des elements .7: E X centralisant a dans G, i.e. A = &(a). On note L = ZG(aR). Pour Ikf un sous-groupe de G, on note lV,tf (a) le quotient du normalisateur de a dans M par le centralisateur de a dans M. On note que T/liH(a)\Wc(a) N WLnH(a)\WL(a).

Nous fixons dans toute la suite une famille { ak}~=l,...,7, de representants H-stables des classes de conjugaison sous H de l’ensemble des sous-algebres de Cartan de b. On suppose ainsi que dim ur,R < dim u2,R 5 dim u3.R 5 . . 5 dim a+l,n < dim nn,n.

2. IntCgrales orbitales

L’integrale orbitale Mk(f) d’une fonction S E CF( X) en un point regulier a E -4:’ est

dt%nie par Mf)(4 = IDx(~)I~/~ ~HHIZ,s(an) f(/l . a)dh, ou dh est une mesure H-invariante sur H/ZH(ak). Pour U c X et V, c Al, compacts, on considere alors les deux espaces de Frechet : Cr(%) = {f E C:(X) (suppf c U} et Cc,((A’p) = {I? E C”(Ap)( supaEs1n4p 1~. F(n)\ < x,

Vu E S(at,c) et F(a) E 0 quand a E ilT\Vk}, ou S(ak,e) designe l’algebre symetrique sur ak,c.

THI~ORBME 2. - Soit U c X compact. I1 existe des Vk c AI, compacts tels que l’applicution Mk soit continue de Cr(X) duns Cc (A’@).

Soit @ une fonction localement integrable sur X et invariante par H. On a la formule d’integration de Weyl suivante : on peut normaliser les mesures dak sur Ak de telle sorte que, pour tout f E C,“(X), l’on ait :

3. Fonctions g6nCralisCes sphkriques normalisCes

Soit U(0) l’algebre enveloppante de 0 et soit Z(g) le centre de U(0). L’algebre des operateurs differentiels G-invariants sur X est isomorphe a Z(g). Dans toute la suite, nous identifierons ces deux algebres. On note ok l’isomorphisme d’Harish-Chandra de Z(0) dans la sous-algebre S(ak,c)u.(ah,C) de l’algbbre symetrique S( ak,c) constituee des polynbmes W( ak..c)-invariants.

Soit $k l’ensemble des racines imaginaires de A+(a,+). On note l/ik,rrlr l’ensemble des racines imaginaires non compactes de T/J~. Soient 1-1 E I?; et X E ai,‘f”. On considere alors la fonction generalisee spherique normalisee :

cj&, A) = (-pk.hcl c n I(W(P + X))(fL)I wEWr,(ak) uEa+(a,)-!bk

x n (4~ + X))(Hn)@(4-~ - A), e, l/ire), rrE7pr

124

Solutions c%mentaires invariantes sur Gc /GR

oti la fonction gCn&alisCe sphkrique 0(--p - A, e, $k) est dCfinie dans [5], thkorkme 6.1. On dkfinit pour E > 0 un E-voisinage de a;,r dans ai,l,c par : a;.I,E = {A E CI;,~,~/ lImX(H,)l < E, V’a E +k}.

THI~OR~ME 2. - Pour E > 0 suffisament petit (et ne d&pendant pas du choix de p E I’: ), on a : (i) soient p E r; et X E a;,I,E, alors Ci(p, A) est une fonction localement inte’grable sur X,

invariante par H (C;I.(p, A) dkjnit done une distribution invariante par H sur %) et analytique sur Pg. On a pour tout z E Z(g), 2 C”,(b A) = Yk(Z)(7.(P + x))q(P, A) ;

(ii) soit f E C?(X). L’application A H (C”,(p, A), f) est holomorphe duns a;;I,E pour tout p E r;. Soient U C % compact et N 2 0 un entier. I1 existe une constante c, ne d&pendant que de U, et un ensemble jini {zj}j d’Pl&ments de Z(g), ne dkpendant que de N, tels que, pour tout f E CE(X), on ait:

pour tout (p, A) E I?: x a;,l.E.

Esquisse de dkmonstrution. - On note que (i) est vrai pour (pL; A) E I?; x a;:‘;‘” (voir [5], thkor2me 6.1).

En utilisant le fait que 0(--j~ - A, e,$k) est l’induite indEO(XL, -CL - A: e; $k) de la fonction gCnCralisCe sphkrique @(XL, -~1 - A, e, &) sur X L = L/L n H (voir [5], 5 6), on en dCduit d’aprks [5], 3 3 que l’application X H C;(p, X)(X), pour z E Xr’g, se prolonge en une fonction holomorphe et invariante par H dans a;,I,E p our tout p E I?;. Soit U c % compact, d’aprks les estimations de [5], $, 4, qui sent aussi valables pour X E a;,I,E, il existe une constante cu > 0, ne dkpendant que de U, et un entier IA/I > 0, tels que l’on ait :

pour tout (pL! A) E rz x a;,I,E. On en dCduit d’aprks (1) que Ci(p, A) est une fonction localement intkgrable sur % pour tout (p, A) E r; x a;.I,E. On conclut le thCorkme par prolongement holomorphe et par le fait qu’il existe un ensemble fini d’C1Cments {zj}j de Z(g) tels que Ip+XI 5 Cj Irk(z)(/~+A)l pour tout (p> A) E I?; x a;.l,c. 0

Soit S la mesure de Dirac en l’origine sur X. D’aprks [6], thCor&me 7.4 (et [5], thCor&me 6.1 (vi)), on a :

TH~ORI~ME 3 (Formule de Plancherel). - Pour tout f E C?(X), on a :

a& les ck > 0 sont des constantes et dIX est une mesure de Lebesgue sur a;,, (voir [6], p. 31).

4. Solutions ClCmentaires invariantes

Soit z E Z(g). Une solution ClCmentaire invariante E pour z est une distribution invariante par H sur X rksolvant l’equation diffkentielle : z . E = 6.

Soit TL E S(ak,c). On considkre ‘11 comme un polyn6me sur a;,c = a;,R,c x a;,l.c. Soit p E a;.,, alors on dCfinit le polyn8me ILL sur a; I a3 par ALL = 74~~ A). La norme II . II d’un polynbme sur a;,c dksigne la somme des modules cle’ses coefficients.

125

N.B. Andersen

TH~OR~ME 4. - Soit z E Z(g). Alors z a une solution e’lkmentaire invariante s’il existe un entier N > 0 et une constante C > 0, tels que, pour tout p E rz, Ilyn(z)till 2 C(1 + Ip])-jv.

Esquisse de dkmonstration. - En utilisant la transformation de Cayley de ak,c sur a&r,&, on montre qu’il existe un (au&e) entier N 2 0 et une (autre) constante C > 0, tels que, pour tout k E (0, . : 71) et pour tout p E I?;, I’on ait

llrd&II 2 cc1 + MY. (3)

La construction d’une solution Clementaire invariante E de z peut s’effectuer de la man&e suivante : on pose E = Cz=, ck Ek, avec

oti B est la boule fermee {I E a;,I,c j ]<I < &/2}. La fonction ad hoc @(pL: X,<) (voir [7]. theorem 7.3.12) est telle que, pour tout U, E S(ak,c), 1+(X + <)I > C’](U~~II d&s que @(/A, X,<) # 0. Par ailleurs, elle est positive, nulle quand ]<I 2 ~/2, et si F est holomorphe dans la boule ouverte

E E a;,I,cI ICI < 421 1 ‘on a J, F(<)Q(/h, X: <) d[ = F(0) pour tout (CL, X). La construction de Ek est done inspirke de celle d’une solution Cltmentaire centrale sur un groupe

de Lie semi-simple (voir [3]) ou de celle d’une solution Clementaire pour un operateur B coefficients constants sur R” (voir [7], theorem 7.3.10). Elle est possible ici grace au theoreme 2. La majoration (2), jointe aux inegalites (3), entrainent la convergence de I’integrale et la continuite de Ek. Ainsi Ek est une distribution invariante par H sur x, et on a z . E = xl<L<n ckz . Ek = 6. 0

Remarque 5. - Soit z E Z(g). D’apres [4], $7, les operateurs differentiels ~~(2) sur Ak ont des solutions Clementaires sur Ak si et seulement si les polynomes yk(z) satisfont les inegalites (3).

COROLLAIRE 6. - Soit 0 # z E Z(g). On suppose que yrL(z) satisfait la condition (3) (avec k = n,).

Alors zC”(%) = C”(W) “1 s z existe un ,u E I’: te1 que kg yl(z) = deg yr(z),, (si % est dPploy& i.e. dim al,R = 0, alors cette condition est toujours satisfaite).

Dimonstration. - % est z-convexe d’apres [2].

Exemple 7. - Soit R l’operateur Casimir de X, defini par la forme de Killing. Comme Yk(fl)(p:A) = /I . /L + A . X - pk pk, ou Pk est la demi-somme des racines de A+(ak), on conclut que R a une solution Clementaire invariante et que 12 C”(X) = C”(X) si l’espace sym&ique

X n’admet pas de serie discrete (i.e. si dim a,,I > l),

Remarque 8. - Les demonstrations completes de nos resultats pour le cas G/H = GL(7t, C)/U(p. q) figurent dans [l]. Les demonstrations completes pour le cas general seront publiees ulttrieurement.

RCfkences bibliographiques

[l] Andersen N.B., Invariant fundamental solutions and solvability for GL(n, C)/II(,, q). prepublication 1997 (a paraitre dans Math. Stand.).

[2] van den Ban E.P., Schlichtkrull H., Convexity for invariant differential operators on semisimple symmetric spaces, Compositio Math. 89 (1993) 301-3 13.

[3] Benabdallah A.-l., Rouviere F., Resolubilitt des operateurs bi-invariants sur un groupe de Lie semi-simple, C. R. Acad. Sci. Paris 298 (1984) 405-408.

[4] CCrCzo A., Rouviere F., Solution Clementaire d’un operateur invariant a gauche sur un groupe de Lie compact, Ann. Sci. Ecole. Norm. Sup. 2 (1969) 561-581.

[5] Harinck P., Base de la serie la plus continue de fonctions generalisees spheriques sur G”c/Gw, prepublication, 1996. [6] Harinck P., Fonctions orbitales sur Gc/Gn. Formule d’inversion des integrales orbitales et formule de Plancherel,

prepublication, 1996. 171 Hormander L.. The Analysis of Linear Partial Operators I, Springer-Verlag, 1983.

126