37
Comment. Math. Helvetici 52 (1977) 259-295 Birkh~iuser Verlag, Basel Sur la th6orie classique des invariants TH MUST (0.1.1) Le corps de base k est de caract6ristique nulle. On se donne un espace vectoriel N de dimension finie et un sous-groupe G du groupe GL(N) des automorphismes lin6aires de N. On note N' le dual de N. Soit p et q deux nombres entiers positifs; on fait op6rer G dans ~])P(N')~)~)q(N) par s.(~,..., ~, x ~ .... , x ~) = ('s-~(r ~) ..... s(x ~) .... ) s ~ G, ~ie N', xJ~ N. Un probl~me de la th6orie classique des invariants est de d6crire, par g6n6rateurs et relations, l'alg~bre k[~P(N ') ~9 ff)q(N)] a des fonctions polynomiales sur E)P(N ') ~ ~)q(N) invariantes par G. Soit run entier avec r >I pet r I> q; l'injection U :~)P(N') ~9 ~q(N) ~ ~)r(N') ~) ~r(N) ~-~)r(N'~) N) (~1 ..... x l , . . . ) i---). (~I ..... ~P,0 ..... 0, x 1 ..... x q, 0 ..... 0) induit un homomorphisme k[u]: k[G)r(N'ff~N)]~ k[~P(N')~q(N)]~ puisque u poss~de une r6traction qui commute aux op6rations de G, k[u] poss~de une section; par cons6quent, quitte ~ remplacer N par N'~)N, il suffit th6oriquement de r6soudre le probl6me dans le cas off p = 0. Darts la suite, on ne consid~rera donc que le cas de l'op6ration de G dans ~q(N). Dans son livre: the classical groups [10], chap. II et VI, H. Weyl traite les cas classiques: G = O(N), Sp (N), SL (N) .... ; le problbme des g6n6rateurs de cer- taines de ces alg~bres est aussi 6tudi6 dans l'ouvrage [2] de J. Dieudonn6 et J. Carrel. On trouve d'autres exemples dans l'article [7] de C. Procesi. Lorsque G = O(N) est le groupe orthogonal de la forme quadratique usuelle Y. (xi)2 sur N, l'alg6bre k[~)qN]~ est engendr6e par les produits scalaires (x i, xi), 1 ~<i<~ j ~ q, r6sultat dfi h E. Study [8]. Cet exemple, entre autres, sugg~re h H. Weyl ([10] p. 32 dernier paragraphe) "la possibilit6 d'associer h Gun nombre fini d'invariants typiques ind6pendants du nombre q d'arguments en question. Un tel syst6me devrait 6tre form6 d'invariants d6pendants d'arguments typiques u, v.... ; il devrait fournir un syst6me de g6n6rateurs pour l'alg~bre des invariants 259

Sur la théorie classique des invariants

  • Upload
    th-vust

  • View
    220

  • Download
    1

Embed Size (px)

Citation preview

Page 1: Sur la théorie classique des invariants

Comment. Math. Helvetici 52 (1977) 259-295 Birkh~iuser Verlag, Basel

Sur la th6orie classique des invariants

TH MUST

(0.1.1) Le corps de base k est de caract6ristique nulle. On se donne un espace vectoriel N de dimension finie et un sous-groupe G du

groupe GL(N) des automorphismes lin6aires de N. On note N' le dual de N. Soit p et q deux nombres entiers positifs; on fait op6rer G dans ~])P(N')~)~)q(N) par

s . ( ~ , . . . , ~ , x ~ . . . . , x ~) = ( ' s - ~ ( r ~) . . . . . s (x ~) . . . . )

s ~ G, ~ie N', xJ~ N. Un probl~me de la th6orie classique des invariants est de d6crire, par g6n6rateurs et relations, l'alg~bre k[~P(N ') ~9 ff)q(N)] a des fonctions polynomiales sur E)P(N ') ~ ~)q(N) invariantes par G.

Soit r u n entier avec r >I p e t r I> q; l'injection

U :~)P(N') ~9 ~q(N) ~ ~)r(N') ~) ~r(N) ~-~)r(N'~) N)

(~1 . . . . . x l , . . . ) i---). (~I . . . . . ~P,0 . . . . . 0, x 1 . . . . . x q, 0 . . . . . 0)

induit un homomorphisme k[u]: k[G)r(N'ff~N)]~ k[~P(N')~q(N)]~ puisque u poss~de une r6traction qui commute aux op6rations de G, k[u] poss~de une section; par cons6quent, quitte ~ remplacer N par N'~)N, il suffit th6oriquement de r6soudre le probl6me dans le cas off p = 0. Darts la suite, on ne consid~rera donc que le cas de l 'op6ration de G dans ~q(N).

Dans son livre: the classical groups [10], chap. II et VI, H. Weyl traite les cas classiques: G = O(N), Sp (N), SL (N) . . . . ; le problbme des g6n6rateurs de cer- taines de ces alg~bres est aussi 6tudi6 dans l 'ouvrage [2] de J. Dieudonn6 et J. Carrel. On trouve d'autres exemples dans l'article [7] de C. Procesi.

Lorsque G = O(N) est le groupe orthogonal de la forme quadratique usuelle Y. (xi) 2 sur N, l'alg6bre k[~)qN] ~ est engendr6e par les produits scalaires (x i, xi), 1 ~<i<~ j ~ q, r6sultat dfi h E. Study [8]. Cet exemple, entre autres, sugg~re h H. Weyl ([10] p. 32 dernier paragraphe) "la possibilit6 d'associer h G u n nombre fini d'invariants typiques ind6pendants du nombre q d'arguments en question. Un tel syst6me devrait 6tre form6 d'invariants d6pendants d'arguments typiques u, v . . . . ; il devrait fournir un syst6me de g6n6rateurs pour l'alg~bre des invariants

259

Page 2: Sur la théorie classique des invariants

2 6 0 TH. VUST

d'une quantit6 arbitraire d 'arguments x, y, z . . . . si on substitue ces vecteurs x, y, z . . . . dans toutes les combinaisons possibles (r6p6titions non exclues) aux argu- ments typiques u, v . . . . ". Dans le cas de l 'exemple, un syst~me d'invariants typiques consiste en le produit scalaire (u, v). Plus loin, au chapitre II, th6or~me (2.5.A), il d6montre en utilisant une identit6 de A. Capelli que

a) si un systbme d'invariants typiques fournit (par substitution) un syst~me de g6n6rateurs de l 'alg~bre des invariants k [~ " (N) ] ~ pour n arguments (n = dim N), alors il fournit aussi un syst~me de g6n6rateurs pour k[~)q(N)] ~, quel que soit

l 'entier q, G d6signant toujours un sous-groupe quelconque de GL(N).

Dans [2] chap. 2 w on d6montre des renseignements du type a) en utilisant la technique des d6veloppements de Young-Deruyts . De plus, au chapitres II (C) et VI w de [10] on trouve que

b) il existe un ensemble de relations R entre les 616ments d'un syst~me complet d'invariants typiques (i.e. qui tournit par substitution un syst~me de g6n6rateurs F(q) d e k[~)q(N)] G pour tout q) tel que les relations entre les 616ments de F(q), q e N, s 'obtiennent aussi par substitution h partir de R, ceci lorsque G est l 'un des groupes classiques.

Par exemple, l'id6al des relations entre les g6n6rateurs (x',x j) de

k[(~q(N)] ~ e s t engendr6 par les det ((x ~, x~))~E~, off E~ d6signe une partie de j~E2

{1 . . . . , q} h n + 1 616ments; on prend alors pour R la relation det ((u i, vJ))i=o ...... . ]=O,...,n

De ces r6sultats se d6gage l'id6e que k [~" (N) ] ~, n = d i m N; "d6termine" enti~rement k[(~q(N)] ~ pour tout q. Le propos de ce travail est de donner forme /t cette id6e.

(0.1.2) I1 taut aborder le probl~me intrins~quement: on identifie le G-module l~qN a v e c le G-module Horn (O, N), off O est un espace vectoriel de dimension q et G op~re au but. On remarque ensuite que G L ( Q ) op~re tt la source dans H o m ( O , N ) , que les deux op6rations de G et GL(O) commutent et par cons6quent que GL(O) op~re dans k [Hom (O, N)] ~.

I1 taut aborder le probl~me fonctoriellement: on consid~re la cat6gorie ~ des espaces vectoriels de dimension finie et la cat6gorie Nit des vari6t6s alg6briques affines dont l 'alg~bre des tonctions r6guli~res n 'est pas.n6cessairement de type fini; on note Hom(O,N) /G m l 'objet de 91f[ dont l 'alg~bre des fonctions

1 La vari6t6 Hom (Q, N)/G est loin d'6tre le quotient de Hom (Q, N) par l'op6ration de G; c'est par analogie avec le cas o/l G est r6ductif qu'on a choisi cette notation: la vari6t6 Horn (Q, N)/G est alors 'Tespace des orbites ferm6es de G dans Horn (Q, N)" (cf. [6]).

Page 3: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 261

r6gulibres est k [Hom (Q, N)] ~ et 7r(Q) : Hom (Q, N) ~ Hom (Q, N)/G le mor- phisme induit par l'inclusion des fonctions r6guli6res; alors Hom (., N)/G est un foncteur (contravariant) de 23 dans 9~ff et 7r une transformation naturelle Hom (., N) ~ Horn (., N)/G.

(0.1.3) Soit F u n foncteur (contravariant) de 23 dans 9~ff. Une pr6sentation de F est la donn6e d'une suite de transformations naturelles entre foncteurs de 23 dans 9~ff

V F R V1 ..... ~ V2

en sorte que, pour tout espace vectoriel Q, on ait une pr6sentation au sens usuel:

1) Vi(Q) est un espace vectoriel de dimension finie, i = 1, 2, 2) F(Q) est une immersion ferm6e, 3) F(Q) induit un isomorphisme F ( Q ) ~ R(Q)- I (0 ) ;

autrement dit,

2') le comorphisme k[F(Q)]: k[VI(Q)] ~ k[F(Q)] est surjectif, 3') k[I'(Q)] induit un isomorphisme k[VI(Q)]/(k[R(Q)](m2(Q)))--~ k[F(Q)],

off m2(Q) d6signe l'id6al maximal de 0 darts k[V2(Q)].

(0.1.4) Soit I un ensemble fini et a ~ N~; on note

| = ~3 a(i)(Q) i ~ I

et on considbre | comme un foncteur de 23 dans 92ff. Si I* est un ensemble fini contenant I e t a * ~ N z*, on 6crit i(I, I*) pour l'inclusion naturelle | ~_..~ |

Pour tout Q, on d6signe par Q' le dual de Q. Voici le r6sultat principal de ce travail:

THEOR]~ME. Soit P u n espace vectoriel, dim P~>dim N. On suppose que k[Hom (P, N)] ~ est une alg~bre de type fini; on se donne une prdsentation

H o m (P, N)/G ~ | Z~ | (1)

de Horn (P,N)/G of~ a e N x, b e N J e t g e t r sont des morphismes (de 9~) GL(P)-dquivariants. Alors, une telle prdsentation se prolonge fonctoriellement en

Page 4: Sur la théorie classique des invariants

2 6 2 TH. VUST

une presentation de Hom (., N)/G. De mani~re precise, il existe deux transfor- mations natureUes F : H o m ( . , N ) / G - o | ' et R*:|174 ', b * e N J•

telles que

a) F(P)= g, b) J* est un ensemble fini contenant J, b*lj = b e t R*(P) = i(J, J*)(p)or, c) la suite

H o m ( . N)/G r ~| R*, |

est une presentation de Hom (., N)/G.

Un tel prolongement n' est pas unique; on peut cependant en construire un qui est canonique.

On donne quelques &apes de la preuve de ce th6or6me, ce qui permettra de pr6ciser certains points.

(0.2.1) LEMME. Soit f:| | un morphisme polynomial GL(Q)- dquivariant. II existe alors une transformation naturelle ~ :| | telle que

�9 ( O ) = f.

(0.2.2) On part de la pr6sentation (1) et on consid~re le morphisme

go 7r(P) :Hom (P, N) ~ | - - o |

D'apr& le lemme, il existe X : H o m (., N)--o | telle que X ( P ) = gozr(P); on montre de plus que X = X,, off t e [| a et X, est la transformation naturelle d6finie par

Xt(Q) : Horn (Q, N) ~ |

u ~ t o | 1 7 6

I1 existe enfin F : H o m ( . , N ) / G - o | ' en sorte que F ( P ) = g et que le dia- gramme

Horn (., N)

Horn (., N ) /G r , |

est commutatif. On a alors la

PROPOSITION. Pour tout Q, F( Q) est une immersion fermde.

Page 5: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 263

Remarque. La forme t~[@~(N)'] c sous-jacente h la d6finition de F est exactement un "syst~me complet d'invariants typiques pour n arguments" (cf. (0.1.1)). En effet, pour tout Q, les fonctions polynomiales

Hom (O, N) ~ k

u ~ (to@~(u), x} x ~ @~(O)

engendrent k[Hom (Q, N)]~; on a lh un formalisme intrins~que pour le proc6d6 de substitution.

EXEMPLE. On d6signe par t~S2(N) 'c | ' la Q-forme bilin6aire sym6trique non d6g6n6r6e positive sur N telle que O(N) est 6gal au sous-groupe d'isotropie GL(N),, F, la factorisation de X, ~ travers 7r et P un espace vectoriel de m6me dimension que N. On d6montre alors (et il est classique) que

Hom (P, N)/O(N) r,(e) S2(p),_. " 0

est une pr6sentation.

(0.2.3) Apr~s les succ~s pr6c6dents, on est tent6 par l'affirmation suivante: soit R :| | une transformation naturelle telle que R(P)= r; alors

Hom (., N)/G r ) | R , |

est une pr6sentation. Dans le cas de l'exemple, cela impliquerait que Hom (Q, N) /O(N) est isomorphe ~ S2(Q) ' pour tout Q; or tel n'est pas le cas (cf. (0.1.1)). On voit donc que les id6es et techniques de la proposition (0.2.2) sont insuttisantes.

Soit alors Q un espace vectoriel, dim Q I> dim P; on se donne une application lin6aire surjective v : Q ~ P. On a la situation

Hom (P, N)/G g=r(e) | p=R(e) |

1 1 1 Horn (0, N) /G r(o), | R!O) , | )'

r(o)~ J /~(o) GL(Q) . Im ~"(v ' )

Page 6: Sur la théorie classique des invariants

264 TH. VUST

On introduit un nouveau foncteur Va,p de ~ dans 9/f[, sous-foncteur de | en posant

V ~ , p ( O ) = ~ a ( O ) si dim O~<dim P = p

I . G L ( Q ) . I m | ') si dim Q~>dimP.

Avec les notations ci-dessus, on a la

P R O P O S I T I O N . La suite

H o m ( . , N ) / G r , Vo,~ , |

est une presentation de H o m (., N)/G.

EXEMPLE. Lorsque G = O ( N ) , cela signifie que H o m ( Q , N ) / O ( N ) est isomorphe au c6ne C n ( Q ) c S2(Q) ' des formes bilin6aires sym6triques sur Q dont le support est de dimension ~< n.

(0.2.4) Le th6or~me (0.1.4) est cons6quence imm6diate des deux propositions pr6c6dentes et de la

P R O P O S I T I O N . Le foncteur V~,p admet une prdsentation du type

Vop 4 | 1 7 6 ' Rop

of~ or(a, p) est un multiindice ne d~pendant que de a et p.

Sa d6monstration est technique et se fait en exhibant Ra, p; il serait int6ressant d 'avoir une preuve proc6dant d 'arguments "abstraits ."

EXEMPLE. La suite

H o m ( O , O') ~ '~o~ Hom 1 A O '

est une pr6sentation de C,(Q). En conclusion, avec les notations de l 'exemple, la

Page 7: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 265

suite

R s [ n + l \~ Hom (., N)/O(N) r , $2(.),,,,,,, ~,o $2 ( A (.))

est une pr6sentation de Hom (., N)/O(N). Les autres exemples classiques peuvent se traiter selon le m6me esprit (cf. [9]).

(0.2.5) Remarque. Lors des d4monstrations, on utilise la th6orie des repr6sentations du groupe sym6trique; c'est essentiellement pour cela qu'on suppose le corps de base k de caract6ristique nulle.

(0.3.1) Deux points de vue s'offraient pour la r6daction de ce travail: le point de vue alg6brique off l'on traite le foncteur k[Hom (., N)] 6 et le point de vue g6om6trique off c'est du foncteur Hom (., N)/G dont il s'agit. Outre des avan- tages subjectifs, la premiere fa~on est directe et 616mentaire; la seconde par contre permet des d4finitions simples (celles des vari6t6s V~,p(Q) et des mor- phismes X,(Q) par exemple). On a choisi celui-ci pour l'introduction et celui-l~ pour l'expos6.

Ce travail se compose de deux parties tr~s largement ind6pendantes, les w167 d'une part, et les w167 de l'autre.

Au w on 6tudie les transformations naturelles entre les foncteurs S*| ~, a e N x. Au w on d6montre un "demi th6or~me de pr6sentabilit4" pour un type de foncteurs. Au w on applique les r6sultats du paragraphe pr6c6dent au foncteur k[Hom (., N)] 6.

Le w est consacr6 h des rappels et preuves de r4sultats relatifs h l'alg~bre du groupe sym6trique. Au w on d6montre la proposition (0.2.4).

(0.4.1) Conventions. Le corps de base k est de caract6ristique nulle. Lorsqu'on parlera d'espaces vectoriels, sans autre pr4cision, il s'agira toujours

d'espaces vectoriels de dimension finie.

(0.4.2) Notations. ~: la cat6gorie des espaces vectoriels de dimension finie. ~ : la cat6gorie des espaces vectoriels (non n6cessairement de dimension finie). 9~: la cat6gorie des alg~bres commutatives (non n6cessairement de type fini). Q: un espace vectoriel. Q': le dual de Q. S*(Q): l'alghbre sym4trique de Q. | l'alg~bre tensorielle de Q.

Page 8: Sur la théorie classique des invariants

2 6 6 TH. VUST

S"(Q): la puissance sym6trique n eme de Q. | la puissance tensorielle rt eme de Q.

k [ Q ] = S*(Q'): l 'alg~bre des fonctions polynomiales sur Q. Soit ~ : Q1---~ Q2 une application polynomiale; on note k[r k[Q1]

l 'homomorphisme induit par ~ et d6fini par k[q~](p) = poq~, p e k[Q2]. Soft ~ : S*(Q1) ~ S*(Q2) un homomorphisme; on note qJ+ la restriction de t~

l'id6al maximal de S*(QI) engendr6 par Q1. L J, K: des ensembles fnis. Soft a, b e NI; on d6signe par ab l'616ment de N I d6fini par (ab)(i)= a(i)b(i),

i e I ; on note lal=~,i~xa(i); on 6crit a<~b si a(i)<-b(i) pour tout i e L

w Transformations naturelles entre ies S * | ~

(1.1.0) On consid~re la cat6gorie ~ des espaces vectoriels de dimension finie et la cat6gorie ~ des espaces vectoriels non n6cessairement de dimension finie. Dans ce paragraphe on s'int6resse aux transformations naturelles (dans ~ ) entre certains types de foncteurs de ~ dans ~ .

(1.1.1) Soft Q un espace vectoriel et A un foncteur covariant de ~ dans ~ . L 'espace vectoriel A(Q) est muni naturellement d 'une structure de GL(Q)- module: s . x = A(s)x, s ~ GL(Q), x ~ A(Q). Lorsqu 'on parlera du GL(Q)-module A(Q), il s 'agira toujours de cette structure. Lorsque A = | ou S*, on a la structure habituelle de GL(Q)-module sur | ou S*(Q); on remarque en passant que ces deux derniers GL(Q)-modules sont semi-simples (cf. [2] chap. 2).

Soft A et B deux foncteurs covariants de ~8 dans ~ . Pour signifier que v e s t une transformation naturelle (dans ~ ) de A vers B, on 6crira souvent v:A ~ B. S i v est une telle transformation, il est clair que la valeur v(Q)~ H o m (A(Q), B(Q)) de v e n l 'espace vectoriel Q est un homomorphisme de GL(Q)-modules (on parlera aussi d'application lin6aire GL(Q)-6quivariante).

(1.1.2) On d6signe par I l 'ensemble {1 . . . . , r}. Soft a e N x. Pour tout espace vectoriel Q, on note

| = ~ |

On d6finit ainsi le foncteur |

Page 9: Sur la théorie classique des invariants

S u r la t h 6 o r i e c l a s s i q u e d e s i n v a r i a n t s 2 6 7

(1.1.3) EXEMPLE. Soit a ~ N z, n ~N. II est bien connu qu'on a un isomor- phisme naturel

S n ~ a -.o ~ ( s d ( 1 ) ~ a ( 1 ) ) ~ . �9 �9 ~ ( s d ( r ) ~ a ( r ) ) . Z cl(i)=n

L'espace vectoriel S*| est muni d'une graduation de type N 1, sa composante homog~ne de degrr d ~ N x, [S*| a, 6rant isomorphe h Sa~|174174174 On note /za~(O) le compos6 des applications canoniques

~ ) l a d I ( O ) ~ [ @ a ( 1 ) d ( l ) ( o ) ] @ �9 �9 . (~[@a(r)d(r ) (o)] --). [ s * @ a ( o ) ] d ~ s * @ a ( o )

et tr~a(O) le compos6 de

S*t~(O) pz~ [S*~,(O)] d __~ [Sa~I)| |174

d o d On obtient ainsi deux transformations na ture l l es /~ et cr~ telles que p.~ cr~ est la projection de S*| ~ sur sa composante homog~ne de degr6 d e Nk

(1.1.4) Soit Q et V deux espaces vectoriels et f : V -~ S*| une applica- tion lin6aire, a e Nk Pour d e N x, on pose

fa = cra(Q)o/: V---~ |

De cette mani~re, on a une d6composition canonique de f en

/= Y. d ~ N I

Si V e s t un GL(Q)-module et f est GL(Q)-6quivariant, alors les fa sont aussi GL( Q)-6quivariants.

(1.1.5) EXEMPLE. Soit n~N. On note I"(Q) la repr6sentation usuelle de l'alg6bre k[~(n)] du groupe ~ (n ) des permutations de {1 . . . . . n} dans @"(Q). Soit x e k[~(n)] ; l'application ~'(.)(x) qui h tout espace vectoriel Q fait corres- pondre "r(Q)(x)~ End (@"(Q)) est une transformation naturelle de @" vers |

Page 10: Sur la théorie classique des invariants

268 TH. VUST

(1.1.6) A c e propos, on rappelle le r6sultat fondamental suivant (cf. [1] w [2] chap. 2 w [10] chap. IV w le commutant de Im z(Q) dans End (| est engendr6 par l'image de la repr6sentation de GL(Q) dans | D'aprbs le thdorbme de densit6 ([4] chap. 17 w on a donc

EndoL(o) ( | = ~-(Q)(k[~(n)]).

D'un autre c6td on a

HomoL(o) ( |174 pour m ~ n.

En effet, si a: |174 est une application lindaire, a ~ 0 , on a, pour l 'homoth6tie s ~ GL(Q) de rapport A

et

a(s.x) = a ( X " x ) = x " a ( x )

s .a (x ) = x ma(x);

on doit donc avoir m = n si on veut que a soit GL(Q)-6quivariant.

(1.1.7) PROPOSITION. Soit v : | 174 ", a ~ N r, b ~ N J, une transfor-

mation naturelle. Alors v est somme de transformations natureUes du type

tz~ ao r( . )(x) , d ~ N% x ~ k[~(ladl)].

Preuve. a) I1 suffit de faire la d6monstration lorsque Card (J) = 1, i.e. lorsque | 174 n ~ N .

Soit Q un espace vectoriel. On considbre la d6composition

v(Q) = ~/z~(Q)o ~(Q)a d

donn6e en (1.1.4); de la d6finition de v(O) d rdsulte que u(.) d est une transforma- tion naturelle | | Une telle transformation n'est diff6rente de 0 que si n = ladl (cf. (1.1.6)).

b) I1 suffit donc de d6montrer que toute transformation naturelle ~ : | --~ | n ~N, est de la forme ~'(.)(x), x e k[~(n)] . On se donne un espace vectoriel P, dim P~>n. On sait que End6L(e)( | (1.1.6) et que la repr6sentation r(P) est injective (cf. [10] chap. IV). On note x l'616ment de

Page 11: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 269

k[| tel que l"(P)(x)= IX(P). On v6rifie facilement qu 'on a alors r (O) (x )= Ix(O) lorsque dim O ~< dim P. Lorsque dim O > dim P, on prend y e k[~(n) ] tel que

"r(Q)(y) = Ix(Q); on a ators comme avant r(P)(y) = IX(P), d'o/a r(P)(y) = r(P)(x) et enfin y = x par injectivit6 de ~-(P). On a donc IX = r(.)(x) ce qui ach6ve la d6monstration.

(1.2.1) Le cas particulier des transformations naturelles de | vers S*| ~ lorsque b 6 N J est la fonction b(j)= 1, j ~ J, admet un traitement intrins6que trEs

agr6able. Soit a ~ N * et N un espace vectoriel. A tout 616ment t ~ | (N)' on associe une

transformation naturelle X, :@~-'-~ S * ( . | de la mani6re que voici: pour tout

espace vectoriel O, on pose

x,( O) :| Q) ---~ S*( Q | N')~- k[Hom (Q, N)]

x ~ [u ~ to|176

tu c Hom (O, N)). On d6signc par e : S * ( N | k l 'homomorphisme qui prolonge l'applica-

tion

N| k

Via l'isomorphisme S * ( N | k[Hom (N, N)], e devient l 'homomorphisme d'6valuation au point 1N ~ Hom (hi, N).

(1.2.2) PROPOSITION. Soit v :| ~ S*(. | N') une transformation naturelle,

a ~ N ~. ll existe alors un unique t c | ' tel que v=X,; de mani~re precise, t = ~ o v ( N ) .

Preuve. Soit O un espace vectoriel et x ~ | On interpr~te l'616ment

~'tO)(xt comme une fonction polynomiale sur Hom (O, N). I1 s'agit de calculer [~'(O)(X)](U) pour tout u ~ H o m ( O , N ) . Puisque v est une transformation naturelle+ pour un tel u, on a le diagramme commutatif

@+cO, ' " + S + I O | kl l lom (O, N>]

S +. ",, ' ++ K l ,

| " ' + S*IN| k[Hom (N,N)] .

Page 12: Sur la théorie classique des invariants

270 TH. VUST

O r

[v(Q)(x)](u) = [S*(u | 1)(v(Q)(x))](1N)

= [e o S*(u | 1)o v(Q)](x)

= [e o v(N)o| (u)](x) = [X~o~(N)(O)(x)](u)

d'ofa l'affirmation.

(1.3.1) L E M M E DE P R O L O N G E M E N T . Soit O un espace vectoriel et f : | --~ S*| O) une application lin~aire GL( O)-~quivariante, a e N ~, b ~ N J. Il existe alors une transformation naturelle ~ :| __~ S. | telle que q~( Q)= f.

Preuve. I1 suffit de d6montrer la proposition lorsque Card (J) = 1, i.e. lorsque | | n e N. On consid~re la d6composition

donn6e en (1.1.4), oh fe : | ~ | est une application lin~aire GL(O)- 6quivariante. I1 reste donc ~ prouver que, pour toute application lin6aire GL(O)- 6quivariante g: | | il existe une transformation naturelle 7 :| | telle que 7 ( O ) = g; cela r6sulte imm6diatement de (1.1.6).

(1.3.2) Remarque. Le prolongement q~ de f n'est pas unique. On peut cepen- dant trouver un prolongement canonique de f de la manibre que voici.

On se ram~ne comme avant au cas d 'une application lin6aire GL(O)- 6quivar ian teg :~ n ( O ) - ~ | Le noyau de r(O):k[~(n)]- -~ End ( | est un id6al bilat~re de l'alg~bre semi-simple k[~(n)] ; il admet donc un suppl6mentaire canonique E; on note alors x e E l'616ment tel que ~'(Q)(x) = g e t on prend ~-(.)(x) comme prolongement canonique de g.

(1.4.0) On consid6re maintenant les foncteurs du type S*| comme prennant leurs valeurs dans la cat6gorie 9I des alg6bres commutatives (et non plus seule- ment dans ~ ) et on s'int6resse aux transformations naturelles (dans 91) entre ceux-ci.

(1.4.1) La proposition (1.1.7) fournit une description de toutes les transforma- tions naturelles S* |174 quant h (1.3.1), il donne imm6diatement le r6sultat suivant:

LEMME DE P R O L O N G E M E N T . Soit Q un espace vectoriel et f : S*| ( Q) ~ S*| Q ) un homomorphisme GL( Q)-~quivariant, a ~ N I, b ~ N J. Il existe alors une transformation naturelle (dans 91) to:S*| b---~ S*| telle que

~(O) =f.

Page 13: Sur la théorie classique des invariants

%ur ]a l h e o r l e cld,,,,Iqu~ de', in~,arldrll ,, 271

(1.4.2) On note encore ~ , (Ol le p ro longeme n t de ~,~O1:@"10~---, S * I O @ N ' )

S* | t e | ' (cf. t l . 2 .1 )k on a donc une t ransformat ion naturel le (dan~

Pll ~ , : S * | ~---~ S * ( . | La propos i t ion l l . 2 .2 ) donne la

P R O P O S I T I O N . Sou t' : S*| ~ S * I . | N'I une transh~rmatum namrelle

(dans ~21 ~, a ~ N ~. I1 extste alors un umque t ~ | tel que ~, = ~,. de mami're

precise, t = ~" �9 uIN)[|

w l,es foncteurs A,

(2.1.(I) On se donne pour tout ce pa rag raphe un espace ~ectonel N.

Soit A un sous- fonc teur de S * [ . @ N ' ) et p f N. On considcre la propr ic t6

d ' ex tens ion EIp) que voici:

Soit P u n espace ~ectoriel de d imens ion p: toute t ransformat ion naturel le

~r174 ~ --, S * ( . | a ~ N x, telle que Im ~r A l P ) a son image dans A, i.e.,

pour tout O, I m ~ ( O ) c A ( O ) . A u t r e m e n t dit, notant t "Tinclusion'" A ' - - ,

S * ( . | si Im ~ ( p ) c ALP), alors ~ ,,e factorise a tra~ers t en une t rans forma-

tion na ture l le 3' : S* | --, A.

On consid6re ensui te la condi t ion de finitude FIp):

Soit P un espace vector ie l de d imens ion p; I 'a lg6bre A l P ) est de type fini,

Dans ce pa r ag raphe on va d6crire les sous- foncteurs de S * ( . | poss6dant

les propr i6 t6s E(p) et F(.p) pour un ent ie r p~>dim N, puis d6mon t re r que ces

foncteurs a d m e t t e n t une pr6senta t ion d 'un type par t icul ier . Au pa rag raphe sui-

vant , on d6mon t r e r a que le foncteur S * ( . | N ' ) ~ poss~de E(p), p >I dim N.

(2.1.1) Voici un aut re exemple . Soit I = { 1 . . . . . r}, a e N * et t e @ " ( N ) '. On

consid6re la t r ans format ion nature l le

X, : S*@ ~ --, S * ( . @ N ' )

d6crite en (1.4.2); g6om6t r iquemen t ~r est le comorph i sme du morph i sme

po lynomia l

X t (Q) : Q ' @ N --- H o m (Q, N) --~ ~)'~( 0 ) '

u ,--, to | = |

Page 14: Sur la théorie classique des invariants

2 7 2 TH, VUST

(u' d6signe l'application transpos6e de u). On note A, le sous-foncteur Im Xt de S*(. | I1 est 6vident que A, poss~de F(p) pour tout p. De plus

(2.1.2) LEMME. Le foncteur A, posskde la propri~t~ E(p) pour tout p >>- dim N.

Preuve. Soit x : S *| S*( . | une transformation naturelle, b e N J ; d'apr~s (1.4.2) il existe s~| ' tel que X=Xs. Soit P u n espace vectoriel de dimension p~>dim N; on suppose que Im Xs(P)cA , (P )=Im x,(P). Puisque le GL(P)-module S*| est semi-simple, il existe un homomorphisme f:S*| ---) S*| GL(P)-6quivariant tel que x~(P)of=xs(P). On d~signe par q~:S*| b ~ S*| ~ une transformation naturelle telle que ~(P) = f (cf. (1.4.1)).

On note cl)(Q):|174 ' le morphisme polynomial d6fini par k[(/)(Q)] = q~(Q). Par hypoth~se, on a

dp(P)oXt(P) = X~(P);

Pour u e Hom (P, N), on a donc

r o| (u')(t) = | (u')(s),

d'ofl

| (u ')~ qb(N)( t) = | (u')(s)

et enfin

qb(N)(t) = s

puisqu'il existe des 616ments surjectifs dans Hom (P, N). Un calcul semblable montre ensuite que, pour tout espace vectoriel

~ (O)oX, (O) = X~(Q), i.e. que xtoq~ =Xs = x, d'ofi l'affirmation. O,

(2.2.1) LEMME. Soit W un sous-GL(O)-module de dimension finie de S*| I1 existe alors b e n J e t une application lindaire sur]ective GL(O)- dquivariante | ~ V.

L'assertion provient de (1.1.3) et de la semi-simplicit6 des GL(Q)-modules en question.

(2.2.2) Soit L une sous-alg6bre de type fini de S* (P | on suppose que L est stable par GL(P). I1 existe alors a e N I et un homomorphisme GL(P)- 6quivariant surjectif g:S*| ---) L. Soit en effet V un sous-GL(P)-module de

Page 15: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 273

dimension finie de L qui engendre L; puisque P | est GL(P)-isomorphe P ~ ) . . . ~ P , il r6sulte de (2.2.1) qu'il existe a ~ N x et une application lin4aire surjective GL(P)-4quivariante g~ : | V. On prend pour g le prolongement

de gl-

(2.2.3) PROPOSITION. Soit A un sous-foncteur de S*( . | v&ifiant E(p) et F(p) pour un entier p >i dim N. Soit P u n espace vectoriel de dimension p et

g : S*@"(P) --~ A(P)

un homomorphisme GL(P)-dquivariant surjectif, a c N I (cf. (2.2.2)). Il existe alors une transformation naturelle et une seule

y : S * |

teUe que 7 ( P )= g; pour tout Q, 7(Q) est surjectif ; il existe de plus t ~ | ( N) ' tel que

A = A,.

C OR OLLAIRE. Soit A un sous-foncteur de S*( . | N') v&ifiant E(p) et F(p) pour un entier p >! dim N. Alors A v&ifie E(q) pour tout q >! dim N e t F(q) pour tout

q ~ N .

Cela r6sulte de la proposition et de (2.1.2).

Preuve de la proposition. a) On note ~ : A ~ S*(. | N') l'injection canonique. Alors ~(P) o g : S*| a (P) --~

S * ( P | est un homomorphisme GL(P)-4quivariant; d'apr~s le lemme de prolongement (1.4.1) il existe x : S * | a ~ S* ( . | telle que x(P) = L(p)og. Ce prolongement est en fait unique: en effet, si X1 en 6tait un autre, on aurait xI(N) = x (N) puisque dim N ~ d i m P, d'oh X =X1 d'apr~s (1.4.2).

Comme A poss~de la propri6t6 E(p), X se factorise ~ travers ~ en une transformation naturelle 3,: S*~ a--~ A telle que 7(P) = g; de l'unicit6 de X r6sulte ensuite l'unicit6 du prolongement 3, de g, d'oh la premiere affirmation.

b) L'homomorphisme 7(Q) est surjectif lorsque dim Q ~ dim P. On se donne une application lin6aire surjective u:P---~ Q. Par fonctorialit6

A(u ) est surjectif; par suite A(u)oT(P) = 7(Q)oS*| est surjectif; il e n e s t

donc de m6me de 3'(Q). c) L 'homomorphisme 7(Q) est surjectif lorsque dim Q/> dim P (~> dim N). Soit V un sous-GL(Q)-module de dimension finie de A(Q); il faut prouver

Page 16: Sur la théorie classique des invariants

274 ~ . VUST

que Ves t contenu dans Im 3'(Q). D'apr~s (2.2.1) il existe b ~N J e t une applica- tion lin6aire GL(Q)-6quivariante f:| S*(Q| dont l'image est V; du lemme de prolongement (1.3.1) r6sulte qu'il existe q~ :@b._~ S*( . | telle que

~(O) =f . On se donne une application lin6aire surjective v :Q ~ P. On a la situation

@b(o) ~(o)=r , S*(P@N')

| l ~ A(Q)| c.-."" ls.(~| n

@b(p) ~(P) ] a(~ ' S*(P@N') "-. ~ I

A(P)

On voit alors imm6diatement que Im q~(p)c A(P). Maintenant, puisque 3,(P) : S*| ~ A(P) est surjectif et puisque le GL(P)-

module S*| est semi-simple, il existe une application lin6aire GL(P)- 6quivariante m :| S,| telle que 3'(P) ~ = 3'(P)- On prend t x :| ~ S, | telle que /z(P) = m ((1.3.1)). On a la situation

| r=~(o) , S*(Q@N')

S*@"(Q) , A(Q) s*(~|

"~/" , S*(P| N')

S , ~ ( p ) ....... vtp) ,A(p) r ' ~

et il reste h d6montrer que la face sup6rieure de se diagramme commute. On consid~re alors f - 3,(Q)o/x(Q) :| S*(Q| c'est un homomorphisme de GL(Q)-module dont l'image est contenue dans le noyau de S*(v | du lemme (2.2.4) ci-dessous, r6sulte que cet homomorphisme est identiquement nul. On a donc f = ~/(Q)otx(Q), d'o/1 V = Im f c Im 3'(Q); l'assertion c) est d6montr6e.

d) On d6signe par t~| ' l'616ment tel que X = X, (cf. (1.4.2) et la partie a) de la preuve). Puisque X = ~~ les foncteurs Im X = A , et Im 7 = A coincident; cela termine la d6monstrati0n de la proposition.

(2.2.4) LEMME. Soit P, Q deux espaces vectoriels avec dim O ~>dim P~> dim N e t v : Q --~ P une application lindaire surjective. Soit V un GL(Q)-module (non n~cessairement de dimension )'inie) et f: V---~ S*(Q| une application lindaire GL(Q)-dquivariante. Si Im f c Ker (S*(v| 1)), alors f = O.

Preuve. L'homomorphisme S*(v | s'interpr6te g6om6triquement comme

Page 17: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 275

l 'application lin6aire

v . : H o m (P, N)=P' | Q ' @ N = Hom (Q, N)

et K e r ( S * ( v | comme l'id6al de I m v . dans S*(Q| Comme dim Q>~ dim P>~dim N, GL(Q). Im v . = H o m (Q,N) ; il r6sulte de lh que (0) est le seul sous-GL(Q)-module de S*(Q| qui est contenu dans Ker (S*(v| 1)). Enfin, puisque Im f est un sous-GL(Q)-module, on a bien f = 0.

(2.3.1) Soit m e N et a e N ~. On se donne un espace vectoriel M de

dimension m. Pour tout espace vectoriel Q, on consid~re

S*| S*| ~ S*|

o~ u : Q--~ M est une application lin6aire de rang maximum. On note I~,,,(Q) le plus grand sous-GL(Q)-module de s*| qui est contenu dans Ker (S*| c'est un id6al de S*| qui est ind6pendant du choix de u. On a I~,m(Q) = 0 lorsque dim Q<~m. G6om&riquement , ~,m(Q) est l'id6al de la sous-vari6t6 GL(Q). Im (| de @~(Q)' form6e des formes multilin6aires de support de d imens ion '~ < m (pour toute partie E d'un espace vectoriel, on no te /~ l 'adh6rence de E pour la topologie de Zariski). On d6signera par C~,~(Q) le quotient S*| et par 0~,,,(Q) ou encore O(Q) l 'homomorphisme canonique S*@~(Q) ---~ Ca,re(Q); C~,,~ est un foncteur covariant de ~ dans 92 et 0 une transformation naturelle S*| ~ ~ Ca,,,.

(2.3.2) LEMME. Soit p e N, p I> dim N; route trans[ormation naturelle x:S*|174 a e N ~, se factorise ?L travers O:S*| en une transformation naturelle ~ : C~,p ~ S*(. | N').

Preuve. Soit Q un espace vectoriel de dimension ~>p et v: Q---~ P une application lin6aire surjective. On a la situation suivante:

l~,p(Q) ~ , Ker (S*(|

S*@"(O) xlo~ , S*(Q@N')

s'|176 1 ""~ Ca,p( O) I s''~| S.| x~m ' S * ( P |

Le sous-espace x(Q)(~.p(Q)) est un sous-GL(Q)-module de S*(Q| contenu dans le noyau de S*(v@l) . D'apr~s le lemme (2.2.4), un tel sous-espace est

Page 18: Sur la théorie classique des invariants

2 7 6 TH. VUST

n6cessairement r6duit g (0). L'homomorphisme x (Q) se factorise donc lorsque dim Q~>p. Comme C~,p(Q)=S*| lorsque dim Q~<p, l'attirmation est d6montr6e.

(2.3.3) Soit a un id6al de S*| on suppose que a est stable par GL(P); il existe alors b e n J e t un homomorphisme GL(P)-6quivariant r:S*@b(P)----~ S*| tel que l'id6al engendr6 par Im r§ est 6gal g a (r§ d6signe la restriction de r h l'id6al s*| form6 des 616ments de s*| de degr6 strictement positif). Soit en effet V un sous-GL(P)-module de dimension finie qui engendre a. D'apr~s (2.2.1), il existe b e n J et une application lin6aire surjective GL(P)- 6quivariante rl:| V. On prend alors pour r le prolongement de rl.

(2.3.4) Dans l'6nonc6 ci-dessous, l'usage du mot "pr6sentation" est abu'sif: on n'exige pas ici que la premiere alg~bre (resp. le premier foncteur) "qui pr6sente" soit une alg~bre de polyn6mes (resp. prenne ses valeurs dans les alg~bres de polyn6mes).

En outre, si L est une sous-alg~bre de type fini de S*(P | stable par GL(P), il r6sulte de (2.2.2) et (2.3.3) qu'il existe une pr6sentation de L (dite GL(P)-6quivariante) du type

s*@b(p) 2-) S*@a(p) g_~ L

o/1 r et g sont des homomorphismes GL(P)-6quivariants.

PROPOSITION. Soit p ~ N, p >! dim N, et ~ : C,,p ~ S*(. | N') une transfor- mation naturelle (dans 9~), a ~ N ~. Soit P un espace vectoriel de dimension p e t

s*| Z_) S*| = C~,p(P) ~(P)) Im ~(P)

une prdsentation GL(P)-~quivariante de Im z/(p), b e n J. Alors, il existe une transformation naturelle ~ : S*| b ~ C,,p telle que ~(P) = ~; pour une telle transfor- mation, la suite

S.| o_~ C~.p ~ Im z/

est une prdsentation du foncteur Im ~.

Preuve a) D'apr~s (1.4.1), il existe une transformation naturelle o:s*| S*| ~

telle que o(P)= f; alors iS= 0~ est une transformation naturelle S*| Ca,p telle que O(P)= F.

b) L'id6al de C,,p(Q) engendr6 par Im iS(Q)+ est 6gal ~ Ker ~(Q) lorsque dim Q ~< dim P.

Page 19: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 277

On se donne une application lin6aire surjective u :P--~ Q. Par fonctorialit6, C~,p(u)(Ker~,(P))=Ker~,(Q); par cons6quent, si ImtS(P)§ engendre l'id6al Ker ~(P), Im (C~,p(u)o~(P)§ (~(Q)oS*| engendre l'id6al Ker "~(Q); comme u est surjectif, rassertion b) est d6montr6e.

c) L'id6al de Ca,p(Q) engendr6 par Im ~(Q)§ est 6gal ~ Ker ~(Q) lorsque dim Q > dim P (I> dim N).

On se donne une application lin6aire surjective v : Q -~ P. Puisque ~(P)~247 = 0, le sous-espace Im (~(Q)o/~(Q)§ est un sous-GL(Q)-module de Ker (S*(v ~ 1)). Du lemme (2.2.4) r6sulte alors que ~(Q)otS(Q)§ i.e. que ImtS(Q) . c Ker ~/(Q).

R6ciproquement, soit V un sous-GL(Q)-module de dimension finie de Ker~(Q) ; il faut d6montrer que V e s t contenu dans rid6al engendr6 par Im iS(Q)§ Puisque le GL(Q)-module S*| est semi-simple, il existe c e N K et une application lin6aire GL(Q)-6quivariante m:|174 telle que Im(O(Q)om)=V (cf. (2.2.1)). On note p: |174 une transformation naturelle telle que t~(Q)--m (cf. (1.3.1)). Par fonctorialit6, Im(O(p)ol~(P))c Ker ~(P).

Pour tout espace vectoriel M, on pose

(ft. O)(M) : |174 S*| --~ C~.p(M)

x | ~-~ ~(M)(x) . 0(M)(y)

(produit clans l'alg6bre C~.p(M)). Par hypoth~se, rimage de (/~. O)(P) est 6gale ~ Ker ~(P). Par semi-simplicit6

des GL(P)-modules en question, il existe une application lin6aire GL(P)- 6quivariante n:~(P)- -~|174 telle que (~. O)(P)on=O(P)ot~(P). Utilisant une g6n6ralisation facile de (1.3.1), on voit qu'il existe

v:| |174174176

telle que v(P) = n. La situation est la suivante:

| ~(o) , | O)| S,|

I o(o)o~ ~ J ~ . o)(o) S*t~b(O) , Ca, p(O) , S* (O~N' )

1 ~(o) j ~(o) | ~(P) , |174174 )

O(P)~(P~) ~P) S*| ~(p) , Ca,p(P) ~(p) , S*(P| N')

Page 20: Sur la théorie classique des invariants

2 7 8 TH. VUST

o/1 le~ fl~ches verticales repr6sentent les morphismes induits par v. II faut d6montrer que le triangle du haut est commutatif.

On pose c t = O ( Q ) o p , ( Q ) - ( ~ . O)(Q)ov(Q): c'est une application lin6aire GL(Q)-6quivariante @C(Q)_.~ Ca,p(Q) dont l'image est contenue clans KerC~,p(v). Or, KerC~,p(v)~-KerS*| comme ~a,p(Q) est par d6finition le plus grand sous-GL(Q)-module de S*@~(Q) qui est contenu dans Ker S*@a(v), (0) est le seul sous-GL(Q)-module de C~,p(Q) qui est contenu dans Ker C~,p(v). On a donc ct = 0 et par cons6quent Im(O(Q)ol~(Q)) = V e s t contenu clans l'id6al de C~,p(Q) engendr6 par Im if(Q)+. L'assertion c) est ainsi d6montr6e.

(2.4.1) Le th6or~me que voici r6sume les paragraphes 1 et 2 de ce travail; il est cons6quence imm6diate des propositions (2.2.3), (2.3.4) et du lemme (2.3.2).

THt~ORI~ME. Soit A un sous-foncteur de S*( . | N') vdrifiant les conditions E(p) et F(p) pour un entier p >I dim N. Soit P u n espace vectoriel de dimension pe t

S*| ~ S*| ~ A (P)

une presentation GL(P)-dquivariante de A(P), a e N ~, b e N J. Alors

(i) il existe deux transformations naturelles 3, : S*| ~ ~ A et p : S*| b --~ S*| ~ telles que

1) T(P) = g, p(P) = r, 2) 3' se factorise & travers 0 : S*| ~ ~ C~,p en une transformation naturelle

"y : fa ,p --~ A ,

3) la suite

S*@ b ~ Ca,p ~ A

og~ ~ = Oop est une presentation de A; (ii) routes transformations naturelles 3" et p satisfaisant 1) satisfont aussi 2) et

3); (iii) il existe t ~ @a(N)' tel que A = A,.

w Le foncteur S*(. | N') G

(3.1.1) Dans ce paragraphe, on se donne un espace vectoriel N et un sous-groupe G de GL(N) .

Soit Q un espace vectoriel; sur Q | on consid6re lcs op6rations usuelles de GL (Q) et G; ces deux op6rations commutent. L'alg6bre S * ( Q | est donc

Page 21: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 279

munie d'une structure de GL(O)-module (semi-simple) et d'une structure de G-module. On d6signe par S*(Q| N') 6 la sous-alg6bre des invariants de G dans S*(Q| On consid~re S*( . | c'est un foncteur de ~ dans 21, sous- foncteur de S*(. |

(3.1.2) PROPOSITION. Le foncteur S*(.| N') ~ poss~de la propridt~ E(p) de (2.1.0) pour tout entier p ~ d i m N.

Preuve. Soit P un espace vectoriel de dimension p>~dim N. Soit a e N x et x:S*| S*(.| une transformation naturelle. On suppose que Im x (P)c S*(P| ~. On sait qu'il existe te| ' tel que X=X, ((1.4.2)). Pour d6montrer que Im x , (Q)c S*(Q| ~ quelque soit l'espace vectoriel Q, on va proc6der g6om6triquement.

L'homomorphisme X,(O) s'interpr~te comme le comorphisme du morphisme polynomial

X,(O) : Q ' | = H o m (Q, N) ~ | (Q)'

u ~ | 1 7 6

(cf. (2.1.1)). Maintenant il est clair que, pour que Im x , (Q)c S*(Q| ~, il faut et il suffit que le morphisme X,(Q) soit constant en restriction aux orbites de G dans Horn (Q, N) (le groupe G op6re dans Horn (Q, N) "au but").

Par hypoth~se, on a

X~(P)(s o u) = XdP)(u)

i.e.

@a((S ~ u)')(t) = @a(bt')(t)

|176174 =|176

s e G , u e H o m ( O , N )

d'oh te[ | G puisqu'il existe u tel que | est injectif. Un calcul semblable montre ensuite que si t~[ | ~, alors Xt(Q) est

constant en restriction aux orbites de G dans Hom (O, N), ceci quelque soit Q, d'ofi la conclusion.

(3.1.3) Supposant que l'alg~bre S*(P@N') ~ est de type fini, d i m P = p ~ > dim N, i.e. que S*(.| c v6rifie la condition F(p) de (2.1.0), on peut appliquer les r6sultats du paragraphe pr6c6dent & S*(.| ~. En particulier, le th6or~me (2.4.1) fournit la "moiti6" de (0.1.4), le th6or~me (5.1.2), qu'on d6montrera plus loin au paragraphe 5, en 6tant l'autre moiti6.

Page 22: Sur la théorie classique des invariants

2 8 0 TH. VUST

(3.1.4) Remarques 1) La condition de finitude F(p) du foncteur S*(. | N') ~ est 6tudi4e dans [3]. 2) D'apr6s (3.1.3), si S* ( . | '~ v6rifie F(p) pour un entier p~>dimN, il

existe t~| ' tel que S*(.@N')O=A,. I1 n'est pas difficile de voir que le sous-groupe d'isotropie GL(N), est 6gal au plus petit sous-groupe observable de GL(N) contenant G (cf. [3]).

R4ciproquement, soit t ~ | On suppose de plus que GL(N), est r6ductif; alors, pour que A, soit 6gal ~ S* ( . | ~ il faut et il suftit que les deux conditions suivantes soient v4rifi4es:

a) A,(N) est int6gralement clos; b) Im Xt(N) est ferm6e dans |

Ces conditions sont clairement n6cessaires (cf. [6]); elles sont suffisantes comme il r6sulte d 'un lemme de R. W. Richardson (cf. [5] lemme 1.8 ou [9]) et de (2.2.3) et (1.4.2).

w Op6rateurs d'antisym4trisation

(4.1.1) Dans ce num6ro on rappelle quelques r6sultats classiques relatifs aux representations des groupes finis.

Soit H u n groupe fini. On note k[H] l'alg6bre du groupe H; c'est une alg6bre semi-simple. On fait op4rer H dans k[H] par multiplication h gauche. Tout H-module irr6ductible est isomorphe h un sous-H-module de k[H]. Les sous-H- modules de k[H] sont les id6aux ?a gauche de k[H]; ceux-ci sont de la forme k[H]e, off e est un idempotent (e 2=e) . Les sous-H-modules irr6ductibles de k[H] sont donc les id4aux minimaux h gauche.

On note h le cardinal de H. L'endomorphisme

# 1 x~-~x =-~ ~'. txt -1 t ~ H

de k[H] est un projecteur d'image le centre de k[H]. Si e est un idempotent non nul, e # n'est pas nul. De plus, si k[H]e est minimal, la composante isotypique de k[H] de type k[H]e est 6gale h k[H]e#; c'est aussi Fun des composants simples de kin].

Soit ( e i ) ~ une famille d' idempotents de k[H] telle que les (k[H]ei)~ forment un syst6me de repr4sentants des classes de H-modules irr6ductibles; alors Card (I) est plus petit ou 6gal au nombre de classes de conjugaison des 616ments

Page 23: Sur la théorie classique des invariants

Sur la thEorie classique des invariants

de H, et pour tout H-module V,

281

V = ~ eff . V, i~I

eft �9 V &ant la composante isotypique de V de type k[H]ei.

(4.2.1) Soit E un ensemble fini. Un diagramme de Young (2~ sur E consiste en la donn6e de deux relations d'6quivalences aR et ac sur E v6rifiant:

1) quels que soient x, y ~ E, "aR{X, y} et ac{X, y}" entraine x = y, 2) quels que soient x, y 6 E, il existe z ~ E tel que "aR{z, x} et ac{Z, y}"

"aR{Z, y} et ac{Z, x}." OU

Les classes d'6quivalence suivant an (resp. ac) sont les lignes (resp. les colonnes) de a. On note pR:E ~ E/aR et p c : E ~ E/ac les projections canoniques.

(4.2.2) LEMME. II existe un ordre (notd <) sur E/ac tel que, pour x, y ~ E, la relation "Pc(Y) < pc(x)" entraine "il existe z ~ E tel que pR(z) = pa(x) et pc(z) =

Pc(Y)."

Preuve. On choisit sur E/ac un ordre satisfaisant la condition

pc(Y) < pc(x) ~ Card (p~lpc(y) ) >! Card (p~l pc(x)).

Un tel ordre convient. Soit en effet x , y ~ E tels que Card(pblpc(y)) >- Card (pclpc(x)). Si pR(x)C~pn(p~lPc(y)), d'apr6s la condition 2) de la d6finition des diagrammes sur E, pour tout y '~ pbIpc(y), il existe z '~ E tel que

pR(Z')=pR(y ') et pc(z ' )=pc(x ) ;

par cons6quent Card(pb lpc(x ) )>Card(pc lpc(y ) ) ce qui est contraire

l 'hypoth6se. On a donc pR(x)6 pR(pClpC(y)), d'ofl l 'existence de z ~ pc~Pc(y) tel

que pn(x) = pR(z).

(4.2.3) On note ~ ( E ) le groupe des permutations de E. Le groupe ~ ( E ) op&e dans l 'ensemble des partitions de E; il op&e aussi dans l 'ensemble des diagram- mes de Young sur E:

(W" OI)R{X , y} ~ O~R{W -1" X, W - I " y} x, y e E , w s ~ ( E ) .

( w �9 COc{X, y} r C,c{W - ~ " x, w -~ �9 y}

2 Cette d6finition m'a 6t6 propos6e par J. L. Koszul.

Page 24: Sur la théorie classique des invariants

282 TH VUST

On dira que deux diagrammes 13l I e t or2 sur E sont de m~me type s'il existe w ~ @(E) tel que w - a l = a2; il faut et il suffit pour cela qu'il existe Wl e ~ ( E ) tel que (wl" al)R =(aE)R (OU (WI" al)C=(az)c). Si T(E) d6signe l 'ensemble des types de diagrammes sur E, on d6duit de l~ que Card (T(E)) est 6gal au hombre de d6compositions de l 'entier Card (E) en somme d'entiers positifs.

Soit a un diagramme sur E. On pose h(a)= Card (E/aR) et on dit que h(a) est la hauteur de ct. Ce nombre ne d6pend que du type de ct ; on peut donc d6finir la hauteur de t pour t~ T(E) par h(t)= h(a) off a ~ t.

Par un raisonnement semblable ~ (3.2.2), on prouve qu 'on a

h(a) = max (Card (pclpc(x))). x ~ : E

(4.2.4) Soit a un diagramme sur E. On note R(a) (resp. C(a)) le sous-groupe de @(E) form6 des permutations qui laissent invariantes les lignes (resp. les colonnes) de a. On introduit alors les 616ments

A~,= ~ e(q)q et S~ = ~ p q E C ( a ) p ~ R ( a )

de l'alg~bre k [ ~ ( E ) ] du groupe ~ ( E ) (e(q) d6signe la signature de q ~ ~ (E) ) . On a visiblement les formules:

Aw. ,, = wA~w -1, Sw �9 ct = wSot w-l ,

qA~ = Aaq = e(q)A~, q ~ C(a),

pS,~ = S,~p = S~,, p ~ R(a) .

w ~ ~ ( E )

(4.2.5) Voici le r6sultat principal de la th6orie des repr6sentations du groupe sym6trique (cf. [1] w [2] chap. 2, [10] chap. IV).

P R O P O S I T I O N . (i) Soit a un diagramme de Young sur E; il existe une constante non nulle

A ( a ) ~ Q (ne d~pendant que du type de a) telle que e(a)=h(a)A,~S~ soit un idempotent de k[tr(E)]; de plus k[tr(E)]e(a) est un iddal minimal.

(ii) Soit at et a2 deux diagrammes sur E; pour que les iddaux engendrds par e(cq) et e(ct2) soient isomorphes, il [aut et il suffit que al et O~ 2 soient du m~me type.

(4.2.6) Soit (ott),~T(~) un syst6me de repr6sentants pour les types de diagram-

mes sur E ; alors les id6aux (k[~(E)]e(ct,)),~T(m constituent un syst~me de

Page 25: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 283

repr6sentants des classes de ~ (E) -modu le s irr6ductibles: on sait en effet que Card (T(E)) est 6gal au nombre de classes de conjugaison des 616ments de ~ ( E ) (cf. (4.2.3)), hombre qui est plus grand ou 6gal au nombre de classes de ~ (E) -modu les irr6ductibles.

D'apr~s (4.1.1), on a donc V = ~ , ~ r ( ~ ) e(a~) #" V pour tout @(E)-module V; de plus, comme e(a~) # est proportionnel h ~ , e(a) , on a aussi

V = t ~ ) ( ~ t e ( a ) " V )"

(4.3.0) Dans ce num6ro, on se donne un ensemble fini E et un nombre entier m. On d6signe par m l 'ensemble des parties de E h (m + 1) 616ments. Pour toute partie F de E, on pose

~ = {w ~ ~ ( E ) 1 w(x) = x, x~ F},

AF = ~ e(q)q, q ~ F

puis

A m ( E ) = ~ ~ e(q)q= ~ A~. F~ra q ~ F FEm

On dira que l'616ment A,,(E) de k [ ~ ( E ) ] est l'op~rateur d'antisym~trisation relativement aux parties de E ~ (m + 1) dl~ments; C'est visiblement un 616ment central de k [~ (E) ] qui est nul si Card ( E ) < m + 1. On d6sire 6valuer Am(E) en

fonction des e(a) #. On suppose dans la suite que 0 ~< m < Card (E).

(4.3.1) La d6monstration du lemme suivant m ' a 6t6 communiqu6e par J. L.

Koszul.

LEMME. Soit a un diagramme sur E et F~ m. Alors A~AFS~ est ~gal dt Card (C(ct)N~F)A,~S,, si les m + l dldments de F appartiennent d des lignes distinctes de ct et est dgal ?t 0 dans le cas contraire.

Preuve. a) On suppose que les 616ments de F appartiennent ~ des lignes distinctes de

a, autrement dit que la restriction pR r r r de pR h F est injective. Soit w ~ F f q C(a) ; on a alors e(w)A,~wS~ =A~S~ (cf. (3.2.4)). Soif w ~ @F, mais w~ C(a) ; alors e(w)A~wS,, = 0. En effet, il existe x ~ F tel

Page 26: Sur la théorie classique des invariants

284 TH. VUST

que pc(x) ~ pc(w �9 x), et on peut de plus choisir x e F en sorte que pc(w �9 x) < pc(x), o5 < est un ordre sur E/ac satisfaisant la condition du lemme (3.2.2); il existe donc z e E tel que p c ( z ) = pR(X) et p c ( z ) = pc(w �9 x). On a zg F puisque PRIF est injectif. On se trouve alors dans la situation classique (cf. [1] lemme (28.11), [2] p. 17, [10] lemme (4.2.A)) d 'une permutat ion w de E et de deux 616ments x et z de E tels que x, z appartiennent h une m6me ligne de a et w �9 x, w �9 z = z appart iennent ~ une m6me colonne de a : on a w = ( w �9 x, z )w(x , z) avec (w �9 x, z ) e C(a) et (x, z ) e R(a) . Par cons6quent on a enfin

A,~wS~ = A~,(w " x, z)w(x, z)'S~ = -A,~wS~.

Puisque A~AFS~ =~, . . . . e(w)A,~wS,, on a bien d6montr6 que si les 616ments de F appart iennent h des lignes distinctes de a, alors A,~AFS,, = (Card ( C(a) fq @F))AaS,~.

b) On suppose qu'il existe deux 616ments x et y de F dans une m6me ligne de a. La transposition (x, y) appartient ~ ~ F f q R ( a ) ; on a donc

AFS~ = (AF(x, y))((x, y)S~) = -AFS,~

d'ofi A~AFS~ = O.

(4.3.2) P R O P O S I T I O N . Soit a un diagramme sur E. Alors A, , (E)A~S~ est un

multiple entier strictement positif de A~S,~ si h ( a ) > m e t est 6gal ~ 0 si h(a)<~ m.

Preuve. Puisque Am(E) est un 616ment central de k [~ (E) ] , on a

A~(E)A,~S~ =A,~A,,,(E)S~ = ~ A,~AFS~. F ~ m

Si h ( a ) > m (resp. h(a)<~ m) l 'ensemble des F e r n dont les 616ments appartien- nent h des lignes distinctes de a est non vide (resp. est vide); l 'affirmation provient donc directement du lemme (3.3.1).

Remarque. Soit (at)t~T(e~ un syst6me de repr6sentants des types de diagram- mes sur E. On peut 6noncer la proposition pr6c6dente en disant que Am(E) est combinaison lin6aire des e(a,) #, h(t) > m.

w Le toncteur Ca, m

(5.1.0) On reprend les notations du paragraphe 4, ~ ceci pros que, pour

Page 27: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 285

E ={1 . . . . . n}, on 6crira ~ (n) , T(n), A~(n) . . . . pour ~({1 . . . . , n}), T({1 . . . . . n}), A,~({1 . . . . . n } ) , . . . .

(5.1.1) On d6signe par I l 'ensemble {1 . . . . , r}; on se donne a e N ~ et m e N. On d6signe par M un espace vectoriel de dimension m. On rappelle que, pour

tout espace vectoriel Q, on notait en (2.3.1) I~,m(Q) le plus grand sous-GL(Q)- module de S*| contenu dans le noyau de

S*|174 ~ S*|

oh u:Q--~ M est une application lin6aire de rang maximum; on notait ensuite Ca,~(Q) le quotient S*| et O(Q) l 'homomorphisme canonique

S*|176 --, C.,m(O). De plus, pour tout d e N I, on a introduit en (1.1.3) l 'application lin6aire

IXaa( O) :@J~dl( Q) --~ S*@"( Q)

dont l ' image est la composante homog~ne de degr6 d de S*@"(Q); g6om6triquement, le prolongement de/x~(Q) h S*| est le comorphisme du morphisme polynomial

M~(Q) :@" (O)' ~ |

( x l . . . . . x , ) ~ x l | . - �9 | �9 �9 �9 | 1 7 4 �9

d(1) d(r)

Xi e @a('~(O)'. On pose enfin

p~,m(O) = �9 t~X(O)o~'(o)(em(ladl) d~I(m)

oh I(m) est l 'ensemble des d e N I tels que Id le<m+1; on d6finit ainsi une transformation naturelle p.,., : | _.. S . | ofa tr(a, m) est l 'application

o-(a, m) : I(m) --~ N

On 6crira encore p..m(Q) pour le prolongement de p.,m(Q) h S*|

Page 28: Sur la théorie classique des invariants

2 8 6 TH. VUST

(5.1.2) Le but de ce paragraphe est de ddmontrer le rdsultat que voici:

THI~ORI~ME. La suite

S,| po.% S , | o > Ca.,,

est une presentation de Ca,,,.

II rdsulte imm6diatement des propositions (5.2.4) et (5.4.4) ci-dessous.

(5.1.3) On note V~,m(Q) la sous-varidt6 ferm6e de | ddfinie par k[V~,m(O)] = Ca,re(O); on a (cf. (2.3.1))

Va, m(O) = GL(Q) . Im |

On ddsigne ensuite par ra,m(Q) le morphisme |174 ddfini par k[r~,m(Q)] = p~,m(Q); alors

r~,m(O) = E) r(Q')(A,.(ladl)oM~(O). deI(m)

La version gdomdtrique du th6or~me (5.1.2) est:

Va, m( O) = r~.~( O)-~(O).

E X E M P L E 1. a = n r N, m = 1. Alors

Vn, l( O ) = { ( X | " . , | x) ~| Q) ', x e Q'}

et

rn, l( O) :| O)'--> | 1 7 6 1 7 4 '

t ~-~ (T(O')(Al(n))(t), ~'(O')(Al(2n))(t| t)

oil A l ( p ) e k[@(p)] est l 'op6rateur

p(p - 1)/2 id - ~, transpositions de ~(p) .

E X E M P L E 2. a = 2. Dans ce cas

r2.m(Q) = I~) I.(Q')(Am(2d))oMd2(Q). [m+l/2]~d~m+l

Page 29: Sur la théorie classique des invariants

Sur la thdorie classique des invariants 287

En th60rie classique des invariants des groupes O (M) et Sp (M) on est amen6 consid6rer les sous-varidt6s V2.m(Q) A S2(Q ') et V2,,.(Q) C'l A 2 (Q') de S2(Q ') et

A 2 (Q') respectivement; la restriction de r2,m(Q) ~t S2(Q ') et A 2 (Q') fournit donc une pr6sentation de ces varidt6s. Un examen soigneux (et fastidieux) devrait donner des rdsultats 6quivalents ~ ceux de [9].

EXEMP LE 3. a = ( 1 . . . . . DEN", m<~n. Alors | ofa N est de dimension n, et

Va,m(O) ~-{v e Hom (Q, N), rang (v )< m}.

Puisque Am(p) = 0 pour p < m + l, on a

ra,m(O) = r ( O ' ) ( A m ( m + 1 ) ) o ~ M . a ( Q ) ; Idl=m+l

comme enfin

Am(m + 1) = ~ e(q)q, qe~(m+l)

on peut se restreindre dans la somme prdc6dente aux d e N" tels que Idt = m + 1 et d(])=O ou 1.

( n )morph ismes On voit donc que r~,,,(O) est somme des m + l

| A ,-+1 (Q,)c| ,)

( X l , �9 �9 �9 , X . ) ~ X i ( 1 ) A " " �9 A Xi(,n+l)

(cf. [9] th6or6me 3 w

(5.2.1) LEMME. L'id~al Ker r(M) de k[~(n) ] est engendr~ par A,,(n).

Preuve. D'apr6s [10] lemme (4.4.B), pour que e(a)e Ker r(M), il faut et il suffit que h ( a ) > m. Comme

t e T ( n ) ~ a ~ t /

Page 30: Sur la théorie classique des invariants

288 TH. VUST

on a

Ker I"(M) =

h(t)>rrt

L'affirmation r6sulte donc imm6diatement de (4.3.2).

(5.2.2) LEMME. Soit u : Q ~ M une application lin~aire de rang maximum; alors, le plus grand sous-GL(Q)-module de | contenu dans Ker | est ~gal ~t Im r(Q)(Am(n)).

Preuve. Si dim Q ~< dim M, alors Am(n)~ Ker r(Q) (cf. (5.2.1)), d'oO I 'ai~rma- tion dans ce cas.

On suppose donc dim Q > dim M e t on note V l e plus grand sous-GL(Q)- module de @n(Q) contenu dans Ker@n(u) . Le groupe ~ ( n ) op~re dans V. Il

r6sulte de lh que l 'ensemble E des x e k [~ (n ) ] tels que Im r(Q)(x) c V est un id6al bilat~re de k [~(n) ] ; de plus, on voit facilement que E = Ker ~'(M), et que, si x est un g6n6rateur central de E, alors Im T(Q)(x) = V. La conclusion provient alors du lemme (5.2.1).

(5.2.3) LEMME. Soit F u n sous-foncteur de | ; il existe alors un idempotent x de k[~ (n ) ] tel que F (Q)= Im ~'(Q)(x) pour tout espace vectoriel Q.

Preuve. a) Pour tout Q, F(Q) coincide avec le sous-espace F'(Q) de | engendr6

par GL(Q) �9 Im F(u), ofJ u : N - + Q est une application lin6aire de rang maximum et dim N = n.

En effet, si dim Q ~< dim N, F(u) est surjective et l 'at~rmation est 6vidente. Si dim Q > dim N, pour toute application lin6aire surjective v : Q ~ N, on a

F(N') = F(v)(F( Q)) = F(v)(F'( Q)) (*)

puisque

F(N) = F(v)(F(Q)) = F(v)( Im F(u)) c F(v)(F'(Q)) c F(N)

o~ u est une section de v. Maintenant, on d6signe par V un suppl6mentaire de F ' (Q) dans F(Q) stable

par l 'op6ration de GL(Q); la projection correspondante de F(Q) sur F'(Q) est la restriction ~ F(Q) d'un op6rateur de la forme ~'(Q)(y), y ~ k [~(n ) ] (cf. (1.1.6)).

Page 31: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 289

Du fait que F est un sous-foncteur de | et de (*) r6sulte qu'on a l e diagramme commutatif

|176 ~ F(O) "'"~'~, F'(O)

| D F(N) +~(Y), F(N)

oh r(N)(y):F(N)--, F(N) est un Ker r (Q)(y) c Ker F(v) ~ Ker | (v). Im ~'(Q)(z)= V (cf. (1.1.6)); on a

isomorphisme. Par consequent, V = On prend enfin z~k[~(n)] tel que

| O)(z ) = .;(N)(z )o| = 0

d'oh r(N)(z)= 0, puisque | est surjectif, et ensuite z = 0, puisque ~'(N) est injectif (cf. (5.2.1)). On a donc V = 0 ce qui d6montre a).

b) Puisque F(u) = | U e Hom (N, Q), on voit que l'assertion a) sig- nifie que le sous-foncteur F de | est enti~rement d6termin6 par sa valeur F(N) en N, dim N = n. L'affirmation du lemme provient imm6diatement de 1~ puisque, d'aprSs (1.1.6) encore une fois, il existe un idempotent x e k[~(n)] tel que

Im ~'(N)(x) = F(N).

(5.2.4) On consid6re la graduation naturelle de type N ~ de S*| puisque l'id6al Ker S*@"(u), u:Q---~ M, est gradu6, il en est de m6me de [a,r~(Q).

PROPOSITION. La composante homog~ne de degr~ d, d e N 1, de Ia.m(O) coincide avec l'image de Ixa~(Q)o'r(Q)(A,,(ladl)).

Preuve. a) On pose n = lad I. Par d6finition, la composante homogSne de degr6 d, ([)a

de [,,m(Q) est le plus grand sous-GL(Q)-module contenu dans Ker S*~a(u)M Im p~(Q). Le lemme (5.2.3) appliqu6 au sous-foncteur Ker/z~ de | montre qu'il existe un idempotent x ~ k[~(n) ] tel que Ker/z~(Q) = Im ~'(Q)(x) (voir aussi la remarque (5.4.2)). On a donc une d6composition naturelle de ~ " ( Q ) en

~ " ( Q ) = Ker/xa(Q)(DKer .r(Q)(x). (*)

b) On a ixa(O)(Ker(~"(u))=KerS*| En ettet, si V c d Ker S*| il existe W c Ker r(Q)(x) tel que Ixa~(Q)(W) = V; puis-

que | r(M)(x), on a bien W c K e r | L'autre

inclusion est tout aussi banale.

Page 32: Sur la théorie classique des invariants

290 xH. VUST

c) De b) r6sulte que l'image par /z,a(Q) du plus grand sous-GL(Q)-module (a) a de | contenu dans Ker | est 6gale h (I) d. On a donc ([)d= Im (Ixa,(Q)oa) oil a est un endomorphisme GL(Q)-6quivariant de @"(Q) dont l'image est (a) a. D'apr6s (5.2.2), on peut prendre pour a l'616ment .r(Q)(Am(n)), d'oh la conclusion.

(5.3.1) Pour poursuivre la preuve de (5.1.2) il est n6cessaire d'en savoir un peu plus sur les op6rateurs Am(E); pour cela, il est utile d'introduire une nouvelle notion.

Soit E un ensemble fini. Une ddcomposition [3 de E en blocs consiste en la donn6e de trois relations d'6quivalence /38, /3a et [3c sur E v6rifiant:

1) quels que soient x, y e E , "[3a{x, y} et [3c{x, y}" entraine x = y; 2) quels que soient x, y e E, "[3c{x, y}" entraine "[3a{x, y}"; 3) quels que soient x , y ~ E tels que [3a{X, y}, il existe z' et z " e E tels que

[3R{x, z'}, [3R{y, z"}, [3c{x, z"}, [3c{y, z'}.

Les classes d'6quivalence suivant [38 (resp. [3R, [3C) sont les blocs (resp. les lignes, les colonnes) de [3. I1 r6sulte imm6diatement de la d6finition que les colonnes d'un m6me bloc ont le m~me nombre d'616ments.

On note p c : E ~ E/[3c et p a : E - ~ E/[3R les projections canoniques. Soit [3 une d6composition de E en blocs. On note K([3) le sous-groupe de

~ (E) form6 des permutations w telles que

a) quels que soit x ~ E, [3R{X, W " X}, b) quels que soient x, y e E tels que [3c{X, y}, alors [3c{W'X, w . y} et

[3B{x, w . x}.

De mani~re plus imag6e, K([3) est le produit des groupes de permutations des colonnes d'un m6me bloc. Le groupe K([3) op~re de mani~re naturelle dans E/[3c.

(5.3.2) Pour toute partie E1 de E on pose

Are(El) = )", AE, F~E~ F E m

o/l Av et m sont comme en (4.3.0). On note f i l'ensemble des parties V de E/[3c telles que Card (V)~ < r e + l , et fit' un domaine fondamental pour l'op6ration de K([3) dans fi.

LEMME. Soit [3 une ddcomposition de E en blocs. L'op&ateur Am(E) est

Page 33: Sur la théorie classique des invariants

Sur la th6orie c lass ique des invar iants 291

combinaison lindaire des dl~ments

wAm(pcl(V))w -1, Verb'. weK(13)

Preuve. a) Pour tout Verb , on note re(V) l 'ensemble des F e r n tels que p c ( F ) c V. La

famille (m(V))w~ constitue un recouvrement de m, il est clair que l 'intersection de deux 616ments de ce recouvrement est vide ou appartient encore h ce recouvrement. Pour p e N , on d6signe par ~(p) l 'ensemble des Ver?t tels qu'il existe p ~16ments distincts deux ~ deux V1 . . . . , V v de ~ avec V = ~ a V~. Enfin, pour toute partie P de m, on note t (P) la fonction caract6ristique de P dans m.

De la formule bien connue

(01) z re(V,) = ,...,~ (-1) v+l ~ r m(Vi,) i p = l 1 ~il<...<i~,--'~ n ./

on d6duit

T(m)= ~ ~(m(v))+. . .+(- IF § ~ ~(m(v))+.... V E ~ V e ~ ( p )

Comme la relation Ve6a(p) implique w. Ve~a(p) pour tout w e K(/3), ort voit ensuite que x(m) peut s'6crire comme combinaison lin6aire des Y,w~K(~(m(w �9 V)), V e r ~ ' :

~(m)= ~ x(v) Y~ ~(m(w. v)). (*) VE~a' w ~ K ( ~ )

b) L'6galit6 (*) permet d'6crire Am(E)=Y.v~mAF sous la forme

,,,~(B)= 2 ~(v) y~ y, a , Veto' w e K ( ~ ) F~rn(w. V)

d'oO l 'affirmation puisque

z w(Z \F=pg l (V)

(5.4.1) Soit a, d e N ~ ; on va associer canoniquement au couple (a ,d) une

Page 34: Sur la théorie classique des invariants

292 TH. VUST

d6composition /3(a, d) de {1 . . . . , [ad[} en blocs. Tout 616ment x de {1 . . . . . [ad[} s'6crit de mani~re unique sous la forme

i -1 x = ~ a(]) d(])+ka(i)+l

]=1

avec k ~ { 0 , . . . , d ( i ) - l } et /e{1 . . . . . a(i)}. On pose alors

i--1

pB(x)=i, pR(x)=l, pc(x)= ~ d( j )+k+l. j= l

La d6composition /3(a, d) est par d6finition la d6composition d6crite par les relations d'6quivalences sur {1 . . . . . ladl} associ6es aux trois applications pB, pa et

Pc. Par exemple pour a = (2, 3), d = (2, 2), la d6composit ion/3(a, d) de {1 . . . . . 10}

admet deux blocs suivant le diagramme

1 3 5 8

2 4 6 9

7 10

On 6crit K(a, d) pour K([3(a, d)) et on identifie { 1 , . . . , lad]}/[3(a, d)c avec {1 . . . . . Idl}. Le groupe K(a, d) op~re dans { 1 , . . . , tdl} comme le sous-groupe

e ( { 1 . . . . . . . . . , d ( j ) \ t j = l j= l

de ~(1 . . . . . Idl). Pour tout t e n t tel que [ t l~<m+l et t<~d, on pose

V ( t ) = {1 . . . . , t(1), d ( 1 ) + 1 . . . . . d(1) + t ( 2 ) , . . . r--I r--1 }

, . . . ~ d( i )+ l . . . . . Y~ a(i)+t(~) ; i=1 j = l

on a Card (V(t))= It[ et Card (pcl(V(t))) = latl. De plus, les V(t) constituent un domaine fondamental ~ ' pour l 'op6ration de K(a, d) dans l 'ensemble ~ des

parties de { 1 , . . . , Idl} avec m + 1 616ments au plus.

Page 35: Sur la théorie classique des invariants

Sur la th6orie classique des invariants 293

(5.4.2) Remarque. Le sous-groupe K(a, d) de o'(tad 1) est reli6 ~ l ' homomor- phisme /xa~(Q) par l'6galit6

| = K e r / z , t t e ) t t te) j ;

en outre, Ker/z~a(Q) est stable par l 'op&at ion de K(a, d). I1 y a donc moyen de se passer du lemme (5.2.3) pour obtenir la d6composit ion (*) de (5.2.4): il suffit de prendre

x = id - 1/Card (K(a, d)) L w. w~K(a,d)

(5.4.3) Soit Vx, V2 et W trois espaces vectoriels, f~ : V~ ~ S ' W , i = 1, 2, deux applications lin6aires et ~ : W--* V~, i = 1, 2, deux morphismes polynomiaux. On pose

et

f l " f 2 : V I | V2 "-')' S * W

X l | ~-> f l ( X l ) " f 2 ( x 2 )

@1| r W---> VI | V2

x ~ ' b l (x ) | 'b2(x).

On a alors

k [ a , l | a, dl v,| = k[a, dlv; �9 k[a, dlv .

Pour a, d ~ N t, on note comme en (5.1.1) Ma~(O) le morphisme polynomial

M~(Q) : | (Q), ~ |

(Xl . . . . . Xr) I'-"> X ! | �9 �9 | �9 �9 | 1 7 4 " " |

d~l) d(r)

la restriction a k[M,,(O)][|176 ~ est ~gale ~/x~(O). Soit t ~ N ~ avec It I ~< m + 1 et t ~< d. On consid~re le diagramme

| M~(o~, | ?

| | |

Page 36: Sur la théorie classique des invariants

294 TH, VUST

On choisit un 616ment w(t) de ~(lad]) tel que z(Q')(w(t)) rende ce diagramme commutatif et v6rifie

pcl(V(t)) = w(t)({1 . . . . . {atl}).

Par exemple, pour a = (2, 3), "d = (2, 2) comme tout-tt-l'heure, et t = (1, 1), on d6sire que w(t) e ~(10) v6rifie

a) r(Q')(w(t))(xl|174174 = xl@x,|174

b) {1, 2, 5, 6, 7} = w(t)({1 . . . . . 5}),

avec x, e | ') et x2e| I1 suffit de prendre

(11 2 3 4 5 6 7 8 9 10) w(t)-~= 2 6 7 3 4 5 8 9 10 "

Revenant au cas g6n6ral, on voit que, puisque l'application transpos6e de r(Q')(w(t)) est 6gale ~ ~'(Q)(w(t)-~), la premiere des conditions impos6es ~ w(t) est 6quivalente

/~(O) = [/x'~(Q) �9 tx~-'(Q)]o'r(Q)(w(t)-~).

(5.4.4) PROPOSITION. L' application p~( Q)o.c( Q)(A,,([ad[) est combinaison lindaire des applications

[tz',,(Q)o~'(Q)(A,,({atl)). /~-'(Q)]o ~, ~'(Q)((ww(t))-l), w~K(a,d)

t parcourant l'ensemble des t e N z tels que [ t l~<m+l et t<~d.

Preuve. D'apr~s (5.3.2) et (5.4.1), t~(Q)oz(Q)(Am([ad[) est combinaison lin6aire des

P'~( Q)~ Q){w~a,a) wAm(pc~( V(t)))w-X } '

oh t parcourt l'ensemble des t e n x tels que [t[<~m+l et t<~d. Or A,,(pcl(V(t)))= w(t)Am({1, . . . , latl})w(t) -~ par choix de w(t) ({1 . . . . . latl} est consid6r6 comme sous-ensemble de {1 . . . . . {ad{}); de plus, i~a~(Q)o~'(Q)(w) = /~(Q) pour tout w eK(a ,d) (cf. (5.4.2) par exemple). On peut donc 6crire

Page 37: Sur la théorie classique des invariants

Sur la th6orie classique des invariants

tx~(Q)o'r(O)(A,.(tadl)) comme combinaison des

tx~(Q)~176 (Am ({ 1 . . . . , tat[})o w ~ ~. ,d ) ~-(Q)((ww(t)-l))

d'ofl la conclusion par choix de w(t) encore une fois.

295

REFERENCES

[1] CURTIS, C. et RE1NER, I., Representation theory of finite groups and associative algebras; Interscience Publishers (1962).

[2] DIEUDONN~, J. et CARREL, J., lnvariant theory, old and new, Advances in mathematics 4 (1970). [3] GROSSHANS, F., Observable groups and Hilbert' s fourteenth problem, Amer. J. Math. 73 229-253. [4] LANG, S., Algebra, Addison-Wesley (1965). [5] LUNA, D., Adherence d'orbites et invariants, Inventiones math. 29 (1975) 231-238. [6] MUMFORD, D., Geometric invariant theory, Springer Verlag (1965). [7] PROCESI, C., The invariant theory of n x n matrices, Advances in mathematics 19 (1976). [8] STUDY, E., Ber. S~ichs. Akad. Wissensch. (1897) 443. [9] VUST, TH, Sur la thdorie des invariants des groupes classiques, Ann. Inst. Fourier, Grenoble, 26

(1976) 1-31. [10] WERE, H., Classical groups, Princeton University Press (1946).

Section de Mathdmatiques, 2-4, rue du Li~vre, Case Postale 124, CH-1211 Gen4ve 24.

Regu le 3 Septembre 1976.