Acta Mathematica Academiae Scientiarum Hungaricae Tomus 17 (3--4), pp. 443--449 (1966)

ATOMES CONDITIONNELS D'UN ESPACE DE PROBABILITI~

Par A. H A N E N (Dijon) et J. NEVEU (Paris)

(Prdsentd par A. R~NYI)

1. Preliminaires

Soit (~2, d , P) un espace de probabilit6. Dans toute la suite on identifiera deux ensembles dans d o u deux fonctions r6elles d-mesurables ne diff6rant que sur un ensemble n6gligeable pour la probabilit6 P; aussi les relations = , c , <= devront toujours &re comprises comme des relations valables presque partout sur (2. On rappelle que lorsqu'on ne consid6re comme ici les ensembles dans d que par leurs classes d'dquivalence, toute famille d'ensembles dans d , d6nombrable ou non, possbde des bornes sup~rieure et inf6rieure dans d que l 'on qualifie de bornes essentielles.

Si N ddsigne une sous o--alg6bre de d , on dSsignera par E ~ l'espdrance condition- helle par rapport A N et on 6crira P~(A) au lieu de Ee(1A); P~(A) est donc l'unique fonction r6elle N-mesurable, ddfinie ~t une 6quivalence pros, telle que

P ( A B ) = fP~(A)dP pour tout BEN.

Le lemme 616mentaire suivant sera fr6quemment utilis6 par la suite.

LEMME. Si N e s t une sous a-algObre de d dans (f2, d , P) et si A C d , l' ensemble {P~(A) >0} est le plus petit ensemble clans ~ (ddfini gl une dquivalence prSs) contenant A (presque s~rement).

D~ONSTRATION. De la d6finition de Pe(A) rappel6e ci-dessus r6sulte que pour tout B E N, les deux 6galit6s AB = O et {P~(A)>0}B = O s'impliquent mutu- ellement; par passage aux compldmentaires on voit donc que l'inclusion B D A 6quivaut ~t l'inclusion B D { P ~ ( A ) > 0 } et le lemme s'en d6duit imm6diatement.

I1 r6sulte de ce lemme que toute relation d'6galit6 ou d'in6galit6 entre ensembles de N o u fonctions r6elles N-mesurables qui est valable sur un ensemble A l'est encore sur l'ensemble {P~(A) >0}.

2.~Atomes conditionnels

DI~F1NITION. Dans l'espace de probabilit6 (f2, d , P), on appelle atome condition- nel par rapport ~t la sous o--alg~bre N de d (en abr6g6 N-atome) tout ensemble A dans d tel que A A d = A A N. On appelle partie N-atomique de f2 la borne sup6rieure essentielle des N-atomes.

Rappelons que la o--alg6bre A N N est d6finie comme la classe {A AB: BCN}. Par suite A f ~ d = { A ' : A ' ~ d et A'~_A} et un ensemble A est un N-atome si et

14" .A_cta B1atbem~lica Academiae Scientlarum H u n j r i c a e I7, ~966

444 A. HANEN ET J. NEVEU

seulement si pour tout A'~ ~r A ' ~ A il existe un ensemble B ~ N tel que A ' = AB. Si N se r6dui t / t {O, f2}, on retrouve la notion habituelle d'atome d'un. espace de probabilit6: A est un atome si tout sous-ensemble de A est n6gligeable ou p.s. 6gal h A. On notera que nous considdrons O comme un atome.

La proposition suivante s'6tablit facilement.

PROPOSITION. Pour qu'un ensemble A ~ ~r soit un M-atome dans (f2, sr P) il faut et il suffit que pour toute fonetion rdelle f ~C-intdgrabIe on ait:

fE~( l~ ) = E e ( f l A ) sur A.

Dt~MONSTRATION. La condition est 6videmment suffisante puisqu'elle exprime la restriction ~t A de toute fonction ~ar donc de route fonction indicatrice d 'un ensemble dans ~ , comme la restriction g A de la fonction N-mesurable E~(f lA) /E~(la); on remarquera que ce dernier quotient est bien d6fini au moins sur l'ensemble N-mesurable {E~IA>0} qui contient A.

Pour montrer que la condition est n6cessaire, on se ram6ne par lin6arit6 et continuit6 dans L a au cas off la fonction f e s t une fonction indicatrice; soit f = 1A,, d 'un ensemble A ~ dans s / . Alors si A est un N-atome, il existe un ensemble B~ tel que A A ' = A B et on a:

1AE~(f la) = laE~(1AA,) = 1AE~(IAg) = 1ABE~(1A) = 1AfE~(1A)

comme il fallait le d6montrer.

3. Partie ~-atomique de (O, ~r P)

Le r6sultat suivant nous permettra de donner ensuite une description simple de la partie ~-atomique d'un espace de probabilit6.

PROPOSITION. Soit {Fi, iCI} une partition ddnombrable et mesurable de f2 clans (f2, ~r P) et soit ~ la sous a-algObre de d engendrde par eette partition. Se

designe une sous ~r-algObre de ~r les ensembles de la ~r-alg~bre o~ v ~ engendrdi par ~ et ~ sont exaetement les ensembles de la forme ~ FiBi olt les Bf ( i~I) sont

respeetivement des sous,ensembles de {P~(Fi )>0} dans ~ ; cette reprdsentation de tout ensemble de ~" v N e s t en outre unique.

Supposons que d -= ~ v ~: Alors pour qu'un ensemble A C d soit un ~-atome il faut et il suffit que les ensembles Bi de sa representation A = ~ F I B ~, soient 2 d 2

I

disjoints.

D~MONSTRATION. Les ensembles de la forme z~ FfBi of a B , q ~ et I

B , ~ {P~(Ff)>0} pour tout iqI, forment une o- alg~bre en vertu des 6galit6s:

~(ZF~BT) = Z F i ( ~ B T ) , ( Z FfB~) r = Z F , B'; n I I n I I

on a d6sign6 ici par B[ l e compl6mentaire de B i darts {P~(F 0 >0}. Cette a-alg~bre

Ac/a Matbematlca Academlae Scientiarum Hungaricae ~7, r966

ATOMES CONDITIONNELS D 'UN ESPACE DE ]?ROBABILITE 445

est manifestement contenue dans ~ - v ~ ; d'autre part elle contient ~- car Fi = F~{Pe(F~)>0} pour tout i E I, , t elle contient N puisque:

B = Z B (F3 > 0} I

pour tout B E N. Cette a-algSbre coincide donc avec ~ - v N. L'~galit6 ~ FIB,= z~ FiB; entrMne que F, BI=FiN (iEI) donc que

I I

{Pe(Fi) >0}Bi = {P~(F/) >0}B; en vertu du lemme du d6but; il s'en suit que Bi = B; si ces ensembles sont contenus dans {Pe(Fi)>0}. La repr6sentation A = z~FiBi

x de tout ensemble A E ~ v ~ est donc unique.

On suppose que ~r = ~- v N. Alors A = ~ F~B~ est un ~-a tome d~s que les I

Bi sont 2 / t 2 disjoints: en effet si A" est un sous-ensemble de A et si A ' = ~F~B" est sa repr6sentation, on a:

F,B; = F,A" c F,A = F,B, et par suite:

B; = {P~(F 0 > 0}B; ~ {P~(F,) > 0}B~ = B,

d'apr~s le lemme du d6but; il s'en suit que A' = A (z~ B~) car: I

F~BiB }cF~BiB j=O si i # j et par suite:

A(ZB ' ) = ( Z F,B,)(Z B;) = Z F, B i B; = Z F,B; = A'. 1 I I I

Inversement si A est un N-atome si A = z~F~B~ est sa repr6sentation, il existe

pour tout iE I un ensemble B; E N tel que le sous-ensemble F,B, de A soit de la forme FiBf=AB~. I1 s'en suit que F, BimF~AB~ccF,B~ et donc, puisque B, et B; sont contenus dans {Pe(F,)>0}, que Bf ~B ; . On en d6duit que:

FiB~Bj c FiBiB ~ = F~BiAB ~ = FiBiFjB ~ = O si i # j

puisque les F i sont 2 ~t 2 disjoints; comme BiB jest contenu dans {P~(F/)>0}, on a montr6 que BiB j = O (i # j ) . La proposition est d6montr6e.

Considdrons maintenant la partie N-atomique, soit ~2o, d 'un espace de pro- babilit6 (f2, d , P); elle peut s'6crire sous la forme f 2 0 = ~ A i d'une somme

i d6nombrable de N-atomes 2 /t 2 disjoints. En effet en tant que borne sup6rieure essentielle des ~-atomes de (~2, d , P), l'ensemble f2 o peut s'6crire comme r6union d'une suite d6nombrable bien choisie {A~, n => 1 } de ~-atomes; tout sous-ensemble dans d d'un ~-a tome 6tant encore un ~-atome. il reste ~ poser A. = A ~ - [_J A~

m<n pour obtenir la repr6sentation d6sir6e t2 o = ~ A , de Oo.

Soit t]o ----- Z A i une repr6sentation de ~o comme somme d'une famille d6- I

nombrable de M-atomes disjoints 2 A 2. La a-alg~bre Qo N d coincide alors avec la a-alg~bre engendr6e par la partition {A~, iEI} de ~o et par ~o N ~ ; il est clair

Actc~ l~atbematica Acadcmlae Scientlamtm Hmzg~ricae ~7, 1966

446 A. HANEN ET J, NEVEU

en effet que la 26me e-alg~bre est contenue dans la premi6re et inversement pour tout A ~ sur il existedes Bi ~ ( i~I) tels que AAi =BiAz donc tels que

A = z~ AA~ = z~ A, Bi = ~ Ai(QoB~) si Acf2 o. x

En appliquant la proposition pr6c6dente/~ la restriction de (f2, d , P)/t ~?o, on obtient le r&ultat suivant

COROLLAIRE, La partie ~-atomique d'un espace de probabilitd (f2, d , P) peut s'derire eomme la somme (2 o = ~ Ai d'une familIe ddnombrable de ~-atomes 2 gt 2

x

disjoints et les ~-atomes de (f2, d , P) sont aIors exaetement les ensembles de Ia forme ~ A ~ B i o~ les B~ sont des ensembles de ~ , disjoints 2 g; 2 et eontenus respective-

I

ment dans {P~(A~)>0}.

Nous allons d6montrer maintenant le th~or~me suivant.

TI~ORi?~. Pour toute application ~-mesurable de ~2 clans [0, 1], iI existe clans l'espaee de probabilitd (f2, sJ, P) un ensemble A ~ d et un ~-atome A' disjoint de A tels que P~(A) =<f<= P~(A + A'). En partieulier si l'espaee de probabilitd (~2, sJ, P) n' admet pas de ~-atomes non ndgligeabIes, il existeun ensemble A C d tel que P~(A) = f

D~MONSTRATION. La classe cg={C: C ~ ' , P~(C)~f} n'est pas vide puisque O Cog et est manifestement inductive pour l'inclusion c v e r s le haut; par le lemme de Zorn, eile contient an moins un 616ment maximal, soit A. La classe ~ = {D: D ~ s~, AD = t0 et P~(A + D ) ~ f ) n'est pas vide puisque A ~ C ~ et est manifestement inductive pour l'inclusion ~ vers le bas; par le lemme de Zorn, elle contient done un 616ment minimal A'. Par d6finition A e t A' sont disjoints et P~(A)<=f<=P~(A +A'); il reste 5 montrer que A' est un ~-atome pour que le th6or~me soit d6montr&

Soit F u n sou>ensemble de A' dans ~ et posons B = {P~(A + F) ~f}, 1'ensemble F&ant n6cessairement disjoint de A. Alors A + BF~ cg ear P~(A + BF) vaut P~(A + F) sur B e t P~(A) sur B ~ etest par suite inf6rieur/~ f sur ~2; la propri&6 de maximalit6 de A entraine alors que B F = O. En outre le sous-ensemble F + B(A' - F) de A' appar- tient h ~ car P~[A + F + B ( A " - F ) ] vaut P~(A +A') surB et P~(A + F) sur B ~ done est sup6rieur/~ f sur ~2; la propri6t6 de minimalit6 de A" entraine donc que B D A' - F. I1 r6sulte alors de F ~ A', FB = O e t A" - F c B que F = A'B ~. L'ensemble A" est donc bien un ~-atome.

COROLLAIRI~ 1. Soit (f~, ~ , P) un espace de probabilitd ~ une sous a-algObre �9 de s~ et Ao un dldment de ~ , de probabilitd strietement positive et ne contenant aucun N-atome.

Si f est une fonetion ~-mesurable, g~ valeurs dans [0, 1], il existe A ~ ~ ~ o = Ao (3 s~, tel que P~(A~)=fP~(Ao).

D~MONSTRATION. S0it No =Ao f~N et Po la probabilit6 d6finie sur (Ao, ~r . . . . P(A)

par rO.aj = P--~o)' oi~ A ~ s~o. Le thdor~me pr6cddent montre qu'alors iI existe

Aa ~ o tel que Po~0(A0=f sur Ao, car un No-atome de (Ao, ~o , Po) serait un N-atome de (f~, sJ, P) et que la restriction de f / t Ao est ~o-mesurable. II est d'autre

A,c~a Ma*bematlca Academiae Sdeng~arum HungaHcaf 17, ~966

ATOMES CONDITIONNELS D'UN ESPACE DE PROBABIL1TE 447

I'~(A) part ais6 de voir que PolO(A) est la restriction ~ Ao de P~(Ao) ' pour tout A E d o .

Ceci montre l'6galit6 voulue sur A o. D'autre part, l'ensemble des points o/1 P~(A~)=fP~(Ao) est ~-mesurable

et contient Ao, donc {P~(Ao)>0 }. L'6galit6 ci-dessus 6tant trivialement v6rifi6e sur {P~(Ao)=0}, le coroilaire

est d6montr6.

COROLLAmE 2. Les hypotheses du corollaire pr~cddent dtant v&ifi~es soit (Pn),~__>, une suite de nombres >0 de somme totale 1. II existe alom une partition de Ao en ensembles A,, ~ ~ o tels que

P~(An) = p~P~(Ao).

Dt~MONSTRATION. Les ensembles A, se construisent par recurrence en appliquant

le corollaire 1 /t l'ensemble A o - U At et

La relation

P?I f - - ~ n - - 1

z~p i= l iimplique alors que les An forment une partition de 40. i = l

5. Une application A la theorie de l'information

Soit (f2, sJ, P) un espace de probabilit4 et N une sous r de ~ . Soit d'autre part ~ ' une sous o--alghbre de sJ engendr6e par une partition

finie de (f2, d ) , notre 1-I(~'). On pose:

et, si N' est une sous o--alg6bre de d

H ( ~ ' t S ) = sup H(~ 'LS) . o~'c.~,

H(~ ' !~ ) s'appelle entropie N'-conditionnelle de ~ ' , et poss~de les propri6t6s suivantes (voir par exemple (2))

1) N '~H( .~ ' !N) est une application croissante, ~t valeurs dans [0, +~] . 2) H(N ' ]N)=0 si et seulement si N ' c ~ . 3) H (~ " v N'!N) = H(N'IN) + H(N"]N v N").

DI~FINITION. Soient ~ et ~" deux sous a-alg~bre de d . ~ v ~ " est dite o~2 atomique si la partie ~-atomique de (~, N v N', P) coincide avec ~2 (P presque partout).

Acta MathemaHca Academiae Scientiarmn Hmzga~ icae xT, i966

448 A. HANEN ET J. NEVEU

LEMME. Si ~ V M" n' est pas ~-atomique, il existe ~ , sous cr-algObre de M v ~ ' engendrde par une partition ddnombrable 11, telle que H ( ~ - [ ~ ) = + ~.

D~MO~STRAT~ON. Soit A0 le compl6mentaire de la partie ~-atomique de (f2, ~ v ~ ' , P). P(Ao) est done > 0 et Ao ne contient aucun ~-atome.

Soit (P,),_~I une probabilit6 d6nombrable et (A,) la partition de A0 qui lui est associ6e par le corollaire 2 du paragraphe pr6c6dent. Si 11 est fortune par les A~ et A~, on a:

1 1 _ H ( o ~ [ ~ ) = E .=~ P~(A,)Log p~(Aq-~ -P*(A~)x Log

[+2 ~ E P~ (A~) Log . [ n = l ~ tJan]J

I1 r6sulte de P~(A,,)=p,P~(Ao) que

(+ 1 / +" 1 = ~ p, Log P~(Ao) ~ ' ~'~ (A.) Log ~,~ (~.) > .=1

n = l

+~ 1 et donc que It(J~[N) ~It(p~.) • P(Ao), I t (p,~) d~signant la quantit6 z~ p,,Log qui est

�9 n = l Z

aussi l'entropie de la probabilit6 d6nombrable (p,). II suffit de choisir p,, de fa~on C

que H ( p , ) = + ~ (par exemple p , - n ( l + L o g n ) ~ , C 6tant un nombre choisi

de fa~on fi verifier z~ P~ = 1), pour achever la d6monstration. rim1

T~-~OR/~E. Soient N et ~ ' deux sous ~r-alg~bres de s~. H(N'Ir est fini si et seulement s i i l existe une sous a-alg~bre ~ de N v N', engendrde par une partition ddnombrable, telle clue

N v N ' = ~ v o ~ et H ( ~ ] N ) < + ~ .

DI~MONSTRATION. La condition est suffisante, car H ( - ~ I ~ ) = H ( N v o C I N ) et H (N']N) = H (.~ v M'[N) si N v .~- = M v ~ ' , il en r6sulte que H (~-]~) = H (0N'[B), d'ofl le r6sultat.

Si H ( N ' t ~ ) est fini, pour toute sons o--algbbre ~- de N v N', H( f f lN) est fini, car majors par H(,~ v N' t~) =H(N'[3~). I1 r~sulte du temme qu'alors ~ v ~ ' est necessairement ~-atomique, d'ofl l'existence de .~- poss6dant les propri6t6s d6sir6es.

COROLLAIRE. Soient M et o~, deux sous a-alg~bres de ~r H(N'[~) est infini si et seulement si il existe une sous a-alg?bre ~- de M v ~ ' , engendrde par une partition ddnombrabIe, telle que H ( f f l N ) = +~x,.

DI~MONSTRATION. Pour toute a-algbbre ~" de N v N'

H ( ~ ' / ~ ) <= H ( 8 v ~ '1~ ) = H ( ~ ' l ~ ) .

La condition est done trivialement suffisante.

Ac~a Mathem~tlca Academiae 8cicntlarum Hungaricac 17, x966

ATOMES CONDITIONNELS D'UN ESPACE DE PROBABILIT~ 449

Si H ( N ' I ~ ) est infini, l'existence de ~- est prouv6elorsque ~ v ~ ' n'est pas M-atomique, en vertu du lemme. Lorsque N v ~ ' est N-atomique, il existe ~engendr6 par une partition d6nombrable tel que N v ~ " = N v J ; , et donc H ( ~ ' I N ) = = H ( ~ I ~ ) = + ~.

(Re~u le 2 novembre 1965)

Bibliographie

P. HALMOS, Measure Theory. 1950 (Van Nostrand). K. JACOBS, Lectures on ergodic Theory, Vol. II. 1962, p. 241--267. (Seminaires de l'Universit6

d'Aarhus). J. NEVEU, Bases Mathdmatiques du Calcul des Probabilitds (Masson, 1964)i V. A. ROHLIN, New progress in the theory of transformations with invariant measure, Uspehi Mat.

Nauk, 15 (1960), p. 1--26; English translation in Russian Math. Surveys, 15 (1960), p. 1--22.

Acta 2~ialbematica Academiae Scicntiartmz Hu~zgaricae z7, z966