159 43 4MB
German Pages 176 [184] Year 1996
Wahrscheinlichkeits rechnung Diskrete Wahrscheinlichkeitsverteilungen und Schätzen ihrer Parameter von Prof. Dr. Detlef Plachky Mit 117 Beispielen
R. Oldenbourg Verlag München Wien 1996
Die Deutsche Bibliothek - CIP-Einheitsaufnahme Plachky, Detlef: Wahrscheinlichkeitsrechnung: diskrete Wahrscheinlichkeitsverteilungen und Schätzen ihrer Parameter ; mit 117 Beispielai / von Detlef Plachky. - Münchai; Wien : Oldenbourg, 1996 ISBN 3-486-23569-9
© 1996 R. Oldenbourg Verlag GmbH, München Das Werk einschließlich aller Abbildungen ist urheberrechtlich geschützt. Jede Verwertung außeilialb der Grenzen des Uifaeberrechtsgesetzes ist ohne Zustimmung des Verlages unzulässig und strafbar. Das gilt insbesondere für Vervielfaltigungoi, Übersetzung^, Mikroverfilmungen und die Einspeicherung und Bearbeitung in elektronischai Systemen. Gesamtherstellung: R, Oldenbourg Graphische Betriebe GmbH, München
ISBN 3-486-23569-9
Vorwort Der
Autor
strebt
eine
elementare
scheinlichkeitsrechnung Anfängervorlesungen
und
über
Einführung
Statistik
in G r u n d b e g r i f f e
(Stochastik)
Infinitesimalrechnung
auf
und
der
der
Wahr-
Grundlage
lineare
Algebra
von unter
V e r z i c h t auf m a ß t h e o r e t i s c h e H i l f s m i t t e l an. N a t i j r l i c h e r w e i s e s t e h t d a h e r der B e g r i f f d e r d i s k r e t e n V e r t e i l u n g an d e r S p i t z e , w o b e i a u c h bei m a t h e m a t i s c h e n Aussagen
möglichst
elementare
V e r s i o n g e w ä h l t w o r d e n i s t . E i n e s o l c h e S p e z i a l i s i e r u n g legt die
Entwicklung
und
aus
dem
Darstellung
Bereich
Grundbegriffen
der
Autor,
hofft
Bekanntes
anzubieten,
maximalen,
von E r e i g n i s s e n und
B.
K. G h o s h
auch
obgleich
soll darauf
neueren E r g e b n i s s e n eines
Stochastik
von
Trotzdem
wird. Schließlich
der
stochastisch der
Altes
hat,
wie
z.
B. die
unabhängigen
der
und
an nicht
daß
der
vollkommen
nicht
trivialen B.
U.
Systems Eisenberg
Gerber,
die
nega-
s t e l l u n g von G. G. L o r e n t z für
Ordnung
und
schließlich
die
von
s t e l l u n g von A . N . G e o r g h i o u , C . G e o r g h i o u and G . N. P h i l i p p o u für die höherer
betreffend,
von
auch
Kennzeichnung
die auf
Beweis
dargestellt
Autor
konkrete
nahe.
Dar-
Binomialverteilung
Versicherungen
nur
"beispielhaft"
Gleichverteilung,
elementare
Beispielen
explizite
tive
von
Fachmann
vorwiegend
diskreten
zurijckgeht,
Ruinwahrscheinlichkeit
dem
Stochastik
hingewiesen werden,
profitiert
unter
der
eine
die
elegante
Bernsteinpolynome.
D. P l a c h k y
Dar-
Inhaltsverzeichnis 1.
Der L a p l a c e s c h e W a h r s c h e i n l i c h k e i t s b e g r i f f
1
2.
G r u n d b e g r i f f e der Kombinatorik
4
2.1.
P e r m u t a t i o n e n mit W i e d e r h o l u n g e n
4
2.2
P e r m u t a t i o n e n ohne W i e d e r h o l u n g e n
4
2.3.
K o m b i n a t i o n e n ohne W i e d e r h o l u n g e n
5
2.4.
Kombinationen mit Wiederholungen
6
3.
Einige s p e z i e l l e d i s k r e t e W a h r s c h e i n l i c h k e i t s v e r t e i l u n g e n
13
3.1.
Binomialverteilung
13
3.2.
Hypergeometrische Verteilung
16
4.
Einige a l l g e m e i n e E i g e n s c h a f t e n von d i s k r e t e n
Wahrschein-
lichkeitsverteilungen 5.
20
E l e m e n t a r e b e d i n g t e W a h r s c h e i n l i c h k e i t e n und
stochastische
U n a b h ä n g i g k e i t von E r e i g n i s s e n 6.
Mittelwert
28
und S t r e u u n g e i n e r d i s k r e t e n
Wahrscheinlich-
keitsverteilung 7.
Wahrscheinlichkeitserzeugende
38 Funktionen
diskreter
V e r t e i l u n g e n und b e d i n g t e W a h r s c h e i n l i c h k e i t s v e r t e i l u n g e n 8.
S c h ä t z e n von P a r a m e t e r n d i s k r e t e r
69
Wahrscheinlichkeits-
verteilungen
92
A N H A N G : K e n n z e i c h n u n g d e r b e s o n d e r e n Rolle d e r diskreten Verteilungen
144
V e r z e i c h n i s der Beispiele
164
Sachverzeichnis
171
1.
Laplacesche
Wahrscheinlichkeitsbegriff
Beim W e r f e n e i n e r Münze b z w . eines W ü r f e l s d r ü c k t man die T a t s a c h e , daß die Chance f ü r das A u f t r e t e n von W a p p e n oder Zahl b z w . e i n e r A u g e n z a h l gleich i s t , d a d u r c h a u s , daß man f ü r scheinlichkeit einer
1/2
echten
1/6
angibt.
(ungefälschten)
bzw.
Münze
bestimmten
die e n t s p r e c h e n d e
In d i e s e m Fall s p r i c h t bzw. Würfel.
man
Beim Z i e h e n
Wahr-
auch aus
von
einem
Gefäß ( U r n e ) , die z w e i v e r s c h i e d e n e S o r t e n von Kugeln e n t h ä l t , e t w a r r o t e bzw. s schwarze Kugel mit
Kugeln, w i r d man die Chance f ü r das Z i e h e n e i n e r
b z w . f ü r das Z i e h e n e i n e r s c h w a r z e n Kugel mit
roten
— b e w e r -
t e n . Die C h a n c e , beim W ü r f e l n m i t e i n e m u n g e f ä l s c h t e n W ü r f e l eine g e r a d e A u g e n z a h l zu w ü r f e l n , w i r d m i t 3 / 6 = 1 / 2 zu b e w e r t e n s e i n , w o b e i n a t ü r l i c h auch die W a h r s c h e i n l i c h k e i t 1/2 beträgt. Allgemeiner vielen m ö g l i c h e n raum)
für
das A u f t r e t e n
einer
ungeraden
w i r d man in e i n e m Z u f a l l s e x p e r i m e n t
Ergebnissen
u
e
Q, w o b e i
Augenzahl mit
also die Menge O
endlich (Ergebnis-
e n d l i c h i s t , die T a t s a c h e , daß jedes E r g e b n i s u 6 O die g l e i c h e C h a n -
ce hat v o r z u k o m m e n , d a d u r c h a u s d r ü c k e n , daß man f ü r Wahrscheinlichkeit {Mächtigkeit
p((,))
= ~
mit
lOl
als
Anzahl
die
der
entsprechende
Elemente
von
von O) a n g i b t . Man nennt ( f l , p ) mit 0 als e n d l i c h e r , n i c h t l e e -
r e r Menge und p: O -» R , p((i)) c x p e r i m e n t oder k u r z
=
, u
e
O, ein L a p l a c e s c h e s
Zufalls-
Laplace-Experiment.
Ist man in e i n e m L a p l a c e s c h e n E x p e r i m e n t an der Chance i n t e r e s s i e r t , ein b e s t i m m t e s wird,
so
wird
Ereignis man
für
E C O auftritt, die
d. h. daß ein u
entsprechende
die W a h r s c h e i n l i c h k e i t Laplaceschen
ist
der
daß
beobachtet die
Summe
. Man s a g t a u c h ,
Quotient
P: ^»(O)
also Menge aller T e i l m e n g e n von O) m i t P(E) =
d i s k r e t e L a p l a c e - V e r t e i l u n g o d e r k u r z Laplace-Verteilung auch d i s k r e t e
E
P(E) f ü r das A u f t r e t e n eines E r e i g n i s s e s E C n
Zufallsexperiment
g ü n s t i g e n und m ö g l i c h e n Fälle. Die A b b i l d u n g menge,
€
Wahrscheinlichkeit
p ( u ) der E i n z e l c h a n c e n p ( u ) , u G E, angeben, also
einem
O
aus
Anzahl
R (^(O)
in der
Potenz-
, E G V(0),
heißt
über O ( m a n c h m a l
Gleichverteilung).
Beim n - f a c h e n unabhängigen W u r f mit e i n e r u n g e f ä l s c h t e n Münze b z w . m i t e i nem u n g e f ä l s c h t e n W ü r f e l (d. h. die e i n z e l n e n W ü r f e sollen s i c h n i c h t
ge-
g e n s e i t i g b e e i n f l u s s e n ) , w i r d man f ü r den E r g e b n i s r a u m 0 das n - f a c h e
kar-
t e s i s c h e P r o d u k t von {0,1} ( " 0 " b e d e u t e t z . B. W a p p e n , "1" b e d e u t e t z . B. Zahl) w ä h l e n (in Z e i c h e n fi = { 0 , 1 } " ) b z w . O = {1 daß p ( u ) = 1 / 2 " , w G { 0 , 1 } " ,
bzw. p(u) = ^ ,
u G {1
6 } " z u g r u n d e legen, so 6 } " , gilt.
Kapitel 1: Der Laplacesche Wahrscheinlichkeitsbegriff
Interessiert man sich in einem Laplace-Experiment fUr die Wahrscheinlichkeit P ( E ) . das Auftreten eines Ereignisses E e (^(O) betreffend, so ist die folgende einfache Rechenregel P(E) = 1 - — n n i t E'^ als Komplement
von E,
die aus |0| = |E| + lE'^l folgt, manchmal von Nutzen. Dazu dient das folgende Beispiel (Paradoxon
von de Me're)
Die Wahrscheinlichkeit, beim 4fachen Wurf mit einem ungefälschten WUrfel c 4
mindestens eine S e c h s zu werfen, beträgt 1 -
= 0,518, wenn man die
obige Rechenregel berücksichtigt, während die Wahrscheinlichkeit, beim 2 4 fachen Wurf mit 2 unqefälschten und unterscheidbaren Würfeln mindestens 35 eine Doppelsechs zu erhalten, 1 - — 2 4 ~ 0,491 beträgt. Das Ergebnis ver36
trägt sich mit der Erfahrung des GlUcksplelers de Mere, der festgestellt hat, daß es sich lohnt, auf das erstgenannte Ereignis zu setzen, nicht aber auf das zweitgenannte Ereignis. Das Paradoxon von de Mere besteht darin, daß dieser wegen ^ =
für beide Ereignisse die gleiche Wahrscheinlich-
keit annahm. Bemerkenswert an diesem Beispiel ist ferner, daß n = 4 die kleinste natürliche Zahl ist, so daß die Wahrscheinlichkeit 1 -
D
dafür,
daß beim n - f a c h e n unabhängigen Würfelwurf mit einem ungefälschten W ü r fel mindestens einmal eine S e c h s beobachtet wird, größer als 1/2 ist. Weiterhin ist n = 24 die größte natürliche Zahl, so daß die Wahrscheinlichkeit 1 -
dafür, daß beim n - f a c h e n unabhängigen Wurf mit zwei unter-
scheidbaren Würfeln mindestens eine Doppelsechs auftritt, kleiner als 1/2 ist. Das folgende Beispiel ist ebenfalls wegen einer irrtümlichen Überlegung bekannt geworden und für das Verständnis der Laplace-Verteilung lehrreich. Beispiel (Mehrfacher
WUrfelwurf
nach Cardano und
Galilei)
interessiert man sich für die Wahrscheinlichkeit für eine bestimmte Augensummenzahl beim 3fachen Würfeln mit einem ungefälschten Würfel, so kann man zunächst zur Ubersicht alle der Größe nach geordneten Tripel notieren. Für den Fall der Augensummenzahl 11 bzw. 12 ergibt sich: 641
651
632
642
551
633
542
552
533
543
443
444
Kapitel 1: Der L a p l a c e s c h e W a h r s c h e i n l i c h k e i t s b e g r i f f
3
H i e r a u s l 1 i s t . Z u d i e s e m Z w e c k s e i 7:
die d u r c h 7t (1) = 2 , 7t ( 2 ) = 1 o 0 0 und 7t (i) = i f ü r i = 3 n, d e f i n i e r t e P e r m u t a t i o n . Dann i s t f ü r ein it e 0 die o B e d i n g u n g 7t(2) = 1 m i t 7 t ^ ^ 7 t ( 2 ) ) = 2 und die B e d i n g u n g 7t(1) 2 mit Tt^^Ttd)) ^ 1 g l e i c h w e r t i g . F e r n e r i s t 7t(i) ^ i f ü r i > 2 m i t 7t^ (7t(i)) so daß lE.,^1 2 2 = | { 7 to~ ^ o 7 t : 7te formel a = (n-1)(a +a n n-ln-^c Überlegungen
für
i für i > 2 äquivalent,
= a n - 1, z u t r i f f t . D a m i t g i l t die R e k u r s i o n s 22 f ü r n > 2 m i t a , = 0 , a ^ = 1, da man in den o b i g e n l ^
die M ä c h t i g k e i t
von E ^
die
natürliche
Zahl
2 durch
ein
k 6 { 3 , . . . , n } e r s e t z e n k a n n und |E,K I = a n - r + a n - 2^ = l E ^2I e r h ä l t . S e t z t m a n n o c h a ^ : = 1, so g i l t die R e k u r s i o n s f o r m e l a u c h n o c h f ü r n = 2 . Für
die
zugehörige
Wahrscheinlichkeit
P e r m u t a t i o n auszuwählen, gilt daher p = p die R e k u r s i o n s f o r m e l p - p = - — (p , " P
n ^
0,
eine
fixpunktfreie
. + — p n ^ 2, also n i 2 , die man s o f o r t
durch wiederholtes Einsetzen löst, nämlich p - p = ,^ (p ^ - p = _ ' f^n '^n-l n(n-1) '^n-2 „n-3 , (-1)n-2 „ 1 (-1)" _ " (-1)l< = ... = ; 2 ( p „ - p,) = ; 2 •— = ;— , n ^ 1, S O daß p = Z r-—, nl ^2 nl 21 nl '^n |< = 0 k! n s : 1 , g i l t . Für n ^ o o e r h ä l t man a u f g r u n d d e r P o t e n z r e i h e n d a r s t e l l u n g f ü r die e-Funktion
lim p n-» CO n
e
, so daß die W a h r s c h e i n l i c h k e i t , eine P e r m u t a t i o n ^
aus-
z u w ä h l e n , die m i n d e s t e n s ein E l e m e n t f e s t l ä ß t , ü b e r r a s c h e n d g r o ß 1 ~ ~ - 0 , 6 3 i s t , w o b e i die A p p r o x i m a t i o n von p
d u r c h — schon f ü r n ^ 8 sehr gut i s t . Nach
2.4 Kombinationen mit Wiederholungen
den
vorangegangenen
Überlegungen
ist
es
klar,
daß
p^
11
auch
s c h e i n l i c h k e i t g e d e u t e t w e r d e n k a n n , eine z u f ä l l i g a u s g e w ä h l t e von n E l e m e n t e n zu r a t e n , w o b e i stens einen T r e f f e r Ferner
i s t es j e t z t
Treffer
Uberraschend
groß, nämlich 0,63
für
minde-
ist, falls n ä 8
zu
eine
man
beachtet,
Permutation
mit
(")
fiJr j e d e K o n s t e l l a t i o n p
s c h w e r , die W a h r s c h e i n l i c h k e i t
daß
genau
sich
m
Fixpunkten
die
Wahrscheinlichkeit
zufällig für
auszuwählen.
die F i x p u n k t e
M ö g l i c h k e i t e n , so daß die g e s u c h t e m)l
nn
um
mögliche Konstellationen
=
'^n
es
p(m)
gilt.
( 0 ^ m ä n) b e i m R a t e n e i n e r z u f ä l l i g a u s g e w ä h l t e n P e r m u t a t i o n
Dann g i b t es z u n ä c h s t
lichkeit
Permutation
als W a h r s c h e i n l i c h k e i t
m
wenn
nicht mehr
Wahr-
für
bestimmen, handelt,
1 - p
als
) 0 den P a r a m e t e r n so groß, daß -
s 1 i s t . so gilt wegen
n
nn-...-n
(1 -
kl
lim (1 - - ) " = e " ' ' die Beziehung ( r ! ) ( - ) ' ' ( 1 -
n - ^ o o "
-
n
^ K n
^ ^
n
e - \ Durch p(k) = ^
kl
^
e - \ k € N . wird
kl
wegen ^ E ^ e " ^ * * = e ' ^ e " ' ' = 1 mit
(IN^,p) ein d i s k r e t e s
definiert.
Wahrscheinlichkeitsverteilung
Die
zugehörige
heißt Poisson-Verteitung
diskrete
mit dem P a r a m e t e r
=
n
Zufallsexperiment über
X. Der Fall X = 1 ist
bei den a s y m p t o t i s c h e n Überlegungen zum R e n c o n t r e - P r o b l e m
IN^
bereits
aufgetreten.
Unter der Annahme, daß jede der n! P e r m u t a t i o n e n von n Elementen g l e i c h wahrscheinlich
ist,
betrug
die W a h r s c h e i n l i c h k e i t ,
Raten einer P e r m u t a t i o n zu e r z i e l e n ,
ml
e \
genau
m Treffer
beim
wenn man n -» oo w ä h l t .
Als Anwendung der Binomialverteilung soll noch einmal die Frage nach der Wahrscheinlichkeit
des A u f t r e t e n s
einer A b s t i m m u n g
mit
nicht
majorisie-
rendem Anteil von Enthaltungen u n t e r s u c h t w e r d e n . Als individuelles
Modell
soll j e t z t die L a p l a c e - V e r t e i l u n g Uber der Menge { 0 , 1 , 2 } " ( " 0 " E n t h a l t u n g , "1" Ja, " 2 " Nein) dienen. Dann gibt es ^
günstige Fälle, so daß die zugehörige n-Cn/2:-1
1-
I k =0
(r:)s:2", k = 0 "
„
o
1
k=0
^
=
Wahrscheinlichkeit n-Cn/23-1
(")(|)'^-(1)" k 3 3
beträgt. 3
n, d u r c h ( # ) " 3
k=0
I
k=n-Cn/2]
„
I ) k n-1 N - X X =0 N erhält man als G r e n z w e r t die E i n z e l w a h r s c h e i n l i c h k e i t e n einer a 5 ( n , p ) - V e r t e i l u n g .
3.2 Hypergeometrische Verteilung
S i n d nun die N P r o d u l < t i o n s s t U c k e seitig ausschließen, klassifiziert
17
n a c l i m a 2 M e r k m a l e n , die s i c h mit
Klassenhäufigkeiten
M^
gegen-
'^m'
t r ä g t bei A u s w a h l von n P r o d u k t i o n s s t ü c k e n ( s i m u l t a n e A u s w a h l o d e r ohne Z u r ü c k l e g e n )
die W a h r s c h e i n l i c h k e i t
k^ P r o d u k t i o n s s t ü c k e
M e r k m a l , k ^ P r o d u k t i o n s s t ü c k e mit dem 2. M e r k m a l ^ S t ü c k e m i t d e m m - t e n M e r k m a l zu b e o b a c h t e n , n a c h d e r Üin_ . M . G IN, j = 1 j • J •
•
Ziehen
m i t d e m 1.
k
Produktions-
m Multiplikationsregel
,m.
m , M + M ^ + ... + M = N , k, 6 IN , j = 1. • 1 2 m J o
k.i + k ^ + ... + k ^ = n. Dabei w i r d w i e d e r a n g e n o m m e n , daß alle
möglichen
K o m b i n a t i o n e n o h n e W i e d e r h o l u n g e n g l e i c h w a h r s c h e i n l i c h s i n d . Die z u g e h ö r i g e diskrete Wahrscheinlichkeitsverteilung trische
Verteilung
heißt mehrdimensionale
(in Z e i c h e n :
hypergeome-
M^,n)-Verteilung).
W i r d die A u s w a h l von n P r o d u k t i o n s s t ü c k e n u n a b h ä n g i g m i t Z u r ü c k l e g e n e i n e r M e n g e von N P r o d u k t i o n s s t ü c k e n , die n a c h m i
2 Merkmalen,
welche
s i c h g e g e n s e i t i g a u s s c h l i e ß e n , v o r g e n o m m e n , so g i b t es N " m ö g l i c h e
Fälle,
die als g l e i c h w a h r s c h e i n l i c h a n g e n o m m e n w e r d e n s o l l e n . Für die A n z a h l F ä l l e , w o k . | - m a l ein P r o d u k t i o n s s t U c k d u k t i o n s s t ü c k mit dem 2. M e r k m a l
m i t d e m 1. M e r k m a l , k ^ - m a l ein k
— ; — - Konstellationen b e s i t z t nach der M u l t i p l i k a t i o n s r e g e l M.^
.. • M*^"^ M ö g l i c h k e i t e n , so daß f ü r die b e t r e f f e n d e ,
, p,
• ... • p
mit p. =
, j = 1
der Pro-
- m a l ein P r o d u k t i o n s s t ü c k m i t m m - t e n M e r k m a l b e o b a c h t e t w i r d , g i l t : Jede d e r ( " ^ K1 K2 Km
T—,,
aus
dem =
M^^-..
Wahrscheinlichkeit
m , M. e N , M
+ ... + M
= N,
k. e IN , j = 1 m , k + ... + k = n, z u t r i f f t . Bei b e l i e b i g e n p. ^ 0 , j = j o ^ 1 m a Kj • j 1 m , m i t p + ... + p = 1 gilt nach d e m M u l t i n o m i a l s a t z ^ V nnl »^l n n _ / . . k. ki!...kml Pl Pm - ( P i ^ - ^ P m ' i=1 m
Dabei e r g i b t schen
sich
Lehrsatzes
der
Multinomialsatz
aufgrund
einer
als
ähnlichen
Verallgemeinerung Argumentation
e r f o l g t e Herleitunq der Einzelwahrscheinlichkeiten — sogenannten
Multinomialverteiiung
mit
den P a r a m e t e r n
des
wie
die
binomisoeben
p ^ ...p n und p^
der p^
(in
Z e i c h e n : 3 W ( n , p ^ , . . . , p ^ ) - V e r t e i l u n g ) . A l s A n w e n d u n g e r h ä l t man b e i m n - m a ligen u n a b h ä n g i g e n W ü r f e l n
mit einem ungefälschten W ü r f e l
s c h e i n l i c h k e i t , daß k ^ - m a l die A u g e n z a h l 1 tritt
^ ,
,
(i)".
für
die
Wahr-
k ^ - m a l die A u g e n z a h l 6
auf-
18
Kapitel 3: Spezielle diskrete
Wahrscheinlichkeitsverteilungen
Neben der nnehrdimensionalen Verallgenneinerung der Binomialverteilung hypergeometrischen schwarzen
Verteilung
ist im Fall einer Urne mit r roten
Kugeln von I n t e r e s s e , wie groß beim unabhängigen
bzw.
bzw. s
Ziehen
mit
Z u r ü c k l e g e n bzw. beim Ziehen ohne Z u r u c k l e g e n die W a h r s c h e i n l i c h k e i t dafür ist, daß k s c h w a r z e Kugeln g e z o g e n werden, bis zum erstenmal r ^ s r rote Kugeln g e z o g e n w o r d e n sind. Beim unabhängigen Ziehen mit Z u r ü c k l e g e n geht k+r
man davon a u s , daß alle ( r + s ) Dann gibt es zu den
° P e r m u t a t i o n e n gleichwahrscheinlich sind. Konstellationen nach der
v e r s c h i e d e n e Möglichkeiten, so daß
Multiplikationsregel
- p)*" mit p =
g e s u c h t e W a h r s c h e i n l i c h k e i t ist. W e g e n
= (-!)''(
die
( der Binomial-
koeffizient ( " ) ist für eine beliebige reelle Zahl a und k e l N ^ als definiert), kann man hierfür auch
k e
q = 1-p, schreiben. Mit Hilfe der binomischen Reihe folgt ^ Z J p'^°(1-q) experiment
=
so daß es sich hier tatsächlich
handelt. Die zugehörige
heißt negative
Binomialverteilung
diskrete
=
um ein d i s k r e t e s
Zufalls-
Wahrscheinlichkeitsverteilung
mit den P a r a m e t e r n r ^ und p; 0 ^ p s 1 und p
nicht notwendig rational (in Zeichen: 3 l ® ( r ^ , p ) - V e r t e i l u n g ) . Im Fall r ^ = 1 spricht man auch von einer geometrischen q = ^
oder Pascal-Verteilung.
mit r ^ -» oo und X > 0 wegen ( °
Aussage (
)p
q
) = ( °
^
Ferner gilt
) die
(1-—)
für
asymptotische
^ ^ ^ e
. kelN^,
so daß in diesem Fall die Einzelwahrscheinlichkeiten der negativen Binomialverteilung gegen die Einzelwahrscheinlichkeiten
der P o i s s o n - V e r t e i l u n g
mit
dem P a r a m e t e r X konvergieren. Geht man für das entsprechende davon aus, daß alle
' o ^
) (r
o
Problem beim
Ziehen
ohne
Zurücklegen
+ k)! Permutationen ohne Wiederholungen
gleichwahrscheinlich sind, so gibt es nach der Multiplikationsregel ( r o''- i
•
R m o n o t o n
durch
die
i s t ein L a p l a c e - E x p e r i m e n t
Existenz
von
k
gekennzeichnet.
G IN
Ist
k } ) ein L a p l a c e - E x p e r i m e n t , d . h. es g i l t p(j) =
und p(j) = 0 f ü r j > k , so f o l g t aus p = ap^ + ( l - a j p ^
fallend},
j = 1
m i t p^ G
und 0 < a < 1 u n m i t t e l b a r p^ = p, j = 1,2. U m g e k e h r t l i e f e r t
mit
nämlich k,
j = 1,2,
im Fall 0 = N
die
E x i s t e n z von k. e IN. j = 1,2, m i t p(1) = ... = p(k^) > p(k^ + 1) = ... = pCk^ + k ^ ) > p(l< +k +1) 1 1 p
i
. . . die E x i s t e n z
= — p.| + 2 ^ 2 '
nämlich
p(k I +k ^ ) - p(k I +k +1)} i p , ( j ) : = p(j) j=l 0 ) . W e g e n s IXI'' + 1 für 0 < r s p e x i s t i e r t mit ECX^) auch E ( X ' " ) . Genauer Ungleichung
von Liapunoff:
(EClXD)^^""
Konvexität von f: (0,oo) -> R , f ( x ) = x " , x > 0, a ^ 1, mit a folgenden S p e z i a l f a l l der J e n s e n s c h e n Ungleichung E(|X'"|P'''") ä ergibt.
gilt
die sich wegen r
aus
iXT die der dem
(EdxT))'"'''
44
Kapitel 6: Mittelwert und Streuung
Für die Laplace-Verteilung über ß = {x^
x^) mit x. G R, j = 1
sich das arithmetische
als
Mittel
n
speziell bei den x. um Zuwächse a. die a., j = 1
Mittelwert.
n, ergab
Handelt
es
sich
+ a^, j = 1,...,n, mit a^ == 0, so können
n, als Änderungen und
als durchschnittliche Ände-
rung aufgefaßt werden. Bei prozentualen Änderungen wie etwa bei Verzinsung eines Kapitals K mit Zinsfuß p. im j - t e n Jahr, j = 1 j - t e n Jahr als Kapital K(1 + p^) • ... • (1 + p.), j = 1
n, erhält man im
n, so daß das arithme-
tische Mittel nicht mehr als Maß für eine durchschnittliche prozentuale Änderung sinnvoll ist. Die prozentualen Änderungen betragen nämlichl + p ^ . l + p ^ , - . ... I + P^. so daß ein Faktor f als Maß für die durchschnittliche
prozentuale
Änderung zu bestimmten ist mit f • ... - f = f " = (1 + p^) •... • (1 + p^), d. h. f = "i/(1 + p.|) •... • (1+
(geometrisches
Mittel).
Sind x., j = 1
n. positive
reelle Zahlen, so gilt die folgende Ungleichung zwischen arithmetischem und geometrischem Mittel: "Vx^ • ... • x^ s —von f : (O.oo) ^ R, f(x) =
X
, die sich aus der Konvexität
x > 0, wegen f ( i l i l l Lnl I i ^ ) ^ 1n (f (x 1) + ...+f(xn )) ^
ergibt. Eine wichtige Rechenregel für Erwartungswerte reellwertiger stellt
die Linearität
X.: O
R, j = 1
Zufallsgrößen
dar: E(« 1X1 +... + an Xn ) = a1F ( 1X ) + ... + «n E(Xn ), wobei n, reell wert ige Zufallsgrößen mit existierendem Erwartungs-
wert sind, und a.J e R, 'i = 1
n. Zum Beweis braucht nur der Fall n = 2 und
wegen E(a^X^) = a^E(X^) nur der Fall
~ eOp 1 2 üieOp 1 uEOp 2 1 2 wenn man beachtet, daß wegen der absoluten bei Konvergenz der betreffenden unendlichen Reihen beliebige Vertauschungen der Summation erlaubt sind. Bevor die Linearität des Erwartungswertes zur konkreten Bestimmung von Mittelwerten spezieller Verteilungen angewendet wird, soll diese Eigenschaft für eine mehr theoretische Anwendung, nämlich zur Herleitung der chy-Schwarzschen
Cau-
Ungleichung dienen. Zu diesem Zweck seien X^ und X^
zwei reellwertige Zufallsgrößen mit existierendem zweiten Moment, so daß auch E((X^ + XXg)^) wegen (X^ + XX^)^ s 2(X^ + (XX^)^) für jedes X G R existiert. Ferner gilt aufgrund der Linearität des Erwartungswertes E((X, XX^)^) = E ( x f ) + 2XE(X X.,) + X ^ E ( X | ) , wobei X = -E(X X.,)/E(X?) die 1 2 1 12 2 o _ 1 2 2 Minimalstelle der quadratischen Funktion in X ist. falls E(X_) > 0 z u t r i f f t . In (E(XX )) diesem Fall gilt also E((X 1 +X o X 2. , ) ^ ) = E ( x f1) — i O und damit E(X|) E(X^) • E ( X | ) i (E(X^X^))^. Im Fall E ( x | ) = 0 gilt P i X ' ^ ( { 0 } ) ) = 1 und damit
6 Mittelwert
E(X^X2) = 0 , so daß e b e n f a l l s Ungleichung)
richtig
und S t r e u u n g
45
ä {EiX^X^))^
(Cauchy-Schwarzsche
ist.
Die C a u c h y - S c h w a r z s c h e U n g l e i c h u n g i s t ein S p e z i a l f a l l der U n g l e i c h u n g
von
Holder EdX^X^I)
mit
^ E^^^dX^I^)dX^l")
existierendem E ( X p
b z w . E ( X ^ ) , p > 1. -
für
ZufallsgröBen
X., j = 1,2,
+ -
= 1. Man k a n n die
Höldersche
U n g l e i c h u n g f o l g e n d e r m a ß e n m i t H i l f e der U n g l e i c h u n g von J e n s e n w e n n man b e a c h t e t , daß die U n g l e i c h u n g von H o l d e r E((
/
beweisen,
mit
ä q u i v a l e n t i s t , f a l l s E(IX.I) > 0 . j = 1,2,
z u t r i f f t , w o b e i im Fall E(IX^I) = 0 b z w . E d X ^ D = 0 n i c h t s zu b e w e i s e n i s t . F ü h r t ^ IXpCüj)!"^ man s c h l i e ß l i c h n o c h die V e r t e i l u n g P gemäß P({(i)}) ^ P({u}), EdXjl'') m i t P als u r s p r ü n g l i c h e V e r t e i l u n g Uber Q e i n , und b e z e i c h n e t
ueO,
schließlich E
den E r w a r t u n g s w e r t b e z ü g l i c h P . so i s t die U n g l e i c h u n g von H o l d e r g l e i c h w e r t i g mit E((
I^ Ip
iX Die U n g l e i c h u n g von J e n s e n l i e f e r t s c h l i e ß l i c h
E(IXi|P EdXgl'^) ^ ( ( IXi|P IXpl'' l/r, E /, - — E(IXilP) EClXgl'')
-^l/r.
IXl|P / , IXol'' E(IXi|P) E(IX2l'') IxilP Ixpl''
ECX^X^) a u f g r u n d d e r U n g l e i c h u n g
—^—
kann a b e r a u c h e i n f a c h a u f die E x i s t e n z
existiert
+—|—.
von ECX^X^)
x.eR, j=1,2.
schließen, wenn
Man man
b e a c h t e t , daß f ü r eine r e e l l w e r t i g e Z u f a l l s g r ö ß e X g i l t lim uS S O n | X ( ( d ) | P ( { u } ) , m i t X n : = X L {, |^X, | s n ,}, n-»oo E O p IX n ( w ) | P ( { u } ) = u E Eine w e i t e r e A n w e n d u n g d e r
Linearität
des
Erwartungswertes
w e n n man b e a c h t e t , daß die T r e f f e r z a h l in e i n e m n - f a c h e n ment
mit
Trefferwahrscheinlichkeit
p durch
eine
neN. erhält
man,
Bernoulli-Experi-
I8(n,p)-verteilte
g r ö ß e X b e s c h r i e b e n w e r d e n k a n n , die w i e d e r u m die D a r s t e l l u n g X = b e s i t z t , w o b e i d i e Z u f a l l s g r ö ß e X , den j - t e n E i n z e l v e r s u c h , j = 1
Zufalls+
+ X^
n, b e s c h r e i b t ,
a l s o 3 5 ( 1 , p ) - v e r t e i l t i s t . Für e i n e n I n d i k a t o r e r g a b s i c h a b e r als E r w a r t u n g s w e r t die
Wahrscheinlichkeit
E ( X j ) = p, j = 1
des
betreffenden
Ereignisses,
so
daß
sich
n, e r g i b t , w o r a u s n o c h m a l s das b e r e i t s b e k a n n t e
E(X) = np r e s u l t i e r t .
n —^
rote
Kugeln b e i m n - m a l i g e n u n a b h ä n g i g e n Z i e h e n m i t Z u r ü c k l e g e n aus e i n e r
Urne
^
Insbesondere
erhält
man d u r c h s c h n i t t l i c h
hier
Ergebnis r + s
m i t r r o t e n und s s c h w a r z e n K u g e l n . Da b e i m n - m a l i g e n Z i e h e n o h n e Z u r ü c k l e g e n aus e i n e r U r n e m i t r r o t e n und s s c h w a r z e n Kugeln die j e w e i l i g e n X j , die den j - t e n Z u g , j = 1
n, b e s c h r e i b e n , e b e n f a l l s
Zufallsgrößen
®(1,p)-verteilt
sind
mit p = — ^ , e r h ä l t man auch h i e r f ü r die d u r c h s c h n i t t l i c h e A n z a h l d e r r o t e n r + s g e z o g e n e n Kugeln n
•
46
K a p i t e l 6 : M i t t e l w e r t und S t r e u u n g
Die L i n e a r i t ä t des E r w a r t u n g s w e r t e s e r l a u b t f e r n e r eine b e s o n d e r s
einfache
H e r l e i t u n g der S i e b f o r m e l von P o i n c a r e und S y l v e s t e r .
Beispiel (Siebformel
= 1+
Z (-1)'^
von Sylvester
Z
und
U , •...•1A,
Poincare')
=1-^
^ (-1)
^
'A, n
NA, .
w o r a u s w e g e n der L i n e a r i t ä t des E r w a r t u n g s w e r t e s E d - X) = 1 - E ( X ) = 1 - P( U A) = 1 + Z ( - 1 ) ' ' , . Z P ( A , n . . . n A , ) und d a m i t die S i e b f o r m e l i= 1 k =1 1 0 gilt. Der Fall V a r ( X ) = 0 ist
mit P ( { u 6 O: X ( u ) = E(X)}) = 1 a l s o mit P^ =
dabei
gleichwertig. Man
kann
aber die a u f t r e t e n d e D i f f e r e n z z w i s c h e n Var(X^+X2) und Var(X^) + V a r ( X 2 ) leicht a n g e b e n . E s gilt: V a r ( I X.) = S V a r ( X . ) + 2 Z Kov{X,.X,) mit ^ ^ i=1 i i= 1 i 1ii
ÜJ (N)
!im_ =
V kl ' k2 ••• km _ kjl^^ (TT^^ J= 1 m 1 m LT iv V \ - kA Kov(X^,X2)M ^ t.A M ^ ^n(n-1) ^ f t ^ - n „ 2 — — - _ - „ n^ 1—"^2 ^ .>,
..
n(n-1) TJÜTT) •
, n(n-1)
„
6 Mittelwert und Streuung
51
In beiden Beispielen sind also die betrachteten Kovarianzen negativ. Bei monotonen Abbildungen sind die entsprechenden Kovarianzen dagegen nicht negativ, wie das folgende Beispiel zeigt. Beispiel (Kovarianzen
für monotone
Transformationen
Es sei P eine diskrete Verteilung über O, X: O
einer
ZufallsgröBe)
R , X^: = f^ o X mit f^ monoton
wachsend (bzw. monoton fallend), j = 1,2, und mit existierenden E(X.), j = 1,2, sowie ECX^X^). Dann gilt KovIX^.X^)
0, denn aus (X^(u^) - X^Cu^))(X^(u^) -
i 0, u, G R . j = 1,2, folgt I ( X , ( u J - X A ( o J ) { X A L i J j ' = tOjEflp 1 1 1 2 2 1 2 2 J = 1.2 resultif P ( { u ^ } ) P ( { u 2 } ) ^ 0 . Hieraus resultiert 2(E(X^X2) - E(X^)E(X2)) ^ 0 und damit die Behauptung. 2
2
Als eine weitere Anwendung der Gleichung von Bienayme soll nun die S t r e u ung der Verteilung für die Anzahl der Fixpunkte von Permutationen von n Objekten bestimmt werden. Dabei ist zu beachten, daß für die Varianz eines Indikators
gilt V a r ( l ^ ) = E ( l ^ ) -
Beispiel (Streuung
der Verteilung
= PCAjPCA^).
für die Anzaiil
der Fixpunl, i = 1 1 n 1 n J I i ' r e i t s g e z e i g t w o r d e n i s t , daß d i e s m i t der s t o c h a s t i s c h e n der E r e i g n i s s e A^
A^
(unter
P) ä q u i v a l e n t
n, w o b e i
be-
Unabhängigkeit
i s t . Dabei i s t d e r B e g r i f f
des
d i r e k t e n P r o d u k t s von d i s k r e t e n V e r t e i l u n g e n ein g e e i g n e t e s H i l f s m i t t e l ,
um
die E x i s t e n z von Z u a l l s g r ö ß e n X^
P^
Uber
a n z u g e b e n , die
X^ m i t v o r g e g e b e n e r V e r t e i l u n g P^ unter
einer
zu b e s t i m m e n d e n
Verteilung
ü b e r O s t o c h a s t i s c h u n a b h ä n g i g s i n d . Für O k a n n man n ä m l i c h das
P
kartesi-
s c h e P r o d u k t n .I x ...nX O und f ü r P das d i r e k t e P r o d u k t P ® . . I. ® P n w ä h l e n . Dann s i n d die X, als P r o j e k t i o n e n von O a u f 0 , d. h. X ( u u )!=(i) f ü r J
alle ( u , 1
u
J
) e O X ... X O , j = 1 n
1
n. w e g e n P ^ '
n
leer
mit
IQ^I > 1, j = 1
1
n
= P^^®
j
P^"
^
s t o c h a s t i s c h u n a b h ä n g i g und es g i l t P^' = P., j = 1 lich und n i c h t
J
n. I s t s p e z i e l l O. e n d -
n, und b e z e i c h n e t
P^ die
Laplace-
54
Kapitel 6: M i t t e l w e r t
V e r t e i l u n g Uber
und S t r e u u n g
j = 1,...,n, s o w i e B^ 6 ^P(Oj) mit 1 s |Bj| == r^ < lO^I, j = 1
so s t e l l e n die Mengen A^— n^ x ... x
fi.
dar m i t lA,^ n ... n
• ... •
= |n|/
x B. x O.^^ x ... x . 1 s
0== O , X ... X O , w o b e i A. i { 0 , O > , j = 1 I n j '
j =1
n,
n, E r e i g n i s s e
< ... < i^ s n,
Isksn,
n, z u t r i f f t . B e z e i c h n e t nun P die
L a p l a c e - V e r t e i l u n g Uber n , d. h. P = P^ (8 ... ® P ^ , so h a n d e l t es s i c h den A j , j = 1
bei
n, um u n t e r P s t o c h a s t l s c h unabhängige E r e i g n i s s e , die n i c h t
t r i v i a l s i n d , d. h. es t r i f f t A ^ i { 0 , 0 } , j = 1
n, z u . i s t nun O' eine endliche
M e n g e , d e r e n M ä c h t i g k e i t | 0 ' | F a k t o r e n f . > 1. j = 1
n. b e s i t z t (d. h. | 0 ' | =
so gibt es n i c h t t r i v i a l e E r e i g n i s s e A'^ (d. h. A'^^ { 0 , 0 ' } ) , 1 = 1 mit |AV n ... n A',, I = | 0 ' | '1' ' k» R möglich ist. Für B ^ ( f ) gemäß B ^ ( f ) ( p ) =
[ f ( ^ ) ( ; ^ ) ] p'^q""'". q = 1 - p ,
( [ x ] : = s u p { y 6 Z : y i x » gilt nämlich | B ^ ( f ) - B ^ ( f ) | s M ( p " + ( 1 - p ) " ) i M ( b " + (1-a)") + 1 n
k =1
= 1 (J^l]) i 1 für k = 1
^ M ( b " + ( 1 - a ) " ) + 1 , wenn man 1 ( " ) =
k
n
n
k
n - l , b e a c h t e t . Dabei folgt (J^l]) ^ k aus der T a t s a c h e ,
daß man zu einer f e s t e n ( k - l ) - e l e m e n t i g e n Teilmenge einer
(n-l)-elementigen
Menge jedes
(n-k)-elementigen
der
k-1 E l e m e n t e
durch
ein
Element
der
R e s t m e n g e e r s e t z t , so daß (J^I^) i n - k + 1 und damit ([^I^) = zutrifft.
Man kann übrigens
lediglich unter
Verwendung
den Approximationssatz der
Streuung
np(l-p)
) ^ n-l-(n-k) + 1 = k
von W e i e r s t r a ß
einer
auch
35(n,p)-Verteilung
beweisen, wenn man zu f : [ 0 , 1 ] -> R den sogenannten S t e t i g k e i t s m o d u l 11^.(8): = sup { | f ( p , ) - f ( P 2 ) l : Pj e v(p^,p2.8)! =
j = 1-2. I P i - P g l ^ S}, 8 > 0, b e t r a c h t e t . Mit
gilt nämlich
If(p^) - f l p g ) ! ^ (1 + v(p^,p2.8))n^(8)
- p^l ^ 8(1 + v(p^,p2.8)). w o r a u s für p. e
[ 0 , 1 ] , j = 1.2, r e s u l t i e r t .
Die
letzte Ungleichung liefert für |f - B ( f ) | an der S t e l l e p G [ 0 . 1 ] die obere S c h r a n k e n,(8) T
Z
k =0
(1 + v ( p . - ' i . 8 ) ) ( " ) p ' ' ( 1 - p ) " ~ ' ' ^ n J 8 ) ( 1 + n
t
w o r a u s für 8= = n"''^^ folgt |f - B ^ ( f ) | s |
I
k =0
^
gleichmäßig in p e [ 0 , 1 ] . Ist
nun f: [ 0 , 1 ] X [ 0 , 1 ] -> R eine s t e t i g e Funktion, so wird man diese durch B^ gemäß k-ko n-k^-k.^ kl
kp
n!pi
1
k f l k , l ( n - k f - k , ) . j= 1.2
ki +k2 sn
2
6 Mittelwert und S t r e u u n g
(p^.p^) G [ 0 , 1 ] X C0,1] mit
59
^ ^ gleichmäßig approximieren. Wählt
man
nämlich zu e > 0 ein 5 > 0 mit der E i g e n s c h a f t , daß |f(p^,p2)-f(p!,.p2)l < e ^^ür Ip.-pjl < 8, j = 1,2 zutrifft, s o liefert die T s c h e b y c h e f f s e h e Ungleichung für |f- B^l an der Stelle (p^.p^) G [0,1] x C0,1] mit P, + P2 ^ ^ obere S c h r a n k e PfCI —p-i) wenn man beachtet, daß die e r s t e n beiden eindimensionalen
Randverteilungen
einer iBl(n,p^,p2,1-p^-P2)~Verteilung
weils eine 35(n,p^)- bzw. ® ( n , p 2 ) - V e r t e i l u n g sind. Dieselbe obere erhält man für eine stetige Funktion f: [0,1] x [0,1] gemäß
= ^
ft^f
j j (k^P^I-Pj'""'^-
je-
Schranke
R , wenn man
B^
( P r P ^ ) ^ [0.1] x [0,1]
1=1.2 einführt. Damit erhält man schließlich e + — ^ als obere S c h r a n k e . s2n Abschließend sei darauf hingewiesen, daß der von B e r n s t e i n s t a m m e n d e
Be-
weis für den W e i e r s t r a ß s c h e n A p p r o x i m a t i o n s s a t z für eine stetige Funktion f: [0,1]-» R 1912/13 publiziert w o r d e n ist. Bevor als weitere Anwendung der Ungleichung von T s c h e b y c h e f f wahrscheinlichkeit noch der
Begriff
von des
Versicherungsgesellschaften elementaren
Begriff der momenterzeugenden
bedingten
Funktion
berechnet
die
Ruin-
wird,
Erwartungswertes
soll
sowie
der
erläutert w e r d e n , da beide Begriffe
im engen Z u s a m m e n h a n g mit dieser A n w e n d u n g stehen. E s ist bereits behandelt worden, daß durch A ^ P(A|B), A G
mit P als d i s k r e t e r Verteilung Uber
O und P(B) > 0 eine diskrete Verteilung Uber O definiert wird. Ist nun X : O
R
eine reellwertige Z u f a l l s g r ö ß e , deren E r w a r t u n g s w e r t bezüglich dieser d i s k r e t e n Verteilung e x i s t i e r t , s o heißt dieser elementarer unter der Bedingung
bedingter
Erwartungswert
B (in Zeichen E(X|B) oder Ep(X|B). falls die Abhängigkeit
von P zum A u s d r u c k gebracht werden soll). E s gilt offenbar E(X|B) = E ( X L ) / P ( B ) . tx Ist X: O -» R eine reellwertige Z u f a l l s g r ö ß e , s o daß E(e ) für t aus einer Umgebung ( - a . a ) (a > 0) des Nullpunktes e x i s t i e r t , so heißt t E ( e * ^ ) erzeugende
Funktion
moment-
von X (unter P). da man mit Hilfe einer Taylorentwicklung
der e - F u n k t i o n die Reihendarstellung
=
^
ECX^) für
te(-a.a)
beweisen kann. Dies wird aber im folgenden nicht benutzt. V e r w e n d e t lediglich, — R X daß aus der Annahme der E x i s t e n z einer reellen Zahl R > 0 E(e
wird mit
) = 1 folgt E ( X ) aO, w a s man unmittelbar mit Hilfe der Ungleichung von
J e n s e n gemäß 1 =
^ e ' " ^ ^ ' ^ ' einsieht, wobei die E x i s t e n z von E ( X ) aus
e * i 1 + x für X 6 R resultiert. M a n muß lediglich die Ungleichung e*^^ + e " * ^ i e * ' ' ^ ' für t G (O.a) beachten. Nun sind alle V o r b e r e i t u n g e n angekündigten Beispiels
zur Behandlung
getroffen w o r d e n , wobei für reellwertige
des
Zufalls-
größen X: O ^ R K u r z s c h r e i b w e i s e n wie z. B. {X s x}: = { u G O: X ( u ) s x}. {X < x } ! = {(0 G O: X ( u ) < x}. X G R U (oo) h e r a n g e z o g e n werden.
60
Kapitel 6 : M i t t e l w e r t und S t r e u u n g
Beispiel
(Ruinwahrscheinlichkeit
von
Versicherungsgesellschaften)
Es bezeichne a (i; 0) das A n f a n g s k a p i t a l einer V e r s i c h e r u n g s g e s e l l s c h a f t und die r e e l l w e r t i g e n Z u f a l l s g r ö ß e n G. den Gewinn im j - t e n J a h r , so daß K^ = a+
das Kapital im n - t e n Jahr i s t . Es w i r d angenommen, daß fUr
jedes n 6 IN die Z u f a l l s g r ö ß e n G^.G^
G^ s t o c h a s t i s c h
unabhängig
(unter
P) sind und P*^^ = P*^^ = ... = P*^" g i l t , wobei p'^^ keine D i r a c - V e r t e i l u n g sein soll. Ferner w i r d die Existenz von sowie
angenommen,
daß E(e
f ü r t 6 ( - b , b ) (b > 0) v o r a u s g e s e t z t , = 1 für
ein R > 0
gilt.
Bezeichnet
nun
N = Inf {n e IN: K
< 0> den Z e i t p u n k t des Ruins, so w i r d durch K„, eine n N r e e l l w e r t i g e Z u f a l l s g r ö ß e b e s c h r i e b e n , f ü r die gezeigt w e r d e n soll, daß die R u i n w a h r s c h e i n l i c h k e i t P({Nn}
3
3
s
{N>n}n{K " wegen e K"^ i^ 01 ,+ falls . Dabei = E(G.|) und o^ wegen x + ^ N >f ünr gxi^l tO und ist ^ ii+ e , t=e V( 0a r, (bG) ^, ) , ewobei x i s t i e r tE(G^) und 2 G1 o > 0 g i l t , da ausgeschlossen w o r d e n i s t , daß P eine D i r a c V e r t e i l u n g i s Schließlich f o l g t aus der Ungleichung von T s c h e b y c h e f f P({K s a + n^ + o ^ n ^ " 't^. } ) ~RK ^ ( 2°2/3)2 damit f ü r n ^ o o wegen ( ü O die Beziehung ^[m E(e insbesondere lehrt diese Berechnung der Ruinwahrscheinlichkeit
P({N < oo}),
daß die B e t r a c h t u n g e n jeweils nur bis zum Z e i t p u n k t n d u r c h g e f ü h r t brauchen mit einem anschließenden Grenzübergang f ü r n
werden
oo. Ähnlich
ist
auch bei der Ruinwahrscheinlichkeit eines Spielers a r g u m e n t i e r t w o r d e n , um im Bereich d i s k r e t e r V e r t e i l u n g e n zu bleiben. Es ist nämlich zu daß bei der Existenz von s t o c h a s t i s c h unabhängigen
Zufallsgrößen
beachten,
6 Mittelwert
nnit v o r g e g e b e n e n P als
direktes
diskreten
Produkt
und S t r e u u n g
Verteilungen
P^ ®
. . . ) , j = 1,2 ^
I
OD
so
'
^
b e s t e h t O a u s d e r V e r e i n i g u n g a l l e r M e n g e n d e s T y p s .O^Bj m i t B^ = C^ o d e r C^ , j = 1 , 2 , . . . , s o daß e s e i n e M e n g e d i e s e r
Art
mit
positiver
Wahrscheinlichkeit
g e b e n m u ß , da P d i s k r e t i s t . D i s k r e t e V e r t e i l u n g e n P Uber e i n e r M e n g e O h a b e n f e r n e r d i e E i g e n s c h a f t , daß a u s A^ D A ^ 3 ... m i t A^ e ^ ( C l ) . j = 1,2 l i m P ( A ) = P( n A . ) (Stetigkeit n-»oo n j=1 J
von oben),
W e g e n P( n B,) > 0 u n d 0 < P ( B , ) < 1, j = 1.2 ^ j=i i J ' = E £ n P ( B . ) < 00 u n d d a m i t j=1 J P ^ U { a } ) e { 0 , 1 } . Es bleibt von d i s k r e t e n Stetigkeit ^
Verteilungen
von
unten
A j 6 ^ ( O ) , j = 1,2
f o l g t h i e r a u s -co < £ n P( 0 B,) ^ j=i J
lim « n P(B,) = 0 , also der j^oo j
nur
n o c h die E i g e n s c h a f t
Widerspruch
der
Stetigkeit
P Uber O zu b e w e i s e n , die m i t
gemäß ^
lim
äquivalent
P(A
CO
) = P( U A , ) f ü r n j= 1 J
A
der
von
oben
sogenannten
C A „ C ... 1 2
mit
i s t . Der B e w e i s d i e s e r E i g e n s c h a f t läßt s i c h auf
f o l g e n d e e i n f a c h e H i l f s a u s s a g e z u r ü c k f ü h r e n : Es s e i ( a p ^ ) ^ ^ ^ ^ wachsende
folgt
w o r a u s P( n B.) = l i m P( n B,) f o l g t . j=1 ) n-»oo j=1 i
eine m o n o t o n
n e g a t i v e n r e e l l e n Z a h l e n mit Ilm a , = a für k-»oo nk n oo C30 N jedes nGlN. Dann gilt lim Z a , = I a . D i e s f o l g t a u s SUD SUD Z a, = ' ^ k-»oo n = 1 nk n = 1 n k e W N S N n= 1 kn N N N OD SUD SUD I a, = SUD I SUD a, = sup Z a = I a und N e N k e N n = 1 kn N e N n=1 k e N kn neIn n=1 n n=1 n N OD oo sup sup I a, = sup Z a, = lim Z a, . i n s b e s o n d e r e i s t d u r c h d i e keN
N6N
obige
Folge von nicht
n= 1 kn
Hilfsaussage
wartungswerte
keN noch
n=1 der
kn
k-»oD n = 1
Satz
von
der
kn monotonen
Konvergenz
b e w i e s e n w o r d e n : X ^ : O -» R , n G IN, m i t
für
u 6 O, i m p l i z i e r t f ü r j e d e d i s k r e t e V e r t e i l u n g P ü b e r O die ( m o n o t o n e ) v e r g e n z von Z X^(a))P({(i)}) g e g e n Z .su^ X . ( ( i ) ) P ( { u } ) der
Stetigkeit
von u n t e n von d i s k r e t e n k = 1,2
Dann ist die H i l f s a u s s a g e und es gilt d a h e r ^
Z a , = n = 1 nk
Verteilungen
n 6 IN, m i t
mit
für
Er-
£ X^Cu) ^
n-»oo. Z u m
P über
O setzt
als T r ä g e r
l i m a nk = a n — P ( { u n } ) l °^U^ ° A , j ( u n) k-»oo
....
Kon-
Nachweis man
O p von
anwendbar
Z P({(o }) = P ( A , ) - » Z a ^ P( U A ) . oj^EOpnA^ n k n=1 n j=i j
P.
62
K a p i t e l 6 : M i t t e l w e r t und S t r e u u n g
Eine A n w e n d u n g der S t e t i g k e i t von oben von d i s k r e t e n V e r t e i l u n g e n P Uber O e r h ä l t man m i t P({w e O: X ( u )
s x }) ^ P ( { u e O: X(ü)) s x } ) f ü r eine n m o n o t o n f a l l e n d e Folge (x ) r e e l l e r Zahlen m i t x = inf x , w o b e i X : n - > I R ^ n neiN nGIN n eine r e e l l w e r t i g e
Zufallsgröße
i s t . Dies f o l g t s o f o r t
d a r a u s , daß die
der Mengen { u e O: X(a)) ä x n }, n 6 IN, a n t i t o n i s t m i t ^
Folge
D { u e O: X(g)) s x n } nelN
= {(0 6 O : X(g)) ä x } . Dabei heißt F ^ m i t F ^ ( x ) : = P ( { u E O : X ( u ) ^ x } ) . x 6 R , von X ( u n t e r P ) . FUr den Fall, daß der T r ä g e r von P ^ in
Verteilungsfunktion
der G e s t a l t ^^ < >-oo lim F ^ ( x ) = O u n d x-»oo lim F ^ ( x ) = 1. Als
eine
weitere
schwache
Gesetz
Anwendung
der
der
Zahlen
1774 v e r ö f f e n t l i c h t Zufallsgrößen X, i
großen
worden n
X
ist
Ungleichung
und
von
von Bernoulli wonach
für
Tschebycheff behandelt
stochastisch
soll
das
werden,
daß
unabhängige
u n t e r e i n e r d i s k r e t e n V e r t e i l u n g P m i t P^'' = ... = P ^ " n
und P ^ als ; ß ( 1 , p ) - V e r t e i l u n g die relative
Häufigkeit
— - — f ü r die A n z a h l von
T r e f f e r n in e i n e m B e r n o u l l i - E x p e r i m e n t vom U m f a n g n im f o l g e n d e n Sinn g e gen die T r e f f e r w a h r s c h e i n l i c h k e i t p k o n v e r g i e r t :
Beispiel (Schwaches Für
unter
g r ö ß e n X^
einer
Gesetz
diskreten
der
großen
Verteilung
Zahlen
von
P stochastisch
Bernoulli) unabhängige
Zufalls-
X^ m i t P^i = ... = P^" und P^^ als » ( 1 , p ) - V e r t e i l u n g gilt Z X|(üj)
lim P ( { u G n-»oo
"
-p|iE})=0
f ü r jedes e > 0. n
Z u m Beweis b e a c h t e t man, daß V a r
=
£ Var(X,) ri-^ 1 = 1 _ I Z X|(co) a u f g r u n d der U n g l e i c h u n g von T s c h e b y c h e f f P({ 0 . Dabei kann man die s t o c h a s t i s c h e Unabhängigkeit der X^, j = 1
n.
noch d u r c h die p a a r w e i s e s t o c h a s t i s c h e Unabhängigkeit e r s e t z e n . Es ist ü b lich, die E i g e n s c h a f t P^^ = ... = P^" als identische
^
Verteiltheit
(unter P) zu bezeichnen. Zusammen mit der s t o c h a s t i s c h e n von X^
von X
I
von u
e
0
als
n-maliger
Wiederholung
einer
n
Unabhängigkeit
X^ ( u n t e r P) kann man bei I n t e r p r e t a t i o n von X^(u)
Beobachtung
X
bei physikalischen
Messung von der R e p r o d u z i e r b a r k e i t des E x p e r i m e n t s s p r e c h e n . Beim n - m a l i g e n , unabhängigen, zufälligen Raten einer P e r m u t a t i o n von (1
n
m)
stellt — die d u r c h s c h n i t t l i c h e Anzahl der Übereinstimmungen d a r , wobei X^ X^ s t o c h a s t i s c h unabhängig und identisch v e r t e i l t sind mit P ^ als R e n c o n t r e - P r o b l e m - V e r t e i l u n g , so daß insbesondere E(X.|) = 1 und daher —pj
1 f ü r großes n i s t .
Als w e i t e r e Anwendung der Ungleichung von T s c h e b y c h e f f soll die s t o c h a s t i s c h e Konvergenz der relativen Häufigkeit nicht l e e r e r Urnen bei z u f ä l l i g e r V e r t e i l u n g von m Kugeln auf k Urnen bewiesen w e r d e n . Beispiel (Stochastische
Konvergenz
nen bei zufälliger
Verteilung
der relativen
Häufigkeit
von m Kugeln auf k
Im Zusammenhang mit dem Beispiel, die Bestimmung der Anzahl k(1 - ( 1 -
k
nicht
leerer
Ur-
Urnen) durchschnittlichen
nicht l e e r e r Urnen b e t r e f f e n d , ist b e r e i t s
bewiesen
w o r d e n , daß die W a h r s c h e i n l i c h k e i t d a f ü r , daß genau £ Urnen nicht leer sind, -^(e)
E
- v ) " ^ , £ = 0,1
k. b e t r ä g t . Bezeichnet X,
die zuge-
64
Kapitel 6: M i t t e l w e r t
und
Streuung
h ö r i g e Z u f a l l s g r ö ß e n i c h t l e e r e r U r n e n , so g i l t f ü r die V a r i a n z von X^^ ^ Beziehung
Var(X,
^
p
^ m
)=
k . m
(«)= i
v = 0
E
e(e-1)('l)p
£ = 2
*
- v ) " " , £ =0.1
^
) =
k . m
(£=2 I
. m
(
| 0 die
E
,
, '' V2tc
f -00
noch f ü r
Ferner
also
x^-^
e""^^^T -0° ungerades
= 0 = l i m ECZ;") f U r u n g e r a d e s n^oo " 2®-s!
stochastisch
= lim E i Z ' ) n->oo "
diskreten
gröBen
an d e r
r G IN
für
berücksichtigt.
unabhängige
und i d e n t i s c h
ver-
X ^ m i t e x i s t i e r e n d e m E(X!^) f ü r j e d e s r G IN u n d
Aussage:
£ Xi-nE(Xi) (1;^ ^
,,
CO o f x^e-x^/^dx
für
Verteilung wird klassischen
insbesondere
Aussage
für
man,
lim E ( Z ° ) = n-» 00 "
alle r G N
.
Die B e d e u t u n g d e r V e r t e i l u n g s f u n k t i o n e i n e r r e e l l w e r t i g e n Z u f a l l s g r ö ß e einer
von
Ungleichung
f .r^-x^/^dx = -00 VZtc
x^e-'^^^2dx = (2s-1)(2s-3)-...-1=
liefert
und
lim g(x) = 0 e r g i b t . Damit erhält X->00
lim ( f ( x ) + g(x)) X-» 00
t e i l t e Z u f a l l s g r ö ß e n X^
lim
die
und f x ^ e ' ^ ^ ^ ^ ^ j ^ , _ J x ^ e ' ' ' ^ ^ ^ ^ ^ O -00
F -00
dv
ist f ( x ) + g(x) = f ( 0 ) + g ( 0 ) ,
r = 2 s , s G IN, w e n n m a n d e n e r s t e n B e w e i s s c h r i t t Der
2
z u t r i f f t , die A b l e i t u n g
f ü r 0 ^ t s 1 und x e R
o
T -OD
r 6 IN e r g i b t s i c h ^ und
also I h U ^
1 _ 2 _ 2 J e " dt = e , woraus O
fe-^^/^dx. -00
^XZL •/27t
e "
< '> I
+
folgt aus 0 ^ ^ t ^ t i
= ^ V2n
_ 2 " /
Für
^^ ^
alle t e C O . I ] ,
x e R , also f ( 0 ) + g ( 0 ) = lim
schließlich
x 6 R betrachtet.
o
Integranden gebildet w e r d e n d a r f . Daher
Oiq(x)ä
Hilfsfunktionen
wobei w e g e n I
|h(t^+1)|s1 für
g am
dx = — - / 2 t i 2 y2
o
v= 2 falls
2
f e"* o
sich f'(x) = 2 e
f^ +l
werden.
ist
2
dx = J e " " o
gezeigt o ^ ^
binomialverteilte
des G r e n z w e r t s a t z e s
von
unter
Zufalls-
Laplace
und
6 M i t t e l w e r t und S t r e u u n g
67
de M o i v r e d e u t l i c h , w o b e i a l l e r d i n g s f ü r großes n eine A p p r o x i m a t i o n eine s o g e n a n n t e Normal-
stetige Verteilung stattfindet,
( G a u ß - ) Verteilung
nämlich
die
durch
standardisierte
m i t d e r V e r t e i l u n g s f u n k t i o n 4> gemäß i s t m o n o t o n w a c h s e n d und s t e t i g m i t
T Stt ~ca der E i g e n s c h a f t lim
$ ( x ) = 0 und
lim $ ( x ) = 1).
Sind nun X.: O - > R , j = 1.2, r e e l l w e r t i g e Z u f a l l s g r ö ß e n und i s t P eine d i s k r e t e V e r t e i l u n g Uber O , so s a g t m a n , daß X^ ( u n t e r P) stochastisch ist,
w e n n
1 -
F ^ ^ ( x )
i
1
-
f
u
größer
als X ^
j e d e s x e R z u t r i f f t , also
r
P ( { o e O: X ^ ( u ) > x » S P ( { u e O: X 2 ( u ) > X » f ü r j e d e s x e R g i l t . Bei f e s t e m P a r a m e t e r w e r t p b z w . n von ® ( n . p ) - v e r t e i l t e n Z u f a l l s g r ö ß e n b e s t e h t in n 6 IN b z w . in p e [ 0 . 1 ] eine e i n f a c h e B e z i e h u n g , die s t o c h a s t i s c h e O r d n u n g b e t r e f f e n d :
Beispiel (Stochastische
Ordnung
bei 16(n,p)-verteilten
Zufallsgrößen)
Es w i r d z u n ä c h s t d e r P a r a m e t e r p f e s t g e h a l t e n und g e z e i g t Z k=0
i
!8(n,p)-verteilte
I ( r ' ) p ' ' ( 1 - p ) " " ' ' für jedes m 6 (0 K=0
Zufallsgröße ist stochastisch
n}. d. h. eine
g r ö ß e r als eine
!8(n'.p)-ver-
t e i l t e Z u f a l l s g r ö ß e , f a l l s n' s n g i l t . Z u m Beweis v e r w e n d e t man die B e z i e 1-k hung = + für k = 1 n, w o r a u s s i c h (;^)p''(1-p)"" = ( 1 - p ) " . (1-p)
(
-
P
= (1-p) J^
=
pV
^
und d a m i t die B e h a u p t u n g e r g i b t . Bei f e s t e m n E IN soll nun f ü r alle m = 0
n und f ü r p ^ p' m i t p.p' e [ 0 , 1 ] g e z e i g t
w e r d e n . Dies e r g i b t s i c h s o f o r t aus (n-m)(^)
=
/ x ' ^ ( 1 - x ) " " ' " " ' ' d x f ü r m = 0.1
n - 1 . Die l e t z t e Gleichung
beweist
man am e i n f a c h s t e n d u r c h D i f f e r e n z i e r e n beider S e i t e n nach p, w o b e i e r g i b t , daß die A b l e i t u n g e n der
zu b e w e i s e n d e n
übereinstimmen.
Gleichung
für
p = 0
Ferner
überein,
stimmen woraus
beide
sich
D a r s t e l l u n g f ü r die V e r t e i l u n g s f u n k t i o n e i n e r ® ( n , p ) - v e r t e i l t e n
die
sich
Seiten obige
Zufallsgröße
ergibt. Z u m A b s c h l u ß soll j e t z t noch die L a p l a c e - V e r t e i l u n g
d u r c h eine
g e n s c h a f t , die s t o c h a s t i s c h e O r d n u n g b e t r e f f e n d , g e k e n n z e i c h n e t
Maximaleiwerden.
68
Kapitel 6 : M i t t e l w e r t und S t r e u u n g
Beispiel
(Kennzeichnung schaft
Ist
X eine
{x^
der
bezüglich
durch
der stochastischen
reellwertige
x^} C R mit
Laplace-Verteilung
Zufallsgröße
< Xg ^ •••
eine
Maximaleigen-
Ordnung)
mit
P
^n
V
als
^
Laplace-Verteilung reellwertige
mit einer d i s k r e t e n V e r t e i l u n g P ^ , d e r e n T r ä g e r
in {x^
Uber
Zufallsgröße
x^} enthalten
ist
mit P ^ ( { x ^ } ) i P ^ ( { X 2 } ) ^ ... s P ^ ( { x ^ } ) , so soll gezeigt w e r d e n , daß X ( u n t e r P) s t o c h a s t i s c h g r ö ß e r als Y i s t . Dazu genügt e s , E(f o X) s E(f o Y) f l i r jede m o n o t o n fallende F u n k t i o n f : {x^
x^}
R zu z e i g e n , da man dann
speziell f ü r f den I n d i k a t o r von ( - 0 0 , x ] , x 6 {x^
x ^ } , wählen kann.
Zum
Beweis der l e t z t e n Ungleichung w i r d die Beziehung f ( x i ) + ... + f ( x „ )
ä
n
f(xi)H-...>f(xk) , . , ; für k = 1
, n, v e r w e n d e t , wobei diese U n -
k
gleichung m i t k(f(X|^^^) + . . . + f ( x ^ ) ) s ( n - k ) ( f ( x ^ ) + ...+f{X|^)) g l e i c h w e r t i g ist und diese aus der M o n o t o n i e von f w e g e n f ( x . ^
) + ...+f(x
k+1
) s (n-k)f(x, ) bzw. n
k
f ( x ^ ) + ...+f(X|^) i k f(X|^) f o l g t . Die Ungleichung E(f o X) ä E(f o Y) e r g i b t sich nun Y
aus der D a r s t e l l u n g P
"
=
"'k'^k
Z u s a m m e n h a n g m i t der Kennzeichnung
der l a c e -nEV e ra.t e i=l u1n ggiltd uund r c h P, eineeine E x tdr ei smk ar el et ei g eVnesrct e h ial u f tn, g wobei s 0 , x } ist k = 1L a p n, k=1 k ^ k ^ Uber { x ,1 n mit der E i g e n s c h a f t , daß x ^ } ) die L a p l a c e - V e r t e i l u n g Uber {x
X }, k = 1
1
n, i s t . Gilt s t a t t d e s s e n P ^ ( { x , } ) s ... s P'^({x } ) . so e r h ä l t
k
I
n
man E(f o X) i E(f o Y) f ü r jede m o n o t o n w a c h s e n d e F u n k t i o n f : { x ^ denn d i e s e r Fall läßt sich d u r c h U b e r g a n g von P ^ ( { x . } ) zu 1 =1 n I
i-pY({x.}) f(x.)i
1=1
—
n, auf den b e t r a c h t e t e n Fall z u r ü c k f u h r e n , da man danach
n-1
I
n Z
f(x,)
i= i
£ p Y ( {5x i } ) f ( x i ) . also n-1
^ ^ und d a m i t
n
—
f(xi) n
i
I i " ' ' ' ' - — n-1
n
n V iS = i f ( x ,I) P ^ ( { x . I} )
erhält.
i
7. Wahrscheinlichkeitserzeugende FunKtlongn dlsKrgter Verteilungen j m d l2fiz dingte WahrscheinllchkeUsYertellungen Die
bisher
betracliteten
l 0 die Beziehung^ lim inf r I= 0 r n"^ / / n ^ foe ' ^ ^ ^ ^ d x = 2^ / 2 ¥ n->co folgt. Aus Z 1+ I ( 1 - 7 - ) - . . . - ( I - — ) ^ 1+ £ ' = r=0 nr |< = 1 " n k=1 1 k(ti = 1 Eine
weitere
trifft
r,
die F r a g e , ob es
daß beim z w e i f a c h e n
der
zwei
Produktregel nicht
für
notwendig
unabhängigen
Würfelwurf
mit d i e s e n beiden W ü r f e l n
für
erzeugende
negativ
beantworten.
Beispiel
(Nichtexistenz beim
Würfeln
Funktionen
einer mit zwei
Sind f.(t)! = Z p'^'t'^, t 6 R , J k—1 k k =1
läßt
sich
oder
k,
Funktionen Würfel
gleichwertig
die V e r t e i l u n g
für
die
12 i s t . Mit H i l f e der diese
Laplace-Verteilung nicht
erzeugende
ungefälschte
s u m m e n z a h l eine L a p l a c e - V e r t e i l u n g über 2 regel
+
einsehen.
Anwendung
multanen W e r f e n
k^) mit
notwendig
die z u g e h ö r i g e n
Frage
für
besonders
die
ungefälschten erzeugenden
gibt, beim
beso si-
AugenProdukteinfach
Augensummenzahi Würfeln) Funktionen
6, j = 1,2, als W a h r s c h e i n l i c h k e i t e n f ü r die A u g e n z a h l k e {1
bei V e r w e n d e n des j - t e n W ü r f e l s , j = 1,2, s o f ü h r t die A n n a h m e der
mit 6}
Existenz
einer L a p l a c e - V e r t e i l u n g für die A u g e n s u m m e n z a h i a u f g r u n d der P r o d u k t r e g e l
74
K a p i t e l 7:
fUr
erzeugende
= iV • = ^
Erzeugende
Funktionen
+
Funktionen
auf
die
folgende
t e R . w o r a u s die G l e i c h u n g
(1+ t + ... + t ' ' ° ) , t 6 l R , f o l g t . A l s o s i n d
wobei
Gleichung: I
f^(t)f2(t)
•
=
i
=
^pj^-'^t'"''' P o l y n o m e 5 - t e n G r a d e s ,
I p j ^ ' t * * " ^ d a h e r eine r e e l l e N u l l s t e l l e t € R b e s i t z t , die w e g e n k=r k o ^
(1 + t + ... + t ^ ° ) T-d +t 11 o
+
o
0 f ü r t = 1 von e i n s v e r s c h i e d e n s e i n m u ß . W e g e n = -h- ° , 11 t _ - 1
* 0 e r h ä l t man dann aber einen
Widerspruch. ^
Den N u t z e n e r z e u g e n d e r F u n k t i o n e n kann man b e s o n d e r s e i n f a c h d a r a n e r k e n n e n , daß nach d e m G r e n z w e r t s a t z von A b e l aus d e r E x i s t e n z von lim ( E ( t ^ ) ) ' t-»i X: O lim ( E ( t
IN V
die E x i s t e n z von E ( X ) f o l g t , w o b e i dann E(X) = l i m
für
wegen
oo ) ) ' = Z k p . z u t r i f f t , w e n n man die f o l g e n d e , b e r e i t s f r ü h e r b e w i e s e n e k=o ^
A u s s a g e b e r ü c k s i c h t i g t : Für k o n v e r g e n t e Folgen
2
reeller
Zahlen
m i t O ^ a nk, ä:a n.k, + ,1 f ü r jedes n 6 l N und alle k e l N f o l g^t k-»oo lim i m a nk , , nZ= 1a nk= fn = 1 l k-»oo e r g i b t s i c h a u c h u m g e k e h r t aus d e r E x i s t e n z von E(X) die von lim E ( t ^ ) '
und
es g i l t E(X) = lim^ E ( t ^ ) ' . A l l g e m e i n e r e x i s t i e r t ECX*") f ü r X: C l I N ^ genau d a n n , w e n n Mm^ ( E ( t ^ ) ) ^ ' ' ' ( k - f a c h e A b l e i t u n g von E ( t ^ ) ) e x i s t i e r t . In d i e s e m Fall g i l t E(X(X-1)-...-(X-k+1)) faktorielles
Moment
= lim t-»i
(E(t^))"'',
wobei
E(X(X - D-...-(X - k + D)
k-tes
von X ( u n t e r P) h e i ß t . Das k - t e f a k t o r i e l l e M o m e n t e i n e r
» ( n , p ) - v e r t e i l t e n Z u f a l l s g r ö ß e X b e t r ä g t lim^ ( ( p t +
n ( n - 1 ) . . . ( n - k + 1)p'' =
= (^)k!p''. Besitzt
so g i l t
..(X-k.l))= k =0
P ^ die R e n c o n t r e - P r o b l e m - V e r t e i l u n g ,
£ v=0
vi
= "z' ^ v= 0 vi
(1 = 0
E(X(X-1).. =1
(1 = 0
für
n b z w . = 0 f ü r k > n. H i e r a u s g e w i n n t man f ü r die z u g e h ö r i g e e r z e u g e n d e
F u n k t i o n die e i n f a c h e D a r s t e l l u n g E ( t ^
X
) = Z k=o
(t~ 1 , , kl
t e R , w e n n m a n eine
T a y l o r - E n t w i c k l u n g f ü r E ( t' E(tX)= ^
£
Z k=0
kl
)* an d ae ar S s itee il il e ti =- 1 a n s e t z t , w o b e i ^k n k a u c h d i r e k t gemäß Z = Z Z ^ k=0 kl k = 0 (1 = 0 f
^
k = 0 (1 = 0 l i l ( k - i i ) i
,
£
£
t^
(-1)'^-^'
(1 = 0 k=(i Ii!
I n s b e s o n d e r e e r g^ i b t s i c h n-»oo lim k = Z0
(k-ii)! kl
=
=
£
kl
.t^i
(i = 0 (Xl
foi X=0
a l s o w e g^^e n
= e '^e*'* = e ^ ' * " ^ ' , t 6 R , die e r z e u g e n d e F u n k t i o n e i n e r
XI
t ^
|oo
n
l-|t|
für k = 0
E ( t ^ " ) = E ( t ^ ° ) für |t| < 1 wegen P ( { X n
KT =
2
fUr n i n o
11-|t|
U m g e k e h r t folgt aus
= 0 } ) i ECt'^") ^ n-» oo
t-1
0 und f e s t e s t mit |t| < 1 mit
n -^oo
Funi n, so e r h ä l t nnan w e g e n lim — f^(t) = ^ tH.1 dt^ E ( X ( X - 1 ) . . . ( X - r + D ) , r G l N , die Beziehung f ^ ( t ) = c
I r =0
. | t | < 1, w o r a u s
r!
w e g e n f ^ ( 0 ) = 1 f o l g t c = 1, d. h. f ^ s t i m m t mit der e r z e u g e n d e n F u n k t i o n der Rencontreproblem-Verteilung
ijberein.
Die T a t s a c h e , daß d u r c h B e r e c h n u n g der f a k t o r i e l l e n M o m e n t e eine e i n f a c h e r e D a r s t e l l u n g der e r z e u g e n d e n F u n k t i o n m ö g l i c h i s t , z e i g t auch das
folgende
Beispiel f ü r die Z u f a l l s g r ö ß e Y^ ^ l e e r e r U r n e n bei z u f ä l l i g e r V e r t e i l u n g von m Kugeln auf k U r n e n . Beispiel (Erzeugende Zuordnung
Funktion
für
von m Kugeln
die
Verteilung
zu k
Urnen)
leerer
Urnen
bei
zufälliger
Die Z u f a l l s g r ö ß e X, = k - Y, b e s i t z t die V e r t e i l u n g P({X, =£}) = ^ k.m k,m ^ k.m (^J
I
)(«-v)"", £=0,1
^ l ' l IN^ o also X = (X
I
X
m
V
), X : Ü-» IN , j = 1,...,m, ü b e r t r a g e n , indem man o ' ^
E ( t f i •...• t ^ " ^ ) f ü r | t , l < 1 , j = 1 I m j
m, b e t r a c h t e t . Die N ü t z l i c h k e i t des B e g r i f f s
der e r z e u g e n d e n F u n k t i o n von I N ^ - w e r t i g e n Z u f a l l s g r ö ß e n geht s c h o n aus der T a t s a c h e h e r v o r , daß die s t o c h a s t i s c h e U n a b h ä n g i g k e i t von X^ X rO^IN j
. i=1
X^
im Fall
m, mit der G ü l t i g k e i t von E ( t f ^ •...• t ^ ^ ) =
o
1
m
1
m
f ü r I t j l < 1, j = 1,...,m, g l e i c h w e r t i g i s t , wenn man b e r ü c k s i c h t i g t , daß bei I N ^ - w e r t i g e n
Zufallsgrößen
auch
der E i n d e u t i g k e i t s s a t z
für
die
e r z e u g e n d e n F u n k t i o n e n a u f g r u n d des I d e n t i t ä t s s a t z e s
für
Potenzreihen
mehreren
den
Veränderlichen
zutrifft.
Einen
Beweis
für
zugehörigen in
Stetigkeitssatz
e r z e u g e n d e r F u n k t i o n e n von I N ^ - w e r t i g e n Z u f a l l s g r ö ß e n e r h ä l t man b e s o n d e r s e i n f a c h mit Hilfe v o l l s t ä n d i g e r
I n d u k t i o n nach m v e r m ö g e des nun f o l g e n d e n
B e g r i f f s b e d i n g t e r V e r t e i l u n g e n . Z u v o r soll noch als Beispiel f ü r die gende
Funktion
von
behandelt w e r d e n .
IN^-wertigen
Zufallsgrößen
die
erzeu-
Multinomialverteilung
7 Erzeugende Funktionen
F ü r den Fall P
(X ,. .,x ) ^ a l s iOT(n,p^
des M u l t i n o m i a l s a t z e s
|t, | R eine r e e i l w e r t i g e Z u f a l l s g r ö ß e , so kann m a n vernnöge P ^ ' ^ beliebiger n ^ ' w e r t i g e r wert
Z u f a l l s g r ö ß e Y: O
O^
den bedingten
bei
Erwartungs-
E ( X | y ) von X u n t e r y bei g e g e b e n e r d i s k r e t e r V e r t e i l u n g P i j b e r O gemäß
E(X|y) = Z X
für y e O^y einführen, falls I | x | P ^ ' y ( { x } )
konvergiert
( m a n c h m a l w i r d a u c h die B e z e i c h n u n g E p ( X | y ) g e w ä h l t , u m die A b h ä n g i g k e i t von P a u s z u d r ü c k e n ) . W e g e n
^
X e R , y e O y , f o l g t aus d e r
E x i s t e n z von E(X) die E x i s t e n z von E ( X | y ) f ü r j e d e s y 6 Q ^ y . Im Fall, daß X. Y ( u n t e r P) s t o c h a s t i s c h u n a b h ä n g i g s i n d , w a s z . B. im Fall z u t r i f f t , w o P ^ eine Dirac-Verteilung
i s t , so f o l g t
aus
(x,y)})
= P^({x})P^({y».
x 6 R,
y 6 O p y , die B e z i e h u n g P ^ ' y ( { x } ) = P ^ ( { x } ) f ü r j e d e s x e R bei f e s t e m y 6 O ^ y , w o r a u s E(X|y) = E ( X ) , y e ^ p y Bedingung
r e s u l t i e r t , f a l l s E(X) e x i s t i e r t . F e r n e r i s t die
= P^ für jedes y e O p y o f f e n b a r mit der s t o c h a s t i s c h e n
Unab-
h ä n g i g k e i t von X, Y ( u n t e r P) g l e i c h w e r t i g . A u f g r u n d d e r D e f i n i t i o n des b e d i n g t e n E r w a r u n g s w e r t e s als M i t t e l w e r t d e r z u g e h ö r i g e n b e d i n g t e n V e r t e i l u n g , s i n d die E i g e n s c h a f t e n der Konvergenz
den
Erwartungswerte
1.
Linearität:
LInearität,
Erwartungswert
y 6 Opy 3 . Satz
sowie
der
betreffend,
Satz
von
unmittelbar
der
monotonen
auf
bedingte
übertragbar.
a ^ E ( X j y ) + a ^ E ( X ^ l y ) = E(a^X^ + a ^ X ^ l y ) , y e O ^ y , a. 6 R , j = 1,2,
f a l l s E ( X j l y ) , j = 1,2, y 6 O p y 2 . Isotonie:
isotonie
existiert.
X, ^ X ^ i m p l i z i e r t E ( X J y ) £ E ( X 2 l y ) , y 6 O p y . f a l l s E ( X . | y ) , j = 1,2, existiert.
von der
monotonen
Konvergenz:
Aus O ^ X ^ s X ^ ^ . . .
E ( X | y ) . y e O p y f ü r X: = s u g ^ X ^ r e s u l t i e r t ^ i m
mit
existierendem
E(X^|y) = E(X|y). y e O ^ y .
82
Kapitel 7: E r z e u g e n d e
Funktionen
S e t z t man y: = Y((o), u G 0 , so w i r d d u r c h Z ( u ) : = E ( X | Y ( u ) ) . (0 6 0 , eine r e e l l w e r t i g e Z u f a l l s g r ö ß e e r k l ä r t , f a l l s E(X|y) fijr y e O^y e x i s t i e r t und E(X|y): = 0 für y t f l p Y g e w ä h l t w i r d , die Inn f o l g e n d e n mit E(X|Y) b e z e i c h n e t w i r d . E x i s t i e r t E{X), s o gilt E ( E ( X | Y ) ) = E ( X ) . w e g e n E ( E ( X | Y ) ) = I I x y X I
X P^({x}) = E ( X ) . FUr die V a r i a n z von Z gilt
Ungleichung
Var(E(X|Y))
s Var(X),
s o daß
die
({y}) =
bei e x i s t i e r e n d e m Sprechweise
E(X^)
plausibel
die
wird,
daß es s i c h beim U b e r g a n g von X zu E(X|Y) um eine G l ä t t u n g s o p e r a t i o n h a n d e l t . FUr das V e r s t ä n d n i s von V a r ( E ( X | Y ) ) ä V a r ( X ) ist die s o g e n a n n t e regel
für
bedingte
Erwartungswerte
nützlich:
Mit
X: Q
Substitutions-
R,
Y: O -> O^.
f: R X O ^ ^ R , w o b e i E ( f o (X,Y)) e x i s t i e r e n möge, gilt E(f o (X,Y)|y) = E ( f o (X.y)|y), y e n ^ y , wobei
in f o (X,y)
die
konstante
Abbildung
mit dem W e r t
y 6 O^y
gemeint i s t . W e g e n der S u b s t i t u t i o n s r e g e l für bedingte V e r t e i l u n g e n gilt nämlich p f o ( X , Y ) | y ^ p f o ( X . y ) | y ^ V 6 O^y, w o r a u s E ( f o ( X , Y ) | y ) = E ( f o (X,y)|y), y G O^y. f o l g t . F ü h r t man V a r ( X | y ) für X: O -> R mit e x i s t i e r e n d e m als S t r e u u n g von P^'^. y G O^y, ein,
so gilt Var(X|y)
E(X^|y), y e O^y ,
= E ( ( X - E(X|y))^|y) =
E ( X ^ - 2 X E ( X | y ) + E^(X|y)|y) = E(x2|y) - 2E^(X|y) + E^(X|y) = E(X^|y) - E^(X|y), so daß man für die gemäß V a r ( X | Y ( u ) ) , u G 0 , mit V a r ( X | Y ( u ) ) = 0 für Y ( u ) t O ^ y , d e f i n i e r t e Z u f a l l s g r ö ß e V a r ( X | Y ) e r h ä l t E ( V a r ( X | Y ) ) = E(X^) - E ( E ^ ( X | Y ) ) . Die Substitutionsregel
f ü r bedingte E r w a r t u n g s w e r t e
E((X-E(X|Y))^|y). y GOpy, woraus
liefert f e r n e r Var(X|y) =
insbesondere E(Var(X|Y)) = E((X-E(X|Y))^)
r e s u l t i e r t . W e g e n V a r ( E ( X | Y ) ) = E(E^(X|Y)) - E^(E(X|Y)) = E ( e 2 ( X | Y ) ) - E^(X) e r h ä l t man s c h l i e ß l i c h V a r ( X ) = V a r ( E ( X | Y ) ) Var(E(X|Y))
resultiert,
wobei
Var(X)
+ E(Var(X|Y)), woraus Var(X) a
= Var(E(X|Y))
wegen
E(Var(X|Y))
=
E ( ( X - E ( X | Y ) ) ^ ) genau dann z u t r i f f t , wenn P({X = E(X|Y)}) = 1 gilt. Zur
Herleitung
von V a r ( X )
= Var(E(X|Y))
+ E(Var(X|Y))
für
X: O
R
mit
e x i s t i e r e n d e m E(X^) ist die B e z i e h u n g E ( E ( X | Y ) ) = E(X) b e n u t z t w o r d e n .
Ei-
ne w e i t e r e A n w e n d u n g hiervon w i r d im f o l g e n d e n B e i s p i e l b e h a n d e l t .
Beispiel
(Erwartungswert,
Varianz
und
im Zusammenhang
mit der
Ruinwahrscheinlichkeit
Bezeichnet
D^ die Z u f a l l s g r ö ß e
Ruinwahrscheinlichkeit
eines
der
Spielers
erzeugende
Spieldauer mit
dem
Funktion
der
eines
Spieldauer Spielers)
im Z u s a m m e n h a n g Anfangskapital
mit
a G IN
der und
7 Erzeugende Funktionen
dem Zielkapital
b 6 IN mit b i
a, s o gilt
mit
E r g e b n i s des e r s t e n M U n z w u r f s
mit e i n e r
ungefälschten
die f o l g e n d e R e k u r s i o n s f o r m e l : + i (E(D J + 1), a e {1 2 a-1 d
a
a e
{1
Zufallsgröße, MiJnze
die
das
beschreibt,
E(D^) = ~ E(D^|1) + ^ E ( D ^ | 0 ) = ^
b-1}, w o b e i D
von z w e i L ö s u n g e n d i e s e r ^
Y als
83
= D^ = 0 z u t r i f f t . D a die D i f f e r e n z o b
Rekursionsformel
b-1}, mit d e r L ö s u n g d ^ -
aa
+
auf d
+ ß. a G {0
a
= i d , + i d 2 a+1 2 a-l b} f ü h r t , w e n n
die Ü b e r l e g u n g e n z u r B e r e c h n u n g d e r R u i n w a h r s c h e i n l i c h k e i t
eines
man
Spielers
b e a c h t e t , e r g i b t s i c h u n t e r B e r ü c k s i c h t i g u n g d e r N e b e n b e d i n g u n g d^ = d^ = 0 die B e z i e h u n g a = ß = 0 , s o daß h ö c h s t e n s eine L ö s u n g d e r o b i g e n R e k u r s i o n s f o r m e l z u s a m m e n mit den N e b e n b e d i n g u n g e n e x i s t i e r t . F ü r die E x i s t e n z
einer
s o l c h e n L ö s u n g m a c h t m a n a m e i n f a c h s t e n den A n s a t z E(D^) = A a ^ + B a , a £ {0,..,b}, w o r a u s
sich
wegen
der
Rekursionsformel
durch
Koeffizientenver-
g l e i c h A = -1 e r g i b t , w o b e i w e g e n ECD^^) = 0 f ü r B = b r e s u l t i e r t , a l s o E(D^) = a(b-a). Z u r B e r e c h n u n g von V a r ( D
) b e a c h t e t m a n die B e z i e h u n g E(D^|1) =
= n= I 1 n ^ P ° ® ' \ { n } ) = n=1 ? n ^ P ( { D a+1 = n - 1 } ) = n=0 I (n + 1)^P({D a + 1 =n}) = E ( D ^ a + ,) 1 + 1 und
analog
E(D^|0) = E(D^
+ 2E(D^
+1,
woraus
sich
die
R e k u r s i o n s f o r m e l E ( D ^a ) = i2 (E(D^a+1J + a - 1, ) ) + E ( D a+1 ) + E ( D a - 1J + 1 = = 1(E(D^ ) + E ( D ^ J ) + 2 E ( D ) - 1 = i (E(D^ J + E ( D ^ )) + 2 a ( b - a) - 1, 2 a+1 a-1 a 2 a+1 a-1 a e {1
b-1}, e r g i b t , die w i e d e r u m a u f g r u n d d e r s e l b e n A r g u m e n t a t i o n
im F a l l z u r B e r e c h n u n g von E(D^) u n t e r
Berücksichtigung
der
wie
Nebenbedin-
g u n g D^ = D^ = 0 e i n d e u t i g l ö s b a r i s t . D a b e i e r g i b t s i c h die E x i s t e n z L ö s u n g d u r c h den A n s a t z E ( D ^ ) = A a ' ' ' + B a ^ + C a ^ + D a , w o r a u s
einer
zusammen
mit d e r R e k u r s i o n s f o r m e l d u r c h K o e f f i z i e n t e n v e r g l e i c h A = - i , B = - ^ b , C = - | r e s u l t i e r t . Die N e b e n b e d i n g u n g E ( D ^ ) = 0 l i e f e r t s c h l i e ß l i c h f ü r D = |
(b^-2).
w o r a u s s i c h E ( D ^a ) = f3 (a^ - 2 b a ^ + 2 a + b ( b ^ - 2 ) ) = |3 (b - a ) ( - a ^ + ba + b ^ - 2 ) e r g i b t . D a m i t e r h ä l t m a n s c h l i e ß l i c h V a r ( D ) = E(D^) - E ^ ( D ) = ^ a { b - a ) ( a ^ - 1 + ^ a a a 3 (b-a)^-l).
Zur
Berechnung
der erzeugenden
Funktion E(t
von
D
m a n von d e r R e k u r s i o n s f o r m e l E ( t ° ® ) - ^ E(t°®|1) + ^ E(t°®|0) = - i |t|a> und - 1 < t . Ä l . j
X ' " ' ) : 0 - » IN"", n G N , folgt P ( { x ' " ' = k m o o 1 1
^ P({x'°'= k,,...,Xoo 1 1
m
m
}) = P ( { x ' ° ^ = k ^
X'°* = k
}), k.GlN
}). k
})-P({X;°'=k 1 1
m, folgt. U m g e k e h r t ergibt Sich aus
P({X'°' = k
Induktionsvoraus-
X ' " ' =k Jy}) = P ( { x ' ° ' = k m-1 m— I i 1
J y } ) , w o r a u s wegen l i m P ( { x ' " ' = k rn—1 n—^ OD
Beziehung
=
, j = 1
m , die
E N . o
X*°'=k m
limP({x'"' = k n-» '
m-i
=
die
}).k,GN, m j o
, x ' " ' = k }) = 1 m m
Aussage
1
1 m m j o ^ l i m E ( t ^/ ( n ) - . . . - t ^ ( n ) ) = E ( t ^/ ( n ) • ... • t^(O) ), - 1 < t . ä 1, j = 1 n-» 1 m 1 m i ' Zweck
w ä h l t man z u
|t | < 1, j = 1
, L I — s. , i 1-|tj| 2(2^-1)
1
|P({X'"* = k,....,X^"' = k 1 1 m m k.G{0 I
n>, j = 1 o
'
rn
für
m, und E > 0 n^n
°
m. Z u
diesem
ein n^ G IN m i t
, s o w i e ein n , G l N 1
mit
})-P({X;°' = k X'°'=k })|s 1 r "1 m mm
m. H i e r a u s
resultiert
^(n) (n) (O) |E(t, • ... • t ) - E(t ^ 1
m
1
(O) m
86
^
Kapitel 7: E r z e u g e n d e Funktionen
l0 und P ( { N = 1}) > 0 angenommen, w o r a u s die Existenz von Hnn
= = a > 0 folgt.
Aus (••) ergibt sich die Existenz von lim = = b mit bi^O und u / 1 , da der ^ ^ T-vO g ( t ) Fall einer Dirac-Verteilung für P ^ bzw. P ^ ausgeschlossen wurde. Daher liefert t
0 in der Beziehung ( * » ) die A u s s a g^e
woraus f(s) =
t ^ •a - = = X > 0 für alle 0 < s < 1, f ( s ) = 1-n
0 < s < 1, folgt, d. h. f ist die erzeugende Funktion einer
^|>(X)-Verteilung. Hieraus ergibt sich schließlich zusammen mit (•*) für s Beziehung woraus
1 die
= ^ ^ + t für 0 < t ^ 1 und damit g(t) = (1 - n ) + t:t wegen g(1) = 1,
sich insbesondere
0 < n < 1, also die erzeugende
Funktion
einer
a5(1,p)-Verteilung mit p: = n ergibt. Der zweite Fall P ( { N = 0>)=0 führt nach ~k minimaler W a h l von k e IN mit P ( { N = k } ) > 0 auf lim ^ . = f , so daß insbesondere (,„)
H
J
lim ->o
^ tf(t)
t f (t) .
= : a > 0 e x i s t i e r t . Aus (*•) =
f 0 und P ( { N = 1}) = 0 führt bei minimaler W a h l von k > 1 mit P ( { N = k}) > 0 auf die A u s s a g e llrr,
f(t)
_
P ( { N = 0))
-, o
Aus (••) ergibt sich (••) die Existenz von
= lim
t
- ( - k ' ' fiJ^ 0< s . t < 1 . w o r a u s
, g ' ' ' ' — = : b folgt, wobei h ^ O gilt, da für P*^ eine
Dirac-Verteilung ausgeschlossen worden ist. Geht man in ( » ) zu t -» 0 über, so erhält man d. h. f ( s ) = exp IzSL = 9 < t ) / LI g (t)
f(s)
=^ • ^ == c> 0, 0 < s < 1, also « n f ( s ) 1-n a k
s*" - 1), 0 < s s 1, w o r a u s mit Hilfe von (*»*) für s
(s'' -1), 1 folgt
0 < t i 1, also £ n g ( t ) = f £n (1-n + [xt''), 0 < t ^ 1, d. h. k
7 Erzeugende Funktionen
89
±
g(t) = ( d - i i ) + tit'')'* , |t| < 1. Da (1-(i)
|t| < 1, die erzeugende Funktion
einer Verteilung mit {0,k} als Träger ist, liegt der Träger der zu g gehörenden Verteilung, also P^^ in der Menge {0
k } . wobei die k - f a c h e Faltung von
P^^ als T r ä g e r {0,k} besitzt. Hieraus resultiert schließlich der V\/iderspruch k = 1. Poisson-Verteilung und Binonnialverteilung lassen sich gegenseitig
dadurch
kennzeichnen, daß P^^'^eine Binomialverteilung für y^lN^ ist mit Y: = wobei
stochastisch unabhängig und identisch verteilt (unter P)
sind. Es handelt sich hierbei in der Hauptsache um eine Anwendung der Tatsache, daß ein Erwartungswert iteriert mit Hilfe bedingter E r w a r t u n g s werte berechnet werden kann. Hieraus resultiert für die erzeugende Funktion f von
die Beziehung f (st)f (t) = E(E(s^M Y ) t ^ ) ) = E(
j'^t'^) f U r O < s , t i 1 .
wenn man für P^i''' eine ! 8 ( y , ) - V e r t e i l u n g , n G IN^, annimmt, die sich, wie bereits gezeigt worden ist, im Fall P '' als V ( X ) - V e r t e i l u n g f(st)f(t) =
ergibt. Aus
t). 0 < s,t i 1, ergibt sich umgekehrt für P^^ eine V { X ) - V e r -
teilung bzw. Dirac-Verteilung 8 , wie das folgende Beispiel zeigt. Beispiel (Gegenseitige verteilung
Kennzeichnung
als
bedingte
der Poisson-Verteilung
und der
Binomial-
Verteilung)
Nach den obigen Überlegungen ist die Lösung von f ( s t ) f ( t ) = f ^ ( - ^ t ) , 0 < s , t < 1, für die erzeugende Funktion f von P^^ gesucht, aus der f ( s ) = + 0 < s i 1, folgt. Hieraus resultiert f ( s ) = f^ +1),0ss
+
n } - » I R , die Beziehung £ f ( k ) ( " 1 - p)""''= 0 ^ () =
sn-1,
1-X^
Moment
explizit
optimalen
Bernoulli-Experiment
ist der d u r c h n
Zentrale
optimale
optimal
X^ als s t o c h a s t i s c h
erwartungstreu.
unabhängigen
mit P^^ als 3 5 ( 1 , p ) - V e r t e i l u n g
s t o c h a s t i s c h u n a b h ä n g i g und i d e n t i s c h v e r t e i l t
und
auch
sind,
wobei
P ^ " ^ ' ' e i n e » ( 1 , 1 - p ) - V e r t e i l u n g i s t . S p e z i e l l f ü r k = 2 e r g i b t s i c h , daß n P H Xf 2 ^ Z (x.--^^^—) (Stichprobenstreuung) für p(1-p) optimal e r w a r t u n g s n-1 j=1 t r e u i s t . D i e s k a n n m a n a u c h e i n f a c h e r d a d u r c h e i n s e h e n , daß m a n v o n d e r n T. Xn t .^A I\ r, p O p t i m a l i t ä t von x / n bzw. ( ^ P P a u s g e h t , s o daß n
n
n
n -
n(n-1)
^ n(n-1)
(n
Z x. - ( Z x . ) 2 ) = - L - ( E 1=1 i 1=1 i n - 1 i=1
i
n Z
—!— Z (x n - 1 j=1 j
X :
— f ü r n
Einer
ähnlichen
einer
35(n, ^
Situation
)-Verteilung
P a r a m e t e r s der
p - p ^ = p(1-p)
wie
beim
begegnet
optimal
Schätzen man
ist.
des
beim
Rencontre-Problem-Verteilung.
ganzzahligen
Schätzen
des
Parameters ganzzahligen
8 S c h ä t z e n von P a r a m e t e r n
Beispiel (Bestimmung Parameter lokal
aller der
erwartungstreuen
Schätzer
für
Rencontre-Problem-Verteilung
optimaler
ganzzahligen Kennzeichnung
Schätzer)
d. h. P ^ ( { m } ) = - ! ml
n G IN eine Menge ^ ^
den
und
Es b e z e i c h n e X eine I N ^ - w e r t i g e Z u f a l l s g r ö ß e m i t P ^ als Verteilung, "
101
Z v=0
^
Rencontre-Problem-
. m G l N , so daß bei
v!
von d i s k r e t e n V e r t e i l u n g e n d e f i n i e r t
unbekanntem
w i r d . Die
Menge
D o der z u g ' e h ö r i g e n N u l l s c h ä t z e r d o sind d u r c h d o (k) = - ( k - 1 ) d o ( 0 ) , k G INo , g e k e n n z e i c h n e t . W e g e n Ep(X) = 1, P'^
sind alle d ^ : IN^
R mit d ^ ( k ) =
- ( k - 1 ) d O( 0 ) , k GIN O. N u l l s c h ä t z e r . U m g= e k e"h r t =f o l g "t f ü 0r d GD 0 im Fall n = 1 die Beziehung d (1) = 1 und aus d (k) = - ( k - 1 ) d (0) f ü r k = 0 n - 1 (n GIN f e s t ) ="0 o o n (k-1)do(0) n - k (_i)V resultiert zusammen mit E ) = 0 die Gleichung - Z ^ I —— p p'^ o ^ k=0 kl v=o vi '
d (0) o n! k I k*'"' m i t
nl
d*(k)=
o
(n) = 0 , d. h. d (n) = - ( n - 1 ) d ( 0 ) . F e r n e r i s t d : N ^ R m i t ' ' ' o o I— 1 n ( k - j ) , k 6 IN , r 6 IN, k ' ° ' : = 0 . k e IN , ein fUr S
r =1
J=0
mit ^
n
k
E p x ( d ) = I^JQ n n-r ^ Z r=1 £ =Z0 — «! k (k-1)c+ —1
kl
'
o
5 ( P ^ ) = n, e r w a r t u n g s t r e u e r
1 i.——
kl
r\-r-t v =Z0 ( .
n-k - j ^
^IQ
n =
o
S c h ä t z e r , denn es gilt n
n - r - ( k ~ r ) (-1)'^
k=r ( k - r ) l
Z k ' ^ ' , k G l N , f ü r ein c G R z u t r i f f t . Dagegen e r g i b t s i c h w e g e n vZ = 0 (-1)
/ v i , n i k , f ü r den S c h ä t z e r d: INO
M a x i m u m - L i k e l i h o o d - M e t h o d e d(k) = k, k G N
o
f ü r n = d(k) = k maximal w i r d , während
R nach der s o ^g e n a n n t e n
, w o n a c h die W a h r s c h e i n l i c h k e i t
p d o X j ^ l ^ j j in A b h ä n g i g k e i t vom P a r a m e t e r w e r t
kl
"
( - i ;— ) ^ = n . D a m i t g i l t d G D . genau dann, w e n n d(k) = vi y & ^
n GIN bei f e s t e m k GIN^ hier
Z k ' ^ ' = k! Z r =0 r=0 rl
wegen ^
S - T < - r . k G l N . als [ k l e ] f ü r k G IN m i t Cx] = = s u p { n G IN : n s x } , x > 0 , r=k-H r l k o
d a r g e s t e l l t w e r d e n k a n n . Z u r C h a r a k t e r i s i e r u n g der f ü r n i g (g GIN f e s t ) lokal o p t i m a l e n S c h ä t z e r ü b e r l e g t man s i c h z u n ä c h s t , daß die im Modell
wobei
der g a n z z a h l i g e P a r a m e t e r n f ü r j e d e s P ^ G die Bedingung n ^ g e r f ü l l t , die 9 (rl N u l l s c h ä t z e r von der G e s t a l t Z a (k -1), a GR. r = 1 q, k G IN , sind. r=1 r r o Für j e d e n s o l c h e n S c h ä t z e r d^ gilt w e g e n E p ( x ' ' " ' ) = 1. r = 1 n, P ^ G^P^, die B e z i e h u n g E ^ x l d ^ ) = 0 , P ^ G ^ P ^ . U m g e k e h r t f o l g t f ü r d^: IN^-> R m i t E ^ x ^ d ^ ) = 0 , pX g ® ^ g
z u n ä c h s t die E x i s t e n z eines Polynoms n : IN -> R h ö c h s t e n s ^ g o
vom
G r a d g m i t 7t (k) = d ( k ) , k G { 0 , 1 g - l ) , so daß d - 7t ein N u l l s c h ä t z e r g o o g b e z ü g l i c h ^ ^ u { 8 ^ } i s t , d. h. es g i l t d^ = Tt^. Da { k ^ ' " ' , r = 0 g} eine Basis f ü r den V e k t o r r a u m der Polynome in k G IN^ h ö c h s t e n s vom G r a d g i s t , gilt f ü r 7t^ die
102
Kapitel 8: Schätzen von Parametern
g ot k - , , a ER, r = 0 Darstellung tu (k) = Z ^ 9 r=0 r • r • • P^eV^,
die Gleichung
g
q, k e IN , wobei E ^ ( t ) = g E ot , -a g (g e IN^ fest) lokal optimalen S c h ä t z e r d*: f l ^ -> R mit O^ =
als Polynome höchstens vom Grad g gekennzeichnet werden.
Beispiel (Kennzeichnung funktion
der lokal optimalen
des ganzzahligen
Schätzer
Parameters
einer
für eine
Parameter-
Binomialverteilung)
Als Modell liegt die Familie ^ ^ von !8(n,-l )-Verteilungen mit n 6 IN zugrunde. Daher reicht e s , die Elemente d^ der Menge D^ aller Nullschätzer im Modell mit
als Klasse der ÄCn, ^ ) - V e r t e i l u n g e n mit n e {g + 1,g + 2,...} mit festem g
g" e l N o a l s d o (k) = ( - 1 ) ']=o ' I a kJ ^ , k e IN o , o j. G R . j ' = 0,1
g. zu identifizieren. Dann
gilt nämlich für jeden S c h ä t z e r d*. der im Modell ^ ^ = { » ( n . 1 ) - V e r t e i l u n g : n 6 N} für jedes n > g lokal optimal ist. daß für jeden Nullschätzer d^ in diesem Modell nach der Kovarianzmethode d*d^ ein Nullschätzer im Modell
= {I8(n.-i)-
Verteilung: n € {g + 1.g + 2....}} ist. woraus d*(k)(-1)'' = ( - 1 ) " j=o I a.k^, k 6 N o, j ttj G R . j = 0.1,....g. folgt, und umgekehrt liefert diese Gleichung nach der Kovarianzmethode. daß d* im Modell (P^ = { ® ( n , ^ ) - V e r t e i l u n g : n G l N } f ü r n > g lokal optimal ist. Die Kennzeichnung der Nullschätzer im Modell
= {I8(n,
Verteilung: n G {g + 1,...}} ergibt sich nun folgendermaßen: Da die Funktionen d^ mit d^(k) :=
k = 0
g, v = 0
g, aufgrund der Tatsache, daß ein nicht
verschwindendes Polynom höchstens vom Grad g nicht mehr als g verschiedene Nullstellen besitzt, eine Basis des Vektorraumes der Polynome in k G {0 höchstens vom Grad g sind, gibt es zu ot. G R , j = 0
g, reelle Zahlen
j=0
g} g.
104
Kapitel 8 : S c h ä t z e n von P a r a m e t e r n
mit (-1)''
9 I o V=0
I
=
daß d
o
9 I ß (h, k6{0 v=0 V V • .
= £
g } . w o r a u s wegen .a • a
=
mit d (! v
folgt,
k e IN , ein Nullscinätzer im Modell
V
o
= {!8(n, ^ ) - V e r t e i l u n g : n e {g + 1,...}} ist, da v s g z u t r i f f t . Um umgekehrt einzusehen, daß jeder Nullschätzer d^ im Modell n e { g + 1,...}} von der G e s t a l t d (k) = (-1)'' o
v = 0
n
^)-Verteilung:
a k " , k £ IN , mit a 6 R , V o V
g, ist, wird zunächst die folgende Umrechnung von
E^(d)! = E
S
v=0
= {I8(n,
d ( k ) ( ^ ) 2 ' " , n e l N , mit d : I N ^ ^ I R ,
(d)=d(0)2"" + ^ I 2 k=1
d(k)! =
k+1
k
=
k-1
herangezogen: + 5 E ( d ) . mit 2 n-1
k e IN , n € IN. Gilt insbesondere E (d) = 0 für ein n i 2 und o n
d ( 0 ) = 0 , s o e r h ä l t m a n E ^ . | ( d ) = 0 . D i e Behauptung, die G e s t a l t der Null S c h ä t z e r d
im Modell
= {»( n,-^ ) - V e r t e i l u n g : n 6 {g + 1,...}} b e t r e f f e n d , kann nun mit
Hilfe vollständiger Induktion nach g £ IN^ bewiesen w e r d e n . FUr g = 0 ist die Behauptung b e r e i t s in den Vorüberlegungen zu diesem Beispiel bewiesen w o r d e n . Gilt nun E n (d o ) = 0 für n > g3 + 1. • so t r i f f t für d'o mit d'o ( k ) ' = do (k) - (-1)''do ( 0 ) , k 6 IN , die Gleichung E (d' ) = 0 für n > g +1 zu, w o r a u s wegen d' (0) = 0 nach der obigen H i l f sich s a u s shieraus a g e E^(d^) für nE9^ g Setzung ergibt d ' ( k ) ==0(-l)*^ a +1 k ' 'folgt. , k 6 l N Nach , mit induktionsvorausa 6 R, v = 0 g, ^ ^ o v=0 V o V also d' (k + 1) = (-1)'' o
=
O
Z a (k + D k " , k 6 IN , d. h. d (k+1) = o o g (0) + (-1)'' E a (k + D k " , k e IN , wobei diese Gleichung auch für V=0
V=0
M
O
k! = -1 richtig ist. Damit erhält man aber wie behauptet g+1 d (k) = (-1)'' Z a k^, k e l N , mit a e R . v = 0 g + 1. o V o V Die Nichtexistenz eines gleichmäßig besten e r w a r t u n g s t r e u e n S c h ä t z e r s
für
den ganzzahligen P a r a m e t e r einer Binomialverteilung im Modell
= {»(n,
Verteilung: n 6 N } läßt sich insbesondere durch Untersuqhung der
größten
konvexen Menge C .O( d ) unter allen konvexen Teilmengen C von D .O, die d e DO. enthalten, so daß d gleichmäßig b e s t e r e r w a r t u n g s t r e u e r S c h ä t z e r für 8 bezüglich C ist, illustrieren. Dabei ist hier 8: «J)^ »(n,^)-Verteilung
definiert.
R gemäß 8 ( P ^ ) := n mit P ^ als
8 S c h ä t z e n von P a r a m e t e r n
B e i s p i e l (Klassifikation Parameter
der
erwartungstreuen
einer
Schätzer
für
105
den
ganzzahligen
Binomialverteilung)
N a c h den o b i g e n Ü b e r l e g u n g e n läßt s i c h j e d e s E l e m e n t von D^ in d e r
Gestalt
d (k) = 2k + ( - 1 ) ' ' c , k e IN , f ü r ein c e R d a r s t e l l e n . F e r n e r b e s t e h t C J d ) aus c o S c allen d . e D , m i t Kov y ( d , d . - d ) ^ 0 fUr j e d e s P £ c s p-^ c c c '
^
wobei P
eine
! 8 ( n , ^ ) - V e r t e i l u n g i s t . FUr n > 1 e r g i b t s i c h K o v ^ ^ ' d ^ , d^, - d ^ ) = c ( c ' - c) und f ü r n = 1 e r h ä l t man Kovp x^ ( d C , d C . - d C ) = ( c - 1 ) ( c ' - c ) . so daß C öJ d c ) = { d c } f ü r 0 < c < 1, C J d ) = {d .: c' i c } f ü r e i l . und C . ( d S e e ' S e
) = {d .: c' s c } f ü r c s: 0 g i l t . e ^ X
1
I n s b e s o n d e r e e r g i b t s i c h h i e r a u s n o c h m a l s daß es im M o d e l l ^ ^ = { » ( n . - ^ ) - V e r t e i l u n g : n 6 IN} k e i n e n f ü r 8 g l e i c h m ä ß i g b e s t e n e r w a r t u n g s t r e u e n
Schätzer
gibt. Man k a n n die e x p l i z i t e G e s t a l t d e r f ü r n > g m i t f e s t e m g e IN^ l o k a l o p t i m a l e n S c h ä t z e r im M o d e l l
= { » ( n . i ) - V e r t e i l u n g : n 6 IN} als P o l y n o m e in k 6 IN^ a u c h
ohne g e n a u e K e n n t n i s d e r N u l l s c h ä t z e r im M o d e l l
= {®(n, ~
)-Verteilung:
n G{g+1,...}} h e r l e i t e n . Bei d i e s e r B e g r ü n d u n g w i r d l e d i g l i c h die K e n n z e i c h n u n g der N u l l s c h ä t z e r im M o d e l l
= { » ( n , ^ ) - V e r t e i l u n g : n 6 IN} als S c h ä t z f u n k t i o n e n
d e r G e s t a l t ( - 1 ) ' ' c , k G l N o . c G R , b e n u t z t , s o w i e die T a t s a c h e , daß S c h ä t z f u n k t i o nen von der F o r m (-1)"* Z a k ^ . k G l N . a e l R . v = 0 v=0 V o V = i®(n,^)-Verteilung:
n e { g + 1....}} s i n d , i s t nun d * : I N ^ - > R ein f ü r
l o k a l o p t i m a l e r S c h ä t z e r im M o d e l l 7t*: IN^ -> R das
eindeutig
it*(k) = d*(k). k = 0 9
=
n>g
= { » ( n . ^ ) - V e r t e i l u n g : n G N } . so sei
bestimmte
Polynom
höchstens
vom Grad
g
mit
g, daß n a c h L a g r a n g e gemäß 7 r * ( m ) =
9
f. d * ( k ) n k =0 j=0 j^k
Optimalität
g. N u l l s c h ä t z e r im M o d e l l
Z' . . m G IN , d a r g e s t e l l t w e r d e n k a n n . A u s d e r k-j o ^
von d *
und der
Tatsache,
daß
d e f i n i e r t e S c h ä t z f u n k t i o n ein N u l l s c h ä t z e r lung: n e { g + 1....}} i s t , e r g i b t sich j e d e s n G IN, w o b e i die G ü l t i g k e i t d'Ck) = 7t''(k), k e {0
die
durch
( - 1 ) ' ' 7 t * ( k ) , k G IN^,
im M o d e l l
= {»(n,
•1)-Vertei-
(d*(k) - 7t'(k)) ( - 1 ) ' ' ) 2 ' " = 0 für dieser
Beziehung f ü r
g}, offensichtlich ist. Aufgrund
d e r N u l l s c h ä t z e r im M o d e l l
lokalen
n G {1 der
g}
wegen
Kennzeichnung
= { » ( n . ^ ) - V e r t e i l u n g : n G N } g i b t es d a h e r
ein c G R m i t (d^Ck) - 7 t * ( k ) ) ( - 1 ) ' ' = ( - D ' ^ c . k G INo . d . h. d " : IN o ^ R i s t ein P o l y n o m h ö c h s t e n s v o m G r a d g. Ü b r i g e n s i s t c = 0 . da d * - 7t* s o g a r ein
106
K a p i t e l 8 : S c h ä t z e n von P a r a m e t e r n
N u l l s c h ä t z e r im Modell die
= { ® ( n , ^ ) - V e r t e i l u n g : n G IN^} i s t , w o b e i f ü r n = 0
Dirac-Verteilung
einen
anderen,
vorliegt.
einfacheren
Dieselbe
Argumentation
B e w e i s , daß im
Modell
liefert
übrigens
= {®(n, 1)-Verteilung: g
nG {g + 1,...}} j e d e r N u l l s c h ä t z e r d
von der G e s t a l t ( - 1 ) ' '
o
E a k " , k 6 IN . V=0 O
sein muß, wenn man z u r S c h ä t z f u n k t i o n , die d u r c h ( - l ) ' ^ d ( k ) , k G IN , q e o geben i s t , w i e d e r ein Polynom Tt : IN
o
^
-» R h ö c h s t e n s vom G r a d g w ä h l t
mit
7C (k) = ( - 1 ) ' ' d ( k ) , k 6 { 0 , 1 , . . . , g } . Dann i s t d u r c h (-D'^TI (k) - d ( k ) , k G IN , ein N u l l s c h ä t z e r
im Modell
= { » ( n, — ) - V e r t e i l u n g : n G IN } d e f i n i e r t , so
daß t a t s ä c h l i c h d o (k) = (-D'^TC o ( k ) , k G IN o , z u t r i f f t . Diese
Überlegungen
enthalten
bereits
die
Grundidee
zur
Übertragung
A u s s a g e , daß die f ü r n > g lokal o p t i m a l e n S c h ä t z e r im Modell V e r t e i l u n g : n GIN} Polynome in n G
der
= {I8(n,
h ö c h s t e n s vom G r a d g sind auf
den
sund o g eX^ nanntX e n^ m - S tui cn h c h das Modell als t eprr oPb eGn ^f a lsl ,t odcehrahsitei sr cdhu runabhängig und i dmit e n t iXs c== h (Xv e1 r t e i lXt emn), Z u f a l l s g r ö ß e n m i t P^^ als 35(n, - l ^ j - V e r t e i l u n g , n G IN, b e s c h r i e b e n w i r d . Beispiel (Die symmetrischen g in jeder
Polynome
Variablen als
Obermenge
Schätzer
im
m-Stichprobenfall
Parameters
k
k^ e IN^, j = 1
Variablen
zahligen
in (
der
einer
Familie für
!6(n,
£
N^
höchstens
vom
m, bei festgehaltenen der
für
n > g lokal
Parameterfunktionen
Grad übrigen
optimalen des
ganz-
)-Verteilung)
Im e r s t e n B e w e i s s c h r i t t w i r d z u n ä c h s t der Fall der globalen O p t i m a l i t ä t , also q = 0 , b e t r a c h t e t . Da ^
k
2
m
),k,GlN , j = 1 J o '
m, mit beliebiger S t i c h ^
p r o b e n f u n k t i o n d: I N ^ " ^ -» R , ein N u l l s c h ä t z e r im Modell als u n t e r j e d e m P G
^ ' " ^ m i t X^
X^
s t o c h a s t i s c h unabhängigen und i d e n t i s c h v e r t e i l t e n Z u f a l l s -
g r ö ß e n m i t P^^ als ® ( n , I ) - V e r t e i l u n g i s t . f o l g t aus der O p t i m a l i t ä t von d * :
R
nach der K o v a r i a n z m e t h o d e k i £ =0 1 2 ' •k m ) ( "ki ) = 0 f ü r alle (k^ k j G l N * ^ " ^ und jedes n G IN . H i e r a u s r e s u l t i e r t 2 m o ' d''(k.,k^ 1 2
k m
) = c , C G R , (k
1
k
m
) G IN"". In e i n e m z w e i t e n o
w i r d g e z e i g t , daß aus der lokalen O p t i m a l i t ä t von d : IN^ obigen Modell f o l g t , daß d * in k^ G (k^
kj
k^)
G
Beweisschritt R f ü r n > g im
bei f e s t g e h a l t e n e n ü b r i g e n V a r i a b l e n
ein Polynom
höchstens
vom G r a d g ist
für
8 S c h ä t z e n von P a r a m e t e r n
107
jedes j = 1,...,m. Zu diesem Zweck beachtet man, daß es ein Polynom Tt*:
o
j = 1
-» R von diesem Typ mit 7r*(l g f o l g t , daß d * ein Polynom der oben beschriebenen A r t i s t . Die S y m m e t r i e (X X ) (X X ) invarianz) folgt s o f o r t aus P TT von {1
=P
^
(Permutations-
f ü r jede P e r m u t a t i o n
m), zusammen mit der Eindeutigkeitsaussage
f ü r lokal optimale
Schätzer. Insbesondere gibt es also wie im Fall m = 1 lediglich die k o n s t a n t e n
Schätz-
f u n k t i o n e n auf I N ^ als gleichmäßig beste e r w a r t u n g s t r e u e S c h ä t z e r . Da man VJ V f e r n e r jedes Polynom Z „ k, -...-k k.elN , j = 1 m, auch ' ' Ofvjfig ^m 1 m • J o' ^ ' ' ' gemäß
Z b^, 0«V|Sg 1 j = 1..^.,m
^ ( J ' M - . k , G IN . j = 1 ^m J o
w e r d e n d u r c h solche Polynome wegen E ( ( ^ j ) ) = 2 !8(n, • ^ ) - V e r t e i l u n g , j = 1
m. d a r s t e l l e n kann.
mit P ^ j als
m, e r w a r t u n g s t r e u e S c h ä t z e r f ü r Polynome
in
n G N h ö c h s t e n s vom Grad g als P a r a m e t e r f u n k t i o n e n b e s c h r i e b e n . U m g e k e h r t ist aus demselben Grund jede solche P a r a m e t e r f u n k t i o n d u r c h ein Polynom auf der obigen A r t e r w a r t u n g s t r e u s c h ä t z b a r . Allerdings sind im Fall m > 1 die s y m m e t r i s c h e n Polynome in (k^ jeder Variablen k^ 6 N ^ , j = 1
k^)
G I N ^ höchstens vom Grad g in
m, bei f e s t g e h a l t e n e n übrigen Variablen im
allgemeinen nicht lokal optimal f ü r n > g. Genauer w i r d g e z e i g t , daß Im Fall m > 1 das S t i c h p r o b e n m i t t e l f ü r kein g G IN^ die Eigenschaft der lokalen O p t i m a l i t ä t f ü r n > g b e s i t z t . Zu diesem Zweck soll zunächst die größte konvexe Teilmenge C - ( d * ) von D . unter allen konvexen Teilmengen C von D , u n t e r s u c h t w e r d e n , die o o o d * e n t h a l t e n , so daß d * bezüglich C gleichmäßig b e s t e r e r w a r t u n g s t r e u e r
108
Kapitel 8 : S c h ä t z e n von Parannetern
S c h ä t z e r ist im Modell
mit X
X
1
m
als unter
stochstisch
unabhängigen, identisch v e r t e i l t e n Z u f a l l s großen mit P^^ als n e l N , wobei 8:
-»R gemäß
Beispiel (Untersuchung Parameter
der größten einer
= n definiert ist.
konvexen
Teilmenge aller für den
!B(n, ^)-Verteilung
m-Stichprobenfall
bezüglich
Verteilung,
erwartungstreuen
des zweifachen
ganzzahligen Schätzer
im
Stichprobenmittels)
Mit den obigen Bezeichnungen gilt C^Cd*) = {d 6 D^: E j^(dd*) ^ E x ^ d * ^ ) . P^ e m l t X ! = (X
X
) und d ' ' ( k ,
k
) = —(k
+... + k
), k. E { 0 , . . . , n } , i = 1
1 m 1 m m 1 m Diese Ungleichungen lauten unter Beachtung von i=1
m, k o n k r e t e r Z m 1=1
Z v= 1
m
k|e{0 i Var
(X, •^•••-^X ) 1 m
pX m
)
n 6 IN. FUr d 6 D , mit d(k S
k, + 1 I
1
1
+ ... + X
m
)) =
) = d(k+...+k
m
m.
^ , k^ 6 {1 k
n},
) 5 ( " )(V^) m j = 1 «J
n-1}
( X px m k
i
d(k
i )=
i
m
^ + n^ = n ( n + — ) . ^
), k , G l N . i = 1 m
kann man diese Bedingung auch e i n f a c h e r als
j
o
"
m, d : I N - » I R ,
'
o
d(n +
^ n + — , n G l N , b e s c h r e i b e n . Als Anwendung dieser Ungleichung müssen i n s besondere alle linearen S c h ä t z e r d e D^, also d ( k , k )= m I a,k,. k , £ l N , S I m (=1 I I j o m ^ j=1 m, a^ e R, j = 1 ~ 2 zu Cg(d ) gehören, da die linearen S c h ä t z e r d G D^ eine konvexe Teilmenge von D . bilden, die d * e n t h ä l t . Dies kann man 5 o m m 2 n a t ü r l i c h auch d i r e k t folgendermaßen einsehen: Ep( a^X. • ^S^ — X.) = m
( E „ ( S a,XX,) P I^J i i J
= — (2m— m
4
a , x f ) = ^ (( I i I m |j 3 für n > 1 2
für die Varianz des durch —
j = 1....,m, definierten S c h ä t z e r s .
m-1
m
m
E k., k , e IN ,
j= 1
j
J
o
8 Schätzen von Parannetern
III
Zum Abschluß der B e t r a c h t u n g e n , den ganzzahligen P a r a m e t e r einer 3B(n, Verteilung
betreffend,
soll
im 2 - S t l c h p r o b e n f a l l
der
Maximum-Likelihood-
S c h ä t z e r b e s t i m m t werden und gezeigt w e r d e n , daß dieser nicht e r w a r t u n g s treu (verzerrt) ist.
Beispiel
(Verzerrtheit benfait
des
Maximum-Likelihood-Schätzers
für den ganzzahligen
Bezeichnet
Parameter
"
einer
im
2-Stichpro-
35(n. ^
)-Verteilung)
W a h r s c h e i n l i c h k e i t , bei zweimaliger
unabhängiger A u s f ü h r u n g eines B e r n o u l l i - E x p e r i m e n t s vom Umfang n mit T r e f f e r w a h r s c h e i n l i c h k e i t ^ jeweils k ^ - m a l bzw. k ^ - m a l T r e f f e r zu e r z i e l e n , so gilt
Pki,l+1
>,
d-F
o
in diesem Modell =0 gilt mit
n _
p
+
n, ein für p e r w a r t u n g s t r e u e r
t r e u e r S c h ä t z e r , da für einen N u l l s c h ä t z e r Z d (k {0,1} o 1' j= 1 n
_
Schätzer
erwartungs-
8 S c h ä t z e n von Parannetern
115
= p^p + ( 1 - p ^ ) ( 1 - p ) . Multipliziert man nun die v o r l e t z t e Gleichung mit (
1
u
n
d
d i f f e r e n z i e r t anschließend nach so erhält man m n E „ ( d o (X X ) ( I X E X,)) = 0 für jedes P e V . so daß nach der P o 1 n j=i J j=m + 1 J m n Kovarianzmethode durch Z k , Z k,, k , G { 0 , 1 } , j = 1 n, ein gleichmäßig j= 1
J
j=m +1
J
J
'
^
^
b e s t e r erv**artungstreuer S c h ä t z e r definiert wird. H i e r a u s folgt die Optima1 m pi-1 + ki lität des durch - ( Z n j=l 2pi-1
n pi-k: Z j ), k . e {0.1}. j = 1 J = m + 1 2pi-1 j '
Schätzers
prozentualen
gruppe.
für
Dabei
den ist
unbekannten hier
noch
eine
leichte
Anteil
einer
n, definierten Bevölkerungs-
Verallgemeinerung
des
üblichen
V e r f a h r e n s behandelt worden, da e s der befragten P e r s o n ü b e r l a s s e n bleibt, das E r e i g n i s mit der W a h r s c h e i n l i c h k e i t p^ bzw. das zugehörige mit der W a h r s c h e i n l i c h k e i t
1- p^ mit der F r a g e
bzw. Nichtgruppenzugehörigkeit
zur
Komplement
Qruppenzugehörigkeit
zu verbinden. Diese Information muß aller-
dings dem E x p e r i m e n t a t o r bekannt sein, wobei diese Wahlmöglichkeit
even-
tuell die B e r e i t s c h a f t der B e f r a g t e n zur Mitarbeit erhöht. Man kann sogar zeigen, daß im Fall von unter P e ^ s t o c h a s t i s c h unabhängigen und { O . D - w e r t i g e n Z u f a l l s g r ö ß e n X^ V e r t e i l u n g , Pj ^
i = 1
X^ mit P^J als » ( 1 , p p j + (1-p)(1-p.))-
n. P E tO,1], jeder gleichmäßig b e s t e r e r w a r t u n g s -
t r e u e r S c h ä t z e r d * { 0 , 1 } " ^ R (zum eigenen E r w a r t u n g s w e r t als r e e l l w e r t i g e Parameterfunktion) j,k 6 ( 1
konstant sein muß, wenn nicht p. = p,
oder p, + p, = 1,
n} z u t r i f f t . In Verallgemeinerung der vorangehenden
Überlegungen
im Fall n = 2 mit p^ ^ p^ oder P^ + P j ^ 1 soll zunächst gezeigt w e r d e n , daß ein gleichmäßig b e s t e r e r w a r t u n g s t r e u e r
S c h ä t z e r d * : { 0 , 1 } ^ -> R
konstant
ist.
Nach der Kovarianzmethode gilt nämlich ^ xjeTO.D J = 1.2
1
2
2pi-1
-
2P2-1
a.! = P|P + (1-pj)(1-p), j=1,2. H i e r a u s
n 1=1 I
I
p G [ 0 , 1 ] mit ^
resultiert =
peco.i:,
1 = 1.2
w o r a u s wegen - ^ a ^ ' d - « j ) ^ " * * ' = ( 2 p . - 1 ) ( - 1 ) ' ' ' , i = 1,2, die Beziehung d * ( 0 , 0 ) ( p ^ - p 2 ) - d " ' ( 1 , 0 ) ( p ^ + p2-1) +d*(0,1)(p^ + p 2 - 1 ) - d * ( 1 , 1 ) ( p ^ - p 2 ) = 0 folgt. S c h l i e ß l i c h kann
man d* durch
mit A--= {(x^,x2) 6 { 0 , 1 } ^ : ld*(x^.X2)l = M } ,
116
Kapitel 8 : S c h ä t z e n von P a r a m e t e r n
M: = sup { I d ' C x ^ . x ^ ) ! : ( x ^ . x ^ ) £ { 0 , 1 } ^ } e r s e t z e n , da nach der Kovarianzmethode f ü r jedes k G IN ein gleichmäßig b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r und damit auch aus demselben Grund
lim ( I R k o n s t a n t i s t , falls nicht p, = p. j oder p + p =1, j , k 6 { 1 n} z u t r i f f t . Zu diesem Zweck überlegt man sich z u J ^ n ä c h s t , daß nach der Kovarianzmethode d * : {0,1}^-> R mit d * ( x ,,x ) = = ti n—I n d*(x,,...,x 1 n-2
,,x ). (x ,.x ) G { 0 , 1 } ^ . ( x , , . . . , x n-1 n n-1 n . . .
gleichmäßig b e s t e r , e r w a r t u n g s t r e u e r
Schätzer
.,) G { 0 . 1 } " " ^
im Fall
n=2
ist,
fest,
ein
denn
ist
d o : { 0 , 1 } ^ - > I R in diesem Fall ein N u l l s c h ä t z e r , so w i r d d u r c h d o (x 1 x n ): = • .(x,,...,x ^ ) d (x ),(x, X ) e { 0 , 1 } " mit A als beliebiger Teilmenge von A 1 n-2 o n - r n 1 n ^ ^ { 0 , 1 } " " ^ ein N u l l s c h ä t z e r d ^ ; { 0 . 1 } " - » I R f ü r den S t i c h p r o b e n u m f a n g n e r k l ä r t . Ist nun d * : { 0 , 1 } " ^ ^
R ein gleichmäßig b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r , so
muß d 2 * mit d *2( x n .x n +,1) ! = d ' ' ( x , 1 x n - l n.x n +J1 = (x n,x n +J1e { 0 , 1 } ^ . (x x J G { 0 , 1 } " ' ^ f e s t , k o n s t a n t s e i n , falls p = p , oder p + p = 1 1 n-1 n "^n + l n n+1 nicht z u t r i f f t , was man mit Hilfe einer geeigneten P e r m u t a t i o n von {1 n+1} ohne Beschränkung der Allgemeinheit annehmen kann, falls nicht p = p oder J ^ p + p = 1, j,k e d n+1} g i l t . Nach I n d u k t i o n s v o r a u s s e t z u n g ist dann auch J ^ d * : { 0 , 1 } " ' ^ ^ R k o n s t a n t , wenn nicht p. = p^^ oder p^ + p^ = 1 g i l t . Es muß j e t z t nur noch gezeigt w e r d e n , daß es keinen gleichmäßig b e s t e n , e r w a r t u n g s t r e u e n S c h ä t z e r d * : { 0 , 1 } " ' ' ^ R g i b t , der von (x^
x^^^) G { 0 , 1 } " " ^ nur über
(x 1 x n ,) n-1}. 1 £ { 0 , 1 } " ' ' ' abhängt, wobei p.J = p.^ oder p,j + p. = 1. j.k G {1 z u t r i f f t . Zu diesem Zweck d a r f man p = p , j.k G d n-1} annehmen, da nach J ^ V o r a u s s e t z u n g p^ = p^, j 6 {j^ j^^} C d n-1} und p^ = 1 - p ^ . j 6 d n}\{j^ j^^} f ü r ein k G { 0
n - 1 } und ein p
GC0,1]\{1/2}
z u t r i f f t und man daher von
8 S c h ä t z e n von P a r a m e t e r n
X
X
r
, Ubergehen kann zu Z n-1 ^ 1
j 6 {1
n-1}\{j^
Z
, mit Z . — X., n-1 j j '
j^}. Damit sind Z^
'1
117
j, }. Z . — l - X . , ^k J j
unter P 6 ^ s t o c h a s t i s c h unab-
hängig und identisch verteilt mit P^^ als I8(1,pp^+(1-p)(1-p^))-Verteilung, P 6 E 0 . 1 ] . Nun w i r d aber durch E ~ ( d o ( Z ^ j®^®" S c h ä t z e r d:
-» R ein Polynom in p mit p : = p p
+(1-p)(1-p ) h ö c h s t e n s vom G r a d n-1 E Xj n - 1 d e f i n i e r t , w/obei d ^ {0.1}""^-» R mit d ' C x .x J = k k i n —1 (x^
ein für
^""'''-»R.
=
k =0
n-1, gleichmäßig b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r i s t , so daß
d'Cx
X
1
J="l a, d*(x n-1 k=0 k k 1
x
Menge der optimalen S c h ä t z e r
J , (x n-1 1
x
,) e {0,1}""'' z u t r i f f t , da die n-1
einen linearen Raum Uber R aufgrund
der
K o v a r i a n z m e t h o d e bilden und aus d e m s e l b e n Grund optimale S c h ä t z e r eindeutig b e s t i m m t sind. F e r n e r muß nach der n-1 E
p k=0 k
Z^
-
k
2po-1
^n-1' ^n
P^V
2Pn-1
Z - ^ ^ E k = 0 2po-1
)) = 0, p e L O . 1 ] , z u t r e f f e n , wobei ' ^
s t o c h a s t i s c h unabhängig sind mit P " als
»(1,pp^+(1-p)(1-p^))-Verteilung n-1 gilt =
Kovarianzmethode
(Z (J"! p n-1 k
fUr ein p^ 6 [ 0 . 1 ] \ { 1 }, p G [0.1], n-1
))+
Z a. ^ ^ E k=0 k 2po-1
p
k
)) -
Daher
I a ( " : ^ ) p p = 0, k = 0 k k ^ ^^ '
p e C 0 , 1 ] , mit p: = p^p + (1-p^)(1-p), d. h. P = Vp^^^-^i" " W e g e n n-1 Z 2: V-\ )) = pE
E (Z p
n-1
k
^
n-1 E Z| + 1 {{>-\ ))=p[E p
k
^
n-2 n-2 E Z: E Z: ((j"! )) + E ((J-J , )] = p
k
p
k-1
p " + ('l^^^)p''"'') für k = 1,....n-2 b z w . p für k = 0 und p " " ' ' für k = n - 2 folgt h i e r a u s : kio^
'p z/n-h k
®n-1
~n-1
®n-1 ~n
k »P
-
+1 ^o ~ ^n-l ~n ^ - 2 ^ P - 2 ^ P
an-2 ,n-2>~n-1
»1
~
fn-2>~k_ -
1
,
zn-2,
p 6 [min{p^,1-p^}, max{p^,1-p^}]. H i e r a u s folgt d u r c h K o e f f i z i e n t e n v e r g l e i c h
118
Kapitel 8 : S c h ä t z e n von P a r a m e t e r n
=
k=1
n - 1 , d. h. d * = a ^ , w o m i t gezeigt w o r d e n i s t , daß ein g l e i c h -
mäßig b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r d * : {0,1}"-> R k o n s t a n t Ist, falls nicht p, = p. oder p +p. =1. j , k 6 { 1 J
K
j
n} z u t r i f f t .
K
Dieses Beispiel läßt noch folgende naheliegende M o d i f i k a t i o n zu: Es w i r d mit unbekannter W a h r s c h e i n l i c h k e i t p e [ 0 , 1 ] b e s t i m m t , welches von zwei B e r noulli-Experimenten
vom
Umfang
n
mit
jeweils
bekannten
Trefferwahr-
s c h e i n l i c h k e i t e n p^ b z w . p^ d u r c h g e f ü h r t w i r d , so daß in diesem Fall vom Modell (p'^^
mit
X^
X^ als
stochastisch
unabhängigen,
identisch
v e r t e i l t e n Z u f a l l s g r ö ß e n m i t P^^ als !B(1,pp^ + (1- p ) P 2 ) - V e r t e i l u n g ausgegangen w e r d e n kann. Wegen P •
(x),
x e [ - M , M ] ( x ^ G [ - M , M ] fest) gleichmäßig durch stetige Funktionen auf [ - M , M ] , s o f o l g t h i e r a u s , daß g o d * e i n g l e i c h m ä ß i g b e s t e r e r w a r t u n g s t r e u e r i s t . Die V o r l i b e r l e g u n g e n EPX^GOD'^EPX'HOT),
zu d i e s e m B e i s p i e l l i e f e r n d a n n E p x t g o d * • h o T) =
P^gV^.
f a l l s T : O ^ - > O.^. f U r
ist. Daher
sind d * und T u n t e r j e d e m P ^ G ^ ^
Bevor
Familien
nun
vollständigen
diskreter
Abbildung
stochastisch
Verteilungen
T : O ^ -» O ^
verteilungsunabhängig
untersucht
Uber
O
werden,
unabhängig.
mit
einer
soll
mit
S a t z e s von L e h m a n n und S c h e f f e s o w i e der K o v a r i a n z m e t h o d e schätztheoretische
Kennzeichnung der Vollständigkeit
den, falls T bereits für ^
Beispiel
(Schätztheoretische dungen,
Ist T f i j r ^ ^
Schätzer
die suffizient
suffizient
für Hilfe
eine
einfache
von T b e w i e s e n
der
Vollständigkeit
von
nach d e m S a t z von L e h m a n n und
d'oT
mit existierendem E p x ( ( d * o T ) ^ ) ,
gleichmäßig bester, e r w a r t u n g s t r e u e r
^^
vollständig.
S c h ä t z e r i s t , daß T f ü r
ein N u l l s c h ä t z e r , so f o l g t nach der
E p x ( ( d ^ o T ) ^ ) = 0, P ^ G V ^ ,
d. h.
Scheffe
der G e s t a l t d * o T G D . fUr 8 g l e i c h s
mäßig b e s t e r e r w a r t u n g s t r e u e r S c h ä t z e r i s t . U m g e k e h r t f o l g t aus der
ist. ist nämlich d ^ o T
Abbil-
sind)
d i e V o l l s t ä n d i g k e i t , daß j e d e r S c h ä t z e r
Schätzer
wer-
ist.
Kennzeichnung
s u f f i z i e n t , so l i e f e r t
s c h a f t , daß j e d e r
des
EigenP^G^^.
vollständig
Kovarianzmethode
0}) = 0, P ^ G V ^ ,
also ist T
für
126
Kapitel 8 : S c h ä t z e n von P a r a m e t e r n
Es ist auch möglich, die S u f f i z i e n z und V o l l s t ä n d i g k e i t von T: Q
^
X
O
r
fUr
gemeinsam s c h ä t z t h e o r e t i s c h zu kennzeichnen, wie das folgende Beispiel zeigt. Beispiel (Schätztheoretische
Kennzeichnung
von Suffizienz
und
Vollständigl X
fi^
I
fiJr
g l e i c h w e r t i g ist mit der Existenz eines gleichmäßig besten e r w a r t u n g s t r e u e n ^ ^ 4 R,
Schätzers d ' o T für
= P ^ ( A ) , P eq), A e q X D ^ )
A
mit
d * ( y ) ! = Q y ( A ) , y e O ^ . Y: = T o X, wobei Q^ f ü r jedes y G O ^ eine d i s k r e t e V e r t e i l u n g Uber O mit Q ^ ( T " ' ' ( { y ) ) ) = 1 , y ^ p I g J ^ O y für
' s t nämlich
s u f f i z i e n t und vollständig, so s t e l l t d * einen f ü r
er war tungs t r e u e n S c h ä t z e r d a r , A 6 ^ ( O V e r t e i l u n g Uber O ^ mit
=
Q ^ ( T " ^ ( { y } ) ) = 1, y ^ p ^ ^ ^ p Y t r e u e von d * f ü r H
X
gleichmäßig besten
), wobei Q y , y G OY, hier eine d i s k r e t e
y G O ^ y - P ^ V . so daß insbesondere z u t r i f f t . U m g e k e h r t f o l g t aus der
und Q ^ ' T ^({y})) = 1, y G O ^ y
Erwartungs-
die Beziehung
Q ^ , , ( A n T " ' ' ( { y } ) ) P ^ ( { y } ) = P ^ ( A n T " ^ { y } ) , d. h. Q (A n T ' ' ' ( { y } ) =
P ^ ( A n T ' ^ ( { y } ) ) / P ^ ( { y } ) , A G ^ X O ^ ) . also s u f f i z i e n t fUr
=
Die V o l l s t ä n d i g k e i t von T f ü r ^ ^
y G O ^ y . Daher ist T f o l g t d a r a u s , daß mit
d : n ^ - > I R , E ^ ( d ^ ) < o o , P g V . der S c h ä t z e r d * o T mit d * ( y ) : = S d ( x ) Q ( { x } ) , X ' pX • ' xeOx y y G O ^ , fUr
= = E ^ ^ ( d ) , P g ^ , ein gleichmäßig b e s t e r , e r -
w a r t u n g s t r e u e r S c h ä t z e r i s t , denn es gilt E^yCd") = ^ ^ xeOx
d(x)
E
d*(y)P^({y}) =
Z : Q ({x})P^({y})= H d ( x ) P ^ ( { x } ) = E ^ ( d ) , P G ^ , wobei yeOy y xsDx p^ aus der O p t i m a l i t ä t von d ' o T mit d = = d L , ^ ,
insbesondere pY E_Y(d* von d ' o T
)^
. . n G N , d. h.
), P G ^ ,n gil. Dabein e r g i b t { I sich d ü n } die O p t i m a l i t ä t
(und p damit auchp Xvonn d n* o T , nGlN) aus E pX ^(d o• d ' ' o T ) = 0, ' n
PG^.
mit d^ als N u l l s c h ä t z e r gemäß der Kovarianzmethode, denn es gilt E pX^ ( d o • d ' ' o T ) = x eSn x d° ( x ) d * ( T ( x ) ) P ^ ( { x } ) = z e 2 O:x d(z) x e n x (d ° ( x ) Q ^ , =
S : ( d ( z ) - 0 ) = 0 , P g V . Insbesondere ist d o T mit E ^ ( ( d o T ) ^ ) < < x > , zeOx p
für
d
8^
doT
,({z})P'^({x) PgV.
= E ^ ( d o T ) , P g V . ein gleichmäßig b e s t e r , e r w a r t u n g s pX
t r e u e r S c h ä t z e r wegen ( d o T ) * ( T ( x ) ) = x G O ^ mit T ( x ) G p ^ O p Y . da
H (d o T ) ( z ) Q ^ , , ( { z } ) = d ( T ( x ) ) , _zGT-i({T(x)}) V T ( X ) } ) = 1, X G mit T(x) G p ^ ^ " p V
8 S c h ä t z e n von P a r a n n e t e r n
z u t r i f f t . Ist nun s p e z i e l l d o T ein N u l l s c h ä t z e r , so f o l g t aus E
127
^(doT)=0, pX
P e V . nach der K o v a r i a n z m e t h o d e E pX ^ ( d o T ) ^ ) = 0 , PG^P. d. h. P ^ ( { d o T = 0 } ) = 1. P g V . also ist T für
vollständig.
In den m e i s t e n h i e r b e t r a c h t e t e n Beispielen von Familien d i s k r e t e r lungen
w a r jede V e r t e i l u n g P ^ G ^ ^
e i n d e u t i g d u r c h einen r e e l l e n
m e t e r g e k e n n z e i c h n e t , d. h. es e x i s t i e r t trisierung)
eine i n j e k t i v e A b b i l d u n g
Tt: ^ ^ -» R . Man b e z e i c h n e t in d i e s e m Fall Q - = 7t ( V ^ )
Parameterraum
Vertei-
und { P ^ : ^ G 6 } m i t P ^ : =
Para-
(ParameC R als
^
G 0 , eine
einpara-
m e t r i g e Familie von d i s k r e t e n V e r t e i l u n g e n . H ä u f i g läßt
s i c h eine
einpara-
/->^ = _ R mn ^ IV^JH P^ nX G ^ t»X m e t r i g e Familie { Pi X^ : •a» ^G S } m i t O " , OpX C o' V e r t e i l u n g e n in der G e s t a l t P ^ ( { x } ) = »
•
d a r s t e l l e n . Dabei i s t K: 6 -> R p o s i t i v und h: O ^ T e i l m e n g e von R'^: = {x G R : x > 0} s o w i e T : R " daß { P ? : •ö' G 0 } eine einparametrige I n s b e s o n d e r e e r g i b t s i c h , daß O x
x G O ^ , f ü r jedes d G 9 X'
R n i c h t negativ und 0 eine R m i t T ( N ^ ) C N ^ . Man s a g t .
Potenzreihenfamilie unabhängig
von d i s k r e t e n
in T und d G 0
von d G 0
i s t , so daß
Beispiel eine Familie von L a p l a c e - V e r t e i l u n g e n keine e i n p a r a m e t r i g e reihenfamilie
sein k a n n . Beispiele
für
einparametrige
ist. zum
Potenz-
Potenzreihenfamilien
sind: 1.
= { » ( n , p ) - V e r t e i l u n g : pG ( 0 , 1 ) } . Hier ist m i t h(x)!= (") für X G {0
3.
xGN
G 0== R^. K t ^ j ^ C - ^ ) '
n) und h ( x ) : = 0 f ü r x G R \ { 0
= { V ( X ) - V e r t e i l u n g : X G R""}. S e t z t man h(x)!=^, XI
I~ P
1
V
n } , T ( x ) ! = x, x G R .
X, so i s t 0 : = R"",
, und h ( x ) ! = 0 f ü r x G R \ IN , T { x ) ! = x . o o
=
xGR.
= { i K » ( r , p ) - V e r t e i l u n g : p G ( 0 . 1 ) } . M i t & = = 1- p i s t © = = (0,1), K ( d ) : = ( 1 - d ) ' " , h ( x ) : = ( - 1 ) ' ' ( " ' " ) , xG IN . u n d h ( x ) ! = 0 f ü r xG R \ N
, K x ) : = x, x G R .
E i n p a r a m e t r i g e P o t e n z r e i h e n f a m i l i e n ^ ^ = { P ^ : d G 0 } in T und ^ G © haben die E i g e n s c h a f t , daß T f ü r
v o l l s t ä n d i g i s t , f a l l s es eine r e e l l e Zahl a > 0
gibt m i t ( 0 , a ) C 0 . Aus E p ^ t d ^ o T) g(t)!=
d^(t)K(d)a*g(t)
= 0. & G 0 ,
mit
I h ( x ) , t G l N . f o l g t n ä m l i c h nach dem i d e n t i t ä t s s a t z f ü r P o t e n z xGT-1({t}) °
128
Kapitel 8: Schätzen von P a r a m e t e r n
reihen d ^ ( t ) = 0 f ü r alle t 6 IN^ mit g(t) > 0, woraus sich wegen ü p j o x und
= 0 f ü r g(t) = 0. t e IN^. e r g i b t
P^({d o T / O » = 0 ,
0 » = 0 , P^ e
I^q d. h.
P^e
Ferner ist T f ü r ^ ^
als e i n p a r a m e t r i g e Potenzreihenfamilie in T und & G 0
auch s u f f i z i e n t , wobei f ü r diese Aussage die Annahme (0,a) c 0 f ü r ein a > 0 nicht benötigt w i r d . Die S u f f i z i e n z von T f ü r aus
g(y):=
=
folgt mit Y: = T o X u n m i t t e l b a r ^ ^
^ ^ ^
^ ^ ^
Z h ( x ) , y e fi Y (O Y ist unabhängig von d e 0 ) , falls T(x) =y xCT-1({y}) P» P^
z u t r i f f t . Im Fall T ( x ) ? ! y gilt P^'>'({x}) = 0 . Damit ist d u r c h q (x): = ' ^ 9 ^y g(y) xeT
V { y } ) f ü r jedes y 6 0
„
d i s k r e t e Verteilung Q
Träger in IN^ l i e g t , b e s t i m m t mit
Beispiel (Vollständigkeit PascalSind X^
und
= Q
und Suffizienz
yGO
über R , deren y-
der Summenabbildung
bei
Bernoulli-,
Poisson-Experimenten)
X^ unter P £
s t o c h a s t i s c h unabhängig und identisch v e r t e i l t mit
P^^ als a) 35(1.p)-Verteilung ( B e r n o u l l i - E x p e r i m e n t vom Umfang n), p e ( 0 , 1 ) , b) 3135(1.p)-Verteilung ( P a s c a l - E x p e r i m e n t vom Umfang n), p G ( 0 , 1 ) , c) ^P(X)-Verteilung ( P o i s s o n - E x p e r i m e n t vom Umfang n), X 6 R * . so w i r d gezeigt, daß die Summenabbildung T : R " - » R mit T(x^ X. e R . j = 1,....n. f ü r
X:= (X^
allen drei Fällen gilt nämlich ^ X.GR, i = 1 n, 0 , mit J ' a) 0 : = R'', = 1- p und h ( x , I
X ) ! = 0 für (x, n
x n) » =
-a 6 0 , h(x I
x
n
I
X ) = = 1 f ü r (x n
i
0 , h(x,,...,x ) : = 1 f ü r ( x 1 n 1
I x n ).
x ) £ {0,1}" n
x ) e IN" n o
X ) ! = 0 für (x,,..,x ) 6 R " \ I N " , n 1 n o
c ) & : = XG 0 : = R " ' , K ( & ) = e " " ® , & G © , h ( x , 1 und h(x I
I
''"'h(x
)GR"\{0,1}",
b)-»! = 1 - p e 0 ! = (0,1), K ( d ) ! = ^ und h(x
+
X ^ ) . vollständig und s u f f i z i e n t i s t . In
P ^^ ( { ( x 1
1
x^): =
n X ) : = 0 f ü r (x I
n x )e
x ): = — p - ! -für(x, n x-jl'...'xp) 1
R " \ N o" .
x ) G N" n o
8 S c h ä t z e n von P a r a n n e t e r n
Im Fall a) Scheffe
und
c)
erhält
nochmals,
daß
man
das
zusammen
mit
arithmetische
dem
Mittel
Satz +
129
von L e h m a n n
+
und
gleichmäßig
b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r f ü r p b z w . X i s t , w ä h r e n d im Fall b) die Trefferwahrscheinlichkeit p optimal e r w a r t u n g s t r e u durch
—
£ schätzt c
( pV
wird.
ge-
n-1+ i:
Im Fall b ) i s t n ä m l i c h P
X I
eine ! R 8 ( n , p ) - V e r t e i l u n g , so daß
\ _ V f n + k - l v n„l< _ „ v ,n-1-H n - 1 k _ „.,. ) ^ — r ~ r ( ,, 1 q p ^ ( „ o q p giltn / k=0 n-1+k n-1 f i ^ k=0 ^^ ^ ^ n - 1 + Z X: 1= 1
'
Man s p r i c h t im Fall b ) a u c h von inverser Fall a)
auch
von
direkter
Stichprobenentnahme,
Stichprobenentnahme
so daß
gesprochen
werden
kann.
A u c h b e i m P r o b l e m , a u f g r u n d des n - m a l i g e n Z i e h e n s o h n e Z u r ü c k l e g e n prozentualen
Anteil P-=
von N P r o d u k t i o n s s t l i c k e n ,
von denen M
im
den
defekt
s i n d , zu s c h ä t z e n , h a t m a n die b e i d e n M ö g l i c h k e i t e n d e r d i r e k t e n und i n v e r s e n S t i c h p r o b e n e n t n a h m e . Im e r s t e n Fall soll a l s o p:= k e
aufgrund der Realisierung
e i n e r Z u f a l l s g r ö ß e X m i t P ^ als ^ ( N , M , n ) - V e r t e i l u n g , N E I N ,
M R
ist von der Gestalt d o T mit geeigneter A b b i l d u n g d : R " - » R . G i l t n u n E^x^d oT) = 0 für jedes P e so folgt speziell für die diskrete Verteilung P^^ über R mit P^U{Xj}) = Pj, j = 1 m, wobei x^ G M, j = 1 m, paarweise verschieden, p^. s 0, m j =1 m, Multinomialsatz die Beziehung
8 S c h ä t z e n von P a r a m e t e r n
ij=1 J=1
S
m n
Pi," •••• Pi d ( T ( x . ^'n '1
x; )) = 'n
Z
j = 1
131
d(T(y
n, z u t r i f f t und x. in (y^
y )) = 0 , w o b e i y , e {x
y ^ ) g e n a u l —pKt !
_
ist
kfeiN^
kjikj-
zu b e a c h t e n und y , G { | x J J 1
|x
m
|} b z w .
kj.^kj = k j Vj e { 0 , | x j in (y.|
j = 1
n, w o b e i k^ die H ä u f i g k e i t d e s A u f t r e t e n s von Ix^l
y^) a n g i b t . D i e A r g u m e n t a t i o n m i t H i l f e h o m o g e n e r
dann wieder
1
v o n T^ f ü r
n
=
ergibt
P({T30X=y})
. falls T
s
(x
i
n
sich
|Xj| u n d
y^). G i l t
mit
x ) = (y •'1
k^ a l s
aus
^ , , 2 " P ( { X i =xi}) • . . P ( {X„ = x „ » Kl I- . ..-Knr, ! y ) g i l t und ( x , •'n ^ I
T r ä g e r v o n P ^ s t a m m t , s o w i e |x.| ^ 0 , j = 1
(y.|
liefert
y^)) = 0 . w o r a u s P ^ ( { d o T^ = 0}) = 1 f ü r a l l e P^ G
folgt. Die S u f f i z i e n z
schiedenen
Polynome
der
Ixjl = 0 f U r ( g e n a u )
dem
m mit m als A n z a h l d e r
Häufigkeit ein j = 1
x ) aus n
des
Auftretens
m, so
ist
2"
dem
Satz
von
D^ f ü r
8:
der
ver-
|x.|
in
durch
zu
ersetzen. Im o b i g e n Scheffe 8:
Modell
eine
-» R
bzw.
Schätzfunktion gleichmäßig
permutationsinvariant
also
d: R "
R
bester
bzw.
erhält man auf diese W e i s e tionsinvarianten
ist
für
nach mit
d e
8 erwartungstreuer
zusätzlich nochmals
Stichprobenfunktionen
vorzeicheninvariant
Lehmann -» R
Schätzer, ist.
einem
bzw.
wenn
d
insbesondere
das R e s u l t a t , daß g e n a u die in
und
permuta-
Bernoulli-Experiment
vom
8 S c h ä t z e n von P a r a m e t e r n
Umfang
n optimal
sind.
Aufgrund
der
obigen
i n s b e s o n d e r e , daß d i e Symmetrisierung d (x^ s 1
X ) =-V n n!
d®(x
X )=—-— n nl2
1
E d(x I
X , ,) 7t(n)
7r(1)
d(±x
d
±x
7t(1)
Schätzer
beziehen,
s i n d . Die N u l l s c h ä t z e r
, J 7t(n)
mit
dadurch
gekennzeichnet,
b z w . d= O
g ^ i l t P ^ ( { d OS = 0 »
Als
Anwendung
soll
erwartungstreue
daß
= = Ep(X^), P^ G
die
= 1. P ^ G
speziell
Schätzer
für
^^
= 1, P ^ G
gleichmäßig
gleichen Komponenten, wobei der T r ä g e r
bzw.
bzw.
Teilmenge
von E p ( X ^ )
ist.
Beispiel
Stichprobenstreuung
rischer
für
im M o d e l l nere Varianz
mit liegt,
symmetrisch Existenz
(und
wird.
suffizient), über R
ar-
und
empi-
im
Modell
dar,
wobei
Verteilungsfunktion)
Da d a s S t i c h p r o b e n m i t t e l einen
Dabei
angenommen
, j = 1,2, v o l l s t ä n d i g
Stichprobenmittel,
fest,
M von R
Verteilungen ebenfalls
gumentiert worden ist, deren Träger endlich von
bzw.
verglichen werden.
da b e i m N a c h w e i s d e r V o l l s t ä n d i g k e i t m i t d i s k r e t e n V e r t e i l u n g e n
(Optimalität
mit
der diskreten Verteilungen
in e i n e r
i m Fall j = 2 d i e E x i s t e n z
Dann bleibt T b z w . T^ f ü r
beste
mit x G R
z u m N u l l p u n k t a n g e n o m m e n w i r d , u n d w o b e i f e r n e r i m Fall j = 1 d i e von E p ( X ^ )
^s
-» R . j = 1 , 2 . 3 ,
bzw. P^ G
das n - f a c h e d i r e k t e P r o d u k t
die i m F a l l z u m N u l l p u n k t s y m m e t r i s c h e r
d^^
Varp(X^), P^ G
a n g e g e b e n u n d in d e n b e i d e n M o d e l l e n m i t e i n a n d e r ist Vj^ b z w .
Vor-
b z w . ^ ^ sind s
^
der
R b z w . 8^:
bzw. P^ G
die
erwartungstreue
o = 0»
bzw.
auf
sich
Symmetrisierungen
bzw.
^
) 6 R " , wobei
beste,
zugehörigen ^
^^
n
im obigen Modell ^
o
, und 8 3 ( P ^ ) : = P ^ ( ( - Q D , X ] ) , P^ G
P^GVg^
,x
1
n} b z w . z u s ä t z l i c h
im Modell ^ ^
fUr
(x
8 gleichmäßig G D
o
folgt
bzw.
für d
SuffizienzUberlegungen
b z w . d® von d G D . g e m ä ß o
S
die S u m m e n a u f P e r m u t a t i o n e n 7t von {1 zeichenkombinationen
133
permutationsinvariant
gleichmäßig
besten
ist, stellt
erwartungstreuen
dieses
Schätzer
d i e N u l l f u n k t i o n f ü r 8^ o p t i m a l i s t u n d i n s b e s o n d e r e e i n e als
das
Stichprobenmittel
besitzt.
Nicht
der V e r g l e i c h der f ü r 8^ o p t i m a l e n S c h ä t z e r im Modell durch £ x.^, (x n J= 1 j 1' 8^ e r w a r t u n g s t r e u ,
x )GR", n
ganz ^^
definierte Schätzfunktion
permutations-
und
vorzeicheninvariant
so
klei-
einfach
ist
^^^ • V^s" im Modell ist.
stellt
nach d e m S a t z von L e h m a n n und S c h e f f e einen f ü r 8^ o p t i m a l e n S c h ä t z e r
für diese dar.
134
K a p i t e l 8 : S c h ä t z e n von
Im M o d e l l
^^
Ist
die
Parannetern
Stichprobenvarianz
e r v » ( a r t u n g s t r e u e S c h ä t z f u n l < t i o n ein Varianz
nach f r ü h e r e n
für
optimaler
Berechnungen ^
(Ep(X^)
z u t r i f f t . Dagegen gilt V a r p ( l 1 - ( E ^ ( x f ) E ? ( x f ) ) n P 1 n-1 P I (x^
x^) 6 R "
S c h ä t z e r , fUr d e s s e n
-
Ep(X^))
2s
. Da die d u r c h
stellt
diese
im M o d e l l ^ ^ e i n e n fiJr
aber nicht vorzeicheninvariant
gilt,
ZI, n j=i (-00,x]
( x 6 l R f e s t ) d e f i n i e r t e S c h ä t z f u n k t i o n fUr 8^ ist,
für
falls
x f ) = ^ Var^CXf) = 1 (Ep(x:;^)-E2(xf))
für
und p e r m u t a t i o n s i n v a r i a n t lungsfunktion
als p e r m u t a t i o n s i n v a r i a n t e
sogenannte
J
erwartungstreu
empirische
optimalen Schätzer dar.
Vertei-
Da d i e s e r IX I
i s t , e r h ä l t man fUr x ^ O w/egen P
^ ((-ao,x]) =
P ^ ^ ( ( - c o , x ] ) - P ^ M ( - o o , - x ) ) = 2 P ^ n ( - o o , x ] ) - 1 , P ^ e V g . mit ZI, ,(|xl) = l + 4 2 ('r '-'r ,(x,)), (x, 2 2n j = i (-00.xD J 2 2n j = i ( - 0 0 . x ] J (-00.-x) J ' 1'
x)6lR". ' n
e i n e n f ü r 8^ g l e i c h m ä ß i g b e s t e n e r w a r t u n g s t r e u e n
gilt
Schätzer. Ferner
V a rP^ (2- i + -2n L JZ= 11, ( - o D . x, ] o l X . Ij ) = ^ 4 n p ' ^ ' ' ' ( ( - o o , x ] ) ( 1 - p ' ^ ' ' ' ( ( - o o , x ] ) ) 2n
( 2 F ^ i ( x ) - 1 ) ( 1 - F ^ i ( x ) ) ä = n
ZI, ,oX.), P n j = l (-00,x] j
m i t F^'iCx) = P ^ ' ' ( ( - c o , x ] ) ( i F ^ ' i t x ) I n t e r e s s i e r t
man s i c h fUr
einen g l e i c h m ä ß i g b e s t e n e r w a r t u n g s t r e u e n S c h ä t z e r f ü r 8: ^P = E p ( ( X ^ - EpCX^))*"), P ^ e
wobei
das n - f a c h e d i r e k t e
d i s k r e t e n V e r t e i l u n g e n Uber R m i t g l e i c h e n K o m p o n e n t e n in e i n e r
Teilmenge
=
M von R l i e g t und d e r e n M o m e n t
-> R mi t S ( P ^ ) Produkt
ist, deren
der Ordnung
von
Träger 2k
exi-
s t i e r t , so g e h t m a n a m b e s t e n von d e r G l e i c h u n g 8(P^)=
Z \> = 0 ^
P
1
P
P ^ e V f a u s . Dann i s t d e r d u r c h k
1
_L y n! n
y ("X-D'^-^X" -X • v=0 ^ td) 7c(2)
(x
X ) 6 R " , d e f i n i e r t e S c h ä t z e r f ü r 8 o p t i m a l , w o b e i Z die n ' 7c
1'
-X = — Z ""Z^X -X ) ^TtCk-v-M) n! „ i = 2 ^'^Ttd) '^Tcd)'-
Uber alle P e r m u t a t i o n e n TT von {1 i m Fall X^
von
stochastisch
n}
Summation
bedeutet.
unabhängigen,
identisch
verteilten
Zufallsgrößen
X^ m i t P^^ als V ( X ) - V e r t e i l u n g m i t u n b e k a n n t e m P a r a m e t e r
ü b r i g e n s , daß
das
S c h ä t z e r f ü r 8:
Stichprobenmittel ^
gleichmäßig
bester,
R , 8 ( P ^ ) = V a r p ( X ^ ) m i t X : = (X^
b e s o n d e r e , daß die S t i c h p r o b e n s t r e u u n g
gilt
erwartungstreuer X ^ ) , i s t . d. h. i n s -
als e r w a r t u n g s t r e u e r
8 in d i e s e m Fall k e i n g l e i c h m ä ß i g b e s t e r e r w a r t u n g s t r e u e r
X>0
Schätzer
Schätzer
für
i s t . Die
8 Schätzen von Parametern
Optinnalität des Stichprobenmittels für die Varianz der ist fUr die Poissonverteilung
charakteristisch,
135
Einzelbeobachtung
wie das folgende
Beispiel
zeigt. Beispiel (Schätztheoretische Es seien X^
Kennzeichnung
X^ unter P
der
Poissonverteilung)
stochastisch unabhängige, identisch verteilte
Zufallsgrößen, wobei Epfx'j) für jedes k G IN existieren möge. E s soll gezeigt werden, daß aus der Eigenschaft des Stichprobenmittels, für jeden S t i c h probenumfang n i 2 ein gleichmäßig bester erwartungstreuer S c h ä t z e r für ^"'^R,
^ " ' ) : = V a r p ( X , ) . p""^
sein, folgt, daß P ^ fUr jedes P 6
^n'g^tXi
^^^
eine Poissonverteilung ist. Zu diesem
Zweck wird zunächst die Beziehung EpCX^"^') = (Ep(X^))'", r g N ^ , fUr die faktoriellen Momente von X^ bezüglich P 6 V , nachgewiesen. Für r = 0 und 1 ist diese Beziehung offensichtlich, während der Fall r = 2 aus der Voraussetzung Ep(X^) = Varp(X^), P
folgt. Damit gilt nach Induktionsvoraussetzung für
r i 2 mit Hilfe der Kovarianzmethode Ep( woraus Ep(X^ •
^
- X^ • ... • X^)) = 0, P e
E p ( X , ) E p ( x j ^ ' ) - r E p i x f • X^ • ... • X^) =
+
rEpCx'""^) + (r-1)Ep(X^)Ep(X*'"') - r E p ( x f XEpCX^))""'^ = EpCX^'"'^') + r(Ep(X^))'" + (r-1){Ep(X^))'"'"^ - r(Ep(X^) + (Ep(X^))2)(Ep(X^))'"^ = EpCX^""""^') - (Ep(X^))'"''^ = 0, P e V . resultiert. Ferner sind durch die faktoriellen Momente Ep(X^'''), r GlN^. die Momente Ep(X'^), r GIN^, eindeutig bestimmt, da
r = 0.1
k)
eine Basis des Vektorraums aller Polynome in x E R höchstens vom Grad k (k GIN^ fest) ist. Schließlich genügen die faktoriellen Momente Ep(Y^'"'), r elN^. mit P ^ als V ( X ) - V e r t e i l u n g der Beziehung EpCY^""^) = (EpCY))"", r G N ^ , wie man am einfachsten wegen E p ( t ^ ) =
t G R , durch r - m a l i g e s Dif-
ferenzieren nach t nachweist. Darüberhinaus folgt aus der Existenz von Ep(e*^^), t g R , daß die Momente Ep(Y'"), r GlN^, die Verteilung P ^ eindeutig bestimmen, woraus resultiert, daß p'^^ für jedes P g V eine ^ ( ^ ' - V e r t e i l u n g sein muß, wobei X = 0 zugelassen ist und dieser Fall als 8^-Verteilung aufzufassen ist. Man kämm im vorangehenden Beispiel die Annahme, daß das Stichprobenmittel für alle n ^ 2 ein gleichmäßig bester erwartungstreuer S c h ä t z e r für die Streuung ist, dadurch e r s e t z e n , daß dies nur für einen Stichprobenumfang n ^ 2 zutrifft. Dies zeigt das folgende
136
Kapitel 8 : S c h ä t z e n
Beispiel
(Ubereinstimmung einer
von
der
Parannetern
ersten
Poisson-verteiiten
Stichprobenmittels
Momente
Zufallsgröße für
die
höherer
Ordnung
aufgrund
der
mit
denen
Optimalität
des
Streuung)
E s s e i e n X^.X^,... reellwertige, s t o c h a s t i s c h u n a b h ä n g i g e u n d identisch verteilte Zufallsgrößen
unter jeder Verteilung
P
aus
V e r t e i l u n g e n , w o b e i EpdX^l'') < oo, k = 1 Dann
einer n i c h t - l e e r e n 2£. P
Menge
für ein £ E I N
soll g e z e i g t w e r d e n , d a ß Ep(X![") fijr j e d e s P
^
von
zutreffe.
für nn = 1
£+1,
mit
d e n e r s t e n £ + 1 M o m e n t e n einer P o i s s o n - v e r t e i i t e n Z u f a l l s g r ö ß e Ü b e r e i n s t i m m t , falls d a s S t i c h p r o b e n m i t t e l b a s i e r e n d a u f
für ein n > 1 ein g l e i c h m ä ß i g
b e s t e r e r w a r t u n g s t r e u e r S c h ä t z e r für V a r ^ C X ^ ) , P £ V , ist. D i e s ergibt sich a u s d e r B e z i e h u n g E p ( X ^ ( X ^ - 1)... (X^ - m + 1)) = E ^ ( X ^ ) für m P g V . d e n n h i e r d u r c h w i r d EpCX^'"), m
= 1,...,£ +1, P
die o b i g e B e z i e h u n g für die faktoriellen M o m e n t e verteilte
Zufallsgröße
eingeschlossen
erfijllt, w o b e i
ist. W e g e n
Ep(.£
E „ ( I X , ( X -(X -1)...(X - m + 1 ) - X P J=1 J 1 1 1
die
= 1
2+1
werden
d u r c h eine
Dirac-Verteilung
im
m > n
und
-...-X )). m = 1 I m
n und nach
mä£+1, den
PG^,
Überlegungen = 1
n und
gilt E p ( . £ ^ Xj(jn X . ( X . - 1 ) ...(X.-v. + l)-
wegen
E p ( . p / X j ( X . - 1 ) . . . (X.-v^ + l) -
1)...
( X ^ - m + D ) = 0 , P e ^ P , a u f g r u n d d e r K o v a r i a n z m e t h o d e m i t v^ G I N , j = 1 +
+
=
Hieraus
resultiert
E p ( x f (X,-1) ...(X^-m + D )
mit
X j ( X ^ ( X ^ - 1) . . . ( X ^ - m + 1 ) - X ^ - . . . - X ^ ) ) =
so
X ^ ( X ^ - I ) . . . ( X ^ - m + 1)) = 0 , P e V ,
Poisson-
Nullpunkt
z u m v o r a n g e h e n d e n Beispiel m i t Hilfe vollständiger Induktion für m Ist n u n
jedes
eindeutig b e s t i m m t , u n d
folgt die o b i g e B e z i e h u n g für die faktoriellen M o m e n t e
ms;£+l.
und
E p ( x f (X^-1)...(X^ - Vj + D ) - E p
- ( n - 1 ) E p ( X ^ ) E p (X^) = 0 . P
e^,
nach
n, u n d (X^)-
Induktions-
n Voraussetzung
und
aus
demselben
Grund
^E^ ( E p ( X ^ { X ^ - 1 ) ...(X^-v^)) +
v . E p ( X ^ ( X ^ - 1 ) . . . ( X ^ - v . + 1)))-E^'''J(X^) - E p ( X ^ ( X ^ - 1 ) . . . ( X ^ - m ) mEp(X^(X^-1)...(X^-m+1)) - (n-l)Ep(X^) = v.EpJ
( E p J ^ ^ X ^ ) E p ' " j (X^) +
- Ep(X^(X^-1)...(X^-m))
nE^^^X^) +mE^(X^) -
- m
E^(X^)
- E p ( X ^ ( X ^ - 1 ) ... ( X ^ - m ) ) - m
E p ( X ^ ( X ^ - 1 ) ...(X^-m)) = 0, P
- (n-1)
E^(X^) -
Gq), d. h. die o b i g e
= Beziehung
faktorielle M o m e n t e ist fUr m + 1 z u t r e f f e n d . D a m i t s t i m m t EpCX'j"), m mit d e n e r s t e n
£+1
Momenten
=
einer P o i s s o n - v e r t e i i t e n
= 1
Zufallsgröße
für £+1,
Uberein.
8 S c h ä t z e n von P a r a m e t e r n
137
Es i s t v i e l l e i c h t ü b e r r a s c h e n d ,
daß z u m v o r l e t z t e n B e i s p i e l n u r ein
Gegenstück
im Z u s a m m e n h a n g
m i t der F r a g e , fUr w e l c h e
P
Stichprobenstreuung
die
Schätzer Beispiel
ein
f ü r den E r w a r t u n g s w e r t (Kennzeichnung für
den
der
gleichmäßig
Verteilung
mit
Verteilungen
bester
Ep(X^), P e V .
ist,
triviales,
erv^rartungstreuer
existiert.
optimaler
Stichprobenstreuung
Mittelwert)
Es s e i e n
r e e l l w e r t i g e , s t o c h a s t i s c h unabhängige und i d e n t i s c h v e r t e i l t e
Zufallsgrößen
unter jeder Verteilung
Verteilungen,
wobei
b a s i e r e n d auf X, 1
Ep(X^) X
n
für
P aus einer n i c h t - l e e r e n
< oo, P
gelte
und die
n = 2 u n d n = n, , k = 1,2 k
Menge
von
Stichprobenstreuung mit
I l m n, = oo ein k-> R . für
b z w . h(x) = 0
bezeichnet, bzw.
g p ( y ) : = P ( { T o X = y } ) , y G O ^ . die F a k t o r i s i e r u n g xGO^,
folgt
Dirac-Verteilung
X^))=E^((1-J-) £ X ^ - ^ 1 2
+- E ^ ( x f ) - 6 - ! ^ E „ ( x f ) E „ ( X n P l n P I P l
erhält
P e ^ , nur aus der
gilt so
sonst,
mit
P({X = x}) = g p ( T ( x ) ) h ( x ) ,
P6^|>. wegen P({X = x}) = P({X = x } | { T o X = y } ) P ( { T o X = y}) =
Q ^ ( ^ j ( { x } ) P ( { T o X = y}), falls y = T(x)
mit T(x) G O ^ t o x
z u t r i f f t , b z w . P({X = x}) = 0 ,
138
K a p i t e l 8 : S c h ä t z e n von
falls y = T ( x )
Parametern
und P ( { T o X = y}) = 0 g i l t , da nnan dann P ( { X = x } ) = 0 e r h ä l t .
k e h r t f o l g t aus d e r F a k t o r i s i e r u n g P ( { X = x } ) = g p ( T ( x ) ) h ( x ) , x 6 O ^ , g
P
:O
T
-» R und h i Q
X
Umge-
mit
- » R , die E x i s t e n z von d i s k r e t e n V e r t e i l u n g e n Q
Uber O
y
f ü r y 6 p U ^ O p Y m i t Qy = P ^ ' ^ f ü r j e d e s y e Q ^ y bei b e l i e b i g e m P e ^P, w o b e i Y: = T o X i s t . Z u n ä c h s t k a n n man n ä m l i c h w e g e n P ( { X = x } ) = | g p ( T ( x ) ) | | h ( x ) | , X e O ^ , a n n e h m e n , daß h ( x ) s O . x e f l ^ , z u t r i f f t . Gilt nun f ü r ein y: = T ( x )
die
B e z i e h u n g P ( { T o X = y } ) > 0 f ü r ein P e ^P. so r e s u l t i e r t h i e r a u s P ( { X = x } | { Y = y } ) _ -
P({X=x>) P«Y=y})
_
gp(T(x))h(x) E gp(T(x*))h(x*) x*eT-'"({y})
Einzelwahrscheinlichkeiten
—
h(x) Z h(x*) x*eT-''({y})
*
*
^ T"^({y}),
n
,
.. d'®
•
deren
Summe
x^eT-icty}) Uber alle x e T ~ V { y } ) den W e r t
1 l i e f e r t , w i r d also eine d i s k r e t e
Verteilung
Q y d e f i n i e r t m i t Qy = P ^ ' ^ . Als e r s t e
A n w e n d u n g des N e y m a n - K r i t e r i u m s
soll j e t z t
allgemeiner
unter-
s u c h t w e r d e n , i n w i e w e i t bei u n t e r P s t o c h a s t i s c h u n a b h ä n g i g e n und i d e n t i s c h v e r t e i l t e n Z u f a l l s g r ö ß e n X^, X ^ die b e d i n g t e n V e r t e i l u n g e n
P ^ ^ y
60
y,
mit
Y: = X^ + X ^ , die V e r t e i l u n g P^^ b e s t i m m e n . Z u d i e s e m Z w e c k w i r d noch v o r a u s g e s e t z t , daß d e r T r ä g e r von P^^ m i t { 0
n} (n 6 IN f e s t ) b z w . IN
Beispiel
Verteilungen
(Eindeutige lungen
Bestimmtheit
von
bei Summenabbildungen
durch
als bedingende
übereinstimmt.
bedingte Zufallsgrößen)
S e t z t man Y: = T o X m i t T als S u m m e n a b b i l d u n g T ( x ^ , x 2 ) : - x., j = 1,2, so soll u n t e r s u c h t w e r d e n , w a n n aus folgt
=
=
x ^ , x^ G R ,
für jedes
D a b e i s i n d X^, X ^ u n t e r P^, j = 1,2, s t o c h a s t i s c h
und i d e n t i s c h v e r t e i l t , und O x ^ , j = 1,2, i s t g l e i c h { 0 Pj s t i m m t m i t IN
Vertei-
yGO^y,
unabhängig
n} { n e l N f e s t )
bzw.
U b e r e i n . Die A b b i l d u n g T i s t a l s o s u f f i z i e n t f ü r { P ^ , P ^ } , Neyman-Kriterium
K ( k ) ! = P^({X^ = k } ) / P 2 ( { X 2 = k } ) , k e { 0
für
n} ( n e l N f e s t )
bzw. k 6
wegen
P j ( { X ^ = k , X 2 = m } ) = gp^{k + m ) h ( k + m) = Pj({X^ = k } ) P j ( { X ^ = m } ) , j = 1.2, k,me{0
n} ( n G l N f e s t ) b z w . k . m G l N ^ , die B e z i e h u n g i n T t ( k ) + £ n 7 t ( m ) =
£ n ( g p (k + m ) / g p (k + m ) ) f o l g t , d . h . « n 7t(k) + £ m t ( m ) = f ( k + m ) , k , m e ( 0 n} ^ ^ gp.'v) ( n e l N fest) bzw. k , m G i N o , mit f(v): = f n n} (n 6 IN f e s t ) gpgCv)- , v G { 0
X
8 S c h ä t z e n von Parannetern
bzw. v e IN . M i t 0 , j = 1,2 Zufallsgrößen X ^ — n l ^ sicher
von viele
existieren.
eines
endlichen Anzahl
Atomen
disjunkte
Mengen
paarweise
In d i e s e m Fall k o n v e r g i e r e n
paarweise
disjunkten
atomar
Atomen
mit
zu
lediglich
sein,
auch
die
P-fast
Teilfolge existiert, kann man
Wahrscheinlichkeitsmaßes, von
disjunkten
. n G l N , P - s t o c h a s t i s c h g e g e n Null, a b e r n i c h t
gleichmäßig. D a auch keine s o l c h e
Eigenschaft
paarweise
die
einer
dadurch
c h a r a k t e r i s i e r e n , daß jede P - s t o c h a s t i s c h k o n v e r g e n t e F o l g e v o n r e e l l w e r t i g e n Z u f a l l s g r ö ß e n eine P - f a s t s i c h e r gleichmäßig k o n v e r g e n t e Teilfolge
besitzt.
Ferner
P als
atomares
W a h r s c h e i n l i c h k e i t s m a ß , w o b e i h ö c h s t e n s e n d l i c h viele, p a a r w e i s e
disjunkte
lassen
P-Atome
sich
existieren,
N a t ü r l i c h ist L
GO
Wahrscheinlichkeitsräume
durch
die S e p a r a b i l i t ä t
(0,?l,P)
von
L
OD
mit
(0,3l,P)
kennzeichnen.
( O . J l . P ) im a t o m a r e n Fall mit h ö c h s t e n s e n d l i c h vielen
w e i s e d i s j u n k t e n P - A t o m e n s e p a r a b e l . U m g e k e h r t folgt a u s d e r von L oo ( n , 3 l , P ) die E x i s t e n z e i n e r a b z ä h l b a r e n M e n g^e
paar-
Separabilität
{ A n : A n 6 31), s o
daß
: n e N } b e z u g l i c h d e r N o r m v o n L _ ^ ( 0 , 3 l , P ) dicht in { 1 ^ : A 6 3 1 } i s t . H i e r a u s r e s u l t i e r t f ü r j e d e s A e 3 l die E x i s t e n z e i n e s n G IN mit
=
P-f.U.,
d. h. i n s b e s o n d e r e , daß e s n i c h t a b z ä h l b a r viele p a a r w e i s e d i s j u n k t e
Mengen
B ^ g 3 1 mit P ( B ^ ) > 0 , n e l N , g e b e n k a n n . D i e s i m p l i z i e r t a b e r , d a ß P a t o m a r ist mit h ö c h s t e n s Übrigens Menge
einer endlichen Anzahl
ist die S e p a r a b i l i t ä t
aller
von
paarweise
v o n L oo ( 0 , 3 l , P )
mit d e r
disjunkten
P-Atomen.
Metrisierbarkeit
b e s c h r ä n k t e n , endlich additiven M e n g e n f u n k t i o n e n
der
v a u f 31 mit
|v|(0) s: 1 und v ( N ) = 0 f ü r P ( N ) = 0 mit N G31 g l e i c h w e r t i g , f a l l s m a n d i e s e M e n g e mit d e r s c h w a c h e n T o p o l o g i e v e r s i e h t , w o n a c h ein N e t z m e n g e n w e i s e
konver-
giert. Eine weitere Kennzeichnung
atomarer
Wahrscheinlichkeitsmaße
o - A l g e b r a mit n u r e i n e r e n d l i c h e n A n z a h l
von p a a r w e i s e
P auf
disjunkten
m e n b e s t e h t in d e r E i g e n s c h a f t , d a ß e s k e i n e n r e i n e n d l i c h a d d i t i v e n
einer
P-AtoWahr-
152
Anhang: Kennzeichnung diskreter
scheinlichkeitsinhalt menge
eine
Q auf Ol gibt, der
Q-Nulinnenge
ist.
Gibt
Verteilungen
{0,1}-wertig
es
nämlich
disjunkte M e n g e n A^ g31 mit P(Aj) > 0, j = 1,2
abzählbar
wobei
jede
P-Nullmenge
eine
viele
P-Null-
paarweise
so sieht man die E x i s t e n z e i n e s
rein e n d l i c h additiven W a h r s c h e i n l i c h k e i t s i n h a l t s ist,
i s t , w o b e i jede
Q auf 21, der
Q-Nullmenge
ist,
{0,1)-wertig
folgendermaßen
ein:
M a n s e t z t den d u r c h Q { A . ) = 0 , j = 1,2 auf der A l g e b r a ^ — { A G J l : E s ' n n e x i s t i e r e n A^ e {A,,A^,...}, m = 1 n, mit A= Z A. oder A = I A. ^m 1 2 rn = 1 »«m m= 1 Über 0 d e f i n i e r t e n {0,1}-wertigen W a h r s c h e i n l i c h k e i t s i n h a l t
zu e i n e m
}
Wahr-
s c h e i n l i c h k e i t s i n h a l t Q auf 31 f o r t mit der E i g e n s c h a f t , daß jede P - N u l l m e n g e eine Q - N u l l m e n g e i s t . F e r n e r ist jeder E x t r e m a l p u n k t Q^ d e r konvexen
Menge
aller F o r t s e t z u n g e n Q von Q zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t
auf 3t mit
der
durch
die
Z u jedem e > 0
und
Eigenschaft,
folgende
daß
jede
P-Nullmenge
Approximationseigenschaft
eine
Q-Nullmenge
charakterisierbar:
A G 31 e x i s t i e r t ein A G 31 mit Q ^ ( A A A ) 0} abzählbar
=
0 Qp abzählbar erzeugt
ist. Mit
S
C Op
als
a b z ä h l b a r e s E r z e u g e n d e n s y s t e m von » p f l O p i s t ff +3= = {E + F: E 6 $ , F G g } m i t 3 a l s S y s t e m a l l e r e n d l i c h e n T e i l m e n g e n von O p , n ä m l i c h e i n
abzählbares
E r z e u g e n d e n s y s t e m von I 8 p und e i n a b z ä h l b a r e s E r z e u g e n d e n s y s t e m Q v o n ® p liefert daher für
d a s a b z ä h l b a r e E r z e u g e n d e n s y s t e m ff D O p + 3 . D i e s
ist
a b e r i m s t e t i g e n Fall n a c h d e n o b i g e n Ü b e r l e g u n g e n n i c h t m ö g l i c h , i m d i s k r e t e n Fall s t i m m t 35p m i t d e r P o t e n z m e n g e ?|>(0) von O ü b e r e i n , w o b e i die M ä c h t i g k e i t von ?|>(0) g r ö ß e r
a l s die von R i s t , da die M ä c h t i g k e i t
v o n O m i t d e r von R
ü b e r e i n s t i m m t , f a l l s O n i c h t a b z ä h l b a r i s t . D a h e r k a n n 35p n i c h t a b z ä h l b a r e r z e u g t s e i n , da f ü r s o l c h e o - A l g e b r e n die M ä c h t i g k e i t
Man kann d i s k r e t e W a h r s c h e i n l i c h k e i t s m a ß e o-additive Mengenfunktionen auf ^ ( O )
höchstens
die v o n R
P als n i c h t - n e g a t i v e ,
ist.
normierte,
mit P ( 0 ^ ) = 1 f ü r eine a b z ä h l b a r e
Teil-
m e n g e O ^ von O a u c h d u r c h e i n e A p p r o x i m a t i o n s e i g e n s c h a f t v e r m ö g e e n d l i c h e r Teilmengen k e n n z e i c h n e n , wie das n ä c h s t e Beispiel
Beispiel
(Kennzeichnung
diskreter
Approximationseigenschaft
Wahrscheinlichkeitsmaße vermöge
endlicher
Ist P eine d i s k r e t e W a h r s c h e i n l i c h k e i t s v e r t e i l u n g mit 3 = = { F G^|>(0): F endlich} und Q —
zeigt.
durch
eine
Teilmengen)
über O, so ist Q: g ^
[0,1]
PI3 e n d l i c h additiv und es gibt zu j e d e m
160
Anhang: Kennzeichnung d i s k r e t e r
Verteilungen
E > 0 ein F^ e g nnit Q ( F ^ ) i 1 - e . U m g e k e h r t l i e f e r t j e d e s o l c h e M e n g e n f u n k t i o n Q: 3
t O , 1 ] genau eine d i s k r e t e W a h r s c h e i n l i c h k e i t s v e r t e i l u n g P Uber O , w e n n
nnan b e a c h t e t , daß
O = = U F, ^ o n = 1 1/n
A u s d e r D e f i n i t i o n von O
d. h. es g i l t
^ ^
o
a b z ä h l b a r i s t und
TL Q ( { u } ) = 1 z u t r i f f t . ueOo
f o l g t nännlich S Q({(o})äl--l ^ wetto r,
Q({(i)})i1, während
^ ^
f ü r jedes '
Q ( { w } ) s 1 aus d e r
nGlN,
endlichen
A d d i t i v i t ä t von Q und 0 s Q ( F ) s 1, F e ^ . r e s u l t i e r t . D a h e r w i r d d u r c h P(A)-- = A 6?|>(0), eine d i s k r e t e
Wahrscheinlichkeitsverteilung
e r k l ä r t , wobei P durch Q eindeutig bestimmt
Uber O m i t
PIg
= Q
ist.
Man k a n n die A p p r o x i m a t i o n s e i g e n s c h a f t d e r e n d l i c h a d d i t i v e n M e n g e n f u n k t i o n Q : 8 " » [ 0 , 1 ] a u c h d u r c h eine e i n d e u t i g e F o r t s e t z u n g s e i g e n s c h a f t e r s e t z e n , um d i s k r e t e V e r t e i l u n g e n zu c h a r a k t e r i s i e r e n . Z u d i e s e m Z w e c k soll als V o r ü b e r legung g e z e i g t w e r d e n , daß s i c h j e d e r W a h r s c h e i n l i c h k e i t s i n h a l t A l g e b r a 21 Uber O , d. h. Q i s t n i c h t
negativ, normiert
Q auf
und e n d l i c h
einer
additiv,
zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t Q' a u f eine 21 u m f a s s e n d e A l g e b r a 21' Uber 0
f o r t s e t z e n l ä ß t , w o b e i Q' g e n a u dann e i n d e u t i g b e s t i m m t
i s t , w e n n es zu
j e d e m e > 0 und A ' 621' M e n g e n A^ 621, j = 1,2, g i b t m i t A^ C A' C A ^ Q(A2\A^)
^ e. Z u d i e s e m
Marczewski Q
o
Zweck
beachte
mit Q (A, D B + A ^ n o 1 2
j = 1,2, ein W a h r s c h e i n l i c h k e i t s i n h a l t Q
man
zunächst,
daß
nach
und l^os-
Q ( A , D B) + Q * ( A . , f l B'^), A, 6 2 t , * 1 2 J a u f d e r von 21 und B 6 ^ ( f l )
erzeugten
A l g e b r a {A^ n B + A ^ 0 B ' ' : A^ 621, j = 1,2} m i t Q ^ I 2 l - Q i s t . D a b e i i s t Q ^ b z w . Q * d e r i n n e r e b z w . ä u ß e r e I n h a l t von Q , d. h. 0 ^ ( 0 = = s u p { Q ( A ) : A c C , A 621} b z w . Q " ' ( C ) : = i n f { Q ( A ) : C C A , A 621}, C 6^)>(0). F e r n e r i s t die M e n g e a l l e r P a a r e (t,Q)
m i t ä als A l g e b r a Uber O , 21 C 21 C 21', und Q als
i n h a l t a u f 21, QI2l = Q , i n d u k t i v g e o r d n e t b e z ü g l i c h d e r d^.Q^)
genau d a n n , w e n n 21^ C 21^
WahrscheinlichkeitsOrdnung
02121^ = 0 ^ z u t r i f f t ; denn
ist
{ { 2 i . , Q . ) : i 6 1} v o l l s t ä n d i g g e o r d n e t , so w i r d d u r c h ( . U | 2 l | , Q ) m i t Q ( A ) : = Q . ( A ) , A621., 161, eine o b e r e S c h r a n k e d e f i n i e r t . D a h e r e x i s t i e r t n a c h d e m L e m m a von Z o r n ein m a x i m a l e s
Element
F o r t s e t z u n g von , l l o s - M a r c z e w s k i g e l t e n
(21,Q), w o b e i
21=21' a u f g r u n d
der
muß.
I s t nun die F o r t s e t z u n g Q' von Q zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t
a u f 21'
e i n d e u t i g b e s t i m m t , so muß Q ' K A ^ n B + A ^ 0 B ' ' : A^ 621, j = 1,2} fUr j e d e s B 621' m i t d e r F o r t s e t z u n g von Q n a c h j : : o s - M a r c z e w s k i a u f { A ^ H B + A ^ f ) B"^: A. 621, j = 1,2} als W a h r s c h e i n l i c h k e i t s i n h a l t U b e r e i n s t i m m e n , w o r a u s fUr j e d e s B 621'
Kennzeichnung d i s k r e t e r Verteilungen
161
und E > 0 die E x i s t e n z von A^ G Ä , j = 1,2, m i t A^ C B C A ^ und QCA^VA^) s e f o l g t . Ist f e r n e r diese A p p r o x i m a t i o n s e i g e n s c h a f t von Q e r f ü l l t , so Ist o f f e n b a r die F o r t s e t z u n g Q' von Q auf 31' als W a h r s c h e i n l i c h k e i t s i n h a l t
eindeutig be-
s t i m m t . D a m i t sind alle V o r b e r e i t u n g e n f ü r das f o l g e n d e Beispiel Beispiel (Kennzeichnung
diskreter
eindeutige
Wahrscheinlichkeitsverteilungen
getroffen. durch
eine
FortsetZungseigenschaft)
Es soll g e z e i g t w e r d e n , daß die e n d l i c h a d d i t i v e M e n g e n f u n t i o n Q : g -» C0,1] m i t g : = {F c O: F e n d l i c h } genau dann e i n d e u t i g zu e i n e m W a h r s c h e i n l i c h k e i t s maß auf ?|>(n) f o r t s e t z b a r i s t , f a l l s es eine d i s k r e t e
Wahrscheinlichkeitsver-
t e i l u n g P Uber O g i b t m i t P I g = Q. Ist n ä m l i c h P eine d i s k r e t e
Wahrschein-
l i c h k e i t s v e r t e i l u n g über O, so hat o f f e n b a r Q : = P I g diese e i n d e u t i g e s e t z u n g s e i g e n s c h a f t , da es zu j e d e m A 6 ^ ( 0 ) und s > 0 M e n g e n F^ mit
Fortj = 1.2,
A c F^ und PCF^ \ F ^ ) ^ E, g i b t . U m g e k e h r t f o l g t aus der e i n d e u t i g e n
F o r t s e t z u n g s e i g e n s c h a f t von Q: 3 ^ [ 0 , 1 ] , daß auch Q : 3 l ^ [ 0 , 1 ] , 3l! = { A c O : A o d e r A ' ' e n d l i c h } und Q ( A ) : = Q ( A ) , A e n d l i c h b z w . Q ( A ) : = 1 - Q ( A ) . A'^ e n d l i c h , e i n d e u t i g zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t auf ^ ( 0 ) f o r t s e t z b a r i s t . Für die E x i s t e n z e i n e r d i s k r e t e n W a h r s c h e i n l i c h k e i t s v e r t e i l u n g P Uber 0 m i t P I J = Q genügt es zu z e i g e n , daß f ü r die a b z ä h l b a r e T e i l m e n g e f l ^ von O m i t O ^ : = { w e n : Q ( { o } ) > 0 } die Beziehung
Z:
Q ( { u } ) = 1 z u t r i f f t . Im Fall
S
< 1, der nur f ü r eine unendliche Menge O e i n t r e t e n k a n n , w i r d d u r c h (Q-Q)/(1-
2:
—
(oecio
Q({tj})) mit Q ( A ) : = -
51
Q({u}) Q-=
Q ( { u } ) , A e 3 l , w e g e n Q (A) £
ueOoriA
^
—
Q ( A ) , A E31, ein W a h r s c h e i n l i c h k e i t s i n h a l t auf 31 e r k l ä r t , der s i c h e i n d e u t i g zu einem W a h r s c h e i n l i c h k e i t s i n h a l t Q auf
f o r t s e t z e n l ä ß t , w e n n man b e a c h t e t ,
daß s i c h nach den V o r U b e r l e g u n g e n zu d i e s e m Beispiel die e i n d e u t i g e s e t z b a r k e i t zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t
d u r c h eine
Fort-
Approximations-
e i g e n s c h a f t k e n n z e i c h n e n l ä ß t . Dies i s t auch der G r u n d d a f ü r , daß m i t Q auch Q ein { 0 , 1 } - w e r t i g e r W a h r s c h e l n l l c h k e i t s i n h a l t
ist, wobei Q ( { u } ) = Q ( { u } ) = 0,
(i)6 0 , g i l t . Da f e r n e r im b e t r a c h t e t e n Fall O unendlich i s t , e x i s t i e r e n u n e n d l i c h e T e i l m e n g e n O., j = 1,2, m i t
= 0 und 0 ^ + 0 ^ = 0 . so daß Q ( 0 . , ) = 0 o d e r
^ ( f l ^ ' ~ ® 9''^- S c h l i e ß l i c h f ü h r t die f ü r e i n d e u t i g e F o r t s e t z b a r k e i t
charakteri-
s t i s c h e A p p r o x i m a t i o n s e i g e n s c h a f t von Q z u s a m m e n m i t Q ( { u } ) = 0 , u GFI, und der { 0 , 1 } - W e r t i g k e i t
von Q zu Q ( O ^ ) = Inf { Q ( A ) :
C A, A e n d l i c h } = 0 , f a l l s
Q ( 0 ^ ) = 0 gilt und d a m i t a u f einen W i d e r s p r u c h , da Q^ u n e n d l i c h I s t . Im Fall Q { d ^ ) = 0 e r h ä l t man d e n s e l b e n
Widerspruch.
162
Anhang: Kennzeichnung d i s k r e t e r
Verteilungen
Ähnlich zur Kennzeichnung d i s k r e t e r V e r t e i l u n g e n d u r c h die Existenz r e g u l ä r e r bedingter V e r t e i l u n g e n ist es z w e c k m ä ß i g , polnische Räume, d. h. diese sind vollständig, separabel und m e t r i s c h , mit der zugehörigen Boreischen o - A l g e b r a zugrundezulegen, wenn man eine Kennzeichnung d u r c h die E i g e n s c h a f t a n s t r e b t , daß das zugehörige innere Maß s t e t i g von unten i s t . Beispiel
(Kennzeichnung vollständiger, Stetigkeit
diskreter separabler.
von unten
Verteilungen metrischer
auf der Boreischen
o-Algebra
Räume durch die Eigenschaft
des zugehörigen
inneren
der
Maßes)
Es w i r d zunächst g e z e i g t , daß das endliche Maß n, welches man d u r c h Eins c h r ä n k u n g des L e b e s g u e - B o r e l s c h e n Maßes X auf das S y s t e m 31 der
Bo-
r e l s c h e n Mengen von [ - 1 , 2 ] e r h ä l t , die Eigenschaft hat, daß das zugehörige innere Maß (i^ nicht s t e t i g von unten i s t . Zu diesem Zweck b e t r a c h t e t man zunächst das S y s t e m aller Teilmengen A von [ 0 , 1 ] mit der E i g e n s c h a f t , daß A + p, peiQ, p a a r w e i s e disjunkt sind. Dieses Mengensystem ist bezijglich der Inklusion induktiv g e o r d n e t , so daß jedes nach dem Lemma von Z o r n e x i s t i e rende maximale Element A des obigen Mengensystems die E i g e n s c h a f t [0.1] C
+
b e s i t z t . Dann gilt aber
(A + p^^)) = 0 , n e l N , mit
jCln [ - 1 , 1 ] = {p.|,p2.-..}. denn es gibt unendlich viele p e f l n [ 0 , 1 ] , so daß n n (^y^ (A + + p p a a r w e i s e disjunkt sind und daher mit B c ^U^ (A + p^^), BeQl, auch die Mengen B + p f ü r diese p 6 i E l n [ 0 , 1 ] paarweise disjunkt sind und daher schließlich ( i ( B ) = 0 wegen X ( B + p ) = X(B), p G i Q . z u t r i f f t , da sonst X ( ( - 1 . 2 ] ) = co gelten w ü r d e . Wegen [ 0 . 1 ] C CO
, (A + p) gilt aber p € d n T - 1 .in
n
U^
(A + p^)) i 1. Auf dieselbe Weise e r h ä l t man, daß auch die E i n -
schränkung
^^ des L e b e s g u e - B o r e l s c h e n Maßes auf I8n [ 0 , 1 ] die Eigen-
s c h a f t b e s i t z t , daß das zugehörige innere Maß nicht s t e t i g von unten indem man die Überlegungen mit dem Z o r n s c h e n ~ ] e r s e t z t . Mit Hilfe eines I s o m o r p h i e s a t z e s keitsraum
([0.1],
( O , 35,P) mit
8
n [0,1],
P als
stetiges
und jeden
Lemma
für
[0,1]
ist.
durch
f ü r den W a h r s c h e i n l i c h Wahrscheinlichkeitsraum
Wahrscheinlichkeitsmaß
auf
der
Boreischen
o - A l g e b r a 3B eines polnischen Raumes O (vgl. H. L. Royden, Real Analysis, London, 1970, S. 327) e r h ä l t man schließlich, daß auch das innere Maß
P,
Kennzeichnung diskreter Verteilungen
163
von P n i c h t s t e t i g von u n t e n i s t . U m g e k e h r t i s t a b e r j e d e s d i s k r e t e W a h r s c h e i n i i c h k e i t s n n a ß P a u f Ä e i n d e u t i g als s o l c h e s a u f ^P(O) f o r t s e t z b a r , so daß in d i e s e m Fall das z u g e h ö r i g e i n n e r e Maß P ^ s t e t i g von u n t e n i s t .
Abschließend
s e i n o c h e r w ä h n t , daß das i n n e r e Maß j e d e s W a h r s c h e i n l i c h k e i t s m a ß e s von oben i s t , w a s m a n l e i c h t
einsieht.
stetig
Yerzgichnls i l S E Beispiele 1.
Der L a p l a c e s c h e W a h r s c h e i n I i c h k e i t s b e g r i f f
1
P a r a d o x o n von de Mere
2
M e h r f a c h e r W U r f e l w u r f nach C a r d a n o und Galilei
2
B u f f o n s c h e s Nadelproblem
3
2. G r u n d b e g r i f f e der Kombinatorik
4
Doppelgeburtstag
5
Mächtigkeit der P o t e n z m e n g e einer endlichen Menge
6
n - f a c h e r MUnzwurf
6
A n z a h l von Z e r l e g u n g e n
7
Abstimmungen mit nicht Liberwiegenden Enthaltungen, kollektives Modell
7
Fibonacci-Zahlen
8
Verallgemeinerte Fibonacci-Zahlen
8
Rencontre-Problem
10
Mächtigkeit der Menge aller Abbildungen z w i s c h e n endlichen Mengen
11
Mächtigkeit der Menge aller injektiven Abbildungen z w i s c h e n endlichen Mengen
11
Mächtigkeit der Menge aller s t r e n g monoton w a c h s e n d e n Funktionen z w i s c h e n {1,...,m} und {1 n}
12
Mächtigkeit der Menge aller monoton w a c h s e n d e n Funktionen z w i s c h e n {1 m} und (1 n}
12
Modifiziertes Galtonsches Brett
15
4. Einige allgemeine E i g e n s c h a f t e n von d i s k r e t e n W a h r s c h e i n l i c h k e i t s verteilunen Kennzeichnungen eigenschaften
20 der L a p l a c e - V e r t e i l u n g d u r c h E x t r e m a l 20
V e r e r b b a r k e i t s e i g e n s c h a f t von D i r a c - V e r t e i l u n g e n
21
Rencontre-Problem
23
Mächtigkeit der Menge aller s u r j e k t i v e n Abbildungen z w i s c h e n endlichen Mengen
23
Populationsanteil mit mehreren gemeinsamen Merkmalen
24
V e r z e i c h n i s der Beispiele
165
K e n n z e i c h n u n g d e r L a p l a c e - V e r t e i l u n g d u r c h eine invarianzeigenschaft
24
K e n n z e i c h n u n g d e r L a p l a c e - V e r t e i l u n g d u r c h eine V e r e r b b a r k e i t s e l g e n s c h a f t bei d i r e k t e n P r o d u k t e n
25
Randverteilungen der Multinomialverteilung
26
Randverteilungen der nnehrdimensionalen h y p e r g e o m e t r i s c h e n
26
Verteilung 5.
6.
Elementare bedingte Wahrscheinlichkeiten
und
stochastische
U n a b h ä n g i g k e i t von E r e i g n i s s e n
28
Ruinwahrscheinlichkeit
30
eines Spielers
Kühne S t r a t e g i e
31
Multiple choice V e r f a h r e n
32
Doppelgeburtstag, konstante Einzelwahrscheinlichkeiten
32
Doppelgeburtstag, nicht konstante Einzelwahrscheinlichkeiten
33
E u l e r s c h e g lokal optimalen S c h ä t z e r im m - S t i c h p r o b e n f a l l für
Parameterfunktionen
des ganzzahligen P a r a m e t e r s einer I 8 ( n , ^ ) - V e r t e i l u n g
106
Untersuchung der größten konvexen Teilmenge aller für den ganzzahligen P a r a m e t e r einer
)-Verteilung
treuen S c h ä t z e r s im m - S t i c h p r o b e n f a l l bezüglich
erwartungsdes zwei-
fachen S t i c h p r o b e n m i t t e l s
108
V e r z e r r t h e i t des M a x i m u m - L i k e l i h o o d - S c h ä t z e r s
im 2 - S t i c h -
probenfall für den ganzzahligen P a r a m e t e r e i n e r
I8(n,-i)-
Verteilung Kennzeichnung des Modells mit individuellen
111 Wahrscheinlich-
keiten zur optimalen S c h ä t z u n g eines Bevölkerungsanteils
112
Gleichmäßig b e s t e r e r w a r t u n g s t r e u e r S c h ä t z e r für den M i s c h u n g s p a r a m e t e r von zwei Bernoulli-Verteilungen Optimale e r w a r t u n g s t r e u e S c h ä t z e r für eine 3K(n,p^ Verteilung
118 Pm^" 119
Verzeichnis der Beispiele
Optimale e r w a r t u n g s t r e u e
S c h ä t z e r f ü r die
169
Genotypwahr-
s c h e i n l i c h k e i t e n von M e r k m a l s a u s p r ä g u n g e n
120
S t o c h a s t i s c h e Unabhängigkeit eines gleichmäßig besten t u n g s t r e u e n und b e s c h r ä n k t e n S c h ä t z e r s s o w i e e i n e r
erwarverteilungs-
unabhängigen Abbildung Schätztheoretische
125
Kennzeichnung der Vollständigkeit
A b b i l d u n g e n , die s u f f i z i e n t Schätztheoretische
von
sind
125
K e n n z e i c h n u n g von S u f f i z i e n z
und
Vollständigkeit Vollständigkeit
126 und S u f f i z i e n z d e r S u m m e n a b b i l d u n g
bei
B e r n o u l l i - , P a s c a l - und P o i s s o n - E x p e r i m e n t e n Optimales erwartungstreues defekter
ProduktionsstUcke
128
S c h ä t z e n des p r o z e n t u a l e n aufgrund direkter bzw.
Anteils
inverser
S t i c h p r o b e n e n t n a h m e ohne Z u r U c k l e g e n
129
O p t i m a l i t ä t von S t i c h p r o b e n m i t t e l , S t i c h p r o b e n s t r e u u n g
und
empirischer Verteilungsfunktion
133
Schätztheoretische
135
Kennzeichnung der Poissonverteilung
Ubereinstimmung der e r s t e n Momente höherer Ordnung mit
denen
einer P o i s s o n - v e r t e i l t e n Zufallsgröße aufgrund der Optimalität Stichprobenmittels
des
f ü r die S t r e u u n g
136
Kennzeichnung der Verteilung mit optimaler
Stichprobenstreuung
f ü r den M i t t e l w e r t
137
E i n d e u t i g e B e s t i m m t h e i t von V e r t e i l u n g e n d u r c h b e d i n g t e
Ver-
t e i l u n g e n bei S u m m e n a b b i l d u n g e n als b e d i n g e n d e Z u f a l l s g r ö ß e n C h a r a k t e r i s i e r u n g von e i n p a r a m e t r i g e n
138
Potenzreihenfamilien
durch Suffizienzeigenschaften
139
C h a r a k t e r i s i e r u n g des R a s c h - M o d e l l s d u r c h die A n n a h m e
der
E x i s t e n z e i n e r s y m m e t r i s c h e n und s u f f i z i e n t e n A b b i l d u n g
141
Optimales Schätzen der Mächtigkeit einer endlichen Menge
142
A n h a n g : K e n n z e i c h n u n g d e r b e s o n d e r e n Rolle d e r
diskreten
Verteilungen
144
Kennzeichnung atomarer Wahrscheinlichkeitsmaße U b e r e i n s t i m m u n g von s t o c h a s t i s c h e r f ü r Folgen r e e l l w e r t i g e r
d u r c h die
und f a s t s i c h e r e r
Zufallsgrößen
Konvergenz 149
170
Verzeichnis der
Beispiele
K e n n z e i c h n u n g d e r atonnaren W a h r s c h e i n l i c h k e i t s n n a ß e
mit
e i n e r e n d l i c h e n A n z a h l von p a a r w e i s e d i s j u n k t e n Atonnen die U b e r e i n s t i m m u n g von s t o c h a s t i s c h e r gleichmäßiger
und f a s t
nur durch
sicher
Konvergenz
150
K e n n z e i c h n u n g a t o m a r e r W a h r s c h e i n l i c h k e i t s m a ß e d u r c h die U b e r e i n s t i m m u n g von s c h w a c h e r
und s t a r k e r K o n v e r g e n z
von
Testfunktionen
152
Kennzeichnung a t o m a r e r Wahrscheinlichkeitsmaße schwache Abgeschlossenheit
d u r c h die
der Indikatoren meßbarer
Mengen
in d e r M e n g e d e r T e s t f u n k t i o n e n
154
Kennzeichnung a t o m a r e r Wahrscheinlichkeitsmaße Approximatioseigenschaft
d u r c h die
von außen b z w . innen v e r m ö g e
eines
abzählbaren Mengensystems
156
Kennzeichnung a t o m a r e r Wahrscheinlichkeitsmaße Existenz spezieller regulärer
d u r c h die
bedingter Verteilungen
157
Kennzeichnung atomarer Wahrscheinlichkeitsmaße
auf
B o r e l s c h e n o - A l g e b r a p o l n i s c h e r Räume d u r c h die
Existenz
von r e g u l ä r e n b e d i n g t e n V e r t e i l u n g e n fUr die
der
zugehörige
V e r v o l l s t ä n d i g u n g m i t d e r B o r e l s c h e n o - A l g e b r a als
bedingender
o-Algebra
158
Kennzeichnung d i s k r e t e r Wahrscheinlichkeitsmaße Approximationseigenschaft
d u r c h eine
vermöge endlicher Teilmengen
Kennzeichnung d i s k r e t e r Wahrscheinlichkeitsverteilungen
159 durch
eine e i n d e u t i g e F o r t s e t z u n g s e i g e n s c h a f t
161
K e n n z e i c h n u n g d i s k r e t e r V e r t e i l u n g e n auf d e r B o r e l s c h e n vollständiger, separabler, metrischer
Räume d u r c h die
o-Algebra
Eigenschaft
d e r S t e t i g k e i t von u n t e n des z u g e h ö r i g e n i n n e r e n M a ß e s
162
gachYgrzeichnis Additionsregel
4
Approximationssatz arithmetisches
von W e i e r s t r a ß
55
Mittel
38
austauschbar
35
bedingter E r w a r t u n g s w e r t
79
bedingte Verteilung
7 5
Bernoulli-Experiment
vom U m f a n g n
34
Bernoulli-Verteilung
12
Bernstein-Polynom
55
Binomlalkoeffizient
5
Binomlalverteilung
11
a5(n.p)-vertellte Zufallsgröße
36
Cauchy-Schwarzsche
Ungleichung
42,
43
Dirac-Verteilung
18
direktes Produkt
23
diskrete Verteilung diskrete Wahrscheinlichkeitsverteilung
11,
11,
22
18,
22
diskretes Zufallsexperiment
11
Dreiecksverteilung
37
Durchschnitt
26
Eindeutigkeitssatz einparametrige
fUr e r z e u g e n d e F u n k t i o n e n
Potenzreihenfamilie
121
elementare bedingte E r w a r t u n g s w e r t e elementare bedingte E r w a r t u n g s w e r t e
67
57 unter der Bedingung B
57
elementare bedingte Wahrscheinlichkeit
26
Elementarereignis
26
empirische Verteilungsfunktion endliche Z u f a l l s e x p e r i m e n t e
128 11
Ereignis
1
Ergebnisraum
1
erwartungstreuer erwartungstreue
Schätzer S c h ä t z b a r k e i t von S
91 96
172
Sachverzeichnis
Erwartungswert
38
erzeugende Funktion
67
Eulersche