19 Das starke Gesetz der großen Zahlen
Die zentrale Aussage dieses Abschnitts liefert der
Satz 19.1. (Etemadi) Jede Folge {Xn}n=1,2,... (P-) integrierbarer, identisch verteilter , (paarweise) unabh¨angiger ZV. auf (Ω,A, P) gen¨ugt dem starken Gesetz der großen Zahlen , d.h.
n→∞lim 1 n
n
X
i=1
Xi = EX1 P-f.s.
(19.1)
Bemerkung 19.1. F¨ur den Beweis von Satz 19.1 gen¨ugt neben den ¨ubrigen Voraus- setzungen bereits die paarweise Unabh¨angigkeit der ZV. {Xn} vgl. Bauer (2002), Satz 12.1
. Wir erhalten (19.1) aus einem allgemeineren Resultat, jedoch unter der st¨arkeren Voraussetzung der Unabh¨angigkeit der {Xn}.
F¨ur nicht notwendig identisch verteilte {Xn} hat Kolmogorov ein einfaches Kriterium f¨ur die G¨ultigkeit des starken Gesetzes angegeben :
Satz 19.2. (Kolmogorov-Kriterium) Sei {Xn}n=1,2,... eine unabh¨angige Folge von reellen, (P-) integrierbaren ZV. auf (Ω,A, P) mit
∞
X
n=1
V ar(Xn)
n2 < ∞.
Dann gen¨ugt {Xn} dem starken Gesetz der großen Zahlen.
Lemma 19.1. (Kolmogorov-Ungleichung) X1, . . . , Xn seien unabh¨angige, quadrat- integrierbare ZV. auf (Ω,A, P). Dann gilt f¨ur beliebiges ε >0 :
P
k=1max,...,n |Sk| ≥ε
≤ 1 ε2
n
X
i=1
V ar(Xi), (19.2)
wobei Sk =
k
P
i=1
(Xi−EXi), k= 1, . . . , n .
86
Bemerkung 19.2. Als Spezialfall von (19.2) ergibt sich f¨ur n = 1 die Tschebychev- Ungleichung .
Im Fall von i.i.d. ZV. {Xn} gen¨ugt die Integrierbarkeit , d.h. die Existenz des Erwartungswerteswertes f¨ur die G¨ultigkeit des starken Gesetzes :
Satz 19.3. (Kolmogorov) Jede Folge {Xn}n=1,2,... von (P-) integrierbaren , unabh¨angigen, identisch verteilten ZV. auf (Ω,A, P) gen¨ugt dem starken Gesetz der großen Zahlen.
Die Voraussetzung der Integrierbarkeit der ZV. {Xn} in den S¨atzen 19.1 und 19.3 kann nicht umgangen werden, wie der folgende Satz zeigt :
Satz 19.4. Sei {Xn}n=1,2,... eine Folge reeller, identisch verteilter, (paarweise) unabh¨angiger ZV. auf (Ω,A, P) . Konvergiert dann die Folge {1n
n
P
i=1
Xi}n=1,2,... P-f.s. gegen eine reelle ZV. X , so sind die Xn (P-) in- tegrierbar und X ist P-f.s. konstant , n¨amlich P(X =EX1) = 1.
Bemerkung 19.3.
a) Aus der G¨ultigkeit des starken Gesetzes der großen Zahlen folgt immer die G¨ultigkeit des schwachen Gesetzes. Im Fall einer i.i.d. Folge {Xn} gilt das starke Gesetz genau dann , wenn X1 (P-) integrierbar ist.
b) M¨oglich ist f¨ur eine i.i.d. Folge {Xn} aber , dass 1 n
n
X
i=1
Xi −→P 0 (n → ∞) konvergiert , jedoch X1 nicht P-integrierbar ist .
Beispiel 19.1. Sei {Xn}n=1,2,... eine unabh¨angige Folge reeller ZV. auf (Ω,A, P) mit P(Xn=n) = P(Xn=−n) = 1
2
1
n log(n+ 1), P(Xn= 0) = 1− 1
n log(n+ 1)
=⇒
1 n
n
X
i=1
Xi −→P 0 (n→ ∞), aber
{Xn} gen¨ugt nicht dem starken Gesetz der großen Zahlen . 87
Als eine wichtige Anwendung des starken Gesetzes der großen Zahlen erhalten wir : P-f.s. gleichm¨assige Konvergenz der empirischen Verteilungsfunktion.
Der Satz von Glivenko-Cantelli.
Sei {Xn} eine i.i.d. Folge reeller ZV. auf (Ω,A, P) mit VF. F und Fn: Ω×R→[0,1], Fn(x) : = 1
n
n
X
k=1
I{Xk≤x},
die empirische Verteilungsfunktion (zu X1, . . . , Xn). Dann bilden f¨ur festes x∈R die ZV.
Yk := I{Xk≤x} (k= 1,2, . . .) wieder eine i.i.d. Folge mit
PY1 = B(1, p), p = P(X1 ≤x) = F(x). Nach dem starken Gesetz der großen Zahlen gilt :
Fn(x) = 1 n
n
X
k=1
Yk P−→−f.s. EY1 = F(x) (n→ ∞), d.h. , Fn liefert (punktweise) eine
”stark konsistente Sch¨atzung“ f¨ur die ( i.A. unbe- kannte) VF. F .
Der folgende Satz zeigt, dass diese P-f.s. Konvergenz sogar gleichm¨aßig in x gilt :
Satz 19.5. (Glivenko-Cantelli) Unter den obigen Voraussetzungen gilt: Dn := sup
x
|Fn(x)−F(x)| P−f.s.−→ 0 (n→ ∞).
88
