3.5 Momenterzeugende Funktionen f¨ur kontinuierliche Zufallsvariablen F¨ur diskrete Zufallsvariablen X haben wir die momenterzeugende Funktion M

3.5 Momenterzeugende Funktionen f¨ ur kontinuierliche Zufallsvariablen

F¨ ur diskrete Zufallsvariablen X haben wir die momenterzeugende Funktion

M

(s) = E[e

]

eingef¨ uhrt. Diese Definition kann man unmittelbar auf

kontinuierliche Zufallsvariablen ¨ ubertragen. Die f¨ ur M

(s)

gezeigten Eigenschaften bleiben dabei erhalten.

Beispiel 114

F¨ ur eine auf [a, b] gleichverteilte Zufallsvariable U gilt M

(t) = E [e

] =

Z

e

· 1 b − a dx

=

e

t(b − a)

= e

− e

t(b − a) .

Beispiel (Forts.)

F¨ ur eine standardnormalverteilte Zufallsvariable N ∼ N (0, 1) gilt M

(t) = 1

√ 2π Z

−∞

e

e

dξ

= e

· 1

√ 2π Z

−∞

e

dξ

= e

.

Beispiel (Forts.)

Daraus ergibt sich f¨ ur Y ∼ N (µ, σ

) wegen

∼ N (0, 1) M

(t) = E [e

]

= e

· E [e

]

= e

· M

(tσ)

= e

.

Weiterer Beweis von Satz 113:

Beweis:

Gem¨ aß dem vorhergehenden Beispiel gilt M

(t) = e

. Wegen der Unabh¨ angigkeit der X

folgt

M

(t) = E [e

] =

n

Y

i=1

E [e

]

=

n

Y

i=1

M

(a

t)

=

n

Y

i=1

e

= e

,

mit µ = a

µ

+ · · · + a

µ

und σ

= a

σ

+ · · · + a

σ

.

4. Zentraler Grenzwertsatz

Satz 115 (Zentraler Grenzwertsatz)

Die Zufallsvariablen X

, . . . , X

besitzen jeweils dieselbe

Verteilung und seien unabh¨ angig. Erwartungswert und Varianz von X

existieren f¨ ur i = 1, . . . , n und seien mit µ bzw. σ

bezeichnet (σ

> 0).

Die Zufallsvariablen Y

seien definiert durch Y

:= X

+ . . . + X

f¨ ur n ≥ 1. Dann folgt, dass die Zufallsvariablen

Z

:= Y

− nµ σ √

n

asymptotisch standardnormalverteilt sind, also Z

∼ N (0, 1) f¨ ur

n → ∞.

Etwas formaler ausgedr¨ uckt gilt: Die Folge der zu Z

geh¨ orenden Verteilungsfunktionen F

hat die Eigenschaft

n→∞

lim F

(x) = Φ(x) f¨ ur alle x ∈ R .

Wir sagen dazu auch: Die Verteilung von Z

konvergiert gegen die

Standardnormalverteilung f¨ ur n → ∞.

Dieser Satz ist von großer Bedeutung f¨ ur die Anwendung der

Normalverteilung in der Statistik. Der Satz besagt, dass sich die

Verteilung einer Summe beliebiger unabh¨ angiger Zufallsvariablen

(mit endlichem Erwartungswert und Varianz) der Normalverteilung

umso mehr ann¨ ahert, je mehr Zufallsvariablen an der Summe

beteiligt sind.

Beweis:

Wir betrachten X

:= (X

− µ)/σ f¨ ur i = 1, . . . , n mit E [X

] = 0 und Var[X

] = 1. Damit gilt (gem¨ aß vorhergehendem Beispiel)

M

(t) = E[e

] = E[e

√n

]

= M

(t/ √

n) · . . . · M

(t/ √ n) . F¨ ur beliebiges i betrachten wir die Taylorentwicklung von M

(t) =: h(t) an der Stelle t = 0

h(t) = h(0) + h

(0) · t + h

(0)

2 · t

+ O(t

).

Aus der Linearit¨ at des Erwartungswerts folgt

h

(t) = E [e

· X

] und h

(t) = E [e

· (X

)

].

Beweis (Forts.):

Damit gilt

h

(0) = E[X

] = 0 und h

(0) = E[(X

)

] = Var[X] = 1.

Durch Einsetzen in die Taylorreihe folgt h(t) = 1 + t

/2 + O(t

), und wir k¨ onnen M

(t) umschreiben zu

M

(t) =

1 + t

2n + O

t

n

→ e

f¨ ur n → ∞.

Aus der Konvergenz der momenterzeugenden Funktion folgt auch die Konvergenz der Verteilung. Damit ist Z asymptotisch

normalverteilt.

Beweis (Forts.):

Die momenterzeugende Funktion existiert leider nicht bei allen Zufallsvariablen und unser Beweis ist deshalb unvollst¨ andig. Man umgeht dieses Problem, indem man statt der momenterzeugenden Funktion die so genannte charakteristische Funktion

M ˜

(t) = E [e

] betrachtet. F¨ ur Details verweisen wir auf die

einschl¨ agige Literatur.

Der Zentrale Grenzwertsatz hat die folgende intuitive Konsequenz:

Wenn eine Zufallsgr¨ oße durch lineare Kombination vieler

unabh¨ angiger, identisch verteilter Zufallsgr¨ oßen entsteht,

so erh¨ alt man n¨ aherungsweise eine Normalverteilung.

Ein wichtiger Spezialfall das Zentralen Grenzwertsatzes besteht darin, dass die auftretenden Zufallsgr¨ oßen Bernoulli-verteilt sind.

Korollar 116 (Grenzwertsatz von de Moivre)

X

, . . . , X

seien unabh¨ angige Bernoulli-verteilte Zufallsvariablen mit gleicher Erfolgswahrscheinlichkeit p. Dann gilt f¨ ur die

Zufallsvariable H

mit

H

:= X

+ . . . + X

f¨ ur n ≥ 1, dass die Verteilung der Zufallsvariablen H

:= H

− np

p np(1 − p)

f¨ ur n → ∞ gegen die Standardnormalverteilung konvergiert.

Beweis:

Die Behauptung folgt unmittelbar aus dem Zentralen Grenzwertsatz, da µ =

E [H

] = p und

σ

=

Var[H

] = p(1 − p).

Bemerkung

Wenn man X

, . . . , X

als Indikatorvariablen f¨ ur das Eintreten

eines Ereignisses A bei n unabh¨ angigen Wiederholungen eines

Experimentes interpretiert, dann gibt H

die absolute H¨ aufigkeit

von A an.

4.1 Normalverteilung als Grenzwert der Binomialverteilung Korollar 116 erm¨ oglicht, die Normalverteilung als Grenzwert der Binomialverteilung aufzufassen. Die folgende Aussage ist eine Konsequenz von Korollar 116:

Korollar 117

Sei H

∼ Bin(n, p) eine binomialverteilte Zufallsvariable. Die

Verteilung von H

/n konvergiert gegen N (p, p(1 − p)/n) f¨ ur

n → ∞.

0,0 0,1 0,2 0,3 0,4

-4,0 -3,0 -2,0 -1,0 0,0 1,0 2,0 3,0 4,0 Bin^(10;0:3)

(x)

0,0 0,1 0,2 0,3 0,4

-4,0 -3,0 -2,0 -1,0 0,0 1,0 2,0 3,0 4,0 Bin^(20;0:3)

(x)

0,0 0,1 0,2 0,3 0,4

-4,0 -3,0 -2,0 -1,0 0,0 1,0 2,0 3,0 4,0 Bin^(50;0:3)

(x)

0,0 0,1 0,2 0,3 0,4

-4,0 -3,0 -2,0 -1,0 0,0 1,0 2,0 3,0 4,0 Bin^(100;0:3)

(x)

Vergleich von Binomial- und Normalverteilung

Historisch gesehen entstand Korollar 116 vor Satz 115.

F¨ ur den Fall p = 1/2 wurde Korollar 116 bereits von Abraham de Moivre (1667–1754) bewiesen. De Moivre war geb¨ urtiger Franzose, musste jedoch aufgrund seines protestantischen Glaubens nach England fliehen. Dort wurde er unter anderem Mitglied der Royal Society, erhielt jedoch niemals eine eigene Professur.

Die allgemeine Formulierung von Korollar 116 geht auf Pierre Simon Laplace (1749–1827) zur¨ uck. Allerdings vermutet man, dass die L¨ osung des allgemeinen Falls p 6= 1/2 bereits de Moivre

bekannt war.

4.2 Elementarer Beweis des Grenzwertsatzes von de Moivre f¨ ur p = 1/2

Wir betrachten die Wahrscheinlichkeit Pr[a ≤ H

≤ b] f¨ ur

p = 1/2 und a, b ∈ R mit a ≤ b. Wenn die Verteilung von H

, wie in Korollar 116 angegeben, gegen N (0, 1) konvergiert, so sollte Pr[a ≤ H

≤ b] ≈ R

a

ϕ(t) dt f¨ ur gen¨ ugend große n gelten.

Wir schreiben f (n) ∼

g(n) f¨ ur lim

f(n)/g(n) = 1, wollen also zeigen:

Pr[a ≤ H

≤ b] ∼

Z

a

ϕ(t) dt.

Da f¨ ur H

∼ Bin(2n, 1/2) gilt, dass E [H

] = n und Var[H

] = n/2 ist, erhalten wir

H

= H

− n

p n/2 ,

und es folgt

Pr[a ≤ H

≤ b] = Pr[n + a p

n/2 ≤ H

≤ n + b p n/2]

= X

i∈In

Pr[H

= n + i]

f¨ ur I

:= {z ∈ Z | a p

n/2 ≤ z ≤ b p

n/2}. Damit ist

Pr[a ≤ H

≤ b] = X

i∈In

2n n + i

· 1

2

| {z }

=:pn,i

.

Es gilt

max

p

≤ p

:=

2n n

· 1

2

= (2n)!

(n!)

· 1

2

,

und mit der Stirling’schen Approximation f¨ ur n!

p

∼

(2n)

· e

· √ 2π · 2n (n

· e

· √

2πn)

· 1

2

= 1

√ πn .

Ersetzen wir nun die p

durch p

so entsteht dabei ein Fehler, den wir mit q

:=

n

bezeichnen.

F¨ ur i > 0 gilt q

=

2n n+i

·

n

·

= (2n)! · n! · n!

(n + i)! · (n − i)! · (2n)!

= Q

j=0

(n − j) Q

j=1

(n + j) =

i

Y

j=1

n − j + 1 n + j =

i

Y

j=1

1 − 2j − 1 n + j

.

Wegen der Symmetrie der Binomialkoeffizienten gilt q

= q

,

womit auch der Fall i < 0 abgehandelt ist.

Man macht sich leicht klar, dass 1 − 1/x ≤ ln x ≤ x − 1 f¨ ur x > 0 gilt. Damit schließen wir, dass

ln





i

Y

j=1

1 − 2j − 1 n + j



 =

i

X

j=1

ln

1 − 2j − 1 n + j

≤ −

i

X

j=1

2j − 1 n + j ≤ −

i

X

j=1

2j − 1 n + i

= − i(i + 1) − i

n + i = − i

n + i

n(n + i)

= − i

n + O

1

√ n

, da i = O( √

n) f¨ ur i ∈ I

.

Ebenso erhalten wir

ln





i

Y

j=1

1 − 2j − 1 n + j



 ≥

i

X

j=1

1 −

1 − 2j − 1 n + j

!

=

i

X

j=1

−2j + 1 n − j + 1 ≥ −

i

X

j=1

2j − 1 n − i

= − i

n − i = − i

n − O

1

√ n

.

Zusammen haben wir e

i2 n−i =−ⁱ²

n−O √1

n

≤ q

≤ e

i2 n+O

√1 n

Wegen e

√n)

= 1 ± o(1) folgt daraus q

∼

e

.

Damit sch¨ atzen wir nun Pr[a ≤ H

≤ b] weiter ab:

Pr[a ≤ H

≤ b] = X

i∈In

p

· q

∼

1

√ πn · X

i∈In

e

| {z }

=:Sn

.

Mit δ := p

2/n k¨ onnen wir die Summe S

umschreiben zu S

= 1

√ 2π · X

i∈I_n

δe

.

Diese Summe entspricht einer N¨ aherung f¨ ur R

a

ϕ(t) dt =

2π

R

a

e

dt durch Aufteilung der integrierten Fl¨ ache in Balken der Breite δ. F¨ ur n → ∞ konvergiert die Fl¨ ache der Balken gegen das Integral, d. h. S

∼

R

a

ϕ(t) dt.

q. e. d.