Satz 80

(1)

Satz 80

F¨ ur rekurrente Ereignisse gilt

H(s) = 1 1 − T (s) . Beweis:

[Skizze]Nach dem Satz von der totalen Wahrscheinlichkeit gilt f¨ ur die Auftrittswahrscheinlichkeit h

_n

(n ∈ N )

h

_n

= Pr[H

_n

] =

∞

X

k=1

Pr[H

_n

| Z = k] · Pr[Z = k] . Gem¨ aß der Definition eines rekurrenten Ereignisses gilt f¨ ur k < n

Pr[H

_n

| Z = k] = Pr[H

_n

| H ¯

₁

∩ . . . ∩ H ¯

k−1

∩ H

_k

] = Pr[H

n−k

]

DS II 7.3 Rekurrente Ereignisse 191/214

ľErnst W. Mayr

(2)

Beweis (Forts.):

sowie

Pr[H

n

| Z = n] = 1

Pr[H

_n

| Z = k] = 0 f¨ ur k > n . Damit folgt f¨ ur n ∈ N

h

n

=

n

X

k=1

h

n−k

· Pr[Z = k] =

n

X

k=0

h

n−k

· Pr[Z = k] . F¨ ur n = 0 ergibt die rechte Seite dieser Gleichung 0. Damit entsteht durch Faltung der beiden Folgen (h

0

, h

1

, . . .) und (Pr[Z = 0], Pr[Z = 1], . . .) die Folge (0, h

₁

, h

₂

, . . .). F¨ ur die erzeugenden Funktionen gilt deshalb H(s) − 1 = H(s)T (s).

ľErnst W. Mayr

(3)

Beispiel 81

In dem einfachen Fall, dass die Ereignisse H

1

, H

2

, . . . unabh¨ angig mit Wahrscheinlichkeit p eintreten, ist die Wartezeit geometrisch verteilt.

H(s) = 1 +

∞

X

k=1

ps

^k

= 1 + sp

1 − s = sp + 1 − s 1 − s . Daraus folgt

T (s) = 1 − 1

H(s) = 1 − 1 − s

sp + 1 − s = sp 1 − (1 − p)s . T(s) ist also die w.e. Funktion der geometrischen Verteilung mit Erfolgswahrscheinlichkeit p.

ľErnst W. Mayr

(4)

Korollar 82

F¨ ur rekurrente Ereignisse gilt Pr[Z < ∞] = 1 genau dann, wenn H(1) = ∞ ist, wenn also die Summe P

∞

k=1

h

_k

der Auftrittswahrscheinlichkeiten divergiert.

Beweis:

Nach Satz 80 gilt T (s) = (H(s) − 1)/H(s). Daraus folgt Pr[Z < ∞] = T(1) = 1 − 1/H (1) .

ľErnst W. Mayr

(5)

Beispiel 83

Wir wenden Korollar 82 auf den Random Walk im Z

^d

an.

Aus der Stirlingformel folgt

n! = Θ( √

n(n/e)

ⁿ

) und damit f¨ ur d = 1

2n n

= (2n)!

(n!)

²

= Θ √

2n(2n)

²ⁿ

e

²ⁿ

· e

ⁿ

√ nn

ⁿ

2

!

= Θ 2

²ⁿ

√ n

.

ľErnst W. Mayr

(6)

Beispiel (Forts.)

Also

H(1) =

∞

X

k=0

h

_k

=

∞

X

k=0

2k k

2

^−2k

=

∞

X

k=0

Θ(k

^−1/2

) = ∞, da die Summe P

∞

k=0

1/k

^α

f¨ ur α ≤ 1 divergiert. Nach Korollar 82 kehrt das Partikel also mit Wahrscheinlichkeit 1 immer wieder zum Ausgangspunkt zur¨ uck.

ľErnst W. Mayr

(7)

Beispiel (Forts.) F¨ ur d ∈ N gilt allgemein

H(1) =

∞

X

k=0

h

_k

=

∞

X

k=0

Θ(k

^−(1/2)d

).

F¨ ur d = 1 und d = 2 divergiert diese Summe, w¨ ahrend sie f¨ ur d ≥ 3 konvergiert. Das Partikel kehrt also im ein- und im zweidimensionalen Raum mit Wahrscheinlichkeit 1 zum

Ausgangspunkt zur¨ uck, im drei- oder h¨ oherdimensionalen Raum jedoch nicht mehr. Im dreidimensionalen Fall gilt

Pr[ ” Partikel kehrt nie zum Ausgangspunkt zur¨ uck“]

= Pr[Z = ∞] = 1/H(1) = 1/

∞

X

k=0

( 2k

k

2

^−2k

)

³

≈ 0,7178 .

ľErnst W. Mayr

(8)

Beispiel (Forts.)

0,5 0,6 0,7 0,8 0,9 1,0

3 4 5 6 7

WS( ” Keine R¨ uckkehr zum Anfang“) f¨ ur den Random Walk in Z

^d

ľErnst W. Mayr

(9)

8. Formelsammlung

8.1 Gesetze zum Rechnen mit Ereignissen

Im Folgenden seien A und B, sowie A

₁

, . . . , A

_n

Ereignisse. Die Notation A ] B steht f¨ ur A ∪ B und zugleich A ∩ B = ∅ (disjunkte Vereinigung). A

₁

] . . . ] A

_n

= Ω bedeutet also, dass die Ereignisse A

₁

, . . . , A

_n

eine Partition der Ergebnismenge Ω bilden.

Pr[∅] = 0 0 ≤ Pr[A] ≤ 1 Pr[ ¯ A] = 1 − Pr[A]

A ⊆ B = ⇒ Pr[A] ≤ Pr[B ]

DS II 8.1 Gesetze zum Rechnen mit Ereignissen 199/214

ľErnst W. Mayr

(10)

∀i 6= j : A

i

∩ A

j

= ∅ = ⇒ Pr [ S

_n

i=1

A

_i

] = P

_n

i=1

Pr[A

_i

] Additionssatz Pr[A ∪ B] = Pr[A] + Pr[B] − Pr[A ∩ B]

allgemeine Form: siehe Satz 9

Inklusion/Exklusion, Siebformel

Pr [ S

n

i=1

A

_i

] ≤ P

n

i=1

Pr[A

_i

] Boolesche

Ungleichung

Pr[A|B ] =

^Pr[A∩B]_Pr[B]

f¨ ur Pr[B ] > 0 Def. bedingte Ws.

ľErnst W. Mayr

(11)

B ⊆ A

1

] . . . ] A

n

= ⇒ Pr[B] = P

n

i=1

Pr[B|A

_i

] · Pr[A

i

]

Satz von der totalen Wahrscheinlichkeit

Pr[B] > 0, B ⊆ A

₁

] . . . ] A

_n

= ⇒ Pr[A

i

|B ] =

^Pn^Pr[B|Aⁱ^]·Pr[Aⁱ^]

i=1Pr[B|A_i]·Pr[A_i]

Satz von Bayes

Multiplikationssatz Pr[A

1

∩ . . . ∩ A

n

] = Pr[A

1

]· Pr[A

2

|A

₁

]· . . . ·Pr[A

_n

|A

₁

∩ . . . ∩ A

n−1

] A und B unabh¨ angig ⇐⇒

Pr[A ∩ B] = Pr[A] · Pr[B ]

Definition Unabh¨ angigkeit

ľErnst W. Mayr

(12)

8.2 Erwartungswert und Varianz diskreter Zufallsvariablen

Sei X eine diskrete Zufallsvariable. F¨ ur Erwartungswert und Varianz gelten die folgenden Formeln (sofern E [X ] und Var[X ] existieren).

E [X ] = X

x∈W_X

x · Pr[X = x]

= X

ω∈Ω

X(ω) · Pr[ω]

=

∞

X

i=1

Pr[X ≥ i], falls W

_X

⊆ N

0

Erwartungswert

Var[X] = E [(X − E [X])

²

]

= P

x∈WX

Pr[X = x] · (x − E [X ])

²

Varianz

DS II 8.2 Erwartungswert und Varianz diskreter Zufallsvariablen 202/214 ľErnst W. Mayr

(13)

8.3 Gesetze zum Rechnen mit Zufallsvariablen Seien a, b, a

1

, . . . , a

n

∈ R, f

1

, . . . , f

n

: R → R.

X

₁

, . . . , X

_n

unabh¨ angig ⇐⇒ f¨ ur alle a

₁

, . . . , a

_n

Pr[X

₁

= a

₁

, . . . , X

_n

= a

_n

]

= Pr[X

₁

= a

₁

] · . . . · Pr[X

_n

= a

_n

]

X

1

, . . . , X

n

unabh¨ angig = ⇒ f

1

(X

1

), . . . , f

n

(X

n

) unabh¨ angig E [a · X + b] = a · E [X] + b

DS II 8.3 Gesetze zum Rechnen mit Zufallsvariablen 203/214

ľErnst W. Mayr

(14)

X(ω) ≤ Y (ω) f¨ ur alle ω ∈ Ω = ⇒ E[X] ≤ E[Y ]

Monotonie des Erwartungswerts

E[X] = P

n

i=1

E[X|A

_i

] · Pr[A

i

] Var[X] = E [X

²

] − E [X]

²

Var[a · X + b] = a

²

· Var[X]

ľErnst W. Mayr

(15)

E [a

₁

X

₁

+ . . . + a

_n

X

_n

]

= a

1

E[X

1

] + . . . + a

n

E[X

n

]

Linearit¨ at des Erwartungswerts

X

₁

, . . . , X

_n

unabh¨ angig = ⇒

E[X

1

· . . . · X

n

] = E[X

1

] · . . . · E[X

n

]

Multiplikativit¨ at des Erwartungswerts

X

₁

, . . . , X

_n

unabh¨ angig = ⇒

Var[X

₁

+ . . . + X

_n

] = Var[X

₁

] + . . . + Var[X

n

]

Varianz einer Summe

ľErnst W. Mayr

(16)

X ≥ 0 = ⇒ Pr[X ≥ t] ≤

E [X]/t f¨ ur t > 0 Markov

Pr[|X − E [X]| ≥ t] ≤

Var[X]/t

²

f¨ ur t > 0 Chebyshev

siehe Satz 62 Gesetz der

großen Zahlen

ľErnst W. Mayr

(17)

Kapitel II Kontinuierliche Wahrschein- lichkeitsr¨ aume

1. Einf¨ uhrung

1.1 Motivation

Interpretation der Poisson-Verteilung als Grenzwert der Binomialverteilung.

DS II 1.1 Motivation 207/214

ľErnst W. Mayr

(18)

Beispiel 84

Wir betrachten das Szenario: Bei einem Druckerserver kommen Auftr¨ age in einer Warteschlange an, die alle 1/n Zeiteinheiten vom Server abgefragt wird. Der Server nimmt also zu den diskreten Zeitpunkte 1/n, 2/n, 3/n, . . . neue Auftr¨ age entgegen. Durch den Grenzwert n → ∞

” verschmelzen“ diese diskreten Zeitpunkte zu einer kontinuierlichen Zeitachse und f¨ ur die Zufallsvariable T , welche die Zeitspanne bis zum Eintreffen des n¨ achsten Auftrags misst, reicht eine diskrete Wertemenge W

_T

nicht mehr aus.

DS II 1.1 Motivation 208/214

ľErnst W. Mayr

(19)

1.2 Kontinuierliche Zufallsvariablen

Definition 85

Eine kontinuierliche oder auch stetige Zufallsvariable X und ihr zugrunde liegender kontinuierlicher (reeller)

Wahrscheinlichkeitraum sind definiert durch eine integrierbare Dichte(-funktion) f

_X

: R → R

⁺₀

mit der Eigenschaft

Z

+∞

−∞

f

X

(x) d x = 1.

Eine Menge A ⊆ R , die durch Vereinigung A = S

k

I

k

abz¨ ahlbar vieler paarweise disjunkter Intervalle beliebiger Art (offen,

geschlossen, halboffen, einseitig unendlich) gebildet werden kann, heißt Ereignis. Ein Ereignis A tritt ein, wenn X einen Wert aus A annimmt. Die Wahrscheinlichkeit von A ist bestimmt durch

Pr[A] = Z

A

f

_X

(x) d x = X

k

Z

Ik

f

_X

(x) d x.

DS II 1.2 Kontinuierliche Zufallsvariablen 209/214

ľErnst W. Mayr

(20)

Beispiel 86 (Gleichverteilung)

Eine besonders einfache kontinuierliche Dichte stellt die

Gleichverteilung auf dem Intervall [a, b] dar. Sie ist definiert durch f(x) =

(

₁

b−a

f¨ ur x ∈ [a, b], 0 sonst.

Analog zum diskreten Fall ordnen wir jeder Dichte f

X

eine Verteilung oder Verteilungsfunktion F

_X

zu:

F

X

(x) := Pr[X ≤ x] = Pr[{t ∈ R | t ≤ x}] = Z

x

−∞

f

X

(t) d t.

ľErnst W. Mayr

(21)

Beispiel 87

Die Verteilungsfunktion der Gleichverteilung:

F (x) = Z

x

−∞

f (t) d t =



 

 

0 f¨ ur x < a,

x−a

b−a

f¨ ur a ≤ x ≤ b, 1 f¨ ur x > b.

ľErnst W. Mayr

(22)

-0,2 0,0 0,2 0,4 0,6 0,8 1,0 1,2 1,4

-0,5 0,0 0,5 1,0 1,5

f(x)

-0,2 0,0 0,2 0,4 0,6 0,8 1,0 1,2 1,4

-0,5 0,0 0,5 1,0 1,5

F(x)

Gleichverteilung ¨ uber dem Intervall [0, 1]

ľErnst W. Mayr

(23)

Beobachtungen:(Eigenschaften der Verteilungsfunktion) F

X

ist monoton steigend.

F

X

ist stetig. Man spricht daher auch von einer

” stetigen Zufallsvariablen“.

Es gilt: lim

x→−∞

F

X

(x) = 0 und lim

x→∞

F

X

(x) = 1.

Jeder (außer an endlich vielen Punkten) differenzierbaren Funktion F , welche die zuvor genannten Eigenschaften erf¨ ullt, k¨ onnen wir eine Dichte f durch f (x) = F

⁰

(x) zuordnen.

Es gilt

Pr[a < X ≤ b] = F

X

(b) − F

X

(a) .

ľErnst W. Mayr

(24)

Bei den von uns betrachteten Dichten besteht zwischen den Ereignissen

” a < X ≤ b“,

” a ≤ X ≤ b“,

” a ≤ X < b“ und

” a < X < b“ kein wesentlicher Unterschied, da Z

[a,b]

f (t) d t = Z

]a,b]

f (t) d t = Z

[a,b[

f (t) d t = Z

]a,b[

f(t) d t.

ľErnst W. Mayr