Optimale Sch¨ atzverfahren

Fachbereich Mathematik Prof. Dr. J. Lehn

A. Neuenkirch B. Niese A. R¨oßler

TECHNISCHE UNIVERSIT¨ AT DARMSTADT

A

Einf¨ uhrung in die Mathematische Statistik

6. Tutorium

Optimale Sch¨ atzverfahren

Es seien X₁, . . . , X_n unabh¨angige identisch B(1, θ),θ ∈]0,1[, verteilte Zufallsvariablen.

Betrachtet man “lineare” Sch¨atzer der Form

T_n^lin(X1, . . . , Xn) =a1X1+. . .+anXn, a1, . . . , an∈R,

f¨ur τ(θ) = θ, dann ist aus der Vorlesung (Beispiel 3.8) bekannt, daß das arithmetische Mittel

T_n^∗(X₁, . . . , X_n) = 1

nX₁+. . .+ 1 nX_n ein optimales Sch¨atzverfahren in folgendem Sinn ist:

Var_θ(T_n^∗(X₁, . . . , X_n))

= inf

Var_θ(T_n^lin(X₁, . . . , X_n))) : T_n^lin erwartungstreuer Sch¨atzer f¨ur τ(θ) =θ . Also ist T_n^∗ ist unter allen erwartungstreuen linearen Sch¨atzern T_n^lin f¨urτ(θ) =θ dasjenige Sch¨atzverfahren mit minimaler Varianz.

In diesem Tutorium werden zeigen, daß das arithmetische Mittel in dieser Situation sogar der optimale erwartungstreue Sch¨atzer schlechthin f¨ur τ(θ) =θ ist.

Satz 1Es seien X₁, . . . , X_n unabh¨angige identisch B(1, θ), θ∈]0,1[, verteilte Zufallsvaria- blen. Dann gilt

Varθ(T_n^∗(X1, . . . , Xn))

= inf{Var_θ(T_n(X₁, . . . , X_n)) : T_n:Rⁿ→R erwartungstreuer Sch¨atzer f¨ur τ(θ) = θ}.

Entscheidend f¨ur den Beweis dieser Aussage ist folgender Satz.

Satz 2(Frech´et-Rao-Cramer)Es seienX1, . . . , Xnunabh¨angige identischB(1, θ), θ∈]0,1[, verteilte Zufallsvariablen. Weiterhin sei

L_θ(x₁, . . . , x_n) =

n

Y

i=1

θ^xi(1−θ)^1−xi, x₁, . . . , x_n∈ {0,1}.

Dann gilt f¨ur jedes Sch¨atzverfahren T_n :Rⁿ→R, das erwartungstreu f¨ur τ(θ) =θ ist:

∀θ∈]0,1[: Var_θ(T_n(X₁, . . . , X_n))≥ 1 E_θ

_∂θ^∂ ln(L_θ(X₁, . . . , X_n))

2.

F¨ur den Beweis der Frech´et-Rao-Cramer Ungleichung, die in ¨ahnlicher Form auch unter viel allgemeineren Voraussetzungen noch g¨ultig ist, ben¨otigen wir die Cauchy-Schwarz Un- gleichung, die Sie ohne Beweis verwenden k¨onnen.

Satz 3(Cauchy-Schwarz Ungleichung)Es seienX undY zwei Zufallsvariablen mitE|X|² <

∞ und E|Y|² <∞. Dann gilt

|E(XY)| ≤p

E|X|²·p

E|Y|².

Aufgabe 1 Zeigen Sie:

(a) 1 = X

(x1,...,xn)∈{0,1}ⁿ

L_θ(x₁, . . . , x_n), (b) θ = E_θ(T_n(X₁, . . . , X_n)) = X

(x1,...,xn)∈{0,1}ⁿ

T_n(x₁, . . . , x_n)·L_θ(x₁, . . . , x_n),

(c) 0 = E ∂

∂θ ln(L_θ(X₁, . . . , X_n)

= X

(x1,...,xn)∈{0,1}ⁿ

∂

∂θL_θ(x₁, . . . , x_n).

Bestimmen Sie dazu zuerst die Wahrscheinlichkeit

P(X₁ =x₁, X₂ =x₂, . . . , X_n=x_n), x₁, . . . , x_n∈ {0,1}.

Aufgabe 2 Beweisen Sie Satz 2. Gehen Sie dabei wie folgt vor:

• Berechnen Sie

E_θ

T_n(X₁, . . . , X_n)· ∂

∂θ ln(L_θ(X₁, . . . , X_n)

,

indem Sie zuerst E_θ(T_n(X₁, . . . , X_n)) nach θ differenzieren. (Vgl. Aufgabe 1.)

• Folgern Sie aus dem ersten Schritt und Aufgabe 1 E_θ

(T_n(X₁, . . . , X_n)−τ(θ))· ∂

∂θ ln(L_θ(X₁, . . . , X_n))

= 1, und wenden Sie nun Satz 3 an.

Aufgabe 3 Zeigen Sie jetzt Satz 1, indem Sie E_θ

∂

∂θ ln(L_θ(X₁, . . . , X_n))

2

und

Var_θ(T_n^∗(X₁, . . . , X_n)) berechnen.