1.1 Einleitung
Das Verfahren der Kreuzvalidierung wird fälschlicherweise oft gleichgesetzt mit dem Jackknife oder dem Bootstrap. Deshalb gehe ich in diesem Kapitel kurz auf die genannten Verfahren ein und zeige Übereinstimmungen, Unterschiede und Verknüpfungspunkte auf.
Die Jackknife- und Bootstrap-Verfahren werden allgemein zur Bestimmung der Genauigkeit von stati-stischen Maßzahlen (Synonyme nach Sachs, 1997: summarische Größe, Stichprobenfunktion, Stati-stik) angewendet. Mit den Stichprobenfunktionen werden die Parameter θ von Verteilungen (Sachs, 1997) geschätzt. Die Genauigkeit der Stichprobenfunktionen wird durch Bias, Standardfehler und andere Abweichungsmaße charakterisiert (Efron, 1993). Jackknife und Bootstrap sind Verfahren, die auch dann angewendet werden können, wenn keine Kenntnis über den Verteilungstyp und damit die Verteilungsfunktion vorliegt, d. h. es sind nichtparametrische Methoden zur Parameterschätzung (Sachs, 1997). Die Realisation der mit TN bezeichneten Schätzfunktion (Synonym: Schätzer) für den Parameter θ wird im Folgenden mit t gekennzeichnet.
Der Vorteil verteilungsunabhängiger Methoden besteht darin, dass die Beschränkung auf die traditio-nelle parametrische Theorie entfällt und damit die Loslösung von einer kleinen Menge von Standard-modellen möglich ist (Efron, 1983). Die Voraussetzungen der Standardmodelle liegen, streng genom-men, in der Praxis nie vor, so dass die parametrischen Methoden meist an den praktischen Erfordernissen vorbeigehen (Sachs, 1997). Außerdem sind verteilungsfreie Methoden auch auf Rang-daten anwendbar (Sachs, 1997). Deshalb sind sie im Vergleich zu parametrischen Verfahren univer-seller einsetzbar. Sie stellen insofern eine robustere Version der verteilungsabhängigen Parameter-schätzverfahren dar, als sie unabhängig von den Verteilungsannahmen sind und deshalb auch gegenüber Verletzungen dieser Annahmen resistent sind. Es gibt jedoch nur eine geringe Überschnei-dung zwischen robusten und verteilungsfreien Methoden (Huber, 1981). Die Robustheit der parame-terfreien Verfahren gegenüber Verteilungsannahmen stellt dabei einen gewichtigen Aspekt dar, der aber nicht dazu verführen soll, verteilungsfreie Methoden mit robusten Methoden gleichzusetzen.
1.2 Bootstrap
Der Bootstrap wurde von Efron 1979 als computergestütztes Verfahren eingeführt, um den Standard-fehler einer Schätzung θ! eines Parameters θ zu bestimmen. Die Grundidee des Bootstraps ist einfach und schon mindestens zwei Jahrhunderte alt (Efron, 1979).
Bootstrap-Schätzungen werden zur Bestimmung der Genauigkeit von Statistiken (im Folgenden auch Stichprobenfunktionen genannt), die als Schätzungen von Parametern der Grundgesamtheit dienen, herangezogen. Mit dem Bootstrap können Standardfehler und Bias von Stichprobenfunktionen und Konfidenzintervalle für die gesuchten Parameter (Efron, 1993) geschätzt werden. Ebenso ist es mög-lich, Regressionskoeffizienten von Regressionsmodellen (Efron, 1993), Biaskorrekturen der Stichpro-benfunktion und den Vorhersagefehler von Modellen abzuschätzen. Dadurch ist ein
Verknüpfungs-punkt mit dem Verfahren der Kreuzvalidierung gegeben, dessen Zweck die Schätzung des Vorhersa-gefehlers ist.
Im Folgenden erläutere ich das Bootstrap-Prinzip an Hand der einfachen Bootstrap-Schätzung des Standardfehlers einer Statistik und einer einfachen Bootstrap-Schätzung des Vorhersagefehlers von Modellen (Efron, 1993). Prinzipiell ist der Bootstrap auch bei komplizierteren Zielfunktionen der bei-den dargestellten Beispiele anwendbar, deshalb spreche ich beispielhaft bei-den 0.632-Bootstrap-Schätzer zur Schätzung des Vorhersagefehlers von Modellen an, eine entsprechende detailliertere Darstellung liegt jedoch außerhalb des Rahmens dieser Dissertation.
Bei der Bootstrap-Schätzung des Standardfehlers werden zunächst Bootstrap-Stichproben (Efron, 1993)
( )
x∗b = x1∗
,
x2∗,...,
xn∗ mit b=1, ...,
B und xi∗ ∈x, x=(
x x1,
2,...,
xn)
(A2.1)vom Umfang n durch n-faches, zufälliges Ziehen mit Zurücklegen vom Originaldatensatz x gewonnen.
Der Originaldatensatz ist ein Vektor, bestehend aus n einfachen Beobachtungen xi. Beim Ziehen mit Zurücklegen können einige Beobachtungen xi mehrfach, andere aber nicht in der Bootstrap-Stichprobe enthalten sein. Die Bildung der unabhängigen Bootstrap-Stichproben x∗b wird B mal durchgeführt, wobei die Zahl B der Bootstrap-Stichproben im Falle der Schätzung des Standardfehlers üblicherweise ca. 50-200 beträgt; bei anderen Anwendungen ist ein höherer Rechenaufwand notwendig, z. B. muss bei Bootstrap-Konfidenzintervallen mit einem 10-fach höheren Aufwand gerechnet werden (Efron, 1993). Die Stichprobenfunktion t x
( )
wird bei jeder Bootstrap-Stichprobe ermittelt. Die Berechnung dieser Statistik t für jedes x∗b wird als Bootstrap-Wiederholung bezeichnet. Die Bootstrap Schätzung der Standardfehlers der Statistik t x(
1,...,
xn)
berechnet sich als Standardabweichung der Bootstrap Wiederholungen (Efron, 1993 S. 13 Gl. 2.3)( ) ( )
Abb. A2.1 zeigt das Bootstrap-Prinzip zur Berechnung des Standardfehlers von Stichprobenfunktio-nen.
Abb. A2.1: Bootstrap Schema zur Schätzung des Standardfeh-lers einer Statistik t
( )
xVom Originaldatensatz werden B voneinander unabhängige Boot-strap-Stichproben generiert. Jede Bootstrap-Stichprobe hat den Umfang n und wird durch Ziehen mit Zurücklegen gewonnen. Die Bootstrap Wiederholungen werden durch Berechnung der Statistik t von den Bootstrap-Stichproben berechnet. Die Standardabwei-chung der B Bootstrap-Wiederholungen ist die gesuchte Schätzung des Standardfehlers der Statistik t
( )
x .( )
Abgrenzung der Kreuzvalidierung zu Jackknife und Bootstrap 105
Allgemein können die Argumente xi der Statistik t auch komplizierter sein, z. B. Vektoren, Karten, Bilder etc. (Efron, 1993). Das Bootstrap-Prinzip kann dann an solche Datenstrukturen angepasst wer-den. In Abb. A2.2 ist das Bootstrap-Prinzip für Ein-Stichproben-Probleme allgemein dargestellt.
Die einfachste Bootstrap-Schätzung des Vorhersagefehlers von Modellen (Efron, 1993)
( ) { [ ( ) ] }
err X
,
F ≡err! boot = E0F Q Y0,
ηX U0 (A2.3)berechnet sich prinzipiell in analoger Weise wie die des Standardfehlers der Statistik t
( )
x (Efron, 1993). Zunächst werden, wie oben beschrieben, B Bootstrap Stichproben( )
X∗b = x x∗1
,
∗2,...,
x∗n , mit b = 1,..., B (A2.4) vom Umfang N durch n-faches, zufälliges Ziehen mit Zurücklegen vom Originaldatensatz (Efron, 1993)X=(
x x1 2 x)
=u1 u2 u gebildet und das Modell η
( )
u an jede dieser Bootstrap-Stichproben X∗bangepasst und optimiert:( )
Abb. A2.2: Allgemeines Bootstrap-Prinzip für Ein-Stichproben-Probleme.
Das Bootstrap-Prinzip besteht im Wesentlichen darin, analog wie für die Original-Stichprobenentnahme in der ‘realen Welt’ eine ‘Bootstrap-Welt’ zu bilden. In der ‘realen Welt’ wurde eine Stichprobe x durch zufäl-lige Beprobung aus einer unbekannte Verteilung F erzeugt. Auf Basis der Stichprobe kann jedoch nur eine einzelne Stichprobenfunktion θˆ=t
( )
x berechnet werden, deren statistische Eigenschaften aber gesucht sind, z. B. der Standardfehler seF( )
θˆ . Die‘Bootstrap-Welt’ stellt eine Möglichkeit dar, beliebig viele Wiederholungen der Bootstrap-Statistik θˆ∗zu erzeugen, so dass statistische Aussagen über θ!
ge-macht werden können. Der entscheidende Schritt des Bootstrap-Prinzips ist daher die Berechnung einer Verteilung F! auf Basis der Stichprobe aus der unbekannten Funktion F. Jeder andere Teil der Boot-strap-Welt ist analog zur Realen Welt definiert: So wie die Stichprobe x durch Zufallsstichprobe aus der Verteilung F entsteht, entsteht x∗ durch zufälliges Ziehen aus F!. Genauso ver-hält es sich mit θ! und θ!∗, beide berechnen sich durch Anwendung der Funktion t
( )
x auf x bzw. x∗Im nächsten Schritt werden diese Modelle auf den Originaldatensatz angewendet um B Schätzungen des Vorhersagefehlers zu erhalten. Die einfachste Bootstrap-Schätzung des Vorhersagefehlers berech-net sich dann als Mittelwert der B Schätzungen des Vorhersagefehlers der Bootstrap-Stichproben:
( ) { [ ( ) ] }
Im speziellen Fall eines Regressionsmodells ergibt sich (Efron, 1993):