4.2 Optimale Sch¨atzer
4.2.3 Bernoulli–Experimente
Abschließend sei noch erw¨ahnt, daß auch mit der Methode unabh¨angiger Simulationsl¨aufe optimales Importance Sampling nicht m¨oglich ist. Dies l¨aßt sich hierf¨ur sehr leicht einse-hen, da bei einer fest gew¨ahlten Simulationslaufl¨ange ein Besuch im Zustand 2 nur genau dann garantiert ist, wenn, wie bei regenerativer Simulation, die ¨ Ubergangswahrscheinlich-keiten p∗11 = 0, p∗12 = 1 gesetzt werden. W¨ahrend bei regenerativer Simulation mit diesen Festlegungen noch m¨oglich bleibt, jeden m¨oglichen regenerativen Zyklus zum seltenen Ereignis zu generieren, scheitert die Methode unabh¨angiger Simulationsl¨aufe bereits an dieser Stelle, da keine L¨aufe generiert werden k¨onnen, die mehrere aufeinanderfolgende Besuche im Zustand 1 enthalten.
wobeimgerade die Anzahl der Erfolge ist und f¨ur Pfade zum seltenen Ereignism ≥kgilt.
F¨ur Importance Sampling mit Erfolgswahrscheinlichkeitp∗ergibt sich also der Likelihood–
Quotient
L(x1, . . . , xn) = pm(1−p)n−m p∗m(1−p∗)n−m,
der f¨ur alle Pfade mit m ≥k identisch sein soll. Wir w¨ahlen m =k und m =k+ 1 und erhalten als LQ–Bedingung
pk(1−p)n−k
p∗k(1−p∗)n−k = pk+1(1−p)n−k−1 p∗k+1(1−p∗)n−k−1, 1−p
1−p∗ = p p∗, (1−p)p∗ = (1−p∗)p
1−p∗
p∗ = 1−p p p∗ = p.
Wir sehen also, daß im Falle unabh¨angiger Bernoulli–Experimente die LQ–Bedingung nur genau dann erf¨ullt ist, wenn die Erfolgswahrscheinlichkeit nicht modifiziert wird, und der optimale Maßwechsel ist demzufolge nicht in der Klasse unabh¨angiger Bernoulli–
Experimente.
Unsere erste Erweiterung ist die Modifikation so, daß die Erfolgswahrscheinlichkeiten in jedem Wurf verschieden sein k¨onnen, korrespondierend zu zeitabh¨angigen Erfolgswahr-scheinlichkeiten. Wir zeigen, daß auch eine solche Modifikation allein die LQ–Bedingung nicht erf¨ullt. Dazu betrachten wir lediglich den Spezialfall n = 2, k = 1. Die Bernoulli–
Pfade, die das seltene Ereignis enthalten, sind daf¨ur (0,1),(1,0) und (1,1) mit den Wahr-scheinlichkeitenp(0,1) =p(1,0) =p(1−p), p(1,1) =p2.Es bezeichnen f¨ur das modifizier-te Modellp(1), p(2) die Erfolgswahrscheinlichkeiten im ersten bzw. im zweiten Experiment.
Damit ergeben sich die Likelihood–Quotienten L(0,1) = p(1−p)
(1−p(1))p(2), L(1,0) = p(1−p)
p(1)(1−p(2)), L(1,1) = p2 p(1)p(2). Da diese identisch sein m¨ussen, folgt
p(1−p)
p(1)(1−p(2)) = p2 p(1)p(2), (1−p)
(1−p(2)) = p p(2), p(2) = p
und
p(1−p)
(1−p(1))p(2) = p(1−p) p(1)(1−p(2)), (1−p(1))p(2) = p(1)(1−p(2)),
(1−p(1))p = p(1)(1−p), p(1) = p.
Wir stellen also fest, daß die bisher untersuchten Arten des Maßwechsels nicht zum opti-malen IS–Sch¨atzer f¨uhren, da sie nicht einmal die LQ–Bedingung erf¨ullen.
Als n¨achste Variante modifizieren wir nun das Modell weiter so, daß die Erfolgswahr-scheinlichkeit sowohl von der Anzahl der bereits durchgef¨uhrten Experimente als auch von der Anzahl der bisherigen Erfolge abh¨angen kann, also sowohl von der Zeit als auch vom Zustand, wobei gerade die Anzahl der Erfolge als Zustand interpretiert wird. Es be-zeichnep(i)(m) die Erfolgswahrscheinlichkeit imi–ten Experiment, wenn bereitsmErfolge aufgetreten sind. Auch hier betrachten wir zun¨achst den Spezialfall n = 2, k = 1.
Das erste Experiment stellt einen Sonderfall dar, der Zustand ist in jedem Fall 0. Unsere Art des Maßwechsel erm¨oglicht uns nun zun¨achst, zu garantieren, daß nur Pfade generiert werden, die das seltene Ereignis enthalten. Wir k¨onnen den Pfad (0,0) ausschließen, indem wir die Erfolgswahrscheinlichkeit im zweiten Experiment auf 1 setzen, falls im ersten Experiment kein Erfolg eingetreten ist, also p(2)(0) = 1. F¨ur die anderen Pfade erhalten wir nun die Likelihood–Quotienten
L(0,1) = (1−p)p
(1−p(1)(0))p(2)(0) = (1−p)p 1−p(1)(0), L(1,0) = p(1−p)
p(1)(0)(1−p(2)(1)), L(1,1) = p2
p(1)(0)p(2)(1).
Um den optimalen Maßwechsel zu berechnen, verbleibt, p(1)(0) und p(2)(1) so zu bestim-men, daß die LQ–Bedingung erf¨ullt ist.
Wir erhalten p(1−p)
p(1)(0)(1−p(2)(1)) = p2 p(1)(0)p(2)(1), 1−p
1−p(2)(1) = p p(2)(1), (1−p)(p(2)(1) = p(1−p(2)(1)), p(2)(1)−pp(2)(1) = p−pp(2)(1),
p(2)(1) =p und
(1−p)p
1−p(1)(0) = p2 p(1)(0)p(2)(1),
1−p(1)(0) = p(1)(0)(1−p(2)(1)) =p(1)(0)(1−p) =p(1)(0)−pp(1)(0), 1 = 2p(1)(0)−pp(1)(0) = p(1)(0)(2−p),
p(1)(0) = 1 2−p.
Wir sehen also, daß f¨ur den optimalen Maßwechsel zur Bestimmung der Wahrscheinlich-keit von mindestens einer vorgegebenen Anzahl von Erfolgen in unabh¨angigen Bernoulli–
Experimenten schon f¨ur den Spezialfall von mindestens einem Erfolg in zwei Experimenten die optimalen Erfolgswahrscheinlichkeiten sowohl abh¨angig von der Anzahl von Experi-menten als auch von den bereits erzielten Erfolgen ist. Der optimale Maßwechsel f¨uhrt aus der Klasse unabh¨angiger Bernoulli–Experimente heraus. Es stellt sich nun die Fra-ge, ob im allgemeinen der optimale Maßwechsel auf solche zustands- und zeitabh¨angigen Erfolgswahrscheinlichkeiten f¨uhrt oder ob dann die jeweiligen Wahrscheinlichkeiten sogar abh¨angig von dem Verlauf aller oder mehrerer bereits durchgef¨uhrter Experimente sind.
F¨ur n = 3 und n = 4 haben wir dies gepr¨uft und dabei festgestellt, daß auch hier der optimale Maßwechsel auf Erfolgswahrscheinlichkeiten f¨uhrt, die von der Anzahl der Ex-perimente und lediglich der Anzahl von Erfolgen, nicht dem gesamten Bernoulli–Teilpfad, abh¨angig sind. Wir wollen nun untersuchen, wie dies im allgemeinen Fall aussieht. Dazu betrachten wir die Anzahl zu bestimmender Erfolgswahrscheinlichkeiten und die Anzahl von Gleichungen, die aus der LQ–Bedingung resultieren.
Wir beginnen mit der Anzahl der Gleichungen, die die LQ–Bedingung liefert. Prinzipiell m¨ussen dazu alle Bernoulli–Pfade der L¨ange n mit mindestens k Erfolgen betrachtet werden. Da jedoch nach dem k–ten Erfolg abgebrochen werden kann, reicht es aus, nur
solche Teilpfade der L¨ange h¨ochstensnzu betrachten, bei denen derk–te Erfolg im letzten Experiment des Teilpfades auftritt. Dies kann fr¨uhestens nach dem k–ten Experiment passieren. Es gibt genau einen Pfad der L¨ange k mit k Erfolgen. F¨ur Pfade der L¨ange k+ 1 ist der Erfolg im (k+ 1)–ten Experiment festgelegt, und die restlichen k−1 Erfolge k¨onnen in den erstenkExperimenten auftreten. Es gibt gerade k−1k
solcher Pfade. Analog wird f¨ur Pfade der L¨angek+ 2, k+ 3, . . .argumentiert, bis schließlich f¨ur Pfade der L¨ange n, bei denen der k–te Erfolg im n–ten Experiment auftritt und k −1 Erfolge in den n−1 Experimenten zuvor, also n−1k−1
Pfade der L¨ange n mit dem k–ten Erfolg imn–ten Experiment. Insgesamt folgt also f¨ur die Anzahl zu betrachtender Pfade
n−1
X
m=k−1
m k−1
= n
k
.
Somit liefert uns die LQ–Bedingung also nk
−1 Gleichungen. Obige Gr¨oße ist gerade auch die Anzahl der Pfade der L¨ange n mit genau k Erfolgen, denn Pfade mit mehr alsk Erfolgen sind bis zum k–ten Erfolg identisch mit einem Pfad mit genau k Erfolgen.
Uberlegen wir uns nun, wieviele unbekannte Wahrscheinlichkeiten zu bestimmen sind. Im¨ i–ten Experiment sind dies gerade die Wahrscheinlichkeiten p(i)(0), . . . , p(i)(i−1), also i Wahrscheinlichkeiten, und somit insgesamt f¨urn Experimente
n
X
i=1
i= n(n+ 1) 2
Wahrscheinlichkeiten, von denen einige jedoch redundant sind. Da nach k Erfolgen abge-brochen wird, m¨ussen die Wahrscheinlichkeiten f¨ur die Zust¨ande, die k oder mehr Erfolge repr¨asentieren, nicht bestimmt werden. Dies ist wieder fr¨uhestens nach dem k–ten Ex-periment m¨oglich. Es ist also dann die Wahrscheinlichkeit p(k+1)(k) redundant, ebenso die Wahrscheinlichkeiten p(k+2)(k), p(k+2)(k + 1) und entsprechend weiter bis nach dem (n−1)–ten Experiment die Wahrscheinlichkeiten p(n)(k), . . . , p(n)(n−1). Insgesamt sind dies
n−k
X
i=1
i= (n−k)(n−k+ 1) 2
redundante Wahrscheinlichkeiten. Außerdem muß beim optimalen Importance Sampling in jedem Experiment das seltene Ereignis, also mindestens k Erfolge, auftreten. Daraus folgt, daß einige der Wahrscheinlichkeiten den Wert 1 erhalten m¨ussen, n¨amlich genau dann, wenn von einem Zustand aus k Erfolge nur noch dann m¨oglich sind, wenn alle verbleibenden Experimente Erfolge sind. Dies ist imk–letzten Experiment f¨ur den Zustand 0 der Fall, im (k−1)–letzten Experiment f¨ur den Zustand 1, außerdem ist der Zustand 0 im (k −1)–letzten Experiment unter optimalem Importance Sampling nicht m¨oglich und somit die Erfolgswahrscheinlichkeit redundant. Analog argumentieren wir weiter bis
zum letzten Experiment, bei dem im Zustandk−1 die Erfolgswahrscheinlichkeit auf den Wert 1 gesetzt werden muß und die Zust¨ande 0, . . . , k −2 unter optimalem Importance Sampling unm¨oglich sind. Insgesamt erhalten also daher
k
X
i=1
i= k(k+ 1) 2
Wahrscheinlichkeiten den Wert 1 oder sind aufgrund der Unm¨oglichkeit des Zustands unter optimalem Importance Sampling redundant, sind also keine zu bestimmenden Un-bekannten. Somit haben wir als verbleibende Anzahl von Unbekannten
n(n+ 1)
2 − k(k+ 1)
2 −(n−k)(n−k+ 1)
2 = k(n−k).
Vergleichen wir dies mit der Anzahl von nk
−1 Gleichungen, die nach LQ–Bedingung folgen, so stellen wir fest, daß nicht sicher ist, daß diese Gleichungen immer eine eindeutige L¨osung liefern, also eindeutige zustands- und zeitabh¨angige Erfolgswahrscheinlichkeiten.
Es ist also erforderlich, dies n¨aher zu untersuchen. Wir wollen dies an dieser Stelle nicht tun, sondern in 4.2.4.1 als Anwendung von Ergebnissen f¨ur Absorptionswahrscheinlichkei-ten in homogenen diskreAbsorptionswahrscheinlichkei-ten MarkovketAbsorptionswahrscheinlichkei-ten, da dies zeigt, daß eine ad¨aquate Modellierung eines Problems zumindest die Fragestellung nach der Art des optimalen Maßwechsels bes-ser kl¨aren kann als eine zu eingeschr¨ankte Sichtweise. Zudem erscheint die Herleitung der Zeitabh¨angigkeit eines optimalen Maßwechsels ¨uber homogene Markovketten sowohl uberraschend als auch lehrreich.¨