3 Hidden Markov Modelle
3.9 Modellauswahl-Kriterien
Der Quotient aus Wahrscheinlichkeit und Gegenwahrscheinlichkeit trägt in der deutschen und englischen Literatur den Namen Odds. Somit wird der Faktor links vom Gleichheitszeichen als a posteriori Odds bezeichnet, der hintere Faktor rechts vom Gleichheitszeichen heißt a priori Odds und der verbleibende Faktor ist der sogenannte Bayes-Faktor. Ein Modellvergleich läuft also auf eine Berechnung des Bayes-Faktors hinaus. Die Dichte Pr(y|M1) ist die marginalisierte Wahrscheinlichkeit der Daten, da sie sich aus dem Integral über den gesamten Parameterraum von M1 ausdrücken lässt:
∫
= ( , 1) ( 1) 1 )
|
Pr(y M1 f y θM π θM dθM (33)
f ist wieder die Likelihoodfunktion und π bezeichnet wieder die a priori Wahrscheinlichkeit. Der Ausdruck kann auch als Voraussagewahrscheinlichkeit aufgefasst werden, dass sich bei einem gegebenen Modell M1 mit dem Parametersatz
M1
θ genau die Daten y ergeben.
Die numerische Berechnung des Integrals ist in der Praxis nicht durchführbar, da der Parameterraum bereits bei moderaten Hidden Markov Modellen immens groß wird. Eine sehr gute Näherungslösung lässt sich jedoch mit Hilfe des Laplace-Ansatzes finden:
(
(ˆ))
exp 2 det
)) (
exp( 2
1
ˆ 2 2
u u u u
u
u
h nh d n
nh I
p
n −
∂ ′
∂
∂
≈
−
=
∞ −
∞
−
∫
π (34)p bezeichnet die Anzahl der Dimensionen des Parametervektors u.
Die Laplace-Näherung ist gültig, wenn die zu integrierende Funkion sehr stark um das Maximum û herum konzentriert ist und außerhalb davon kaum von Null verschieden ist [85]. Genau das ist bei Likelihoodfunktionen der Fall, denn wenn nur ein Parameterwert vom Optimum weit entfernt ist, sinkt der Funktionswert der gesamten Likelihoodfunktion auf einen Wert sehr nahe an Null.
Für die Hilfsfunktion h(u) setzen wir den Logarithmus des Integrands von Gleichung (33) ein:
)) ( log(
)
| ( log )
(θ =− f y θ − π θ
h (35)
Mit Hilfe der Laplace-Näherung (34) bekommt man eine integralfreie Form für die gesuchte Dichtefunktion:
ˆ) ( ˆ)
| ) (
(ˆ log ˆ)
| ( det log
1 ) 2
|
Pr( 2
1 2
2 2
1 y θ θ
θ θ
θ θ
θ y θ
y π π π
f f I
M
p −
∂ ′
∂ +∂
∂ ′
∂
∂
=
= (36)
θˆ ist die beste a posteriori Schätzung für θ, sie maximiert die Loglikelihood-Funktion.
Durch den Übergang zum Logarithmus zerfällt das Produkt in Summanden:
43 42 1 43 42 1 4 4 4 4 4 4
4 3
4 4 4 4 4 4
4 2
43 1 42
1 ( ) (1)
) (
2 2
) 1 (
ˆ) ( log ˆ)
| ( ) log
(ˆ log ˆ)
| ( det log
2log 2 1
2log )
| Pr(
log
O p
O p
O O
f f
M p y θ θ
θ θ
θ θ
θ y θ
y π π
π + +
∂ ′
∂ +∂
∂ ′
∂
− ∂
=
Manche von ihnen haben eine Ordnung von 1 und spielen bei festem p keine Rolle.
Der zweite Term ist die Hessematrix der Likelihood-Funktion f(y|θ) and der Stelle θˆ. Unter der Annahme, dass die Messdaten y eine Folge von unabhängig identisch verteilten Zufallsvariablen darstellen, (i.i.d., engl.: independent and identically distributed), lässt sich die Hessematrix näherungsweise durch den Term plogN ersetzen. N bezeichnet hier die Anzahl der Datenpunkte, aus denen y besteht. Mit diesen Näherungen gelangt man schließlich zum bekannten Modellselektionskriterium Bayes Information Criterion, BIC:
43 42 4 1
4 3 4
4 2
1 Likelihood Strafterm
p
p f p N
M ) 2log ( |ˆ ) log
| Pr(
log 2
BIC(p)=− y =− y θ + (37)
Modelle mit zusätzlichen Zuständen werden sich durch ihre zusätzlichen Parameter besser an die Daten anpassen können, was im Allgemeinen zu einem höheren Likelihood-Wert führt. Gemäß der Definition führt dies zu einem Sinken des BICs mit steigender Modellkomplexität. Der zweite Summand wirkt dem Absinken des ersten Summanden entgegen und zwar umso mehr, je mehr Zustände das komplexere Modell hat. Mit steigender Modellkomplexität erreicht das BIC beim best-passendsten Modell auf diese Weise ein Minimum und steigt anschließend wieder an. Abbildung 18 zeigt ein Beispiel aus der Literatur, die die Leistungsfähigkeit der Methode unter den typischen Einzelmolekülbedingungen mittels Monte-Carlo-Simulationen untersucht hat. Die Definition des dort verwendeten BICs unterscheidet sich im Vorzeichen, weshalb sich das „richtige“ Modell durch ein Maximum bemerkbar macht.
Die Kurvenform mit dem schwach ausgeprägten Extremwert ist typisch für das BIC. Für perfekte simulierte Daten ist die Extremstelle klar zu ermitteln, selbst wenn die Simulation alle typischen messtechnischen Effekte wie z.B. Hintergrundrauschen mitberücksichtigt. Beispiele für den erfolgreichen Einsatz des BICs für simulierte Einzelmoleküldaten finden sich in [10, 14].
Problematisch ist die Situation hingegen bei Daten aus echten Einzelmolekül-experimenten. Hier lässt sich nie ganz ausschließen, dass ein Teil der aufgenommenen Datenmenge von unerwünschten Fremdteilchen stammt. Dazu gehören auch erfolgreich markierte aber nicht-funktionale Enzyme oder Enzymreste. Da sich solche Störsignale in der Praxis kaum vom gewünschten Signal auseinander halten lassen, führt eine automatische Analyse z.B. mit Hidden Markov Modellen tendenziell dazu, dass komplexere Modelle mit mehr Zuständen favorisiert werden. Schließlich trägt das Verhalten dieser defekten Proteine auch zur Dynamik in den zu analysierenden Einzelmoleküldaten bei. Das nur leicht ausgeprägte Maximum verschwindet auf diese Weise ganz. Dementsprechend gibt es bisher auch keine einzige Publikation, die das BIC aus echten Einzelmoleküldaten zeigt. Vielmehr wurden für die Modellselektion alternative Wege gegangen [7]. Die Entwicklung robusterer und zugleich universeller Methoden, die auf Erweiterungen von BICs zielen und deshalb den Bayesschen Charakter beibehalten, ist bis heute noch nicht abgeschlossen. So wurde erst 2001 von R. A. Irizarry ein gewichtetes BIC (WBIC, weighted BIC) vorgeschlagen [86]:
∂ ′
∂ + ∂
−
= 2log (ˆ ) logdet (ˆ )
WBIC(p) 0
2
0 p l p
l β
β
β β (38)
l0 inkorporiert eine gewichtete Likelihood-Funktion, β ist ein Satz Hilfsparameter, der über eine Linkfunktion mit den Originalparametern θ verbunden ist. Der zweite Summand ist die Hessematrix der gewichteten Likelihood-Funktion.
Da die in dieser Arbeit durchgeführten Änderungen an den Hidden Markov
Abbildung 18: BIC aus [6]. Grundlage waren simulierte Einzelphotonen-Spuren, die fünf Zustände mit unterscheidbarer mittlerer Helligkeit enthielten. Bei diesen simulierten Daten zeigt das BIC beim „richtigen“ Modell den höchsten Wert an.
Schätzern ebenfalls zu gewichteten Likelihood-Funktionen führten, war es nahe-liegend, auch das WBIC als Modellselektionskriterium zu verwenden. Allerdings handelt es sich durch die Erweiterungen bereits beim klassischen BIC um eine gewichtete Likelihood-Funktion. Der Unterschied zum WBIC besteht nur noch in der den letzten Term bildenden Hesse-Matrix. Deren numerische Berechnung erforderte bei den Größen der in dieser Arbeit vorliegenden Datensätze enorm viel Rechenzeit und führte am Ende zu keinem sichtbaren Unterschied zum BIC.
Der Grund für das schlechte Funktionieren des BICs in den folgenden Anwendungen könnte in einer leichten Verschiebung der globalen Parameter über die verschiedenen Moleküle liegen. Auch eine zu große Kontamination der Probe durch inaktives Protein oder Fremdteilchen wird dazu führen, dass sich kein Minimum in der BIC-Kurve ausbildet.