Likelihood
In diesem Beitrag
Was versteht man unter Likelihood?
Die Likelihood (auch: Likelihood-Funktion) ist eine Funktion, die angibt, wie plausibel ein bestimmter Parameterwert angesichts beobachteter Daten ist. Formal ist sie definiert als die Wahrscheinlichkeit der beobachteten Daten x, betrachtet als Funktion des unbekannten Parameters θ:
Likelihood-Funktion
Entscheidend ist der Perspektivwechsel: Während eine klassische Wahrscheinlichkeit P(x | θ) fragt „Wie wahrscheinlich sind diese Daten, wenn θ bekannt ist?“, dreht die Likelihood die Frage um: „Welcher Parameterwert θ macht die beobachteten Daten am plausibelsten?“ Die Daten sind gegeben – der Parameter ist die Variable.
In der Praxis arbeitet man häufig mit der Log-Likelihood ℓ(θ) = ln L(θ), weil sie rechnerisch einfacher zu handhaben ist: Produkte werden zu Summen, und numerische Unter- oder Überläufe bei kleinen Wahrscheinlichkeiten werden vermieden.
Warum ist Likelihood für statistische Analysen wichtig?
Die Likelihood ist das Herzstück vieler statistischer Schätzverfahren. Beim Maximum-Likelihood-Schätzer (MLE) wird derjenige Parameterwert gesucht, der die Likelihood maximiert – also die Daten am besten erklärt. Dieses Prinzip ist in der modernen Statistik allgegenwärtig: Regressionsmodelle, logistische Regression, Mischmodelle und viele maschinelle Lernverfahren beruhen darauf.
Darüber hinaus bildet die Likelihood die Grundlage für wichtige Modellvergleichswerkzeuge:
- Likelihood-Quotienten-Test (Likelihood Ratio Test): Vergleicht zwei geschachtelte Modelle anhand des Verhältnisses ihrer maximierten Likelihoods.
- AIC und BIC: Informationskriterien, die auf der Log-Likelihood basieren und Modellgüte mit Modellkomplexität abwägen.
- Bayesianische Inferenz: Die Likelihood ist dort eine zentrale Komponente des Bayes-Theorems, über die Vorinformation (Prior) mit den Daten verknüpft wird.
Praxisbeispiel zu Likelihood
Angenommen, du wirfst eine Münze 10-mal und erhältst 7-mal Kopf. Du fragst dich, ob die Münze fair ist (θ = 0,5) oder ob sie eine Kopf-Tendenz hat (z. B. θ = 0,7). Beide Parameterwerte sind prinzipiell möglich – aber welcher passt besser zu deinen Daten?
Die Likelihood für einen Parameterwert θ bei einer Binomialverteilung lautet:
Likelihood für das Münzbeispiel
| Parameterwert θ | Likelihood L(θ) | Log-Likelihood ℓ(θ) |
|---|---|---|
| 0,3 | 0,0090 | −4,71 |
| 0,5 | 0,1172 | −2,14 |
| 0,7 | 0,2668 | −1,32 |
| 0,7 (MLE) | 0,2668 | −1,32 (Maximum) |
Der Maximum-Likelihood-Schätzer liefert hier θ = 0,7 – genau der Anteilswert 7/10 aus den beobachteten Daten. Das ist kein Zufall: Der MLE einer Binomialverteilung ist stets der beobachtete Anteil k/n. Die Tabelle zeigt anschaulich, dass θ = 0,7 die Daten deutlich besser erklärt als θ = 0,5 oder θ = 0,3. Ob die Münze damit tatsächlich „unfair“ ist, hängt allerdings von einem Signifikanztest oder einer bayesianischen Analyse ab – die Likelihood allein trifft keine endgültige Entscheidung.
