Cook’s Distance
In diesem Beitrag
Was versteht man unter Cook’s Distance?
Cook’s Distance ist ein Maß aus der Regressionsdiagnostik, das angibt, wie stark sich die geschätzten Regressionskoeffizienten verändern würden, wenn man eine bestimmte Beobachtung aus dem Datensatz entfernen würde. Es wurde 1977 vom Statistiker R. Dennis Cook entwickelt und fasst zwei Aspekte in einer einzigen Kennzahl zusammen: den Hebel einer Beobachtung (Leverage) und ihr Residuum (wie weit der beobachtete Wert vom vorhergesagten Wert entfernt liegt).
Die Formel lautet:
Formel: Cook’s Distance
Dabei steht ei für das Residuum der Beobachtung i, p für die Anzahl der Regressionsparameter (inkl. Intercept), MSE für den mittleren quadratischen Fehler des Modells und hii für den Hebelwert der Beobachtung aus der Hat-Matrix.
Warum ist Cook’s Distance für statistische Analysen wichtig?
In einer linearen Regression reicht es nicht aus, nur auf die Residuen zu schauen. Ein Datenpunkt kann einen sehr kleinen Residuumswert haben und trotzdem die Koeffizientenschätzung erheblich verzerren – nämlich dann, wenn er einen hohen Hebelwert besitzt. Cook’s Distance kombiniert beide Aspekte und macht dadurch einflussreiche Beobachtungen sichtbar, die sich deutlich von anderen Datenpunkten abheben und das Modell überproportional stark beeinflussen.
Solche Ausreißer oder einflussreichen Punkte können aus Messfehlern, Dateneingabefehlern oder echten Extremfällen entstehen. Werden sie nicht erkannt, können sie dazu führen, dass Regressionskoeffizienten und damit Schlussfolgerungen einer Studie verzerrt sind.
Wann gilt eine Beobachtung als einflussreich?
Es gibt verschiedene Daumenregeln zur Interpretation. Häufig verwendete Schwellenwerte sind:
- Di > 1: Die Beobachtung gilt als potenziell problematisch und sollte genauer untersucht werden.
- Di > 4/n: Ein konservativerer Schwellenwert, der bei großen Stichproben breiter angewendet wird (wobei n die Stichprobengröße ist).
- Di > 0,5: Manchmal als Warnsignal verwendet, Di > 1 als kritisch.
Praxisbeispiel zu Cook’s Distance
Angenommen, du untersuchst in deiner Masterarbeit den Zusammenhang zwischen wöchentlichen Lernstunden (x) und der Klausurnote (y) bei 30 Studierenden. Du berechnest eine lineare Regression und überprüfst anschließend die Cook’s Distance für jede Beobachtung.
Dabei fällt eine Beobachtung auf: Student Nr. 14 hat mit 42 Lernstunden pro Woche einen extrem hohen Wert – weit über allen anderen Studierenden – und trotzdem eine schlechte Note erhalten. Die Cook’s Distance für diesen Datenpunkt beträgt D14 = 1,83, was deutlich über dem Schwellenwert von 1 liegt.
| Student | Lernstunden / Woche | Note | Residuum | Cook’s Distance (Di) |
|---|---|---|---|---|
| Nr. 3 | 12 | 2,3 | −0,21 | 0,04 |
| Nr. 9 | 18 | 1,7 | 0,15 | 0,02 |
| Nr. 14 | 42 | 3,8 | 2,10 | 1,83 |
| Nr. 22 | 20 | 2,0 | −0,08 | 0,01 |
Du entscheidest dich, das Modell einmal mit und einmal ohne Student Nr. 14 zu berechnen. Tatsächlich verändert sich der Regressionskoeffizient für die Lernstunden deutlich. Du prüfst die Rohdaten und stellst fest, dass möglicherweise ein Dateneingabefehler vorliegt (42 statt 14 Stunden). Nach Korrektur normalisiert sich die Cook’s Distance – das Modell ist robuster und die Ergebnisse zuverlässiger.