Einflussreiche Beobachtung

Was versteht man unter einer einflussreichen Beobachtung?

Eine einflussreiche Beobachtung (engl. influential observation) ist ein einzelner Datenpunkt, dessen Entfernung aus dem Datensatz die Schätzergebnisse eines statistischen Modells – zum Beispiel die Regressionskoeffizienten – spürbar verändert. Solche Beobachtungen üben einen überproportionalen Einfluss auf das Modellergebnis aus und können die Schlussfolgerungen einer Analyse erheblich verfälschen.

In der Regressionsanalyse wird der Einfluss einer Beobachtung häufig mit dem sogenannten Cook’s Distance-Maß (Cook’s D) quantifiziert. Es misst, wie stark sich alle vorhergesagten Werte des Modells verändern, wenn die jeweilige Beobachtung aus der Schätzung entfernt wird:

Dabei steht für die Anzahl der Beobachtungen, für die Anzahl der Modellparameter, für den vorhergesagten Wert bei vollständigem Datensatz und für den vorhergesagten Wert nach Entfernung der -ten Beobachtung. Als grobe Faustregel gilt ein Wert von als Hinweis auf eine potenziell einflussreiche Beobachtung.

Wichtig ist die Abgrenzung zu zwei verwandten Konzepten: Ein Ausreißer ist ein Datenpunkt mit einem ungewöhnlich großen Residuum, also einem großen Abstand zwischen beobachtetem und vorhergesagtem Wert. Ein Hebelpunkt (engl. leverage point) liegt weit außerhalb des Wertebereichs der erklärenden Variablen. Eine einflussreiche Beobachtung vereint oft beide Eigenschaften – sie muss es aber nicht. Ein Hebelpunkt mit kleinem Residuum kann durchaus wenig Einfluss haben.

Warum ist die einflussreiche Beobachtung für statistische Analysen wichtig?

Einflussreiche Beobachtungen können die Ergebnisse einer Regressionsanalyse stark verzerren – und das, ohne auf den ersten Blick aufzufallen. Ein einzelner Datenpunkt kann dazu führen, dass ein eigentlich nicht vorhandener Zusammenhang signifikant erscheint oder ein tatsächlich bestehender Zusammenhang verschleiert wird. Deshalb gehört die Prüfung auf einflussreiche Beobachtungen zur sorgfältigen Modelldiagnose.

Für die Praxis ergeben sich folgende Konsequenzen:

• Modellstabilität prüfen: Verändert sich das Ergebnis stark, wenn einzelne Datenpunkte entfernt werden, ist das Modell möglicherweise nicht robust.
• Ursache klären: Einflussreiche Beobachtungen können auf Messfehler, Dateneingabefehler oder aber auf echte, inhaltlich bedeutsame Sonderfälle hinweisen. Beides erfordert unterschiedliche Reaktionen.
• Transparenz herstellen: In wissenschaftlichen Arbeiten sollte dokumentiert werden, ob und wie einflussreiche Beobachtungen behandelt wurden.

Praxisbeispiel zu einflussreichen Beobachtungen

Eine Studentin untersucht in ihrer Masterarbeit, ob das monatliche Einkommen (in Euro) die Ausgaben für Weiterbildung vorhersagt. Sie befragt 20 Personen und schätzt eine lineare Regression.

Nach der Schätzung berechnet sie die Cook’s Distance für alle Beobachtungen und stellt fest, dass eine einzige Person – ein Unternehmensberater mit einem Einkommen von 15.000 Euro und Weiterbildungsausgaben von 3.000 Euro – einen Cook’s-D-Wert von 1,8 aufweist. Alle anderen Werte liegen unter 0,2.

Die Steigung halbiert sich nahezu und das Bestimmtheitsmaß R² sinkt deutlich, sobald dieser eine Datenpunkt entfernt wird. Die Studentin recherchiert und stellt fest, dass der Wert korrekt erhoben wurde. Sie berichtet beide Modelle in ihrer Arbeit und diskutiert, dass der starke Zusammenhang im Gesamtmodell maßgeblich durch diesen einen Extremfall getrieben wird – eine wichtige inhaltliche Einschränkung ihrer Ergebnisse.