Multikollinearität

Was versteht man unter Multikollinearität?

Multikollinearität bezeichnet in der multiplen Regression das Phänomen, dass zwei oder mehr unabhängige Variablen (Prädiktoren) stark miteinander korreliert sind. Das bedeutet: Eine unabhängige Variable lässt sich näherungsweise als lineare Kombination einer oder mehrerer anderer unabhängiger Variablen ausdrücken.

Man unterscheidet dabei zwei Ausprägungen:

• Perfekte Multikollinearität: Eine Prädiktorvariable ist eine exakte lineare Kombination anderer Prädiktoren. Das Regressionsmodell lässt sich in diesem Fall mathematisch nicht schätzen.
• Hohe (nicht-perfekte) Multikollinearität: Die Prädiktoren korrelieren stark, aber nicht vollständig. Das Modell lässt sich schätzen, aber die Schätzer werden instabil und unzuverlässig.

Ein gängiges Maß zur Erkennung von Multikollinearität ist der Variance Inflation Factor (VIF). Er gibt an, um welchen Faktor die Varianz eines Regressionskoeffizienten durch die Korrelation mit anderen Prädiktoren aufgebläht wird:

Dabei steht für das Bestimmtheitsmaß aus einer Hilfsregression, in der der jeweilige Prädiktor durch alle anderen Prädiktoren erklärt wird. Als Faustregel gilt: Ein VIF über 5 deutet auf problematische, ein VIF über 10 auf starke Multikollinearität hin.

Warum ist Multikollinearität für statistische Analysen wichtig?

Multikollinearität ist eines der häufigsten Probleme in der multiplen Regressionsanalyse und kann die Ergebnisse erheblich verzerren – oft ohne dass es auf den ersten Blick auffällt.

Die wichtigsten Konsequenzen hoher Multikollinearität sind:

• Instabile Regressionskoeffizienten: Kleine Änderungen in den Daten können zu großen Schwankungen der geschätzten Koeffizienten führen.
• Aufgeblähte Standardfehler: Die Standardfehler der Regressionskoeffizienten werden größer, was dazu führt, dass eigentlich bedeutsame Prädiktoren als nicht-signifikant erscheinen.
• Schwierige Interpretation: Es wird schwer festzustellen, welche Variable tatsächlich einen eigenständigen Effekt auf die abhängige Variable hat.

Das Tückische: Das Gesamtmodell kann dennoch einen hohen R²-Wert und eine gute Vorhersageleistung aufweisen. Das Problem betrifft also vor allem die Interpretation der einzelnen Koeffizienten, nicht unbedingt die Vorhersagequalität.

Wenn Multikollinearität festgestellt wird, gibt es verschiedene Möglichkeiten damit umzugehen: stark korrelierende Variablen aus dem Modell entfernen, sie zu einer neuen Variable zusammenfassen (z. B. durch einen Index), oder Verfahren wie Ridge-Regression einsetzen, die explizit mit korrelierten Prädiktoren umgehen können.

Praxisbeispiel zu Multikollinearität

Angenommen, eine Studierende untersucht in ihrer Bachelorarbeit, welche Faktoren den Studienerfolg (gemessen in Abschlussnote) beeinflussen. Sie nimmt folgende Prädiktoren in ihr Regressionsmodell auf:

• Abiturnote
• Lernstunden pro Woche
• Besuche von Tutorien pro Semester
• Besuche von Vorlesungen pro Semester

Tutorien- und Vorlesungsbesuche korrelieren in ihrem Datensatz sehr stark miteinander (r = .87) – Studierende, die viele Vorlesungen besuchen, gehen auch häufig in Tutorien. Nach der Schätzung des Modells zeigt die VIF-Diagnose folgende Werte:

Die hohen VIF-Werte für Vorlesungs- und Tutoriumsbesuche signalisieren Multikollinearität. Eine sinnvolle Lösung wäre, beide Variablen zu einer gemeinsamen Variable „Präsenzengagement“ zusammenzufassen oder nur eine der beiden ins Modell aufzunehmen. So lassen sich die Koeffizienten wieder sauber interpretieren.