Generalisierte kleinste Quadrate
In diesem Beitrag
Was versteht man unter Generalisierten kleinsten Quadraten?
Die Generalisierten kleinsten Quadrate (GLS) sind eine Erweiterung der gewöhnlichen kleinsten Quadrate (OLS, Ordinary Least Squares) zur Schätzung von Regressionsmodellen. GLS kommt dann zum Einsatz, wenn zwei zentrale Annahmen der OLS-Schätzung verletzt sind: Homoskedastizität (gleiche Varianz der Fehlerterme) und Unkorreliertheit der Fehlerterme untereinander.
Das allgemeine lineare Modell lautet:
Allgemeines lineares Modell
Bei OLS wird angenommen, dass die Kovarianzmatrix der Fehler eine skalierte Einheitsmatrix ist – also alle Fehler dieselbe Varianz haben und unkorreliert sind. GLS lockert diese Annahme: Es wird eine allgemeine, bekannte oder schätzbare Kovarianzmatrix zugelassen. Der GLS-Schätzer lautet dann:
GLS-Schätzer
Rechnerisch wird das Modell durch eine geeignete Transformation so umgeschrieben, dass die transformierten Fehler wieder die OLS-Annahmen erfüllen. Dann wird OLS auf die transformierten Daten angewendet.
Ist die Kovarianzmatrix unbekannt und muss aus den Daten geschätzt werden, spricht man von Feasible GLS (FGLS) oder auch geschätzten generalisierten kleinsten Quadraten.
Warum sind Generalisierte kleinste Quadrate für statistische Analysen wichtig?
In der Praxis sind die idealen OLS-Bedingungen häufig nicht erfüllt. Zwei häufige Problemfälle sind:
- Heteroskedastizität: Die Varianz der Fehlerterme ist nicht konstant, sondern hängt von einer oder mehreren Variablen ab. Das tritt zum Beispiel bei Einkommensdaten auf, wo die Streuung mit dem Einkommensniveau zunimmt.
- Autokorrelation: Die Fehlerterme aufeinanderfolgender Beobachtungen sind miteinander korreliert. Das ist typisch bei Zeitreihendaten, etwa monatlichen Wirtschaftsdaten.
Wenn diese Probleme ignoriert werden und trotzdem OLS verwendet wird, sind die Schätzwerte zwar noch unverzerrt – sie zeigen also im Durchschnitt den richtigen Wert –, aber nicht mehr effizient. Das bedeutet: Die Standardfehler sind falsch, Konfidenzintervalle stimmen nicht, und Signifikanztests verlieren ihre Aussagekraft. GLS liefert in solchen Situationen nach dem Gauss-Markov-Theorem den besten linearen unverzerrten Schätzer (BLUE).
Praxisbeispiel zu Generalisierten kleinsten Quadraten
Eine Forscherin untersucht den Zusammenhang zwischen Werbeausgaben (in Tausend Euro) und Umsatz (in Tausend Euro) für 50 Unternehmen unterschiedlicher Größe. Sie schätzt zunächst ein OLS-Modell und prüft die Residuen auf Heteroskedastizität.
Der Breusch-Pagan-Test zeigt einen signifikanten Befund: Bei kleinen Unternehmen streuen die Residuen wenig, bei großen Unternehmen stark. Das ist ein klassisches Zeichen für Heteroskedastizität.
| Methode | Koeffizient Werbung | Standardfehler | p-Wert |
|---|---|---|---|
| OLS | 3,42 | 0,91 | 0,001 |
| GLS (WLS) | 3,38 | 0,54 | < 0,001 |
Der Koeffizient selbst verändert sich kaum – beide Methoden schätzen den Effekt von Werbeausgaben auf den Umsatz auf rund 3,4. Entscheidend ist aber der Standardfehler: GLS liefert einen deutlich kleineren Standardfehler, weil es die unterschiedliche Streuung der Beobachtungen korrekt berücksichtigt. Die Schätzung ist präziser, und die statistische Schlussfolgerung zuverlässiger.
In diesem Fall wurde WLS als GLS-Spezialfall verwendet, wobei jede Beobachtung mit dem Kehrwert ihrer geschätzten Fehlervarianz gewichtet wurde. Große Unternehmen mit hoher Varianz erhalten weniger Gewicht, kleine Unternehmen mit stabilen Werten mehr.
