Lineare Modelle: Theorie und Anwendungen

572 Pages·2003·13.88 MB·German

by  Prof. Dr. Dr. Helge Toutenburg (auth.)

(cid:2)(cid:3)(cid:4)(cid:5)(cid:6)(cid:7)(cid:5) (cid:8)(cid:9)(cid:10)(cid:5)(cid:11)(cid:11)(cid:5)
(cid:2)(cid:3)(cid:4)(cid:5)(cid:3) (cid:6)(cid:7)(cid:8)(cid:9)(cid:3)(cid:10)(cid:11)(cid:8)(cid:12)(cid:5)
(cid:13)(cid:14)(cid:10)(cid:3)(cid:15)(cid:12)(cid:3) (cid:16)(cid:7)(cid:17)(cid:3)(cid:4)(cid:4)(cid:3)
(cid:6)(cid:18)(cid:3)(cid:7)(cid:12)(cid:14)(cid:3) (cid:8)(cid:10)(cid:17) (cid:19)(cid:10)(cid:20)(cid:3)(cid:10)(cid:17)(cid:8)(cid:10)(cid:5)(cid:3)(cid:10)
(cid:16)(cid:14)(cid:9) (cid:21)(cid:3)(cid:14)(cid:9)(cid:12)(cid:22)(cid:5)(cid:3)(cid:10) (cid:23)(cid:7)(cid:10)
(cid:24)(cid:18)(cid:12)(cid:14)(cid:25)(cid:9)(cid:14)(cid:15)(cid:10) (cid:2)(cid:3)(cid:8)(cid:26)(cid:15)(cid:10)(cid:10)(cid:27) (cid:6)(cid:18)(cid:7)(cid:26)(cid:15)(cid:25) (cid:28)(cid:14)(cid:9)(cid:9)(cid:10)(cid:3)(cid:12)
(cid:8)(cid:10)(cid:17) (cid:29)(cid:15)(cid:10)(cid:17)(cid:12)(cid:7) (cid:29)(cid:30)(cid:18)(cid:3)(cid:14)(cid:17)
(cid:31)(cid:20)(cid:3)(cid:14)(cid:9)(cid:3)(cid:27) (cid:10)(cid:3)(cid:8) (cid:11)(cid:3)(cid:15)(cid:12)(cid:11)(cid:3)(cid:14)(cid:9)(cid:3)(cid:9)(cid:3)
(cid:8)(cid:10)(cid:17) (cid:3)(cid:12)(cid:20)(cid:3)(cid:14)(cid:9)(cid:3)(cid:12)(cid:9)(cid:3) (cid:19)(cid:8) (cid:4)(cid:15)(cid:5)(cid:3)
(cid:16)(cid:14)(cid:9) !"! (cid:19)(cid:11)(cid:11)(cid:14)(cid:4)(cid:17)(cid:8)(cid:10)(cid:5)(cid:3)(cid:10)
Springer-Verlag
Berlin Heidelberg GmbH
Prof. Dr. Dr. Helge Toutenburg
LudwigstraBe 33/111
80539 MUnchen
[email protected]
Die Deutsche Bibliothek - CIP-Einheitsaufnahme
Toutenburg, Helge: Lineare Modelle / Helge Toutenburg. - 2., neu bearb. und erw. Aufl. -
Heidelberg: Physica-VerI., 2003
ISBN 978-3-7908-1519-1 ISBN 978-3-642-57348-4 (eBook)
DOI 10.1007/978-3-642-57348-4
Dieses Werk ist urheberrechtlich geschiitzt. Die dadurch begriindeten Rechte, insbesondere
die der Ubersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und
Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielf"ăltigung auf anderen
Wegen und der Speicherung in Datenverarbeitungsan1agen, bleiben, auch bei nur auszugs
weiser Verwertung, vorbehalten. Eine Vervielfăltigung dieses Werkes oder von Teilen die
ses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des
Urheberrechtsgesetzes der Bundesrepublik Deutschland vom 9. September 1965 in der je
weils geltenden Fassung zuliissig. Sie ist grundsiitzlich vergiitungspflichtig. Zuwiderhand
lungen unterliegen den Strafbestimmungen des Urheberrechtsgesetzes.
http://www.springer.de
© Springer-Verlag Berlin Heidelberg 2003
Urspronglich erschienen bei Physica-Verlag Heidelberg 2003
Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in die
sem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass sol
che Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu be
trachten wiiren und daher von jedermann benutzt werden diirften.
Umschlaggestaltung: Erich Kirchner, Heidelberg
SPIN 10886864 88/2202-5 4 3 2 1 O - Gedruckt auf siiurefreiem Papier
Vorwort zur zweiten Auflage
Die vorliegende zweite Auflage ist gegenüber der ersten Auflage grundlegend
neu konzipiert worden. Dieses Buch enthält eine Reihe neuer Forschungser
gebnisse zu fehlenden Daten und zur Analyse von Modellen mit kategorialen
Daten, die insbesondere aus der Arbeit meiner Forschungsgruppe im Teil
projekt C3 "Fehlende Daten" im SFB 386 "Statistische Analyse Diskreter
Strukturen" resultieren. Darüberhinaus wurden die übernommenen Kapitel
z. T. völlig neu überarbeitet. Insbesondere wurde dem Anwendungsaspekt
durch Aufnahme der Modelle der Varianzanalyse sowie weiterer deskrip
tiver und induktiver Verfahren der Modellprüfung sowie durch Bereitstel
lung von Datensätzen, Tests und Grafiken auf einer Website stärker Rech
nung getragen, so dass sich das Buch noch besser als begleitendes Lehr
und Übungsmaterial eignet. Die Website wird von uns auch nach Erschei
nen des Buches weiter ausgebaut und ergänzt. Sie ist· unter der Adres
se http://www.stat.uni-muenchen.de/institut/ag/toutenb/lim0/ ab
zurufen.
Im Anhang zur Matrixtheorie wurden alle Beweise (bis auf wenige Zitate)
ausführlich durchgeführt.
Alleinautor des Kapitels 11 ist Christian Heumann, das Kapitel 10 wurde von
Thomas Nittner ergänzt. Sandro Scheid hat in den Kapiteln 2 und 4 zahl
reiche grafische Darstellungen bereitgestellt und Tests programmiert. Frau
Angela Dörfler gebührt Dank für die sorgfältige Herstellung des Manuskripts,
an der auch andere Mitarbeiter (Frau Anneke Neuhaus, Frau Andrea Fiedler
und Frau Ingrid Kreuzmair) beteiligt waren.
Herrn Prof. Dr. Götz Trenkler danke ich für Hinweise zum Matrix-Anhang.
Unser leider so früh verstorbener Freund und Kollege Prof. Dr. V.K. Sriva
stava (1943-2001) hat wertvolle Beiträge zu Imputationsverfahren geliefert.
Herrn Dr. Werner A. Müller vom Springer Verlag danke ich für die gute
Zusammenarbeit und das Vertrauen in unser Autorenkollektiv.
Alle Leser des Buches bitte ich, mich über Fehler und mögliche Anregungen
zu informieren.'
München, im Mai 2002 Helge Toutenburg
Vorwort zur ersten Auflage
Das vorliegende Buch entstand aufg rund meiner Lehrveranstaltungen an den
Universitäten Dortmund (1988-1990) und München (ab 1991). Es beinhal
tet neben dem Standard der linearen Modelle eine Reihe neuer Methoden,
Kriterien und Resultate, die insbesondere auf die intensive Zusammenarbeit
mit meinem Kollegen Professor Dr. Götz Trenkler (Universität Dortmund,
Fachbereich Statistik) zurückgehen.
Die Matrixtheorie der letzten zehn Jahre hat eine Reihe fundamentaler Er
gebnisse über die Definitheit von Matrizen, speziell für Differenzen von Ma
trizen, hervorgebracht, die erstmals Superioritätsvergleiche zweier verzerrter
Schätzungen entscheiden können. Die Einarbeitung dieser Resultate einer
seits und die Berücksichtigung von Modellverfahren (mit SPSS), von Impu
tationsmethoden für fehlende Daten, von Sensitivitätsbetrachtungen und der
kategorialen Regression andererseits bedeuten eine wesentliche Erweiterung
meiner früheren Monographien (u.a. Vorhersage in linearen Modellen (1975)
und Prior information in linear models (1982)).
Ein eigenes, relativ umfangreiches Kapitel zur Matrixtheorie (Anhang A)
stellt die notwendigen methodischen Hilfsmittel für die Beweise der Sätze im
Text bereit und vermittelt eine Auswahl klassischer und moderner algebrai
scher Resultate.
Durch die Einarbeitung von Beispielen wird die Anwendung der Schätz- und
Modellwahlverfahren demonstriert, wobei es jedoch nicht mein Hauptanlie
gen war, mit anderen Büchern in Konkurrenz zu treten, deren Autoren sich
stärker auf die eigentliche Ökonometrie und ihre Anwendungen orientieren.
Das Buch ist vor allem als begleitendes Lehrmaterial für die Studenten des
Diplomstudiengangs Statistik und für die Forschung auf dem Gebiet der op
timalen Schätzung angelegt.
An dieser Stelle möchte ich mich bei Herrn Professor Dr. Götz Trenkler für
zahlreiche kritische Hinweise bedanken. Meinen Studenten gebührt Dank:
Herrn Meinert Jacobsen für die sorgfältige Herstellung des druckfertigen Ma
nuskripts, Frau Andrea Schöpp, Frau Maria Lanzerath, Frau Sabina Illi und
Frau Carola Klemme für die Hilfe beim Korrekturlesen und Herrn Christi
an Heumann für die Durchführung der Berechnungen. Herrn Dr. Werner
VIII Vorwort zur ersten Auflage
A. Müller vom Springer Verlag danke ich für die gute Zusammenarbeit bei
der Konzipierung und Realisierung dieses Buches.
Alle Leser dieses Buches bitte ich, mich über Fehler oder andere Unzuläng
lichkeiten zu informieren.
München, im Mai 1992 Helge Toutenburg
Inhaltsverzeichnis
1. Einleitung........ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
2. Beziehungen zwischen zwei Variablen... . ...... . . ...... ... 5
2.1 Einleitung-Beispiele................................... 5
2.2 Darstellung der Verteilung zweidimensionaler Merkmale. . . . . 7
2.2.1 Kontingenztafeln bei diskreten Merkmalen. . . . . . . . . . . 8
2.2.2 Grafische Darstellung bei diskreten Merkmalen. . . . . .. 12
2.2.3 Maßzahlen zur Beschreibung der Verteilung bei
stetigen und gemischt stetig-diskreten Merkmalen . . .. 13
2.2.4 Grafische Darstellung der Verteilung stetiger
bzw. gemischt stetig-diskreter Merkmale. . . .. . . . . . .. 15
2.3 Maßzahlen für den Zusammenhang zweier nominaler Merkmale 18
2.3.1 Pearsons x2-Statistik . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 19
2.3.2 Der Odds-Ratio........... . ... ............ . . ..... 23
2.4 Rangkorrelationskoeffizient von Spearman .. . . . . . . .. . . . . . .. 28
2.5 Zusammenhang zwischen zwei stetigen Merkmalen. .. . . . . . .. 32
3. Deskriptive univariate lineare Regression. . . . . . . . . . . . . . . .. 41
3.1 Einleitung............................................. 41
3.2 Plots und Hypothesen. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 44
3.3 Prinzip der kleinsten Quadrate. . . . . . . . . . . . . . . . . . . . . . . . . .. 45
3.3.1 Bestimmung der Schätzungen. . . . . .. . . . . . . .. . . . . . .. 47
3.3.2 Herleitung der Kleinste-Quadrate-Schätzungen ...... 47
3.3.3 Eigenschaften der Regressionsgeraden . . . . . . .. . . . . . .. 50
X Inhaltsverzeichnis
3.4 Güte der Anpassung. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 53
3.4.1 Varianzanalyse .. . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . .. 53
3.4.2 Korrelation...................................... 56
3.5 Residualanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 62
3.6 Lineare Transformation der Originaldaten ................. 62
3.7 Multiple lineare Regression und nichtlineare Regression ..... 64
3.8 Polynomiale Regression ................................. 66
3.9 Lineare Regression mit kategorialen Regressoren . . . . . . . . . . .. 70
3.10 Spezielle nichtlineare Modelle. . . .. . . .. . . . . . . . . . . . . . . . . . .. 74
3.10.1 Wachstumskurven . . . .. . . ...... . . .. . . .. . . .. . . .. . .. 74
3.10.2 Zeit als Regressor ................................ 76
3.11 Zeitreihen ....... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 78
3.11.1 Einleitung. . .. . . .. .... . . .. . . .. .. .. . . .. .... . . .. . .. 78
3.11.2 Kurvendiagramme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 78
3.11.3 Zerlegung von Zeitreihen . . . . . . . . . . . . . . . . . . . . . . . . .. 79
3.11.4 Fehlende Werte, äquidistante Zeitpunkte. . . . . . . . . . .. 80
3.11.5 Gleitende Durchschnitte. . . . . . . . . . . . . . . . . . . . . . . . . .. 81
3.11.6 Saisonale Komponente, konstante Saisonfigur . . . .. . .. 82
3.11. 7 Modell für den linearen Trend. . . . . . . . . . . . . . . . . . . . .. 87
4. Das klassische multiple lineare Regressionsmodell. . . . . . . .. 89
4.1 Deskriptive multiple lineare Regression. . . . . . . . . . . . . . . . . . .. 89
4.2 Prinzip der kleinsten Quadrate. . . . . . . . . . . . . . . . . . . . . . . . . .. 90
4.3 Geometrische Eigenschaften der Kleinste-Quadrat-Schätzung 95
4.4 Beste lineare erwartungstreue Schätzung .................. 102
4.4.1 Lineare Schätzer ................................. 102
4.4.2 Mean-Square-Error .............................. 103
4.4.3 Beste lineare erwartungstreue Schätzung ............ 105
4.4.4 Schätzung von 111
(T2 ••••••••••••••••••••••••••••••••
4.5 Multikollinearität ....................................... 112
Inhaltsverzeichnis XI
4.5.1 Extreme Multikollinearität und Schätzbarkeit ........ 112
4.5.2 Schwache Multikollinearität ........................ 114
4.5.3 Identifikation und Quantifizierung von
Multikollinearität ................................. 118
4.6 Ökonometrische Gleichungen vom Regressionstyp ........... 125
4.6.1 Stochastische Regressoren ......................... 125
4.6.2 Instrumental-Variablen Schätzer (IVS) .............. 125
4.6.3 Scheinbar unverbundene Regressionen ............... 126
4.7 Klassische Normalregression ....................... . . . . . . 128
4.8 Prüfen von linearen Hypothesen .......................... 131
4.9 Varianzanalyse und Güte der Anpassung .................. 138
4.9.1 Univariate Regression ............................. 138
4.9.2 Univariate Regression mit einer Dummyvariablen ..... 143
4.9.3 Multiple Regression ............ ; .................. 145
4.9.4 Ein komplexes Beispiel ............................ 149
4.9.5 Grafische Darstellung ............................. 153
4.10 Tests auf Parameterkonstanz ............................. 155
4.10.1 Der Prognosetest von Chow ....................... 155
4.10.2 Der Test von Hansen ............................. 160
4.10.3 Tests mit rekursiver Schätzung ..................... 164
4.10.4 Tests mit Prognosefehlern ......................... 164
4.10.5 CUSUM und CUSUMSQ-Tests .................... 165
4.10.6 Tests auf Strukturwechsel ......................... 167
4.11 Die kanonische Form. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176
4.12 Methoden zur Überwindung von Multikollinearität ......... 177
4.12.1 Hauptkomponenten-Regression .................... 177
4.12.2 Ridge-Schätzung ................................. 178
4.12.3 Shrinkage-Schätzer ............................... 183
4.13 Minimax-Schätzung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184
4.13.1 Ungleichungsrestriktionen ......................... 184
XII Inhaltsverzeichnis
4.13.2 Das Minimaxprinzip .............................. 187
5. Modelle der Varianzanalyse ............................... 195
5.1 Varianzanalyse als spezielles lineares Modell ............... 195
5.2 Einfaktorielle Varianzanalyse ............................. 196
5.2.1 Darstellung als restriktives Modell ................ " 197
5.2.2 Zerlegung der Fehlerquadratsumme ................. 199
5.2.3 Schätzung von q2 durch MQResidual •...•........... 203
5.3 Vergleich von einzelnen Mittelwerten ...................... 205
5.3.1 Lineare Kontraste . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
5.3.2 Kontraste in den totalen (summierten)
Responsewerten im balanzierten Fall. . . . . . . . . . . . . . . . 209
5.4 Multiple Vergleiche ........... ; ......................... 215
5.4.1 Einleitung ..........................· . ............ 215
5.4.2 Experimentweise Vergleiche ........................ 216
5.4.3 Vergleichsbezogene Prozeduren ..................... 217
5.5 Rangvarianzanalyse im vollständig randomisierten
Versuchsplan ........................................... 221
5.5.1 Kruskal-Wallis-Test .............................. 221
5.5.2 Multiple Vergleiche ............................... 225
5.6 Zwei- und Mehrfaktorielle Varianzanalyse ................. 227
5.7 Zweifaktorielle Experimente mit Wechselwirkung (Modell mit
festen Effekten) ........................................ 231
5.8 Zweifaktorielles Experiment in Effektkodierung .... " ....... 237
5.9 2k-faktorielles Experiment ..... " ........................ 245
5.9.1 Spezialfall: 22-Experiment ......................... 246
5.9.2 Das 23-Experiment ............................... 248
6. Exakte und stochastische lineare Restriktionen . . . . . . . . . . . 255
6.1 Verwendung von Zusatzinformation ....................... 255
6.2 Die restriktive KQ-Schätzung ............................ 256
6.3 Schrittweise Einbeziehung von exakten linearen Restriktionen 259