Lineare Algebra mit statistischen Anwendungen

165 Pages·2004·0.79 MB·German

Helmut Strasser
Lineare Algebra mit statistischen
Anwendungen
Einführungsskriptum für Studierende
von wirtschaftswissenschaftlichen Studienrichtungen
1. Auflage, Wien, 20. Januar 2004
2
Inhaltsverzeichnis
1 Einleitung 7
1.1 InhaltderLehrveranstaltung . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.2 EDVUmgebung. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
DasArbeitsverzeichnis . . . . . . . . . . . . . . . . . . . . 8
Libraries . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
Hilfesystem . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2 Vektoren 10
2.1 Grundbegriffe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
DefinitioneinesVektors . . . . . . . . . . . . . . . . . . . 10
VektoreninR . . . . . . . . . . . . . . . . . . . . . . . . . 10
RechenoperationenfürVektoren . . . . . . . . . . . . . . . 11
InterpretationvonVektoren . . . . . . . . . . . . . . . . . 12
2.2 GeometrischeInterpretationvonVektoren . . . . . . . . . . . . . . . . . . 12
Punktinterpretation . . . . . . . . . . . . . . . . . . . . . . 12
Verschiebungsinterpretation . . . . . . . . . . . . . . . . . 12
VerschiebungeinesPunktes . . . . . . . . . . . . . . . . . 13
AdditionvonVerschiebungen . . . . . . . . . . . . . . . . 14
Computerexperimente . . . . . . . . . . . . . . . . . . . . 15
MultiplikationeinerVerschiebungmiteinerZahl . . . . . . 15
Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.3 StatistischeInterpretationvonVektoren . . . . . . . . . . . . . . . . . . . 18
2.3.1 DatensätzeinR . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
DasDatenverzeichnis . . . . . . . . . . . . . . . . . . . . . 19
Dateneinlesen . . . . . . . . . . . . . . . . . . . . . . . . 19
Variablennamen:Attach . . . . . . . . . . . . . . . . . . . 20
2.3.2 UnivariateDatenanalysemitR . . . . . . . . . . . . . . . . . . . . 20
SortierenundHäufigkeiten . . . . . . . . . . . . . . . . . . 20
Variablentypen . . . . . . . . . . . . . . . . . . . . . . . . 21
Diagramme . . . . . . . . . . . . . . . . . . . . . . . . . . 22
StatistischeMaßzahlen . . . . . . . . . . . . . . . . . . . . 22
Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3 Matrizen 24
3.1 MatrizenrechungmitR . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
DerBegriffeinerMatrix . . . . . . . . . . . . . . . . . . . 24
ErzeugungvonMatrizen . . . . . . . . . . . . . . . . . . . 26
Matrizenrechnung . . . . . . . . . . . . . . . . . . . . . . 27
EliminationundinverseMatrizen . . . . . . . . . . . . . . 29
ApplyundSweep . . . . . . . . . . . . . . . . . . . . . . . 31
Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
3
4 INHALTSVERZEICHNIS
3.2 Input-OutputAnalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.2.1 DieKostenseitedesInput-OutputModells . . . . . . . . . . . . . . 35
3.2.2 EinMusterbeispiel . . . . . . . . . . . . . . . . . . . . . . . . . . 37
4 MetrischeKonzepte 40
4.1 SkalaresProduktundNorm . . . . . . . . . . . . . . . . . . . . . . . . . . 40
SkalaresProdukt . . . . . . . . . . . . . . . . . . . . . . . 40
SkalarproduktinR . . . . . . . . . . . . . . . . . . . . . . 41
Norm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
NormvonVektoreninR . . . . . . . . . . . . . . . . . . . 42
EinheitsvektorenundNormierung . . . . . . . . . . . . . . 42
OrthogonaleVektoren . . . . . . . . . . . . . . . . . . . . 43
BeispieleinR . . . . . . . . . . . . . . . . . . . . . . . . . 44
Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
4.2 OrthogonaleProjektion . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
DasLSQ-Problem . . . . . . . . . . . . . . . . . . . . . . 45
OrthogonaleZerlegung . . . . . . . . . . . . . . . . . . . . 47
DerWinkelzwischenVektoren . . . . . . . . . . . . . . . . 48
Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
4.3 StatistischeAnwendungen . . . . . . . . . . . . . . . . . . . . . . . . . . 51
4.3.1 DerMittelwert . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
HinweisezuR . . . . . . . . . . . . . . . . . . . . . . . . 51
4.3.2 DieVarianz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
HinweisezuR . . . . . . . . . . . . . . . . . . . . . . . . 53
4.3.3 KovarianzundKorrelation . . . . . . . . . . . . . . . . . . . . . . 53
HinweisezuR . . . . . . . . . . . . . . . . . . . . . . . . 54
Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
5 DieMethodederkleinstenQuadrate 55
5.1 DaseinfacheRegressionsmodell . . . . . . . . . . . . . . . . . . . . . . . 55
5.1.1 Modellanpassung(modelfitting) . . . . . . . . . . . . . . . . . . . 55
LSQmitR . . . . . . . . . . . . . . . . . . . . . . . . . . 57
5.1.2 DiemathematischeLösung . . . . . . . . . . . . . . . . . . . . . . 58
DasAbsolutglied . . . . . . . . . . . . . . . . . . . . . . . 58
LSQOptimierungalsorthogonaleProjektion . . . . . . . . 59
DieNormalgleichungen . . . . . . . . . . . . . . . . . . . 60
5.1.3 BeurteilungderModellanpassung . . . . . . . . . . . . . . . . . . 61
DasAusmaßdesErklärungsbeitrags . . . . . . . . . . . . . 62
DasSignifikanzproblem . . . . . . . . . . . . . . . . . . . 62
DasRelevanzproblem . . . . . . . . . . . . . . . . . . . . 65
5.1.4 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
5.2 DaszweifacheRegressionsmodell . . . . . . . . . . . . . . . . . . . . . . 69
5.2.1 Einführung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
LSQmitR . . . . . . . . . . . . . . . . . . . . . . . . . . 70
5.2.2 DiemathematischeLösung . . . . . . . . . . . . . . . . . . . . . . 71
DieNormalgleichungen . . . . . . . . . . . . . . . . . . . 71
5.2.3 DieBeurteilungderModellanpassung . . . . . . . . . . . . . . . . 73
RSquare . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
ANOVA-Zerlegungen . . . . . . . . . . . . . . . . . . . . 74
Modellselektion . . . . . . . . . . . . . . . . . . . . . . . 78
SignifikanzprüfungderParameter . . . . . . . . . . . . . . 81
DurchführungderModellselektion . . . . . . . . . . . . . . 83
INHALTSVERZEICHNIS 5
5.2.4 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
5.3 EinqualitativerPrädiktor . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
5.3.1 DieFragestellung . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
5.3.2 PrädiktorenmitzweiKategorien . . . . . . . . . . . . . . . . . . . 86
ModellundModellvergleich . . . . . . . . . . . . . . . . . 86
ParametrisierungdurchHaupteffekte . . . . . . . . . . . . 89
5.3.3 PrädiktorenmitmehralszweiKategorien . . . . . . . . . . . . . . 92
ParametrisierungdurchHaupteffekte . . . . . . . . . . . . 92
ParametrisierungmitgewähltenKontrasten . . . . . . . . . 95
5.3.4 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98
5.4 AdditiveModelleundWechselwirkungen . . . . . . . . . . . . . . . . . . 100
5.4.1 ZweiquantitativePrädiktoren . . . . . . . . . . . . . . . . . . . . 100
5.4.2 EinqualitativerundeinquantitativerPrädiktor . . . . . . . . . . . 102
DasadditiveModell . . . . . . . . . . . . . . . . . . . . . 102
DasModellmitWechselwirkung . . . . . . . . . . . . . . . 106
5.4.3 ZweiqualitativeVariable . . . . . . . . . . . . . . . . . . . . . . . 108
DieProblemstellung . . . . . . . . . . . . . . . . . . . . . 108
AdditiveModelle . . . . . . . . . . . . . . . . . . . . . . . 110
ModellemitWechselwirkung . . . . . . . . . . . . . . . . 113
OrthogonaleVersuchspläne . . . . . . . . . . . . . . . . . 115
5.4.4 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
6 QuadratischeFunktionen 117
6.1 FunktionenvonmehrerenVariablen . . . . . . . . . . . . . . . . . . . . . 117
6.1.1 GrundlegendeDefinitionen . . . . . . . . . . . . . . . . . . . . . . 117
LineareFunktionen . . . . . . . . . . . . . . . . . . . . . . 117
QuadratischeFunktionen . . . . . . . . . . . . . . . . . . . 117
6.1.2 GraphischeDarstellungen . . . . . . . . . . . . . . . . . . . . . . 118
Funktionsgraphen . . . . . . . . . . . . . . . . . . . . . . . 118
Niveauliniendiagramm . . . . . . . . . . . . . . . . . . . . 120
Schnittliniendiagramm . . . . . . . . . . . . . . . . . . . . 120
6.1.3 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
6.2 DieHauptachsentransformation . . . . . . . . . . . . . . . . . . . . . . . 122
6.2.1 OrthogonaleMatrizen . . . . . . . . . . . . . . . . . . . . . . . . 122
Orthogonale2x2-Matrizen . . . . . . . . . . . . . . . . . . 124
6.2.2 DiagonalisierungvonsymmetrischenMatrizen . . . . . . . . . . . 125
NumerischeDiagonalisierung . . . . . . . . . . . . . . . . 125
6.2.3 AnwendungaufquadratischeFunktionen . . . . . . . . . . . . . . 127
Einführung . . . . . . . . . . . . . . . . . . . . . . . . . . 127
DerallgemeineFall . . . . . . . . . . . . . . . . . . . . . . 129
6.2.4 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
6.3 KonvexeundkonkaveFunktionen . . . . . . . . . . . . . . . . . . . . . . 130
6.3.1 GrundlegendeDefinitionen . . . . . . . . . . . . . . . . . . . . . . 130
6.3.2 QuadratischeFunktionen . . . . . . . . . . . . . . . . . . . . . . . 131
6.3.3 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132
7 QuadratischeOptimierung 135
7.1 GrundlagenausderAnalysis . . . . . . . . . . . . . . . . . . . . . . . . . 135
7.1.1 Einleitung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
7.1.2 Richtungsableitung . . . . . . . . . . . . . . . . . . . . . . . . . . 135
7.1.3 PartielleAbleitungen . . . . . . . . . . . . . . . . . . . . . . . . . 137
7.1.4 DerGradient . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138
6 INHALTSVERZEICHNIS
Gradientenfelder . . . . . . . . . . . . . . . . . . . . . . . 141
7.1.5 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
7.2 GlobaleOptimierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
7.2.1 KritischePunkte . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
7.2.2 HomogenequadratischeFunktionen . . . . . . . . . . . . . . . . . 143
7.2.3 InhomogenequadratischeFunktionen . . . . . . . . . . . . . . . . 143
7.2.4 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
7.3 OptimierungmitNebenbedingungen . . . . . . . . . . . . . . . . . . . . . 146
7.3.1 OptimierunguntereinerlinearenNebenbedingung . . . . . . . . . 147
DieMethodevonLagrange . . . . . . . . . . . . . . . . . 148
7.3.2 OptimierunguntermehrerenlinearenNebenbedingungen . . . . . . 151
DieMethodevonLagrange . . . . . . . . . . . . . . . . . 152
7.3.3 DasBasislemma . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
7.3.4 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
7.4 Portfolio-Optimierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
7.4.1 Grundlagen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
DerDatensatz . . . . . . . . . . . . . . . . . . . . . . . . . 156
ErsteSchritte . . . . . . . . . . . . . . . . . . . . . . . . . 157
Portfolios . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
7.4.2 OptimalePortfolios . . . . . . . . . . . . . . . . . . . . . . . . . . 160
Vorbemerkung . . . . . . . . . . . . . . . . . . . . . . . . 160
MinimierungderVarianz . . . . . . . . . . . . . . . . . . . 160
MinimierungderVarianzbeivorgegebenerRendite . . . . . 162
MaximierungderRendite . . . . . . . . . . . . . . . . . . 164
7.4.3 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
7
1
Einleitung
1.1 Inhalt der Lehrveranstaltung
Der Inhalt der LV ist Mathematik. Die Mathematik besteht aus Denkstrategien und Den-
kinstrumenten, deren intuitiver Hintergrund einerseits in der Raum– und Zeitvorstellung
und andererseits in der Vorstellung von Manipulationen (anordnen, vertauschen, abzählen,
gegenüberstellen,usw.)liegt.AnderMathematiksindvorallemzweiDingeerstaunlich.Er-
stens ist die Mathematik auch dann erfolgreich anwendbar, wenn der Anwendungsbereich
nichts oder nur wenig zu tun hat mit Vorgängen in Raum und Zeit oder mit Manipulatio-
nen. Zweitens läßt sich das Gebäude der Mathematik weitgehend logisch zwingend und
widerspruchsfreierrichten.
Wenn man Mathematik mit dem Ziel lernen will, angewandte sozial– und wirtschaftswis-
senschaftliche Probleme damit zu bearbeiten, dann muß man trotzdem mit dem intuitiven
Hintergrund vertraut werden, der genetisch ursprünglich hinter den mathematischen Kon-
zepten steckt. Außerdem ist es notwendig, den logisch deduktiven Aufbau bis zu einem
gewissenGradzubeherrschen.
In dieser LV wird Lineare Algebra („Vektorrechnung”)behandelt. Es werden Begriffe und
ihr intuitiver Hintergrund, Fakten und ihre deduktive Grundlage, sowie Methoden und ihr
algorithmischerAblaufvorgestellt.DieAuswahlderThemenerfolgtnachdenBedürfnissen
dessozial–undwirtschaftswissenschaftlichenWissenschaftsbetriebs.
Die Lineare Algebra ist ein Teilgebiet der Mathematik, dessen Ursprünge vor allem aus
zwei Quellen stammen: Die Geometrie von Punkten und Verschiebungen, und das Lösen
von linearen Gleichungen. Bei der mathematischen Durchleutung dieser Problembereiche
sindimLaufederJahrhunderteBegriffeundLösungsansätzeentstanden,diefürdiegesamte
MathematikundihreAnwendungenvongrundlegenderBedeutungsind.
Die Begriffswelt der Linearen Algebra hat sich mittlerweile vollständig von den intuitiven
KonzeptenderGeometrieundvondenAnlässenderGleichungslehregelöst.Trotzdemsind
Konzepte aus Geometrie und Gleichungslehre beim pädagogischen Aufbau des Gebäudes
unerläßlich.AuchinfortgeschrittenemStadiummußdieProblemlösungbeieinemAnwen-
dungsfalloftunterBenützungintuitivergeometrischerKonzeptegefundenwerden.
8 KAPITEL1. EINLEITUNG
1.2 EDV Umgebung
Wir werden im Laufe der LV viele mathematische Methoden auf dem Computer realisie-
ren. Das Programmpaket R ermöglicht uns die interaktive Benützung von grundlegenden
OperationeninFormfestprogrammierterMakrobefehle.
AndieserStelleverweisenwirzunächstaufdieHomepagevonR:
http://www.r-project.org
VondieserWebseiteauskannRkostenlosgeladenundinstalliertwerden.Dasselbstinstal-
lierendeFile
http://www.ci.tuwien.ac.at/R/bin/windows/base/SetupR.exe
ist15.5MBgroß.
DasoffizielleEinführungsskriptist:
http://www.ci.tuwien.ac.at/R/doc/manuals/R-intro.pdf
ManinstalliertRnachdenAnweisungen,diemitgeliefertwerden.Anschließendstartetman
R,indemman
RGui.exe
aufruft.
Das Arbeitsverzeichnis
R arbeitet immer in einem bestimmten Arbeitsverzeichnis (workdir), welches mit einem
Menupunkt gesetzt werden kann. Wir erstellen in Windows z.B. ein Verzeichnis mit dem
Namen:
C:\Workspace\R
UmdasArbeitsverzeichnisübereinKommandofestzulegen,gebenwirein:
> setwd("C:/Workspace/R")
DieKontrolleergibt:
> getwd()
[1] "C:\\Workspace\\R"
Soll das Arbeitsverzeichnis schon beim Start von R festgelegt werden, dann muß
dieses Kommando im File RProfile enthalten sein. Dieses File befindet sich im R-
Installationsverzeichnisunteretc.
UmdenInhaltdesArbeitsverzeichnissesanzuzeigen,verwendenwir:
> dir()
...
1.2. EDVUMGEBUNG 9
Libraries
R kann durch benutzerdefinierte Funktionen erweitert werden. Zur Unterstützung dieser
LV verwenden wir benutzerdefinierte Funktionen aus der Library LinAlg.r. Diese Library
steht auf der Homepage der LV zur Verfügung. Um sie verwenden zu können, muß sie im
ArbeitsverzeichnisvonRabgespeichertwerdenunddannaktiviertwerden:
> source("LinAlg.r")
Hilfesystem
R besitzt ein ausführliches Online-Hilfesystem. Information über das Hilfesystem erhält
mandurch
help("help")
10 KAPITEL2. VEKTOREN
2
Vektoren
2.1 Grundbegriffe
Definition eines Vektors
(2.1) DEFINITION:
UntereinemVektor verstehtmaneineZahlenliste.DieZahlen,ausdenenderVektorbe-
steht,nenntmanseineKomponenten.DieAnzahlderKomponentenistdieLänge des
Vektors.
MankannVektorenschriftlichalsSpaltenvektorenoderalsZeilenvektorenanschreiben.Ein
SpaltenvektorderLängenhatdieallgemeineForm
   
x1 a1
   
 x2   a2 
x =  .  oder a =  .  usw..
 .   . 
. .
xn an
ZeilenvektorenhabendieForm
x = (x1,x2,...,xn) oder a = (a1,a2,...,an) usw..
Später wird die Unterscheidung zwischen Spalten- und Zeilenvektoren eine große Rolle
spielen.DasistaberindiesemKapitelnochnichtderFall.WennwirvonVektorensprechen,
ist es im Moment gleichgültig, ob wir Spaltenvektoren oder Zeilenvektoren meinen. Es ist
nur wichtig, daß wir bei einem bestimmten Typ bleiben. Alles was wir in diesem Kapitel
sagen,giltfürSpaltenvektorenundfürZeilenvektoreningleicherWeise.
FürdieMengeallerVektoreneinerfestenLängenverwendetmandasSymbolRn.
Vektoren in R
InRlegtmanVektorendurchAufzählungihrerKomponentenfest.
> a=c(1,2,3,4,5)
> a
[1] 1 2 3 4 5
> length(a)
[1] 5