Springer Studium Mathematik – Bachelor Folkmar Bornemann Numerische lineare Algebra Eine konzise Einführung mit MATLAB und Julia Springer Studium Mathematik – Bachelor Herausgegebenvon M.Aigner,FreieUniversitätBerlin,Berlin,Germany H.Faßbender,TechnischeUniversitätBraunschweig,Braunschweig,Germany B.Gentz,UniversitätBielefeld,Bielefeld,Germany D.Grieser,UniversitätOldenburg,Oldenburg,Germany P.Gritzmann,TechnischeUniversitätMünchen,Garching,Germany J.Kramer,Humboldt-UniversitätzuBerlin,Berlin,Germany V.Mehrmann,TechnischeUniversitätBerlin,Berlin,Germany G.Wüstholz,ETHZürich,Zürich,Switzerland Die Reihe „Springer Studium Mathematik“ richtet sich an Studierende aller mathemati- schenStudiengängeundanStudierende,diesichmitMathematikinVerbindungmiteinem anderen Studienfach intensiv beschäftigen, wie auch an Personen, die in der Anwen- dung oder der Vermittlung von Mathematik tätig sind. Sie bietet Studierenden während desgesamtenStudiumseinenschnellenZugangzudenwichtigstenmathematischenTeil- gebieten entsprechend den gängigenModulen. Die Reihe vermittelt neben einer soliden GrundausbildunginMathematikauchfachübergreifendeKompetenzen.Insbesondereim BachelorstudiummöchtedieReihedieStudierendenfürdiePrinzipienundArbeitsweisen derMathematikbegeistern.DieLehr-undÜbungsbücherunterstützenbeiderKlausurvor- bereitung und enthalten neben vielen Beispielen und Übungsaufgaben auch Grundlagen undHilfen,diebeimÜbergangvonderSchulezurHochschuleamAnfangdesStudiums benötigtwerden.WeiterbegleitetdieReihedieStudierendenimfortgeschrittenenBache- lorstudiumundzuBeginndesMasterstudiumsbeiderVertiefungundSpezialisierungin einzelnen mathematischen Gebieten mit den passenden Lehrbüchern.Für den Master in MathematikstelltdieReihezurfachlichenExpertiseBändezuweiterführendenThemen mitforschungsnahenEinblickenindiemoderneMathematikzurVerfügung.DieBücher könnendemAngebotderHochschulenentsprechendauchinenglischerSpracheabgefasst sein. WeitereBändedieserReihefindensieunter http://www.springer.com/series/13446 Folkmar Bornemann Numerische lineare Algebra Eine konzise Einführung mit MATLAB und Julia FolkmarBornemann Technische Universität München,Zentrum Mathematik Garching,Deutschland SpringerStudiumMathematik–Bachelor ISBN978-3-658-12883-8 ISBN978-3-658-12884-5(eBook) DOI10.1007/978-3-658-12884-5 Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detailliertebibliografischeDatensindimInternetüberhttp://dnb.d-nb.deabrufbar. SpringerSpektrum ©SpringerFachmedienWiesbaden2016 DasWerkeinschließlichallerseinerTeileisturheberrechtlichgeschützt.JedeVerwertung,dienichtaus- drücklichvomUrheberrechtsgesetzzugelassenist,bedarfdervorherigenZustimmungdesVerlags.Das giltinsbesonderefürVervielfältigungen,Bearbeitungen,Übersetzungen,MikroverfilmungenunddieEin- speicherungundVerarbeitunginelektronischenSystemen. DieWiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. indiesem Werkbe- rechtigtauchohne besondereKennzeichnung nichtzuderAnnahme, dasssolcheNamen imSinneder Warenzeichen- undMarkenschutz-Gesetzgebung alsfreizubetrachtenwärenunddahervonjedermann benutztwerdendürften. DerVerlag,dieAutorenunddieHerausgebergehendavonaus,dassdieAngabenundInformationenin diesemWerkzumZeitpunktderVeröffentlichungvollständigundkorrektsind.WederderVerlagnoch dieAutoren oder die Herausgeber übernehmen, ausdrücklich oder implizit,Gewähr für den Inhalt des Werkes,etwaigeFehleroderÄußerungen. Planung:UlrikeSchmickler-Hirzebruch GedrucktaufsäurefreiemundchlorfreigebleichtemPapier. SpringerSpektrumistTeilvonSpringerNature DieeingetrageneGesellschaftistSpringerFachmedienWiesbadenGmbH Thetroublewithpeopleisnotthattheydon’t knowbutthattheyknowsomuchthatain’tso. (JoshBillings1874) Vieleshätteichverstanden –hättemanesmirnichterklärt. (StanisławJerzyLec1957) Anexpertissomeonewhohasmadeallthe mistakeswhichcanbemadeinanarrowfield. (NielsBohr1954) unteresundadjungiertesoberesDreieckssystemausdemManuskript∗vonA.-L.Cholesky(1910),vgl.§8.3 ∗ «Surlarésolutionnumériquedessystèmesd’équationslinéaires»,FondsAndré-LouisCholesky(1875-1918), AbdruckmitfreundlicherGenehmigungderArchivesdel’EcolePolytechnique,Palaiseau,Frankreich. Vorwort DasvorliegendeBuchentstandauseinemSkriptzurVorlesungEinführungindie numerischelineareAlgebra,dieanderTUMünchenzweistündigimdrittenSemester des Bachelorstudiengangs Mathematik gelesen wird: Anhand grundlegender Problemstellungen der linearen Algebra soll in das algorithmisch-numerische Denkeneingeführtwerden.DieBeschränkungaufdielineareAlgebrasichertdabei einestärkerethematischeKohärenzalssiesonstineinführendenVorlesungenzur Numerikzufindenist.NebendiesendidaktischenAspektensinddievermittelten Konzepte und Algorithmen aber von ganz grundsätzlicher Bedeutung für die numerischePraxisundsolltenmöglichstfrühzeitigbeherrschtwerden. MeineDarstellungbetontdieZweckmäßigkeitderBlockpartionierungvonVek- torenundMatrizengegenübereinerklassischen,komponentenweisenBetrachtung. SoerhaltenwirnichtnureineübersichtlichereNotationundkürzereAlgorithmen, sondernwerdenangesichtsvonVektorprozessorenundhierachischenSpeicherar- chitekturenmodernerComputerauchzusignifikantenLaufzeitgewinnengeführt. DasMottolautetdaher: DiehöhereAbstraktionsstufegewinnt. BeimThemaFehleranalysezieleichkompromisslosaufgrößtmöglichekonzep- tionelleSchärfe:NursoerlerntmanwirklichhoheKompetenzinderBeurteilung numerischerVerfahren;anderes(z.B.irgendwelche„Faustregeln“)führtnurzu unzuverlässigem,kostenträchtigemund–zuweilengefährlichem–Halbwissen. DieAlgorithmenundbegleitendennumerischenBeispielewerdeninderimuni- versitärenUnterrichtverbreitetenProgrammierumgebungMATLABangegeben, zusätzlichaberauchimAnhangBinderzukunftsweisenden,freizugänglichen ProgrammierspracheJuliavomMIT.IchverbindedamitdieHoffnung,dassdie LektüremeinesBuchszuweiterenComputerexperimentenanregt. DasbegleitendeE-BuchbietetalshyperverlinktesPDF-DokumentamComputer zusätzliche Inhalte: Interne Verweise sind blau, externe Verweise rot markiert. LetztereführenaufErläuterungenvonBegriffenundSachverhalten,dieichals bekanntvoraussetzenmöchte,oderaufweiterführendesMaterialwieetwaweb- basierte,computergestützteRechnungenundhistorischeInformationen. München,imJanuar2016 FolkmarBornemann [email protected] viii Vorwort Laboratorium ZurVertiefungderLektüreempfehleich,sicheinLaboratoriumeinzurichten: Werkzeug1:Programmierumgebung WegenihrergegenwärtighohenVerbrei- tung in universitärer Lehre und industrieller Praxis verwende ich im Buch die SkriptsprachedernumerischeEntwicklungsumgebungMATLABderFirmaThe MathWorks. Als zukunftsweisende, frei zugängliche Alternative empfehle ich jedochdieProgrammierspracheJuliavomMIT,fürdieichdeshalbimAnhangB alleProgrammedesBuchserneutzusammengestellthabe. Werkzeug2:Rechenknecht IchwerdemichaufIdeenundKonzeptekonzen- trierenunddahernichtmitRechnungenaufhalten,dieaufgrundihrerhandwerk- lichen Natur auch von einem „Rechenknecht“ übernommen werden könnten. HierfüreignensichComputeralgebrasystemewieMapleoderMathematica;zu letzteremgibtesüberWolframAlphaeinenkostenfreien„einzeiligen“Zugangim Internet.BeispielefindensichmitexternenLinks(rot)in§§14.2und14.3. Werkzeug 3: Lehrbuch X Um sich den Stoff aus einer weiteren Perspektive erklärenzulassen,sollteeinpassendes„X“stetsinGriffweiteliegen;hiereinpaar EmpfehlungenausderangelsächsischenLiteratur: • PeterDeuflhard,AndreasHohmann:NumericalAnalysisinModernScientificCompu- ting,2ndedition,Springer-Verlag,NewYork,2003. Schulbildend;lautVorwortformtemeinjugendlicherElandieDarstellungderFehleranalyse. • LloydN.Trefethen,DavidBau:NumericalLinearAlgebra,SocietyofIndustrialand AppliedMathematics,Philadelphia,1997. EinsehrlebendiggeschriebenesLehrbuch,inzwischeneinKlassiker. • JamesW.Demmel:AppliedNumericalLinearAlgebra,SocietyofIndustrialandApplied Mathematics,Philadelphia,1997. TiefergehendundausführlicheralsderTrefethen–Bau,ebenfallseinKlassiker. • GeneH. Golub,CharlesF. VanLoan: MatrixComputations,4thedition,TheJohns HopkinsUniversityPress,Baltimore2013. Die„Bibel“zumThema. • NicholasJ.Higham:AccuracyandStabilityofNumericalAlgorithms,2ndedition,Society ofIndustrialandAppliedMathematics,Philadelphia,2002. DasumfassendemoderneStandardwerkzurFehleranalyse. • RogerA.Horn,CharlesR.Johnson:MatrixAnalysis,2ndedition,CambridgeUniver- sityPress,Cambridge2012. DerKlassikerzurMatrixtheorie;sehrumfassendunddicht,eineStandardreferenz. Inhaltsverzeichnis Vorwort vii Laboratorium . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . viii I MatrizenamComputer 1 1 WasistNumerik? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 2 Matrizenkalkül . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 MATLAB . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 4 Laufzeiten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 5 Dreiecksmatrizen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 6 UnitäreMatrizen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 II Matrixfaktorisierung 21 7 Dreieckszerlegung . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 8 Cholesky-Zerlegung . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 9 QR-Zerlegung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 III Fehleranalyse 39 10 Fehlermaße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40 11 KonditioneinesProblems . . . . . . . . . . . . . . . . . . . . . . . . 41 12 Maschinenzahlen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47 13 StabilitäteinesAlgorithmus . . . . . . . . . . . . . . . . . . . . . . . 50 14 Beispielanalysen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54 15 AnalyselinearerGleichungssysteme . . . . . . . . . . . . . . . . . . 60 IV KleinsteQuadrate 67 16 Normalgleichung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67 17 Orthogonalisierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 V Eigenwertprobleme 73 18 Grundbegriffe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73 19 Störungstheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76 20 Vektoriteration. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78 21 QR-Iteration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84 Anhang 95 A MATLAB–EineganzkurzeEinführung . . . . . . . . . . . . . . . 95 x Inhaltsverzeichnis B Julia–einemoderneAlternativezuMATLAB . . . . . . . . . . . . 101 C Normen–WiederholungundErgänzung . . . . . . . . . . . . . . . 115 D DasHouseholder-Verfahrenzur QR-Zerlegung . . . . . . . . . . . 119 E FürNeugierige,KennerundKönner . . . . . . . . . . . . . . . . . . 121 RückwärtsanalyseeinesModellsderNachiteration . . . . . . . 121 GlobaleKonvergenzder QR-IterationohneShift . . . . . . . . 121 LokaleKonvergenzder QR-IterationmitShift . . . . . . . . . 124 StochastischeobereAbschätzungderSpektralnorm . . . . . . 128 F WeitereAufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131 Notation 139 Index 141