Computer-Numerik 1

526 Pages·1995·26.545 MB·German

by  Christoph Überhuber (auth.)

Oberhuber· Computer-Numerik 1
Springer-Verlag Berlin Heidelberg GmbH
Christoph Uberhuber
COMPUTER
NUMERIK 1
Mit 157 Abbildungen
, Springer
Christoph Uberhuber
TUWien
Institut fur Angewandte
und Numerische Mathematik
Wiedner HauptstraBe 8-101115
A-1040 Wien
Einbandmotiv: Einzelaufnahme (Ausschnitt) aus dem Videofilm von
Margot Pilz "Gasoline Tango", 1988.
Mathematics Subject Classification: 65-00,65-01,65-04, 65Dxx, 65Fxx,
65Hxx, 65YI 0, 65YI 5, 65Y20
ISBN 978-3-540-59151-1
Die Deutsche Bibliothek - CIP-Einheitsaufnahme
Uberhuber, Christoph: Computer-Numerik/Christoph Uberhuber.
Berlin; Heidelberg; New York; Barcelona; Budapest; Hong Kong; London; Mailand;
Paris; Tokyo: Springer
1. - (1995) ISBN 978-3-540-59151-1 ISBN 978-3-642-57795-6 (eBook)
DOI 10.1007/978-3-642-57795-6
Dieses Werk ist urheberrechtlich geschiitzt. Die dadurch begriindeten Rechte, insbesondere
die der Obersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Ta
beIIen, der Funksendung, der Mikroverfilmung oder der VervieWiItigung auf anderen Wegen
und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser
Verwertung, vorbehalten. Eine Vervielfâltigung dieses Werkes oder von Teilen dieses Werkes
ist auch im EinzelfaII nur in den Grenzen der gesetzlichen Bestimmungen des Urheber
rechtsgesetzes der Bundesrepublik Deutschiand vom 9. September 1965 in der jeweils gelten
den Fassung zulăssig. Sie ist grundsătzlich vergiitungsptJichtig. Zuwiderhandlungen unter
Iiegen den Strafbestimmungen des Urheberrechtsgesetzes.
© Springer-Verlag Berlin Heidelberg 1995
Urspriinglich erschienen bei Springer-Verlag Berlin Heidelberg New York 1995
Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem
Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dall soJche
Namen im Sinne der Warenzeichen-und Markenschutz-Gesetzgebung als frei zu betrachten
wăren und daher von jedermann benutzt werden diirften.
Umschlaggestaltung: Konzept & Design, llvesheim
Satz: Mit T EX ersteIIte reproduktionsfertige Vodage vom Autor
SPIN 10483925 44/3143-543210 -Gedruckt auf săurefreiem Papier
Vorwort
Das vorliegende Buch er6rtert - ohne Anspruch auf Vollstandigkeit - zahlreiche
Aspekte des computerunterstiitzten numerischen L6sens natur- und ingenieur
wissenschaftlicher Aufgaben. Dem multidisziplinaren Charakter der Computer
Numerik entsprechend werden dabei verschiedene Gebiete angesprochen: von der
Angewandten und Numerischen Mathematik iiber die Numerische Datenverar
beitung bis zur Systemsoftware und Rechnerarchitektur.
I Angewandte Mathematik I
I I I
Numerische Mathematik Symbolische Mathematik
Numerische Dateoverarbeitung I Symbolische Datenverarbeitung
Systemsoftware
Hardware
Die Behandlung der verschiedenen Themen der Computer-Numerik ist am An
fang jedes Abschnitts eine induktive: Von speziellen praktischen Beispielen aus
gehend wird zu allgemeingiiltigen mathematischen Problemformulierungen iiber
geleitet. Auf dieser abstrakten Ebene werden dann Prinzipien und Methoden
zur algorithmisch-numerischen L6sung der entsprechenden mathematischen Pro
bleme behandelt, Genauigkeit und Effizienz relevanter Algorithmen diskutiert
sowie existierende Implementierungen in vorhandener numerischer Software vor
gestellt und bewertet. In deduktiver Weise wird anhand von etwa 500 Beispielen
erlautert, wie man die allgemeinen GesetzmaBigkeiten und methodischen Prin
zipien auf spezielle Aufgaben anwendet und wie man algorithmisch und durch
den Einsatz geeigneter Numerik-Software nach praktisch brauchbaren L6sungen
sucht. Es wird auch eingehend darauf hingewiesen, welche Schwierigkeiten dabei
unter Umstanden auftreten k6nnen und wie man diese iiberwindet.
Der Umfang und die Vielfalt der verfiigbaren Software auf dem Gebiet der Nu
merik ist so groB, daB man einen strukturierten Uberblick und gute Hintergrund
information ben6tigt, urn im konkreten Anwendungsfall eine sinnvolle Auswahl
treffen zu k6nnen. Unterstiitzung in dieser schwierigen Situation bietet das vorlie
gende Buch durch eine iiberblicksartige Darstellung der verfiigbaren numerischen
Software. Strukturiert durch die inhaltliche Kapitel- und Abschnittsgliederung
werden Verfahren, Algorithmen und Konzepte diskutiert, die den Programmen
zugrundeliegen. Vorteilhafte Eigenschaften werden betont, und vor inharenten
Schwachstellen wird gewarnt. An die 100 besonders gekennzeichnete sachgebiet
sorientierte Softwarehinweise liefern dem Leser sowohl Information iiber die kom
merziell angebotenen Softwarebibliotheken (IMSL, NAG etc.) als auch iiber frei
verfiigbare Numerik-Software (Netlib, eLib etc.), auf die man iiber das Internet
zugreifen kann.
VI Vorwort
Das Buch wendet sich in gleicher Weise an Studenten natur- und ingenieur
wissenschaftlicher Studienfacher wie an Entwickler und Anwender numerischer
Software, die sich mit den grundlegenden Konzepten algorithmischer Losungsme
tho den auseinandersetzen wollen und an der iiberlegten Auswahl und dem effizi
enten Einsatz von Fremdsoftware interessiert sind. Es ist einerseits als Lehrbuch
fiir Vorlesungen oder Seminare konzipiert, die das numerische Losen mathemati
scher Probleme mit Computerunterstiitzung zum Inhalt haben; es ist aber auch
als allgemeine Monographie angelegt, die von Wissenschaftlern und Ingenieuren
nutzbringend verwendet werden kann.
Band I beginnt nach einer kurzen EinfUhrung in den Modellbegriff mit einem
Uberblick iiber die beim numerischen ProblemlOsen am Computer unvermeidli
chen Finitisierungen - Verwendung von Gleitpunktzahlen, Diskretisierung kon
tinuierlicher Modelle etc. - und deren Auswirkungen auf die numerischen AIgo
rithmen und die Genauigkeit der erhaltenen Resultate.
Die potentielle Leistungsfahigkeit moderner Computer-Hardware fUr numeri
sche Anwendungen ist jetzt schon beachtlich hoch und verdoppelt sich dariiber
hinaus noch von Jahr zu Jahr. Allerdings gibt es zwischen der theoretisch verfUg
baren MaximaIleistung, mit der geworben wird, und der praktisch beobachtbaren
Leistung eine erhebliche Diskrepanz, die sHi.ndig weiter wachst. Ursachen dieses
Phanomens und grundsatzliche Moglichkeiten zum Erzielen besserer Wirkungs
grade werden in Kapitel 3 aufgezeigt.
Gegenstand aller numerischen ProblemlOsungen sind numerische Daten und
Operationen, welche den Inhalt von Kapitel 4 bilden. Einen besonderen Schwer
punkt stellen dabei die international genormten Gleitpunkt-Zahlensysteme dar,
die man heute auf fast jedem Rechner antrifft. Auf die Erstellung portabler Pro
gramme, die sich problemspezifisch an die Besonderheiten des jeweiligen Zahlen
systems anpassen, wird im besonderen eingegangen.
1m anschlieBenden Kapitel werden Grundlagen der Algorithmentheorie behan
delt, soweit diese fUr den Numerik-Bereich von Bedeutung sind. Einen weiteren
Schwerpunkt dieses Kapitels bilden die auf der Gleitpunktarithmetik moderner
Computer aufbauenden arithmetischen Algorithmen, aus denen sich letzten En
des aIle numerischen Verfahren zusammensetzen.
1m Zentrum von Kapitel 6 stehen QuaIitatskriterien numerischer Programme.
Breiter Raum ist auch der Effizienzsteigerung numerischer Programme gewidmet.
Die behandelten Techniken sollen es dem Leser ermoglichen, groBe Probleme auf
modernen Computersystemen ohne Vergeudung von Ressourcen zu losen.
Kapitel 7 gibt einen Uberblick iiber das aktuelle Angebot an kommerziell oder
frei verfiigbarer Fertigsoftware: Softwarebibliotheken, Softwarepakete (LAPACK,
QUADPACK etc.) und Einzelprogramme (TOMS etc.). Der Softwarezugang iiber
elektronische Netze (netlib, eLib etc.) bildet dabei einen Schwerpunkt.
Eine zentrale Methodik numerischer Verfahren wird in Kapitel 8 behandelt:
Modellierung durch Approximation. Ihre Bedeutung reicht von der Datenanalyse
bis zu automatisch ablaufenden Modellierungsvorgangen im Inneren numerischer
Programme (z. B. bei der numerischen Integration oder der Losung nichtlinearer
Vorwort VII
Gleichungen). Kapitel 8 behandelt eine Vielzahl von Aspekten und Kriterien, die
bei der Auswahl von Modellfunktionen relevant sind.
Der algorithmisch effizienteste Zuganl!, zur Gewinnung von Approximations
funktionen ist die Interpolation. In Kapitel 9 wird sowohl der theoretische Hin
tergrund behandelt, der fUr das Verstiindnis konkreter Interpolationsverfahren
benotigt wird, als auch die praktisch-algorithmische Verwendung von Polynomen,
Splinefunktionen und trigonometrischen Polynomen gezeigt.
Band II beginnt in Kapitel 10 mit Methoden der Bestapproximation, mit denen
lineare oder nichtlineare Funktionen bestimmt werden konnen, die von gegebenen
Datenpunkten oder Funktionen minimalen Abstand besitzen.
Die Fourier-Transformation ist ein Spezialfall der Approximationsmethoden.
Ihr, und im speziellen der diskreten Fourier-Transformation (DFT), ist das Ka
pitel 11 gewidmet.
Kapitel 12 behandelt Algorithmen und Programme zur numerischen Integra
tion. Das groBe Software-Angebot fur univariate Integrationsprobleme wird syste
matisch und umfassend dargestellt. Dort, wo es wenig oder gar keine Fremdsoft
ware gibt - z. B. bei hochdimensionalen Integrationsproblemen -, werden aktuelle
numerische Methoden, wie z. B. Gittermethoden (lattice rules), theoretisch und
praktisch besprochen, urn Software-Eigenentwicklungen zu ermoglichen.
Das Losen linearer Gleichungssysteme ist jenes Gebiet der Numerik mit der
groBten praktischen Bedeutung und dem umfassendsten Angebot an fertiger Soft
ware. Kapitel 13 geht auf viele Fragen ein, die fUr den Anwender von Bedeutung
sind: Wie wiihlt man passende Algorithmen, und wie findet man geeignete Soft
wareprodukte zur Losung konkreter Probleme? Auf welche Eigenschaften des
Gleichungssystems (bzw. der Systemmatrix) ist zu achten, wenn man die effizien
testen Programme sucht? Wie findet man heraus, ob man von einem Programm
eine dem Problem angemessene Losung erhalten hat? Was tut rp.an, wenn ein
Programm nicht die erwartete Lasung liefert ?
Kapitel 14 behandelt nichtlineare Gleichungen. Durch die individuelle Ver
schiedenartigkeit nichtlinearer Systeme und die Notwendigkeit zur iterativen
Losung ergibt sich eine Reihe von Schwierigkeiten, fUr deren Uberwindung
Moglichkeiten aufgezeigt werden.
Das folgende Kapitel ist einem speziellen nichtlinearen Problem gewidmet -
der numerischen Ermittlung von Eigenwerten und Eigenvektoren -, fUr das es
eine Vielzahl von Algorithmen und Computerprogrammen gibt.
1m Kapitel 16 werden die Inhalte der vorangegangenen Kapitel auf groBe
schwach besetzte Matrizen spezialisiert, wie sie bei groBen Anwendungspoblemen
auftreten. Da dieses Gebiet nicht durch Black-box-Software abgedeckt ist, werden
besondere Hinweise zur Algorithmenauswahl und Vorverarbeitung (Prakonditio
nierung) gegeben.
(Pseudo-) Zufallszahlen sind die Grundlage von Monte-Carlo-Verfahren, die
sowohl bei numerischen Problemlosungen als auch bei Sensitivitatsuntersuchun
gen eine wichtige Rolle spielen. Den SchluB des Buches bildet daher eine kurze
EinfUhrung in die Welt der Zufallszahlen und ihrer Erzeugung.
VIII Vorwort
Dank mochte ich an dieser Stelle all jenen aussprechen, die zur Entstehung dieses
Buches beigetragen haben.
An erster Stelle ist Arnold Krommer zu nennen, der an mehreren Teilen des
Buches intensiv mitgearbeitet hat; vor allem am Kapitel tiber numerische Inte
gration, einem Thema, dem seit Jahren unser gemeinsames Interesse gilt. Aber
auch am Zustandekommen der Kapitel tiber Computer-Hardware und effiziente
Programmierung, verschiedener Software-Abschnitte und der das Internet betref
fenden Textteile hat er entscheidenden Anteil.
Der Mitarbeit von Bernhard Bodenstorfer habe ich wichtige Beitrage zu den
einleitenden Kapiteln von Band I zu verdanken. Roman Augustyn, Wilfried Gan
sterer, Michael Karg und Ernst Haunschmid haben zu den Kapiteln tiber Com
puter-Hardware und effiziente Programmierung wesentlich beigetragen; Stefan
Pittner zum Kapitel tiber Fourier-Transformationen.
Christoph Zenger von der TV Mtinchen, Peter Marksteiner von der Vniver
sitat Wi en sowie Winfried Auzinger, Josef Schneid und Hans J. Stetter vom
Institut fUr Angewandte und Numerische Mathematik der TV Wien habenTeile
des Manuskripts gelesen und dessen endgtiltige Gestalt durch Kritik und Verbes
serungsvorschlage beeinfl uBt.
Viele Studenten der TV Wien haben durch Mitarbeit, Anregungen und Kor
rekturen dabei geholfen, aus meinem Skriptum tiber Numerische Datenverarbei
tung und einem spater daraus entstandenen Rohtext ein Buchmanuskript zu
schaffen. Vor allem durch die Beitrage von Christian Almeder, Arno Berger,
Stefan Dorfler, Florian Frommlet, Herbert Karner, Robert Matzinger und Nor
bert Preining konnte das Manuskript in vielen Punkten erweitert und verbessert
werden. Ihnen allen - auch den nicht namentlich Genannten - mochte ich fUr
ihre Hilfe und VnterstUtzung herzlich danken.
Meine besondere Anerkennung mochte ich schlieBlich Christoph Schmid und
Thomas Wihan aussprechen, denen - so meine ich - eine hOchst ansprechende
Text-und Bildgestaltung gelungen ist. Sie waren es auch, die mit groBem personli
chen Einsatz die endgtiltige UTEJX-Version des Textes erstellt haben. Das Kor
rekturlesen des letzten Probeausdrucks besorgte Peter Meditz.
Bei Martin Peters vom Springer-Verlag in Heidelberg mochte ich mich fUr die
angenehme Zusammenarbeit bedanken.
Das Entstehen dieses Buches wurde nicht zuletzt durch die VnterstUtzung des
osterreichischen Fonds zur Forderung der wissenschaftlichen Forschung (FWF)
erm6glicht.
Wien, im Februar 1995 CHRISTOPH UBERHUBER
Inhaltsverzeichnis
I Grundlagen
1 Modelle ............ . 3
1.1 Original und Modell ... . 3
1.2 Modellsubjekt und Modell 5
1.2.1 Verwendungszweck von Modellen 5
1.3 Modellsubjekt und Original . . . . . 6
1.4 Modellbildung .............. . 7
1.4.1 Spezifikation des Problems . . . . 7
1.4.2 Aufstellung eines Strukturkonzeptes 8
1.4.3 Auswahl des Modelltyps (Modellentwurf) . 8
1.4.4 Festlegung der Parameterwerte 10
1.4.5 Testen, Validieren . 10
2 Grundbegriffe der Numerik 12
2.1 Yom Anwendungsproblem zur numerischen Losung . 12
2.1.1 Fallstudie: Pendel ............. . 13
2.1.2 Quantitative und qualitative Fragestellungen . 17
2.2 Numerische Aufgaben ........... . 19
2.2.1 Numerische Probleme ...... . 22
2.2.2 Kategorien numerischer Probleme . 25
2.2.3 Genauigkeit der Ergebnisse 26
2.3 Fehlerbegriffe der Numerik 32
2.3.1 Modellfehler . . . 33
2.3.2 Datenfehler .... 33
2.3.3 Verfahrensfehler .. 34
2.3.4 Rundungsfehler (Rechenfehler) 38
2.3.5 Fehlerhierarchie......... 41
2.4 Kondition mathematischer Probleme . . 43
2.4.1 Ungestortes und gestortes Problem 43
2.4.2 Absolute Konditionszahl . . . . . . 44
2.4.3 Relative Konditionszahl . . . . . . 44
2.4.4 Einschrankung der Problemklasse . 46
2.4.5 Konditionszahlen durch Differentiation 47
2.4.6 Fallstudie: Quadratische Gleichung 48
2.4.7 Schlecht konditionierte Probleme 49
2.4.8 Inkorrekt gestellte Probleme . . . . 50
2.5 Kondition der Anwendungsprobleme . . . . 51
2.6 Mathematische Grundlagen der Konditionsabschatzung 53
2.6.1 Kondition direkter mathematischer Probleme 53
2.6.2 Kondition inverser mathematischer Probleme 59
x
Inhaltsverzeichnis
2.7 Validierung numerischer Berechnungen ..... 63
2.7.1 Unsicherheit numerischer Berechnungen 63
2.7.2 Modell-Validierung . . . . . . . . . . . . 64
2.7.3 Sensitivitatsanalyse und Fehlerschatzung 65
2.7.4 Softwarefehler............... 71
II Losen numerischer Probleme am Computer
3 Computer fiir die Numerische Datenverarbeitung 77
3.1 Prozessoren............. 80
3.1.1 Pipeline-Prinzip ..... . 81
3.1.2 Superpipeline-Architektur 84
3.1.3 Superskalar-Architekturen 85
3.1. 4 Vektorprozessoren 87
3.2 Speicher ......... . 88
3.2.1 Speicherhierarchie 89
3.2.2 Adressierungsarten 91
3.2.3 Register ..... . 93
3.2.4 Cache-Speicher .. 94
3.2.5 Virtueller Speicher 99
3.2.6 Speicherverschrankung 100
3.3 Quantifizierung der Leistung . 101
3.3.1 Der Begriff "Leistung" 102
3.3.2 Leistungsfaktor Zeit . 103
3.4 Analytische Leistungsbewertung 105
3.4.1 Maximale Gleitpunktleistung 105
3.4.2 Instruktionenleistung..... 107
3.4.3 Leistung von Vektorprozessoren 109
3.4.4 LeistungseinfiuB des Speichers 111
3.5 Empirische Leistungsbewertung ... . 113
3.5.1 Temporale Leistung ..... . 113
3.5.2 Empirische Instruktionenleistung 113
3.5.3 Empirische Gleitpunktleistung .. 115
3.5.4 Empirische Leistung von Vektorprozessoren 116
4 Numerische Daten und Operationen .... 119
4.1 Daten der Mathematik . . . . . . . . . . . 119
4.1.1 Elementare mathematische Daten. 119
4.1.2 Algebraische Daten ... . 119
4.1.3 Analytische Daten ..... . 120
4.2 Numerische Daten am Computer .. . 121
4.2.1 Elementare numerische Daten 122
4.2.2 Algebraische Daten .. . 123
4.2.3 Analytische Daten .. . 123
4.2.4 Numerische Datentypen 124