Parallelrechnerstrukturen: Synthese von Architektur, Kommunikation und Algorithmus

264 Pages·1990·4.102 MB·German

by  Dr. Ing. habil. Werner Erhard (auth.)

Leitfäden und Monographien
der Informatik
Wemer Erhard
Parallelrechnerstrukturen
Leitfäden und Monographien
der Informatik
Herausgegeben von
Prof. Dr. Hans-Jürgen Appelrath, Oldenburg
Prof. Dr. Volker Claus, Oldenburg
Prof. Dr. Günter Hotz, Saarbrücken
Prof. Dr. Klaus Waldschmidt, Frankfurt
Die Leitfäden und Monographien behandeln Themen aus der Theoreti
schen, Praktischen und Technischen Informatik entsprechend dem aktuel
len Stand der Wissenschaft. Besonderer Wert wird auf eine systematische
und fundierte Darstellung des jeweiligen Gebietes gelegt. Die Bücher die
ser Reihe sind einerseits als Grundlage und Ergänzung zu Vorlesungen der
Informatik und andererseits als Standardwerke für die selbständige Einar
beitung in umfassende Themenbereiche der Informatik konzipiert. Sie
sprechen vorwiegend Studierende und Lehrende in Informatik-Studien
gängen an Hochschulen an, dienen aber auch in Wirtschaft, Industrie und
Verwaltung tätigen Informatikern zur Fortbildung im Zuge der fortschrei
tenden Wissenschaft.
Parallelrechnerstrukturen
Synthese von Architektur, Kommunikation und Algorithmus
Von Dr. Ing. habil. Werner Erhard
Universität Erlangen-Nürnberg
Mit zahlreichen Bildern und Beispielen
ES
Springer Fachmedien Wiesbaden GmbH
Dr. Ing. habil. Wemer Erhard
Geboren 1949 in Nümberg. Studium der Mathematik von 1968 bis 1974,
Promotion 1986 und Habilitation im Fachgebiet Rechnerarchitektur 1990
in Erlangen. Abteilungsleiter am Lehrstuhl für Rechnerarchitektur und
Verkehrstheorie an der Universität Erlangen-Nümberg.
CIP-Titelaufnahme der Deutschen Bibliothek
WerDer, Ernanl:
Parallelrechnerstrukturen : Synthese von Architektur,
Kommunikation und Algorithmus / von Wemer Erhard. -
Stuttgart : Teubner, 1990
(Leitfäden und Monographien der Informatik)
ISBN 978-3-519-02243-5 ISBN 978-3-663-10991-4 (eBook)
DOI 10.1007/978-3-663-10991-4
Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt. Jede Verwertung außerhalb
der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlages unzulässig und
strafbar. Das gilt besonders für Vervielfältigungen, Übersetzungen, Mikroverfilmungen und die Ein
speicherung und Verarbeitung in elektronischen Systemen.
© Springer Fachmedien Wiesbaden 1990
Ursprünglich erschienin bei B.G. Teubner Stuttgart 1990
Gesamtherstellung: Zechnersche Buchdruckerei GmbH, Speyer
Einband: P.P.K,S-Konzepte, T. Koch,Ostfildem/Stuttgart
Vorwort
In den letzten Jahren sind ein Vielzahl neuer
Rechnerstrukturen entstanden. Diese unterscheiden sich sehr
stark in der Anzahl der Prozessoren, in den Möglichkeiten
der Kommunikation und damit auch in der Leistungsfähigkeit.
Für den Benutzer solcher parallelen Architekturen wird es
immer schwieriger, seine Probleme effizient auf einem
bestimmten System zum Laufen zu bringen.
Es genügt nicht mehr, einen Algorithmus für eine Problem
stellung zu finden und zu programmieren. Der Benutzer muß
in Kenntnis der Architektur den Algorithmus finden, der auf
der ausgewählten Struktur eine effiziente Behandlung der
Problemstellung gewährleistet.
Es wird immer klarer, daß die Architektur, die
Kommunikation und der gewählte Algorithmus als Einheit zu
sehen sind.
Dieses Buch soll sowohl dem Studenten als auch dem
Praktiker eine Einführung in die Hard- und Software von
Parallelrechnerarchitekturen geben und ihm ein Gefühl für
das notwendige Zusammenspiel der Komponenten Architektur,
Kommunikation und Algorithmus vermitteln.
Es werden Grundkenntnisse in Rechnerarchitektur und
Linearer Algebra für das Verständnis dieses Buches voraus
gesetzt.
VI
Mein besonderer Dank gilt den Professoren Dr. U. Herzog,
Dr. W. Händler und Dr. W.D. Geyer, die diese Arbeit
begutachtet haben. Mein Dank gilt insbesondere auch Frau
ehr. Moog, die mit großer Geduld die Bilder für dieses Buch
gezeichnet hat.
Letztlich gilt mein Dank auch den Herausgebern der Reihe
"Leitfäden und Monographien der Informatik" sowie dem
Teubner-Verlag, die die Herausgabe dieses Buches
ermöglichten.
Erlangen, im Juni 1990 Werner Erhard
Inhaltsverzeichnis
I. Übersicht
1
1. Einführung 1
2. problemstellung 3
3. Bedeutung der Arbeit 12
4. Inhalt der Arbeit 13
11. Parallelrechnerarchltekturan
17
1. Kethoden zur parallelverarbeitung 18
1.1 Funktionales Trennen 19
1.2 Pipelining 20
1.3 Feldrechner 21
1.4 Multiprozessoren 21
1.5 Datenflußrechner 25
2. Klassifikation 25
3. Historischer Uberblick 31
3.1 Funktionales Trennen/Pipelining 32
3.2 Feldrechner 33
3.3 Multiprozessoren 34
4. Pipeline-strukturen 35
4.1 Aufbau eines Pipeline-Rechners 38
4.2 Aufbau einer Pipeline 42
4.3 Datenspeicherung 44
5. Feldrechnerstrukturen 47
5.1 Gemeinsame Merkmale 47
VIII
5.2 Ausgewählte Beispiele 52
ILLIAC IV 52
DAP 53
BSP 65
STARAN 71
5. KUltipro.essorstrukturen 74
6.1 EGPA 75
6.2 DIRMU 78
6.3 HEP 79
6.4 SUPRENUM 81
6.5 Transputer 84
7. Zukunftsaussichten 86
7.1 Der optische Computer 86
111. Kommunikation In Parallelrechnerstrukturen
89
1. Begriffsbestimmung 89
2. Direkte Kopplung 90
2.1 Registerkopplung 90
2.2 Speicherkopplung 91
2.3 Kanalkopplung 92
3. Bussysteme 92
4. Verbindungsnetzwerke 95
4.1 Permutationen 95
4.2 statische Netzwerke 101
4.3 Dynamische Netzwerke 105
5. Kommunikationsbeispiele 112
5.1 Direkte Kopplung 112
5.2 Buskopplung 123
5.3 Netzwerkkopplunq 124
IX
IV. Algorithmen für Parallelrechner 126
1. Der Alqorithmusbeqriff 126
2. KomplexitätsaaSe 128
2.1 statische KomplexitätsmaSe 129
2.2 Dynamische KomplexitätsmaSe 129
2.3 Definition 130
2.4 Beispiel 130
3. Konzepte für effiziente Alqorithmen 131
3.1 Rekursion 131
3.2 Teile und Herrsche (Divide et impera) 131
4. Elemente paralleler Alqorithmen 134
4.1 Definition des Idealprozessors 134
4.2 Satz von Munro und Paterson 135
4.3 Satz von Brent 137
4.4 Konstruktionsprinzipien für parallele
Algorithmen 138
5. Alqorithmen der linearen Algebra 144
5.1 Berechnunq von xn 144
5.2 Berech nung von x,x2 ,x 3 , ..• ,xn 145
5.3 Matrizenmultiplikation 147
5.4 Transponieren von Matrizen 158
5.5 Lösung von Gleichungssystemen 159
V. leistungsbewertung von Parallelrechnern 179
1. Definitionen 182
1.1 Bearbeitungszeit 184
1.2 Maximalleistung 185
1.3 Durchschnittsleistung 188
1.4 Vektoreffizienz 189
x
1. 5 Speed-up 190
1.6 Systemeffizienz 190
1.7 Synchronisation und Kommunikation 191
2. BencbJllarks 191
2.1 Whetstone-Benchmark 191
2.2 Dhrystone-Benchmark 192
2.3 Das LINPACK-Paket 192
2.4 Bewertung der Benchmarks 193
3. Leistungsvergleiche 194
3.1 Forderungen an zukünftige Benchmarks 196
VI. Bitalgorithmen 197
1. Öberblick 197
2. Reihenentvicklung von standardfUDktionen 199
2.1 Taylor-Reihe 199
2.2 MacLaurin-Reihe 199
2.3 Tschebyschew-Entwicklung 201
2.4 .,.-Methode 202
3. Bitalgorithmen für Standardfunktionen 203
3.1 Theorie 203
3.2 Konvergenz 206
3.3 Leistungsmerkmale und Realisierungen 209
4. Übertragung des Prin.ips Bitalgorithmus auf
serielle Rechner 221
4.1 Anpassung der Methode an Bytemaschinen 222
4.2 Implementierungskonzepte 223
4.3 Leistungsvergleich 230
4.4 Fehlerabschätzung 231
VII. Zusammenfassung 233
VIII. LHeraturverzelchnls 235