Grundzüge der Nichtlinearen Optimierung

228 Pages·2018·4.93 MB·German

by  Oliver Stein (auth.)

Grundzüge der Nichtlinearen Optimierung
Oliver Stein
Grundzüge der
Nichtlinearen Optimierung
OliverStein
InstituteofOperationsResearch
KarlsruheInstituteofTechnology
Karlsruhe
Deutschland
ISBN978-3-662-55592-7 ISBN978-3-662-55593-4(eBook)
https://doi.org/10.1007/978-3-662-55593-4
DieDeutscheNationalbibliothekverzeichnetdiesePublikationinderDeutschenNationalbibliografie;detaillierte
bibliografischeDatensindimInternetüberhttp://dnb.d-nb.deabrufbar.
SpringerSpektrum
©Springer-VerlagGmbHDeutschland2018
DasWerkeinschließlichallerseinerTeileisturheberrechtlichgeschützt.JedeVerwertung,dienichtausdrücklich
vom Urheberrechtsgesetz zugelassen ist, bedarf der vorherigen Zustimmung des Verlags. Das gilt insbeson-
dere für Vervielfältigungen, Bearbeitungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und
VerarbeitunginelektronischenSystemen.
DieWiedergabevonGebrauchsnamen,Handelsnamen,Warenbezeichnungenusw.indiesemWerkberechtigt
auchohnebesondereKennzeichnungnichtzuderAnnahme,dasssolcheNamenimSinnederWarenzeichen-
undMarkenschutz-Gesetzgebungalsfreizubetrachtenwärenunddahervonjedermannbenutztwerdendürften.
DerVerlag,dieAutorenunddieHerausgebergehendavonaus,dassdieAngabenundInformationenindiesem
WerkzumZeitpunktderVeröffentlichungvollständigundkorrektsind.WederderVerlag,nochdieAutorenoder
dieHerausgeberübernehmen,ausdrücklichoderimplizit,GewährfürdenInhaltdesWerkes,etwaigeFehler
oderÄußerungen.DerVerlagbleibtimHinblickaufgeografischeZuordnungenundGebietsbezeichnungenin
veröffentlichtenKartenundInstitutionsadressenneutral.
Planung:Dr.AnnikaDenkert
GedrucktaufsäurefreiemundchlorfreigebleichtemPapier
SpringerSpektrumistTeilvonSpringerNature
DieeingetrageneGesellschaftistSpringer-VerlagGmbHDeutschland
DieAnschriftderGesellschaftist:HeidelbergerPlatz3,14197Berlin,Germany
Herewearenow,entertainus.
(Marc-UweKling)
Vorwort
DiesesLehrbuchistausdemSkriptzumeinerVorlesung„NichtlineareOptimierungIund
II“entstanden,dieichamKarlsruherInstitutfürTechnologieseit2006jährlichhalte.Die
Adressaten dieser Vorlesung sind in erster Linie Studierende des Wirtschaftsingenieur-
wesens im Bachelor-Vertiefungsprogramm. Im vorliegenden Lehrbuch spiegelt sich dies
darin wider, dass mathematische Sachverhalte zwar stringent behandelt, aber erheblich
ausführlicher motiviert und illustriert werden als in einem Lehrbuch für einen rein ma-
thematischenStudiengang.DasBuchrichtetsichdaheranStudierende,diemathematisch
fundierteVerfahreninihremStudiengangverstehenundanwendenmöchten,wiediesetwa
indenNatur-,Ingenieur-undWirtschaftswissenschaftenderFallist.Dadieausführlichere
MotivationnaturgemäßaufKostendesStoffumfangsgeht,beschränktdiesesBuchsichauf
dieDarstellungvonGrundzügendernichtlinearenOptimierung.
Gegenstand ist die Behandlung von Minimierungs- oder Maximierungsmodellen mit
nichtlinearen Zielfunktionen unter nichtlinearen Nebenbedingungen, wie sie in Anwen-
dungsdisziplinensehroftauftreten.FürsolcheProblemeleitenwirOptimalitätsbedingun-
genherundgebendaraufbasierendenumerischeLösungsverfahrenan.
Eine Gemeinsamkeit aller dieser Optimalitätsbedingungen besteht darin, dass sie auf
der Auswertung von ersten bzw. zweiten Ableitungen der beteiligten Funktionen beru-
hen.WährenddiesdieOptimalitätsbedingungeneinerseitshäufigleichthandhabbarmacht,
leiden sie andererseits unter dem grundsätzlichen Problem, dass Ableitungen die Ge-
stalt von Funktionen nur lokal wiedergeben, aber nicht global. Entsprechend sind die
aufdiesenOptimalitätsbedingungenbasierendenLösungsverfahrenlediglichinderLage,
lokale Optimalpunkte zu identifizieren. Nur in Ausnahmefällen sind diese auch globale
Optimalpunkte.
DieBestimmungglobalerMinimalpunkteistzwarebenfallsoftalgorithmischmöglich,
der dazu nötige Aufwand ist üblicherweise aber um eine Vielfaches höher als derje-
nigezurBestimmunglokalerMinimalpunkte.Ausnahmesinddiesogenanntenkonvexen
Optimierungsprobleme, bei denen jeder lokale Optimalpunkt automatisch auch globa-
ler Optimalpunkt ist. Solche Optimierungsmodelle sowie Algorithmen zur Bestimmung
globalerOptimalpunktenichtkonvexerProblemewerdenausführlichin[33]besprochen.
VII
VIII Vorwort
Im vorliegenden Text stellen wir uns hingegen auf den Standpunkt, dass in Anwen-
dungen häufig bereits die Kenntnis lokaler Optimalpunkte wertvoll ist, zumal, wenn sie
sich verhältnismäßig schnell berechnen lassen. Die hier besprochenen Techniken sind
außerdem nicht unabhängig von denen der globalen Optimierung zu sehen, sondern sie
kommendorthäufigzumEinsatz,umetwagewisseHilfsproblemezulösen[33].
Bevor man sich mit der theoretischen und numerischen Identifizierung von lokalen
Optimalpunkten befasst, ist es allerdings wichtig zu klären, ob ein Optimierungspro-
blemüberhauptOptimalpunktebesitzt.DaseinführendeKap.1gehtnebengrundlegender
TerminologieundNotationdaheraufeinigehinreichendeBedingungenfürLösbarkeitein.
Kap.2 konzentriert sich auf nichtlineare Optimierungsprobleme ohne Nebenbedin-
gungenundleitetfürsiezunächstOptimalitätsbedingungenher,dieauferstenundzweiten
Ableitungen der Zielfunktion basieren. Die dabei entstehenden Vereinfachungen im Fall
der Minimierung einer konvexen Zielfunktion werden kurz angerissen. Auf Grundlage
der Optimalitätsbedingungen formulieren und diskutieren wir dann eine Reihe wichti-
ger numerischer Verfahren – von dem der Mitte des 19. Jahrhunderts entstammenden
GradientenverfahrenbishinzudenmodernenTrust-Region-Verfahren.
Kap.3 erweitert die betrachteten Optimierungsmodelle um nichtlineare Neben-
bedingungen. Die Herleitung aussagekräftiger Optimalitätsbedingungen erfordert hier
allerdings erheblich höheren Aufwand als im unrestringierten Fall aus Kap.2. Dies liegt
darin begründet, dass die Lage von Optimalpunkten einerseits nur von der Geometrie
der Menge zulässiger Punkte abhängt, verschiedene funktionale Beschreibungen dieser
Menge durch Nebenbedingungen aber andererseits zu unangenehmen Effekten in den
jeweiligen Optimalitätsbedingungen führen können. Kap.3 diskutiert diese Problematik
ausführlichundleitetdieentsprechendenOptimalitätsbedingungenher,bevorwirwieder
diversedaraufbasierendenumerischeVerfahrenbesprechen.
Dieses Lehrbuch kann als Grundlage einer vierstündigen Vorlesung dienen. Es stützt
sichteilweiseaufDarstellungenderAutorenW.Alt[1],M.S.Bazaraa,H.D.Sheraliund
C.M.Shetty[2],A.Beck[3],U.Faigle,W.KernundG.Still[7],O.Güler[16],H.Th.Jon-
gen,K.MeerundE.Triesch[23]sowieJ.NocedalundS.Wright[25],dieauchvieleüber
diesesBuchhinausgehendeFragestellungenbehandeln.ZuGrundlagenderkonvexenund
globalenOptimierungseiwieerwähntauf[33]verwiesen,undzuallgemeinenGrundlagen
derOptimierungauf[24].
AndieserStellemöchteichFrauDr.AnnikaDenkertvomSpringer-Verlagherzlichfür
die Einladung danken, dieses Buch zu publizieren. Frau Bianca Alton und Frau Regine
ZimmerschieddankeichfürdiehilfreicheZusammenarbeitbeiderGestaltungdesManu-
skripts und beim Copy Editing. Ein großer Dank gilt außerdem meinen Mitarbeitern
Dr. Tomáš Bajbar, Peter Kirst, Robert Mohr, Christoph Neumann, Dr. Marcel Sinske,
Dr. Paul Steuermann und Dr. Nathan Sudermann-Merx sowie zahlreichen Studierenden,
diemichwährendderEntwicklungdiesesLehrmaterialsaufinhaltlicheundformaleVer-
besserungsmöglichkeiten aufmerksam gemacht haben. Der vorliegende Text wurde in
LATEX2egesetzt.DieAbbildungenstammenausXfig.
Vorwort IX
In kleinerem Schrifttyp gesetzter Text bezeichnet Material, das zur Vollständigkeit angegeben ist,
beimerstenLesenaberübersprungenwerdenkann.
Karlsruhe,imJuni2017 OliverStein
Inhaltsverzeichnis
1 Einführung ................................................... 1
1.1 BeispieleundBegriffe ....................................... 2
1.2 Lösbarkeit ................................................ 10
1.3 RechenregelnundUmformungen ............................... 19
2 UnrestringierteOptimierung ..................................... 23
2.1 Optimalitätsbedingungen ..................................... 24
2.1.1 Abstiegsrichtungen .................................... 24
2.1.2 OptimalitätsbedingungersterOrdnung...................... 26
2.1.3 GeometrischeEigenschaftenvonGradienten ................. 34
2.1.4 OptimalitätsbedingungenzweiterOrdnung .................. 37
2.1.5 KonvexeOptimierungsprobleme .......................... 48
2.2 NumerischeVerfahren ....................................... 51
2.2.1 Abstiegsverfahren ..................................... 52
2.2.2 Schrittweitensteuerung ................................. 58
2.2.3 Gradientenverfahren ................................... 65
2.2.4 Variable-Metrik-Verfahren............................... 72
2.2.5 Newton-VerfahrenmitundohneDämpfung .................. 81
2.2.6 SuperlineareKonvergenz................................ 85
2.2.7 Quasi-Newton-Verfahren ................................ 89
2.2.8 KonjugierteRichtungen................................. 95
2.2.9 Konjugierte-Gradienten-Verfahren......................... 98
2.2.10 Trust-Region-Verfahren ................................. 102
3 RestringierteOptimierung ....................................... 111
3.1 EigenschaftenderzulässigenMenge............................. 112
3.1.1 TopologischeEigenschaften.............................. 113
3.1.2 ApproximationenersterOrdnung.......................... 116
3.2 Optimalitätsbedingungen ..................................... 126
3.2.1 Stationarität.......................................... 127
3.2.2 ConstraintQualifications ................................ 128
XI
XII Inhaltsverzeichnis
3.2.3 Alternativsätze ....................................... 132
3.2.4 Optimalitätsbedingungen erster Ordnung ohne
Gleichungsrestriktionen................................. 138
3.2.5 Trennungssatz ........................................ 142
3.2.6 Normalenkegel ....................................... 148
3.2.7 Optimalitätsbedingungen erster Ordnung mit
Gleichungsrestriktionen................................. 151
3.2.8 Karush-Kuhn-Tucker-Punkte ............................. 159
3.2.9 OptimalitätsbedingungenzweiterOrdnung .................. 164
3.2.10 KonvexeOptimierungsprobleme .......................... 177
3.3 NumerischeVerfahren ....................................... 181
3.3.1 Straftermverfahren..................................... 182
3.3.2 Multiplikatorenverfahren ................................ 189
3.3.3 Barriereverfahren...................................... 191
3.3.4 Primal-dualeInnere-Punkte-Methoden...................... 198
3.3.5 SQP-Verfahren ....................................... 200
3.3.6 MeritfunktionenundFilter............................... 204
3.3.7 QuadratischeOptimierung............................... 208
Literatur ........................................................ 213
Stichwortverzeichnis............................................... 215