Grundzüge der Globalen Optimierung Oliver Stein Grundzüge der Globalen Optimierung OliverStein InstituteofOperationsResearch(IOR) KarlsruheInstituteofTechnology(KIT) Karlsruhe Deutschland ISBN978-3-662-55359-6 ISBN978-3-662-55360-2(eBook) https://doi.org/10.1007/978-3-662-55360-2 DieDeutscheNationalbibliothekverzeichnetdiesePublikationinderDeutschenNationalbibliografie;detaillierte bibliografischeDatensindimInternetüberhttp://dnb.d-nb.deabrufbar. SpringerSpektrum ©Springer-VerlagGmbHDeutschland2018 DasWerkeinschließlichallerseinerTeileisturheberrechtlichgeschützt.JedeVerwertung,dienichtausdrücklich vom Urheberrechtsgesetz zugelassen ist, bedarf der vorherigen Zustimmung des Verlags. Das gilt insbeson- dere für Vervielfältigungen, Bearbeitungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und VerarbeitunginelektronischenSystemen. DieWiedergabevonGebrauchsnamen,Handelsnamen,Warenbezeichnungenusw.indiesemWerkberechtigt auchohnebesondereKennzeichnungnichtzuderAnnahme,dasssolcheNamenimSinnederWarenzeichen- undMarkenschutz-Gesetzgebungalsfreizubetrachtenwärenunddahervonjedermannbenutztwerdendürften. DerVerlag,dieAutorenunddieHerausgebergehendavonaus,dassdieAngabenundInformationenindiesem WerkzumZeitpunktderVeröffentlichungvollständigundkorrektsind.WederderVerlag,nochdieAutorenoder dieHerausgeberübernehmen,ausdrücklichoderimplizit,GewährfürdenInhaltdesWerkes,etwaigeFehler oderÄußerungen.DerVerlagbleibtimHinblickaufgeografischeZuordnungenundGebietsbezeichnungenin veröffentlichtenKartenundInstitutionsadressenneutral. Planung:Dr.AnnikaDenkert GedrucktaufsäurefreiemundchlorfreigebleichtemPapier SpringerSpektrumistTeilvonSpringerNature DieeingetrageneGesellschaftistSpringer-VerlagGmbHDeutschland DieAnschriftderGesellschaftist:HeidelbergerPlatz3,14197Berlin,Germany Don’tpanic. (DouglasAdams, TheHitchhiker’sGuidetotheGalaxy) Vorwort DiesesLehrbuchistausdemSkriptzumeinerVorlesung„GlobaleOptimierungIundII“ entstanden, die ich am Karlsruher Institut für Technologie seit 2008 jährlich halte. Die Adressaten dieser Vorlesung sind in erster Linie Studierende des Wirtschaftsingenieur- wesens im Bachelor-Vertiefungsprogramm. Im vorliegenden Lehrbuch spiegelt sich dies darin wider, dass mathematische Sachverhalte zwar stringent behandelt, aber erheblich ausführlicher motiviert und illustriert werden als in einem Lehrbuch für einen rein ma- thematischenStudiengang.DasBuchrichtetsichdaheranStudierende,diemathematisch fundierteVerfahreninihremStudiengangverstehenundanwendenmöchten,wiediesetwa indenNatur-,Ingenieur-undWirtschaftswissenschaftenderFallist.Dadieausführlichere MotivationnaturgemäßaufKostendesStoffumfangsgeht,beschränktdiesesBuchsichauf dieDarstellungvonGrundzügenderglobalenOptimierung. Gegenstand ist die Behandlung globaler Minimierungs- oder Maximierungsmodelle mit nichtlinearen Zielfunktionen unter nichtlinearen Nebenbedingungen, wie sie in An- wendungsdisziplinen sehr oft auftreten. Dabei besteht häufig das Problem, dass numeri- sche Lösungsverfahren effizient lokale Optimalpunkte finden können, während globale Optimalpunktevielschwererzuidentifizierensind.DiesentsprichtderTatsache,dassman mitlokalenSuchverfahrenzwargutdenGipfeldesnächstgelegenenBergesfindenkann, dieSuchenachdemGipfeldesMountEverestabereheraufwendigist. Bevor man sich der theoretischen und algorithmischen Identifizierung von globalen Optimalpunkten zuwendet, ist es allerdings wichtig zu klären, ob ein Optimierungspro- blemüberhauptOptimalpunktebesitzt.DaseinführendeKap.1gehtnebengrundlegender TerminologieundNotationdaherausführlichaufdieverschiedenenArtenvonUnlösbar- keitsowieaufmöglichstschwachehinreichendeBedingungenfürLösbarkeitein. Kap.2diskutiert,wiesichglobaleMinimalpunktevonglattenkonvexenOptimierungs- problemenbestimmenlassen,dennfürsielassensichnichtnurstarketheoretischeResul- tate, sondern auch effiziente Algorithmen angeben. Ein zentrales Resultat für konvexe Optimierungsprobleme besteht darin, dass jeder lokale Minimalpunkt notwendigerweise auch globaler Minimalpunkt sein muss. Für die globale Lösung konvexer Optimierungs- probleme genügen daher beispielsweise Verfahren der lokalen Optimierung [32]. Da sie indiesemSinne„einfach“ist,wirddiekonvexeOptimierunghäufignichtdemGebietder VII VIII Vorwort globalenOptimierungzugeordnet,diesichdannihrerseitsaufdieLösungvon„schweren“ nichtkonvexen Optimierungsproblemen konzentriert. Dieses Lehrbuch setzt zur Lösung von nichtkonvexen Problemen in Kap.3 aber Techniken der konvexen Optimierung aus Kap.2 ein, was den gewählten Aufbau erklärt. Im Kap.3 wird als exemplarisches und praktisch umsetzbares Verfahren der globalen Optimierung ein auf Intervallarithmetik basierendesBranch-and-Bound-Verfahrenhergeleitet. Dieses Lehrbuch kann als Grundlage einer vierstündigen Vorlesung dienen. Es stützt sichteilweiseaufDarstellungenderAutorenM.S.Bazaraa,H.D.SheraliundC.M.Shetty [4], C.A. Floudas [9], O. Güler [12], J.-B. Hiriart-Urruty und C. Lemaréchal [17], R. Horst und H. Tuy [19] sowie H.Th. Jongen, K. Meer und E. Triesch [22], die auch viele überdiesesBuchhinausgehendeFragestellungenbehandeln.ZuGrundlagender(lokalen) nichtlinearen Optimierung sei auf [32] und zu allgemeinen Grundlagen der Optimierung auf[27]verwiesen. An dieser Stelle möchte ich Frau Dr. Annika Denkert vom Springer-Verlag herz- lich für die Einladung danken, dieses Buch zu publizieren. Frau Bianca Alton und Frau Regine Zimmerschied danke ich für die hilfreiche Zusammenarbeit bei der Gestaltung desManuskripts.EingroßerDankgiltaußerdemmeinenMitarbeiternDr.TomášBajbar, Peter Kirst, Robert Mohr, Christoph Neumann, Dr. Marcel Sinske, Dr. Paul Steuermann undDr.NathanSudermann-MerxsowiezahlreichenStudierenden,diemichwährendder EntwicklungdiesesLehrmaterialsaufinhaltlicheundformaleVerbesserungsmöglichkei- ten aufmerksam gemacht haben. Der vorliegende Text wurde in LATEX2e gesetzt. Die AbbildungenstammenausXfigoderwurdenalsAusgabevonMatlaberzeugt. In kleinerem Schrifttyp gesetzter Text bezeichnet Material, das zur Vollständigkeit angegeben ist, beimerstenLesenaberübersprungenwerdenkann. Karlsruhe,imJuni2017 OliverStein Inhaltsverzeichnis 1 Einführung ................................................... 1 1.1 BeispieleundBegriffe ....................................... 2 1.2 Lösbarkeit ................................................ 12 1.2.1 DefinitionderLösbarkeit................................ 13 1.2.2 ArtenvonUnlösbarkeit ................................. 15 1.2.3 DerSatzvonWeierstraß ................................ 19 1.2.4 UnbeschränktezulässigeMengen ......................... 21 1.2.5 NichtabgeschlossenezulässigeMengen .................... 29 1.3 RechenregelnundUmformungen ............................... 33 2 KonvexeOptimierungsprobleme .................................. 37 2.1 Konvexität ................................................ 38 2.2 DieC1-CharakterisierungvonKonvexität ......................... 44 2.2.1 MehrdimensionaleersteAbleitungen....................... 44 2.2.2 C1-Charakterisierung................................... 46 2.3 LösbarkeitkonvexerOptimierungsprobleme ....................... 48 2.4 OptimalitätsbedingungenfürunrestringiertekonvexeProbleme......... 50 2.5 DieC2-CharakterisierungvonKonvexität ......................... 53 2.5.1 DiemehrdimensionalezweiteAbleitung .................... 54 2.5.2 C2-Charakterisierungen ................................. 55 2.6 DieMonotoniecharakterisierungvonKonvexität.................... 59 2.7 OptimalitätsbedingungenfürrestringiertekonvexeProbleme .......... 61 2.7.1 Lagrange-undWolfe-Dualität ............................ 62 2.7.2 DieKarush-Kuhn-Tucker-Bedingungen ..................... 75 2.7.3 Komplementarität ..................................... 78 2.7.4 GeometrischeInterpretationderKKT-Bedingungen............ 79 2.7.5 ConstraintQualifications ................................ 81 2.8 NumerischeVerfahren ....................................... 89 2.8.1 GrundideedesGradientenverfahrens ....................... 90 2.8.2 GrundideedesNewton-Verfahrens......................... 91 IX X Inhaltsverzeichnis 2.8.3 GrundideevonSchnittebenenverfahren ..................... 92 2.8.4 DasSchnittebenenverfahrenvonKelley ..................... 93 2.8.5 DasVerfahrenvonFrank-Wolfe........................... 99 2.8.6 Grundideevonprimal-dualenInnere-Punkte-Methoden ......... 103 3 NichtkonvexeOptimierungsprobleme .............................. 111 3.1 BeispieleundeinkonzeptionellerAlgorithmus ..................... 112 3.2 KonvexeRelaxierung ........................................ 115 3.3 Intervallarithmetik .......................................... 120 3.3.1 MotivationundAnwendungen............................ 121 3.3.2 Intervallgrundrechenarten ............................... 122 3.3.3 NatürlicheIntervallerweiterung ........................... 126 3.3.4 Abhängigkeitseffekt ................................... 128 3.3.5 Einschließungseigenschaft............................... 129 3.3.6 Taylor-Modelle ....................................... 131 3.3.7 WeitereBezeichnungen ................................. 132 3.4 KonvexeRelaxierungperαBB-Methode.......................... 133 3.5 GleichmäßigverfeinerteGitter ................................. 143 3.6 Branch-and-BoundfürboxrestringierteProbleme ................... 151 3.7 Branch-and-BoundfürkonvexrestringierteProbleme ................ 159 3.8 Branch-and-BoundfürnichtkonvexeProbleme ..................... 160 3.9 Lipschitz-Eigenschaften ...................................... 165 3.9.1 EigenschaftenLipschitz-stetigerFunktionen ................. 167 3.9.2 DirekteAnwendungaufAlgorithmus3.5 .................... 170 3.9.3 EineVariationvonAlgorithmus3.5 ........................ 173 Literatur ........................................................ 177 Stichwortverzeichnis............................................... 179 1 Einführung Inhaltsverzeichnis 1.1 BeispieleundBegriffe .................................................. 2 1.2 Lösbarkeit ........................................................... 12 1.2.1 DefinitionderLösbarkeit .......................................... 13 1.2.2 ArtenvonUnlösbarkeit............................................ 15 1.2.3 DerSatzvonWeierstraß ........................................... 19 1.2.4 UnbeschränktezulässigeMengen .................................... 21 1.2.5 NichtabgeschlossenezulässigeMengen ............................... 29 1.3 RechenregelnundUmformungen .......................................... 33 Die endlichdimensionale kontinuierliche Optimierung behandelt die Minimierung oder Maximierung einer Zielfunktion in einer endlichen Anzahl kontinuierlicher Entschei- dungsvariablen. Wichtige Anwendungen finden sich nicht nur bei linearen Modellen (wieineinfachenModellenzurGewinnmaximierunginProduktionsprogrammenoderbei Transportproblemen[27]),sondernauchbeidiversennichtlinearenModellenausNatur-, Ingenieur- und Wirtschaftswissenschaften. Dazu gehören geometrische Probleme, me- chanische Probleme, Parameter-Fitting-Probleme, Schätzprobleme, Approximationspro- bleme, Datenklassifikation und Sensitivitätsanalyse. Als Lösungswerkzeug benutzt man sie außerdem bei nichtkooperativen Spielen [33], in der robusten Optimierung [33] oder beiderRelaxierungdiskreterundgemischt-ganzzahligerOptimierungsprobleme[30]. Das vorliegende einführende Kapitel motiviert in Abschn.1.1 zunächst die grundle- gendeTerminologieundNotationvonOptimierungsproblemenanhanddiverserBeispiele. Abschn.1.2 widmet sich danach ausführlich der Frage, unter welchen Voraussetzungen Optimierungsprobleme überhaupt lösbar sind und welche Arten von Unlösbarkeit auf- tretenkönnen.AbschließendstelltAbschn.1.3einigeRechenregelnundUmformungenfür Optimierungsproblemebereit,dieimRahmendiesesLehrbuchseineRollespielenwerden. ©Springer-VerlagGmbHDeutschland2018 1 O.Stein,GrundzügederGlobalenOptimierung, https://doi.org/10.1007/978-3-662-55360-2_1
Description: