Lecture Notes in Mathematics Edited by A. Dold and B. Eckmann 477 Optimization and Optimal Control Proceedings of a Conference Held at Oberwolfach, November 17-23, 1974 Edited by R. Bulirsch, W. Oettli, and J. Stoer Springer-Verlag Berlin . Heidelberg . NewYork 1975 EEddiittoorrss PPrrooff.. RRoollaanndd BBuulliirrsscchh MMaatthheemmaattiisscchheess IInnssttiittuutt ddeerr TTeecchhnniisscchheenn UUnniivveerrssiittäätt MMüünncchheenn 88 MMüünncchheenn PPoossttffaacchh 220022442200 BBRRDD PPrrooff.. WWeerrnneerr OOeettttllii FFaakkuullttäätt ffüürr MMaatthheemmaattiikk uunndd IInnffoorrmmaattiikk UUnniivveerrssiittäätt MMaannnnhheeiimm 6688 MMaannnnhheeiimm SScchhllooßß BBRRDD PPrrooffeessssoorr JJoosseeff SSttooeerr IInnssttiittuutt ffüürr AAnnggeewwaannddttee MMaatthheemmaattiikk uunndd SSttaattiissttiikk ddeerr UUnniivveerrssiittäätt WWüürrzzbbuurrgg 8877 WWüürrzzbbuurrgg AAmm HHuubbllaanndd BBRRDD LLiibbrraarryy ooff CCoonnggrreessss CCaallaallooggiinngg iinn PPuubblliiccaattiioonn DDaattaa MMaa::iinn eennttrryy uunnddeerr ttiit t 11..ee:: OOppttiimmiizzaattiioonn aa..nndd ooppttiimmaa..!! ccoonnttrroo11.. ((LLeeccttuurree nnootteess iinn mmaatthheemmaattiieess ;; 447777)) BBiibblliiooggrraapphhyy:: pp.. IInncclluuddeess iinnddeexx.. 11.. MMaatthheemmaattiiccaall ooppttiimmiizzaattiioonn----CCoonnggrreesssseess.. 22.. CCoonn ttrrooll tthheeoorryy----CCoonnggrreesssseess.. II.. BBuulliirrsscchh,, RRoollaa..nndd.. IIII.. OOeettttllii,, WWeerrnneerr.. UUrr.. ssttooeerr,, JJeesseeff.. IIVV.. SSeerriieess:: LLeeccttuurree nnootteess iinn mmaatthheemmaattiieess ((BBeerrlliinn)) ;; 447777.. QQAA33..II2288 nnoo.. 447777 [[QQAA440022..5511 551100''. . 88ss [[662299..88''33112211 7755--2233337722 AAMMSS SSuubbjjeecctt CCllaassssiiffiiccaattiioonnss ((11997700)):: 4411AA2200,, 4499 AAXXXX,, 4499BBXXXX,, 4499CCXXXX,, 4499 DDXXXX,, 9900AAXXXX,, 9900CCXXXX IISSBBNN 33--554400--0077339933--00 SSpprriinnggeerr--VVeerrllaagg BBeerrlliinn .. HHeeiiddeellbbeerrgg .. NNeeww YYoorrkk IISSBBNN 00--338877--0077339933--00 SSpprriinnggeerr--VVeerrllaagg NNeeww YYoorrkk •• HHeeiiddeellbbeerrgg .. BBeerrlliinn TThhiiss wwoorrkk iiss ssuubbjjeecctt ttoo ccooppyyrriigghhtt.. AAllll rriigghhttss aarree rreesseerrvveedd,, wwhheetthheerr tthhee wwhhoollee oorr ppaarrtt ooff tthhee mmaatteerriiaall iiss ccoonncceerrnneedd,, ssppeecciiffiiccaallllyy tthhoossee ooff ttrraannssllaattiioonn,, rreepprriinnttiinngg,, rree··uussee ooff iilllluussttrraattiioonnss,, bbrrooaaddccaassttiinngg,, rreepprroodduuccttiioonn bbyy pphhoottoo ccooppyyiinngg mmaacchhiinnee oorr ssiimmiillaarr mmeeaannss,, aanndd ssttoorraaggee iinn ddaattaa bbaannkkss.. UUnnddeerr §§ 5544 ooff tthhee GGeerrmmaann CCooppyyrriigghhtt LLaaww wwhheerree ccooppiieess aarree mmaaddee ffoorr ootthheerr tthhaann pprriivvaattee uussee,, aa ffeeee iiss ppaayyaabbllee ttoo tthhee ppuubblliisshheerr,, tthhee aammoouunntt ooff tthhee ffeeee 1100 bbee ddeetteerrmmiinneedd bbyy aaggrreeeemmeenntt wwiitthh tthhee ppuubblliisshheerr.. ©© bbyy SSpprriinnggeerr--VVeerrllaagg BBeerrlliinn .. HHeeiiddeellbbeerrgg 11997755 OOffffsseettddrruucckk:: JJuulliiuuss BBeellttzz,, HHeemmssbbaacchh//BBeerrggssttrr.. TABLE OF CONTENTS Rainer E. Burkard Kombinatorische Optimierung in Halbgruppen Richard W. Cottle On Minkowski Matrices and the Linear Complementarity Problem 18 Hans Czap Exact Penalty-Functions in Infinite Optimization 27 P.C. Das Application of DUbovitskii-Milyutin Formalism to Optimal 44 Settling Problem with Constraints Peter Deuflhard A Relaxation Strategy for the Modified Newton t-lethod 59 E.D. Dickmanns Optimale Steuerungen für Gleitflugbahnen maximaler Reichweite beim Eintritt in Planetenatmosphären 74 Ulrich Eckhardt On an Optirnization Problem Related to Minimal Surfaces with Obstacles 95 Klaus Glashoff Optimal Control of One-Dimensional Linear Parabolic Differential Equations 102 Gene Golub Nonlinear Least Squares and Matrix Differentiation+ Sven-Äke Gustafson On the Nurnerical Treatment of a Multi-Dimensional Parabolic 121 Boundary-Value Control Problem Joachim Hartung Penalty-Methoden für Kontrollprobleme und Open-Loop 127 Differential-Spiele Gerhard Heindl Ein Existenzsatz für konvexe Optimierungs?robleme 145 K.-H. Hoffmann, E. Jörn, E. Schäfer, H. Weber Ein Approximationssatz und seine Anwendung in der Kontrolltheorie 150 IV P. Huard Optimization Algorithms and Point-to-Set-Mapping+ Hansgeorg Jeggle Zur Störungstheorie nichtlinearerVariationsungleichungen 158 H.W. Knobloch on Optimal Control Problems with State Space Constraints 177 rUchael Köhler Explicit Approximation of Optimal Control Processes 188 P.J. Laurent Un Algorithme Dual Pour le Calcul de la Distance Entre Deux Convexes 202 F.A. Lootsma The Design of a Nonlinear Optimization Programme for Solving Technological Problems 229 H. Maurer, U. Heidemann Optimale Steuerprozesse mit Zustandsbeschränkungen 244 Peter spellucci Algorithms for Rational Discrete Least Squares Approximation 261 Norbert Weck tiber das Prinzip der eindeutigen Fortsetzbarkeit in der Kontrolltheorie 276 Jochem Zowe Der Sattelpunktsatz'von Kuhn und Tucker in geordneten Vektorräurnen 285 + These papers, presented at the Conference, do not appear in this volurne, and will be published elsewhere. LIST OF PARTICIPANTS Professor R.E. Burkard Mathematisches Institut der Universität zu Köln 5 Köln 41 heyertal 86-90 Professor R.W. Cottle Stanford University Operation Research Department Stanford, California 94305 U.S.A. Dr. Hans Czap Lehrstuhl für Mathematische Verfahrens forschung der Universität Göttingen 34 Göttingen Nikolausbergerweg 9b Dr. P.C. Das I Mathematisches Institut der Freien Universität Berlin Berlin 33 Arnimallee 2-6 Dr. P. Deuflhard Institut für Mathematik der TU München 8 München 2 Arcisstr. 21 Dr. E.D. Dickmanns DFVLR Institut für Dynamik der Flugsysteme 8031 Oberpfaffenhofen Post WeBling I Obb. Dr. U. Eckhardt Zentralinstitut für Angew. Mathematik Kernforschungsanstalt Jülich 517 Jülich Postfach 365 VI Dr. K. Glashoff Fachbereich Mathematik 61 Darmstadt Kantplatz 1 Dr. S.A. Gustafson Royal Institute of Technology Department for Computer Sciences Numerical Analysis S - 10044 Stockholm 70 Dr. J. Hartung Institut für Angew. Mathematik und Informatik 53 Bonn Wegelerstr. 10 Dr. G. Heindl Institut für Mathematik der Technischen Universität 8 München 2 Arcisstr. 21 Dr. K.-H. Hoffmann Mathematisches Institut der Universität München d München 2 Theresienstr. 39 Professor H. Jeggle Technische Universität Berlin Fachbereich Mathematik Berl1n 12 Straße des 17. Juni 135 Professor H.W. Knobloch Mathematisches Institut 87 Würzburg Am Hubland VII Dr. M. Köhler Universität Zürich Institut für Operations Research Cl! - 8006 Zürich Wcinbergstr. 59 Professor P.J. Laurent Ma thematiques· Appliquees Universite Scientifique et Medicale de Grenoble Ceoex 53 f - 38041 - Grenoble Dr . F.A. Lootsma Afdeling Algemene Wetenschappen TeC)lnische Hogeschool Oelft Niederlande Dr. H. Maurer Mathematisches Institut der Universität zu Köln Köln 41 weycrtal a6-90 Dr. P. Spellucci Fachbereich Mathematik 65 Mainz Saarstr. 21 Professor N. Weck Fachbereich I-tathematik 61 oarmstadt Kantplatz 1 Dr. J. Zowe Institut für Angew. Mathematik der Universität vlürzburg 87 Würzburs Am Hubland Kombinatorische Optimierung in Halbgruppen Rainer E. Burkard, Köln 1) Abstract By an algebraisation of the objective function is achieved that combi natorial optimization problems with different kinds of objective func tions (e.g. sums or bottleneck objective functions) now occur as spe cial cases of one general problem. The algebraisation respects not on ly the structure of the underlying problems but also the structure of algorithms for solving these problems. Therefore the generalized prob lems belong to the same complexity class as the original problems. Combinatorial optimization problems, which can be formulated without real variables (e.g. assignment problems), can be considered now in totally ordered semigroups, where (S,·,~) obeys additionally a strong combatibility axiom and a divisibility axiom. For problems with real variables some additional combatibility axioms between the domain 0 of the variables and the semigroup S have to be fulfilled. After the investigation of the structure of the systems (S,·,~) and (S,*,~;Q) general assignment problems and maximal flow problems in net works with generalized costs are considered and algorithms are given for solving these problems. Zusammenfassung In der vorliegenden Arbeit wird durch eine Algebraisierung der Ziel funktion erreicht, daß kombinatorische Optimierungsaufgaben mit ver schiedenen Arten von Zielfunktionen (z.B. Summen- und Bottleneckziel funktionen) nun als Spezial fälle eines verallgemeinerten Problems auf treten. Die Algebraisierung nimmt dabei nicht nur Rücksicht auf die Struktur der PrObleme, sondern auch auf die Art der zugehörigen Lösungs verfahren. Dadurch wird erreicht, daß Algorithmen zur Lösung der allge meinen Probleme angegeben werden können, die im wesentlichen denselben 1) Mathematisches Institut der Universität zu Köln, o - 5 Köln 41, Weyertal 86 - 90 2 Aufwand haben wie Algorithmen für das zugehörige Standardproblem. Variablenfrei formulierbare Probleme, wie etwa Zuordnungsprobleme, lassen sich in einer angeordneten Halbgruppe (S,*,~) formulieren und lösen. Dabei muß (S,*,~) zusätzlich ein starkes Verträglichkeitsaxiom und ein Teilbarkeitsaxiom erfüllen. Bei Optimierungsproblemen, in denen reelle Variable aUftreten, wie etwa Transportprobleme, müssen für die äußere Verknüpfung zwischen dem Variablenbereich Q und der Halbgruppe S zusätzliche Verträglichkeitsaxiome erfüllt sein. Nach einer Unter suchung der Struktur der Systeme (S,*,~) und (S,*,~;Q) werden als Bei spiele verallgemeinerte Zuordnungsprobleme und maximale Flußprobleme in Netzwerken mit verallgemeinerten Kosten betrachtet und Lösungsmög lichkeiten für diese Probleme aufgezeigt. 1. Einleitung. In der Praxis treten oft kombinatorische Optimierungsprobleme auf, die sich nur in der Form der Zielfunktion unterscheiden. werden etwa An zahlen minimiert, so sind es meist Summenprobleme, wie etwa das line are Summenzuordnungsproblem: "Finde eine Permutation ql von N = {1,2, ••• ,n}, so daß r c minimal wird." i€N iCjl(i) Handelt es sich hingegen um die Minimierung von Zeitfaktoren, so nimmt die Zielfunktion zum Beispiel Bottleneck Gestalt an. So l~ßt sich et wa ein lineares Bottleneckzuordnungsproblem folgenderweise formulieren: "Finde eine Permutation ql von N, so daß ~:~ ciCjl(i) minimal wird." In der Literatur wurden bisher diese Probleme gesondert behandelt. Bei der Lösung quadratischer Zuordnungsprobleme "Finde eine Permutation Cjl von N, die r iEN minimiert" fiel mir nun auf (1), daß sich ein Algorithmus zur Lösung des quadra tischen Bottleneckproblems min max max diCjl(i)pq>(p) Cjl iEN pEN 3 direkt aus dem Algorithmus für quadratische Zuordnungsprobleme gewin nen läßt, wenn man jeweils die Operation "+" durch "max" ersetzt. Es zeigt sich nun generell, daß für kombinatorische Optimierungsprobleme die Struktur der Zielfunktion von jener der Restriktion weitgehend un abhängig ist und daß sich die Zielfunktion oftmals in einfacher Weise algebraisch beschreiben läßt. In der kombinatorischen Optimierung hat man es mit zwei Problemtypen zu tun. Einerseits handelt es sich um Probleme, die variablenfrei ge schrieben werden können (z.B. Zuordnungsprobleme, Rundreiseproblem, ••• ) und andrerseits sind es Probleme, in deren Zielfunktion reelle Variable explizit auftreten (z.B. Transportprobleme, maximale Flüsse mit mini malen Kosten, Rucksackprobleme, ••• ). Demnach muß man bei einer Alge braisierung der Zielfunktion zwei Fälle unterscheiden. Bei variablen frei formulierbaren Problemen mit Summenzielfunktion wird das "+" durch eine innere Verknüpfung in einer geordneten Menge (S,~) ersetzt. Bei Problemen, in denen reelle Variable explizit auftreten, tritt eine äußere Verknüpfung zwischen dem Variablenbereich g und der Halbgruppe S hinzu. In Abschnitt 2 wird zunächst die Struktur von (S,*,~) bzw. (S,*,~lQ) näher untersucht. Die Axiome für die Systeme (S,*,~) und (S,*,~lQ) orientieren sich nicht nur an der Lösbarkeit der in ihnen formulierten allgemeinen Probleme, sondern insbesondere auch daran, daß die üblichen Lösungsverfahren für Standardprobleme übertragen werden können zur Lösung der verallgemeinerten Probleme, die in (S,*,~) und (S,*,~;g) formuliert sind. Dies ist ein wesentlicher Ge sichtspunkt für kombinatorische Optimierungsaufgaben, die oftmals durch vollständige Enumeration auf triviale Weise lösbar sind. Die angegebe nen Systeme garantieren, daß beim Ubergang von Standardproblemen zu all gemeinen Problemen sich nicht viel am Rechenaufwand ändert. Präziser formuliert heißt dies: Sind die inneren und äußeren Verknüpfungen so wie die Reduktionen (vgl. Axiom IV, Abschnitt 2) in polynomial be schränkter Zeit auf einer deterministischen Turingmaschine ausführbar, so ist die Verallgemeinerung eines Problems der Komplexitätsklasse P wieder ein Problem der Komplexitätsklasse P (vgl. Karp [7]). Die Alge braisierungen anderer Autoren (z.B. Carre [4], Gondran [6], Roy [8]) sind darauf ausgerichtet, die algebraische Struktur der Restriktionen und Zielfunktion zu klären und zu axiomatisieren. Die vorliegende Ar beit möchte jedoch durch Berücksichtigung der Lösungsverfahren nicht nur einen Einblick in die Struktur der Probleme geben, sondern auch das Aufstellen von Lösungsverfahren für ganze Klassen von Problemen er-