Lectu re Notes in Operations Research and Mathematical Systems Economics, Computer Science, Information and Control Edited by M. Beckmann, Providence and H. P. KUnzi, ZUrich Series: Institut fur Gesellschafts- und Wirtschaftswissenschaften der Universitat Bonn. Advisers: H. Albach, F. Ferschl, W. Krelle 41 Udo Ueing Institut fUr Gesellschafts- und Wirtschaftswissenschaften der UniversiUit Bonn Zwei Losungsmethoden fij r ni chtkonvexe Programmierungsprobleme Springer-Verlag Berlin · Heidelberg· New York 1971 Advisory Board H. Albach· A. V. Balakrishnan' F. Ferschl . R. E. Kalman' W. Krelle . N. Wirth AMS Subject Classifications (1970): 9OC30 ISBN-13: 978-3-540-05415-3 e-ISBN-13: 978-3-642-65195-3 DOl: 10.1007/978-3-642-65195-3 This work is subject to copyright. All rights are reserved, whether the whole or part of the material is concerned, specifically those of translation, reprinting, re-use of illustrations, broadcasting, reproduction by photocopying machine or similar means, and storage in data banks. Under § 54 of the German Copyright Law where copies are made for other than private use, a fee is payable to the publisher, the amount of the fee to be determined by agreement with the publisher. © by Springer-Verlag Berlin' Heidelberg 1971. Library of Congress Catalog Card Number73-155590. Softcover reprint ofthe hardcover 1s t edition 1971 Offsetdruck:Julius Beltz, HemsbachlBergstr. Vorwort Programmierungen sind ein sehr wirkungsvolles Instrument zur prak tischen Berechnung optimaler wirtschaftlicher Entscheidungen. 1m ein fachsten Fall der linearen Programmierung wird eine lipeare Zielfunk tion bei Geltung linearer Ungleichungen als Nebenbedingung maximiert oder minimiert. Sehr viele 6konomische Probleme lassen sich in diese Form bringen. Leider ist das nicht bei allen m6glich: sehr wichtige Probleme (z.E. viele Investitionsprobleme) fUhren auf nichtlineare Zielfunktionen und nichtlinear-e Ungleichungen als Nebenbedingungen. Es gibt in der Zwischenzeit eine ganze Reihe von Rechenverfahren, die ge statten, von einem beliebigen, zul~ssigen Anfangspunkt ausgehend ite rativ ein lokales Extremum zu berechnen. Leider liegen die Probleme h~ufig so, daE zahlreiche lokale Extrema existieren, w~hrend man natUr lich am globalen Extremum interessiert ist. Bisher hat es nur ein Ver fahren gegeben (das von Orden und Ritter), das fUr einen Spezialfall quadrati scher Formen als Zielfunktion und fUr lineare Ungleichungen als Nebenbedingungen das globale Extrumum in endlich vie len Rechenschritten zu erreichen gestattet. Alle Versuche zur Verallgemeinerung dieses Ver fahrens auf beliebige nichtlineare Zielfunktionen oder nichtlineare Ne benbedingungen sind bisher gescheitert. Hier setzt nun die Arbeit von Herrn Ueing ein. Er entwickelt zwei Ver fahren, die mit tragbarem Rechenaufwand von einem lokalen Extremum zum n~chsten mit einem h6heren Wert der Zielfunktion (bei einer Maximumauf gabe) Uberzugehen gestatten. Das erste Verfahren, dessen allgemeine Idee von mir schon vor einiger Zeit vorgeschlagen wurde. ist sehr allgemein: es verlangt fast keine der Zielfunktionen und der Neben Einschr~nkungen bedingungen. Dem Verfasser gelingt es, das Verfahren so zu formalisie ren, daE man "bei nicht zu schlecht konditionierten Problemen" erwarten kann, auch das globale Extremum zu erreichen. Leider ist es bisher nicht gelungen, notwendige oder hinreichende Konvergenzkriterien fUr das Ver fahren anzugeben. Damit bleiben die Grenzen der Anwendbarkeit des Ver fahrens zun~chst offen. FUr die Praxis kann es aber auch so schon brauch bar sein, weil es immerhin gestattet, bessere lokale Extrema zu finden, wenn auch m6glicherweise nicht das globale. rch bin der Uberzeugung, da~ dies Verfahren (oder Varianten davon) in sehr allgemeinen F~llen zum Ziele fUhrt. Jedenfalls wird sich eine Weiterarbeit in diese Richtung wohl lohnen. IV Das zweite vom Verfasser entwickelte Verfahren schrHnkt die Zielfunk tionen und Nebenbedingungen ein, konvergiert jedoch mit Sicherheit zum globalen Extremum. Es mu~ vorausgesetzt werden, da~ die zu maximierende Zielfunktion und die Funktionen, die die Ungleichungen als Nebenbedin gungen festlegen, konvex sind. Hiermit konnen auch nicht zusammenhHngen de Bereiche als zul~ssiges Gebiet zugelassen werden. Dies ist ein gro~er Fortschritt. Viele Autoren haben sich mit dem nichtkonvexen Programmierungsproblem besch~ftigt, darunter so hervorragende Mathematiker und Natioanlokono mer. wie Ragnar Frisch, und - wenn man von Orden und Ritter absieht - nur heuristische Methoden angeben konnen. Das erste in dieser Arbeit vorge stellte Verfahren ist - mange Is eines Konvergenzbeweises - auch noch als solches einzustufen, dagegen nicht das zweite. Insgesamt zeigt diese Ar beit, da~ man auch vor Problemen dieser Art nicht zu kapitulieren braucht, sondern da~ es Ans~tze gibt, die zumindest in vielen FHllen und im Spezialfall konvexer Zielfunktion und konvexer Nebenbedingungen stets zum Erfolg fUhren. Dies ist ein Durchbruch auf diesem wichtigen Gebiet. Es steht zu hoffen, da~ diese neuen Moglichkeiten auch andere Wissen schaftler wieder anziehen, die dies Gebiet als hoffnungslos aufgegeben haben. Bonn, Januar 1971 Wilhelm Krelle - 1 - Zwei Losungsmethoden fUr nichtkonvexe Programmierungs probleme: tibersicht: Die bisher angewandten mathematischen Hilfsmittel zur Losung allgemeiner nichtlinearer Programmierungsprobleme lieferten nur lokale Losungen. Das Ziel dieser Arbeit besteht darin, unter bestimmten Voraussetzungen eine glo bale Aussage Uber nichtkonvexe Programmierungsprobleme zu tref£en. 1m folgenden wird das nichtkonvexe Problem in eine Folge von Teilproblemen zerlegt. Die Zerlegung beruht auf der EinfUhrung eines skalaren und eines Vektoroperators. Die Konstruktion der Operatoren beinhaltet alternierende Gradienten der Zielfunktion und Restriktionen unter Hin zunahme einer Hilfsrestriktion. Weiterhin werden Losungszustande des gesamten Problems erklart. Die Wirkung der Operatoren auf die L5sungszu stande kommt in zwei ganzen Zahlen zum Ausdruck: dem "Losungsgrad" und der "Stufenzahl". In dem entsprechen den Zustandsraum wird ein notwendiges Konvergenzkri terium angegeben. Die zweite Losungsmethode besteht aus einem Formalismus, dessen Elemente notwendig und hinreichend sind, zur Be rechnung des globalen Extremums bestimmter indefiniter Programmierungsprobleme. Eine konvexe Zielfunktion wird Uber einem moglicherweise nicht zusammenhangenden Be reich, der durch konvexe Restriktionen gegeben ist, maxi miert. Unter den gewohnlichen Eindeutigkeitsvoraussetzungen fUr die lokale Konvergenz wird in einer endlichen Anzahl von Rechenschritten eindeutig die globale Losung berech net. Die Schritte ergeben sich aus einer vorgegebenen - 2 - Kombinatorik zwischen der ZielfUnktion und den Re striktionen. Es wird eine Losungsmenge konstruiert, die endlich viele Elemente enthalt. Der Beweis, daS in dieser Menge das globale Extremum mit Sicherheit enthalten ist, wird geftihrt. Beide Verfahren wurden programmiert und auf der hies i gen Rechenanlage (IBM 7090) erfolgreich getestet. Funktionen tiber nichtzusammenhangende Bereiche wurden maximiert. - 3 - INHALTSANGABE 1. EINLEITUNG 5 2. MODIFIZIERTE GRADIENTENVERFAHREN 8 2.1 Gedankllche Struktur der Program mlerungsprobleme 8 2.2 CRST-Methode 12 2.3 Der lokale Charakter der Gradienten verfahren 15 3. EIN OPERATORFORMALISMUS ZUR LOSUNG NICHTKONVEXER PROGRAMMIERUNGSPRO BLEME 26 :5.1 Der Grundgedanke des Verfahrens 26 3.2 Erklarung der Hl1fsschrltte HP1 undHP2 27 3.3 Konstruktion und Anwendung des skalaren Operators H 31 Konstruktion und Anwendung des Vektoroperators HV 35 3.5 Darstellung des Ergebnlsses anhand einee Niveauecbemae 42 4. EIN KOMBINATORISCHES VERFAHREN ZUR LOSUNG NICHTKONVEXER PROG~rnIERUNGS PROBLEME 52 4.1 Der Grundgedanke des Verfahrens 52 4.2 Konstruktion der Durchschnittsbe reiche 53 - 4 - Berechnung der LBsungsmenge H 57 4.~ 4.4 Bestimmung des globalen Maximums 63 4.5 Lineare Restriktionen 65 5. ANWENDUNG DES VERFAHRENS MIT HILFE ElNER ELEKTRONISCHEN RECHENMASCHlNE 68 5.1 Der Aufbau des Rechenmasch1nenpro- gramms 68 5.2 Be1sp1ele 74 LITERATURVERZEICHNIS 91 - 5 - 1. EINLEITUNG Die nichtlineare Programmierung dient im Rahmen der Unternehmensforschung dazu, optimale Entscheidungen tiber mathematisch formulierbare Wirtschaftsprozesse zu treffen. Die mathematische Formulierbarkeit ist die Voraussetzung fur die Konstruktion eines Modells, von dessen Losung die optimale Entscheidung abhangt. Das Problem liegt einmal darin, die Modelle derart aufzustellen, daB sie den realen wirtschaftlichen Zu sammenhang moglichst gut wiedergeben und zum anderen darin, Losungsverfahren anzugeben, mit deren Hilfe die optimale Losung dieser Modelle gefunden werden kann. Die vorliegende Arbeit widmet sich dem zweiten Teil dieser Forderung: dem Auffinden optimaler Losun gen allgemeiner nichtlinearer Programmierungsprobleme. Ein allgemeines Maximierungsproblem stellt sich wie folgt: gegeben sei eine Funktion f (x), die die Ziel vorstellung in Abhangigkeit von veranderlichen GraBen = x1' x2' ••• xn mathematisch reprasentiert; x (x1' x2' ••• xn)'. f (x) kann nicht an beliebigen Stellen des Raumes Rn gebildet werden, sondern es wird durch = Restriktionen gi (x) ~ 0, i 1 ••• m vorgeschrieben, welche x ~ Rn zulassig sind. Dieser Sachverhalt solI durch die Schreibweise ausgedruckt werden. Der zulassige Bereich sei 1. B = [ x / gi (x) ~ 0, i = 1 ... m = m Anzahl der Restriktionen n = Dimension von Rn - 6 - Selbst wenn vorausgesetzt wird, daa f (x) und gi (x) ~o, i = 1 ... m stetige und zweimal eindeutig diffe renzierbare Funktionen sind, gibt es im allgemeinen eine von vornherein nicht bestimmbare Anzahl lokaler Extrema. Ein lokales Maximum x der Zielfunktion f (x) ist dann x erreicht, wenn es in einer bestimmten Umgebung von kein x e B gibt, ftir das gilt: > f (x) f (x). Da es aufgrund der bisher bekannten Methoden nicht mog lich ist, aIle lokalen Extrema eines indefiniten Pro grammierungsproblems mit nichtlinearen Restriktionen anzugeben, kann eine Aussage tiber das globale Extremum ~ mit f (~) > f (x) fti.r. aIle x ~ B nicht getroffen wer- den. Vom mathematischen Standpunkt aus ist man nun gezwun gen, Spezialisierungen ftir f (x) und gi (x) ~ 0, i = 1 ... m einzuftihren, um praktikable Optimalitats kriterien zu formulieren. Anhand dieser Spezialisierungen (Abschnitt 2.1) ergibt sich eine Klassifizierung der bisher losbaren Program mierungsprobleme. Vom wirtschaftlichen Standpunkt aus oder aus der Sicht des "Modellkonstrukteurs" gesehen, mochte man moglichst groaztigig tiber die Funktionen f (x) und gi (x) ~ 0, = i 1 ••• m verftigen konnen, um das Modell sehr nahe an die Realitat heranzuftihren.