Herausgeber: Prof. Dr. Holger Dette • Prof. Dr. Wolfgang Härdle Statistik und ihre Anwendungen Azizi Ghanbari, S. Einführung in die Statistik für Sozial- und Erziehungs- wissenschaftler 2002 Brunner, E.; Munzel, U. Nichtparametrische Datenanalyse 2003 Dehling, H.; Haupt, B. Einführung in die Wahrscheinlichkeitstheorie und Statistik 2. Auflage 2004 Dümbgen, L. Stochastik für Informatiker 2003 Falk, M.; Becker, R.; Marohn, F. Angewandte Statistik 2004 Franke, J.; Härdle, W.; Hafner, C. Statistik der Finanzmärkte 2. Auflage 2004 Greiner, M. Serodiagnostische Tests 2003 Handl, A. Mulitvariate Analysemethoden 2003 Hilgers, R.-D.; Bauer, R.; Scheiber, V. Einführung in die Medizinische Statistik 2003 Kohn, W. Statistik Datenanalyse und Wahrscheinlichkeitsrechnung 2005 Ligges, U. Programmieren mit R 2005 Meintrup, D.; Schäffler, S. Stochastik Theorie und Anwendungen 2005 Plachky, D. Mathematische Grundbegriffe der Stochastik 2002 Schumacher, M.; Schulgen, G. Methodik klinischer Versuche 2002 Steland, A. Mathematische Grundlagen der empirischen Forschung 2004 David Meintrup Stefan Schäffler Stochastik Theorie und Anwendungen 123 David Meintrup Stefan Schäffler Universität der Bundeswehr München Institut für Mathematik und Datenverarbeitung 85577 Neubiberg e-mail : [email protected] e-mail : [email protected] Bibliografische Information der Deutschen Bibliothek Die Deutsche Bibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.ddb.de abrufbar. Mathematics Subject Classification (2000): 60-01, 62-01, 28-01 ISBN 3-540-21676-6 Springer Berlin Heidelberg New York Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere die der Übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Tabellen, der Funk- sendung, der Mikroverfilmung oder der Vervielfältigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten . Eine Ver- vielfältigung dieses Werkes oder von Teilen dieses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes der Bundesrepublik Deutschland vom 9. September 1965 in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechtsgesetzes. Springer ist ein Unternehmen von Springer Science+Business Media springer.de ©Springer-Verlag Berlin Heidelberg 2005 Printed in Germany Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, daß solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von je- dermann benutzt werden dürften. Einbandgestaltung: design & production, Heidelberg a Datenerstellung durch den Autor unter Verwendung eines Springer L T E X -Makropakets Herstellung: LE-TEX Jelonek, Schmidt & Vöckler GbR, Leipzig Gedruckt auf säurefreiem Papier 40/3142YL - 543210 fu¨r B´eatrice und Werner fu¨r Dorothea, Christoph, Regina, Stefanie und Johanna Vorwort Wahrscheinlichkeitstheorie und Statistik bilden die zwei S¨aulen der Stocha- stik. Beide Gebiete besch¨aftigen sich mit Situationen, die vom Zufall beein- flusst werden. Daher bezeichnet man die Stochastik auch als die Mathematik des Zufalls. Dies erscheint zun¨achst widerspru¨chlich, zeichnet sich der Zufall doch dadurch aus, dass er nicht berechenbar ist. Es ist gerade die Aufgabe der Stochastik, eine formale Sprache und Methoden zur Verfu¨gung zu stel- len,mitdenendieGesetzm¨aßigkeiten hinterzuf¨alligen Ph¨anomenen beschrie- benundanalysiertwerdenk¨onnen.DieWahrscheinlichkeitstheorieu¨bernimmt dabei die Modellbildung sowie die Untersuchung dieser Modelle, w¨ahrend in der mathematischen Statistik auf den Modellen der Wahrscheinlichkeitstheo- rie aufbauend versucht wird, durch Beobachtung auf Gesetzm¨aßigkeiten zu schließen. Die Wahrscheinlichkeitstheorie hat sich dabei zu einem Teilgebiet derMathematikentwickelt,dassichinseinermathematischenPr¨azisionnicht von anderen Gebieten der theoretischen Mathematik unterscheidet. Das glei- chegiltsicherauchfu¨rdieTheoretischeStatistik.Danebengibtesdieweniger rigorose statistische Datenanalyse, deren statistische Rezepte z.B. u¨ber Com- puterprogramme weite Verbreitung gefunden haben. Zielsetzung Das vorliegende Buch soll als Einfu¨hrung in die Ideen, Methoden und Er- gebnisse der Wahrscheinlichkeitstheorie und Statistik dienen. Wir haben uns dabei von zwei Grundgedanken leiten lassen. Zum einen gibt es viele Bu¨cher, die entweder mit klassischen Resultaten der Wahrscheinlichkeitstheorie, wie dem zentralen Grenzwertsatz oder den Gesetzen der großen Zahlen, enden oder aber auf einem hohen Niveau mit der Theorie stochastischer Prozesse beginnen. Wir haben uns bemu¨ht, diese Lu¨cke ein wenig zu schließen, indem wir an die Wahrscheinlichkeitstheorie eine ebenso umfangreiche Einfu¨hrung in die Theorie stochastischer Prozesse angeschlossen haben. Dabei haben wir versucht,dasTempogeringunddenGradderAusfu¨hrlichkeitderDarstellung hoch zu halten. Dies erm¨oglicht hoffentlich einen problemlosen und zu¨gigen VIII Vorwort U¨bergang zur dynamischen Welt der stochastischen Prozesse und ihren inte- ressanten Anwendungen. ZumanderenzeichnetsichdieStochastikdadurchaus,dassihreMethoden in vielen Anwendungen außerhalb der Mathematik, z.B. in der Biologie, Phy- sik oder in den Ingenieurwissenschaften, ben¨otigt werden. Diesem Aspekt der Stochastik tragen wir durch ausfu¨hrlicheDarstellungen einiger Anwendungen Rechnung.EntsprechendrichtetsichunserBuchanalle,dieinihremStudium oder in der Praxis mit stochastischen Fragestellungen konfrontiert werden. Aufbau Der Inhalt dieses Buches ist in fu¨nf Teile gegliedert. Wir beginnen in Teil I mit einer kompakten Darstellung der Maßtheorie, die fu¨r die Entwicklung derWahrscheinlichkeitstheorieben¨otigtwird.Wirsinddavonu¨berzeugt,dass Grundkenntnisse der Maßtheorie eine unverzichtbare Basis fu¨r einen sys- tematischen Aufbau der Wahrscheinlichkeitstheorie sind. Im ersten Kapitel fu¨hren wir, durch das Maßproblem motiviert, Mengensysteme und Maße ein. Im zweiten Kapitel steht das Lebesgue-Integral mit seinen Eigenschaften im ZentrumderUntersuchung.TeilIIdesBucheswidmetsichdenklassischenMe- thoden und Resultaten der Wahrscheinlichkeitstheorie. Die Kapitel 3, 4 und 5 besch¨aftigen sich mit Wahrscheinlichkeitsr¨aumen, Zufallsvariablen und sto- chastischer Unabh¨angigkeit, den wichtigsten Grundbegriffen der Wahrschein- lichkeitstheorie. Im 6. Kapitel behandeln wir die 0-1-Gesetze fu¨r terminale und fu¨r symmetrische Ereignisse, die Gesetze der großen Zahlen sowie das Drei-Reihen-Theorem. Der zentrale Grenzwertsatz ist Ziel des Kapitels 7, fu¨r dessen Beweis wir das Konzept der schwachen Konvergenz und charakteri- stische Funktionen einfu¨hren. Der zweite Teil endet mit der Darstellung be- dingter Erwartungen in Kapitel 8, die sowohl fu¨r die Theorie stochastischer Prozesse als auch fu¨r die Statistik ben¨otigt werden. Die Teile III und IV k¨onnen unabh¨angig voneinander gelesen werden, sie bauen jeweils auf dem zweiten Teil auf. Der dritte Teil beginnt mit zwei kon- kreten Klassen stochastischer Prozesse, den Markov-Ketten (Kapitel 9) und denPoisson-Prozessen(Kapitel10).Anschließendfu¨hrenwirzeitdiskrete(Ka- pitel11)undzeitstetigeMartingale(Kapitel13)ein.Imdazwischenliegenden Kapitel 12 behandeln wir die Eigenschaften der Brownschen Bewegung, die als Musterprozess fu¨r fast jede fu¨r uns relevante Klasse zeitstetiger Prozesse dient. Den Abschluss des dritten Teils bilden in Kapitel 14 die Itoˆ-Integrale, also spezielle stochastische Integrale mit der Brownschen Bewegung als Inte- grator. In Teil IV, der mathematischen Statistik, behandeln wir in den Kapiteln 15 und 16 die Sch¨atztheorie und die Testtheorie. Das Kapitel 17 stellt die Theorie linearer Modelle dar. Vorwort IX Anwendungen FastjedesKapitelendetmiteinemAbschnitt,dersichganzeinerAnwendung widmet.ImGegensatzzudenu¨brigenAbschnittenhabenwirbeiderDarstel- lung der Anwendungen zum Teil auf Beweisfu¨hrungen verzichtet. So hoffen wir, mit den Anwendungen aus verschiedenen Gebieten, z.B. der Nachrich- tentechnik, der Finanzmathematik oder der Physik, zwei Ziele zu erreichen: Zum einen bieten sie eine M¨oglichkeit, den theoretischen Aufbau fu¨r einige Seiten zu unterbrechen und die Theorie in praktischen Anwendungen arbei- ten zu sehen. Zum anderen wollen wir damit unterstreichen, wie wichtig die Stochastik nicht nur innerhalb der Mathematik, sondern auch fu¨r zahlreiche andere Wissenschaften ist. Die Anh¨ange InTeilVhabenwirdieAnh¨angezusammengefasst.UnsereErfahrunghatuns gezeigt, dass Existenzbeweise in gleichem Maße unbeliebt wie (fu¨r Mathema- tiker) unverzichtbar sind. Daher haben wir die zentralen Existenzaussagen in Anhang A dargestellt. So ist es m¨oglich, die Existenzaussagen einfach zu ak- zeptieren und diesen Anhang zu ignorieren. Der Anhang B enth¨alt eine kurze Zusammenstellung der ben¨otigten Resultate aus der Funktionalanalysis, der Anhang C einige Wertetabellen. Die am h¨aufigsten verwendeten Resultate sind im Text in Kapita¨lchen gedruckt.DieseErgebnissewerdensooftben¨otigt,dasssiesichmitderZeit von selbst einpr¨agen. Bis dahin haben wir sie zum schnellen Nachschlagen in Anhang D zusammengestellt. Literaturhinweise WieinLehrbu¨chernderMathematiku¨blich,habenwirimTextfastvollst¨andig aufLiteraturhinweiseundQuellennachweiseverzichtet.Selbstverst¨andlichha- ben wir jedoch von zahlreichen Autoren profitiert. Daher geben wir in An- hang E Literaturhinweise. Wir nennen zum einen diejenigen Quellen, an de- nen wir uns vorwiegend orientiert haben. Zum anderen geben wir Hinweise fu¨r eine erg¨anzende, begleitende oder vertiefende Lektu¨re. Dabei handelt es sich nur um eine kleine subjektive Auswahl aus der sehr großen Zahl von Ver¨offentlichungen auf dem Gebiet der Stochastik. Danksagung Herzlich bedanken m¨ochten wir uns bei allen, die durch Anregungen, Korrek- turen und Diskussionen sowie durch wiederholte detaillierte Durchsicht des Manuskripts erheblich zum Gelingen dieses Buches beigetragen haben. Unser Dank gilt insbesondere den Herren C. Bree, G. M. Meyer, D. Peithmann und R. Stamm. Sicher ist es uns nicht gelungen, alle Fehler zu erkennen und alle X Vorwort Anregungen umzusetzen. Wir freuen uns daher u¨ber jeden Verbesserungsvor- schlag und jeden Hinweis auf Corrigenda. Schließlich danken wir Herrn C. Heine und dem Springer-Verlag sehr herzlich fu¨r die stets reibungslose und sehr angenehme Zusammenarbeit. Mu¨nchen, im Mai 2004 David Meintrup Stefan Sch¨affler Inhaltsverzeichnis Teil I Maßtheorie 1 Grundlagen der Maßtheorie ............................... 3 1.1 Das Maßproblem ........................................ 3 1.2 Mengensysteme ......................................... 9 1.3 Messbare Abbildungen ................................... 16 1.4 Maße .................................................. 20 2 Das Lebesgue-Integral ..................................... 27 2.1 Lebesgue-Integral und Konvergenzs¨atze .................... 27 2.2 Vergleich von Riemann- und Lebesgue-Integral .............. 37 2.3 Der Satz von Fubini ..................................... 42 2.4 Norm-Ungleichungen und Lp-Konvergenz................... 45 2.5 Der Satz von Radon-Nikodym............................. 49 Teil II Wahrscheinlichkeitstheorie 3 Wahrscheinlichkeitsr¨aume ................................. 57 3.1 Die Axiomatik .......................................... 57 3.2 Diskrete Wahrscheinlichkeitsmaße ......................... 62 3.3 Stetige Verteilungen ..................................... 68 3.4 Anwendung Physik: Quantum Computation ................ 77 4 Zufallsvariablen............................................ 89 4.1 Grundbegriffe........................................... 89 4.2 Momente ............................................... 91 4.3 Mehrdimensionale Verteilungen ...........................107 4.4 Anwendung Finanzmathematik: Value at Risk ..............113