S I H.-P.S 1998 Sommersemester gesetztvonArturA.Marczok Diese Mitschrift wurde mit freier Software (AMS-LATEX2ε, METAPOST) gesetzt. In der hiervorliegendenkorrigiertenVersionkommterstmalsdasvonYRimCTANzur Verfügung gestellte px-Zeichensatzpaket zum Einsatz. Es existiert auch eine PDF-Version dieses Skriptes (natürlich mit Hyperlinks). Korrekturvorschläge und Anfragen bzgl. der [email protected]. Mein besonderer Dank gilt P R und M D für die zahlreichen Korrekturen. Recklinghausen,4.August2001 INHALTSVERZEICHNIS 3 INHALTSVERZEICHNIS 0 Einführung 5 1 Dieσ-AlgebraundW-Maße 7 Stichprobenraum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 σ-Algebra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 Erzeugteσ-Algebra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 Bscheσ-Algebra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 Wahrscheinlichkeitsmaß,Wahrscheinlichkeitsraum . . . . . . . . . . . . . . . . . . . 12 Zähldichte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 2 DerLscheW-RaumundkombinatorischeW-Rechnung 19 Permutationen,Kombinationenmit/ohneWiederholung . . . . . . . . . . . . . . . . 19 Siebformel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 Ein-/Auschschließungsprinzip . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 3 WahrscheinlichkeitsmaßemitDichtenaufRd 25 Bscheσ-AlgebraaufRd,B-Menge . . . . . . . . . . . . . . . . . . . . . . . . . 25 Maß . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 L(-B)schesMaß . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 MeßbareFunktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27 Elementarfunktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27 IntegralvonElementarfunktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 IntegralmeßbarerFunktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 SatzvonB-L,monotoneKonvergenz . . . . . . . . . . . . . . . . . . . . . . . 28 4 ZufallsvariablenundUnabhängigkeit 37 5 ErwartungswertundVarianzvonZufallsvariablen 47 6 BedingteWahrscheinlichkeiten 59 7 M-Ketten 63 Sommersemester98 KAPITEL 0 Einführung Aufgabe der Stochastik ist es, Modelle für zufällige Phänomene zu entwickeln, und damit Vorhersagen über deren Ausgang zu machen. Diese Phänomene sind außermathematisch, undebensoistdieFrage,obunsereModellediesePhänomeneadäquatbeschreiben,nichtmit mathematischenMethodenzuentscheiden,sondernnurdurchExperimente. Das in dieser Vorlesung behandelte mathematische Modell verwendet dabei im wesentli- chendieMengenlehreund(daraufaufbauend)dieMaßtheorie.ImGegensatzzurAnalysisund linearen Algebra sind also die mathematischen Objekte der Stochastik Mengen sowie Ma- ße, d.h. Abbildungen von Mengensystemen nach [0,1]. Dies macht eine Schwierigkeit der StochastikgegenüberderAnalysisdeutlich.DieandereSchwierigkeitistdasModellbildungs- problem:Zueinemgegebenen„Phänomen“mußeinmathematischesModell(Mengensystem, W(ahrscheinlichkeits)-Maß)konstruiertwerden,dasdieses„Phänomen“beschreibt. 0.1Beispiel. beobachteteGröße Phänomen mathem.Modell (Meßgröße) (a) Werfeneiner/s –Münze Kopf/Wappen Ω={K,W}(cid:27){0,1} –Würfels Augenzahl Ω={1,...,6} (b) –Wetter Meßgrößen(Temp.,Druck) Ω=Rd (d≥1) –Börsenschwankungen Kurs Ω=R (c) Ausfallraten Anzahlder vonProdukten fehlerhaftenProdukte Ω=Z+ Man nennt den Raum Ω den Stichproben-Raum. Er ist die Grundlage des mathematischen Modells. 0.2Beispiel. WerfenmitzweiWürfeln(rot|weiß).Meßgrößen:(a,b)mit1≤a,b≤6. Ω={1,...,6}×{1,...,6} Interessiert man sich nur für die Augensumme s = a+b, so ist Ω = {2,...,12} ein möglicher Stichprobenraum. Im allgemeinen interessiert man sich nicht nur für die „Wahrscheinlichkeit“ von Elementen i ∈ Ω, sondern für die Wahrscheinlichkeit von Teilmengen E ⊂ Ω, den Ereignissen. Da mit ω∈Ω, {ω}⊂Ωgilt,reichtesdie„Wahrscheinlichkeit“fürEreignisseE⊂Ωzudefinieren. Ereignis Ω⊃E7→P(E)∈[0,1] Wahrscheinlichkeit=ˆ BewertungderUnsicherheit. 6 SI 0.3Beispiel. WerfenmiteinemidealenWürfel:Ω = {1,...,6}.Esistplausibel,daßP({i}) = 1 6 füri∈Ωgilt.IstnunE=„geradeZahl“={2,4,6},soistplausibel,daßP(E)= 1 geltensollte. 2 0 E K KAPITEL 1 σ Die -Algebra der Ereignisse und Wahrscheinlichkeitsmaße IndiesemKapitelwerdendiezweifürdieStochastikgrundlegendenBegriffe„Ereignis“und „Wahrscheinlichkeit“mathematischdefiniert. 1.1Definition. AlsStichprobenraum(oderMerkmalmenge)bezeichnenwireinebeliebigenicht- leereMengeΩ,∅. Ω sollte möglichst adäquat die Ereignisse des Experiments beschreiben. Die Wahl von Ω ist nichteindeutig;esistaberzuhoffen,daßdieErgebnissedesModellsnichtvonderWahlvonΩ abhängen.FallsΩendlichist,stelltdieKombinatorikeinewichtigeMethodedar,dieseitdem 17.JahrhundertinderW-Rechnungzentralwar.IstΩunendlich,sowerdenmaßtheoretische Methodenwichtig,dieK(etwa1930)indieW-Theorieeingeführthat. 1.2Beispiel. (1) sieheBeispiel0.1 (2) Skatspiel:DieKartenwerdenvon1bis32durchnumeriert,etwa1=ˆ KreuzBube,...,32 =ˆ Karo7.Dannkannman Ω={(A,B,C)|A,B,C⊂{1,...,32}; A∩B=A∩C=B∩C=∅; #A=#B=#C=10} setzenundsodenStichprobenraumallermöglichenSkatspieledefinieren.Dabeibezeich- nefüreineendlicheMengeA,#AdieAnzahlderElementevonA. 1.3Beispiel. Zusammengesetztes(wiederholtes)Experiment. (1) EswirdzuersteineMünzegeworfenunddanngewürfelt: Ω={(W,1),(W,2),...,(W,6),(Z,1),...,(Z,6)} ={W,Z}×{1,...,6} (kartesischesProdukt) (2) Dasn-maligeWerfeneinerMünzewirddurch Ω={W,Z}n ={(ω ,...,ω )|ω ∈{W,Z}} 1 n j modelliert. Das n-Tupel (ω ,...,ω ) symbolisiert eine Folge von Experimenten, bei der 1 n der j-teVersuchdenWertω ergebenhat. j (3) WirddasExperimentunendlichoftwiederholt,soist Ω={W,Z}N ={(ω ,ω ,...)|ω ∈{W,Z}} 0 1 j eingeeigneterStichprobenraum. 8 SI 1.4 Konstruktion. Wir haben den Stichprobenraum Ω als Modell zur Beschreibung der möglichen Ausgänge eines Experiments eingeführt. Wir wollen aber auch komplizierte Ereignisse wie „In 100 Versuchenwurdezwischen40und60malZahlgeworfen“modellieren.Diesgeschiehtdurchgewisse TeilmengenvonΩundlogischenVerknüpfungen,diedurchMengenoperationenerzeugtwerden: sicheresEreignis =ˆ Ω unmöglichesEreignis =ˆ ∅ NegationeinesEreignisses =ˆ Ac =Ω\A Mindestenseinesderbeiden =ˆ A∪B allebeide =ˆ A∩B daserste,abernichtdaszweite =ˆ A\B mindestenseianlelesaauusseeiinneerrFFoollggee ==ˆˆ ST∞n∞n==11AAnn 1.5Beispiel. (1) DerWürfelzeigteineungeradeZahl=ˆ A ={1,3,5}⊂Ω ={1,...,6} 1 1 (2) DieAugensummezweierWürfelist≥10=ˆ A ={(6,4),(4,6),(5,5),(6,5),(5,6),(6,6)}⊂Ω ={1,...,6}2 2 2 EingeeignetesSystemvonMengen,daswirzurBeschreibungvonEreignissenverwenden,ist gegebendurch: 1.6Definition. EinSystemA⊂P(Ω)vonTeilmengenvonΩheißtσ-AlgebraaufΩ,falls (σA ) Ω∈A 1 (σA ) A∈A ⇒ Ac ∈A 2 (σA3) IstAn ∈A∀n≥1 ⇒ S∞n=1An ∈A DieA∈AheißenEreignisse,die{ω}, ω∈ΩElementarereignisse(fallssiezuAgehören) 1.7 Bemerkung. Die Tatsache, daß wir als System der „Ereignisse“ i.a. nicht die komplette Potenzmenge P(Ω) verwenden, ist auf den ersten Blick befremdlich; sie ist aber praktikabel, unvermeidbarundsogarsinnvoll: (1) Man kann zeigen, daß auf überabzählbaren Ω es prinzipiell unmöglich ist, sinnvoll W-MaßeaufganzP(Ω)zudefinieren,sondernnuraufeinerkleinerenσ-Algebra. 1.8Satz. EsseiAeineσ-AlgebraaufΩ,∅undA,B,A ∈Afürallen∈N.Danngilt n (a) ∅∈A, A∩B∈A, A\B∈A, A∪B∈A (b) Tn∈NAn ∈A (c) (i) linm→i∞nfAn =Sn≥1Tk≥nAk ∈A (ii) limsupAn =Tn≥1Sk≥nAk ∈A n→∞ 1.9Bemerkung. ω∈liminfA ⇔ ω∈A fürfastallen(d.h. bisaufendlichvielen) n n ω∈limsupA ⇔ ω∈A für∞-vielen n n B. (a) ∅=Ωc ∈Awegen(σA )und(σA ) 1 2 1.Dieσ-AlgebraundW-Maße 9 (b) !c \ [ [ A = Ac ∈A, da Ac ∈Anach(σA )und(σA ). n n n 2 3 n∈N n∈N n∈N \ A∩B= A ∈A, falls A =A, A =B, A =Ω(n≥2) n 0 1 n n∈N A\B=A∩Bc ∈A A∪B=(Ac∩Bc)c ∈A (c) Setzt man für n ∈ N, Bn = Sk≥nAk, so ist das als abzählbare Vereinigung von Mengen ausAinAfürjedesn∈N: \[ \ ⇒ limsupA = A = B ∈A n k n n∈Nk≥n n∈N EbensofürliminfA ! n (cid:3) FallsΩendlichoderabzählbarunendlichist,istallesvieleinfacher: 1.10Satz. SeiΩabzählbar.Dieeinzigeσ-Algebra,diealleElementarereignisse{ω}fürω∈Ωenthält, istA=P(Ω) B. EsreichtP(Ω)⊂Azuzeigen. SeiA∈P(Ω)beliebig.FallsAabzählbarunendlich,etwaA={ω ,ω ,...},soist 0 1 [ A= {ω }∈Anach(σA ) n 3 n∈N FallsA={ω ,...,ω }endlich,ist 1 n [n A= {ω }∈A j j=1 (cid:3) σ-Algebrenwerdenhäufignichtexplizit(durchAngabeallerzugehörigenEreignisse),sondern implizitdurchAngabevonGrundereignissenundVerwendungderAxiome(1.6)angegeben. Zum Beispiel wandelt Satz 1.10 die implizite Forderung „alle Elementarereignisse gehören dazu“indieexpliziteAngabeA=P(Ω)um. 1.11Lemma. EsseiI ,∅eineIndexmenge,undfüri∈IseiA eineσ-AlgebraaufΩ.Dannistauch Ti∈IAieineσ-Algebra. i B. (σA1): Ω ∈ Ai (nach (σA1)) für alle i ∈ I. (Übung) ⇒ Ω ∈ Ti∈IAi. (σA2) und (σA3) ebenso! (cid:3) 1.12SatzundDefinition. SeiE⊂P(Ω)einMengensystem.Dannist \ A(E):= A Aσ-Algebra E⊂A eineσ-Algebra,undzwardiekleinste,dieEenthält.MannenntA(E)dievonEerzeugteσ-Algebra. B. Es ist P(Ω) eine σ-Algebra mit E ⊂ P(Ω). Also enthält der Durchschnitt mindestens P(Ω) und (1.11) zeigt, daß A(E) eine σ-Algebra ist. Offenbar gilt E ⊂ A(E). Ist A0 irgendeine σ-Algebra,dieEenthält,sokommtA0 imSchnittvor,alsoA0 ⊃ TA = A(E).A(E)istalsodie kleinste. (cid:3) Sommersemester98 10 SI 1.13 Bemerkung. Der Satz 1.10 stellt also einen Zusammenhang zwischen impliziter und expliziterDefinitioneinerσ-Algebradar,dennerbesagt:Ωabzählbar⇒ A(Elementarereignisse) = P(Ω) x x implizit explizit DasKonstruktionsprinzipdererzeugtenσ-Algebrawirdnunerstmalswichtigfürdieauszwei TeilexperimentenzusammengesetztenExperimente,diejaalsStichprobenraumnachBsp.1.3 Produktmengenhaben. 1.14Beispiel(zweiExperimente). EswerdedasersteExperimentdurch(Ω ,A )beschrieben, 1 1 sowiedaszweitedurch(Ω ,A ).SeiΩ=Ω ×Ω .WirwollenmindestensdieTeilmengen 2 2 1 2 A ×Ω (=ˆ beimerstenExperimentgeschiehtA ) und 1 2 1 Ω ×A (=ˆ beimzweitenExperimentgeschiehtA ) 1 2 2 inderσ-Algebrahaben.WirverwendendeshalbaufΩ=Ω ×Ω dieProduktσ-Algebra 1 2 A ⊗A :=A({A ×Ω , Ω ×A }|A ∈A , A ∈A }) 1 2 1 2 1 2 1 1 2 2 InsbesonderegehörendazudieMengen A ×A =(A ×Ω )∩(Ω ×A ) fallsA ∈A 1 2 1 2 1 2 j j (1) Spezialfall: Sind Ω ,Ω abzählbar, so auch Ω × Ω . Falls A = P(Ω ), A = P(Ω ), so ist jedes 1 2 1 2 1 1 2 2 Elementarereignis{(ω ,ω )}∈Ω ×Ω als 1 2 1 2 {(ω ,ω )}={ω }×{ω }∈A ⊗A 1 2 1 2 1 2 undsomitnachSatz1.10 A ⊗A =P(Ω ×Ω ) 1 2 1 2 (2) DerzweimaligeWurfeinesWürfelswerdedurchΩ = Ω ×Ω mitΩ = Ω = {1,...,6} 1 2 1 2 modelliert.IstA = P(Ω ),soistdieProduktσ-AlgebraA ⊗A diePotenzmengeP(Ω) j j 1 2 undfolglichz.B.: ersterWurfungerade =ˆ {1,3,5}×{1,...,6} Summe≥10 =ˆ {(6,4),(4,6),(5,5),(6,5),(5,6),(6,6)} beideWürfegleich =ˆ {(1,1),(2,2),...,(6,6)} 1.15Beispiel. EinExperiment,dasdurch(Ω,A)beschriebenwird,sollmehrmalswiederholt werden.DieZahlderWiederholungenwerdedurcheineMengeIindiziert,alsoetwa: I={1,...,n} bei nWiederholungen I=N bei ∞-vielenWiederholungen I=R+ bei kontinuierlichemProzeß IentsprichtderMengederZeitpunkte.Stichprobenraum: ΩI ={(ω : i∈I)|ω ∈Ω} i i ω beschreibtdasEreignisdesi-tenExperimentesbzw.deri-tenBeobachtung.AufΩI sollnun i eine geeignete σ-Algebra definiert werden. Dazu sollten zumindest Ereignisse gehören, die übereinbestimmtesExperiment j∈IeineAussagemachen,alsodieMengen Z (A)={(ω)∈ΩI|ω ∈A, ω beliebigfüri, j} j i j i DievondemSystem E={Z (A)| j∈I, A∈A} j