Information und Kommunikation Herausgegeben von H. Marko und J. Hagenauer Springer Berlin Heidelberg New York Barcelona Budapest Hongkong London Mailand Paris Santa Clara Singapur Tokio Bernd Friedrichs Kanalcodierung Grundlagen und Anwendungen in modernen Kommunikationssystemen unter Mitarbeit von Peter Herbig Mit 112Bildern, 32Tabellen, 117 Beispielen und 160Aufgaben Springer Herausgeber Prof. Dr.-Ing. Dr.-Ing.E. h. HANS MARKO Prof.Dr.-Ing.JOACHIM HAGENAUER TU Munchen, LehrstuhlfUr Nachrichtentechnik Institutfur Informationstechnik ArcisstraBe21 80290Munchen Autor Dr.-Ing.BERNDFRIEDRICHS BoschTelecomGmbH UC-MF/EWG 1 Gerbetstr. 33 71522 Backnang Die Deutsche Bibliothek- CIP-Einheitsaufnahme Friedrichs, Bernd: Kanalcodierung: Grundlagen und Anwendungen in modernen KommunikationssystemenlBernd Friedrichs. - Berlin; Heidelberg; New York; Barcelona; Budapest; Hong Kong; London; Mailand; Paris; SantaClara; Singapur; Tokio: Springer, 1995 (Information und Kommunikation) ISBN-I3:978-3-642-6464I-6 e-ISBN-13:978-3-642-60985-5 DOl:10.1007/978-3-642-60985-5 Dieses Werk isr urheberrechrlich geschiitzr. Die dadurch begriinderen Rechle, insbesonderedie der OberselZung, des Nachdrucks, des Vonrags, der Entnahme von Abbildungen und Tabellen, der Funksendung,derMikroverfilmungoderderVervielfaltigungauf anderenWegenundderSpeicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwenung, vorbehalten. Eine VervielfaltigungdiesesWerkesodervonTeilendiesesWerkesistauchimEinzelfallnurindenGrenzen dergesetzlichen Bestimmungendes Urheberrechtsgesetzesder BundesrepublikDeutschlandyom 9. September 1965inderjeweilsgeltendenFassungzulassig.Sieistgrundsatzlichvergutungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechtsgesetzes. © Springer-VerlagBerlin Heidelberg 1996 Softcoverreprintofthehardcover1stedition1996 Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigtauchohnebesondere Kennzeichnung nichtzuderAnnahme, daBsolche Namen imSinne der Warenzeichen- und Markenschutz·Gesetzgebung als frei zu betrachlen waren und daher von jedermannbenutztwerden durften. SollteindiesemWerkdirektoderindirektaufGesetze,VorschriftenoderRichtlinien(z.B.DIN,VDI, VDE) Bezuggenommen oder aus ihnen zitiert worden sein, so kann der Verlag keine Gewahr fiir Richtigkeit, Vollstandigkeit oder Aktualitat ubernehmen. Es empfiehlt sich, gegebenenfalls fUr die eigenen Arbeiten die vollstandigen Vorschriften oder Richtlinien in der jeweils giiltigen Fassung hinzuzuziehen. Einbandgestaltung: Struve& Partner, Heidelberg Herstellung: PRODUserv SpringerProduktions-Gesellschaft, Berlin SPIN 10470176 62/3020-543210- GedrucktaufsaurefreiemPapier. Zur Buchreihe "Information und Kommunikation" DieneueBuchreihe"InformationundKommunikation" isteineWeiterfUhrungund Fortsetzung der friiheren Reihe "Nachrichtentechnik". Die Umbenennung wurde dadurchveranlaBt,daBdie klassische Nachrichtentechnikdurch dieAufnahmeder DatenverarbeitungundihrerAnwendungenwiederAutomationsichimmermehrzu einer allgemeinen "Informationstechnik" entwickelt hat und heute auch meist so bezeichnetwird.Hierbeisoli,derZielsetzungderReiheentsprechend,die"Kommu nikation" nachwievoreinebedeutendeRollespielen,was indem neuenTitelzum Ausdruck kommt. Wie bereits in der friiheren Reihe sollen auch in der neuen Reihe Monographien maBgebenderAutorenfUrbestimmteTeilgebietedesgroBen undsichstetigweiter entwickelnden Bereiches der Informations- und Kommunikationstechnik aufge nommenwerden.HierbeisollensowohldieGrundlagenalsauchbestimmteAnwen dungsgebiete schwerpunktmaBig behandelt werden. Die Biicher sollen daher so wohlfUrStudierendealsauchfUrimBerufstehendeFachleutevonNutzensein.Bei dieser Konzeption sind teilweise Uberlappungen des Stoffgebietes der einzelnen Bande unvermeidlich undsogargewiinscht. Es wirdjedochangestrebt, eine mog lichst vollstandige Darstellung der Grundlagen und der neuen Anwendungen des groBenGebietesderInformations- und Kommunikationstechnikzuerreichen. Der Springer-VerlaghatsichdankenswerterweiseurneineentsprechendeGestaltungder neuen Bandebemiiht. Wirwiinschen der neuen Reihe viel Erfolg! Miinchen, im Herbst 1994 Die Herausgeber H. Marko J. Hagenauer Vorwort Seit der Begriindung der Informations- und Codierungstheorie durch die Ar beiten von Claude E. Shannon sindfast fiinf Jahrzehnte vergangen. In diesem Zeitraum hat sich die Kanalcodierung von einer rein theoretischen Disziplin zueinerausgedehntenanwendungsorientiertenWissenschaftentwickelt. Infast allen modernen und leistungsfahigen Systemen zur Nachrichteniibertragung oder Nachrichtenspeicherung stellt die Kanalcodierung heute einen zentralen und pragenden Baustein dar. Mit der Compact Disc und mit Modems zur Dateniibertragung dringen Codierungsverfahreninzwischen auch in die privat genutzte Elektronik vor. Durch Kanalcodierung kann die Ubertragungsqualitat enorm gesteigert werden und gleichzeitig kommen die Ubertragungsverfahren mit weniger Sen deleistung und teilweise auch mit weniger Bandbreite aus. Diese Vorteile miissen nicht mit einer Reduktion der Datenrate bezahlt werden, sondern nur mit einem erh6hten Aufwand an digitaler Signalverarbeitung in Sender und Empfanger. Die Codierungstheorie liefert Resultate zur Struktur und zu den Eigenschaftenvon Codes sowieeffiziente und aufwandsgiinstige Verfahren zur Decodierung. Zusammen mit der hochintegrierten Schaltungstechnik, die im mer leistungsfahiger und kostengiinstiger wird, fiihren die Fortschritte in der Kanalcodierung zu einer standigen Weiterentwicklung der Ubertragungsver fahren sowie zu einer effizienteren Nutzung der UbertragungskanaIe. Allerdingsstellt dieKanalcodierungeintheoretischauBerordentlichschwie riges Gebiet dar, das sicherlich zu den anspruchsvollsten und faszinierendsten Disziplinen der Nachrichtentechnik wie auch der Informatik zahlt. Das beson dere Bediirfnis zur Darstellung der Grundlagen und Anwendungen der Ka nalcodierung pragt sich in der Vielzahl von Lehrbiichern zu diesem Thema aus. Das Literaturverzeichnis weist fast 40 Biicher aus, die sich ausschlieBlich mit Kanalcodierung befassen, darunter auch einige Werke in deutscher Spra che. Viele Lehrbiicher zur digitalen Ubertragungstechnik enthalten ebenfalls ein in die Codierungstheorie einfiihrendes Kapitel. Trotz dieser Vielzahl von Biichern, die sich in Umfang, Niveau und thematischen Schwerpunkten sehr unterscheiden, seheich durchaus die Notwendigkeit fiir ein weiteres Lehrbuch, das sich an folgenden Gesichtspunkten orientiert: • Die beiden wichtigsten Codeklassen, namlich Blockcodes einschlieBlichder hochentwickelten RS- und BCH-Codes mit ihrer komplexen mathemati schen Struktur sowie Faltungs- und Trelliscodes in Verbindung mit digi- VIII Vorwort talen Modulationsverfahrenund moderner Empfiingertechnik, werden mit dem gleichen Gewicht behandelt. • Von den vielenbekanntenspeziellenCodeklassenwerdenaus Platzgriinden sowie zur besseren Ubersicht nur sehr wenige dargestellt, diese aber sehr ausfiihrlich. Neben den ublichen Kanalmodellen AWGN und BSC werden auch KanaIe mit Fading und Interferenz-Verzerrungen berucksichtigt. • Verschiedene aktuelle Anwendungender Kanalcodierungin den Bereichen Satellitenkommunikation, Modemtechnik, Mobilfunk, Richtfunk und Au diotechnik werden ausfiihrlich erortert. • Bis aufwenige Ausnahmenwerdenalle Aussagenausfiihrlichund vollstiin dig bewiesen. Dem besseren Verstiindnis komplizierter Zusammenhange dient streckenweisedas klassische SchemaDefinition-Satz-Beweis-Beispiel. DerText soIlzum Selbststudiumgeeignet sein,und zwarsowohlfur Studenten der Nachrichtentechnik, Informatik oder Mathematik wie auch fUr Entwick lungsingenieure,diemit dem Entwurfund der Implementierungvon Nachrich tensystemen befaf3t sind. Vorausgesetzt werden lediglich einige nachrichten technische Grundkenntnisse. Jedes Kapitel enthiilt eine Reihe von Ubungsauf gaben, zu denen auch Losungshinweiseangegeben sind. Das Buchgliedert sich in vier Teile: Teil I: Grundlagen (Kapitel 1 und 2): Zuniichst werden die wichtigen Begriffe des diskreten Kanals, der Maximum-Likelihood-Decodierungund des asymptotischenCodierungsgewinnsausfUhrlicherkliirt. EineEinfiihrungindie Shannon'scheInformationstheoriefordert das VerstiindnisfUr die prinzipiellen Grenzen und Moglichkeiten der Kanalcodierung. Die Kanalkapazitiit und der Ro-Wert werden fur verschiedene Kaniile und Modulationsverfahren berech net. FUr den Spezialfall des biniiren symmetrischen Kanals werden das Shan non'sche Kanalcodierungstheorem und das Ro-Theorem vollstandig bewiesen. Teil II: Blockcodes (Kapitel 3 bis 7): Die Beschreibung linearer Codes durch Matrizen und zyklischer Codes durch Polynomefolgt der ublichen Dar stellungsweise. BesondereBerucksichtigungfinden dieasymptotischen Schran ken in Verbindung mit der Informationstheorie, die umfassende Berechnung der Fehlerwahrscheinlichkeit bei Hard- und Soft-Decision Decodierung sowie die Leistungsfiihigkeit zyklischer Codes bei KanaIen mit Bundelfehlern. Die mathematischen Grundlagen werdengrundsiitzlich erst dort entwickelt, wosie auch wirklich benatigt werden. Die Theorie der Galoisfelder wird in Kapitel 6 unter rechentechnischen Aspekten dargestellt, wiihrend im Anhang verschie denemathematischeExistenzbeweiseundweitergehendeBegriffsbildungenins besondere bei Polynomringen im Vordergrund stehen. Den ersten von zwei Schwerpunkten des Buches bilden die RS- und BCH Codes, die in Kapitel 7mit der modernen spektralen BeschreibungeingefUhrt werden. Durch RestriktionimZeitbereich aufden Primkorper IF ergeben sich p die BCH-Codes als Spezialfall der RS-Codes. Die Decodierung kann sowohl im Frequenz- wie im Zeitbereich stattfinden, wobei die Lasung der Schliissel- Vorwort IX gleichung sowohl mit dem Berlekamp-Massey wie mit dem Euklidischen Al gorithmus erfolgen kann. Auch die RS-Decodierung bei Kanalen mit Fehlern und Ausfiillen sowie die Decodierung binarer BCH-Codes werden ausfiihrlich behandelt. Teil III: Faltungscodes und Trelliscodes (Kapitel 8bis 10): Aufgrund des Prinzips der Punktierung erscheint es sinnvoll, binare Faltungscodes nur mit der Coderate R = lin zu betrachten. Die Beschreibung mit dem Trel lisdiagramm bildet die Grundlage fur die Maximum-Likelihood Decodierung mit dem Viterbi-Algorithmus, wiihrend das Zustandsdiagramm die Berech nung der Distanzeigenschaften und der Fehlerwahrscheinlichkeit ermoglicht. Mit RCPC-Codes und Soft-Output Decodierung werden aktuelle Entwicklun genberucksichtigt,diefurverschiedeneAnwendungenvonzentralerBedeutung sind. DieVerfahrendersogenanntenklassischenKanalcodierungmit Block- und Faltungscodes sind zwar leistungseffizient, erfordern aber iiblicherweise eine Expansion der Bandbreite. Dagegen ermoglicht die trelliscodierte Modula tion in Verbindung mit hoherstufigen digitalen Modulationsverfahren nicht nur leistungseffiziente, sondern auch bandbreiteneffiziente Ubertragungsver fahren. Wegen der enormen Bedeutung bilden diese Methoden den zweiten groBen Schwerpunkt des Buches. Neben den seit 1982 bekannten Ungerb6ck Codeswerdenauchrotationsinvariante, mehrdimensionale,mehrstufige, block codierte und pragmatischeTCM-Verfahren behandelt. Teil IV: Erganzungen und Anwendungen (Kapitel 11 und 12): Bei vielen Anwendungen liegen Fadingkaniile vor, fur die geeignete Interleaving Verfahren sowie Blockcodes und trelliscodierte Modulation diskutiert werden. Der Viterbi-Algorithmus erweist sich bei allen Systemen mit Trellisstruktur als attraktive Methode zur ML-Decodierung, als Beispiele werden die Entzer rung von Kaniile mit Intersymbol-Interferenzen, der optimale Empfanger bei ContinuousPhaseModulationsowiedieSoft-Decision Decodierungvon Block codes betrachtet. Mit Produktcodes und der Summenkonstruktionkonnen lei stungsfahige Blockcodes aus einfachen Blockcodes generiert werden. Verschie dene Beispiele verdeutlichen die uberragende Bedeutung des Prinzips der Co deverkettung. Die eindrucksvolle Vielfalt der bei modernen Kommunikationssystemen eingesetzten Codierungsverfahren mit der jeweiligen Anpassung an die Ka naleigenschaftenillustrierenverschiedeneAnwendungenwiedieSatellitenkom munikation bei erdfernen Forschungssatelliten, Modems fur den Telefonkanal, digitale Mobilfunksysteme der heutigen und der zukunftigen Generation, di gitale Breitband-Richtfunksysteme sowie die Nachrichtenspeicherung bei der Compact Disc. Manche Lehrbiicher zur Codierungs- und Informationstheorie sind nach meiner Auffassung entweder zu theoretisch geschrieben ohne die ingenieur maBigen Probleme bei der Anwendung ausreichend zu berucksichtigen oder andererseitszusehranwendungsorientiertmit Vernachlassigungdes mathema- x Vorwort tischen Hintergrundes. Mit diesem Buch wird ein einigermaBen ausgewogener KompromiB zwischen Theorie und Anwendung angestrebt. 1m Rahmen mei ner Tatigkeit bei Bosch Telecom (vormals ANT Nachrichtentechnik) konnte ich uber etliche Jahre hinweg Erfahrungen bei der Entwicklung und Imple mentierung codierter Ubertragungssystemesammeln. Das Buch ist aus Unterlagen zu Kursen hervorgegangen, dieich seit lange rer Zeit im Rahmen des Weiterbildungsprogramms meiner Firmaveranstalte. Hinzukommt dieVorlesung Verfahren zur Kanalcodierung, dieichseit 1993an derUniversitat KarlsruhefUrStudentenderNachrichtentechnikim8. Semester sowiefUr Informatiker und Mathematiker halte. Aus Zeitgrunden kann in der Vorlesung allerdings nur etwa ein Drittel des Stoffes aus dem Buch behandelt werden. An dieser Stelle mochte ich all denjenigen Personen danken, die mir bei derErstellungdes Buchesbehilflichwaren. Zunachst geht meinDank an Herrn Prof. F. Jondral yom LehrstuhlfUr Nachrichtensystemeder Universitat Karls ruhe, der die Vorlesung angeregt und gefordert hat, sowie an seinen Mitar beiter Herrn G. Wetzker, der groBe Teile des Manuskripteszweimal aufFehler durchgesehenhat undmirdabei unzahlige HinweisezurVerbesserungderDar stellunggegeben hat. Viele Ratschlage verdankeich auch Herrn Prof. D. Lazic yom Institutfur Algorithmen und KognitiveSysteme. Die Horer meinerVorle sunginKarlsruheunddieTeilnehmeranmeinenKurseninBacknanghabenzu der Arbeit mit Fragen, Anregungen und VerbesserungsvorschHigen wesentlich beigetragen. Bei meinen Kollegen bedanke ich mich fUr vielerlei Unterstutzung, insbe sondere bei den Herren Dr. M. Welzenbach, Dr. W. Hauk und Dr. V. Hespelt fur die immer kreative und stimulierende Atmosphare. Ein ganz besonderer Dank gilt meinem Kollegen P. Herbig fUr zahllose anregende Diskussionen, fUr diefachliche Unterstutzung insbesonderebeim TCM-Kapitel, sowiefUr die Durchsichtder Aufgaben unddas Korrekturlesen. Herr H. Erchingerstandmir bei Jffi.TE)XnischenProblemenzur Seite. FrauM. Schulerhat mitgroBerSorgfalt aIle Interleaf-Bilder angefertigt. Nicht zuletzt geht der Dank an meine Eltern, die mit viel Engagement einen scheinbarkryptischen Text aufsprachlicheMangel durchgesehen haben. Den Herausgebern Prof. H. Marko und Prof. J. Hagenauer danke ich fur die Aufnahme des Buches in die Reihe "Information und Kommunikation". SchlieBlich bedanke ich mich bei den Mitarbeitern des Springer-Verlages, ins besondere bei Herrn Dr. D. Merkle, fUr die konstruktive und vertrauensvolle Zusammenarbeit. Bernd Friedrichs Backnang, im Juli 1995 Inhaltsverzeichnis TElL I: GRUNDLAGEN 1 Einflihrung: Codes und Kanale 1 1.1 Was ist Kanalcodierung ? . . . . . . . . . 1 1.2 Codierung in der Nachrichtenubertragung 6 1.3 Der Begriffdes diskreten Kanals . . . . 8 1.4 Grundprinzip der Blockcodierung . . . 15 1.5 Hammingdistanz und Minimaidistanz . 18 1.6 Maximum-Likelihood-Decodierung. 20 1.7 Der Begriffdes Codierungsgewinns 25 1.8 Grundgedankeder Kanalcodierung 30 1.9 Aufgaben. . . . . . . . . . . . . . . 30 2 Grundlagen der Shannon'schen Informationstheorie 33 2.1 Kanalkapazitiit des DMC . 33 2.2 Kanalcodierungstheorem............... 38 2.3 Ro-Theorem . . . . . . . . . . . . . . . . . . . . . . 41 2.4 Codierungsgewinn beim AWGN mit biniirem Input 45 2.5 C und Ro beim AWGN mit nicht-biniirem Input. . 49 2.6 Kanalkapazitiit beim AWGN mit Bandbegrenzung . 57 2.7 Anhang: Beweis des KanalcodierungstheoremsfUr den BSC 61 2.8 Anhang: Beweis des Ro-Theorems fur den DMC 65 2.9 Aufgaben............................. 67 TElL II: BLOCKCODES 3 Lineare Blockcodes . . . . . . . . . . . . . . . . . . . . . . . . .. 69 3.1 Definition Iinearer Blockcodes . . . . . . . . . . . . . . . . .. 69 3.2 Erkennung und Korrektur von Fehiern und metrische Struktur 73 3.3 SchrankenfUr die Minimaidistanz . . . . . . . . . . . . . . .. 80