Dieser Audiobeitrag wird von der Universität Erlangen-Nürnberg präsentiert.
Also Beginner, guten Morgen. Schön, dass Sie da sind zur Informationszüge.
Unser Thema im Kapitel 4 waren zuletzt die symmetrischen Kanäle.
Und das ein bisschen kompliziert definiert.
Ein symmetrischer Kanal ist also einer, der sich aus streng symmetrischen Teilkanälen zusammensetzen lässt.
Und dazu brauchen wir zunächst die Definition des streng symmetrischen Kanals.
Der streng symmetrische Kanal, das ist einer, der gleichmäßig sammelnd und gleichmäßig streuend ist.
Sprich, wenn man die Matrix hinschreibt mit den Übergangswahrscheinlichkeiten, dass einem Eingangssymbol, einem gegebenen Eingangssymbol ein gewünschtes Ausgangssymbol entsteht,
wenn man diese Wahrscheinlichkeit in der Matrix ordnet, sodass die Zeilen Summe 1 ist,
also die Ausgangssymbolen längs der Spalten marschieren und die Eingangssymbolen längs der Zeilen,
dann ist ein streng symmetrischer Kanal dadurch gekennzeichnet, dass alle Zeilen dieser Matrix wechselseitig aus durch Permutation hervorgehen.
Also dieselben Zahlen drin stehen, nur anders angeordnet.
Und ein gleichmäßig sammelnder Kanal, indem dieser Matrix alle Spalten auseinander durch Permutation hervorgehen,
also dass in jeder Spalte das Gleiche steht, nur anders angeordnet.
Also anders angeordnet soll es schon sein, vor allem in den Zeilen, weil sonst zwei Symbolienfangseite überhaupt nicht unterscheiden passen.
Und dann haben wir festgestellt, bei einem streng symmetrischen Kanal wird die wechselseitige Information maximiert durch Gleichverteilung am Eingang
und das erzeugt eine Gleichverteilung am Ausgang.
Also gleichwahrscheinliche Eingangsympole führen zur höchstmöglichen wechselseitigen Information zwischen Ein- und Ausgang,
also den maximalen Transport von Information von der Sendung auf die Empfangsseite, pro einmal die Kanalbenutzung,
pro einem Ein-Ausgangssymbolpaar.
Und für einen streng symmetrischen Kanal war das einfach zu beweisen.
Und dann kam diese Lockerung der Definition zum symmetrischen Kanal.
Der symmetrische Kanal ist also einer, der sich aus streng symmetrischen Teilkanälen zusammensetzen lässt,
und zwar so, dass in jeden Teilkanal alle Eingangsympole hineingehen, aber in jedem Teilkanal nur ganz spezielle Ausgangssympole herauskommen.
Also die Menge der Ausgangssympole wird aufgeteilt auf Teilmengen und zu jeder Teilmenge gehört ein Teilkanal.
Und man muss also die Spalten, zunächst einmal muss man diese Matrix anschauen,
ist die Zeilenuniform, also gleichmäßig streuen, wenn nicht, dann ist er nicht symmetrischt, kann man vergessen.
Wenn die Zeilenuniform ist, die Matrix, dann suchen wir uns gleiche Spalten, nicht gleiche,
sondern einander durch Permutation hervorgegangene Spalten, die also zueinander passen für einen streng symmetrischen Kanal,
und ordnen die in einer neuen Matrix an, und dann wissen wir, dass die Spaltenuniform ist, diese Teilmatrix,
dann müssen wir wiederum die testen, ob sie zeilenuniform geblieben ist, und damit ist dann das ein streng symmetrischer Teilkanal.
Wichtig ist, dass jedes Ausgangssymbol nur für einen Teilkanal vorkommen kann.
Dann kann man noch die Wahrscheinlichkeiten, die Zeilensummen zu 1 normieren in jeder dieser Teilmatrix,
damit es einen Kanal gibt, damit es eine normale Übergangsmatrix ist, damit die Summe der Wahrscheinlichkeiten 1 ist.
Und den Faktor, den man dabei rausziehen muss, dass die Summe der Wahrscheinlichkeiten in der Zeile 1 gibt,
den schreibt man als W vorneweg, und das ist dann das Gewicht dieses Teilkanals,
und die Summe der Gewichte gibt dann 1. Man kann sich das dann so vorstellen, bei seinem symmetrischen Kanal,
man hat also hier diese streng symmetrischen Teilkanäle, und unabhängig vom Eingangssignal,
wählt mit der Zufall, mit der Verteilung W, W1 bis WV, wird ein streng symmetrischer Teilkanal ausgewählt,
und dann kommt das Eingangssymbol und wird über diesen ausgewählten Kanal übertragen,
und das war's dann. Klar? Also den Ausgangsschalter braucht man eigentlich, ja man muss ja alle verbinden, klar? Aber okay.
Und dann kann man also, also ein Beispiel, das wir gemacht haben, ist das Binary-Auslöschungskanal,
Binary-Resure-Channel mit dieser Matrix, dann nehmen wir die erste Spalte, oh ich muss das anders machen,
dafür habe ich das Teil hier, ich nehme also die erste Spalte und nehme die dritte Spalte und sehe,
aha, die zwar passen zusammen, das sind Spaltenuniformen, bleiben zeilenuniform,
ich kann den Faktor 1-e herausnehmen und bekomme diese Matrix, und eine Spalte ist zu sich selber natürlich immer zeilenuniform,
und eine einzige Zahl ist ihrer eigenen Permutation gleich, das funktioniert also an dieser Stelle auch.
Okay, und damit kann man also die beiden Teilkanäle machen, das heißt, dass der Kanal entscheidet sich schon einmal im Vorhinein,
will ich das nächste Mal das Symbol auslöschen oder nicht, und dann kommt das Eingangssymbol.
Je nachdem, wie er sich entschieden hat, auslöschen oder nicht, wählt er den ersten oder zweiten Teilkanal.
Presenters
Zugänglich über
Offener Zugang
Dauer
01:32:10 Min
Aufnahmedatum
2015-05-20
Hochgeladen am
2015-05-20 10:48:21
Sprache
de-DE
Grundlegende Definitionen: Information, Entropie, wechselseitige Information. Quellencodierung zur Datenreduktion: Quellencodierungstheorem, verschiedene verlustfreie Kompressionsverfahren für diskrete Quellen nach Huffman, Tunstall und Lempel-Ziv, Entropie und Codierung für gedächtnisbehaftete Quellen, Markovketten. Kanalcodierung zur zuverlässigen Übertragung über gestörte Kanäle: Kanalmodelle, Kanalkapazität, Kanalcodierungstheorem, Abschätzungen der Fehlerwahrscheinlichkeit, cut-off-Rate, Gallager-Fehlerexponent.