Prof. Dr. U. Faigle
Dipl.-Math. D. Andres SS 2004
7. Übung
zur Informationstheorie, Kodierung und Kryptographie
Abgabe am 17.6. bzw. 18.6.2004 in der Übungsstunde
Aufgabe 26: (Kanäle: Serien- und Parallelschaltung) 3+3+4 Punkte
Gegeben seien zwei Kanäle K1 bzw. K2 durch die Kanalmatrizen
P1 =
2
3 0
0 23
1 3
1 3
bzw.
P2 =
3 4
1 4
1 2 1 4
3 4
1 2
! .
Geben Sie die Kanalmatrizen a) der Serienschaltung K1K2, b) der Serienschaltung K2K1 sowie
c) der Parallelschaltung K1⊗K2 an!
1
Aufgabe 27: (Dekodierregeln) (2+2)+(3+2)+(4+2) Punkte
Sei der Code C ={00,11} ⊆ {0,1}2 gegeben. Eine Quelle produziert Code- wörter mit den Wahrscheinlichkeiten
p(00) = 1
4 bzw. p(11) = 3 4. Ein Kanal überträgt diese gemäÿ der Kanalmatrix
P = (p(y|x))y∈{0,1}2,x∈C =
p(00|00) p(00|11) p(01|00) p(01|11) p(10|00) p(10|11) p(11|00) p(11|11)
=
1 2
1 4 1 4
1 2
0 14
1
4 0
.
Dekodieren Sie alle empfangenen Wörter aus {0,1}2 a) nach einer Hamming-Dekodierregel,
b) nach einer Maximum-Likelihood-Dekodierregel, c) nach einer idealen Dekodierregel,
und berechnen Sie für a), b) und c) jeweils den mittleren Dekodierfehler!
Aufgabe 28: (Auslöschungskanal) 10 Punkte
Für ε∈(0,1)ist der Auslöschungskanal KA(ε)gegeben durch die Kanalma- trix
P =
1−ε 0 0 1−ε
ε ε
Berechnen Sie die Kanalkapazität C(KA(ε))!
2
Hinweis: Gleiche Methode wie bei der Kapazität des binären symmetrischen Kanals.
Aufgabe 29: (triviale Kanäle) (4+1)+(4+1)+(4+1) Punkte
Berechnen Sie die Kanalkapazität für einen Kanal mit Kanalmatrix a) P1 = (1 1 1 . . . 1
| {z }
n
)
b) P2 = (ε1 ε2 ε3 . . . εn)T, wobei εi ≥0und P εi = 1 c) P3 =In (n×n-Einheitsmatrix)
Wie sind diese Ergebnisse anschaulich zu erklären?
Aufgabe 30: (Kanalkapazität) 10 Punkte
Ein Kanal K sei gegeben durch die Kanalmatrix
P =
1
3 0 16 0 0 13 0 16
1
3 0 16 0 0 13 0 16
1
6 0 13 0 0 16 0 13
1
6 0 13 0 0 16 0 13
Man berechne die Kanalkapazität C(K)!
Hinweis: Man beachte die besondere Struktur der Matrix, rechne nur mit gewissen kleineren Matrizen und wende einen Satz der Vorlesung an.
3
