长安大学信息工程学院2010-2011年度 硕士研究生《信息论与编码技术》考试试题
x?X??0一、有一个二元等概信源???1??q(X)???2x1?1?,通过信道转移概率为?2?P?x0x1y0y1?5/61/6?的信道传输，信宿接受符号Y?{y0,y1}， ?1/21/2???（1）计算信道疑义度和散布度。
（2）计算信源与信宿间的平均互信息量I(X;Y)。
?100101??H??010011????001111?? 二、 设一分组码具有一致校验矩阵：
(1).求这分组码的n,k各为多少？共有多少个码字？ (2).此分组码的生成矩阵？ (3).矢量101010是否是码字？
(4).设发送码字C=(001111)，但接收到的序列为R=(000010)，其伴随式S是什么？
这伴随式指出已发生的错误在什么地方，为什么与实际错误不同？
三、 设信源：
xxxxxx6x7x8??X???12345??11111111???P(X)?????248163264128128??
(1) 求信源熵H(X)；
(2) 编二进制香农码和二进制费诺码；
(3) 计算二进制香农码和二进制费诺码的平均码长和编码效率；
(4) 编三进制费诺码；
(5) 计算三进制费诺码的平均码长和编码效率；
四、现有(7，4)汉明码，其系统码形式为：
?1?0G???0??0000?101?100?111??010?110??001?011?
?1110?100??H??0111?010????1101?001??
1) 对于信息组m =(1011)，编出的码字是什么？ 2) 它的编码器原理图？
3) 若接收到一个7位码r =(1001101),检验它是否是码字？
五、信源空间为
试分别构造二元和三元霍夫曼码，计算其平均码长和编码效率。
六、设有一离散信道，其信道传递矩阵为，并设，试
分别按最小错误概率准则与最大似然译码准则确定译码规则，并计算相应的平均错误概率。
七、已知一（8，5）线性分组码的生成矩阵为求：1、输入为全00011和10100时该码的码字；
2、最小码距。
。
八、设某一信号的信息传输率为5.6kbit/s，在带宽为4kHz的高斯信道中传输，噪声功率谱NO=5×10－6mw/Hz。试求：
（1）无差错传输需要的最小输入功率是多少？
（2）此时输入信号的最大连续熵是多少？写出对应的输入概率密度函数的形式。
1.答案老师讲过。
2.课件 3.设信源
xxxxxx6x7x8??X???12345??11?111111??P(X)?????248163264128128??
(1) 求信源熵H(X)；
(2) 编二进制香农码和二进制费诺码；
(3) 计算二进制香农码和二进制费诺码的平均码长和编码效率； (4) 编三进制费诺码；
(5) 计算三进制费诺码的平均码长和编码效率； 解： (1)
H(X)???p(xi)log2p(xi)i?1811111111??log22??log24??log28??log216??log232??log264??log2128??log2128248163264128128?1.984bit/symbol(2)
二进制香农码：
xi x1 x2 x3 x4 x5 x6 p(xi) 0.5 0.25 0.125 0.0625 0.03125 0.015625 pa(xi) 0 0.5 0.75 0.875 0.9375 0.96875 0.984375 ki 1 2 3 4 5 6 7 码字 0 10 110 1110 11110 111110 1111110 x7 0.0078125 x8 0.0078125 0.9921875 二进制费诺码：
xi x1 x2 x3 x4 x5 x6 x7 x8 p(xi) 0.5 0.25 0.125 0.0625 0.03125 0.015625 0.0078125 0.0078125 0 0 0 编码 0 7 1111111 码字 0 0 1 0 10 110 1110 11110 111110 1111110 1111111 ki 1 2 3 4 5 6 7 7 0 （3）香农编码效率
11111111K??kip(xi)??1??2??3??4??5??6??7??7248163264128128i?1.984??H(X)H(X)1.984???100%R1.984K
费诺编码效率
11111111K??kip(xi)??1??2??3??4??5??6??7??7248163264128128i?1.984??H(X)H(X)1.984???100%R1.984K
4
xi x1 x2 x3 x4 x5 x6 x7 x8 （5）
p(xi) 0.5 0.25 0.125 0.0625 0.03125 2 0.015625 0 1 编码 码字 0 1 20 21 220 221 0 2220 ki 1 1 2 2 3 3 4 4 0 1 0 1 2 2 0.0078125 0.0078125 1 2221 K??kip(xi)?i11111111?1??1??2??2??3??3??4??4248163264128128?1.328??H(X)H(X)1.984???94.3%RK?log2m1.328?log23
4.咱本科教材98页
5.答：1）二元码的码字依序为：10，11，010，011，1010，1011，1000，1001。 平均码长
，编码效率
2）三元码的码字依序为：1，00，02，20，21，22，010，011。
平均码长
，编码效率
6.答：1）最大似然译码准则下，有，
2）最小错误概率准则下，有
，
7.答：1）输入为00011时，码字为00011110；输入为10100时，码字为10100101。 2）
8.答：1）无错传输时，有即则2）在
时，最大熵
对应的输入概率密度函数为