信息论与编码理论-第6章信道编码概述-习题解答-20071203

第6章 信道编码概述

习题答案

1．计算码长n =5的二元重复码的平均译码错误概率。假设无记忆二元对称信道错误传递概率为p 。此码能检测出多少位错误？又能纠正多少位错误？如令p =0.01,平均译码错误概率是多大？ 解：

码长n=5的二元重复码是（00000，11111），码间最短距离为5， d min =5=e+1 e=4 可以检测出小于等于4位以下的错误。 d min =5=2×2+1=2t+1 t=2 可以纠正2位及2位以下的错误。

5544332

5555

(1)(1)0.9810E E P C p C p p C p p P -=+-+-∴=? p=0.01

2． 设有一个离散无记忆信道，其信道矩阵为

1/2 1/3 1/61/6 1/2 1/3.1/3 1/6 1/2P ??

??=??

????

若信源概率分布为p (x 1)=1/2，p (x 2)=p (x 3)=1/4，求最佳译码时的平均错误译码概率。 解：

极大似然译码规则译码时，由转移概率矩阵可知：第一列中12，第二列中1

2

，第三列中

1

2

为转移概率的最大值，所以平均错误概率为： 1111111111()()()2364364362

E P =?++?++?+=

最小错误概率译码，输入x 与输出y 的联合概率分布为：

111,,4612111,,24812111,,12248??

????????????????

11111111(

)()()2412824121224E P =+++++= 由于

111242< 可以看出最佳译码为最小错误概率译码，平均错误概率为

1124

3． 将M 个消息编成长为n 的二元数字序列，此特定的M 个二元序列从2n 个可

选择的序列中独立地等概率地选出。设采用最大似然译码规则译码，求在图6-8中(a)、(b)、(c)三种信道下的平均错误译码概率。

图6-8 三个信道

解：

（1）由图可知，其转移概率矩阵为：1-p p p 1-p ??

?

?

??

该信道任意一个序列译码错误概率为：

0n 0n 1n-11n n 0n n

n n n n

111p=[1-(1-p)(1-p)]C ()+[1-(1-p)(1-p)]C ()+.......+[1-(1-p)(1-p)]C ()

222

=1-(1-p)

平均译码错误概率为：

222

n n

1-(1-p)1-(1-p)E n n M M P M ????=??=????? （2）由图可知，其转移概率矩阵为：1 0p 1-p ??

??

??

任意一个序列译码错误的概率为：

n 0n n-11n 0n n

n n n n

111p=[1-(1-p)]C ()+[1-(1-p)]C ()+.......+[1-(1-p)]C ()

222

2-p =1-()

2

(a)

1

1

1

1

(b)

0 1

1

(c)

平均译码错误概率为：

222n n 2-p 2-p 1-()1-()22E n n M M P M ????

=??=?????????

（3）由图可知，其转移概率矩阵为：1-p p 00 p 1-p ??

????

一个序列错误译码的概率为：

n 0n n 1n n n n

n n n n

111p=[1-(1-p)]C ()+[1-(1-p)]C ()+.......+[1-(1-p)]C ()

222=1-(1-p)

平均译码错误概率为：

222

n n

1-(1-p)1-(1-p)E n n M M P M ????=??=????? 4．某一个信道输入X 的符号集为{0, 1/2, 1}，输出Y 的符号集为{0, 1}，信道矩阵为

1 01/

2 1/2.0 1P ??

??=??

????

现有4个消息的信源通过该信道传输，设每个消息等概出现。若对信源进行编码，选用的码为C ={(0, 0, 1/2, 1/2)，(0, 1, 1/2, 1/2)，(1, 0, 1/2, 1/2)，(1,1, 1/2, 1/2) }。译码规则为

12341211(,,,),,,.22f y y y y y y ?

?= ??

?

解：

(1) 求信息传输率；

log 41

2

R n =

= bit/符号 (2) 求平均错误译码概率。

根据信道的传输特性，可知可以输出24=16种序列，可以分成4个子集，分别为：

13423433443411

α=(0 0 )→(0 0 y y )

2211

α=(0 1 )→(0 1 y y )

2211

α=(1 0 )→(1 0 y y )

2211

α=(1 1 )→(1 1 y y )

22

34y ,y ∈(0 1)

传输信道如下所示：

11(0 0 )

2211(0 1 )

2211(1 0 )

2211(1 1 )

22

0000 0001 0010 0011 0100 0101 0110 0111 1000 1001 1010 1011 1100 1101 1110 11111111 0 0 0 0 0 0 0 0 0 0 0 044441111

0 0 0 0 04444 0 0 0 0 0 0 011110 0 0 0 0 0 0 0 0 0 0 0 444411110 0 0 0 0 0 0 0 0 0 0 0 4444???????????????

??

????

??

?

????

译码规则为：,12341211

f(y ,y ,y ,y )=(y ,y ,)22

每个码字引起错误的概率：(|)(())0 e i

i

r

p p p f βαβα=?≠=∑ i=1、2、3、4

所以 ()0

E i

e C

p p p α

=

=∑

信息论与编码理论习题答案

信息论与编码理论习题 答案 LG GROUP system office room 【LGA16H-LGYY-LGUA8Q8-LGA162】

第二章 信息量和熵 八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的信息速 率。 解：同步信息均相同，不含信息，因此 每个码字的信息量为 2?8log =2?3=6 bit 因此，信息速率为 6?1000=6000 bit/s 掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。问各得到多少信息 量。 解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log = bit (2) 可能的唯一，为 {6，6} )(b p =361 得到的信息量=) (1 log b p =36log = bit 经过充分洗牌后的一副扑克（52张），问： (a) 任何一种特定的排列所给出的信息量是多少？ (b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？ 解：(a) )(a p =! 521 信息量=) (1 log a p =!52log = bit (b) ? ??????花色任选种点数任意排列 13413!13 )(b p =13 52134!13A ?=1352 13 4C 信息量=1313 52 4log log -C = bit 随机掷3颗骰子，X 表示第一颗骰子的结果，Y 表示第一和第二颗骰子的点数之和， Z 表示3颗骰子的点数之和，试求)|(Y Z H 、)|(Y X H 、),|(Y X Z H 、 )|,(Y Z X H 、)|(X Z H 。

2020北邮移动通信作业01

一、判断题（共10道小题，共100.0分） 1. (错误) 2. 信道编码(差错控制)的目的是增加信息在信道传输中的冗余度，使其具有检错或纠错能力，提高信道传输质量；信道解码是检错、纠错的过程。 3. 1.正确 2.错误 4. 扰码SC本身的功能是完成“多址”的功能，在上行方向(反向)区分不同用户，在下行方向(前向)区分不同小区。 5. 1.正确 2.错误 6. (错误) 7. 扩频码是信道化码和扰码的结合，扩频调制可能是由信道化码、扰码单独或联合完成的。

8. 1.正确 2.错误 9. 在无线接入网（RAN）结构层面，为了降低用户面延迟，LTE取消了重要的网元—无线网络控制器（RNC）。 10. 1.正确 2.错误 11. 为了实现LTE所需的大系统带宽，从采用的无线接入技术来看，3GPP不得不选择放弃长期采用的CDMA技术作为核心技术，选用了新的核心传输技术，即OFDM/MIMO技术。 12. 1.正确 2.错误 13. 电磁波的频率、波长与速度的关系如下： f= λ/ c

1.正确 2.错误 15. 电磁波是人类用于远距离实时接收和发送信息的主要载体之一。 16. 1.正确 2.错误 17. 扩频码序列起扩展信号频谱的作用，它与所传的原始信息数据是有关的，会影响信息传输的透明性。 18. 1.正确 2.错误 19. 小区地址用来区分不同基站或扇区；数量上有一定要求，但没有用户地址数量要求大，在质量上要求各小区之间正交(准正交)，以减少小区间的干扰。

1.正确 2.错误 21. 5G技术创新主要来源于无线技术和网络技术两方面。 22. 1.正确 2.错误

信息论与编码课后习题答案

1． 有一个马尔可夫信源，已知p(x 1|x 1)=2/3，p(x 2|x 1)=1/3，p(x 1|x 2)=1，p(x 2|x 2)=0，试画出该信源的香农线图，并求出信源熵。 解：该信源的香农线图为： 1/3 ○ ○ 2/3 (x 1) 1 (x 2) 在计算信源熵之前，先用转移概率求稳定状态下二个状态x 1和 x 2 的概率)(1x p 和)(2x p 立方程：)()()(1111x p x x p x p =+)()(221x p x x p =)()(2132x p x p + )()()(1122x p x x p x p =+)()(222x p x x p =)(0)(2131x p x p + )()(21x p x p +=1 得4 3 1)(=x p 4 12)(=x p 马尔可夫信源熵H = ∑∑- I J i j i j i x x p x x p x p )(log )()( 得 H=0.689bit/符号 2．设有一个无记忆信源发出符号A 和B ，已知4 341)(.)(= =B p A p 。求： ①计算该信源熵； ②设该信源改为发出二重符号序列消息的信源，采用费诺编码方法，求其平均信息传输速率； ③又设该信源改为发三重序列消息的信源，采用霍夫曼编码方法，求其平均信息传输速率。 解：①∑- =X i i x p x p X H )(log )()( =0.812 bit/符号 ②发出二重符号序列消息的信源,发出四种消息的概率分别为 用费诺编码方法 代码组 b i BB 0 1 BA 10 2 AB 110 3 AA 111 3 无记忆信源 624.1)(2)(2 ==X H X H bit/双符号 平均代码组长度 2B =1.687 bit/双符号 B X H R )(22==0.963 bit/码元时间 ③三重符号序列消息有8个,它们的概率分别为 用霍夫曼编码方法 代码组 b i BBB 64 27 0 0 1 BBA 64 9 0 )(6419 1 110 3

信息论与编码习题参考答案

bit/s 104.98310661.130)/)(()/(R bit/frame 10661.1322.3105)(H 105)(H bit/pels 322.310log )(log )()(H 76650510 10?=??=?=∴?=??=??====∑=frame bit X H s frame r x X a p a p x i i i 所需信息速率为：每帧图像的熵是：每个像素的熵是：，由熵的极值性： 由于亮度电平等概出现 . 5.2,,5.25.2477.210 log 300log )(H )(H pels /bit 300log )(log )()(H bit 3001030,10,,3001300 11倍左右比黑白电视系统高彩色电视系统信息率要图形所以传输相同的倍作用大信息量比黑白电视系统彩色电视系统每个像素每个像素的熵是：量化 所以每个像素需要用个亮度每个色彩度需要求下在满足黑白电视系统要个不同色彩度增加∴≈====∴=?∑=x x b p b p x i i i 个汉字 最少需要数描述一帧图像需要汉字每个汉字所包含信息量每个汉字所出现概率每帧图象所含信息量556 6 5 5 10322.6/10322.61 .0log 101.2)()()()(,log H(c):1.010000 1000 symble /bit 101.2128log 103)(103)(: ?∴?=-?=≥ ≤-=∴== ?=??=??=frame c H X H n c nH X H n p p x H X H ),...,,(21n p p p n m ≤≤0∑=-=m i i m p q 1 1)log(),,...,,(),...,,(2121m n q q p p p H p p p H m m m n -+≤ ∑∑+==- -=>-=<-=''-=''∴>- =''-=''>-=n m i i i m i i i n p p p p p p p H x x x x f x e x x x f x x e x x x f x x x x f 1 121log log ),...,,( )0(log )( 0log )log ()(0 log )log ()()0(log )( 又为凸函数。即又为凸函数，如下：先证明 时等式成立。 当且仅当时等式成立。当且仅当即可得： 的算术平均值的函数，函数的平均值小于变量由凸函数的性质，变量n m m m m m n m m m i i i m m m m m m i i i n m i i i m i i i n n m m m m m n m i i i m m n m i i n m i i n m i i n m i i n m i i i p p p m n q q p p p H p p p H q q p p q p p p H m n q q q p p p p p p p p p H p p p m n q q q p p m n q q m n p m n p m n m n p f m n m n p f m n p p ===-+≤--=-+--≤- -=∴===-+-≤- --=----=---≤---=- ++==+==+++=+=+=+=+=+=∑∑∑∑∑∑∑∑∑ ∑...)log(),,...,,(),...,,(log log ),,...,,() log(log log log log ),...,,(...) log(log log log log )()()() ()(log 2121211 211 1 1 21211 1111 1 X n

信息论与编码理论课后习题答案高等教育出版社

信息论与编码理论习题解 第二章-信息量和熵 解: 平均每个符号长为:154 4.0312.032= ?+?秒 每个符号的熵为9183.03log 3 1 23log 32=?+?比特/符号 所以信息速率为444.34 15 9183.0=?比特/秒 解: 同步信号均相同不含信息,其余认为等概, 每个码字的信息量为 3*2=6 比特； 所以信息速率为600010006=?比特/秒 解:(a)一对骰子总点数为7的概率是 36 6 所以得到的信息量为 585.2)366(log 2= 比特 (b) 一对骰子总点数为12的概率是36 1 所以得到的信息量为 17.536 1 log 2= 比特 解: (a)任一特定排列的概率为 ! 521 ,所以给出的信息量为 58.225! 521 log 2 =- 比特 (b) 从中任取13张牌,所给出的点数都不相同的概率为 1352 13 13 521344!13C A =? 所以得到的信息量为 21.134 log 1313 52 2=C 比特. 解:易证每次出现i 点的概率为 21 i ,所以

比特比特比特比特比特比特比特398.221 log 21)(807.1)6(070.2)5(392.2)4(807.2)3(392.3)2(392.4)1(6,5,4,3,2,1,21 log )(26 12=-==============-==∑ =i i X H x I x I x I x I x I x I i i i x I i 解: 可能有的排列总数为 27720! 5!4!3! 12= 没有两棵梧桐树相邻的排列数可如下图求得， Y X Y X Y X Y X Y X Y X Y X Y 图中X 表示白杨或白桦，它有???? ??37种排法，Y 表示梧桐树可以栽 种的位置，它有???? ??58种排法，所以共有???? ??58*???? ??37=1960种排法保证没有 两棵梧桐树相邻，因此若告诉你没有两棵梧桐树相邻时，得到关于树排列的信息为1960log 27720log 22-= 比特 解: X=0表示未录取，X=1表示录取； Y=0表示本市，Y=1表示外地； Z=0表示学过英语，Z=1表示未学过英语，由此得

第五章 信道编码 习题解答

第五章 信道编码 习题解答 1．写出与10011的汉明距离为3的所有码字。 解：共有10个：01111，00101，00000，01010，01001，00110，11101，10100，11000，11110。 2． 已知码字集合的最小码距为d ，问利用该组码字可以纠正几个错误可以发现几个错误请写出一般关系式。 解：根据公式： (1)1d e ≥+ 可发现e 个错。 (2)21d t ≥+ 可纠正t 个错。 得出规律： （1）1d = ，则不能发现错及纠错。 （2）d 为奇数：可纠 1 2 d -个码元错或发现1d -个码元错。 （3）d 为偶数：可纠 12 d -个码元错，或最多发现1d -个码元错。 （4）码距越大，纠、检错能力越强。 3．试计算（8，7）奇偶校验码漏检概率和编码效率。已知码元错误概率为4 10e p -=。 解：由于4 10e p -=较小，可只计算错两个码元（忽略错4或6个码元）的情况： 228788! 10 2.8106!2! e p C p --== ?=?? 7 87.5%8 η= = 4．已知信道的误码率4 10e p -=，若采用“五三”定比码，问这时系统的等效（实际）误码率为多少 解：由于4 10e p -=较小，可只计算错两个码元的情况 11252112 83232(1)610e e e p C C p p C C p --=-≈=?

5．求000000，110110，011101，101011四个汉明码字的汉明距离，并据此求出校正错误用的校验表。 解：先求出码字间距离： 000000 110110 011101 101011 000000 4 4 4 110110 4 4 4 011101 4 4 4 101011 4 4 4 汉明距离为4，可纠一位错。 由于一个码字共有6个码元，根据公式：21617r n ≥+=+= 得 3r = 即每个码字应有3位监督码元，6-3=3位信息码元。 直观地写出各码字：123456 000000110110011101101011 x x x x x x 令456x x x 为监督码元，观察规律则可写出监督方程：4135236 12x x x x x x x x x =⊕?? =⊕??=⊕? 从而写出校验子方程：113422353126s x x x s x x x s x x x *** *** ***?=⊕⊕?=⊕⊕??=⊕⊕? 列出校验表： 6．写出信息位6k =，且能纠正1个错的汉明码。 解：汉明码的信息码元为六个，即：6k =。监督码元数r 应符合下式：217r k r r ≥++=+

信息论与编码课后答案

一个马尔可夫信源有3个符号{}1,23,u u u ，转移概率为：()11|1/2p u u =，()21|1/2p u u =， ()31|0p u u =，()12|1/3p u u =，()22|0p u u =，()32|2/3p u u =，()13|1/3p u u =，()23|2/3p u u =，()33|0p u u =，画出状态图并求出各符号稳态概率。 解：状态图如下 状态转移矩阵为： 1/21/2 01/302/31/32/30p ?? ?= ? ??? 设状态u 1，u 2，u 3稳定后的概率分别为W 1，W 2、W 3 由1231WP W W W W =??++=?得1231132231231 112331223 231W W W W W W W W W W W W ?++=???+=???=???++=? 计算可得1231025925625W W W ?=??? =?? ?=?? 由符号集{0，1}组成的二阶马尔可夫链，其转移概率为：(0|00)p =，(0|11)p =，(1|00)p =， (1|11)p =，(0|01)p =，(0|10)p =，(1|01)p =，(1|10)p =。画出状态图，并计算各状态 的稳态概率。 解：(0|00)(00|00)0.8p p == (0|01)(10|01)0.5p p == (0|11)(10|11)0.2p p == (0|10)(00|10)0.5p p == (1|00)(01|00)0.2p p == (1|01)(11|01)0.5p p == (1|11)(11|11)0.8p p == (1|10)(01|10)0.5p p ==

《通信系统原理》作业题

《通信系统原理》作业题 第1章绪论 1.画出数字通信系统模型。 噪声源 数 字 解 调 信 道 译 码 解 密 信 源 译 码 信 宿 数 字 调 制 信 道 编 码 加 密 信 源 编 码 信 源 信道 2.衡量数字通信系统的有效性和可靠性的性能指标有哪些？ 答：码元传输速率信息传输速率频带利用率误码率误信率 3.说明通信系统的分类。 4．一个由字母A，B，C，D组成的字，对于传输的每一个字母用二进制脉冲编码，00代替A，01代替B，10代替C，11代替D，每个脉冲宽度为5ms. (1)不同的字母是等概率出现时，试计算每个字母的传输速率和信息速率； (2)若每个字母出现的概率分别为 10 3 , 4 1 , 4 1 , 5 1 = = = = D C B A P P P P 试计算每个字母的传输速率和信息速率。

第2章确知信号 1. 画出单位冲击函数的时域波形及频谱密度,并说明各波形表示的含义。 2.求一个矩形脉冲的频谱密度及能量谱密度。 G a( f 1/τ 2/ -2/τ -1/

第5章 模拟调制系统 1. 比较AM 与DSB 两种调制方式的优缺点。 AM ：优点是接收设备简单；缺点是功率利用率低，抗干扰能力差。主要用在中波和短波调幅广播。 DSB ：优点是功率利用率高，带宽与AM 相同。主要用于调频立体声中的差信号调制，彩色TV 中的色差信号调制 2. 已知线性调制信号为 t t c ωcos )sin 0.51（Ω+，式中Ω=6c ω，画出波形与频谱。

3. 已知调制信号)4000cos()2000cos()( t t t m ππ+=载波为t π4 10cos ，进行单边带调制，试确定该单边带信号的表达式，并画出频谱图。

信息论与编码理论习题答案全解

信息论与编码理论习题答案全解

第二章 信息量和熵 2.2 八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的 信息速率。 解：同步信息均相同，不含信息，因此 每个码字的信息量为 2?8log =2?3=6 bit 因此，信息速率为 6?1000=6000 bit/s 2.3 掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。问各得到多少 信息量。 解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log =2.585 bit (2) 可能的唯一，为 {6，6} )(b p =361 得到的信息量=) (1 log b p =36log =5.17 bit 2.4 经过充分洗牌后的一副扑克（52张），问： (a) 任何一种特定的排列所给出的信息量是多少？ (b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？ 解：(a) )(a p =! 521 信息量=) (1 log a p =!52log =225.58 bit (b) ???????花色任选 种点数任意排列 13413!13 )(b p =13 52134!13A ?=1352 13 4C 信息量=1313 52 4log log -C =13.208 bit

2.9 随机掷3颗骰子，X 表示第一颗骰子的结果，Y 表示第一和第二颗骰子的 点数之和，Z 表示3颗骰子的点数之和，试求)|(Y Z H 、)|(Y X H 、 ),|(Y X Z H 、)|,(Y Z X H 、)|(X Z H 。 解：令第一第二第三颗骰子的结果分别为321,,x x x ，1x ，2x ，3x 相互独立， 则1x X =，21x x Y +=，321x x x Z ++= )|(Y Z H =)(3x H =log 6=2.585 bit )|(X Z H =)(32x x H +=)(Y H =2?( 361log 36+362log 18+363log 12+364log 9+365log 536)+36 6 log 6 =3.2744 bit )|(Y X H =)(X H -);(Y X I =)(X H -[)(Y H -)|(X Y H ] 而)|(X Y H =)(X H ，所以)|(Y X H = 2)(X H -)(Y H =1.8955 bit 或)|(Y X H =)(XY H -)(Y H =)(X H +)|(X Y H -)(Y H 而)|(X Y H =)(X H ，所以)|(Y X H =2)(X H -)(Y H =1.8955 bit ),|(Y X Z H =)|(Y Z H =)(X H =2.585 bit )|,(Y Z X H =)|(Y X H +)|(XY Z H =1.8955+2.585=4.4805 bit 2.10 设一个系统传送10个数字，0，1，…，9。奇数在传送过程中以0.5的概 率错成另外一个奇数，其余正确接收，求收到一个数字平均得到的信息量。 解： 信道 X Y 9,7,5,3,1=i 8,6,4,2,0=i √Χ );(Y X I =)(Y H -)|(X Y H 因为输入等概，由信道条件可知，

信息论与编码_习题解答

居住某地区的女孩子有25%是大学生，在女大学生中有 75%是身高160厘米以 上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高 160 厘米以上的某女孩是大学生”的消息，问获得多少信息量 解： 设随机变量 X P(X) X 代表女孩子学历 X 1 (是大学生) X 2 (不是大学生) 设随机变量 Y 代表女孩子身高 丫 y 1 （身高 >160cm ） y 2 （身高 <160cm ） P （Y ） 已知：在女大学生中有 75%是身高160厘米以上的 即：p(y 1 /x 1) 0.75 bit 求：身高160厘米以上的某女孩是大学生的信息量 亦 p(x-| )p(y 1 /x 1) 0.25 0.75 ... 即：I (x 1 / y 1) log p(x 1 / y 1) log - - — log 1.415 bit p(yj 0.5 设有一离散无记忆信源，其概率空间为 X P X 1 0 X 2 1 X 3 2 X 4 3 3/8 1/4 1/4 1/8 (1 )求每个符号的自信息量 (2)信源发出一消息符号序列为 {202 120 130 213 001 203 210 110 321 010 021 032 011 223 210｝，求该序列的自信息量和平均每个符号携带的信息量 & 1 8 解：I (x 1) log 2 log 2 1.415bit P(x 1) 3 同理可以求得 I (X 2) 2bit, I (x 3 ) 2bit,I(x 3) 3bit 因为信源无记忆，所以此消息序列的信息量就等于该序列中各个符号的信息量之和 就有：I 14I (X 1) 13I (X 2) 12I (X 3) 6I (X 4) 87.81bit 87 81 平均每个符号携带的信息量为 1.95bit/符号 45 有两个二元随机变量X 和丫，它们的联合概率为 并定义另一随机变量Z = XY (—般乘积)，试计算: (1) H(X) H(Y), H(Z), H(XZ), H(Y 和) H(XYZ)

信道编码误码影响

卷积码对误码率影响探究 一、实验要求及目的 在通信中，由于各种实际中存在的各种干扰，严重影响通信质量。在前面实现的QBSK信号的模拟信道的加噪传输的基础上加上信道编码技术，观察信道编码技术对误码率的改善。本实验中采取（2,1,7）卷积码对基带序列进行编码，观察软、硬判决方法对传输误码率的改善作用。 二、实验原理 在实验中加高斯白噪声来模拟实际通信中的复杂的外界干扰条件，根据不同的归一化信噪比值计算加到每个信号上的能量，得到模拟的经过信道的加噪信号。 卷积码译码方法有两大类：大数逻辑译码，又称门限译码（硬判决）；另一种是概率译码（软判决），概率译码又分为维特比译码和序列译码。硬判决是以分组码理论为基础的，其译码设备简单，速度快，但其误码性能要比概率译码差。 在硬判决译码中，我们将从模拟信道上得到的信号进行解调，得到信息比特流，在进行硬判决。取一个判决长度，在实际应用中，一般取其基本信码单元的六到八倍，因而，本实验中取6，则在译码前的比特流中以12位为一组，进行加比选运算，得到最佳路径，确定码序列。软判决主要是利用高斯白噪声的概率密度函数，对信道上下来的信号直接进行处理，进行判决。计算每个原信息比特对应现在新的信道比特对应的错误

该概率，然后计算器对数释然比，进行量化软判决。得到信息比特流，与原始信息比特进行比较并统计其错误码元数，从而得到误码率。 三、实验步骤及实验软件平台 本模拟实验程序在MATLAB2009A中运行良好，如果程序在传递过程中格式发生变化，改成M文件的格式即可运行。 下面对本程序设计思路流程进行介绍： （1）设计参数框，达到实验变量可调，试验参数包括基带码元个数、信噪比起始值、信噪比终止值、默认 的调制方式MPSK，M可以变化，但大于等于4且为 2的整数次幂。 （2）进行卷积码编码，主要运用库函数实现，卷积码为（2,1,7）卷积码，卷积码参数为[171,133]。 （3）调整基带码元序列，转化为PSKMOD函数所需的进制序列；由归一化信噪比的值计算加到每个调制后码 元上的噪声大小；进行QPSK调制，并在调制后的基 带序列上加噪。 （4）在这一步将分为两种方式进行解调，硬判决，按正常的解调方式解调QPSK信号，进行卷积码的硬判决， 得到传输得到的基带码元序列；软判决，计算QPSK 四个星座点对应的条件概率，计算Q值，利用库函 数进行卷积码的软判决，得到传输后的基带码元序

信息论与编码理论第二章习题答案

I (X ;Y=1)= P(x/Y 1)I(x;Y 1) x P(x/Y 1)log P(x/Y 1) P(x) = P(X 0/Y 1)log P(X 0/Y 1) P(X 0) P(X 1/Y 1)log P(X 1/Y 1) P(X 1) 部分答案，仅供参考。 信息速率是指平均每秒传输的信息量点和划出现的信息量分别为log3Jog3， 2’ 一秒钟点和划出现的次数平均为 1 15 2 1 ~4 0.20.4 - 3 3 一秒钟点和划分别出现的次数平均为巴5 4 4 那么根据两者出现的次数，可以计算一秒钟其信息量平均为10 log 3 5 竺 5 4 2 4 4 2 解： ⑻骰子A和B，掷出7点有以下6种可能： A=1,B=6; A=2,B=5; A=3,B=4; A=4,B=3; A=5,B=2; A=6,B=1 概率为6/36=1/6，所以信息量 -log(1/6)=1+log3 ~ bit (b)骰子A和B,掷出12点只有1种可能： A=6,B=6 概率为1/36，所以信息量 -log(1/36)=2+log9 ~ bit 解： 出现各点数的概率和信息量： 1 点：1/21 , log21 ?bit ; 2 点：2/21 , log21-1 ?bit ; 3 点：1/7 , log7 4 点：4/21 , log21-2 5 点：5/21 , log (21/5 )~; 6 点：2/ 7 , log(7/2)? 平均信息量： (1/21) X +(2/21) X +(1/7) X +(4/21) X +(5/21) X +(2/7) 解： X=1:考生被录取；X=0考生未被录取； Y=1：考生来自本市；Y=0考生来自外地； Z=1:考生学过英语；z=o：考生未学过英语 P(X=1)=1/4, P( X=q=3/4; P( Y=1/ X=1)=1/2 ；P( Y=1/ X=0)=1/10 ；P(Z=1/ Y=1 )=1, P( Z=1/ X=0, Y=0 )=, P( Z=1/ X=1, Y=0 )=, P(Z=1/Y=0)= (a)P(X=0,Y=1)=P(Y=1/X=0)P(X=0)=, P(X=1,Y=1)= P(Y=1/X=1)P(X=1)= P(Y=1)= P(X=0,Y=1)+ P(X=1,Y=1)= P(X=0/Y=1)=P(X=0,Y=1)/P(Y=1)=, P(X=1/Y=1)=P(X=1,Y=1)/P(Y=1)=

信道编码基础知识

信道编码基础知识培训讲义 信道编码,也叫差错控制编码,就是所有现代通信系统的基石。几十年来,信道编码技术不断逼近香农极限,波澜壮阔般推动着人类通信迈过一个又一个顶峰。5G到来,我们还能突破自我,再创通信奇迹不？ 所谓信道编码,就就是在发送端对原数据添加冗余信息,这些冗余信息就是与原数据相关的,再在接收端根据这种相关性来检测与纠正传输过程产生的差错。这些加入的冗余信息就就是纠错码,用它来对抗传输过程的干扰。

1948年,现代信息论的奠基人香农发表了《通信的数学理论》,标志着信息与编码理论这一学科的创立。根据香农定理,要想在一个带宽确定而存在噪声的信道里可靠地传送信号,无非有两种途径:加大信噪比或在信号编码中加入附加的纠错码。这就像在嘈杂的酒吧里,酒喝完了,您还想来一打,要想让服务员听到,您就得提高嗓门(信噪比),反复吆喝(附加的冗余信号)。

但就是,香农虽然指出了可以通过差错控制码在信息传输速率不大于信道容量的前提下实现可靠通信,但却没有给出具体实现差错控制编码的方法。人类在信道编码上的第一次突破发生在1949年。R、Hamming与M、Golay提出了第一个实用的差错控制编码方案。受雇于贝尔实验室的数学家R、Hamming将输入数据每4个比特分为一组,然后通过计算这些信息比特的线性组合来得到3个校验比特,然后将得到的7个比特送入计算机。计算机按照一定的原则读取这些码字,通过采用一定的算法,不仅能够检测到就是否有错误发生,同时还可以找到发生单个比特错误的比特的位置,该码可以纠正7个比特中所发生的单个比特错误。这个编码方法就就是分组码的基本思想,Hamming提出的编码方案后来被命名为汉明码。汉明码的编码效率比较低,它每4个比特编码就需要3个比特的冗余校验比特。另外,在一个码组中只能纠正单个的比特错误。M、Golay先生研究了汉明码的缺点,提出了Golay码。 Golay码分为二元Golay码与三元Golay码,前者将信息比特每12个分为一组,编码生成11个冗余校验比特,相应的译码算法可以纠正3个错误;后者的操作对象就是三元而非二元数字,三元Golay码将每6个三元符号分为一组,编码生成5个冗余校验三元符号,这样由11个三元符号组成的三元Golay码码字可以纠正2个错误。Golay码曾应用于NASA的旅行者1号(Voyager 1),将成百张木星与土星的彩色照片带回地球。在接下来的10年里,无线通信性能简直就是跳跃式的发展,这主要归功于卷积码的发明。卷积码就是Elias在1955年提出的。卷积码与分组码的不同在于:它充分利用了各个信息块之间的相关性。通常卷积码记为(n,k,N)码。卷积码的编码过程就是连续进行的,依次连续将每k个信息元输入编码器,得到n个码元,得到的码元中的检验元不仅与本码的信息元有关,还与以前时刻输入到编码器的信息元(反映在编码寄存器的内容上)有关。同样,在卷积码的译码过程中,不仅要从本码中提取译码信息,还要充分利用以前与以后时刻收到的码组。从这些码组中提取译码相关信息,,而且译码也就是可以连续进行的,这样可以保证卷积码的译码延时相对比较小。通常,在系统条件相同的条件下,在达到相同译码性能时,卷积码的信息块长度与码字长度都要比分组码的信息块长度与码字长度小,相应译码复杂性也小一些。很明显,在不到10年的时间里,通信编码技术的发展就是飞跃式的,直到遇到了瓶颈。根据香农前辈的指示,要提高信号编码效率达到信道容量,就要使编码的分段尽可能加长而且使信息的编码尽可能随机。但就是,这带来的困难就是计算机科学里经常碰到的“计算复杂性”问题。还好,这个世界有一个神奇的摩尔定律。得益于摩尔定律,编码技术在一定程度上解决了计算复杂性与功耗问题。而随着摩尔定律而来的就是,1967年,Viterbi提出了Viterbi译码算法。在Viterbi译码算法提出之后,卷积码在通信系统中得到了极为广泛的应用,如GSM、 IS-95 CDMA、3G、商业卫星通信系统等。但就是,计算复杂性依然就是一道迈不过的墙。尽管人们后来在分组码、卷积码等基本编码方法的基础上提出了许多简化译码复杂性的方法,但就是均因无比高耸的计算复杂性之墙阻挡而变得不可逾越。编码专家们苦苦思索,试图在可接受的计算复杂性条件下设

信息论与编码习题参考答案(全)

信息论与编码习题参考答案 第一章 单符号离散信源 1.1同时掷一对均匀的子，试求： (1)“2和6同时出现”这一事件的自信息量； (2)“两个5同时出现”这一事件的自信息量； (3)两个点数的各种组合的熵； (4)两个点数之和的熵； (5)“两个点数中至少有一个是1”的自信息量。 解： bit P a I N n P bit P a I N n P c c N 17.536log log )(361 )2(17.418log log )(362)1(36 662221111 616==-=∴====-=∴== =?==样本空间： (3)信源空间： bit x H 32.436log 36 62log 3615)(=??+?? =∴ (4)信源空间： bit x H 71.3636 log 366536log 3610 436log 368336log 366236log 36436log 362)(=??+?+?+??= ∴＋＋ (5) bit P a I N n P 17.11136 log log )(3611333==-=∴==

1.2如有6行、8列的棋型方格，若有两个质点A 和B ，分别以等概落入任一方格，且它们的坐标分别为（Xa ，Ya ）, （Xb ，Yb ）,但A ，B 不能同时落入同一方格。 （1） 若仅有质点A ，求A 落入任一方格的平均信息量； （2） 若已知A 已落入，求B 落入的平均信息量； （3） 若A ，B 是可辨认的，求A ，B 落入的平均信息量。 解： bit a P a P a a P a I a P A i 58.548log )(log )()(H 48log )(log )(481 )(:)1(48 1 i i i i i ==-=∴=-=∴= ∑=落入任一格的概率 bit b P b P b b P b I b P A i 55.547log )(log )()(H 47 log )(log )(47 1 )(:B ,)2(48 1i i i i i ==-=∴=-=∴=∑=落入任一格的概率是落入任一格的情况下在已知 bit AB P AB P AB H AB P AB I AB P AB i i i i i i i 14.11)4748log()(log )()() (log )(47 1 481)()3(47481 =?=-=-=∴?=∑?=是同时落入某两格的概率 1.3从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为0.5%.如果你问一位男士：“你是否是红绿色盲？”他的回答可能是：“是”，也可能“不是”。问这两个回答中各含有多少信息量？平均每个回答中各含有多少信息量？如果你问一位女士，则她的答案中含有多少平均信息量？ 解： bit w P w P w P w P m m P m I w P w I bit m P m P m P m P m bit m P m I bit m P m I n n y y n n y y n n y y n n y y 0454.0log99.5%99.5%-log0.5%-0.5% )(log )()(log )()(H % 5.99log )(log )(%5.0log )(log )(36 6.0log93%93%-log7%-7% )(log )()(log )()(H 105.0%93log )(log )(84.3%7log )(log )(: =??=?-?-=-=-=-=-==??=?-?-==-=-==-=-=平均每个回答信息量：：回答“不是”的信息量回答“是”的信息量：对于女： 平均每个回答信息量：：回答“不是”的信息量回答“是”的信息量：对于男士

中国传媒大学通信原理第一次作业答案

第一次作业答案 第一章2、3、5、6； 第二章1、3、9、10 第三章1、3、4、5 第一章 2. 请画出数字通信系统的基本原理方框图，并说明各个环节的作用。 解： 信源与信宿：信源是将消息转换为电信号；信宿则是将电信号还原为原始消息。 信源编码和信源解码：信源编码对模拟信源作用有二：模/数转换和码率压缩；对数字信源来说， 进行码率压缩来提高传输效率。信源解码是信源编码的逆过程。 信道编码和信道解码：信道编码是为提高系统的可靠性，达到纠错和检错的目的而按照一定规律 进行的编码过程；信道解码是信道编码的逆过程。 调制和解调：数字调制的任务就是把数字基带信号转换成适于信道传输的数字已调信号；数字解 调是数字调制的逆过程。 信道：是信号传输的媒介。 噪声源：通信系统的噪声可以用噪声源来集中表示。 3. 衡量数字通信系统的主要性能指标是什么？ 答：衡量数字通信系统的主要性能指标有有效性和可靠性。 有效性是指消息传输的多少。即指单位时间内，在给定信道所传输信息内容的多少。数字通信系统常用符号速率和信息速率来表示； 可靠性是指消息传输的质量，即指接收信息的准确程度。数字通信系统常用误码率和误信率来表示。 5. 设有四个消息符号，其前三个符号出现概率分别是1/4，1/8，1/8。各消息符号出现是相对独立的。求该符号集的平均信息量。 解：已知三个符号的概率分别为：1/4，1/8，1/8， 则第四个符号的概率为1－（1/4＋1/8＋1/8）＝1/2 则该符号集的平均信息量为： 4 22221 121()log (1/)log 4log 8log 24821.75/i i i H X p p bit ===?+?+?=∑符号 6. 一个离散信号源每毫秒发出四种符号中的一个，各相互独立符号出现的概率分别为0.4，0.3，0.2，0.1。求该信号源的平均信息量与信息速率。

信息论与编码课后习题答案

1． 有一个马尔可夫信源，已知p(x 1|x 1)=2/3，p(x 2|x 1)=1/3，p(x 1|x 2)=1，p(x 2|x 2)=0，试画出该信源的香农线图，并求出信源熵。 解：该信源的香农线图为： 1/3 ○ ○ 2/3 (x 1) 1 (x 2) 在计算信源熵之前，先用转移概率求稳定状态下二个状态x 1和 x 2 的概率)(1x p 和)(2x p 立方程：)()()(1111x p x x p x p =+)()(221x p x x p =)()(2132x p x p + )()()(1122x p x x p x p =+)()(222x p x x p =)(0)(2131x p x p + )()(21x p x p +=1 得4 3 1)(=x p 4 12)(=x p 马尔可夫信源熵H = ∑∑- I J i j i j i x x p x x p x p )(log )()( 得 H=符号 2．设有一个无记忆信源发出符号A 和B ，已知4 3 41)(.)(= =B p A p 。求： ①计算该信源熵； ②设该信源改为发出二重符号序列消息的信源，采用费诺编码方法，求其平均信息传输速率； ③又设该信源改为发三重序列消息的信源，采用霍夫曼编码方法，求其平均信息传输速率。 解：①∑- =X i i x p x p X H )(log )()( = bit/符号 ②发出二重符号序列消息的信源,发出四种消息的概率分别为 1614141)(=?=AA p 1634341 )(=?=AB p 1634143)(=?=BA p 1694343)(=?=BB p 用费诺编码方法 代码组 b i BB 0 1 BA 10 2 AB 110 3

北邮数据通信阶段作业

一、判断题（共10道小题，共50.0分） 1.数据通信系统中的数据终端设备一律是计算机。B A.正确 B.错误 2.信号码元与传输代码总是相同。B A.正确 B.错误 3.数据通信系统中的传输信道为狭义信道。B A.正确 B.错误 4.数据通信系统中的DCE一律为调制解调器。B A.正确 B.错误 5.X.50建议的复用方式是比特交织。B A.正确 B.错误 6.数字数据传输是利用PCM信道传输数据信号。 A A.正确 B.错误 7.相对调相比绝对调相的频带利用率高。B A.正确 B.错误 8.正交调幅系统M越大越好。B A.正确 B.错误 9.频带传输系统与基带传输系统的主要区别在于增加了调制、解调器。A A.正确 B.错误 10.理想低通形成网络是滚降低通形成网络的特例。A A.正确 B.错误 二、单项选择题（共10道小题，共50.0分） 1.数据通信网的拓扑结构中可靠性最高的是 B A.星形网 B.网形网 C.树形网 D.环形网 2. 3.设模拟信道的带宽为3100Hz，信噪比为30dB，信道容量为 B A.30000 bit／s B.30898bit／s C.20000 bit／s

D.50000 bit／s 4.国际5号码是 C A.5单位代码 B.6单位代码 C.7单位代码 D.8单位代码 5.若要使数据通信有效地进行，必须建立B A.数据电路 B.数据链路 C.传输信道 D.物理信道 6.当传输信道是数字信道时DCE为B A.MODEM B.数字接口适配器 C.滤波器 D.传输控制器 7.数据传信速率与码元传输速率间的关系为C A. B. C. D.以上都不对 8.满足奈氏第一准则时，符号速率为C A. B. C. D. 9.正交调幅星座图上的点数越多，则C A.频带利用率越低，抗干扰能力越差 B.频带利用率越低，抗干扰能力越强 C.频带利用率越高，抗干扰能力越差 D.频带利用率越高，抗干扰能力越强 10.频带传输系统中解调后还原的有B A.基带信号 B.基带信号和高次产物 C.高次产物 D.数据信号序列 11.理想的时域均衡器（横截滤波器）抽头应为D A.5个

(完整版)信息论与编码习题参考答案

1.6为了使电视图象获得良好的清晰度和规定的对比度，需要用5×105个像素和10个不同的亮度电平，并设每秒要传送30帧图象，所有的像素是独立的，且所有亮度电平等概出现。求传输此图象所需要的信息率（bit/s ）。 解： bit/s 104.98310661.130)/)(()/(R bit/frame 10661.1322.3105)(H 105)(H bit/pels 322.310log )(log )()(H 76650510 10?=??=?=∴?=??=??====∑=frame bit X H s frame r x X a p a p x i i i 所需信息速率为：每帧图像的熵是：每个像素的熵是：，由熵的极值性： 由于亮度电平等概出现 1.7设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度。试证明传输这种彩电系统的信息率要比黑白系统的信息率大 2.5倍左右。 证: . 5.2,,5.25.2477.210 log 300log )(H )(H pels /bit 300log )(log )()(H bit 3001030,10,,3001300 11倍左右比黑白电视系统高彩色电视系统信息率要图形所以传输相同的倍作用大信息量比黑白电视系统彩色电视系统每个像素每个像素的熵是：量化 所以每个像素需要用个亮度每个色彩度需要求下在满足黑白电视系统要个不同色彩度增加∴≈====∴=?∑=x x b p b p x i i i Θ 1.8每帧电视图像可以认为是由3×105个像素组成，所以像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现。问每帧图像含有多少信息量？若现在有一个广播员，在约10000个汉字中选1000个字来口述这一电视图像，试问若要恰当地描述此图像，广播员在口述中至少需要多少汉字？ 解: 个汉字 最少需要数描述一帧图像需要汉字每个汉字所包含信息量每个汉字所出现概率每帧图象所含信息量556 6 5 5 10322.6/10322.61 .0log 101.2)()()()(,log H(c):1.010000 1000 symble /bit 101.2128log 103)(103)(: ?∴?=-?=≥ ≤-=∴== ?=??=??=frame c H X H n c nH X H n p p x H X H 1.9 给 定 一 个 概 率 分 布 ) ,...,,(21n p p p 和一个整数m ， n m ≤≤0。定义 ∑=-=m i i m p q 1 1，证明： )log(),,...,,(),...,,(2121m n q q p p p H p p p H m m m n -+≤。并说明等式何时成立？ 证： ∑∑+==- -=>-=<-=''-=''∴>- =''-=''>-=n m i i i m i i i n p p p p p p p H x x x x f x e x x x f x x e x x x f x x x x f 1 121log log ),...,,( )0(log )( 0log )log ()(0 log )log ()()0(log )(ΘΘ又为凸函数。即又为凸函数，如下：先证明 时等式成立。 当且仅当时等式成立。当且仅当即可得： 的算术平均值的函数，函数的平均值小于变量由凸函数的性质，变量n m m m m m n m m m i i i m m m m m m i i i n m i i i m i i i n n m m m m m n m i i i m m n m i i n m i i n m i i n m i i n m i i i p p p m n q q p p p H p p p H q q p p q p p p H m n q q q p p p p p p p p p H p p p m n q q q p p m n q q m n p m n p m n m n p f m n m n p f m n p p ===-+≤--=-+--≤- -=∴===-+-≤- --=----=---≤---=- ++==+==+++=+=+=+=+=+=∑∑∑∑∑∑∑∑∑ ∑...)log(),,...,,(),...,,(log log ),,...,,() log(log log log log ),...,,(...) log(log log log log )()()() ()(log 2121211 211 1 1 21211 1111 1 ΘΘ 2.13把n 个二进制对称信道串接起来，每个二进制对称信道的错误传输概率为p(0