信息论典型试题及答案

2.1 同时掷出两个正常的骰子，也就是各面呈现的概率都为1/6，求：

(1) “3和5同时出现”这事件的自信息；(2) “两个1同时出现”这事件的自信息；

(3) 两个点数的各种组合（无序）对的熵和平均信息量；(4) 两个点数之和（即2, 3, … , 12构成的子集）的熵；(5) 两个点数中至少有一个是1的自信息量。

解：(1) (2) bit x p x I x p i i i 170.5361log )(log )(3616161)(=-=-==?=

(3)两个点数的排列如下：

11 12 13 14 15

16 21 22 23 24 25

26 31 32 33 34 35

36 41 42 43 44 45

46 51 52 53 54 55

56 61 62 63 64 65

66

共有21种组合： 其中11，22，33，44，55，66的概率是36

16161=? 其他15个组合的概率是18

161612=?? (4)

参考上面的两个点数的排列，可以得出两个点数求和的概率分布如下：

(5)

2.3 设离散无记忆信源?

?????=====??????8/14/1324/18/310)(4321x x x x X P X ，其发出的信息为(0223210)，求

(1) 此消息的自信息量是多少？

(2) 此消息中平均每符号携带的信息量是多少？

解：

(1) 此消息总共有14个0、13个1、12个2、6个3，因此此消息发出的概率是：

此消息的信息量是：bit p I 811.87log =-=

(2) 此消息中平均每符号携带的信息量是：bit n I 951.145/811.87/==

2.5 设信源?

?????=??????17.016.017.018.019.02.0)(654321x x x x x x X P X ，求这个信源的熵，并解释为什么H(X) > log6不满足信源熵的极值性。

解：

不满足极值性的原因是107.1)(6

>=∑i i x p 。

2.6 每帧电视图像可以认为是由3 105个像素组成的，所有像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现，问每帧图像含有多少信息量？若有一

个广播员，在约10000个汉字中选出1000个汉字来口述此电视图像，试问广播员描述此图像所广播的信息量是多少（假设汉字字汇是等概率分布，并彼此无依赖）？若要恰当的描述此图像，广播员在口述中至少需要多少汉字？

解：

1)

2)

3)

2.7 为了传输一个由字母A 、B 、C 、D 组成的符号集，把每个字母编码成两个二元码脉冲序列，以“00”代表A ，“01”代表B ，“10”代表C ，“11”代表D 。每个二元码脉冲宽度为5ms 。

(1) 不同字母等概率出现时，计算传输的平均信息速率?

(2) 若每个字母出现的概率分别为

{1/5，1/4，1/4，3/10}，试计算传输的平均信息速率?

解：(1)平均每个字母含有的信息量为：

则传输的平均信息率为：

R=H(X)/t=2/(2*5*10-3)=200(bit/s)

(2)字母出现概率不同时， 此时传输的平均信息速率为： R=H(X)/t=1.985(2*5*10-3)=198.5(bit/s) 2.10 某一无记忆信源的符号集为{0, 1}，已知P(0) = 1/4，P(1) = 3/4。

(1) 求符号的平均熵； (2) 有100个符号构成的序列，求某一特定序列（例如有m 个“0”和（100 - m ）个“1”）的自信息量的表达式；

(3) 计算(2)中序列的熵。

解：

(1)

(2)

(3)

2.12 给定声音样值X 的概率密度为拉普拉斯分布+∞<<-∞=-x e x p x ,2

1)(λλ，求H c (X)，并证明它小于同样方差的正态变量的连续熵。

解：

2.16黑白气象传真图的消息只有黑色和白色两种，即信源X ={黑，白}。设黑色出现的概率为P(黑) = 0.3，白色出现的概率为P(白) = 0.7。

(1) 假设图上黑白消息出现前后没有关联，求熵H(X)；

(2) 假设消息前后有关联，其依赖关系为P(白/白) = 0.9，P(黑/白) = 0.1，P(白/黑) = 0.2，P(黑/黑) = 0.8，求此平稳离散信源的熵H 2(X);

(3) 分别求上述两种信源的剩余度，比较H(X)和H 2(X)的大小，并说明其物理含义。 解：

(1)

（2）黑白气象传真图的消息前后有关联时，由其前后的依赖关系可知，黑色白色同时出现的联合概率为：

则信源的联合熵为：

H(X 1X 2)=1.426 bit/symbol

H 2(X)=1/2*H(X 1X 2)=0.713 bit/symbol

（3）上述两种信源的剩余度分别为：

H(X) > H 2(X) 41()()log ()

111310log5log 4log 4log 5441031.985/i i i H X P a P a ==-=+++≈∑比特符号