第二章信源熵 要发现某假币并知其比真币重还是轻所需的信息量就 是要消除这两个事件的不确定性。因为这两个事件是 统计独立事件,所以需要获得的信息量为 1=(a)+I(b)=log212+log22=log224≈4585(bi) 而在天平上称一次能判断出三种情况:重、轻和相等, 这事件为。这三种情况是等概率的。其概率 为p(c)=1/3。 所以,天平测一次能获得的信息量(即消除的不确定 性)为2=(c)=-log2p()=log23≈158(bi) 则至少必须称的次数为 因此至少必须称三次 log24≈2(次) log, 3 2021/2/23第二章 信源熵 2021/2/23 3 要发现某假币并知其比真币重还是轻所需的信息量就 是要消除这两个事件的不确定性。因为这两个事件是 统计独立事件，所以需要获得的信息量为 而在天平上称一次能判断出三种情况：重、轻和相等， 这事件为 。这三种情况是等概率的。其概率 为 。 所以，天平测一次能获得的信息量（即消除的不确定 性）为 则至少必须称的次数为 因此至少必须称三次 1 2 2 2 I I a I b bit = + = + =  ( ) ( ) log 12 log 2 log 24 4.585( ) p c( ) 1/ 3 = c 2 2 2 I I c p c bit = = − =  ( ) log ( ) log 3 1.585( ) 1 2 2 2 log 24 2.9( ) log 3 I I =  次