1.4信息及其度量 消息中所含的信息量〡与消息出现的概率P()的 关系式应反映如下规律： 1. I=[P(X)] 2. P(X→个反之亦然 P(X)=1,=0 3. 若干互相独立事件构成的消息，所含信息量等于 各独立事件信息量的和 I[P(X1)P(X2).]=[P(X1]+l[P(X2)]+. .I=loga P(x) =-logaP(x) a=10 哈特莱 奈特 a=2 比特 19 1.4 信息及其度量 ❖ 消息中所含的信息量 I 与消息出现的概率 P(x)的 关系式应反映如下规律： 1. I=I[P(x)] 2. P(x)↓→I↑反之亦然 P(x)=1，I=0 3. 若干互相独立事件构成的消息，所含信息量等于 各独立事件信息量的和 I[P(x1 )P(x2 ) .]=I[P(x1 )]+I[P(x2 )]+. ∴ I=㏒a = -㏒aP(x) a=10 哈特莱 a=e 奈特 a=2 比特 ( ) 1 P x