2、信息量及其性质 (1)自信息量及其性质 自信息量 1()=lo=-log()12 表示了信源符号的先验不确定性 单位：bit/符号 取2为对数底 联合自信息量I(xk,y,)=-logP(x,y) 表示二元符号的先验不确定性。 单位：bit/二元符号 第2章信息的度量 信息理论与编码 7第2章 信息的度量 信息理论与编码 7 2、信息量及其性质 （1）自信息量及其性质 自信息量 表示了信源符号的先验不确定性 单位：bit/符号 取2为对数底 联合自信息量 表示二元符号的先验不确定性。 单位：bit/二元符号 1 ( ) log log ( ) ( ) k k k I x P x P x    k K 1 , 2 , , ( , ) log ( , ) k j k j I x y P x y  