《信息理论与编码》课程教学课件（讲稿）第2章 信息的度量 2.8 离散有记忆信源的熵 2.9 马尔可夫信源的信息熵

1 、信源的数学模型及分类 2、信息量及其性质 3、离散信源的熵及性质 4、联合熵和条件熵 5、平均互信息量及其性质 6、扩展信源 7、离散有记忆信源的熵 8、马尔可夫信源的信息熵 9、离散信源的信息（速）率和信息含量效率 10、连续随机变量下的熵和平均互信息量

❖ 2.1 信源的数学模型及分类 ❖ 2.2 离散信源熵和互信息 ❖ 2.3 信息熵的性质 ❖ 2.4 离散序列信源熵 ❖ 2.5 连续信源熵与互信息 ❖ 2.6 信源的冗余度

一、 设离散无记忆信源 二进制香农码的编码步骤如下：

第一节失真度和平均失真度 第二节信息率失真函数及其性质 第三节二元信源和离散对称信源的R(D)函数 第四节保真度准则下的信源编码定理 第五节联合有失真信源信道编码定理 第六节有失真信源编码定理的实用意义

结论 1： 有记忆信源的冗余度寓于信源符号 间的相关性中。去除它们之间的相关性， 使之成为或几乎成为不相关的信源，其 熵将增大。 结论 2： 离散无记忆信源的冗余度寓于符号 概率的非均匀分布中。改变原来信源的 概率分布，使之成为或接近等概分布的 信源，其熵将增大

3.1信源及其分类 3.2离散无记忆信源的等长编码 3.3离散无记忆信源的不等长编码 3.4最佳不等长编码

3.1信源及其分类 3.2离散无记忆信源的等长编码 3.3离散无记忆信源的不等长编码 3.4最佳不等长编码

3.1信源及其分类 3.2离散无记忆信源的等长编码 3.3离散无记忆信源的不等长编码 3.4最佳不等长编码

第一节波形信源的统计特性和离散化 第二节连续信源和信源的信息测度 第三节具有最大熵的连续信源 第四节连续信道和波形信道的分类 第五节连续信道和波形信道的信息传输率 第六节连续信道和波形信道的信道容量 第七节连续信道编码定理