第二章离散信源及其信息测度 第一节信源的数学模型及分类 第二节离散信源的信息熵 第三节信息熵的基本性质 第四节离散无记忆的扩展信源 第五节离散平稳信源 第六节马尔可夫信源 第七节信源剩余度与自然语言的熵

 2.1 信源的数学模型及分类  2.2 离散信源的信息熵  2.3 信息熵的基本性质和定理  2.4 离散无记忆的扩展信源  2.5 离散平稳信源  2.6 马尔可夫信源  2.7 信源剩余度与自然语言的熵

第一节信源的数学模型及分类 第二节离散信源的信息熵 第三节信息熵的基本性质 第四节离散无记忆的扩展信源 第五节离散平稳信源 第六节马尔可夫信源 第七节信源剩余度与自然语言的熵

4.1 平均失真和信息率失真函数 4.2 离散信源和连续信源的R(D)计算

一、填空题(每题2分) 1.信息出现的概率越小,则包含的信息就越 ,某消息的概率为1/16,其信 息 bit. 1111 2.四元离散信源的四个符号出现的概率,分别为(2,4,8,8),此信源的平 均信息量为 四元信源的最大平均信息量为

一、填空 1.一离散信源输出二进制符号,在 条件下,每个二进制符号携带1比特信息量 在 条件下,每个二进制符号携带的信息量小于1比特

第七章保真度准则下的信源编码 第一节失真度和平均失真度 第二节信息率失真函数及其性质 第三节二元信源和离散对称信源的R(D)函数 第四节保真度准则下的信源编码定理 第五节联合有失真信源信道编码定理 第六节有失真信源编码定理的实用意义

1 、信源的数学模型及分类 2、信息量及其性质 3、离散信源的熵及性质 4、联合熵和条件熵 5、平均互信息量及其性质 6、扩展信源 7、离散有记忆信源的熵 8、马尔可夫信源的信息熵 9、离散信源的信息（速）率和信息含量效率 10、连续随机变量下的熵和平均互信息量

一、 设离散无记忆信源 二进制香农码的编码步骤如下：

第一节失真度和平均失真度 第二节信息率失真函数及其性质 第三节二元信源和离散对称信源的R(D)函数 第四节保真度准则下的信源编码定理 第五节联合有失真信源信道编码定理 第六节有失真信源编码定理的实用意义