2.7离散无失真信源编码定理 2、教学要点 信源的概念和分类：用概率空间描述信源特性：自信息量计算、熵的计算和物理意义 熵的基本性质：离我无记忆信源的扩展信源熵的计算：平稳信源的定义、性质：联合熵，平 均符号熵，条件熵计算及其相互关系；极限熵定义：单符号连续信源熵、最大熵定理：冗余 度的概念及产生原因：无失真信源编码基本原理：编码效率计算：香农第一定理。 第三章信道及其容量 1、教学内容 3.1信道的数学模型与分类 3.2信道疑义度与平均互信息 3.3离散无记忆的扩展信道 3.4离散信道的信道容量 3.5连续信道的信道容量 3.6信源与信道的匹配 3.7信道编码定理 2、教学要点 信道的分类：单符号离散信道模型：信道疑义度计算：平均互信息量计算及其物理意义、 与各类箱之间的关系：平均互信息量的性质：离散无记忆的扩展信道的数学模型及其互信息 量计算：信道容量的定义：三种简单离散信道的信道容量计算：对称离散信道定义及其信道 容量计算：扩展信道的信道容量计算：连续单符号加性高斯噪声信道的信道容量计算：多维 无记忆加性连续信道的信道容量计算、基于“注水法”的信号功率分配方案：高斯白噪声信 道的信道容量计算、香农公式：香农第二定理。 第四章信息率失真函数 1、教学内容 4.1失真测度 4.2信息率失真函数及其性质 4.3离散无记忆信源的信总率失真函数 4.4连续无记忆信源的信息率失真函数 4.5保真度准则下的信源编码定理 2、教学要点 失真度、失真矩阵、平均失真度的计算：信息率失真函数的定义及其性质：等概率、对 称失真信源的信总率失真函数计算：高斯信源的信息率失真函数计算：香农第三定理。 2.7 离散无失真信源编码定理 2、教学要点 信源的概念和分类；用概率空间描述信源特性；自信息量计算、熵的计算和物理意义、 熵的基本性质；离我无记忆信源的扩展信源熵的计算；平稳信源的定义、性质；联合熵，平 均符号熵，条件熵计算及其相互关系；极限熵定义；单符号连续信源熵、最大熵定理；冗余 度的概念及产生原因；无失真信源编码基本原理；编码效率计算；香农第一定理。 第三章 信道及其容量 1、教学内容 3.1 信道的数学模型与分类 3.2 信道疑义度与平均互信息 3.3 离散无记忆的扩展信道 3.4 离散信道的信道容量 3.5 连续信道的信道容量 3.6 信源与信道的匹配 3.7 信道编码定理 2、教学要点 信道的分类；单符号离散信道模型；信道疑义度计算；平均互信息量计算及其物理意义、 与各类熵之间的关系；平均互信息量的性质；离散无记忆的扩展信道的数学模型及其互信息 量计算；信道容量的定义；三种简单离散信道的信道容量计算；对称离散信道定义及其信道 容量计算；扩展信道的信道容量计算；连续单符号加性高斯噪声信道的信道容量计算；多维 无记忆加性连续信道的信道容量计算、基于“注水法”的信号功率分配方案；高斯白噪声信 道的信道容量计算、香农公式；香农第二定理。 第四章 信息率失真函数 1、教学内容 4.1 失真测度 4.2 信息率失真函数及其性质 4.3 离散无记忆信源的信息率失真函数 4.4 连续无记忆信源的信息率失真函数 4.5 保真度准则下的信源编码定理 2、教学要点 失真度、失真矩阵、平均失真度的计算；信息率失真函数的定义及其性质；等概率、对 称失真信源的信息率失真函数计算；高斯信源的信息率失真函数计算；香农第三定理