2.基本概念和知识点：信源、信源模型、信源模型分类。 3.问题与应用（能力要求）：掌握信源的数学模型：了解不同信源分 类方法及各类信源： 第二节信息的描述 1.主要内容：①离散无记忆信源：②非理想观察模型。 2.基本概念和知识点：离散无记忆信源、非理想观察模型、不确定 性。 3.问题与应用（能力要求）：掌握离散无记忆信源的数学模型，熟悉 非理想观察模型中各类不确及信息的概念。 第三节不确定性与信息 1,主要内容：①自信息量：②联合自信息量与条件自信息量：③自 信息量的性质：④互信息量及其性质。 2.基本概念和知识点：联合自信息量、条件自信息量、互信息量 3.问题与应用（能力要求）：掌握自信息量的计算方法：了解自信息 量单位的物理意义：了解在非理想观察模型中各种自信息量的物 理含义：了解可加性的物理解释：了解互信息量与各类自信息量 间的关系和物理意义。 第四节离散随机变量的（统计）平均不确定性一一离散熵 L.主要内容：①离散熵：②离散熵的性质：③联合熵和条件熵 2.基本概念和知识点：离散熵、离散熵的物理意义、联合熵、条件 熵。 3.问题与应用（能力要求）：掌握各种实际信源离散熵的计算：理解 离散熵的物理含义：了解熵的各个性质的推导过程：利用熵的性 质解释实际信源的各种特点：了解熵的各个性质的推导过程：熟 悉信息论不等式、香农不等式，并能利用其进行各种不等式证明： 掌握联合熵、条件熵的计算：理解各种熵的物理意义。 第五节平均互信息量及其性质 1,主要内容：①平均互信息量的概念：②平均互信息量的性质。 2.基本概念和知识点：平均互信息量、平均互信息量的物理意义、 平均互信息量与各类熵之间的关系。 3.问题与应用（能力要求）：理解平均互信息量的各条性质的推导： 灵活坛用平均石信息量与高之间的关系，计算分析各种实际应用 题目的平均互信息量。 第六节离散无记忆信源的扩展 I.主要内容：①N次扩展信源的概率空间：②次扩展信源的熵。3 2．基本概念和知识点：信源、信源模型、信源模型分类。 3．问题与应用（能力要求）：掌握信源的数学模型；了解不同信源分 类方法及各类信源。 第二节 信息的描述 1．主要内容：①离散无记忆信源；②非理想观察模型。 2．基本概念和知识点：离散无记忆信源、非理想观察模型、不确定 性。 3．问题与应用（能力要求）：掌握离散无记忆信源的数学模型，熟悉 非理想观察模型中各类不确定及信息的概念。 第三节 不确定性与信息 1．主要内容：①自信息量；②联合自信息量与条件自信息量；③自 信息量的性质；④互信息量及其性质。 2．基本概念和知识点：联合自信息量、条件自信息量、互信息量。 3．问题与应用（能力要求）：掌握自信息量的计算方法；了解自信息 量单位的物理意义；了解在非理想观察模型中各种自信息量的物 理含义；了解可加性的物理解释；了解互信息量与各类自信息量 间的关系和物理意义。 第四节 离散随机变量的（统计）平均不确定性——离散熵 1．主要内容：①离散熵；②离散熵的性质；③联合熵和条件熵。 2．基本概念和知识点：离散熵、离散熵的物理意义、联合熵、条件 熵。 3．问题与应用（能力要求）：掌握各种实际信源离散熵的计算；理解 离散熵的物理含义；了解熵的各个性质的推导过程；利用熵的性 质解释实际信源的各种特点；了解熵的各个性质的推导过程；熟 悉信息论不等式、香农不等式，并能利用其进行各种不等式证明； 掌握联合熵、条件熵的计算；理解各种熵的物理意义。 第五节 平均互信息量及其性质 1．主要内容：①平均互信息量的概念；②平均互信息量的性质。 2．基本概念和知识点：平均互信息量、平均互信息量的物理意义、 平均互信息量与各类熵之间的关系。 3．问题与应用（能力要求）：理解平均互信息量的各条性质的推导； 灵活运用平均互信息量与熵之间的关系，计算分析各种实际应用 题目的平均互信息量。 第六节 离散无记忆信源的扩展 1．主要内容：①N 次扩展信源的概率空间；②N 次扩展信源的熵