2.基本概念和知识点：N次扩展信源。 3.问题与应用（能力要求）：扩展信源与单符号信源的关系，能够利 用单符号信源推导DMS扩展信源的概率空间及嫡。 第七节离散平稳信源的熵 1.主要内容：①离散嫡：②离散熵的性质：③联合熵和条件熵。 2.基本概念和知识点：离散熵、离散熵的物理意义、联合熵、条件 熵 3.问题与应用（能力要求）：掌握各种实际信源离散熵的计算：理解 离散熵的物理含义：了解熵的各个性质的推导过程：利用熵的性 质解释实际信源的各种特点：了解熵的各个性质的推导过程：热 悉信息论不等式、香农不等式，并能利用其讲行各种不第式证明： 掌握联合熵、条件熵的计算；理解各种熵的物理意义。 第八节连续信源的熵 1.主要内容：①连续信源的联合熵、条件熵和平均互信息：②连续 信源的熵：③连续信源的熵功率。 2.基本概念和知识点：连续信源的概率空间、嫡功率、连续信源剩 余度。 3.问题与应用（能力要求）：了解连续信源的联合熵、微分熵和平均 互信息的定义及相互关系：了解均值受限的连续随机变量的微分 熵极大化：了解功率受限的连续随机变量的微分熵极大化：运用 微分熵的极大化特性解释实际信源与噪声的最优选择问题。 (三)思考与实践 1.结合自信息量的定义式，解释不确定性、可能性、概率直接的关 系 2.讨论自信息量、联合自信息量、条件自信息量单位的有何不同， 并解释原因。可举例说明。 3. 如果消息长度为无穷大时，如何计算消息中的平均每个符号的自 信息量？ 4.抛一枚硬币和抛一个骰子，“判断硬币正面朝上”和“判断骰子6 点朝上”这两个事件中，哪一个更为困难？为什么？试用信息理 论加以解释。 5.从微分熵的极大化的角度，讨论实际信源采用什么信号发送最为 有利？ (四)教学方法与手段 本章内容主要采用课堂讲授为主，多媒体教学、课堂提问、课堂练习、 4 2．基本概念和知识点：N 次扩展信源。 3．问题与应用（能力要求）：扩展信源与单符号信源的关系，能够利 用单符号信源推导 DMS 扩展信源的概率空间及熵。 第七节 离散平稳信源的熵 1．主要内容：①离散熵；②离散熵的性质；③联合熵和条件熵。 2．基本概念和知识点：离散熵、离散熵的物理意义、联合熵、条件 熵。 3．问题与应用（能力要求）：掌握各种实际信源离散熵的计算；理解 离散熵的物理含义；了解熵的各个性质的推导过程；利用熵的性 质解释实际信源的各种特点；了解熵的各个性质的推导过程；熟 悉信息论不等式、香农不等式，并能利用其进行各种不等式证明； 掌握联合熵、条件熵的计算；理解各种熵的物理意义。 第八节 连续信源的熵 1．主要内容：①连续信源的联合熵、条件熵和平均互信息；②连续 信源的熵；③连续信源的熵功率。 2．基本概念和知识点：连续信源的概率空间、熵功率、连续信源剩 余度。 3．问题与应用（能力要求）：了解连续信源的联合熵、微分熵和平均 互信息的定义及相互关系；了解均值受限的连续随机变量的微分 熵极大化；了解功率受限的连续随机变量的微分熵极大化；运用 微分熵的极大化特性解释实际信源与噪声的最优选择问题。 （三）思考与实践 1．结合自信息量的定义式，解释不确定性、可能性、概率直接的关 系。 2．讨论自信息量、联合自信息量、条件自信息量单位的有何不同， 并解释原因。可举例说明。 3．如果消息长度为无穷大时，如何计算消息中的平均每个符号的自 信息量？ 4．抛一枚硬币和抛一个骰子，“判断硬币正面朝上”和“判断骰子 6 点朝上”这两个事件中，哪一个更为困难？为什么？试用信息理 论加以解释。 5．从微分熵的极大化的角度，讨论实际信源采用什么信号发送最为 有利？ （四）教学方法与手段 本章内容主要采用课堂讲授为主，多媒体教学、课堂提问、课堂练习