《信息理论与编码》课程教学课件（讲稿）第2章 信息的度量 2.8 离散有记忆信源的熵 2.9 马尔可夫信源的信息熵

《信息理论与编码》课程教学课件（讲稿）第2章 信息的度量 2.5 联合熵和条件熵 2.6 平均互信息量及其性质 2.7 离散无记忆信源的扩展

一、自发过程与化学反应的方向性 二、物质的标准熵与化学反应的熵变 三、吉布斯自由能

1. 热力学系统和状态函数 ① 系统与环境 ② 状态函数与过程 ③ 热和功 2. 能量守恒和化学反应热 ① 热力学能和热力学第一定律 ② 系统的焓变和反应热效应 ③ 反应进度、热化学方程式与标准态 ④ Hess定律和反应热的计算 3. 熵和Gibbs自由能 ① 自发过程的特征及判据 ② 系统的熵 ③ 系统的Gibbs自由能 4. 化学平衡 ① 化学反应的限度与平衡常数 ② 化学平衡的移动 ③ 反应耦合与生物体内的化学平衡

一、熵概念的引进 如何判断孤立系统中过程进行的方向?

一、 熵的物理意义 A B AB 有序态 无序态（混乱度增加） 自发过程－－熵增加－－－混乱度增加 例如热功转换：热：分子混乱运动的表现功：分子的有序运动 因此功可自发转变为热，但热不能自发转换为功

一、自发过程与化学反应的方向性 二、物质的标准熵与化学反应的熵变 三、吉布斯自由能

卡诺循环与卡诺定理 热力学第二定律 熵的概念熵增加原理 熵变的计算 热力学第三定律与规定熵 亥姆霍兹自由能和吉布斯自由能 几个热力学函数间的关系 克拉贝龙方程

结论 1： 有记忆信源的冗余度寓于信源符号 间的相关性中。去除它们之间的相关性， 使之成为或几乎成为不相关的信源，其 熵将增大。 结论 2： 离散无记忆信源的冗余度寓于符号 概率的非均匀分布中。改变原来信源的 概率分布，使之成为或接近等概分布的 信源，其熵将增大

§4.5 Gibbs函数 §4.4 自发变化和熵 §4.3 化学平衡的移动 §4.2 标准平衡常数的应用 §4.1 标准平衡常数