《信息理论与编码》课程教学课件（讲稿）第2章 信息的度量 2.5 联合熵和条件熵 2.6 平均互信息量及其性质 2.7 离散无记忆信源的扩展

1 、信源的数学模型及分类 2、信息量及其性质 3、离散信源的熵及性质 4、联合熵和条件熵 5、平均互信息量及其性质 6、扩展信源 7、离散有记忆信源的熵 8、马尔可夫信源的信息熵 9、离散信源的信息（速）率和信息含量效率 10、连续随机变量下的熵和平均互信息量

❖ 2.1 信源的数学模型及分类 ❖ 2.2 离散信源熵和互信息 ❖ 2.3 信息熵的性质 ❖ 2.4 离散序列信源熵 ❖ 2.5 连续信源熵与互信息 ❖ 2.6 信源的冗余度

§3.1 自发变化的共同特征 §3.2 热力学第二定律 §3.3 Carnot定理 §3.4 熵的概念 §3.5 Clausius不等式与熵增加原理 §3.6 热力学基本方程与T-S图 §3.7 熵变的计算 §3.8 熵和能量退降 §3.9 热力学第二定律的本质和熵的统计意义 §3.10 Helmholtz和Gibbs自由能 §3.11 变化的方向与平衡条件 §3.13 几个热力学函数间的关系 §3.12 △G的计算示例 §3.14 热力学第三定律及规定熵 *§3.15 绝对零度不能到达的原理 *§3.16 不可逆过程热力学简介 *§3.17 信息熵浅释

§3.1 自发变化的共同特征 §3.2 热力学第二定律 §3.3 Carnot定理 §3.4 熵的概念 §3.5 Clausius不等式与熵增加原理 §3.6 热力学基本方程与T-S图 §3.7 熵变的计算 §3.8 熵和能量退降 §3.9 热力学第二定律的本质和熵的统计意义 §3.10 Helmholtz和Gibbs自由能 §3.11 变化的方向与平衡条件 §3.13 几个热力学函数间的关系 §3.12 △G的计算示例 §3.14 热力学第三定律及规定熵 *§3.15 绝对零度不能到达的原理 *§3.16 不可逆过程热力学简介 *§3.17 信息熵浅释

§3.1 自发变化的共同特征 §3.2 热力学第二定律 §3.3 Carnot定理 §3.4 熵的概念 §3.5 Clausius不等式与熵增加原理 §3.6 热力学基本方程与T-S图 §3.7 熵变的计算 §3.8 熵和能量退降 §3.9 热力学第二定律的本质和熵的统计意义 §3.10 Helmholtz和Gibbs自由能 §3.11 变化的方向与平衡条件 §3.13 几个热力学函数间的关系 §3.12 G的计算示例 §3.14 热力学第三定律及规定熵 *§3.15 绝对零度不能到达的原理 *§3.16 不可逆过程热力学简介 *§3.17 信息熵浅释

《现代测试导论》课程教学资源（测量方法与测量理论）测量信息论资料（信息熵在电子测量误差分析中的应用）

《现代测试导论》课程教学资源（测量方法与测量理论）测量信息论资料（信息熵在曲线拟合辨识中的应用）

2.1 离散变量的非平均信息量 2.2 离散集的平均自信息量－熵 2.3 离散集的平均互信息量 2.4 连续随机变量的互信息和熵 2.5 凸函数和互信息的凸性

离散变量的非平均信息量 离散集的平均自信息量－熵 离散集的平均互信息量 信息不等式 凸函数和互信息的凸性 连续随机变量的互信息和微分熵