2.1离散变量的非平均信息量 2.2离散集的平均自信息量一熵 2.3离散集的平均互信息量 2.4连续随机变量的互信息和熵 2.5凸函数和互信息的凸性

 2.1 信源的数学模型及分类  2.2 离散信源的信息熵  2.3 信息熵的基本性质和定理  2.4 离散无记忆的扩展信源  2.5 离散平稳信源  2.6 马尔可夫信源  2.7 信源剩余度与自然语言的熵

信息论是在长期通信工程的实践中,由通信技术与概率论 随机过程和数理统计相结合而逐步发展起来的一门科学 奈魁斯特:他在1924年研究影响电报传递速度的因素时,就 察觉到信息传输速度和频带宽度有关系;

通信中信息传输所要解决的基本问题是： 有效性和可靠性 在不失真或允许一定失真条件下，如何用尽 可能烧得符号来传送信源信息以提高信息传 输率－－－信源编码

3.1 数据压缩的基本原理 3.2 数据压缩方法分类 3.3 常用压缩编码方法 3.3.1 信息熵编码

密码学主要包含两部内容，即编码学和密码分析学。 编码学是通过编码技术改变被保护信息的形式，使得 编码后的信息除了指定接收者外其他人无法理解的一门学 问，即加密算法的设计和研究。 密码分析，是研究如何攻破一个密码系统，恢复被隐 藏的信息之本来面目，也就是密码破译技术

编码器是实现将某种信息(数字、字母、符号等)用若干位二进制代码表示的电路。这些二进制代码都具有特定的含义,并称其为编码。编码器有若干个输入,在某一时刻只有个信号被转换为二进制码。输出的冂位二进制码,最多可以用来表示2m个输入信息

 什么是数字化？  认识进制  掌握编码的含义  字符编码  汉字编码  图像编码

固定资产的基础数据量大，为了正确的输 入和便于进行数据分类汇总处理，需要对每一 固定资产进行编码。固定资产编码由若干基本 编码组成，编码的好坏直接影响计算机数据处 理的效率和输出管理信息的能力

一、 基于统计的方法 1、霍夫曼编码 2、香农－范诺方法 3、算术编码方法 4、 行程编码（RLE） 5、 词典编码