信息论与编码技术第1章绪论2022
2022
第1章绪论1.信息的概念、2.信息论研究的对象、目的和内容、3.信息论简史与发展趋势2/35信息论与编码技术
信息论与编码技术 2/35 1.信息的概念 2.信息论研究的对象、目的和内容 3.信息论简史与发展趋势
1.信息的概念组成客观世界的三大基本要素：物质、能量和信息材料科学、能源科学和信息科学一起被称为当代文明的“三大支柱”。Without materials,there is nothing。Without energy,nothing happens.。Without information,nothing makes sense没有物质的世界是虚无的世界：没有能源的世界是死寂的世界A没有信息的世界是混乱的世界3/35信息论与编码技术
信息论与编码技术 3/35 组成客观世界的三大基本要素：物质、能量和信息， 材料科学、能源科学和信息科学一起被称为当代文 明的“三大支柱”。 ◦ Without materials, there is nothing. ◦ Without energy, nothing happens. ◦ Without information, nothing makes sense ◦ 没有物质的世界是虚无的世界； ◦ 没有能源的世界是死寂的世界； ◦ 没有信息的世界是混乱的世界
中国动四-票m5598口MFYCarDM-i5R做#E手02/2217:54智能网联车辆状态车辆健康能耗排名车菌未关·0中国科学技术大学西校区1三理MAYRAD29%80%415km油果面电锅超辣航8蓝牙未连接88肖四管O千里粮OTA升级百变主额山0口OSePA:商城照务热的4/35信息论与编码技术
信息论与编码技术 4/35
无所不在的、信息获取、发送、传输、接收、处理和利用5/35信息论与编码技术
信息论与编码技术 5/35 无所不在的 信息获取、发送、传输、接收、处理和利用
1.1信息是什么？，与情报的区别。情报是人们对于某个特定对象所见、所闻、所理解而产生的知识。是一类特定的信息，不是信息的全部，与知识的区别。知识是人们根据某种目的，从自然界收集得来的数据中整理、概括、提取得到的有价值的、人们所需的信息。。是一种普遍和概括性质的高层次信息。Q：也不等同于信息的全部6/35信息论与编码技术
信息论与编码技术 6/35 与情报的区别 ◦ 情报是人们对于某个特定对象所见、所闻、所理解而产生 的知识 ◦ 是一类特定的信息，不是信息的全部 与知识的区别 ◦ 知识是人们根据某种目的，从自然界收集得来的数据中， 整理、概括、提取得到的有价值的、人们所需的信息。 ◦ 是一种普遍和概括性质的高层次信息。 ◦ 也不等同于信息的全部
、与消息的区别。用特定形式把客观物质运动和主观思维活动的状态表达出来就成为了消息特定形式（如文字、符号、数据、语言、音符、图片、图像等能够被人们感知的形式）。两个条件：：1）能被人们感知和理解；：2）可以进行传递和获取；消息是信息的载体，信息是消息的内容，与信号的区别。把消息变换成适合信道传输的物理量，就是信号。。如电信号、光信号、声信号、生物信号。信号携带消息，是消息的运载工具、信号（消息（信息））7/35信息论与编码技术
信息论与编码技术 7/35 与消息的区别 ◦ 用特定形式把客观物质运动和主观思维活动的状态表达出 来就成为了消息。 ◦ 特定形式（如文字、符号、数据、语言、音符、图片、图 像等能够被人们感知的形式） ◦ 两个条件： 1）能被人们感知和理解； 2）可以进行传递和获取； ◦ 消息是信息的载体，信息是消息的内容 与信号的区别 ◦ 把消息变换成适合信道传输的物理量，就是信号。 ◦ 如电信号、光信号、声信号、生物信号 ◦ 信号携带消息，是消息的运载工具 信号(消息（信息）)
信息的各种定义>R.V.L.Hartley-1928《信息的传输》。发信者发出的信息就是他在通信符号表中选择符号的具体方式，用所选择的自由度来度量信息。缺点：未涉及信息的价值和具体内容，只考虑选择方式；也没考虑选择方式的统计特性N.Wiener-1948。信息就是信息，不是物质，也不是能量。（上升到最基本概念的位置）。“信息是人们适应外部世界并且是这种适应反作用与外部世界的过程中，同外部世界进行互相交换的内容。，8/35信息论与编码技术
信息论与编码技术 8/35 R.V.L. Hartley –1928 《信息的传输》 ◦ 发信者发出的信息就是他在通信符号表中选择符号的具体 方式，用所选择的自由度来度量信息 ◦ 缺点：未涉及信息的价值和具体内容，只考虑选择方式； 也没考虑选择方式的统计特性 N.Wiener – 1948 ◦ 信息就是信息，不是物质，也不是能量。（上升到最基本 概念的位置） ◦ “信息是人们适应外部世界并且是这种适应反作用与外部 世界的过程中，同外部世界进行互相交换的内容
信息的各种定义。缺点：1.信息不仅与人类有关，人与外部世界的交换的内容不仅限于信息。>G.Longe-1975《信息论：新的趋势与未决问题》“信息是反映事物的形式、关系和差别的东西。它包含于?客体间的差别中，二不在客体本身中。“在通信中仅仅差别关系是重要的。”一一一信息就是差异：没有差异就没有信息吗？。缺点：不全面，不确切9/35信息论与编码技术
信息论与编码技术 9/35 ◦ 缺点：1.信息不仅与人类有关，人与外部世界的交换的内 容不仅限于信息。 G. Longe –1975 《信息论：新的趋势与未决问题》 ◦ “信息是反映事物的形式、关系和差别的东西。它包含于 客体间的差别中，二不在客体本身中。” ◦ “在通信中仅仅差别关系是重要的。” ◦ -信息就是差异：没有差异就没有信息吗？ ◦ 缺点：不全面，不确切
1.2香农信息的定义香农1948年论文-《通信的数学理论》，从研究通信系统传输的实质出发，科学定义了信息，并进行了定性和定量的描述消息信源信道信宿（接收者）（发送者）干扰或噪声（信道可以是空间上、时间上的）■信息：事物运动或存在方式的不确定性的描述10/35信息论与编码技术
信息论与编码技术 10/35 香农 1948年论文-《通信的数学理论》 从研究通信系统传输的实质出发，科学定义了信息， 并进行了定性和定量的描述。 （信道可以是空间上、时间上的） 信息：事物运动或存在方式的不确定性的描述 信源 信道 信宿 消息 干扰或噪声 （发送者） （接收者）