编码理论 Coding Theory 吉首大学物理信息学院 向晓燕制作
编码理论 Coding Theory 吉首大学物理信息学院 向晓燕 制作
教学安排 总学时36学时,理论教学34学时,习题2学时 第1章绪论(2学时) 第2章无失真信源编码(10学时) 第3章相关信源编码(2) 第4章限失真信源编码(4) 第5章信道编码(4 第6章通信系统的保密(6) ■第7章纠错码与通信系统的保密(4) a第8章现代编码技术(2)
教学安排 ◼ 总学时36学时,理论教学34学时,习题2学时 ◼ 第1章 绪论 (2学时) ◼ 第2章 无失真信源编码 (10学时) ◼ 第3章 相关信源编码 (2) ◼ 第4章 限失真信源编码(4) ◼ 第5章 信道编码 (4) ◼ 第6章 通信系统的保密 (6) ◼ 第7章 纠错码与通信系统的保密 (4) ◼ 第8章 现代编码技术(2)
论 第一章绪详 信息论相关知识和概念 编码理论
第一章 绪论 ◼ 信息论相关知识和概念 ◼ 编码理论
信息论相关知识介绍 言息的产生和传播 信息的定义与分类 信息的特性及性质
信息论相关知识介绍 ◼ 信息的产生和传播 ◼ 信息的定义与分类 ◼ 信息的特性及性质
对信息论的理解 狭义信息论:指香农信息理论,主要研究信息的一 测度,信道容量,信道信源编码等问题,也称经 典信息论。是基础理论 般信息论:泛指通信理论,通信的数学理论, 广泛研究信息传输和处理的问题。 广义信息论:包含上述两种理解,还包括所有与 信息有关的自然、社会领域。 香农信息理论,是为设计有效可靠的通信系统提 供理论依据
◼ 狭义信息论：指香农信息理论，主要研究信息的 测度，信道容量，信道信源编码等问题，也称经 典信息论。是基础理论 ◼ 一般信息论：泛指通信理论，通信的数学理论， 广泛研究信息传输和处理的问题。 ◼ 广义信息论：包含上述两种理解，还包括所有与 信息有关的自然、社会领域。 ◼ 香农信息理论，是为设计有效可靠的通信系统提 供理论依据。 对信息论的理解
信息的产生和传播 信息是人类生产实践中互通情报中产生的 信息发展的五次变革,极大的推动了社会的进步 信息科学技术知识成为最重要的战略资源,人们 现在关注于信息科学技术知识的开发和利用,人 类社会的发展与信息传播速度密切相关 信息科学、信息技术、信息产业
信息的产生和传播 ◼ 信息是人类生产实践中互通情报中产生的 ◼ 信息发展的五次变革，极大的推动了社会的进步 ◼ 信息科学技术知识成为最重要的战略资源，人们 现在关注于信息科学技术知识的开发和利用，人 类社会的发展与信息传播速度密切相关 ◼ 信息科学、信息技术、信息产业
信息的定义与分类 1948年,维纳提出:信息就是信息,它既不是物 质也不是能量 般普遍对信息的理解是,信息=消息=情报=知
信息的定义与分类 ◼ 1948年，维纳提出：信息就是信息，它既不是物 质也不是能量 ◼ 一般普遍对信息的理解是，信息=消息=情报=知 识 =信号？
信息的定义与分类 信息不等同于情报 信息不等同于知识 信息与消息:消息是信息的载荷者,需要指出的是:一个消 息可以含有不同的信息量,同一信息也可以用不同的消息 来载荷。数据、图片可能发布的是同一信息 信息不等同于信号:信号是消息的一种表现形式,又是消息 的载体,它是一种物理量。信号携带着信息,但不是信 息本身,同一信息可以用不同信号表示,同一信号也可以 表示不同信息
信息不等同于情报 信息不等同于知识 信息与消息：消息是信息的载荷者，需要指出的是：一个消 息可以含有不同的信息量，同一信息也可以用不同的消息 来载荷。数据、图片可能发布的是同一信息 信息不等同于信号：信号是消息的一种表现形式，又是消息 的载体，它是一种物理量 。信号携带着信息，但不是信 息本身，同一信息可以用不同信号表示，同一信号也可以 表示不同信息。 信息的定义与分类
信息的定义与分类 信息是构成客观世界的三大要素之 ■信息的定义:信息是事物运动状态或存在方式的不确定性 信息的分类: 法信息:事物的状态和状态改变方式本身。研究事物运 动出现的各种可能状态和这些状态之间的联系。是抽象的。 语义信息:研究信息的主体含义 语用信息:研究信息客观价值
信息的定义与分类 ◼ 信息是构成客观世界的三大要素之一 ◼ 信息的定义：信息是事物运动状态或存在方式的不确定性 的描述 ◼ 信息的分类： 语法信息：事物的状态和状态改变方式本身。研究事物运 动出现的各种可能状态和这些状态之间的联系。是抽象的。 语义信息：研究信息的主体含义。 语用信息：研究信息客观价值
人们对客观世界运动规律和存在状态的认识结果。 信息 信息 传递 信息处理一再生 传递 信息 外部世界 信息 获 问题/环境 语用信息 信息运动过程
▪人们对客观世界运动规律和存在状态的认识结果。 信息 传递 信息处理—再生 信息 传递 信息 获取 信息 施用 外部世界 问题／环境 信息运动过程