12消息、信息和信号 ●消息:语音、文字、图形、图像 ●信息:消息的有效内容 不同消息可有相同内容 ●信号:消息的载体 通信系统中传输的是信号
3 1.2 消息、信息和信号 ⚫消息:语音、文字、图形、图像… ⚫信息:消息的有效内容 不同消息可有相同内容 ⚫信号:消息的载体 通信系统中传输的是信号
●信息的度量: 制定度量方法考虑的原则 货物 消息 货运量 信息量 有多种 有多种 和种类无关 和类型无关 和贵重程度 和重要程度 无关 无关 总量是单件总量是单件独立 货运量之和消息的信息量之和
4 ⚫信息的度量: *制定度量方法考虑的原则 货 物 消 息 货运量 信息量 有多种 有多种 和种类无关 和类型无关 和贵重程度 和重要程度 无关 无关 总量是单件 总量是单件独立 货运量之和 消息的信息量之和
米制定度量信息的方法 #消息“量”≠信息量 例:“明天降雨量将有一毫米”-信息量 明天降雨量将达到一米”-信息量 大零 “明日太阳将从东方升起”-信息量 #信息量/=IPx)l,P(x)-发生概率 #定义:I=logn[P(x)=-ogP(x) #通常取a=2,此时单位为“比特”。 对于一个等概率、二进制码元: 1/1/)=1比特5
5 *制定度量信息的方法 # 消息“量” 信息量 # 例:“明天降雨量将有一毫米”-- 信息量 小 “明天降雨量将达到一米” -- 信息量 大 “明日太阳将从东方升起” -- 信息量 零 # 信息量 I = I [ P(x) ],P(x) -- 发生概率 # 定义:I = loga [1/P(x)] = -logaP(x) # 通常取 a = 2, 此时单位为“比特”。 # 对于一个等概率、二进制码元: I = log2 [1/P(x)] = log2 [1/(1/2)] = 1 比特
对于一个等概率、M进制码元: 1=log2 1/P(x)=log2 [1/(1/) log2M比特 若M=2k,则I=k比特
6 # 对于一个等概率、M进制码元: I = log2 [1/P(x)] = log2 [1/(1/M)] = log2 M 比特 若 M = 2k ,则 I = k 比特
1.3数字通信 1.31基本概念 ◆两类信号 ●模拟信号:取值连续,例如语音 ●数字信号:取值离散,例如数据
7 1.3数字通信 1.3.1基本概念 ◆两类信号 • 模拟信号:取值连续,例如语音 • 数字信号:取值离散,例如数据