信息论 ·诺伯特·维纳(Norbert Wiener'）,1948 《控制论》：“信息就是信息，既不是物质，也不是能量” 香农(Claude Shannon),“通信的数学理论”，1948 “信息是用来消除随机不定性的东西”？ “信息的最小单位是比特（二值符号）” 任何复杂信息都可以根据其结构和内容，按照一定的编码规则进行 分割，最终成为一组二值数据。一没语言啥事？ 一度量信息量：一本五十万字的书有多少信息量？ ·任何信息都存在冗余 一冗余量与信息中各符号（数字、字母或单词）出现概率有关 ·信息熵：信息中排除了冗余后的平均信息量 一单位：比特 -熵大=复杂（中文9.65比特，英文4.03比特） ·x:信息是意识的表现和物化（编码）信息论 • 诺伯特·维纳(Norbert Wiener) ，1948 – 《控制论》： “信息就是信息，既不是物质，也不是能量” • 香农（Claude Shannon），“通信的数学理论”，1948 – “信息是用来消除随机不定性的东西” ？ – “信息的最小单位是比特（二值符号）” • 任何复杂信息都可以根据其结构和内容，按照一定的编码规则进行 分割，最终成为一组二值数据。——没语言啥事？ – 度量信息量：一本五十万字的书有多少信息量？ • 任何信息都存在冗余 – 冗余量与信息中各符号（数字、字母或单词）出现概率有关 • 信息熵：信息中排除了冗余后的平均信息量 – 单位：比特 – 熵大＝复杂（中文9.65比特，英文4.03比特） • llxx：信息是意识的表现和物化（编码）☺