第一节波形信源的统计特性和离散化 第二节连续信源和信源的信息测度 第三节具有最大熵的连续信源 第四节连续信道和波形信道的分类 笫五节连续信道和波形信道的信息传输率 笫六节连续信道和波形信道的信道容量 第七节连续信道编码定理

针对不完备信息表预处理问题中的不完备数据的填补问题、冗余属性的约简问题和连续属性的离散化问题进行了研究.应用粗糙集理论,由相容信息表中条件属性与决策属性间的一致性对应关系,定义了划分区间的加法运算,解决了不完备数据填补问题;根据类别概念,定义了差别向量,利用差别向量加法运算删除了冗余属性;根据条件属性与决策属性之间的依赖关系及相对信息熵概念,实现了连续属性的离散化.数值示例和实验结果显示此方法是有效可行的

提出了基于免疫遗传算法的形态学自适应结构元素生成算法，并将其用于光学相干断层成像(optical coherence tomography，OCT) 图像中视网膜组织边缘检测. 首先将图像进行去噪和粗分割的预处理，并将图像划分为若干子图像; 其次对每一子图利用免疫遗传算法求取自适应结构元，初始随机生成固定长度的二进制数串作为抗体，并将其转化为结构元素格式，以图像二维熵定义抗体适应度，根据子图像本身结构特征信息，寻找最优抗体结构元素; 最后利用寻优得到的各结构元素对子图进行形态学边缘检测，合并各子图的分割结果，实现整体图像目标边界提取. 实验结果表明了该方法在图像目标边界提取的有效性

针对分类数据, 通过数据对象在属性值上的集中程度定义了新的基于属性值集中度的类内相似度(similarity based on concentration of attribute values, CONC), 用于衡量聚类结果中类内各数据对象之间的相似度; 通过不同类的特征属性值的差异程度定义了基于强度向量差异的类间差异度(dissimilarity based on discrepancy of SVs, DCRP), 用于衡量两个类之间的差异度.基于CONC和DCRP提出了新的分类数据聚类有效性内部评价指标(clustering validation based on concentration of attribute values, CVC), 它具有以下3个特点: (1)在评价每个类内相似度时, 不仅依靠类内各数据对象的特征, 还考虑了整个数据集的信息; (2)采用几个特征属性值的差异评价两个类的差异度, 确保评价过程不丢失有效的聚类信息, 同时可以消除噪音的影响; (3)在评价类内相似度及类间差异度时, 消除了数据对象个数对评价过程的影响.采用加州大学欧文分校提出的用于机器学习的数据库(UCI)进行实验, 将CVC与类别效用(category utility, CU)指标、基于主观因素的分类数据指标(categorical data clustering with subjective factors, CDCS)指标和基于信息熵的内部评价指标(information entropy, IE)等内部评价指标进行对比, 通过外部评价指标标准交互信息(normalized mutual information, NMI)验证内部评价效果.实验表明相对其他内部评价指标, CVC指标可以更有效地评价聚类结果.此外, CVC指标相对于NMI指标, 不需要数据集以外的信息, 更具实用性

1 数学之美 系列一 — 统计语言模型 系列二 — 谈谈中文分词 系列三 — 隐含马尔可夫模型在语言处理中的应用 系列四 — 怎样度量信息? 系列五 — 简单之美：布尔代数和搜索引擎的索引 系列六 — 图论和网络爬虫 (Web Crawlers) 系列七 — 信息论在信息处理中的应用 系列八 — 贾里尼克的故事和现代语言处理 系列九 — 如何确定网页和查询的相关性 系列十 — 有限状态机和地址识别 系列十一 — Google 阿卡 47 的制造者阿米特.辛格博士 系列十二 — 余弦定理和新闻的分类 系列十三 — 信息指纹及其应用 系列十四 — 谈谈数学模型的重要性 系列十五 — 繁与简 自然语言处理的几位精英 系列十六(上)—不要把所有的鸡蛋放在一个篮子里-谈谈最大熵模型 系列十六(下)— 不要把所有的鸡蛋放在一个篮子里-最大熵模型. 系列十七 — 闪光的不一定是金子 -- 谈谈搜索引擎作弊问题 (Search Engine Anti-SPAM) 系列十八 — 矩阵运算和文本处理中的分类问题 系列十九 — 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks) 系列二十 — 自然语言处理的教父 -- 马库斯 系列二十一 — 布隆过滤器（Bloom Filter） 系列二十二 — 由电视剧《暗算》所想到的-谈谈密码学的数学原理 系列二十三 — 输入一个汉字需要敲多少个键-谈谈香农第一定律 系列二十四 — 从全球导航到输入法-谈谈动态规划 2 浪潮之巅 2.1 第一章 — 帝国的余辉（AT&T) 2.5 第二章 — 蓝色巨人（IBM） 2.11 第三章 — “水果”公司的复兴 （乔布斯和苹果公司） 2.15 第四章 — 计算机工业的生态链 2.18 第五章 — 奔腾的芯（英特尔—Intel） 2.23 第六章 — 互联网的金门大桥（思科） 2.27 第七章 — 硅谷的见证人（惠普公司） 2.32 第八章 — 没落的贵族—摩托罗拉 2.38 第九章 — 硅谷的另一面 2.43 第十章 — 短暂的春秋——与机会失之交臂的公司 2.49 第十一章 — 幕后的英雄—风险投资（Venture Capital） 2.55 第十二章 — 信息产业的规律性

一、连续信源的熵和互信息 二、信息率失真理论 三、标量量化编码 四、矢量量化编码 五、语音压缩编码 六、图象压缩编码

提出了一种针对MPEG-2 AAC压缩音频的脆弱水印算法.该算法利用了AAC中MDCT量化系数大于15的Huffman编码特性来嵌入水印,并依据水印的频率分布和音频信号感知熵PE的大小对嵌入算法进行了分析和改进.实验表明,该算法具有较高隐藏率和良好的不可感知性,并且水印的嵌入和提取过程十分方便快速,适合进行实时分析

4.1 引言 4.2 经典谱估计 4.3 现代谱估计中的参数建模 4.4 AR模型谱估计的性质 4.5 AR谱估计的方法 4.6 最大熵谱估计与最大似然谱估计 4.7 特征分解法谱估计