第26卷第2期 电子测量与仪器学报 6l.26Wa.2 2012年2月 JOURNAL OF ELECTRONIC MEASUREMENT AND INSTRUMENT ·171· D0:10.3724/SPJ.1187.2012.00171 信息熵在曲线拟合辨识中的应用 曾金芳2滕召胜1 (1.湖南大学电气与信息工程学院，长沙410082：2.湘潭大学材料与光电物理学院，湘潭411105) 摘要：在对测址数据进行曲线拟合辨识时，常用的误差指标，如均方根误差和误差平方和，没有考虑样本数据的概率统 计特性。基于信息熵原理介绍了一种新的曲线拟合辨识方法。将曲线拟合过程看作加性信道，建立了曲线拟合模型。首先将样 本数据进行多种曲线拟合，采用最大熵方法根据样本值估计出自变址的概率密度函数和信息熵：再根据拟合曲线计算拟合结果 嫡和误差嫡。最后计算出拟合模型的互信息，选取互信息最大的曲线作为样本的最佳拟合曲线，并给出了应用实例。中于该方法 充分考虑了样本数据的概率统计规律，因此能提高测量精度，具有更大的适用范围。对于测量信息论的研究有一定的参考价值。 关键词：曲线拟合；信息熵：误差嫡：互信息 中图分类号：TP202 文献标识码：A国家标准学科分类代码：510.40 Application of information entropy in curve fitting recognition Zeng Jinfang'2 Teng Zhaosheng (1.College of Electrical and Information Engineering.Hunan University,Changsha 410082,China; 2.College of Materials,Optoelectronics and Physics,Xiangtan University,Xiangtan 411105,China) Abstract:In the recognition of curve fitting for measurement data,common error indexes,such as RMS error and error square sum,don't consider sample's probability statistics properties.A curve fitting recognition method was introduced based on information entropy.A curve fitting model was established through taking a curve fitting course as an additive channel.First,variety curves were selected to fit sample.The Maximum Entropy Method was used to estimate the independent variable's probability density function and information entropy according to sample.Then,the fitting result entropy and the error entropy were calculated according to fitting curve.Finally.the fitting model's mutual information was calculated.The curve with maximum mutual information was selected as sample's optimal fitting curve.An application example was provided in the end.Since the method fully considers sample's probability statistics properties, the method can improve measurement's precision,has more extensive adaptability and some reference value to research on measurement information theory. Keywords:curve fitting;information entropy;error entropy;mutual information 1 引言 函数、NURBS曲线2]和样条曲线]等。具体选择哪 条曲线需根据误差指标来辨识，如平均误差、均方根 在测量或观察等过程中，通常会获得一组看上 误差和误差平方和等。这些指标均没有考虑到数据 去杂乱无章的样本数据(：，y,通常希望从中找出 的概率统计规律，然而在实际测量系统中，由于各 某种规律，即寻求一条曲线y=f(x),使f(x)在某 种因素的影响（如环境、人为和设备等），测量数据为 种准则下与所有数据点(：，)最为接近，这就是曲 随机变量，满足一定的概率统计规律。 线拟合。在曲线拟合时，不要求曲线f(x)严格地经 本文基于信息熵提出一种曲线拟合辨识方法。 过所有的数据点(，)，只要求拟合曲线f(x)在： 首先基于通信系统信道模型建立曲线拟合模型，然 处的某种误差指标最小川。对一组数据进行曲线拟合， 后计算曲线拟合模型的互信息，根据互信息指标对 可选择的曲线很多，如多项式函数、指数函数、对数 多条拟合曲线进行辨识。互信息作为一种优化指标 本文于2011年11月收到。 万方数据第26卷第2期 2012年2月 电子测量与仪器学报 JoURNALoF ELECTRONIC MEAsUREMENT久ND lNSTRUMENT 场L 26 No．2 ·171· DOI：10．3724／SPJ．1187．2012．00171 信息熵在曲线拟合辨识中的应用 曾金芳1，2滕召胜1 (1．湖南大学电气与信息工程学院，长沙410082；2．湘潭大学材料与光电物理学院，湘潭41 1 105) 摘要：在对测量数据进行曲线拟合辨识时，常用的误差指标，如均方根误差和误差平方和，没有考虑样本数据的概率统 计特性。基于信息熵原理介绍了一种新的曲线拟合辨识方法。将曲线拟合过程看作加性信道，建立了曲线拟合模型。首先将样 本数据进行多种曲线拟合，采用最大熵方法根据样本值估计出自变量的概率密度函数和信息熵；再根据拟合曲线计算拟合结果 熵和误差熵，最后计算出拟合模型的互信息。选取互信息最大的曲线作为样本的最佳拟合曲线，并给出了应用实例。南于该方法 充分考虑了样本数据的概率统计规律，因此能提高测量精度，具有更大的适用范围，对于测量信息论的研究有一定的参考价值。 关键词：曲线拟合；信息熵；误差熵：互信息 中图分类号：TP202 文献标识码：A 国家标准学科分类代码：510．40 Application of information entropy in curve fitting recognition Zeng Jinfan91·2 Teng Zhaoshen91 (1．College of Electrical and Information Engineering，Hunan UniversitY,Changsha 410082，China； 2．College of Materials，Optoelectronics and Physics，Xiangtan University,Xiangtan 41 1 105，China) Abstract：In the recognition of curve fitting for measurement data，common error 1ndexes，such as RMS error and error square sum，don’t consider sample’S probability statistics properties．A curve fitting recognition method was introduced based on information entropy．A curve fitting model was established through taking a curve fitting course as an additive channel．First，variety curves were selected to fit sample．The Maximum En仃opy Method was used to estimate the independent variable’S probability density function and information entropy according to sample．Then，the fitting result entropy and the error entropy were calculated according to fitting curve．Finally，the fitting model’S mutual information was calculated．The curve with maximum mutual information was selected as sample’S optimal fitting curve．An application example was provided in the end．Since the method fully considers sample’S probability statistics properties， the method Can improve measurement’S precision，has more extensive adaptability and some reference value to research on measurement information theory． Keywords：curve fitting；information entropy；error entropy；mutual information 1 引 言 在测量或观察等过程中，通常会获得一组看上 去杂乱无章的样本数据(五，yf)，通常希望从中找出 某种规律，即寻求一条曲线Y=，(工)，使．厂(x)在某 种准则下与所有数据点(鼍，咒)最为接近，这就是曲 线拟合。在曲线拟合时，不要求曲线．厂(工)严格地经 过所有的数据点(再，为)，只要求拟合曲线，(石)在xi 处的某种误差指标最小…。对一组数据进行曲线拟合， 可选择的曲线很多，如多项式函数、指数函数、对数 本文于2011年11月收到。 函数、NURBS曲线f2】和样条曲纠驯等。具体选择哪 条曲线需根据误差指标来辨识，如平均误差、均方根 误差和误差平方和等。这些指标均没有考虑到数据 的概率统计规律，然而在实际测量系统中，由于各 种因素的影响(如环境、人为和设备等)，测量数据为 随机变量，满足一定的概率统计规律14J。 本文基于信息熵提出一种曲线拟合辨识方法。 首先基于通信系统信道模型建立曲线拟合模型，然 后计算曲线拟合模型的互信息，根据互信息指标对 多条拟合曲线进行辨识。互信息作为一种优化指标 万方数据