正在加载图片...
工程科学学报,第37卷,第3期:385-389,2015年3月 Chinese Journal of Engineering,Vol.37,No.3:385-389,March 2015 DOI:10.13374/j.issn2095-9389.2015.03.019:http://journals.ustb.edu.cn 一个广义三次样条光滑半监督支持向量机 张晓丹四,马菁改 北京科技大学数理学院,北京100083 ☒通信作者,Email:bkdzxd(@163.com 摘要研究半监督支持向量机分类优化模型的非光滑问题.建立了光滑半监督支持向量机模型,采用广义三弯矩法导出 零点二阶光滑的广义三次样条函数,并以此逼近半监督支持向量机优化中的非光滑部分.构造出基于上述样条函数的具有 一阶光滑的半监督支持向量机,从而可以用优化中的光滑算法来求解该模型.分析了广义三次样条函数逼近对称铰链损失 函数的逼近精度,证明了新模型的收敛性.数值实验显示新模型有较好的分类效果 关键词支持向量机:三次样条函数:分类:光滑 分类号TP181 A general cubic spline smooth semi-supervised support vector machine ZHANG Xiao-dan,MA Jing-gai School of Mathematics and Physics,University of Science and Technology Beijing,Beijing 100083,China Corresponding author,E-mail:bkdzxd@163.com ABSTRACT This article is focused on the non-smooth problem of the semi-supervised support vector machine optimization model.A smooth semi-supervised support vector machine model was established.A general cubic spline function with 2 times differentiable at zero point was deduced by a general three-moment method and was used to approach the non-smooth part in the semi-supervised sup- port vector machine.A new smooth semi-supervised support vector with I time differentiable based on the general cubic spline function was constructed,and thus a lot of fast optimization algorithms could be applied to solve the smooth semi-supervised vector machine model.The approximation accuracy of the general cubic spline function to the symmetric hinge loss function was analyzed,and the convergence accuracy of the new model was proved.Numerical experiments show that the new model has a better classification result. KEY WORDS support vector machines:cubic spline function:classification:smoothing 为了得到精确的分类器,支持向量机-四训练过 光滑的规划问题.20O5年,Chapelle和Zien建立了 程需要大量的标记数据.然而要获得大量的标记样 一个无约束的光滑半监督支持向量机模型,采用光滑 本,需要耗用大量的人力物力.半监督支持向量机 的高斯函数来逼近无标记样本的对称铰链损失函数. (semi-supervised support vector machine,SVM) 光滑函数的应用使原来的不可微模型变成可微模型, 以同时利用标记样本和无标记样本的信息,当有小部 从而可以采用快速的优化算法求解,大大降低了半监 分标记样本和大量无标记样本时,半监督支持向量机 督支持向量机的计算复杂度.本文应用广义三弯矩法 亦能够提供给我们一个性能良好的分类器网.由于半 构造广义三次样条函数来逼近对称铰链损失函数,建 监督支持向量机的实用性,近年来受到了广泛的关注. 立了光滑半监督支持向量机模型.数值计算显示广义 半监督支持向量机把间隔最大化原则应用到标记 三次样条函数比高斯函数能更好地逼近对称铰链损失 样本和无标记样本中,从而使半监督支量机是一个非 函数,且新模型有更好的分类效果. 收稿日期:2013-12-30 基金项目:中央高校基本科研业务费资助项目(FRF-BR-12O21)工程科学学报,第 37 卷,第 3 期: 385--389,2015 年 3 月 Chinese Journal of Engineering,Vol. 37,No. 3: 385--389,March 2015 DOI: 10. 13374 /j. issn2095--9389. 2015. 03. 019; http: / /journals. ustb. edu. cn 一个广义三次样条光滑半监督支持向量机 张晓丹,马菁改 北京科技大学数理学院,北京 100083  通信作者,E-mail: bkdzxd@ 163. com 摘 要 研究半监督支持向量机分类优化模型的非光滑问题. 建立了光滑半监督支持向量机模型,采用广义三弯矩法导出 零点二阶光滑的广义三次样条函数,并以此逼近半监督支持向量机优化中的非光滑部分. 构造出基于上述样条函数的具有 一阶光滑的半监督支持向量机,从而可以用优化中的光滑算法来求解该模型. 分析了广义三次样条函数逼近对称铰链损失 函数的逼近精度,证明了新模型的收敛性. 数值实验显示新模型有较好的分类效果. 关键词 支持向量机; 三次样条函数; 分类; 光滑 分类号 TP181 A general cubic spline smooth semi-supervised support vector machine ZHANG Xiao-dan ,MA Jing-gai School of Mathematics and Physics,University of Science and Technology Beijing,Beijing 100083,China  Corresponding author,E-mail: bkdzxd@ 163. com ABSTRACT This article is focused on the non-smooth problem of the semi-supervised support vector machine optimization model. A smooth semi-supervised support vector machine model was established. A general cubic spline function with 2 times differentiable at zero point was deduced by a general three-moment method and was used to approach the non-smooth part in the semi-supervised sup￾port vector machine. A new smooth semi-supervised support vector with 1 time differentiable based on the general cubic spline function was constructed,and thus a lot of fast optimization algorithms could be applied to solve the smooth semi-supervised vector machine model. The approximation accuracy of the general cubic spline function to the symmetric hinge loss function was analyzed,and the convergence accuracy of the new model was proved. Numerical experiments show that the new model has a better classification result. KEY WORDS support vector machines; cubic spline function; classification; smoothing 收稿日期: 2013--12--30 基金项目: 中央高校基本科研业务费资助项目( FRF--BR--12--021) 为了得到精确的分类器,支持向量机[1 - 2]训练过 程需要大量的标记数据. 然而要获得大量的标记样 本,需要耗用大量的人力物力. 半监督支持向 量 机 ( semi-supervised support vector machine,S3 VM) [3 - 5]可 以同时利用标记样本和无标记样本的信息,当有小部 分标记样本和大量无标记样本时,半监督支持向量机 亦能够提供给我们一个性能良好的分类器[6]. 由于半 监督支持向量机的实用性,近年来受到了广泛的关注. 半监督支持向量机把间隔最大化原则应用到标记 样本和无标记样本中,从而使半监督支量机是一个非 光滑的规划问题. 2005 年,Chapelle 和 Zien[7]建立了 一个无约束的光滑半监督支持向量机模型,采用光滑 的高斯函数来逼近无标记样本的对称铰链损失函数. 光滑函数的应用使原来的不可微模型变成可微模型, 从而可以采用快速的优化算法求解,大大降低了半监 督支持向量机的计算复杂度. 本文应用广义三弯矩法 构造广义三次样条函数来逼近对称铰链损失函数,建 立了光滑半监督支持向量机模型. 数值计算显示广义 三次样条函数比高斯函数能更好地逼近对称铰链损失 函数,且新模型有更好的分类效果.
向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有