第3卷第1期 智能系统学报 Vol.3 N2 1 2008年2月 CAAI Transactions on Intelligent Systems Fcb.2008 一种改进的多类支持向量机超光谱图像分类方法 赵春晖，陈万海，万建 (哈尔滨工程大学信息与通信工程学院，黑龙江哈尔滨150001) 摘要：支持向量机(SVM)是建立在统计学理论基础上的一种机器学习方法，用于解决二类分类问题，如何有效地 将其推广到多类分类问题是一个正在研究的课题.总结了现有的主要的支持向量机多类分类算法，并在1x1SVM 分类算法基础上提出一种二次分类的方法.改良了惩罚因子，提高了不易分的类别之间的可分程度.通过对超光谱 图像进行分类实验，结果表明该方法具有较高的分类精度」 关键词：支持向量机，二次分类；多类支持向量机 中图分类号：TN919.81文献标识码：A文章编号：1673-4785(2008)01-007706 An improved hyperspectral image classification method for a multiclass support vector machine ZHAO Chumhui,CHEN Wan-hai,WAN jian (College of Information and Communication Engineering,Harbin Engineering University,Harbin 150001,China) Abstract:SVM is a machine learning method developed on the basis of statistics theory and originally de- signed for binary classification problems.The most effective way to extend it for multiclass classification is still an area of considerable discussion.This paper presental a secondary classification method based on 1- a-1 SVM classification algorithm after a general overview of typical methods for a multiclass SVM.Our method improves the penalty factors,so it enhances the divisibility of classes that were difficult to classify Experimental results of hyperspectral image classification showed that the suggested multiclass SVM has higher classification precision. Keywords support vector machine;secondary classification;multiclass SVM 支持向量机(support vector machine,SVM)是的分类效果.但当其应用到数据量大、维数高的超光 Va即nik等在统计学习理论的基础上发展的一种新 谱图像时，就会遇到如何选择最佳惩罚因子和最优 的模式识别方法，在解决小样本、非线性及高维模式权向量系数的问题.由于目前尚无具体理论来指导 识别问题中表现出许多特有的优势.最初支持向量 最佳惩罚因子的选择，因此需要依赖大量的试验和 机是用以解决两类分类问题，不能直接用于多类分 研究者的经验，这对于高维的超光谱图像来说是很 类，而实际应用中遇到的多是多类分类问题.目前已不现实的.文中针对这种情况提出了一种改进的多 经有许多算法将SVM推广到多类分类问题，这些类支持向量机分类方法，即在1a1SVM分类结果 算法统称为多类支持向量机· 的基础上进行二次分类，以改善错分样本较多的类 1a1SVM分类方法是一个具有代表性的多类 别之间的混淆程度。 支持向量机算法，它在一定程度上改善了传统的多 类支持向量机存在的错分、拒分区域，可以获得较好 1支持向量机的分类原理 支持向量机的分类原理可概括为：寻找一个最 收稿日期：2007-0606 优分类超平面，使得训练样本中的两类样本点能被 基金项目：高等学校博士学科点基金资助项目(20060217021)；黑龙 无错误的分开，并且要使两类的分类间隔最大；而对 江省自然科学基金资助项目（刀G060601). 通讯作者：赵春晖.E-mail:zhaochunhui@hrbeu..edu.cn. 线性不可分问题，通过核函数将低维输入空间的数 1994-2008 China Academic Journal Electronie Publishing House.All rights reserved.http://www.cnki.net第 3 卷第 1 期 智 能 系 统 学 报 Vol. 3 №. 1 2008 年 2 月 CAA I Transactions on Intelligent Systems Feb. 2008 一种改进的多类支持向量机超光谱图像分类方法 赵春晖 ,陈万海 ,万 建 (哈尔滨工程大学 信息与通信工程学院 ,黑龙江 哈尔滨 150001) 摘 要 :支持向量机(SVM)是建立在统计学理论基础上的一种机器学习方法 ,用于解决二类分类问题 ,如何有效地 将其推广到多类分类问题是一个正在研究的课题. 总结了现有的主要的支持向量机多类分类算法 ,并在 12a21 SVM 分类算法基础上提出一种二次分类的方法. 改良了惩罚因子 ,提高了不易分的类别之间的可分程度. 通过对超光谱 图像进行分类实验 ,结果表明该方法具有较高的分类精度. 关键词 :支持向量机 ;二次分类 ;多类支持向量机 中图分类号 : TN919. 81 文献标识码 :A 文章编号 :167324785 (2008) 0120077206 An improved hyperspectral image classification method for a multiclass support vector machine ZHAO Chun2hui , CH EN Wan2hai , WAN jian (College of Information and Communication Engineering , Harbin Engineering University , Harbin 150001 ,China) Abstract :SVM is a machine learning met hod developed on t he basis of statistics t heory and originally de2 signed for binary classification problems. The most effective way to extend it for multiclass classification is still an area of considerable discussion. This paper presental a secondary classification met hod based on 12 a21 SVM classification algorithm after a general overview of typical methods for a multiclass SVM. Our met hod imp roves t he penalty factors , so it enhances the divisibility of classes t hat were difficult to classify. Experimental results of hyperspectral image classification showed t hat the suggested multiclass SVM has higher classification precision. Keywords :support vector machine ; secondary classification ; multiclass SVM 收稿日期 :2007206206. 基金项目 :高等学校博士学科点基金资助项目 (20060217021) ;黑龙 江省自然科学基金资助项目(ZJ G0606201) . 通讯作者 :赵春晖. E2mail :zhaochunhui @hrbeu. edu. cn. 支持向量机(support vector machine , SVM) 是 Vap nik 等在统计学习理论的基础上发展的一种新 的模式识别方法 ,在解决小样本、非线性及高维模式 识别问题中表现出许多特有的优势. 最初支持向量 机是用以解决两类分类问题 ,不能直接用于多类分 类 ,而实际应用中遇到的多是多类分类问题. 目前已 经有许多算法将 SVM 推广到多类分类问题 ,这些 算法统称为多类支持向量机. 12a21 SVM 分类方法是一个具有代表性的多类 支持向量机算法 ,它在一定程度上改善了传统的多 类支持向量机存在的错分、拒分区域 ,可以获得较好 的分类效果. 但当其应用到数据量大、维数高的超光 谱图像时 ,就会遇到如何选择最佳惩罚因子和最优 权向量系数的问题. 由于目前尚无具体理论来指导 最佳惩罚因子的选择 ,因此需要依赖大量的试验和 研究者的经验 ,这对于高维的超光谱图像来说是很 不现实的. 文中针对这种情况提出了一种改进的多 类支持向量机分类方法 ,即在 12a21 SVM 分类结果 的基础上进行二次分类 ,以改善错分样本较多的类 别之间的混淆程度. 1 支持向量机的分类原理 支持向量机的分类原理可概括为 :寻找一个最 优分类超平面 ,使得训练样本中的两类样本点能被 无错误的分开 ,并且要使两类的分类间隔最大 ;而对 线性不可分问题 ,通过核函数将低维输入空间的数