正在加载图片...
,1358 北京科技大学学报 第31卷 满足煤矿的需要，提出了巷道围岩稳定性动态工程 分类技术，并分析了分类结构的表达技术及分类结 空(w+6-1+打户肤（国 果的应用方法[.Palmstrom和Broch给出了Q和 式中，a=(a,,av),B=(月，…，Bu)T.求解最 QTBM分类系统的使用条件町.Choi和Park在隧 优解，同时还应满足下列Karush一Kuhn一Tucker 道围岩分类中对RMR和Q两种分类法进行了对 (KKT)互补条件： 比0 a4[y:(wx十b)-1+]=0,i=1,2,,M 支持向量机在处理小样本学习问题上具有独到 B=0, =1,2,,M 的优越性·支持向量机避免了神经网络中的局部最 c≥0，B≥0,5≥0， i=1,2,…,M 优解问题和拓扑结构难以确定问题，并有效地克服 (3) 了“维数灾难”，同时由于它是一个凸二次优化问 为了加强线性可分性，通过非线性矢量函数 题，能够保证得到的极值解是全局最优解，且随着 g(x)=(g1(x),…,g(x)将m维输入矢量x映 统计学习理论的发展，支持向量机作为一种新的机 射到l维特征空间，采用核函数H(x,x)代替 器学习技术，受到了国内外不同研究领域的广泛关 g(x),则原问题的对偶问题为： 注，支持向量机是在统计学习理论的VC维理论和 结构风险最小化原理的基础上发展起来的，它具有 max o(a)= 理论严密、适应性强、全局优化、训练效率高和泛化 (4) 性能好等优点，在理论和应用方面均有光明的前景， 本文利用支持向量机在处理小样本学习问题上具有 s.t 4=0,0≤4≤C,=1,2,k 独到的优越性和可获得全局最优解的特点，解决岩 (5) 石力学与工程中遇到“数据有限”和“模型与参数给 式中，c,%为非负拉格朗日乘子.由于H(x,x) 不准”的瓶颈问题，建立岩体质量分级的支持向量机 是一个半正定核函数，因此，式中优化问题是一个二 模型.文献[11]采用支持向量回归原理进行分类， 次凸规划问题，具有全局最优解。此时的分类决策 本文采用成对分类方法由支持向量机二类分类构建 函数为： 多类分类模型，与已有文献[12]采用一对多分类法 构建支持向量机多类分类模型相比，不可分区域大 D(x)= ∑ay:lH(x,x)+b (6) 减少很多，即模型精度提高显著，此外建模的评判因 式中，U为所有非边界支持向量集，偏值项b由下 素也各不相同，实际工程勘测结果验证了本文模型 式决定（取非边界支持向量平均值）： 的有效性， b=[-三w(x】 1支持向量机原理 1.2支持向量机常用的核函数 1.1基本原理 (1)线性核函数K(x,x)=xx: 支持向量机采用最优超平面决定最大泛化能 (2)多项式核函数K(x,x)=(xx十1)4，式 力，通过非线性变换将输入变量x转化为某个高维 中d为多项式核函数的阶数； 空间中，然后在变换空间求最优分类面.在线性不 (3)RBF(radial basis function)核函数K(,x)= 可分的条件下构建最优超平面，转化为下面的二次 exp(-y‖x-x‖2)，式中Y是一个控制半径的 规划问题13] 正数 mmQ(w.,6.)=号Iw2+c之g 2围岩质量分级多类模型的构建 st:y:(wx十b)≥1-，=1,2，…，M(1) 2.1构建多类分类模型 式中，W是一个m维矢量；b为偏值项；ξ=(， 支持向量机基本原理均限于二类分类问题，但 2,,w);C为边际系数，它用来平衡最大间隔 在实际应用时会遇到许多多类分类问题，如何将二 和最小分类误差；p取2所得为2范数.式(1)的最 类别方法扩展到多类别方法是支持向量机研究的重 优解为下面的Lagrange函数的鞍点： 要内容，本文采用成对分类法(pairwise SVM)构建 0(w,6:a=号Iw+c空5 多类分类模型.成对分类法是基于二类问题的分类 方法，它能够减少一对多分类方法中的不可分区域，满足煤矿的需要提出了巷道围岩稳定性动态工程 分类技术并分析了分类结构的表达技术及分类结 果的应用方法［8］．Palmstrom 和 Broch 给出了 Q 和 QTBM 分类系统的使用条件［9］．Choi 和 Park 在隧 道围岩分类中对 RMR 和 Q 两种分类法进行了对 比［10］． 支持向量机在处理小样本学习问题上具有独到 的优越性．支持向量机避免了神经网络中的局部最 优解问题和拓扑结构难以确定问题并有效地克服 了“维数灾难”．同时由于它是一个凸二次优化问 题能够保证得到的极值解是全局最优解．且随着 统计学习理论的发展支持向量机作为一种新的机 器学习技术受到了国内外不同研究领域的广泛关 注．支持向量机是在统计学习理论的 VC 维理论和 结构风险最小化原理的基础上发展起来的它具有 理论严密、适应性强、全局优化、训练效率高和泛化 性能好等优点在理论和应用方面均有光明的前景． 本文利用支持向量机在处理小样本学习问题上具有 独到的优越性和可获得全局最优解的特点解决岩 石力学与工程中遇到“数据有限”和“模型与参数给 不准”的瓶颈问题建立岩体质量分级的支持向量机 模型．文献［11］采用支持向量回归原理进行分类 本文采用成对分类方法由支持向量机二类分类构建 多类分类模型与已有文献［12］采用一对多分类法 构建支持向量机多类分类模型相比不可分区域大 减少很多即模型精度提高显著此外建模的评判因 素也各不相同．实际工程勘测结果验证了本文模型 的有效性． 1 支持向量机原理 1∙1 基本原理 支持向量机采用最优超平面决定最大泛化能 力通过非线性变换将输入变量 x 转化为某个高维 空间中然后在变换空间求最优分类面．在线性不 可分的条件下构建最优超平面转化为下面的二次 规划问题［13］： min Q（ Wbξ）＝ 1 2 ‖ W‖2＋C ∑ M i＝1 ξp i s．t．yi（ W T xi＋b）≥1－ξii＝12…M （1） 式中W 是一个 m 维矢量；b 为偏值项；ξ＝（ξ1 ξ2…ξM） T；C 为边际系数它用来平衡最大间隔 和最小分类误差；p 取2所得为2范数．式（1）的最 优解为下面的 Lagrange 函数的鞍点： Q（ Wbαβ）＝ 1 2 ‖ W‖2＋C ∑ M i＝1 ξi－ ∑ M i＝1 αi［ yi（ W T xi＋b）－1＋ξi］－ ∑ M i＝1 βξi i （2） 式中α＝（α1…αM） Tβ＝（β1…βM） T．求解最 优解同时还应满足下列 Karush－Kuhn－Tucker （KKT）互补条件： αi［ yi（ W T xi＋b）－1＋ξi］＝0 i＝12…M βξi i＝0 i＝12…M αi≥0βi≥0ξi≥0 i＝12…M （3） 为了加强线性可分性通过非线性矢量函数 g（ x）＝（ g1（ x）…gl（ x））将 m 维输入矢量 x 映 射到 l 维特征空间采用核函数 H （ xx′） 代替 g（ x）则原问题的对偶问题为： max Q（α）＝ ∑ M i＝1 αi－ 1 2 ∑ M ij＝1 （αiαjyiyj） H（ xixj） （4） s．t． ∑ M i＝1 yiαi＝00≤αi≤Ci＝12…M （5） 式中αiαj 为非负拉格朗日乘子．由于 H（ xx′） 是一个半正定核函数因此式中优化问题是一个二 次凸规划问题具有全局最优解．此时的分类决策 函数为： D（ x）＝ ∑i∈ S αiyiH（ xix）＋b （6） 式中U 为所有非边界支持向量集偏值项 b 由下 式决定（取非边界支持向量平均值）： b＝ 1 ｜U｜∑ j∈ U yi－ ∑i∈ S αiyiH（ xixj） ． 1∙2 支持向量机常用的核函数 （1） 线性核函数 K（ xix）＝x T i x； （2） 多项式核函数 K （ xix）＝（ x T i x＋1） d式 中 d 为多项式核函数的阶数； （3） RBF（radial basis function）核函数 K（xix）＝ exp（－γ‖ xi－ x‖2）式中 γ是一个控制半径的 正数． 2 围岩质量分级多类模型的构建 2∙1 构建多类分类模型 支持向量机基本原理均限于二类分类问题但 在实际应用时会遇到许多多类分类问题．如何将二 类别方法扩展到多类别方法是支持向量机研究的重 要内容．本文采用成对分类法（pairwise SVM）构建 多类分类模型．成对分类法是基于二类问题的分类 方法它能够减少一对多分类方法中的不可分区域． ·1358· 北 京 科 技 大 学 学 报 第31卷