第6卷第4期 智能系统学报 Vol.6 No.4 2011年8月 CAAI Transactions on Intelligent Systems Ag2011 doi:10.3969/i.i8sn.16734785.2011.04.010 支持向量机与BP网络在火灾图像探测上的比较 何世钊,杨宣访,陈晓娟 (海军工程大学电气与信息工程学院,湖北武汉430033) 摘要:针对B即神经网络和支持向量机在火灾探测上存在的理论差别,分别构建了基于此2种方法的火灾图像探 测方法.2种方法均依据火焰颜色分布规律实现了目标区域的分离,并将目标区域的形状特征及变化值作为判据.通 过对火灾实验样本的训练及识别,2种方法的探测表现得到了比较与分析.实验结果表明基于支持向量机的火灾探 测方法具有快速收敛特性及所需较少训练样本的优点.同时,BP神经网络对测试集较少的错判反映出其良好的非线 性映射能力,适合求解内部机制复杂的问题. 关键词:火灾探测;形状特征;支持向量机;BP神经网络 中图分类号:TP18文献标识码:A文章编号:16734785(2011)04033905 Comparisons between a support vector machine and BP neural network for video image fire detection HE Shizhao,YANG Xuanfang,CHEN Xiaojuan College of Electrical and Information Engineering,Naval University of Engineering,Wuhan 430033,China) Abstract:According to the theoretical differences between a back propagation (BP)network and support vector machine (SVM)in relation to fire detection,two kinds of video image fire detection methods based on a BP net- work and SVM,respectively,were constructed.Judging from color distribution of the flames,the objective regions were separated in both methods,and their shape features along with the changes in shape features were extracted as criteria.The performance of each method was compared and analyzed after conducting many experiments.The ex- perimental results show that the SVM had a high convergence rate and needed fewer training samples.At the same time,fewer misjudgments of testing samples confirmed that the BP network was more suitable for solving complex internal mechanism problems due to its good mapping capability. Keywords:fire detection;shape features;SVM;BP neural network 图像型火灾探测是一种通过分析火灾视频图 学习速度慢及可能因陷入局部极值导致训练失败等 像,依据图像所含纹理特征、颜色特征、火焰形状等 不足,支持向量机收敛速度快且基于结构风险最小 信息给出判断结果的火灾探测方法.该方法因视频 化原则,然而算法的边缘惩罚参数C、非敏感参数ε 设备不易受探测空间的气流、温度、水滴、灰尘、静电 以及核参数互相耦合影响,难以确定3].针对这些 以及其他干扰因素影响,可以有效实现复杂环境下 特点,构造了2种不同的火灾图像探测方法,经火灾 的火灾探测.BP神经网络是一种将误差逆向传播 实验比较了它们的火灾探测性能. 训练的多层前馈网络,由于不同层次的神经元依权 值相互联通,使得这种网络具有很强的非线性映射 1火灾视频图像处理 能力.基于BP神经网络的火灾图像探测方法克服 火灾图像探测首先需要对摄取的火灾图像进行 了传统火灾探测方法判据单一、智能化程度低的缺 数字处理,这包括图像的目标区域分离以及火灾特 点,实现了较高的判断准确率2.但是算法也存在 征信息的提取.火灾是一种失去人为控制的燃烧过 程,也是动态发展的过程.不同帧的火灾图像所蕴涵 收稿日期:2010-06-19, 基金项目:国家自然科学基金资助项目(50721063) 的特征信息也会不同,其中火焰形状最能反映这些 通信作者:何世钊.E-mail:heshizhao_chn@126.com. 变化.根据这一特性,采用了火焰形状特征及形状的
·340 智能系统学报 第6卷 变化值作为火灾判据.火焰形状特征的提取可以用 映火焰位置的变动量.若当前帧重心为(x,y),前 简单算法来实现,计算量也很小,这十分有利于提高 一帧重心(x,y),则当前帧位移: 火灾图像处理程序的运行速度, d=√(x1-x)2+(y1-yo). (2) 1.1基于RGB颜色分布规律的目标区域分割 RGB颜色模型是由反映颜色亮度级的R、G、B 2 BP神经网络算法 3值相互叠加混色的一种常用的色彩模型.其中R BP神经网络51是一种单向传播的多层前向反 (red)代表红基色,G(green)代表绿基色,B(blue)代 馈式神经网络.它具有很好的非线性映射能力,可以 表蓝基色,火灾发生早期,火焰的颜色一般显红黄 实现M维欧氏空间到N维欧氏空间的任意映射. 色,随着温度的逐渐上升,火焰的颜色越来越浅,甚 BP网络的学习过程包括2个阶段:工作信号正向 至呈白色.这种特点表现为R≥G,G≥B及R>Rr 传播与误差信号反向传播.前一阶段是从第1层输 的颜色分布4.R为红基色的一个阈值.图像处理 入学习样本,通过已知的网络结构和前一次迭代的 程序对图像上每个像素进行分析时,满足火焰颜色 阈值和权值,向后计算各神经元的输出.后一阶段则 分布的点设成白点,不满足的点设为黑点,实现二值 是向前计算权值和阈值对总误差的影响,据此调整 化.经多次实验得出,当R,取160时,火焰分离效果 网络权值(0,T:)和阈值(θ),使误差(E)沿梯度下 最好.图1为二值化后的一幅火灾图像,光亮区域为 降.文中的BP网络有3层节点,分别为火灾判据的 目标区域.光亮区域可能是由火灾生成的,也可能是 输入层节点、隐层节点y:和给出判别结果的输出 由干扰源生成的,需要进一步排除干扰,判别火灾. 层节点Q, 在当前输入层节点与隐层节点间的网络权值为 和,隐层节点与输出层节点间的网络权值为T:,若 给出一火灾样本(x,),代表图像的类型,火灾图 像为1,干扰图像为0,则BP模型的计算公式为 y=f∑ogy-8,)=fnet). (3) 式中:net=∑0g所-6,y是隐层节点输出。 0,=f∑T:-0). (4) 图1二值化火灾图像 Fig.1 Binary fire image 式中:0为输出层节点输出. 1.2火焰的形状特征 火灾图像的纹理特征、形状特征及颜色特征常 E=224-0,》P 用作判据识别火灾.然而,纹理特征及颜色特征的提 2∑(4-∑T-8)2 取需要对原始图像上所有像素点进行数字处理,计 算量较大.火焰的形状特征则是在图像经过二值化 2Σ话-几∑T∑转-)-0]日 后,仅仅需要通过目标区域内或边缘的像素的简单 (5) 几何求解可得,计算量小.火焰的形状特征大体包括 式中:E为输出层节点的误差 火焰的面积、周长、圆形度、重心.火焰面积等效于目 标区域内所有像素个数,火焰周长则等效于目标区 3 支持向量机 域边缘所有像素个数,而圆形度与位移分别由式 支持向量机[6是在传统统计学基础上发展起 (1)、(2)求解,体现火灾动态特性的火焰形状特征 来的一种具有坚实基础的机器学习方法,是目前针 变化值则是由当前帧的形状特征与前一帧求差取绝 对小样本统计估计和预测学习的最佳理论.可以有 对值而得. 效解决如人脸识别等模式识别问题) 圆形度e是反映区域形状复杂程度的一个特征 支持向量机通过训练样本学习,在特征空间中 量.计算公式为 构造出最优超平面f(x)=gn(wx-b).该超平面与 e=4πS/L2. (1) 不同类样本之间的距离2/‖w‖最大,如图2所示, 式中:S为区域面积,L为区域周长, 从而使支持向量机获得最大泛化能力. 位移d是前一帧重心与当前帧重心的距离,反
第4期 何世钊,等:支持向量机与BP网络在火灾图像探测上的比较 341 4火灾实验 H H ● H 本文选用普通CCD摄像头,并通过视频采集卡 00 及其附带的SDK软件开发包连续采集帧图像.火灾 探测程序的图像处理部分由VC++编写完成,主要 完成火灾图像的目标分割及之后对火焰形状特征的 ◇ 口 Margin=2/ 提取.BP神经网络由Matlab编写实现,SVM算法则 由VC++代码实现.2种方法分别对图像处理程序 图2支持向量机分类超平面 给出的数据进行分析,判别火灾 Fig.2 Hyperplane classifier of the SVM 实验收集了包括纸张火、棉絮火、木材火、汽油 火、酒精火和柴油火以及蜡烛、台灯、日光灯干扰图 线性不可分情况下需引入惩罚因子C,距离最 像共1046幅.图像处理程序提取了每幅图像的特征 大化问题就转化为如下的二次规划问题: 值及特征值的变化值.这包括了火焰的面积、周长、 1 四2Iw2+C∑5 (6) 圆形度、面积差、周长差、圆形度差、重心以及位移, 通过反复实验对比,选用火焰的面积、周长、面 式(6)满足y:(wx:-b)+E:-1≥0且专:≥0.x:∈R 积差、周长差、圆形度差、位移作为火灾判据,可以取 为输入到支持向量机的训练向量,y:∈{-1,1}为训 得较好的训练效果.从而省去了冗余的判据如圆形 练样本x:所属类别.通过引入拉格朗日算子,消去 度、重心,使得程序运算量减少,提高了反应速度.确 w、b、C专等变量,得出 定判据后,取各幅图像的如上6个特征及图像所属 max p ∑a=2aaw (7) 类别构成一个样本,如表1所示.对于图像所属的类 型,用1来表示火灾图像样本,用-1或0表示来表 式(7)满足式(8)条件: 示干扰源图像样本(BP网络的干扰源样本用O表 f0≤&:≤C, (8) 示,SVM的干扰源样本则用-1表示).表1为火灾 0≤4≤C 实验中的部分样本, 表1部分火灾实验数据 Table 1 Part of fire experiment data 序号面积 周长 面积差 周长差 圆形度差 位移 火灾有无 1 319 189.120 24 22.688 0.01601 2.5318 1 2 508 303.922 53 20.968 0.00230 0.7517 1 73 97.974 45 36.382 0.00281 8.4646 -1或0 769 438.788 501 222.496 0.02180 26.8403 35 57.592 10 8.242 0.00362 15.1985 -1或0 6 408 293.578 46 39.452 0.00805 6.8935 1 7 102 207.120 56 96.210 0.01711 9.5715 -1或0 4.1SVM的训练与测试 时的各参数值.RBF核函数如式(9)所示. 从获取的实验样本中,选取156个样本作为 K(xi,)exp(-l:x;I2/02).(9) SVM的训练集.利用样本的面积、周长、面积差、周 在多次训练过程中,发现训练样本的选择和排 长差、圆形度差、位移及样本所属类型训练SVM. 序要求很严格.样本需要包含各类型火源和干扰源, SVM的学习过程依赖于核函数,但是一个具体问题 并且不同类型的样本的训练顺序要相互交错.否则, 选择何种核函数最优至今未有明确的原则与理论指 训练误差相当大,从而导致训练失败. 导.经过实验反复挑选,最终选择高斯径向核函数 依据以上要求对SVM进行训练后,再将火灾实 (RBF),惩罚因子C为0.05,误差为0.001,o=1. 验的全部样本共1046个送入算法中进行识别.经统 然后利用SM0训练算法89)求解使式(7)取最大值 计,有60个样本发生错判,全部属于干扰样本误判
.342 智能系统学报 第6卷 为火灾样本,BP网络与SVM的判别结果对比如表2 所示 表2BP网络与SVM的判别结果对比 Table 2 Performance comparisons between the BP network and SVM 方法 训练样本 训练时间/s 训练错判 测试误判 测试漏判准确率/% BP网络 480 80 20 19 13 96.94 SVM 156 2 0 60 0 94.26 4.2BP神经网络的训练与测试 的最大值和最小值, 由于本文选用了火灾图像的6个判据,因而采 从实验样本中选取480个对BP神经网络进行 用如图3所示结构的BP神经网络.输入层有6个节 训练,图4为1~260步的训练误差曲线.横轴为训 点,分别代表火灾图像的面积(S)、周长(L)、火焰圆 练步数,纵轴为训练误差,误差曲线下方水平线为目 形度(e)、面积差(△S)、周长差(△L)、位移(d)的 标误差线.经过80s后,BP网络完成训练。再将全 输入;输出层则有1个节点,输出判别结果,中间层 部实验样本1046个输入算法中,共发生19起误判, 参考n,=√n+m+a原则采用8个隐层节点,n为 13起漏判. 输入层节点数,m为输出层节点数,a为[1,10]之间 4.3实验结果与比较 的常数.针对普通训练函数训练速度很慢的不足,采 表2为2种方法的训练与测试结果.从表中可 用减少内存的LM算法[o训练函数, 以看出,SVM的训练样本数量较少且所用训练时间 非常短,训练几乎在瞬间完成.然而BP神经网络在 480个样本的训练下,需要耗时80s才能完成训练, 而且训练样本中有20个发生了判断错误.从训练的 效果看,SVM在样本个数的要求及训练速度上有很 大的优势,但是SVM的训练样本需要进行严格的挑 选和排序,经实验发现,火灾样本与非火灾样本相互 交错的训练顺序,可以使SVM获得较好训练效果. BP神经网络虽然也需要调整2种样本顺序,但是远 不如SVM严格.BP神经网络的480个训练样本中 发生20起判据错误,而SVM却全部判据正确.经分 图3BP神经网络模型 析,BP发生多起错判的可能原因在于训练样本多, Fig.3 Model of the BP network 其中存在的矛盾样本造成一些误判. 10 依据上表格,经过训练的2种方法再对测试集 中1046个样本判断时,BP网络的判别准确率达到 96.94%,而SVM只有94.26%的判别准确率.但是 10 BP网络却发生13起漏判,高漏判率会引起重大损 失,应当极力避免.综上所述:SVM优点在于训练速 度快,易收敛,但是训练样本选择与排序比较复杂, 虽然BP神经网络训练耗时多,但是对测试集的判 1020 50100150200250 断效果较好,判断准确率比SVM略高. 训练步数 5结束语 图4BP神经网络训练曲线 Fig.4 Training curve of the BP network 由以上实验结果及分析可知,BP神经网络与 实验时,表1所示的样本不能直接输入到BP SVM虽然原理各不相同,但是当与图像处理技术相 网络中进行训练与测试,需要进行归一化.归一化公 结合,并利用火焰形状特征及其变化特性作为判据, 式为 都可以较好地探测明火火灾同时,从实验结果也得 k'=(k-kn)/(kr-k).(10) 出了2种方法在火灾图像探测的性能差别.比如 式中:'为k的归一化取值,k和k分别为样本中 SVM训练时收敛快,所需训练样本少,但是训练前
第4期 何世钊,等:支持向量机与BP网络在火灾图像探测上的比较 ·343· 训练样本的选择和排序要求非常严格.相对地,BP Intelligent Systems,2008,3(5):455-466. 神经网络算法收敛慢,所需训练样本多,训练样本的 [8]JOHN C P.Training of support vector machines using se- 选择和排序要求却不如SVM严格.这种差别体现了 quential minimal optimization [C]//Advances in Kemmel SVM理论上快速收敛特性,符合预期.然而,基于结 Method-Support Vector Leaming.Cambridge:MIT Press, 1999:101-105, 构误差最小化原则的SVM原理上具有更佳的判断 [9]KEETHI SS,SHEVADE S K,BHATTACHARYYA C,et 准确性,但是实际的判别准确率却不如BP网络,此 al.Improvements to Platts SMO algorithm for SVM classifier 处需继续研究.总之,以上差别包含了2种方法的各 design[J].Neural Computation,2001,13(3):637-649. 自优缺点,为以后火灾探测的智能方法选择提供一 [10]黄豪彩,黄宜坚,杨冠鲁.基于LM算法的神经网络系统 个依据 辨识[J].组合机床与自动化加工技术,2003,1(2):6- 参考文献: 11. HUANG Haocai,HUANG Yijian,YANG Guanlu.Neural [1]王振华,王慧琴,王燕妮,等.基于视频图像的火灾探测 network system identification based on Levenberg-Mar- 方法[J].世界科技研究与发展,2008,30(2):161-164. quardt algorithm[J].Modular Machine Tool Automatic WANG Zhenhua,WANG Huiqin,WANG Yanni,et al. Manufacturing Technique,2003,1(2):6-11. Fire detection in video[J].World Sci-Tech R&D,2008, 作者简介: 30(2):161-164. 何世钊,男,1986年生,硕士研究 [2]徐小军,郑健,郭尚芬.火灾图像探测的神经网络方法研 生,主要研究方向为检测技术与自动化 究[J].计算机工程与设计,2008,29(13):34163418. 装置 XU Xiaojun,ZHEN Jian,GUO Shangfen.Study on neural network method of fire image detection[J].Computer Engi- neering and Desigr,2008,29(13):3416-3418. [3]朱世增,党选举.基于相关向量机的非线性动态系统辨 识[J].计算机仿真,2008,25(6):103-107. 杨宜访,男,1968年生,副教授, ZHU Shizeng,DANG Xuanju.Nonlinear dynamic system i- 硕士生导师.主要研究方向为自动测 dentification based on relevance vector machine[J].Com- 试、电路故障诊断、电力系统诊断.先后 puter Simulation,2008,25(6):103-107. 主持、参与军队、海军等多项重点科研 [4]CHEN T H,WU P H,CHIOU Y C.An early fire-detection 和工程项目.获得军队科技进步一等奖 method based on image processing[C]//International Con- 1项,二等奖2项,三等奖4项.发表学 ference on Image Processing.[S.1.]2004:1707-1710. 术论文20余篇,参与编写教材1部. [5]刘叔军,盖晓华,樊京,等.Matlab7.0控制系统应用与 实例[M们.北京:机械工业出版社,2005:9. 陈晓娟,女,1981年生,博士研究 [6]VAPNIKK V N.The nature of statistical learning theory 生,主要研究方向为数字信号处理。 [M].New York:Springer Verlag,1995:101-105. [7]孙正兴,徐文晖.基于局部SVM分类器的表情识别方法 [J].智能系统学报,2008,3(5):455466. SUN Zhengxing,XU Wenhui.Facial expression recognition based on local SVM classifiers[J].CAAI Transactions on