第11卷第5期 智能系统学报 Vol.11 No.5 2016年10月 CAAI Transactions on Intelligent Systems 0ct.2016 D0I:10.11992/is.201512014 网络出版地址:htp:/www.cnki.net/kcms/detail/23.1538.TP.20160715.1409.004.html 一 种面向无线图像传输的视觉平台 梁义辉,战强 (北京航空航天大学机械工程及自动化学院,北京100191) 摘要:机器视觉在智能科技领域的应用越来越广泛,但当前大多数视觉系统存在可推广性和复用性较差的问题。 分析了一般视觉系统的基本组成,设计了可进行图像无线传输和处理的硬件结构,并基于此在嵌入式Liux系统下 利用OpenCV构建了一种可扩展视觉平台,实现了Wi-Fi环境下数字图像的无线传输和实时处理。使用该平台进行 了数字图像的传输和对象跟踪实验,实验表明该平台可实现对远程图像的实时传输,并根据实际需要进行相应的图 像处理。为机器视觉的广泛应用提供了技术保障和开发平台。 关键词:机器视觉;无线图传;图像处理:OpenCV;对象跟踪 中图分类号:TP391.4文献标志码:A文章编号:1673-4785(2016)05-0608-05 中文引用格式:梁义辉,战强.一种面向无线图像传输的视觉平台[J].智能系统学报,2016,11(5):608-612, 英文引用格式:LIANG Yihui,ZHAN Qiang.A visual platform for wireless image transmission[J].CAAI transactions on intelligent systems,2016,11(5):608-612. A visual platform for wireless image transmission LIANG Yihui,ZHAN Qiang School of Mechanical Engineering Automation,Beihang University,Beijing 100191,China) Abstract:In recent years machine vision has experienced increased use and application in the field of intelligent technology.However,most current visual systems have poor levels of promotability and reusability.This paper de- scribes the basic components of a general visual system,and a hardware system designed for wireless transmission and use;this formed the basis for a vision platform using OpenCV in Linux.This platform can transmit images wire- lessly via a Wi-Fi network in addition to real-time image processing.Experiments completed on the platform prove it can realize image transmitting and processing remotely according to the requirements,can provide technical sup- port,and a development platform for the wide application of machine vision. Keywords:machine vision;wireless image transmission;image processing;OpenCV;object tracking 随着计算机处理器速度和内存容量的持续增 然而,由于不同的设备所针对的目标不同,导致 长,人工智能领域的各项技术也正在快速向前推进, 大部分视觉系统都是针对特定目标搭建的专用系 机器视觉日益凸显出其重要性。在智能硬件快速发 统】,可移植和扩展性受限。此外,由于在一般设 展的今天,为可移动机器人等自动化设备配备视觉 备上配备视觉系统的成本极高,且业内并没有对此 系统变得可能而且必要。视觉系统的主要任务是对形成统一标准,使得机器视觉的应用并没有得到普 图像进行采集,然后根据需求做必要的处理,最后将 及和推广。针对以上这些问题,本文设计了一种无 处理结果反馈给主机或决策者,从而完成智能感知 线视频传输和图像处理平台,该平台可以方便地应 的任务[】。如基于图像的避障导航、基于视觉的 用在需要安装视觉系统的机器人和自动化系统中, 无人驾驶以及基于图像学的3-D测绘等,都展示了 大大简化了视觉系统的设计流程,降低了开发成本, 机器视觉的智能性及其在现实世界中的实用性。 为机器视觉的应用提供了有利的环境支持。 收稿日期:2015-12-09.网络出版日期:2016-07-15. 1 视觉平台的整体框架 基金项目:北京航空航天大学基本科研项目(YWF-14-JXXY-025). 通信作者:战强.E-mail:q平han@buaa.cdu.cn. 一般的视觉系统主要由图像信号的采集和图像
第 11 卷第 5 期 智 能 系 统 学 报 Vol.11 №.5 2016 年 10 月 CAAI Transactions on Intelligent Systems Oct. 2016 DOI:10.11992 / tis.201512014 网络出版地址:http: / / www.cnki.net / kcms/ detail / 23.1538.TP.20160715.1409.004.html 一种面向无线图像传输的视觉平台 梁义辉,战强 (北京航空航天大学 机械工程及自动化学院,北京 100191) 摘 要:机器视觉在智能科技领域的应用越来越广泛,但当前大多数视觉系统存在可推广性和复用性较差的问题。 分析了一般视觉系统的基本组成,设计了可进行图像无线传输和处理的硬件结构,并基于此在嵌入式 Linux 系统下 利用 OpenCV 构建了一种可扩展视觉平台,实现了 Wi⁃Fi 环境下数字图像的无线传输和实时处理。 使用该平台进行 了数字图像的传输和对象跟踪实验,实验表明该平台可实现对远程图像的实时传输,并根据实际需要进行相应的图 像处理。 为机器视觉的广泛应用提供了技术保障和开发平台。 关键词:机器视觉;无线图传;图像处理;OpenCV;对象跟踪 中图分类号:TP391.4 文献标志码:A 文章编号:1673⁃4785(2016)05⁃0608⁃05 中文引用格式:梁义辉,战强.一种面向无线图像传输的视觉平台[J]. 智能系统学报, 2016, 11(5): 608⁃612. 英文引用格式:LIANG Yihui, ZHAN Qiang. A visual platform for wireless image transmission[J]. CAAI transactions on intelligent systems, 2016,11(5):608⁃612. A visual platform for wireless image transmission LIANG Yihui, ZHAN Qiang (School of Mechanical Engineering & Automation, Beihang University, Beijing 100191, China) Abstract:In recent years machine vision has experienced increased use and application in the field of intelligent technology. However, most current visual systems have poor levels of promotability and reusability. This paper de⁃ scribes the basic components of a general visual system, and a hardware system designed for wireless transmission and use; this formed the basis for a vision platform using OpenCV in Linux. This platform can transmit images wire⁃ lessly via a Wi⁃Fi network in addition to real⁃time image processing. Experiments completed on the platform prove it can realize image transmitting and processing remotely according to the requirements, can provide technical sup⁃ port, and a development platform for the wide application of machine vision. Keywords:machine vision; wireless image transmission; image processing; OpenCV; object tracking 收稿日期:2015⁃12⁃09. 网络出版日期:2016⁃07⁃15. 基金项目:北京航空航天大学基本科研项目(YWF⁃14⁃JXXY⁃025). 通信作者:战强. E⁃mail: qzhan@ buaa.edu.cn. 随着计算机处理器速度和内存容量的持续增 长,人工智能领域的各项技术也正在快速向前推进, 机器视觉日益凸显出其重要性。 在智能硬件快速发 展的今天,为可移动机器人等自动化设备配备视觉 系统变得可能而且必要。 视觉系统的主要任务是对 图像进行采集,然后根据需求做必要的处理,最后将 处理结果反馈给主机或决策者,从而完成智能感知 的任务[1⁃2] 。 如基于图像的避障导航、基于视觉的 无人驾驶以及基于图像学的 3⁃D 测绘等,都展示了 机器视觉的智能性及其在现实世界中的实用性。 然而,由于不同的设备所针对的目标不同,导致 大部分视觉系统都是针对特定目标搭建的专用系 统[3] ,可移植和扩展性受限。 此外,由于在一般设 备上配备视觉系统的成本极高,且业内并没有对此 形成统一标准,使得机器视觉的应用并没有得到普 及和推广。 针对以上这些问题,本文设计了一种无 线视频传输和图像处理平台,该平台可以方便地应 用在需要安装视觉系统的机器人和自动化系统中, 大大简化了视觉系统的设计流程,降低了开发成本, 为机器视觉的应用提供了有利的环境支持。 1 视觉平台的整体框架 一般的视觉系统主要由图像信号的采集和图像
第5期 梁义辉,等:一种面向无线图像传输的视觉平台 ·609. 信号的处理2大模块组成,可以根据应用场景对采 表1数字摄像头参数 集到的图像进行必要处理。本文所设计的无线图传 Table 1 Digital camera parameters 视觉平台主要包括硬件系统、软件系统以及可以进 主要特性 参数 行图像处理的OpenCV开发环境,能够完成图像信 输出格式 MJPEG、YUYV 号的采集、数据的压缩与无线传输、数据信号的解压 输出接口 USB 还原和图像处理等任务,其整体框架及信号的流向 视角 90度 如图1所示。该平台在Liux环境下开发,可以实 分辨率(30fps/60ps) 1280×720/640×480 现图像的无线传输,且基于OpenCV的图像处理环 传感器类型 CMOS 境可以根据实际需要调用具体的处理方法,完成对 远程图像的实时处理,为机器视觉的应用提供了便 尺寸 30mm×25mm 利的开发平台。 信 实地场景 图像 信号 标准化格式 采集 压 图像信号 集 终端接收 可无线传 信号 Wi-Fi传输 输信号 信号传输 (a)摄像头 (b)摄像头传感器及连线 图2数字摄像头实物图 /图像A 7信号 信号后处理 Fig.2 Digital camera 2.2图像信号的传输 信号传输模块实现将采集到的图像信号通 过无线的方式,传送到可以进行图像处理的接收 图1视觉系统的整体框架及信号流图 Fig.1 The framework of visual system and the signal flow 端。本文选用了基于Wi-Fi(wireless--fidelity)的无 线传输方式。Wi-Fi网络是由访问节点(access 2视觉平台的设计与实现 point,AP)和结构站点(station)组成的无线网络, 具有传输速度高、通信距离长以及兼容性好等优 2.1图像信号的采集 点。在本文的数字图像传输中,Wi-Fi的传输速 信号采集模块主要负责采集实时场景,并将图 度可以保证高清图像的实时性,同时,它作为传 像信号转变为光电信号,从而将物体的可视化图像 统的有线局域网络的延伸,可以方便地将网络中 和特征转化为能被计算机处理的数字化信息[。 的设备连接起来。因此任何一台连接到此网络 图像采集模块需要满足能够及时、准确地采集清晰 上的设备都可以访问该网络上开放的资源,其工 图像的要求,并且将图像信息以一定的数据格式输 作原理相当于一个局域网的拓扑。无线局域网 出。本文采用数字相机来实现图像信号的采集,信 络的拓扑结构如图3所示。 号采集模块配备高清CMOS摄像头,主要参数见表 以太网 1。该摄像头模块具有体积小、接口友好及可调焦等 优点,如图2所示。摄像头模块将采集后的图像数 路由器 路由器 据压缩为MJPEG格式,MPEG(motion JPEG)是在 JPEG基础发展起来的动态图像压缩技术,它只单独 地对每一帧图像进行压缩,每一帧都分别使用PEG 6自88 格式编码,而基本不考虑视频流中不同帧之间的变 摄像头信号发射 其他主机或设备 化,得到的视频图像清晰度高且较好地保留了图像 图3无线视频网络拓扑图 的有效信息。本文中将拍摄到的连续图像源源不断 Fig.3 Wireless video network topology 地发送到信号传输链路中,在接收端就可以获得连 图像信号的传输链路包括信号发送和信号接收 续的图像数据,然后根据PEG格式解压复原,从而 2个部分,传输过程如图4所示。本文中信号发送 实现连续图像的传输。 部分使用CHD-T5Wi-Fi模块,模块使用MPS24KE
信号的处理 2 大模块组成,可以根据应用场景对采 集到的图像进行必要处理。 本文所设计的无线图传 视觉平台主要包括硬件系统、软件系统以及可以进 行图像处理的 OpenCV 开发环境,能够完成图像信 号的采集、数据的压缩与无线传输、数据信号的解压 还原和图像处理等任务,其整体框架及信号的流向 如图 1 所示。 该平台在 Linux 环境下开发,可以实 现图像的无线传输,且基于 OpenCV 的图像处理环 境可以根据实际需要调用具体的处理方法,完成对 远程图像的实时处理,为机器视觉的应用提供了便 利的开发平台。 图 1 视觉系统的整体框架及信号流图 Fig.1 The framework of visual system and the signal flow 2 视觉平台的设计与实现 2.1 图像信号的采集 信号采集模块主要负责采集实时场景,并将图 像信号转变为光电信号,从而将物体的可视化图像 和特征转化为能被计算机处理的数字化信息[4] 。 图像采集模块需要满足能够及时、准确地采集清晰 图像的要求,并且将图像信息以一定的数据格式输 出。 本文采用数字相机来实现图像信号的采集,信 号采集模块配备高清 CMOS 摄像头,主要参数见表 1。 该摄像头模块具有体积小、接口友好及可调焦等 优点,如图 2 所示。 摄像头模块将采集后的图像数 据压缩为 MJPEG 格式,MJPEG(motion JPEG) 是在 JPEG 基础发展起来的动态图像压缩技术,它只单独 地对每一帧图像进行压缩,每一帧都分别使用 JPEG 格式编码,而基本不考虑视频流中不同帧之间的变 化,得到的视频图像清晰度高且较好地保留了图像 的有效信息。 本文中将拍摄到的连续图像源源不断 地发送到信号传输链路中,在接收端就可以获得连 续的图像数据,然后根据 JPEG 格式解压复原,从而 实现连续图像的传输。 表 1 数字摄像头参数 Table 1 Digital camera parameters 主要特性 参数 输出格式 MJPEG、YUYV 输出接口 USB 视角 90 度 分辨率(30 fps / 60 fps) 1 280×720 / 640×480 传感器类型 CMOS 尺寸 30 mm×25 mm (a)摄像头 (b)摄像头传感器及连线 图 2 数字摄像头实物图 Fig.2 Digital camera 2.2 图像信号的传输 信号传输模块实现将采集到的图像信号通 过无线的方式,传送到可以进行图像处理的接收 端。 本文选用了基于 Wi⁃Fi( wireless⁃fidelity)的无 线传 输 方 式。 Wi⁃Fi 网 络 是 由 访 问 节 点 ( access point,AP)和结构站点( station) 组成的无线网络, 具有传输速度高、通信距离长以及兼容性好等优 点。 在本文的数字图像传输中,Wi⁃Fi 的传输速 度可以保证高清图像的实时性,同时,它作为传 统的有线局域网络的延伸,可以方便地将网络中 的设备连接起来。 因此任何一台连接到此网络 上的设备都可以访问该网络上开放的资源,其工 作原理相当于一个局域网的拓扑。 无线局域网 络的拓扑结构如图 3 所示。 图 3 无线视频网络拓扑图 Fig.3 Wireless video network topology 图像信号的传输链路包括信号发送和信号接收 2 个部分,传输过程如图 4 所示。 本文中信号发送 部分使用 CHD⁃T5 Wi⁃Fi 模块,模块使用 MIPS24KE 第 5 期 梁义辉,等:一种面向无线图像传输的视觉平台 ·609·
·610 智能系统学报 第11卷 内核,主控芯片采用雷凌科技的RT5350F,无线速率 MC Flash存储空间,视觉系统硬件平台的主要特性 达到150Mbps,如图5(a)所示。集成的发送模块 见表2,其功能模块及接口如图6所示。 支持UVC标准摄像头,可将USB接口中的数据发 表2图像处理板主要特性参数 送到无线链路中,从而使得网络中的其他设备可以 Table 2 Image processing board parameter 根据需要来访问图像数据。发送模块有2种工作模 主要特性 参数 式:AP模式和STA模式,既可作为热点,也可作为 终端连接到路由器。使用AP模式时,模块相当于 尺寸 100mm×72mm×20mm 是一个小型路由器,其他终端接收设备可以通过授 CPU Freescale i.MX6Q(四核)Cortex-Ag 权接入到该模块。使用STA模式工作时,模块作为 一个终端通过搜索热点信号,授权后连入已经搭建 功耗 <4W(5V-800mA.开机峰值) 好的无线网络中。在同一个网络中的其他主机和终 USB OTG 1路USB0TG2.0下载接口 端设备都可以访问模块的网络数据,从而将图像信 号传到其他的设备上。 LCD接口 接口40P的FPC接口 2路USB、15路可中断I0口、1路2C 图像发射模块 Wi-Fi 集成采集+发射) 接收摸块 信号提取进一步处理 可扩展接口 总线、2路CAN总线、3路串口、1路 与复原 SPI、1路SDIO、2路PWM 图4Wi-Fi链路信号流图 Ethernet 电源接口 Fig.4 The signal flow of Wi-Fi link GDMI USB接口 信号接收部分是插接在图像处理板上的USB 无线网卡,经过配置后可以通过无线网络连接图像 双路LVDS USB_OTG 发送模块,从而实现图像信号的接收。图像接收模 块使用的是EDUP的迷你USB无线网卡,该模块采 调试串口 VGA接口 用Realtek8188cus芯片,使用802.11n标准无线传 SATA接口 输技术,传输速率高达150Mbps,轻巧隐形工艺设 计,模块尺寸只有18mm×14mm×6mm,如图5(b) 扩展接口LMX6Q 所示。 LCD接口 天线接口 图6图像处理功能模块示意图 Fig.6 Image processing board module schematic 工作指示灯 操作系统的选用原则是:稳定性高、开发方便」 USB摄像头接口 易操作以及方便升级等。结合本系统平台的设计要 求,选择Linux作为本平台的操作系统。嵌人式 Linux系统是对Linux发行版的系统进行适当裁剪 (a)信号发送端(b)信号接收端 后,可以运行在嵌入式处理器上的系统,由一个内核 图5图像信号传输模块 Fig.5 Video signal transmission module 及一些根据需要进行定制的系统模块组成,保留了 多任务、多进程的系统特征[s。嵌入式系统的一 2.3数字图像的处理 般开发流程如图7所示。智能视觉平台选用了 2.3.1图像处理的平台环境搭建 Liux发行版的Ubuntu系统,支持×86/x64、ARM和 图像信号处理模块主要包括信号处理硬件平 PPC架构。 台、嵌入式Linux操作系统以及OpenCV开发环境。 系统硬件平台的选用原则是:处理器计算能力有适 选择合适的 获得系统源原码 根据实际 裁剪后的 系统版本 需求裁剪 系统源码 量冗余、系统架构升级方便、集成度高以及接口友好 等。本文选用了基于ARM架构的卡片式电脑平 测试 系统烧写 嵌入式系 编译 台。该平台采用的是的飞思卡尔(Freescale)的四核 统文件 Cortex--A9架构的i.MX6Quad主控芯片,芯片为 图7嵌入式操作系统开发流程 1.2GHz主频,平台具备2 GB DDR3内存和8GBEM- Fig.7 The development flow of embedded system
内核,主控芯片采用雷凌科技的 RT5350F,无线速率 达到 150 Mbps,如图 5( a) 所示。 集成的发送模块 支持 UVC 标准摄像头,可将 USB 接口中的数据发 送到无线链路中,从而使得网络中的其他设备可以 根据需要来访问图像数据。 发送模块有 2 种工作模 式:AP 模式和 STA 模式,既可作为热点,也可作为 终端连接到路由器。 使用 AP 模式时,模块相当于 是一个小型路由器,其他终端接收设备可以通过授 权接入到该模块。 使用 STA 模式工作时,模块作为 一个终端通过搜索热点信号,授权后连入已经搭建 好的无线网络中。 在同一个网络中的其他主机和终 端设备都可以访问模块的网络数据,从而将图像信 号传到其他的设备上。 图 4 Wi⁃Fi 链路信号流图 Fig.4 The signal flow of Wi⁃Fi link 信号接收部分是插接在图像处理板上的 USB 无线网卡,经过配置后可以通过无线网络连接图像 发送模块,从而实现图像信号的接收。 图像接收模 块使用的是 EDUP 的迷你 USB 无线网卡,该模块采 用 Realtek 8188cus 芯片,使用 802.11 n 标准无线传 输技术,传输速率高达 150 Mbps,轻巧隐形工艺设 计,模块尺寸只有 18 mm×14 mm×6 mm,如图 5(b) 所示。 (a)信号发送端 (b)信号接收端 图 5 图像信号传输模块 Fig.5 Video signal transmission module 2.3 数字图像的处理 2.3.1 图像处理的平台环境搭建 图像信号处理模块主要包括信号处理硬件平 台、嵌入式 Linux 操作系统以及 OpenCV 开发环境。 系统硬件平台的选用原则是:处理器计算能力有适 量冗余、系统架构升级方便、集成度高以及接口友好 等。 本文选用了基于 ARM 架构的卡片式电脑平 台。 该平台采用的是的飞思卡尔(Freescale)的四核 Cortex⁃A9 架 构 的 i. MX6Quad 主 控 芯 片, 芯 片 为 1.2 GHz主频,平台具备 2GB DDR3 内存和 8GB EM⁃ MC Flash 存储空间,视觉系统硬件平台的主要特性 见表 2,其功能模块及接口如图 6 所示。 表 2 图像处理板主要特性参数 Table 2 Image processing board parameter 主要特性 参数 尺寸 100mm×72mm×20 mm CPU Freescale i.MX6Q(四核) Cortex⁃A9 功耗 <4W(5V⁃800mA,开机峰值) USB OTG 1 路 USB_OTG 2.0 下载接口 LCD 接口 接口 40P 的 FPC 接口 可扩展接口 2 路 USB、15 路可中断 IO 口、1 路 I2C 总线、2 路 CAN 总线、3 路串口、1 路 SPI、1 路 SDIO、2 路 PWM 图 6 图像处理功能模块示意图 Fig.6 Image processing board module schematic 操作系统的选用原则是:稳定性高、开发方便、 易操作以及方便升级等。 结合本系统平台的设计要 求,选择 Linux 作为本平台的操作系统。 嵌入式 Linux 系统是对 Linux 发行版的系统进行适当裁剪 后,可以运行在嵌入式处理器上的系统,由一个内核 及一些根据需要进行定制的系统模块组成,保留了 多任务、多进程的系统特征[5⁃7] 。 嵌入式系统的一 般开发流程如图 7 所示。 智能视觉平台选用了 Linux 发行版的 Ubuntu 系统,支持×86 / ×64、ARM 和 PPC 架构。 图 7 嵌入式操作系统开发流程 Fig.7 The development flow of embedded system ·610· 智 能 系 统 学 报 第 11 卷
第5期 梁义辉,等:一种面向无线图像传输的视觉平台 ·611· 另外,为了在Liux上使用USB无线网卡,需要 OpenCV程序时,将编译好的库拷贝至处理板上的 在系统上安装相应的驱动程序,从而获得图像传输 库目录,默认可以放在系统文件中的/usr/oca/Iib 链路中的图像数据。安装驱动时,进入驱动程序的 目录或者/usr/b目录下,配置环境变量LDL …/drivers目录下,执行make和make install命令, BRARY_PATH和LIBRARY_PATH,令其包含库文 或者使用驱动目录下的install.sh批处理命令,即可 件所在目录。在include目录下存放的是OpenCV 将驱动程序安装到系统中。驱动安装完成后,可以 库被调用时所需要的头文件,这里将include目录下 使用ifconfig命令来查看网卡的信息,如图8所示。 拷贝至用户include目录,一般也放在/usr/include 或者/usr/Ioca/include目录下面。 2.3.2图像信号的复原 接收学节00:0发送字节:0(0.。 图像复原的流程大致如图10所示,图像信号 接收端从无线通信链路中获取的数据是MPEG视 流码:25.0 频流,在接收端需要对图像信号进行复原与显示。 12079(2.0KB)发字节:12079(12.0K】 根据TCP协议编程可从socket中获得数据流,网络 数据流的获取主要包括设置服务器P和对应端口 网络协议选择、网络连接和接收数据。接收到的数 据是以MPEG格式存储的图像,在接收端只需要从 图8USB无线网卡P地址查看 数据流中将各副图像分割开来,得到JPEG格式的 Fig.8 IP address of USB wireless adapter 图像。然后使用OpenCV的imread函数进行解压, 将JPEG格式的图像解压成OpenCV内部可使用的 为了在视觉平台上进行图像处理,本文在Liux Mat矩阵,再使用imshow函数将图像进行显示。 系统下搭建了OpenCV开发环境。OpenCV计算机 初始化socket connecti连接, data 视觉库(open source computer vision library)是一个 rccv接收数据H 开源的跨平台视觉库,具有轻量级而且高效的特点, 关闭cocket 解压复原-PEG格式图像-分割单幅图像数据 实现了计算机视觉方面用于图像处理的大部分算 法。OpenCV移植至ARM板上的流程如图9所示。 图10图像复原流程 Fig.10 The flow of image restoration 交叉编译链的安装 Cmake安装 支撑库的安装 libgtk/libjpcg/ffmpcg 3 视觉系统平台试验 编译环境 无线图传视觉系统平台搭建完成后,可以实现 将远程视频通过无线的方式传送到接收端,然后在 接收端可以对图像进行相应的处理。为了验证平台 选择OpenCV版本 的性能,进行了图像接收和处理的开发试验。首先, 打开视频采集设备和图像接收设备,让摄像头工作 OpenCV源码编泽 在AP模式。然后在接收终端设置无线网卡连接至 摄像头网络,对收到的图像进行复原。 链接库移植至ARM 另外,对复原的图像进行图像处理实验,本文使 用OpenCV库demo中的Camshift9-1o]例程来做对象 图9移植OpenCV至ARM流程图 Fig.9 Transplant flow of install OpenCV to ARM 跟踪。CamShift(continuously apative meanShift)算 本文选用的OpenCV版本为比较新而且稳定的 法,即连续自适应MeanShift!)算法,是一种运动跟 版本2.4.9,为了使OpenCV可以在ARM的平台上 踪算法,它主要通过视频图像中运动物体的颜色信 使用,需要对其源码进行编译,得到可以在相应平台 息来达到跟踪的目的。其基本思想是对视频序列中 上运行的文件,一般使用Cmake工具进行编译操 的所有图像都做MeanShift运算,并将上一帧结果作 作。使用Cmake工具配置编译参数,设置C和C+ 为下一帧运算初始值。在OpenCV中,Camshift算法 编译器为之前配置好的amm--linux交叉编译链,然后 的实现可分为BackProjection、MeanShift和CamShift Cmake会自动根据配置生成编译所需要的Make- 3个步骤。本文将无线链路中复原的图像作为图像 file[s)。编译完成之后,由于本文中用的是am工具 处理帧的来源,根据Camshif近算法即可实现对象跟 链编译的,所以生成的OpenCV库可以在对应的am 踪。例程运行界面和跟踪结果如图11所示,在运 平台下使用。编译后生成的文件主要有bin、lib和 行界面中定义跟踪对象,此处定义的是水杯盖,图 include等目录,其中lib目录下的文件即为OpenCV ()右侧即为该对象的颜色直方图,图(b)为在移动 应用程序调用的动态链接库。在图像处理板上运行 杯盖时,程序对杯盖的跟踪结果
另外,为了在 Linux 上使用 USB 无线网卡,需要 在系统上安装相应的驱动程序,从而获得图像传输 链路中的图像数据。 安装驱动时,进入驱动程序的 …/ drivers 目录下,执行 make 和 make install 命令, 或者使用驱动目录下的 install.sh 批处理命令,即可 将驱动程序安装到系统中。 驱动安装完成后,可以 使用 ifconfig 命令来查看网卡的信息,如图 8 所示。 图 8 USB 无线网卡 IP 地址查看 Fig.8 IP address of USB wireless adapter 为了在视觉平台上进行图像处理,本文在 Linux 系统下搭建了 OpenCV 开发环境。 OpenCV 计算机 视觉库( open source computer vision library) 是一个 开源的跨平台视觉库,具有轻量级而且高效的特点, 实现了计算机视觉方面用于图像处理的大部分算 法。 OpenCV 移植至 ARM 板上的流程如图 9 所示。 图 9 移植 OpenCV 至 ARM 流程图 Fig.9 Transplant flow of install OpenCV to ARM 本文选用的 OpenCV 版本为比较新而且稳定的 版本 2.4.9,为了使 OpenCV 可以在 ARM 的平台上 使用,需要对其源码进行编译,得到可以在相应平台 上运行的文件,一般使用 Cmake 工具进行编译操 作。 使用 Cmake 工具配置编译参数,设置 C 和 C++ 编译器为之前配置好的 arm⁃linux 交叉编译链,然后 Cmake 会自动根据配置生成编译所需要的 Make⁃ file [8] 。 编译完成之后,由于本文中用的是 arm 工具 链编译的,所以生成的 OpenCV 库可以在对应的 arm 平台下使用。 编译后生成的文件主要有 bin、lib 和 include 等目录,其中 lib 目录下的文件即为 OpenCV 应用程序调用的动态链接库。 在图像处理板上运行 OpenCV 程序时,将编译好的库拷贝至处理板上的 库目录,默认可以放在系统文件中的/ usr/ local / lib 目录或者/ usr/ lib 目录下, 配置环境变量 LD _ LI⁃ BRARY_PATH 和 LIBRARY_PATH,令其包含库文 件所在目录。 在 include 目录下存放的是 OpenCV 库被调用时所需要的头文件,这里将 include 目录下 拷贝至用户 include 目录,一般也放在/ usr/ include 或者/ usr/ local / include 目录下面。 2.3.2 图像信号的复原 图像复原的流程大致如图 10 所示,图像信号 接收端从无线通信链路中获取的数据是 MJPEG 视 频流,在接收端需要对图像信号进行复原与显示。 根据 TCP 协议编程可从 socket 中获得数据流,网络 数据流的获取主要包括设置服务器 IP 和对应端口、 网络协议选择、网络连接和接收数据。 接收到的数 据是以 MJPEG 格式存储的图像,在接收端只需要从 数据流中将各副图像分割开来,得到 JPEG 格式的 图像。 然后使用 OpenCV 的 imread 函数进行解压, 将 JPEG 格式的图像解压成 OpenCV 内部可使用的 Mat 矩阵,再使用 imshow 函数将图像进行显示。 图 10 图像复原流程 Fig.10 The flow of image restoration 3 视觉系统平台试验 无线图传视觉系统平台搭建完成后,可以实现 将远程视频通过无线的方式传送到接收端,然后在 接收端可以对图像进行相应的处理。 为了验证平台 的性能,进行了图像接收和处理的开发试验。 首先, 打开视频采集设备和图像接收设备,让摄像头工作 在 AP 模式。 然后在接收终端设置无线网卡连接至 摄像头网络,对收到的图像进行复原。 另外,对复原的图像进行图像处理实验,本文使 用 OpenCV 库 demo 中的 Camshift [9⁃10]例程来做对象 跟踪。 CamShift ( continuously apative meanShift) 算 法,即连续自适应 MeanShift [11] 算法,是一种运动跟 踪算法,它主要通过视频图像中运动物体的颜色信 息来达到跟踪的目的。 其基本思想是对视频序列中 的所有图像都做 MeanShift 运算,并将上一帧结果作 为下一帧运算初始值。 在 OpenCV 中,Camshift 算法 的实现可分为 BackProjection、MeanShift 和 CamShift 3 个步骤。 本文将无线链路中复原的图像作为图像 处理帧的来源,根据 Camshift 算法即可实现对象跟 踪。 例程运行界面和跟踪结果如图 11 所示,在运 行界面中定义跟踪对象,此处定义的是水杯盖,图 (a)右侧即为该对象的颜色直方图,图(b)为在移动 杯盖时,程序对杯盖的跟踪结果。 第 5 期 梁义辉,等:一种面向无线图像传输的视觉平台 ·611·
·612. 智能系统学报 第11卷 (a)Camshift运行界面 (b)杯盖对象跟踪 图1 1 CamShift Demo运行界面及跟踪试验示意图 Fig.11 Experiment of camshift demo 实验可知,根据本文介绍的方法所搭建的视觉 [6]HU Jie,ZHANG Genbao.Research transplanting method of 系统可以完成视频的无线传输,视频的实时性和稳 embedded linux kernel based on ARM platform C]//Pro- 定性满足图像处理的要求。同时对象跟踪实验证明 ceedings of the 2010 International Conference of Information 该视觉平台能够实现对远程视频的处理,并且结果 Science and Management Engineering.Xi'an,China: EEE.2010.2:35-38. 十分理想。因而,可以在此视觉平台上根据需要开 [7]尤盈盈,孟利民.构建嵌人式limr交叉编译环境[J] 发出对应的视觉功能。 计算机与数字工程,2006,34(6):30-32,78. YOU Yingying,MENG Limin.Building embedded linux 4结束语 cross-compling environment J].Computer digital engi- neering,2006,34(6):30-32,78. 本文分析了一般视觉系统的基本组成,针对视 [8]BRADSKI G,KAEHLER A.Learning OpenCV:computer 觉系统的图像传输和可移植性问题设计一套视觉平 vision with the OpenCV library[M].USA:O'Reilly Media 台,该视觉平台可以完成对远程视频的实时处理,基 Inc.2008. 于Wi-Fi的图像传输为视频的远程传输和组网拓扑 [9]徐琨,贺昱曜,王卫亚.基于CamShit近的自适应颜色空间目 标跟踪算法[J1.计算机应用.2009.29(3):757-760. 提供了可能,基于OpenCV设计的图像处理环境为 XU Kun,HE Yuyao,WANG Weiya.Object tracking algo- 视觉平台的二次开发提供了便利。该视觉平台的可 rithm with adaptive color space based on CamShift[J].Jour- 移植性能有着广阔的应用空间。 nal of computer applications,2009,29(3):757-760. [10]ALLEN J G,XU R Y D,JIN J S.Object tracking using 参考文献: camshift algorithm and multiple quantized feature spaces [C]//Proceedings of the Pan-Sydney Area Workshop on 「1]桂卫华,阳春华,徐德刚,等.基于机器视觉的矿物浮 选过程监控技术研究进展[J].自动化学报,2013,39 Visual Information Processing.Darlinghurst,Australia: (11):1879-1888. Australian Computer Society,Inc,2004:3-7. GUI Weihua,YANG Chunhua,XU Degang,et al.Ma- [11]CHENG Yizong.Mean shift,mode seeking,and clustering []IEEE transactions on pattern analysis and machine in- chine-vision-based online measuring and controlling technol- ogies for mineral flotation-a review[J].Acta automatica sin- telligence,.1995,17(8):790-799. 作者简介: ica,2013,39(11):1879-1888. 梁义辉,男,1990年生,硕士研究 [2]SZABO S,COOMBS D.HERMAN M,et al.A real-time 生.主要研究方向为机器视觉和机器人 computer vision platform for mobile robot applications[J] 运动控制。 Real-time imaging,1996,2(5):315-327. [3]SCHINDELIN J,ARGANDA-CARRERAS I,FRISE E,et al.Fiji:an open-source platform for biological-image analy- sis[].Nature methods,2012,9(7):676-682. [4]刘焕军,王耀南,段峰.机器视觉中的图像采集技术 [J].电脑与信息技术,2003(1):18-21. 战强,男,1972年生,教授,博土生 LIU Huanjun,WANG Yaonan,DUAN Feng.Image capture 导师,EEE会员,机械工程学会 technology in vision image[J].Computer and information (CMES)高级会员,深圳自动化学会专 technology,2003(1):18-21. 家,海淀区科委项目评审专家。主要研 [5]张欢庆.基于ARM处理器的嵌入式Linux系统关键技术 究方向是仿生灵巧手,球形机器人、特 研究[D].济南:山东师范大学,2013:17-23. 种机器人和机器视觉。获得国家发明 ZHANG Huanqing.Research of critical technologies in em- 专利8项、软件著作权1项新型专利5 bedded Linux system based on ARM processor[D].Jinan: 项。发表学术论文60余篇,其中被SCI检索10余篇,被E/ Shandong Normal University,2013:17-23. ISTP检索30余篇,参与编写著作2部
(a)Camshift 运行界面 (b)杯盖对象跟踪 图 11 CamShift Demo 运行界面及跟踪试验示意图 Fig.11 Experiment of camshift demo 实验可知,根据本文介绍的方法所搭建的视觉 系统可以完成视频的无线传输,视频的实时性和稳 定性满足图像处理的要求。 同时对象跟踪实验证明 该视觉平台能够实现对远程视频的处理,并且结果 十分理想。 因而,可以在此视觉平台上根据需要开 发出对应的视觉功能。 4 结束语 本文分析了一般视觉系统的基本组成,针对视 觉系统的图像传输和可移植性问题设计一套视觉平 台,该视觉平台可以完成对远程视频的实时处理,基 于 Wi⁃Fi 的图像传输为视频的远程传输和组网拓扑 提供了可能,基于 OpenCV 设计的图像处理环境为 视觉平台的二次开发提供了便利。 该视觉平台的可 移植性能有着广阔的应用空间。 参考文献: [1]桂卫华, 阳春华, 徐德刚, 等. 基于机器视觉的矿物浮 选过程监控技术研究进展[ J]. 自动化学报, 2013, 39 (11): 1879⁃1888. GUI Weihua, YANG Chunhua, XU Degang, et al. Ma⁃ chine⁃vision⁃based online measuring and controlling technol⁃ ogies for mineral flotation⁃a review[J]. Acta automatica sin⁃ ica, 2013, 39(11): 1879⁃1888. [2]SZABO S, COOMBS D, HERMAN M, et al. A real⁃time computer vision platform for mobile robot applications[ J]. Real⁃time imaging, 1996, 2(5): 315⁃327. [3] SCHINDELIN J, ARGANDA⁃CARRERAS I, FRISE E, et al. Fiji: an open⁃source platform for biological⁃image analy⁃ sis[J]. Nature methods, 2012, 9(7): 676⁃682. [4]刘焕军, 王耀南, 段峰. 机器视觉中的图像采集技术 [J]. 电脑与信息技术, 2003(1): 18⁃21. LIU Huanjun, WANG Yaonan, DUAN Feng. Image capture technology in vision image [ J]. Computer and information technology, 2003(1): 18⁃21. [5]张欢庆. 基于 ARM 处理器的嵌入式 Linux 系统关键技术 研究[D]. 济南: 山东师范大学, 2013: 17⁃23. ZHANG Huanqing. Research of critical technologies in em⁃ bedded Linux system based on ARM processor[D]. Jinan: Shandong Normal University, 2013: 17⁃23. [6]HU Jie, ZHANG Genbao. Research transplanting method of embedded linux kernel based on ARM platform[ C] / / Pro⁃ ceedings of the 2010 International Conference of Information Science and Management Engineering. Xi′ an, China: IEEE, 2010, 2: 35⁃38. [7]尤盈盈, 孟利民. 构建嵌入式 linux 交叉编译环境[ J]. 计算机与数字工程, 2006, 34(6): 30⁃32, 78. YOU Yingying, MENG Limin. Building embedded linux cross⁃compling environment [ J]. Computer & digital engi⁃ neering, 2006, 34(6): 30⁃32, 78. [8] BRADSKI G, KAEHLER A. Learning OpenCV: computer vision with the OpenCV library[M]. USA:O′Reilly Media Inc, 2008. [9]徐琨, 贺昱曜, 王卫亚. 基于 CamShift 的自适应颜色空间目 标跟踪算法[J]. 计算机应用, 2009, 29(3): 757⁃760. XU Kun, HE Yuyao, WANG Weiya. Object tracking algo⁃ rithm with adaptive color space based on CamShift[J]. Jour⁃ nal of computer applications, 2009, 29(3): 757⁃760. [10]ALLEN J G, XU R Y D, JIN J S. Object tracking using camshift algorithm and multiple quantized feature spaces [C] / / Proceedings of the Pan⁃Sydney Area Workshop on Visual Information Processing. Darlinghurst, Australia: Australian Computer Society, Inc, 2004: 3⁃7. [11]CHENG Yizong. Mean shift, mode seeking, and clustering [ J]. IEEE transactions on pattern analysis and machine in⁃ telligence, 1995, 17(8): 790⁃799. 作者简介: 梁义辉,男,1990 年生,硕士研究 生,主要研究方向为机器视觉和机器人 运动控制。 战强,男,1972 年生,教授,博士生 导 师, IEEE 会 员, 机 械 工 程 学 会 (CMES)高级会员,深圳自动化学会专 家,海淀区科委项目评审专家。 主要研 究方向是仿生灵巧手、球形机器人、特 种机器人和机器视觉。 获得国家发明 专利 8 项、软件著作权 1 项、新型专利 5 项。 发表学术论文 60 余篇,其中被 SCI 检索 10 余篇,被 EI/ ISTP 检索 30 余篇,参与编写著作 2 部。 ·612· 智 能 系 统 学 报 第 11 卷