第10卷第4期 智能系统学报 Vol.10 No.4 2015年8月 CAAI Transactions on Intelligent Systems Feh.2015 D0:10.3969/j.issn.1673-4785.201503025 网络出版地址:http://www.cnki.net/kcms/detail/23.1538.TP.20150720.0912.003.html 具有面部表情的仿人头部机器人系统的研制 信继忠,柯显信,杨阳,尚宇峰 (上海大学机电工程与自动化学院,上海200072) 摘要:为了促进机器人与人类自然、和谐的交流,实现人机交互,研制出具有面部表情的仿人头部机器人系统,主 要包括仿人头部机器人运动机构和控制系统。仿人头部机器人具有22个自由度,包括眉毛推拉机构、眼部机构、下 颚机构和颈部机构。采用FPGA作为舵机控制器,在La山VEW中设计控制界面,研制面部表情控制系统。通过对面 部表情进行仿真,得到8种基本表情及对应的最佳位移载荷,在仿真过程中发现面部表情的实现与施加在面部皮肤 上载荷的大小、载荷施加区域大小和约束位置的不同有关。实验结果表明,该机器人能够逼真地再现8种基本表情。 关键词:仿人头部机器人;面部表情:表情再现;人机交互;控制系统:表情仿真;眼部机构;下颚结构:颈部机构 中图分类号:TP242文献标志码:A文章编号:1673-4785(2015)04-0555-07 中文引用格式:信继忠,柯显信,杨阳,等,具有面部表情的仿人头部机器人系统的研制[J].智能系统学报,2015,10(4):555-561. 英文引用格式:XIN Jizhong,KE Xianxin,YANG Yang,etal.Development of the system of a humanoid robot head with facial ex pressions[J].CAAI Transactions on Intelligent Systems,2015,10(4):555-561. Development of the system of a humanoid robot head with facial expressions XIN Jizhong,KE Xianxin,YANG Yang,SHANG Yufeng (School of Mechanical Engineering and Automation,Shanghai University,Shanghai 200072,China) Abstract:In order to promote the natural and harmonious communication between robots and human beings,and to realize human-computer interaction,a system for a humanoid robot head with facial expressions is developed.It mainly includes a humanoid robot head movement mechanism and a control system.The humanoid robot head has 22 degrees of freedom,including the eyebrows push-pull mechanism,eye mechanism,jaw mechanism and neck mechanism.FPGA is used as the servo controller,the control interface is designed in LabVIEW,and the control system of facial expressions is developed.The eight basic expressions and corresponding best displacement loads are obtained through simulations of facial expressions.It is found that the implementation of facial expression relates to the loads on the skin of face,the region size and the position of the load applying in the process of simulations.The experimental results show that the robot is able to realistically reproduce the eight basic expressions. Keywords:humanoid robot head;facial expression;expression representation;human-computer interaction;con- trol system;expression simulation;eye mechanism;jaw mechanism neck mechanism 仿人表情机器人的研究对于实现和谐的人机交 遥控实现微笑、皱眉、眨眼、悲伤、撅嘴等60余种不 互有着十分重要的意义,是机器人领域的研究热点 同面部表情。东京理科大学研制的SAYA机器 之一。日本早稻田大学研制的KOBIAN-R)和 人[],通过人工肌肉带动面部表情,而且内置强大 WABIAN-2R),除了实现7种基本表情之外,还可 的语音对话系统,可以与人进行基本语言交流。美 以基于心理学模型实现动态情感表达。日本大阪大 国德雷塞尔大学研制的Hubo)及台湾大学研制的 学研制的女性仿真机器人Geminoid F),通过远程 脸部模拟机器人Luo Head6,哈尔滨工业大学研制 的具有面部表情识别与再现的头部机器人[7,),具 收稿日期:2015-03-14.网络出版日期:2015-07-20 有人脸识别、表情实现、语音实现等功能。 基金项目:国家自然科学基金资助项目(61273325). 通信作者:柯显信.E-mail:xxke@staff.shu.cdu.cn 一些心理学家研究表明,人在进行情感表达时
第 10 卷第 4 期 智 能 系 统 学 报 Vol.10 №.4 2015 年 8 月 CAAI Transactions on Intelligent Systems Feb. 2015 DOI:10.3969 / j.issn.1673⁃4785.201503025 网络出版地址:http: / / www.cnki.net / kcms/ detail / 23.1538.TP.20150720.0912.003.html 具有面部表情的仿人头部机器人系统的研制 信继忠,柯显信,杨阳,尚宇峰 (上海大学 机电工程与自动化学院,上海 200072) 摘 要:为了促进机器人与人类自然、和谐的交流,实现人机交互,研制出具有面部表情的仿人头部机器人系统,主 要包括仿人头部机器人运动机构和控制系统。 仿人头部机器人具有 22 个自由度,包括眉毛推拉机构、眼部机构、下 颚机构和颈部机构。 采用 FPGA 作为舵机控制器,在 LabVIEW 中设计控制界面,研制面部表情控制系统。 通过对面 部表情进行仿真,得到 8 种基本表情及对应的最佳位移载荷,在仿真过程中发现面部表情的实现与施加在面部皮肤 上载荷的大小、载荷施加区域大小和约束位置的不同有关。 实验结果表明,该机器人能够逼真地再现 8 种基本表情。 关键词:仿人头部机器人;面部表情;表情再现;人机交互;控制系统;表情仿真;眼部机构;下颚结构;颈部机构 中图分类号:TP242 文献标志码:A 文章编号:1673⁃4785(2015)04⁃0555⁃07 中文引用格式:信继忠,柯显信,杨阳,等.具有面部表情的仿人头部机器人系统的研制[J]. 智能系统学报, 2015, 10(4):555⁃561. 英文引用格式:XIN Jizhong, KE Xianxin, YANG Yang, et al. Development of the system of a humanoid robot head with facial ex⁃ pressions[J]. CAAI Transactions on Intelligent Systems, 2015, 10(4): 555⁃561. Development of the system of a humanoid robot head with facial expressions XIN Jizhong, KE Xianxin, YANG Yang, SHANG Yufeng (School of Mechanical Engineering and Automation, Shanghai University, Shanghai 200072, China) Abstract:In order to promote the natural and harmonious communication between robots and human beings, and to realize human-computer interaction, a system for a humanoid robot head with facial expressions is developed. It mainly includes a humanoid robot head movement mechanism and a control system. The humanoid robot head has 22 degrees of freedom, including the eyebrows push-pull mechanism, eye mechanism, jaw mechanism and neck mechanism. FPGA is used as the servo controller, the control interface is designed in LabVIEW, and the control system of facial expressions is developed. The eight basic expressions and corresponding best displacement loads are obtained through simulations of facial expressions. It is found that the implementation of facial expression relates to the loads on the skin of face, the region size and the position of the load applying in the process of simulations. The experimental results show that the robot is able to realistically reproduce the eight basic expressions. Keywords: humanoid robot head; facial expression; expression representation; human-computer interaction; con⁃ trol system; expression simulation; eye mechanism; jaw mechanism ; neck mechanism 收稿日期:2015⁃03⁃14. 网络出版日期:2015⁃07⁃20. 基金项目:国家自然科学基金资助项目(61273325). 通信作者:柯显信. E⁃mail:xxke@ staff.shu.edu.cn. 仿人表情机器人的研究对于实现和谐的人机交 互有着十分重要的意义,是机器人领域的研究热点 之一。 日 本 早 稻 田 大 学 研 制 的 KOBIAN⁃R [1] 和 WABIAN-2R [2] ,除了实现 7 种基本表情之外,还可 以基于心理学模型实现动态情感表达。 日本大阪大 学研制的女性仿真机器人 Geminoid F [3] ,通过远程 遥控实现微笑、皱眉、眨眼、悲伤、撅嘴等 60 余种不 同面部表情。 东京理科大学研制的 SAYA 机器 人[4] ,通过人工肌肉带动面部表情,而且内置强大 的语音对话系统,可以与人进行基本语言交流。 美 国德雷塞尔大学研制的 Hubo [5] 及台湾大学研制的 脸部模拟机器人 Luo Head [6] ,哈尔滨工业大学研制 的具有面部表情识别与再现的头部机器人[7,8] ,具 有人脸识别、表情实现、语音实现等功能。 一些心理学家研究表明,人在进行情感表达时
.556. 智能系统学报 第10卷 语言只表达7%的内容,声调也只能表达38%的内 2DOF。采用空间RSSR机构),通过舵机驱动舵机 容,而55%的内容全部由人的表情与动作来表达。 臂,带动连杆实现眼球的左右方向和上下方向转动, 因此,面部表情的实现已成为至关重要的一个环节。 以及眼睑的张开和闭合运动,如图2(b)所示。 1 机构设计 下颚机构2个平面连杆机构分别带动各自方 向上的导轨,实现下颚“x-y”方向的移动,与下颚张 通过参考成年男性标准头型的尺寸,进行了仿 合动作相协调,可以实现机器人的咀嚼运动。上嘴 人头部机器人机构设计,主要包括眉毛推拉机构、眼 唇铜片和嘴角铜片将作为AU点,与皮肤固定,由舵 部机构、下颚机构和颈部机构,整体大小(包括颈部 机直接带动皮肤实现该部位的动作。上嘴唇和嘴角 和底座)为465mm×180mm×168mm,左右眼中心 的运动相互协调,可以实现机器人元音“0”和“U” 距离为80mm,如图1所示。该机器人共有22D0F, 的发音,此二元音实现的嘴型相对复杂,其他元音较 自由度的分配如表1所示。 易实现,如图2(c)所示。 180 颈部机构采用空间RSUSR(R代表转动副,S 80 代表球面副,U代表万向铰)机构,通过2个舵机的 联动驱动万向节的2个自由度,实现俯仰和侧摆动 一眉毛推拉机构 作,具有较强的承载能力,如图2(d)所示。 尼龙管,固定 眼部机构 在脸骨架上 下题机构 465 颈部机构 (a)眉毛推拉机构 图1仿人头部机器人三维模型 Fig.1 Three dimensional model of humanoid head robot 表1仿人头部机器人自由度分配 Table 1 The distribution of degree of freedom of human- oid head robot 眼睑运动机构 部位 运动机能 单元数自由度 眼球转动机构 眉毛 牵引点推拉 2 4 (b)眼部机构 上眼睑 上翻、下翻 2 2 实现下颚“xy”方向的移动 下眼睑 上翻、下翻 2 眼球 左右、上下转动 嘴角牵引、上嘴唇牵 下颚 引、咀嚼运动(绕X、 7 Y轴移动)、下颚张合 颈部 绕X,Y、Z轴旋转 1 3 实现嘴角的 推拉 眉毛推拉机构每一边的眉毛均包括2DOF, 通过2根弹性钢丝分别推拉眉毛固定板上的运动单 元实现,而弹性钢丝穿过固定在脸骨架上的尼龙管, 如图2(a)所示。 上嘴唇服动 实现下颚张合 眼部机构包括左眼和右眼且相互独立,左右 眼均包含眼睑运动机构和眼球转动机构,分别具有 (c)下颚机构
语言只表达 7%的内容,声调也只能表达 38%的内 容,而 55%的内容全部由人的表情与动作来表达。 因此,面部表情的实现已成为至关重要的一个环节。 1 机构设计 通过参考成年男性标准头型的尺寸,进行了仿 人头部机器人机构设计,主要包括眉毛推拉机构、眼 部机构、下颚机构和颈部机构,整体大小(包括颈部 和底座)为 465 mm ´180 mm ´168 mm,左右眼中心 距离为 80 mm,如图 1 所示。 该机器人共有 22DOF, 自由度的分配如表 1 所示。 图 1 仿人头部机器人三维模型 Fig.1 Three dimensional model of humanoid head robot 表 1 仿人头部机器人自由度分配 Table 1 The distribution of degree of freedom of human⁃ oid head robot 部位 运动机能 单元数 自由度 眉毛 牵引点推拉 2 4 上眼睑 上翻、下翻 2 2 下眼睑 上翻、下翻 2 2 眼球 左右、上下转动 2 4 下颚 嘴角牵引、上嘴唇牵 引、咀嚼运动(绕 X、 Y 轴移动)、下颚张合 1 7 颈部 绕 X、Y、Z 轴旋转 1 3 眉毛推拉机构 每一边的眉毛均包括 2DOF, 通过 2 根弹性钢丝分别推拉眉毛固定板上的运动单 元实现,而弹性钢丝穿过固定在脸骨架上的尼龙管, 如图 2(a)所示。 眼部机构 包括左眼和右眼且相互独立,左右 眼均包含眼睑运动机构和眼球转动机构,分别具有 2DOF。 采用空间 RSSR 机构[9] ,通过舵机驱动舵机 臂,带动连杆实现眼球的左右方向和上下方向转动, 以及眼睑的张开和闭合运动,如图 2(b)所示。 下颚机构 2 个平面连杆机构分别带动各自方 向上的导轨,实现下颚“ x⁃y”方向的移动,与下颚张 合动作相协调,可以实现机器人的咀嚼运动。 上嘴 唇铜片和嘴角铜片将作为 AU 点,与皮肤固定,由舵 机直接带动皮肤实现该部位的动作。 上嘴唇和嘴角 的运动相互协调,可以实现机器人元音“O”和“U” 的发音,此二元音实现的嘴型相对复杂,其他元音较 易实现,如图 2(c)所示。 颈部机构 采用空间 RSUSR(R 代表转动副,S 代表球面副,U 代表万向铰)机构,通过 2 个舵机的 联动驱动万向节的 2 个自由度,实现俯仰和侧摆动 作,具有较强的承载能力,如图 2(d)所示。 (a)眉毛推拉机构 (b)眼部机构 (c)下颚机构 ·556· 智 能 系 统 学 报 第 10 卷
第4期 信继忠,等:具有面部表情的仿人头部机器人系统的研制 .557. 实现下颚“xy”方向的移动 2 面部表情仿真 面部表情的仿真对于机器人表情的实现起着至 关重要的作用。将在Solid Works软件中按男性成年 人1:1比例建立的面部几何模型,另存为Parasolid 格式导入到Hypermesh软件o中。根据FACS理论 实现嘴角的 得知影响表情的主要器官为眉毛、眼睑和嘴巴,利用 推拉 分区功能对这些区域进行分区,针对曲面的复杂性, 采用以四边形为主的网格划分方式。在特征点区域 施加不同的载荷,对8种基本表情进行反复试验,分 上嘴唇驱动 别得到对应的最佳位移载荷,如表2所示。利用 实现下颗张合 RADIOSS对模型进行求解,在HyperView中查看仿 (d)颈部机构 真结果,得出与最佳载荷匹配的8种基本表情的仿 图2仿人头部机器人局部机构图 真图,如图3所示。面部表情的实现除了与面部皮 Fig.2 Humanoid robot head local mechanism 肤的材料、表情特征控制点的施加位置有关,在仿真 过程中发现还与施加在面部皮肤上载荷的大小、载 荷施加区域的大小和约束位置的不同有关。 表28种基本面部表情的最佳位移载荷 Table 2 The optimal displacement load of eight basic facial expressions (左)右眉毛内 (左)右眉毛外 (左)右 (左)右嘴角 上唇 下唇 表情 X Z X Y Z 眼睑Y Y Z 平静 高兴 (-)0.3 4 -0.1 -0.1 0.1 生气 (-)0.1 -1 0.2 (-)0.1 0.2 0.2 -0.1 (-)0.3 -4 0.2 0.4 悲伤 (-)0.1 0.8 0.2(-)0.10.3 0.2 0.1 (-)0.2 -3.4 0.6 0.3 恐惧 0.7 0.2 0.1 0.2 0.2 0.1 0.2 厌恶 (-)0.1 0.5 0.2 (-)0.1 0.1 0.2 -0.1 0.2 3 -0.1 0.4 惊讶 一 1 0.2 0.1 0.2 0.2 一 0.3 -0.6 感兴趣(-)0.10.3 0.2 (-)0.10.1 0.2 -0.2(-)0.2 0.1 0.3 表3高兴表情3组不同载荷大小明细表 Table 3 Three different groups of load list of the happy expression 高兴 (左)右眉毛内 (左)右眉毛外 (左)右 (左)右嘴角 下唇 上唇Y 表情 X Y Z X Y 眼睑Y X Y Z 01 (-)0.3 3.0 -0.1 -0.1 0.1 02 (-)0.3 4.0 -0.1 -0.3 0.3 03 (-)0.3 5.0 -0.1 -0.5 0.5 在其他条件不变的情况下,分别改变施加载荷 表情的逼真程度较好。因此,对表情控制点施加位 的大小、载荷施加区域的大小和约束的位置,观察其 移载荷的大小对表情的强弱程度起到非常重要的作 变化对基本表情实现的影响。如图4(a)所示,以高 用。以02组载荷大小和施加区域为标准,适当增加 兴表情为例,改变施加载荷的大小,如表3所示,高 嘴角处载荷施加区域的面积,以原来嘴角载荷区域 兴程度从左到右依次增强,施加02组载荷大小时, 的1.5倍和2倍为例,得到其面部仿真图,如图4
(d)颈部机构 图 2 仿人头部机器人局部机构图 Fig.2 Humanoid robot head local mechanism 2 面部表情仿真 面部表情的仿真对于机器人表情的实现起着至 关重要的作用。 将在 SolidWorks 软件中按男性成年 人 1:1 比例建立的面部几何模型,另存为 Parasolid 格式导入到 Hypermesh 软件[10]中。 根据 FACS 理论 得知影响表情的主要器官为眉毛、眼睑和嘴巴,利用 分区功能对这些区域进行分区,针对曲面的复杂性, 采用以四边形为主的网格划分方式。 在特征点区域 施加不同的载荷,对 8 种基本表情进行反复试验,分 别得到对应的最佳位移载荷,如表 2 所示。 利用 RADIOSS 对模型进行求解,在 HyperView 中查看仿 真结果,得出与最佳载荷匹配的 8 种基本表情的仿 真图,如图 3 所示。 面部表情的实现除了与面部皮 肤的材料、表情特征控制点的施加位置有关,在仿真 过程中发现还与施加在面部皮肤上载荷的大小、载 荷施加区域的大小和约束位置的不同有关。 表 2 8 种基本面部表情的最佳位移载荷 Table 2 The optimal displacement load of eight basic facial expressions 表情 (左)右眉毛内 (左)右眉毛外 X Y Z X Y Z (左)右 眼睑 Y (左)右嘴角 X Y Z 上唇 Y 下唇 Y 平静 — — — — — — — — — — — — 高兴 — — — — — — — (-)0.3 4 -0.1 -0.1 0.1 生气 (-)0.1 -1 0.2 (-)0.1 0.2 0.2 -0.1 (-)0.3 -4 — 0.2 0.4 悲伤 (-)0.1 0.8 0.2 (-)0.1 0.3 0.2 0.1 (-)0.2 -3.4 — 0.6 0.3 恐惧 — 0.7 0.2 — 0.1 0.2 0.2 — — — 0.1 0.2 厌恶 (-)0.1 0.5 0.2 (-)0.1 0.1 0.2 -0.1 0.2 3 — -0.1 0.4 惊讶 — 1 0.2 — 0.1 0.2 0.2 — — — 0.3 -0.6 感兴趣 (-)0.1 0.3 0.2 (-)0.1 0.1 0.2 -0.2 (-)0.2 — — 0.1 0.3 表 3 高兴表情 3 组不同载荷大小明细表 Table 3 Three different groups of load list of the happy expression 高兴 表情 (左)右眉毛内 (左)右眉毛外 X Y Z X Y Z (左)右 眼睑 Y (左)右嘴角 X Y Z 上唇 Y 下唇 Y 01 — — — — — — — (-)0.3 3.0 -0.1 -0.1 0.1 02 — — — — — — — (-)0.3 4.0 -0.1 -0.3 0.3 03 — — — — — — — (-)0.3 5.0 -0.1 -0.5 0.5 在其他条件不变的情况下,分别改变施加载荷 的大小、载荷施加区域的大小和约束的位置,观察其 变化对基本表情实现的影响。 如图 4(a)所示,以高 兴表情为例,改变施加载荷的大小,如表 3 所示,高 兴程度从左到右依次增强,施加 02 组载荷大小时, 表情的逼真程度较好。 因此,对表情控制点施加位 移载荷的大小对表情的强弱程度起到非常重要的作 用。 以 02 组载荷大小和施加区域为标准,适当增加 嘴角处载荷施加区域的面积,以原来嘴角载荷区域 的 1.5 倍和 2 倍为例,得到其面部仿真图,如图 4 第 4 期 信继忠,等:具有面部表情的仿人头部机器人系统的研制 ·557·
.558. 智能系统学报 第10卷 (b)所示。由图可知,在1.5倍这个范围内,仿真模 拟结果并没有很明显的改变,但在2倍的控制区域 时,面部表情形状开始发生扭曲,存在一定的失 真]。在面部表情仿真的过程中,约束添加的位置 一般是不参与表情动作的部位,如脸的轮廓、太阳穴 等。由于头部机构的复杂性,在保证表情不失真的 情况下,应该适当地减少约束的施加位置。如图4 (©)所示,减少面部轮廓位置处施加约束的密集程 (©)面部轮廓位置约束减少和面部太阳穴位置约束去掉后仿真 度,改成沿着面部轮廓间隔的均匀的施加约束,面部 图4影响面部表情实现的因素 表情的失真程度较小。说明在沿着面部轮廓方向的 Fig.4 The influence factors of facial expressions achievement 几个关键位置施加约束,就能很好的保证面部表情 3控制系统设计 的失真。将面部太阳穴位置的约束去掉,观察面部 表情的仿真情况,由图可知面部表情的失真程度较 机器人面部表情的实现是面部机构和面部皮肤 大,说明太阳穴位置的约束对面部表情的实现起着 材料共同作用的结果。通过控制器驱动舵机,舵机 至关重要的作用。 通过牵引机构驱动面部器官动作,同时驱动面部皮 肤的相应位置,使机器人产生表情,所以控制机器人 的表情输出其实就是控制系统中的舵机。 采用FPGA作为舵机控制器12)],使用Altera公 司的Cyclone IV EP4CE15F17C8N核心板。通过 SOPC Builder构建硬件系统,按照设计需要添加合 (a)平静 (b)高兴 (c)生气 (d惊讶 适的软核,进行相应的设置以实现要求的功能。系 统的主程序设计图,如图5所示,当FPGA复位开始 运行后,程序初始化机器人的表情状态为平静,等待 模式的选择,模式分为串口模式和按键模式,根据不 同模式,可以用不同的方式实现机器人表情。通过 (e)感兴趣 (0悲伤 (g)厌恶 (h)恐惧 按键模式可以简单的实现5种基本表情,如果要实 图38种面部表情仿真 现更多更丰富的表情,可以通过串口模式。软件的 Fig.3 Eight kinds of facial expression simulation 编写是在NIOsⅡDE集成开发环境)进行的,主 要任务是实现PWM信号的不同的占空比,通过串 口将从上位机接收到数据传到下位机,实现与计算 机的通信功能,控制舵机的运动。 开始 初始化 模式选择 (a)高兴表情的不同程度分布 串口发送 按键 指全是 是否 睿有效 按键 Y 解析命令 平静 高兴惊讶生气悲伤 多个舵机 8种表情 的控制 (b)施加载荷区域为原来1.5倍、2倍的情况时的仿真表情 图5主程序流程图 Fig.5 The flow chart of the main program
(b)所示。 由图可知,在 1.5 倍这个范围内,仿真模 拟结果并没有很明显的改变,但在 2 倍的控制区域 时,面部表情形状开始发生扭曲, 存在一定的失 真[11] 。 在面部表情仿真的过程中,约束添加的位置 一般是不参与表情动作的部位,如脸的轮廓、太阳穴 等。 由于头部机构的复杂性,在保证表情不失真的 情况下,应该适当地减少约束的施加位置。 如图 4 (c)所示,减少面部轮廓位置处施加约束的密集程 度,改成沿着面部轮廓间隔的均匀的施加约束,面部 表情的失真程度较小。 说明在沿着面部轮廓方向的 几个关键位置施加约束,就能很好的保证面部表情 的失真。 将面部太阳穴位置的约束去掉,观察面部 表情的仿真情况,由图可知面部表情的失真程度较 大,说明太阳穴位置的约束对面部表情的实现起着 至关重要的作用。 图 3 8 种面部表情仿真 Fig.3 Eight kinds of facial expression simulation (a)高兴表情的不同程度分布 (b)施加载荷区域为原来 1.5 倍、2 倍的情况时的仿真表情 (c)面部轮廓位置约束减少和面部太阳穴位置约束去掉后仿真 图 4 影响面部表情实现的因素 Fig.4 The influence factors of facial expressions achievement 3 控制系统设计 机器人面部表情的实现是面部机构和面部皮肤 材料共同作用的结果。 通过控制器驱动舵机,舵机 通过牵引机构驱动面部器官动作,同时驱动面部皮 肤的相应位置,使机器人产生表情,所以控制机器人 的表情输出其实就是控制系统中的舵机。 采用 FPGA 作为舵机控制器[12] ,使用 Altera 公 司的 Cyclone IV EP4CE15F17C8N 核 心 板。 通 过 SOPC Builder 构建硬件系统,按照设计需要添加合 适的软核,进行相应的设置以实现要求的功能。 系 统的主程序设计图,如图 5 所示,当 FPGA 复位开始 运行后,程序初始化机器人的表情状态为平静,等待 模式的选择,模式分为串口模式和按键模式,根据不 同模式,可以用不同的方式实现机器人表情。 通过 按键模式可以简单的实现 5 种基本表情,如果要实 现更多更丰富的表情,可以通过串口模式。 软件的 编写是在 NIOS II IDE 集成开发环境[13] 进行的,主 要任务是实现 PWM 信号的不同的占空比,通过串 口将从上位机接收到数据传到下位机,实现与计算 机的通信功能,控制舵机的运动。 图 5 主程序流程图 Fig.5 The flow chart of the main program ·558· 智 能 系 统 学 报 第 10 卷
第4期 信继忠,等:具有面部表情的仿人头部机器人系统的研制 ·559. 采用LabVIEW来绘制面部表情控制系统的控 制界面。上位机通过串口通信给控制板发送不 同的表情类型信号,FPGA内的程序接收到来自接 口的信号后执行程序输出PWM信号,实现对下位 机的控制。通过VISA与串行接口仪器通信5],根 (a)张开 (b)闭合 据需求设置串口的参数,单击不同的按钮就能控制 图8下颚机构张开、闭合动作实验 相应的舵机,使得机器人再现不同的表情。 Fig8 The jaw mechanism close and open movement experiment 结果表明FPGA控制系统运行平稳,各个器官可以 4实验 很好地运行,达到预期要求。通过上位机操作界面控 具有面部表情的仿人头部机器人系统,主要包 制机器人的单个面部器官的运动、实现面部表情,也可 括仿人头部机器人SHFR-ⅢI、控制系统、电源等,如 通过控制箱上的按键实现手动控制。根据面部表情编 图6所示。通过计算机发出指令到FPGA,由PGA 码理论知识,对机器人一些基本面部表情再现。图10 的输出口产生PWM脉冲,驱动舵机实现机器人的 给出了仿人表情机器人的8种基本表情。不同基本表 表情,而舵机的供电需要采用独立的电源模块。 情各个器官对应的舵机角度如表4所示。实验结果表 明,该机器人能够逼真地再现各种基本面部表情。 左侧摆 下转 左转 右侧转 上转 右转 图6具有面部表情的仿人头部机器人系统 Fig6 The system of humanoid robot head with facial expression 实验前需对舵机的初始位置进行调试以及确定 相应舵机的运动范围。对样机头部的各个运动器官 进行动作实验,图7为眉毛推拉机构和眼部机构动 作实验,图8为下颚机构张开、闭合动作实验,图9 图9颈部机构动作实验 为颈部机构动作实验。 Fig.9 The neck mechanism movement experiment (a)眼球上转 (b)眼球下转 (a)平静 (b)生气 (c)厌恶 (d)恐惧 (c)眼球左转 (d)眼球右转 (e)高兴 (f)悲伤 (g)惊讶 (h)感兴趣 图7眉毛推拉机构和眼部机构动作实验 Fig.7 The eyebrows push-pull mechanism and eye mecha- 图10仿人头部机器人SHFR-Ⅲ面部表情的再现实验 nism movement experiment Fig.10 humanoid head robot SHFR-III facial expression representation experiment
采用 LabVIEW 来绘制面部表情控制系统的控 制界面[14] 。 上位机通过串口通信给控制板发送不 同的表情类型信号,FPGA 内的程序接收到来自接 口的信号后执行程序输出 PWM 信号,实现对下位 机的控制。 通过 VISA 与串行接口仪器通信[15] ,根 据需求设置串口的参数,单击不同的按钮就能控制 相应的舵机,使得机器人再现不同的表情。 4 实验 具有面部表情的仿人头部机器人系统,主要包 括仿人头部机器人 SHFR-III、控制系统、电源等,如 图 6 所示。 通过计算机发出指令到 FPGA,由 FPGA 的输出口产生 PWM 脉冲,驱动舵机实现机器人的 表情,而舵机的供电需要采用独立的电源模块。 图 6 具有面部表情的仿人头部机器人系统 Fig.6 The system of humanoid robot head with facial expression 实验前需对舵机的初始位置进行调试以及确定 相应舵机的运动范围。 对样机头部的各个运动器官 进行动作实验,图 7 为眉毛推拉机构和眼部机构动 作实验,图 8 为下颚机构张开、闭合动作实验,图 9 为颈部机构动作实验。 (a)眼球上转 (b)眼球下转 (c)眼球左转 (d)眼球右转 图 7 眉毛推拉机构和眼部机构动作实验 Fig.7 The eyebrows push-pull mechanism and eye mecha⁃ nism movement experiment (a)张开 (b)闭合 图 8 下颚机构张开、闭合动作实验 Fig.8 The jaw mechanism close and open movement experiment 结果表明 FPGA 控制系统运行平稳,各个器官可以 很好地运行,达到预期要求。 通过上位机操作界面控 制机器人的单个面部器官的运动、实现面部表情,也可 通过控制箱上的按键实现手动控制。 根据面部表情编 码理论知识,对机器人一些基本面部表情再现。 图 10 给出了仿人表情机器人的 8 种基本表情。 不同基本表 情各个器官对应的舵机角度如表 4 所示。 实验结果表 明,该机器人能够逼真地再现各种基本面部表情。 图 9 颈部机构动作实验 Fig.9 The neck mechanism movement experiment (a)平静 (b)生气 (c)厌恶 (d)恐惧 (e)高兴 (f)悲伤 (g)惊讶 (h)感兴趣 图 10 仿人头部机器人 SHFR-III 面部表情的再现实验 Fig.10 humanoid head robot SHFR-III facial expression representation experiment 第 4 期 信继忠,等:具有面部表情的仿人头部机器人系统的研制 ·559·
·560. 智能系统学报 第10卷 表48种基本表情相应舵机的角度 Table 4 Eight basic expressions corresponding steering angle 左眉 左眉右眉右眉 左眼左眼右眼右眼左眼左眼右眼右眼 表情 下骨架左嘴角右嘴角 毛内 毛外 毛内毛外 睑上睑下睑上睑下水平竖直 水平竖直 平静 72.0 90.0 72.063.0 58.5 90.0103.581.072.0116.5109.481.3 103.5 90.0 112.5 生气 90.090.0 63.063.0 58.590.0103.581.072.0116.5109.481.3 105.3 90.0 112.5 厌恶 81.099.0 63.054.0 72.0108.090.067.5 72.0116.5109.481.3 103.5 90.0 112.5 恐惧 58.5 76.5 90.0 76.5 45.0 81.0 117.090.0 72.0 116.5109.4 81.3 85.5 90.0 112.5 高兴 72.0 90.0 72.0 63.0 77.4 117.085.5 54.0 72.0 116.5109.4 81.3 99.0 75.6 106.9 悲伤 63.0 90.0 86.4 63.0 72.0 108.0 94.5 63.0 72.0 116.5109.4 81.3 103.5 81.0 121.5 惊讶 63.0 81.0 85.5 72.0 49.5 85.5112.5 85.5 72.0 116.5109.481.3 94.5 90.0 112.5 感兴趣81.0 99.0 63.054.0 67.5 99.0 94.5 72.0 72.0116.5109.481.3105.3 81.0 121.5 [5]ZHENG Y F,WANG H,et al.Humanoid robots walking on 5 结论 grass,sands and rocks [C]//2013 IEEE International 研制出了具有面部表情的仿人头部机器人系 Conference on Technologies for Practical Robot Applications (TePRA).Woburn,MA:IEEE,2013:1-6. 统,采用FPGA作为舵机控制器,并设计控制界面, [6]LUO R C,CHANG S R,YANG Y P.Tracking with point- 完成面部表情控制系统。通过对面部表情进行仿 ing gesture recognition for human-robot interaction [C]/ 真,得到8种基本表情及对应的最佳位移载荷,在仿 2011 IEEE/SICE International Symposium on System Inte- 真过程中发现面部表情的实现与施加在面部皮肤上 gration (SII).Kyoto:IEEE,2011:1220-1225. 载荷的大小、载荷施加区域大小和约束位置的不同 [7]李瑞峰,孙中远,王珂,等.具有面部表情识别与再现的机 有关。实验结果表明控制系统运行平稳,该机器人 器人头部系统的研制[J].机械设计与制造,2011 (7):95-97. 能够逼真地再现8种基本表情。由于受到具体条件 LI Ruifeng,SUN Zhongyuan,WANG Ke,et al.Research of 的限制,未能在机器人上添加面部皮肤,牵引机构不 the robot head system with facial expression recognition and 能作用在皮肤上,表情不能更好地体现,但为进一步 representation [J].Machinery Design Manufacture,2011 研究仿人表情机器人提供了较好的技术基础。 (7):95-97. [8]孙中远机器人头部机构与控制系统的研究[D].黑龙 参考文献: 江:哈尔滨工业大学,2010:10-44. SUN Zhongyuan.Research on mechanism and control system [1]KISHI T,KOJIMA T,ENDO N,et al.Impression survey of of robot head [D].Heilongjiang:Harbin Institute of Tech- the emotion expression humanoid robot with mental model nology,2010:10-44. based dynamic emotions [C]//2013 IEEE International [9]苗鸿宾,乔峰丽.空间RSSR机构运动分析的研究[J]. Conference on Robotics and Automation ICRA).Karlsru- 机械设计与制造,2008,02:7-9. he,Germany:EEE,2013:1663-1668. MIAO Hongbin,QIAO Fengli.Kinematic characteristics a- [2]DESTEPHE M,BRANDAOETC M,et al.Emotional gait: nalysis research of spatial RSSR mechanisms [J].Machinery Effects on humans'perception of humanoid robots [C]/ Design Manufacture,2008,02:7-9. The 23rd IEEE International Symposium on Robot and Hu- [IO]王钰栋,金磊,洪清泉,等,HyperMesh&HyperView应 man Interactive Communication.Edinburgh,Scotland,UK: 用技巧与高级实例[M].北京:机械工业出版社,2012: EEE,2014:261-266. 350-475. [3]BECKER-ASANO C,ISHIGURO H,Evaluating facial dis- WANG Yudong,JIN Lei,HONG Qingquan,et al.Hy- plays of emotion for the android robot Geminoid F [C]/ perMesh HyperView application skills and advanced ex- 2011 IEEE Workshop on Affective Computational Intelli- amples M],Beijing:Mechanical Industry Press,2012: gence (WACI).Paris:IEEE,2011:1-8. 350-475. [4]HASHIMOTO T,KOBAYASHI H,KATO N.Educational [ll]柯显信,尚宇峰,卢孔笔.基于lyperWorks仿人机器人 system with the android robot SAYA and field trial[C]/ 面部表情仿真[J].制造业自动化,2015.37(1):118-121. 2011 IEEE International Conference on Fuzzy Systems,Tai- KE Xianxin,SHANG Yufeng,LU Kongbi.Simulation of pei,2011:766-771. humanoid robot facial expression based on HyperWorks
表 4 8 种基本表情相应舵机的角度 Table 4 Eight basic expressions corresponding steering angle 表情 左眉 毛内 左眉 毛外 右眉 毛内 右眉 毛外 左眼 睑上 左眼 睑下 右眼 睑上 右眼 睑下 左眼 水平 左眼 竖直 右眼 水平 右眼 竖直 下骨架 左嘴角 右嘴角 平静 72.0 90.0 72.0 63.0 58.5 90.0 103.5 81.0 72.0 116.5 109.4 81.3 103.5 90.0 112.5 生气 90.0 90.0 63.0 63.0 58.5 90.0 103.5 81.0 72.0 116.5 109.4 81.3 105.3 90.0 112.5 厌恶 81.0 99.0 63.0 54.0 72.0 108.0 90.0 67.5 72.0 116.5 109.4 81.3 103.5 90.0 112.5 恐惧 58.5 76.5 90.0 76.5 45.0 81.0 117.0 90.0 72.0 116.5 109.4 81.3 85.5 90.0 112.5 高兴 72.0 90.0 72.0 63.0 77.4 117.0 85.5 54.0 72.0 116.5 109.4 81.3 99.0 75.6 106.9 悲伤 63.0 90.0 86.4 63.0 72.0 108.0 94.5 63.0 72.0 116.5 109.4 81.3 103.5 81.0 121.5 惊讶 63.0 81.0 85.5 72.0 49.5 85.5 112.5 85.5 72.0 116.5 109.4 81.3 94.5 90.0 112.5 感兴趣 81.0 99.0 63.0 54.0 67.5 99.0 94.5 72.0 72.0 116.5 109.4 81.3 105.3 81.0 121.5 5 结论 研制出了具有面部表情的仿人头部机器人系 统,采用 FPGA 作为舵机控制器,并设计控制界面, 完成面部表情控制系统。 通过对面部表情进行仿 真,得到 8 种基本表情及对应的最佳位移载荷,在仿 真过程中发现面部表情的实现与施加在面部皮肤上 载荷的大小、载荷施加区域大小和约束位置的不同 有关。 实验结果表明控制系统运行平稳,该机器人 能够逼真地再现 8 种基本表情。 由于受到具体条件 的限制,未能在机器人上添加面部皮肤,牵引机构不 能作用在皮肤上,表情不能更好地体现,但为进一步 研究仿人表情机器人提供了较好的技术基础。 参考文献: [1]KISHI T, KOJIMA T, ENDO N, et al. Impression survey of the emotion expression humanoid robot with mental model based dynamic emotions [ C ] / / 2013 IEEE International Conference on Robotics and Automation ( ICRA). Karlsru⁃ he, Germany: IEEE, 2013:1663⁃1668. [2]DESTEPHE M, BRANDAOETC M, et al. Emotional gait: Effects on humans' perception of humanoid robots [ C] / / The 23rd IEEE International Symposium on Robot and Hu⁃ man Interactive Communication. Edinburgh, Scotland, UK: IEEE, 2014:261⁃266. [3]BECKER⁃ASANO C, ISHIGURO H, Evaluating facial dis⁃ plays of emotion for the android robot Geminoid F [C] / / 2011 IEEE Workshop on Affective Computational Intelli⁃ gence (WACI). Paris: IEEE, 2011: 1⁃8. [4] HASHIMOTO T, KOBAYASHI H, KATO N. Educational system with the android robot SAYA and field trial[ C] / / 2011 IEEE International Conference on Fuzzy Systems, Tai⁃ pei, 2011: 766⁃771. [5]ZHENG Y F, WANG H, et al. Humanoid robots walking on grass, sands and rocks [ C] / / 2013 IEEE International Conference on Technologies for Practical Robot Applications (TePRA). Woburn, MA: IEEE, 2013:1⁃6. [6]LUO R C, CHANG S R, YANG Y P. Tracking with point⁃ ing gesture recognition for human⁃robot interaction [ C] / / 2011 IEEE/ SICE International Symposium on System Inte⁃ gration (SII). Kyoto: IEEE, 2011: 1220⁃1225. [7]李瑞峰,孙中远,王珂,等.具有面部表情识别与再现的机 器人头部系统的研制[ J]. 机械设计与制造, 2011 (7):95⁃97. LI Ruifeng, SUN Zhongyuan, WANG Ke, et al. Research of the robot head system with facial expression recognition and representation [J]. Machinery Design & Manufacture, 2011 (7):95⁃97. [8]孙中远.机器人头部机构与控制系统的研究[D] .黑龙 江:哈尔滨工业大学,2010:10⁃44. SUN Zhongyuan. Research on mechanism and control system of robot head [D].Heilongjiang: Harbin Institute of Tech⁃ nology, 2010:10⁃44. [9]苗鸿宾, 乔峰丽. 空间 RSSR 机构运动分析的研究[ J]. 机械设计与制造, 2008, 02: 7⁃9. MIAO Hongbin, QIAO Fengli. Kinematic characteristics a⁃ nalysis research of spatial RSSR mechanisms [J].Machinery Design & Manufacture, 2008, 02: 7⁃9. [10]王钰栋, 金磊, 洪清泉, 等, HyperMesh & HyperView 应 用技巧与高级实例[M].北京:机械工业出版社, 2012: 350⁃475. WANG Yudong, JIN Lei, HONG Qingquan, et al. Hy⁃ perMesh & HyperView application skills and advanced ex⁃ amples [ M],Beijing: Mechanical Industry Press, 2012: 350⁃475. [11]柯显信,尚宇峰,卢孔笔. 基于 HyperWorks 仿人机器人 面部表情仿真[J].制造业自动化,2015.37(1):118⁃121. KE Xianxin, SHANG Yufeng, LU Kongbi. Simulation of humanoid robot facial expression based on HyperWorks ·560· 智 能 系 统 学 报 第 10 卷
第4期 信继忠,等:具有面部表情的仿人头部机器人系统的研制 ·561. [J].Manufacturing Automation,2015.37(1):118-121. 作者简介: [12]赵慧,张婷婷.一种基于FPGA的舵机伺服系统设计 信继忠,男,1990年生,硕士研究 [J].机床与液压,2010,38(6):59-61. 生,主要研究方向为仿人机器人和人机 ZHAO Hui,ZHANG Tingting.Design of servo motor con- 情感交互。 trol board based on FPGA [J].Machine Tool Hydrau- 1ics,2010,38(6):59-61. [13]李振锋.基于NIOSⅡ的S0PC实验系统设计与开发 [D].四川:西南交通大学,2012:23-41. LI Zhenfeng.Study and develop of SOPC test system based 柯显信,男,1973年生,副教授,博 on NIOS II D].Sichuan:Southwest Jiaotong University, 士后,主要研究方向为仿人机器人和人 2012:23-41. 机情感交互。主持或参与国家863项 [l4]崔牧凡.基于LabVIEW和FPGA的串口通信系统设计 目和上海市科委重点项目等科研项目 与实现[J].计算机应用,2012,32(S2):82-84. 10余项。获国家发明专利授权4项,发 CUI Mufan.Design and implementation of serial communi- 表学术论文10余篇。 cation system based on LabVIEW and FPGA [J].Journal of Computer Applications,2012,32(S2):82-84. 杨阳,男,1988年生,硕士研究生, [15]尚宇峰,柯显信,卢孔笔.基于LabVIEW和FPGA的串 主要研究方向为仿人机器人和人机情 口通信舵机控制系统[J].制造业自动化,2014.36(11): 感交互。 112.114. SHANG Yufeng,KE Xianxin,LU Kongbi.Serial commu- nication servo Control System based on LabVIEW and FP. GA [J].Manufacturing Automation,2014.36(11):112- [责任编辑:李雪莲]. 114. 第三届CCF大数据学术会议 近年来,大数据已经成为学术界、产业界和应用行业普遍关注的热点研究领域,在国内外掀起了一个空 前的研究热潮。为了促进大数据技术的研究与发展,推动大数据领域学术研究和交流、大数据应用以及大数 据的信息共享,继2013年和2014年成功召开了第一、第二届CC℉大数据学术会议后,受中国计算机学会委 托,由中国计算机学会大数据专家委员会、中国科学技术大学和安徽大学联合承办2015年第三届CCF大数 据学术会议。 本次大数据学术会议将就大数据相关的科学基础理论、关键技术方法与系统以及大数据应用研究等方 面征集会议论文。论文征文范围包括但不限于以下方面: 1)大数据科学基础理论; 2)大数据系统构架与基础设施: 3)大数据采集与预处理技术: 4)大数据存储管理模型、技术与系统: 5)大数据并行计算模型、框架与系统: 6)Hadoop与Spark系统性能优化与功能增强; 7)NoSQL与NewSQL技术; 8)大数据智能计算、分析挖掘方法与算法: 9)大数据可视化分析与计算; 10)大数据隐私与安全: 11)大数据技术标准: 12)大数据系统解决方案与工具平台: 13)大数据行业应用: 14)其他与大数据相关的研究问题。 会议网站:htp:/www.ccf.org.cn/sites/ccf/xhdtnry.jsp?contentld=2860516742923
[J]. Manufacturing Automation, 2015.37(1):118⁃121. [12]赵慧,张婷婷. 一种基于 FPGA 的舵机伺服系统设计 [J].机床与液压, 2010, 38(6): 59⁃61. ZHAO Hui, ZHANG Tingting. Design of servo motor con⁃ trol board based on FPGA [ J]. Machine Tool & Hydrau⁃ lics, 2010, 38(6):59⁃61. [13]李振锋. 基于 NIOS II 的 SOPC 实验系统设计与开发 [D].四川:西南交通大学,2012:23⁃41. LI Zhenfeng. Study and develop of SOPC test system based on NIOS II [D]. Sichuan: Southwest Jiaotong University, 2012:23⁃41. [14]崔牧凡. 基于 LabVIEW 和 FPGA 的串口通信系统设计 与实现[J].计算机应用, 2012, 32(S2):82⁃84. CUI Mufan. Design and implementation of serial communi⁃ cation system based on LabVIEW and FPGA [ J]. Journal of Computer Applications, 2012, 32(S2):82⁃84. [15]尚宇峰,柯显信,卢孔笔.基于 LabVIEW 和 FPGA 的串 口通信舵机控制系统[J].制造业自动化,2014.36(11): 112⁃114. SHANG Yufeng, KE Xianxin, LU Kongbi. Serial commu⁃ nication servo Control System based on LabVIEW and FP⁃ GA [J]. Manufacturing Automation, 2014. 36( 11):112⁃ 114. 作者简介: 信继忠,男,1990 年生,硕士研究 生,主要研究方向为仿人机器人和人机 情感交互。 柯显信,男,1973 年生,副教授,博 士后,主要研究方向为仿人机器人和人 机情感交互。 主持或参与国家 863 项 目和上海市科委重点项目等科研项目 10 余项。 获国家发明专利授权 4 项,发 表学术论文 10 余篇。 杨阳,男,1988 年生,硕士研究生, 主要研究方向为仿人机器人和人机情 感交互。 [责任编辑:李雪莲]. 第三届 CCF 大数据学术会议 近年来,大数据已经成为学术界、产业界和应用行业普遍关注的热点研究领域,在国内外掀起了一个空 前的研究热潮。 为了促进大数据技术的研究与发展,推动大数据领域学术研究和交流、大数据应用以及大数 据的信息共享,继 2013 年和 2014 年成功召开了第一、第二届 CCF 大数据学术会议后,受中国计算机学会委 托,由中国计算机学会大数据专家委员会、中国科学技术大学和安徽大学联合承办 2015 年第三届 CCF 大数 据学术会议。 本次大数据学术会议将就大数据相关的科学基础理论、关键技术方法与系统以及大数据应用研究等方 面征集会议论文。 论文征文范围包括但不限于以下方面: 1)大数据科学基础理论; 2)大数据系统构架与基础设施; 3)大数据采集与预处理技术; 4)大数据存储管理模型、技术与系统; 5)大数据并行计算模型、框架与系统; 6)Hadoop 与 Spark 系统性能优化与功能增强; 7)NoSQL 与 NewSQL 技术; 8)大数据智能计算、分析挖掘方法与算法; 9)大数据可视化分析与计算; 10)大数据隐私与安全; 11)大数据技术标准; 12)大数据系统解决方案与工具平台; 13)大数据行业应用; 14)其他与大数据相关的研究问题。 会议网站:http: / / www.ccf.org.cn / sites/ ccf / xhdtnry.jsp? contentId = 2860516742923 第 4 期 信继忠,等:具有面部表情的仿人头部机器人系统的研制 ·561·