第4期 许为，等：人-AI交互：实现“以人为中心AI”理念的跨学科新领域 ·609· 安全、可靠、可信赖的AI 环境 人-AI合作相 心理 人机混合增强智寵 人类智能增强 认知计算 人工 生理、 智能 智能人机交互技不 计算机 机交石 人工智能 科学 (HCI) 智能交互设升标准 情感、 社会 “人在环路”A 认知神 人-AI交面 人因 可解释A! 经科学 工程 (HAII) A机器行为 可用的A(易学易用 数据 设计 P认知 毫 科学 工程 有用的A1(有效应用场景 安全、 交互式机器华习 与社会 科学 伦理化设中 人类可控自主化 伦理等 有意义的人类控制 决策权等 技术 算法、模型、大数据5G系统架构等 了 了 “以人为中心A”(HCA)的开发理念 图2人-人工智能交互HAD领域示意 Fig.2 Illustration of the human-AI interaction(HAIl)domain HAⅡ领域方法：作为一个跨学科领域，通过 题&2刘 多学科方法（建模、算法、设计、工程、测试等）和 历史上，新技术促进了新领域的产生。进入 合作的流程来开发AI系统。这些方法来自这些 PC时代，传统“人机交互”(human-machine inter- 相关学科，例如计算模型、工程设计方法、行为科 action)领域过渡到新版的“人机交互”（人-计算机 学研究方法、人机交互设计等。 交互)，但是此“机”非彼“机2四。智能时代的机器 HAI领域人员：从事HAI研究和应用的人 过渡到AI系统，AI的新特征促使HAⅡ新领域的 员包括来自AI、计算机、数据科学、人机交互、心 产生，因此，HAⅡ的出现也是必然的。 理学、认知神经科学、社会科学等专业人员。广 我们并不建议将HAⅡ设置为一门独立的新 义地来说，大多数从事A!系统研发的人员都属于 学科，强调HAⅡ是一个新型跨学科领域，希望通 这个范畴，他们研发的AI系统或多或少都与人交 过该领域的跨学科、跨行业协同合作来落实 互，都是为了开发出有利于人类的AI系统。 HCAI理念。例如，HAIⅡ工作需要人机交互人员 2.3为什么需要HAⅡ新领域 的参与，他们必须采用新思维开展针对人与AI交 首先，HAⅡ领域为各学科提供了一个合作平 互的研究和应用。 台。HAI有助于在一个领域名称(HAID）下，联合 2.4实现HCAI理念面临的挑战和HAⅡ解决方案 参与AI系统研发的跨学科、跨行业专业人员，避 HAⅡ领域的工作并非刚刚兴起，AI界和其他 免易混淆的名称，这种跨学科合作有助于有效地 相关学科已经开展了一些工作。为进一步阐述 开发以人为中心的AI系统。 HAⅡ领域，基于文献综述和分析，表2概括了当 其次，HAⅡ领域强调其研究和应用的对象是 前HAⅡ研究和应用的重点、实现HCAI理念的挑 AL,不是传统的非A系统，有助于提醒人们注重 战、HAII领域可能的解决方案、期望的HCAI设 AI与非AI系统之间的特征差异，促使人们重视 计目标。表2也引用一些实例，详细内容在本文 AI技术带来的新挑战和新问题，采用有效的方法 第3部分讨论。 来解决AI系统开发中的独特问题。 从表2可知，首先，为实现基于HCAI理念的 最后，HAII领域有助于推动HCAI理念在 设计目标，HAI研究和应用有许多挑战期待解 AI研发中的落实。HAII强调AI研发中将人的中 决。不解决这些挑战我们就无法实现HCAI理 心作用整合到系统设计中，避免潜在安全风险问 念，无法开发出安全、可靠、可信赖的A。安全、可靠、可信赖的 AI 人 “以人为中心 AI” (HCAI) 的开发理念 环境商业 、文化 、组织 、社会 、法律 、安全 、伦理等 心理 、生理 、情感 、人格 、隐私 、公平 、决策权等 人工 智能 人机交互 (HCI) 人因 工程 设计 认知 与工程 与社会 科学 数据 科学 认知神 经科学 计算机 科学 人类智能增强 智能人机交互技术 智能交互设计标准 可解释 AI 可用的AI (易学易用) 有用的AI (有效应用场景) 人类可控自主化 有意义的人类控制 伦理化设计 交互式机器学习 AI 机器行为 “人在环路”AI 人工智能 认知计算 人机混合增强智能 人−AI 合作 人−AI 交互 (HAII) 技术 算法、模型、大数据 5G 系统架构等 图 2 人−人工智能交互 (HAII) 领域示意 Fig. 2 Illustration of the human-AI interaction (HAII) domain HAII 领域方法：作为一个跨学科领域，通过 多学科方法 (建模、算法、设计、工程、测试等) 和 合作的流程来开发 AI 系统。这些方法来自这些 相关学科，例如计算模型、工程设计方法、行为科 学研究方法、人机交互设计等。 HAII 领域人员：从事 HAII 研究和应用的人 员包括来自 AI、计算机、数据科学、人机交互、心 理学、认知神经科学、社会科学等专业人员。广 义地来说，大多数从事 AI 系统研发的人员都属于 这个范畴，他们研发的 AI 系统或多或少都与人交 互，都是为了开发出有利于人类的 AI 系统。 2.3 为什么需要 HAII 新领域 首先，HAII 领域为各学科提供了一个合作平 台。HAII 有助于在一个领域名称 (HAII) 下，联合 参与 AI 系统研发的跨学科、跨行业专业人员，避 免易混淆的名称，这种跨学科合作有助于有效地 开发以人为中心的 AI 系统。 其次，HAII 领域强调其研究和应用的对象是 AI，不是传统的非 AI 系统，有助于提醒人们注重 AI 与非 AI 系统之间的特征差异，促使人们重视 AI 技术带来的新挑战和新问题，采用有效的方法 来解决 AI 系统开发中的独特问题。 最后，HAII 领域有助于推动 HCAI 理念在 AI 研发中的落实。HAII 强调 AI 研发中将人的中 心作用整合到系统设计中，避免潜在安全风险问 题 [8, 20]。 历史上，新技术促进了新领域的产生。进入 PC 时代，传统“人机交互”(human-machine inter￾action) 领域过渡到新版的“人机交互”(人−计算机 交互)，但是此“机”非彼“机” [21]。智能时代的机器 过渡到 AI 系统，AI 的新特征促使 HAII 新领域的 产生，因此，HAII 的出现也是必然的。 我们并不建议将 HAII 设置为一门独立的新 学科，强调 HAII 是一个新型跨学科领域，希望通 过该领域的跨学科、跨行业协同合作来落 实 HCAI 理念。例如，HAII 工作需要人机交互人员 的参与，他们必须采用新思维开展针对人与 AI 交 互的研究和应用。 2.4 实现 HCAI 理念面临的挑战和 HAII 解决方案 HAII 领域的工作并非刚刚兴起，AI 界和其他 相关学科已经开展了一些工作。为进一步阐述 HAII 领域，基于文献综述和分析，表 2 概括了当 前 HAII 研究和应用的重点、实现 HCAI 理念的挑 战、HAII 领域可能的解决方案、期望的 HCAI 设 计目标。表 2 也引用一些实例，详细内容在本文 第 3 部分讨论。 从表 2 可知，首先，为实现基于 HCAI 理念的 设计目标，HAII 研究和应用有许多挑战期待解 决。不解决这些挑战我们就无法实现 HCAI 理 念，无法开发出安全、可靠、可信赖的 AI。 第 4 期 许为，等：人−AI 交互: 实现“以人为中心 AI”理念的跨学科新领域 ·609·