第4期 许为，等：人-AI交互：实现“以人为中心A”理念的跨学科新领域 ·611· 续表2 HAⅡ领域重点 实现HCAI理 基于HCA理念的 HAⅡ领域研究和 基于HCAI理念 念面临的挑战 HAII可能解决方案 应用实例 的设计目标（图） A黑匣子”效应，用户 “以人为中心”的可解释 “以人为中心”的实时化可解释 可用的AI. 无法理解AI系统决策， AL,终端用户参与式的可 AI方案：在文献33]的计算机游 有责任AI 影响人类决策，影响 解释AL,可理解AL,AI系 戏研究中，AI代理与用户交互中 AI技术推广，心理学解 统输出界面可视化设计， 实时生成基于自然语言的推理 释理论没得到应用，没 “人在环路”式可解释AL, 数据，使用这些数据训练AI模型， 可解释的AI 有终端用户参与的方 心理学解释理论的转化 该模型能够对游戏结果生成人 法，AI是可解释的但是 应用，用户参与式、交互 类可理解的推理。在文献[34]的 终端用户无法理解 式AI人机界面设计 研究中，自动驾驶汽车乘客通过 有效的人机交互手段选择行车 环境目标，这些选择目标使驾驶 算法的决策更容易解释和理解 AI独特的自主化特征以 人类可控自主化，人机共 Udelv自动送货车(ADVB阿 可用的AI, 及潜在的负面影响，对 享自主化.人一自主化组 ADV采用L4自动驾驶，可以在一 伦理化AL, 自动化与自主化概念的队合作，自动化研究成果 些公共场所范围内完成无人驾 人类可控的 混淆，低估了的自主化 转化，有意义的人类控 驶点对点操作。该系统包括远 AL,人拥有 人类可控自主化 影响（被混淆为高水平 制，自主化故障追踪数据 程监控系统，如果需要时（任务 最终决控权 自动化) 系统 边缘区、应急场景等)，通过无缝 式人机操控转换可以实现人工 干预操纵 缺乏针对智能交互的人 智能人机交互新范式，有 针对AI系统的人机交互设计标 可用的AL. 机交互范式，复杂智能 效的智能人机交互设计， 准：ISO人-AI系统交互的技术文 有用的AI 计算环境中人类有限认针对AI系统的人机交互 件1S09241-810)36,微软设计 知资源的瓶颈效应，针 设计标准，基于人-AI合 准则和指南1.“Google 智能人机交互 对非AI系统的现有人机作的人机界面设计，智能 AI+-Peop Guidebook7:有效 交互设计标准，智能交 人机交互的可用性设计 的智能人机交互开发流程：“配 互的用户体验问题 对式AI合作开发流程；有效 的人机交互设计方法：AI优先方 法可，A作为设计材料网 人类可能缺乏对AI系统有意义的人类控制，AI错“有意义的人类控制"设计O:透 伦理化AI. 的最终控制权，AI系统 误追溯机制，透明化设 明化系统设计、有效的人机交 负责任AL, 产生输出偏差和意外结计.优化机器学习建模、 互，人类操作员能够对所用的自 可用的AI. 果，滥用AI系统（导致歧 训练、测试，AI人员知识 主技术拥有足够的信息（态势感 人类可控的AI 伦理化AI设计 视，隐私泄密等)缺乏 提升，跨学科方法的AI伦知等)来确保做出知情且有意 对AI系统故障的追溯和 理化设计，伦理化设计技 识、合法的决策：装备“故障追踪 问责机制 术和示例 系统”机制，实现系统行为和故 障的追溯和问责制 其次，表2概括出了HAⅡ研究和应用的范 究和应用的挑战、可能的解决方案以及实例都依 围。目前来自AI和其他学科的专业人员在开展 赖于跨学科方法（建模、工程设计、行为科学方法 这方面的工作，这些挑战不是单一学科可以解决 等)，单一学科的方法无法有效地解决这些问题。 的，这正说明了HCAI和HAⅡ工作需要跨学科的 40多年前，当PC新技术刚兴起时，开发者基 协同合作。 本遵循“以技术为中心”的理念。随着PC的普 最后，HAI领域采用跨学科的方法。HA研 及，许多用户体验问题随之出现，人们开始意识其次，表 2 概括出了 HAII 研究和应用的范 围。目前来自 AI 和其他学科的专业人员在开展 这方面的工作，这些挑战不是单一学科可以解决 的，这正说明了 HCAI 和 HAII 工作需要跨学科的 协同合作。 最后，HAII 领域采用跨学科的方法。HAII 研 究和应用的挑战、可能的解决方案以及实例都依 赖于跨学科方法 (建模、工程设计、行为科学方法 等)，单一学科的方法无法有效地解决这些问题。 40 多年前，当 PC 新技术刚兴起时，开发者基 本遵循“以技术为中心”的理念。随着 PC 的普 及，许多用户体验问题随之出现，人们开始意识 续表 2 HAII领域重点 实现HCAI理 念面临的挑战 基于HCAI理念的 HAII可能解决方案 HAII领域研究和 应用实例 基于HCAI理念 的设计目标 (图1) 可解释的AI AI“黑匣子”效应，用户 无法理解AI系统决策， 影响人类决策，影响 AI技术推广，心理学解 释理论没得到应用，没 有终端用户参与的方 法，AI是可解释的但是 终端用户无法理解 “以人为中心”的可解释 AI，终端用户参与式的可 解释AI，可理解AI，AI系 统输出界面可视化设计， “人在环路”式可解释AI， 心理学解释理论的转化 应用，用户参与式、交互 式AI人机界面设计 “以人为中心”的实时化可解释 AI方案：在文献[33]的计算机游 戏研究中，AI代理与用户交互中 实时生成基于自然语言的推理 数据，使用这些数据训练AI模型， 该模型能够对游戏结果生成人 类可理解的推理。在文献[34]的 研究中，自动驾驶汽车乘客通过 有效的人机交互手段选择行车 环境目标，这些选择目标使驾驶 算法的决策更容易解释和理解 可用的AI， 有责任AI 人类可控自主化 AI独特的自主化特征以 及潜在的负面影响，对 自动化与自主化概念的 混淆，低估了的自主化 影响(被混淆为高水平 自动化) 人类可控自主化，人机共 享自主化，人−自主化组 队合作，自动化研究成果 转化，有意义的人类控 制，自主化故障追踪数据 系统 Udelv自动送货车(ADV)[35] ， ADV采用L4自动驾驶，可以在一 些公共场所范围内完成无人驾 驶点对点操作。该系统包括远 程监控系统，如果需要时(任务 边缘区、应急场景等)，通过无缝 式人机操控转换可以实现人工 干预操纵 可用的AI， 伦理化AI， 人类可控的 AI，人拥有 最终决控权 智能人机交互 缺乏针对智能交互的人 机交互范式，复杂智能 计算环境中人类有限认 知资源的瓶颈效应，针 对非AI系统的现有人机 交互设计标准，智能交 互的用户体验问题 智能人机交互新范式，有 效的智能人机交互设计， 针对AI系统的人机交互 设计标准，基于人−AI合 作的人机界面设计，智能 人机交互的可用性设计 针对AI系统的人机交互设计标 准：ISO人−AI系统交互的技术文 件(ISO 9 241-810)[36] ，微软设计 准则和指南[16] ，“Google AI+People Guidebook”[37] ；有效 的智能人机交互开发流程：“配 对式AI合作开发流程” [38] ；有效 的人机交互设计方法：AI优先方 法 [37] ，AI作为设计材料[39] 可用的AI， 有用的AI 伦理化AI设计 人类可能缺乏对AI系统 的最终控制权，AI系统 产生输出偏差和意外结 果，滥用AI系统(导致歧 视，隐私泄密等)，缺乏 对AI系统故障的追溯和 问责机制 有意义的人类控制，AI错 误追溯机制，透明化设 计，优化机器学习建模、 训练、测试，AI人员知识 提升，跨学科方法的AI伦 理化设计，伦理化设计技 术和示例 “有意义的人类控制”设计[40] ：透 明化系统设计、有效的人机交 互，人类操作员能够对所用的自 主技术拥有足够的信息(态势感 知等)来确保做出知情且有意 识、合法的决策；装备“故障追踪 系统”机制，实现系统行为和故 障的追溯和问责制 伦理化AI， 负责任AI， 可用的AI， 人类可控的AI 第 4 期 许为，等：人−AI 交互: 实现“以人为中心 AI”理念的跨学科新领域 ·611·