第4期 许为，等：人-AI交互：实现“以人为中心A”理念的跨学科新领域 ·607· 续表1 特征 计算机时代的人-非AI计算系统交互 智能时代的人-AI系统交互 机器输出 具有确定性 具有不确定性 人类操作员角色 监视员、执行者 也可能成为与AI合作的队友（人应是最终决策者） 人机关系 人机交互 人机交互+人机组队式合作 也包括新型智能交互：语音交互、人脸识别、脑机 用户界面 图形用户界面、触摸屏交互、显式交互等 界面、隐式交互等 基于人的认知、行为、情感、场景上下文等信息，智 人机交互的行为特征由人启动的、基于显式界面的人机交互 能体也可以主动启动基于隐式界面的人机交互等 启动能力 人主动启动任务、行动，机器被动接受 人机双方均可主动地启动任务、行动 只有人针对机器的单向式信任、 人机之间双向式的信任、情景意识、意图，人机之 人机交互的方向性 情景意识、决策等 间可分享的决策控制权（人应拥有最终控制权） 智能互补性 机器无智能，人与机器之间无智能互补 机器智能与人的生物智能之间的互补 还呈现A黑匣子”效应，导致系统输出难以解释和 系统输出的可解释性主要取决于系统输出界面的可用性 理解 人、机器均可借助行为、情景意识等模型，预测对 人、机器的预测能力仅人类操作员拥有 方的行为、环境、系统等状态 自适应能力 仅人类操作员拥有 人、机器均可适应对方的行为及操作场景 目标设置能力 仅人类操作员拥有 人、机器均可设置或调整系统目标 替换能力 机器可以替换人的任务（借助于自动化 机器可以替换人的体力、认知任务（人机之间可主 技术，主要是体力方面) 动或被动地接管、委派任务等) 人机合作 有限 基于以上一些特征，可能产生更有效的人机合作 用户需求 主要包括可用性、心理、安全、生理等 还包括情感、隐私、伦理、决策自主权等 在人-非智能系统交互中，作为一种支持人类 交互161。尽管这些工作各有侧重点，但是都是 操作的辅助工具，机器依赖于事先设计的规则和 研究人与智能“机器”（智能体、智能代理等）之 算法。尽管人机之间也存在一定程度上的人机合 间的交互。所以，这种交互本质上就是人-AI交 作，但是作为辅助工具的机器是被动的，只有人 互(human-AI interaction,HAI)。目前还没有一 可以主动地启动这种有限的合作。 个系统的有关HAⅡ领域的工作框架，有必要正 AI系统智能体具备的自主化特征使得智能 式提倡将HAIⅡ作为一个新的多学科交叉领域来 体与人类之间可以实现一定程度上类似于人一人 推动。 团队之间的“合作式交互”。在特定的操作环境 2.1HAⅡ领域的理念：以人为中心AI 中，这种交互可以是由两者之间双向主动的、分 近几年，当“以技术为中心”方法影响着AI研 享的、互补的、可替换的、自适应的、目标驱动的 发的同时，研究者也在探索基于“以人为中心”的 以及可预测的等特征所决定的（见表1）。随着 AI开发方法，例如，以人为中心的算法、AI人文 AI技术的发展，未来AI系统将更多点地具备这 设计、包容性设计、基于社会责任的AI图。 些特征。 斯坦福大学在2019年成立了“以人为中心 由此可见，智能时代人-AI系统交互的新特 AI”(human-centered AI,.HCA)研究中心，目的 征以及研究的问题等已经远超出了目前人机交互 是通过技术提升与伦理化设计手段，开发出合乎 研究和应用的范围，需要一种新思维来考虑如何 人类道德伦理和惠及人类的AI系统m 更加有效地开展多学科合作来应对人-AI系统交 许为B1剧在2019年提出了一个“以人为中心 互以及AI系统研发中面临的一系列新特征和新 AI”(HCAI)的系统概念框架，该框架包括人、伦 挑战。 理、技术3个方面。Shneiderman'在2020年提 2HAⅡ领域的兴起及领域理念 出了一个为开发可靠、安全和可信赖的AI系统 的指导框架。HCAI就是指导HAIⅡ新领域的理 国外针对人-AI系统交互的研究和应用已 念。以下进一步阐述HCAI理念的3个方面：技 经展开211。例如：人-智能体交互，人一自主 术、人、伦理（见图1）。其中，图1概括了各方面 化交互(human-autonomy interaction)l,人-AI 工作的主要途径（见图1中围绕3个周边圆形部在人−非智能系统交互中，作为一种支持人类 操作的辅助工具，机器依赖于事先设计的规则和 算法。尽管人机之间也存在一定程度上的人机合 作，但是作为辅助工具的机器是被动的，只有人 可以主动地启动这种有限的合作。 AI 系统智能体具备的自主化特征使得智能 体与人类之间可以实现一定程度上类似于人−人 团队之间的“合作式交互”。在特定的操作环境 中，这种交互可以是由两者之间双向主动的、分 享的、互补的、可替换的、自适应的、目标驱动的 以及可预测的等特征所决定的 (见表 1)。随着 AI 技术的发展，未来 AI 系统将更多点地具备这 些特征[13]。 由此可见，智能时代人−AI 系统交互的新特 征以及研究的问题等已经远超出了目前人机交互 研究和应用的范围，需要一种新思维来考虑如何 更加有效地开展多学科合作来应对人−AI 系统交 互以及 AI 系统研发中面临的一系列新特征和新 挑战。 2 HAII 领域的兴起及领域理念 国外针对人−AI 系统交互的研究和应用已 经展开[12-13]。例如：人−智能体交互[14] ，人−自主 化交互 (human-autonomy interaction)[15] ，人−AI 交互[ 1 6 ]。尽管这些工作各有侧重点，但是都是 研究人与智能“机器”(智能体、智能代理等) 之 间的交互。所以，这种交互本质上就是人−AI 交 互 (human-AI interaction，HAII)。目前还没有一 个系统的有关 HAII 领域的工作框架，有必要正 式提倡将 HAII 作为一个新的多学科交叉领域来 推动。 2.1 HAII 领域的理念：以人为中心 AI 近几年，当“以技术为中心”方法影响着 AI 研 发的同时，研究者也在探索基于“以人为中心”的 AI 开发方法，例如，以人为中心的算法、AI 人文 设计、包容性设计、基于社会责任的 AI[8]。 斯坦福大学在 2019 年成立了“以人为中心 AI”(human-centered AI，HCAI) 研究中心，目的 是通过技术提升与伦理化设计手段，开发出合乎 人类道德伦理和惠及人类的 AI 系统[17]。 许为[2, 18] 在 2019 年提出了一个“以人为中心 AI”(HCAI) 的系统概念框架，该框架包括人、伦 理、技术 3 个方面。Shneiderman[19] 在 2020 年提 出了一个为开发可靠、安全和可信赖的 AI 系统 的指导框架。HCAI 就是指导 HAII 新领域的理 念。以下进一步阐述 HCAI 理念的 3 个方面：技 术、人、伦理 (见图 1) [2]。其中，图 1 概括了各方面 工作的主要途径 (见图 1 中围绕 3 个周边圆形部 续表 1 特征 计算机时代的人−非AI计算系统交互 智能时代的人−AI系统交互 机器输出 具有确定性 具有不确定性 人类操作员角色 监视员、执行者 也可能成为与AI合作的队友(人应是最终决策者) 人机关系 人机交互 人机交互+人机组队式合作 用户界面 图形用户界面、触摸屏交互、显式交互等 也包括新型智能交互：语音交互、人脸识别、脑机 界面、隐式交互等 人机交互的行为特征 由人启动的、基于显式界面的人机交互 基于人的认知、行为、情感、场景上下文等信息，智 能体也可以主动启动基于隐式界面的人机交互等 启动能力 人主动启动任务、行动，机器被动接受 人机双方均可主动地启动任务、行动 人机交互的方向性 只有人针对机器的单向式信任、 情景意识、决策等 人机之间双向式的信任、情景意识、意图，人机之 间可分享的决策控制权(人应拥有最终控制权) 智能互补性 机器无智能，人与机器之间无智能互补 机器智能与人的生物智能之间的互补 系统输出的可解释性 主要取决于系统输出界面的可用性 还呈现AI“黑匣子”效应，导致系统输出难以解释和 理解 人、机器的预测能力 仅人类操作员拥有 人、机器均可借助行为、情景意识等模型，预测对 方的行为、环境、系统等状态 自适应能力 仅人类操作员拥有 人、机器均可适应对方的行为及操作场景 目标设置能力 仅人类操作员拥有 人、机器均可设置或调整系统目标 替换能力 机器可以替换人的任务(借助于自动化 技术，主要是体力方面) 机器可以替换人的体力、认知任务(人机之间可主 动或被动地接管、委派任务等) 人机合作 有限 基于以上一些特征，可能产生更有效的人机合作 用户需求 主要包括可用性、心理、安全、生理等 还包括情感、隐私、伦理、决策自主权等 第 4 期 许为，等：人−AI 交互: 实现“以人为中心 AI”理念的跨学科新领域 ·607·