第4期 许为，等：人-AI交互：实现“以人为中心AI”理念的跨学科新领域 ·613· 非能够保证以人机系统为载体来实现人在人机系 能融合等途径，最终在系统和生物学层面上实现 统中的中心作用和最终决控权。当然，把人类认 人机共生和融合5。 知模型引入到机器智能中，对于发展机器智能是 3.3人-AI合作 非常重要的。 智能技术带来了一种新型人机关系：人 HAⅡ领域工作将对人机混合增强智能研究 AI合作，人-AI系统作为一个组合体比单个实体 和应用发挥重要作用。首先，HAⅡ领域提倡心理 的工作更加有效？9。人-AI合作的研究目前在 学、认知工程等学科专业人员的合作支持，加速 国外是一个热点。HAⅡ研究需要AI、心理学和 现有心理学等学科成果的转换来支持认知计算的 人因工程等学科的合作，从感知、认知、执行3个 研究，提供有效的认知计算体系架构，例如，为 层面上开展。 提高对非结构化视听觉感知信息的理解能力和海 在感知层面，为了有效的人-AI合作，AI系 量异构信息的处理效率，HAIⅡ领域需要支持 统需要人的模型来支持系统对人类状态的监控 AI界在“感知特征的提取、表达及整合”和“模态 (生理、行为、情绪、愿图、能力等)：AI系统的人机 信息协同计算”等方面的视听觉信息认知计算研 界面要足够透明，帮助人类了解当前系统状态。 究s2。HAIⅡ鼓励将基于认知计算方法与“人在环 例如，人机之间情景意识（态势感知）分享是人 路”方法（系统、生物学层面）整合的工作思路。 AI合作研究的基本问题之一。研究需要了解如 基于HCAI理念，这种思路有助于开发出更强大、 何有效实现人-AI之间基于情景意识模型的的双 可持续发展的、人类可控的AI。 向沟通59，目前还缺少针对人-AI合作的情景意 第二，开展基于HCAI理念的人机混合智能 识模型和测试方法S。今后的HAⅡ工作需要丰 控制研究。针对人机混合智能系统控制，目前主 富情景意识理论，为人-AI合作建模、认知架构、 要有两种方案：“人在回路控制”和“人机协同控 绩效测评提供支持。 制s。AI系统在应急状态时人机之间的高效切 在认知层面，PC时代的人机交互模型已经不 换是目前重要研究课题。例如，自主武器系统发 能满足智能时代的复杂交互场景。HAⅡ需要构 射后的追踪控制，自主驾驶车应急状态下的高效 建符合人一AI合作的认知和计算模型s”。人与 人机切换。HCAI理念要求人拥有最终控制权， AI之间的互信影响人-AI合作的绩效，HAⅡ需要 这需要AI、人机交互等专业人员的合作，寻找有 研究信任测量、建模、修复、校正等方面的工作， 效解决方案。 以及如何量化不同操作场景中人机之间动态化功 第三，开展人机混合增强智能系统的人机交 能交换时所需的信任。不同于传统人机交互，人 互研究。“人在环路”混合智能系统需要与用户交 与AI均需要彼此感知并识别交方的意图与情感， 互的交互设计。不同于传统人机交互，用户交 今后研究要进一步探索心理模型、意图识别、情 互的对象是AI模型，用户界面难以理解，用户与 感交互等模型，以及在系统设计中如何实现和验 AI交互中存在用户意图的不确定性山。HAIⅡ研 证这些模型。 究要求AI专业人员与人机交互、人因工程等专 在执行层面，有效的人-AI合作应该允许在 业合作，从智能系统、用户、人机交互设计三方面 任务、功能、系统等层面上实现决控权在人与 优化系统设计。例如，开发自然式交互设计，选 A代理之间的分享。决控权的转移取决于人机 择有效的心理模型。 双向信任、情景意识共享、合作程度等因素。例 最后，开展人类高级认知层面上的人机混合 如，在自动驾驶车领域，HAⅡ工作需要研究人机 增强智能研究。HAII研究需要AI、认知神经科 控制分享范式、人机共驾所需的情景意识分享、 学、计算机科学、心理学等专业人员的合作。例 人机互信、风险评估等，保证车辆控制权在人机 如，进一步探索人机融合、脑机融合等方面的研 之间的快速有效切换，确保人拥有最终控制权 究，今后要在更高的认知层次上为脑机智能的叠 (包括远程控制等)S。HAI研究需要了解在什么 加（如学习、记忆）建立更有效的模型和算法； 条件下人机之间如何完成有效切换，是否可以借 探索如何将人的决策和经验与机器智能在逻辑推 助人-AI合作的思路，通过有效人机交互，提供有 理、演绎推理等方面的优势结合，使人机合作具 效的人机控制权转移。HAⅡ今后的工作还应该 有高效率山。从长远看，人机混合增强智能未来 在以下几方面开展。 可能形成有效的人机共生6，通过个体和群体智 首先，HAⅡ需要为人一AI合作的研究开发新非能够保证以人机系统为载体来实现人在人机系 统中的中心作用和最终决控权。当然，把人类认 知模型引入到机器智能中，对于发展机器智能是 非常重要的。 HAII 领域工作将对人机混合增强智能研究 和应用发挥重要作用。首先，HAII 领域提倡心理 学、认知工程等学科专业人员的合作支持，加速 现有心理学等学科成果的转换来支持认知计算的 研究，提供有效的认知计算体系架构[51] ，例如，为 提高对非结构化视听觉感知信息的理解能力和海 量异构信息的处理效率， HAII 领域需要支持 AI 界在“感知特征的提取、表达及整合”和“模态 信息协同计算”等方面的视听觉信息认知计算研 究 [52]。HAII 鼓励将基于认知计算方法与“人在环 路”方法 (系统、生物学层面) 整合的工作思路。 基于 HCAI 理念，这种思路有助于开发出更强大、 可持续发展的、人类可控的 AI。 第二，开展基于 HCAI 理念的人机混合智能 控制研究。针对人机混合智能系统控制，目前主 要有两种方案：“人在回路控制”和“人机协同控 制” [53]。AI 系统在应急状态时人机之间的高效切 换是目前重要研究课题。例如，自主武器系统发 射后的追踪控制，自主驾驶车应急状态下的高效 人机切换。HCAI 理念要求人拥有最终控制权， 这需要 AI、人机交互等专业人员的合作，寻找有 效解决方案。 第三，开展人机混合增强智能系统的人机交 互研究。“人在环路”混合智能系统需要与用户交 互的交互设计[24]。不同于传统人机交互，用户交 互的对象是 AI 模型，用户界面难以理解，用户与 AI 交互中存在用户意图的不确定性[1]。HAII 研 究要求 AI 专业人员与人机交互、人因工程等专 业合作，从智能系统、用户、人机交互设计三方面 优化系统设计。例如，开发自然式交互设计，选 择有效的心理模型。 最后，开展人类高级认知层面上的人机混合 增强智能研究。HAII 研究需要 AI、认知神经科 学、计算机科学、心理学等专业人员的合作。例 如，进一步探索人机融合、脑机融合等方面的研 究，今后要在更高的认知层次上为脑机智能的叠 加 (如学习、记忆) 建立更有效的模型和算法[44] ； 探索如何将人的决策和经验与机器智能在逻辑推 理、演绎推理等方面的优势结合，使人机合作具 有高效率[1]。从长远看，人机混合增强智能未来 可能形成有效的人机共生[46] ，通过个体和群体智 能融合等途径，最终在系统和生物学层面上实现 人机共生和融合[54]。 3.3 人−AI 合作 智能技术带来了一种新型人机关系：人− AI 合作，人−AI 系统作为一个组合体比单个实体 的工作更加有效[27, 29]。人−AI 合作的研究目前在 国外是一个热点。HAII 研究需要 AI、心理学和 人因工程等学科的合作，从感知、认知、执行 3 个 层面上开展。 在感知层面，为了有效的人−AI 合作，AI 系 统需要人的模型来支持系统对人类状态的监控 (生理、行为、情绪、愿图、能力等)；AI 系统的人机 界面要足够透明，帮助人类了解当前系统状态。 例如，人机之间情景意识 (态势感知) 分享是人− AI 合作研究的基本问题之一。研究需要了解如 何有效实现人−AI 之间基于情景意识模型的的双 向沟通[55] ，目前还缺少针对人−AI 合作的情景意 识模型和测试方法[56]。今后的 HAII 工作需要丰 富情景意识理论，为人−AI 合作建模、认知架构、 绩效测评提供支持。 在认知层面，PC 时代的人机交互模型已经不 能满足智能时代的复杂交互场景。HAII 需要构 建符合人−AI 合作的认知和计算模型[57]。人与 AI 之间的互信影响人−AI 合作的绩效，HAII 需要 研究信任测量、建模、修复、校正等方面的工作， 以及如何量化不同操作场景中人机之间动态化功 能交换时所需的信任。不同于传统人机交互，人 与 AI 均需要彼此感知并识别交方的意图与情感， 今后研究要进一步探索心理模型、意图识别、情 感交互等模型，以及在系统设计中如何实现和验 证这些模型。 在执行层面，有效的人−AI 合作应该允许在 任务、功能、系统等层面上实现决控权在人与 AI 代理之间的分享。决控权的转移取决于人机 双向信任、情景意识共享、合作程度等因素。例 如，在自动驾驶车领域，HAII 工作需要研究人机 控制分享范式、人机共驾所需的情景意识分享、 人机互信、风险评估等，保证车辆控制权在人机 之间的快速有效切换，确保人拥有最终控制权 (包括远程控制等) [58]。HAII 研究需要了解在什么 条件下人机之间如何完成有效切换，是否可以借 助人−AI 合作的思路，通过有效人机交互，提供有 效的人机控制权转移。HAII 今后的工作还应该 在以下几方面开展。 首先，HAII 需要为人−AI 合作的研究开发新 第 4 期 许为，等：人−AI 交互: 实现“以人为中心 AI”理念的跨学科新领域 ·613·