·610· 智能系统学报 第16卷 表2HAⅡ领域中实现HCAI理念所面临的挑战、HAⅡ可能解决方案、应用实例以及HCAI设计目标 Table 2 Challenges in realizing the HCAI design philosophy,possible HAII solutions,application examples,and expected HCAI design goals HAⅡ领域重点 实现HCAI理 基于HCAI理念的 HAⅡ领域研究和 基于HCAI理念 念面临的挑战 HAII可能解决方案 应用实例 的设计目标（图1） 潜在的、带偏见的系统 “以人为中心”机器学习. 交互式机器学习.基于“以人为 有用的AL. 输出，意外的机器行为， 交互式机器学习，人机交 中心”理念，由目标用户（领域专 伦理化AI, 独特的机器行为演变， 互方法在数据收集、培 家)直接参与，降低对机器学习 有责任AI 不成熟的机器学习训练 训、算法调整、测试中的 专家的依赖，通过有效人机交互 和测试方法，缺乏用户 应用，基于行为科学方法 来构建和训练机器学习模型。 AI系统的机器 参与的机器学习.社会 的机器行为研究 用户检查、训练模型结果，不断 行为 交互中的复杂机器行 调整后续输入直到获得满意结 为，多重AI代理之间的 果。相对于传统机器学习，该方 复杂行为和交互 法更加快速、高效和优化，已应 用在推荐系统、信息检索、情景 感知等领域 人类智能增强技术 HAI可发挥IA和AI间的 整合IA和AI技术的智能系统，在 有用的AI. (IA)与AI技术之间的竞 桥梁作用，制定两种技术应用中增强人类智能，人类通过 可用的AL. 争，IA和AI技术之间缺 的最佳组合方案，确保 监控（远程等）实现人机协同合作 增强人的能 乏优势互补的最佳方案 AI技术增强人类智能，保 以及保证人的决控权P。例如。 力，人拥有 人类智能增强 证人拥有最终控制权，开 智能无人机（军用类等）、机器人 最终决控权 发生物神经层面的方案 (月球探测等危险场景、医疗外 (脑机融合等) 科精细手术等)、智能决策系统 (股票交易系统等) 机器智能难以模拟人类人机混合增强智能，“人 “人在环路”混合增强智能，242可 可扩展的 高级认知能力，机器智 在环路”AI系统及交互设 利用人与机器智能的优势互补. AL,高效 能技术发展的瓶颈效 计，人机协同控制，脑机 处理大规模、不完整和非结构化 强大的AI 应，孤立地开发机器智 混合系统，基于认知心理 知识信息：用户与AI系统交互中 人类可控的 能的发展途径缺乏可持 学研究的认知计算（情 不断知识迭代和学习，加深对数 AL,人拥有 人机混增强合 续性，AI开发中缺乏对 感、意图等).人类高级认 据及系统理解，AI模型接受特定 最终决控权 智能 人类控制和安全性的充 知能力模型、知识表征和输入并根据用户反馈信息确定 分考虑 图谱，人机共生与融合 输出，达到优于各自单独实现的 结果，避免AI技术带来的失控风 险，已应用在自动驾驶、辅助医 疗、视频检索等领域 缺乏成熟的人一AI合作 人-AI合作理论和模型， 从多学科角度出发，从感知、认 有用的AI. 理论、方法、认知架构。 人-AI合作团队绩效评估 知、执行层面上为基于人-AI合 可用的AL 缺乏成熟的人机态势感 和测试方法，人机共驾， 作的AI解决方案提供依据。例 人类可控 知共享、人机共信、人 社会环境中的人-AI合 如，人-AI合作研究策略和框架2阿 的AI 人-AI合作 机心理模型共享、人机 作，人-AI合作的人机交 人-AI合作团队绩效评估P7,人- 决策共享的理论、模型 互模型，人作为最终决策 AI互信2阁，人-AI合作中的心理 和方法 者的人-AI合作设计 模型四，人-A哈作的系统设计0， 人-AI哈作系统权限B,人- A1合作的定量和定性建模B表 2 HAII 领域中实现 HCAI 理念所面临的挑战、HAII 可能解决方案、应用实例以及 HCAI 设计目标 Table 2 Challenges in realizing the HCAI design philosophy, possible HAII solutions, application examples, and expected HCAI design goals HAII领域重点 实现HCAI理 念面临的挑战 基于HCAI理念的 HAII可能解决方案 HAII领域研究和 应用实例 基于HCAI理念 的设计目标 (图1) AI系统的机器 行为 潜在的、带偏见的系统 输出，意外的机器行为， 独特的机器行为演变， 不成熟的机器学习训练 和测试方法，缺乏用户 参与的机器学习，社会 交互中的复杂机器行 为，多重AI代理之间的 复杂行为和交互 “以人为中心”机器学习， 交互式机器学习，人机交 互方法在数据收集、培 训、算法调整、测试中的 应用，基于行为科学方法 的机器行为研究 交互式机器学习: [22]基于“以人为 中心”理念，由目标用户(领域专 家)直接参与，降低对机器学习 专家的依赖，通过有效人机交互 来构建和训练机器学习模型。 用户检查、训练模型结果，不断 调整后续输入直到获得满意结 果。相对于传统机器学习，该方 法更加快速、高效和优化，已应 用在推荐系统、信息检索、情景 感知等领域 有用的AI， 伦理化AI， 有责任AI 人类智能增强 人类智能增强技术 (IA)与AI技术之间的竞 争，IA和AI技术之间缺 乏优势互补的最佳方案 HAII可发挥IA和AI间的 桥梁作用，制定两种技术 的最佳组合方案，确保 AI技术增强人类智能，保 证人拥有最终控制权，开 发生物神经层面的方案 (脑机融合等) 整合IA和AI技术的智能系统，在 应用中增强人类智能，人类通过 监控(远程等)实现人机协同合作 以及保证人的决控权[23]。例如， 智能无人机(军用类等)、机器人 (月球探测等危险场景、医疗外 科精细手术等)、智能决策系统 (股票交易系统等) 有用的AI， 可用的AI， 增强人的能 力，人拥有 最终决控权 人机混增强合 智能 机器智能难以模拟人类 高级认知能力，机器智 能技术发展的瓶颈效 应，孤立地开发机器智 能的发展途径缺乏可持 续性，AI开发中缺乏对 人类控制和安全性的充 分考虑 人机混合增强智能，“人 在环路”AI系统及交互设 计，人机协同控制，脑机 混合系统，基于认知心理 学研究的认知计算(情 感、意图等)，人类高级认 知能力模型、知识表征和 图谱，人机共生与融合 “人在环路”混合增强智能[1, 24-25] ： 利用人与机器智能的优势互补， 处理大规模、不完整和非结构化 知识信息；用户与AI系统交互中 不断知识迭代和学习，加深对数 据及系统理解，AI模型接受特定 输入并根据用户反馈信息确定 输出，达到优于各自单独实现的 结果，避免AI技术带来的失控风 险，已应用在自动驾驶、辅助医 疗、视频检索等领域 可扩展的 AI，高效 强大的AI， 人类可控的 AI，人拥有 最终决控权 人−AI合作 缺乏成熟的人−AI合作 理论、方法、认知架构， 缺乏成熟的人机态势感 知共享、人机共信、人 机心理模型共享、人机 决策共享的理论、模型 和方法 人−AI合作理论和模型， 人−AI合作团队绩效评估 和测试方法，人机共驾， 社会环境中的人−AI合 作，人−AI合作的人机交 互模型，人作为最终决策 者的人−AI合作设计 从多学科角度出发，从感知、认 知、执行层面上为基于人−AI合 作的AI解决方案提供依据。例 如，人−AI合作研究策略和框架[26] ， 人−AI合作团队绩效评估[27] ，人− AI互信[28] ，人−AI合作中的心理 模型[29] ，人−AI合作的系统设计[30] ， 人−AI合作系统权限[31] ，人− AI合作的定量和定性建模[32] 有用的AI， 可用的AI， 人类可控 的AI ·610· 智 能 系 统 学 报 第 16 卷