·608· 智能系统学报 第16卷 分的蓝色字体)，例如，人的需求、AI应用场景； (见图1中围绕“以人为中心AI”中心圆形部分的 图1也概括了这些工作要达到的HCAI设计目标 黑色字体)，例如，可用的AI、有用的AI。 算力 大数据 算法和模型 人机混合增强智能 AI与智能增强技术整合 技术 高效强大的A! 可扩展的A1 人类可控的A 增强人类能力 以人为中心 伦理化AI AI 有用的AI 有责任A1 可用的AI 跨学科方法 人的需求 标准和治理 伦理 AI应用场景 有效开发实践 人类拥有最终决控权 。人类认知模型 有意义的人类控制 人机交互技术和技术 图1以人为中心AI(HCA)理念 Fig.1 Human-Centered AI(HCAI)design philosophy 1)“技术”方面：强调3类智能的有机结合。 系统工程，开发出可靠的、安全的、可信赖的 ①机器智能：利用算法、大数据、算力等技术来开 AI系统B9 发机器智能。②人类智能：利用智能增强技术， 2.2HAⅡ领域的工作框架 借助心理学、脑神经技术等方法推动人类智能的 针对HAⅡ这一新兴领域，我们作出以下初步 增强。③人机混合增强智能：AI界已经认识到单 的定义。图2示意了人-人工智能交互(HA川)的 独发展AI技术的路径遇到了瓶颈效应，在高级人 领域框架，其中，蓝色圆圈部份代表跨学科的主 类认知方面难以达到人类的智能水平山，3，。因 要合作学科，白色长形部份代表本文所讨论的 此，HCAI理念强调将人的作用融入人机系统，通 HAⅡ研究和应用的主要问题。 过人机智能的互补，开发人机混合增强智能、 HAⅡ领域理念：以人为中心AI(HCAI): AI与人类智能增强技术的整合。目的是开发出 HAⅡ领域目的：作为一个跨学科交叉领域， 可持续发展、强大、人类可控的AI;AI开发的目 HAI利用AI、计算机科学、人机交互、人因工程、 的是提升人的能力，而不是取代人类。 心理学等学科技术和方法，致力于合作研发AI系 2)“人”方面：强调在AI系统研发中从人的需 统，优化人与AI系统之间的交互，注重机器与人 求出发，落实有效的应用场景，开发人类认知模 类智能的优势互补，全方位考虑AI伦理道德，强 型，在AI研发中实施基于“以人为中心”的人机交 调人对AI系统的最终决控权，通过提供一个跨学 互设计和方法（建模、设计、测试等）。目的是开 科的合作平台，在AI系统开发中实现HCAI开发 发出有用的（满足人的需求、有使用价值）、可用 理念，为人类提供安全、可靠、可信赖的AI。 的（易用、易学）、人类拥有最终决控权的AI系统。 HAⅡ研究和应用范围：狭义地说，HAI涉及 3)“伦理”方面：结合跨学科方法、有效开发实 到人与AI系统交互的研究和应用；广义地说，任 践、标准和治理等工作，通过工程设计手段（如 何涉及到由人来使用、影响人的AI研究发都属 “有意义的人类控制”)，保证AI开发遵循公平、人 于HAI的范畴，包括与人产生交互的AI系统的 的隐私、伦理道德、人的决策权等方面的权益。 研究和应用领域，如智能手机应用APP、智能人 目的是开发出伦理化、负责任的AI。 机交互技术、智能决策系统、智能物联网等。如 HCAI理念强调在AI开发中保持人的中心地 图2所示，HAⅡ从人-机-环境系统的角度来考虑 位，贯彻技术、人、伦理三方面相互依承的系统化 各种因素对人与AI交互的影响，全面了解这些影 AI开发思维，主张AI开发是一个跨学科协作的 响有助于发挥AI技术的优势，避免负面影响。分的蓝色字体)，例如，人的需求、AI 应用场景； 图 1 也概括了这些工作要达到的 HCAI 设计目标 (见图 1 中围绕“以人为中心 AI”中心圆形部分的 黑色字体)，例如，可用的 AI、有用的 AI。 算力 算法和模型 AI 与智能增强技术整合 大数据 人机混合增强智能 高效强大的 AI 人类可控的 AI 可扩展的 AI 增强人类能力 有用的 AI 可用的 AI 技术 以人为中心 伦理化 AI AI 有责任 AI 人类拥有最终决控权 伦理 人 人的需求 AI 应用场景 人类认知模型 人机交互技术和技术 跨学科方法 有意义的人类控制 有效开发实践 标准和治理 图 1 以人为中心 AI(HCAI) 理念 Fig. 1 Human-Centered AI (HCAI) design philosophy 1)“技术”方面：强调 3 类智能的有机结合。 ①机器智能：利用算法、大数据、算力等技术来开 发机器智能。②人类智能：利用智能增强技术， 借助心理学、脑神经技术等方法推动人类智能的 增强。③人机混合增强智能：AI 界已经认识到单 独发展 AI 技术的路径遇到了瓶颈效应，在高级人 类认知方面难以达到人类的智能水平[1, 3， 20]。因 此，HCAI 理念强调将人的作用融入人机系统，通 过人机智能的互补，开发人机混合增强智能、 AI 与人类智能增强技术的整合。目的是开发出 可持续发展、强大、人类可控的 AI；AI 开发的目 的是提升人的能力，而不是取代人类。 2)“人”方面：强调在 AI 系统研发中从人的需 求出发，落实有效的应用场景，开发人类认知模 型，在 AI 研发中实施基于“以人为中心”的人机交 互设计和方法 (建模、设计、测试等)。目的是开 发出有用的 (满足人的需求、有使用价值)、可用 的 (易用、易学)、人类拥有最终决控权的 AI 系统。 3)“伦理”方面：结合跨学科方法、有效开发实 践、标准和治理等工作，通过工程设计手段 (如 “有意义的人类控制”)，保证 AI 开发遵循公平、人 的隐私、伦理道德、人的决策权等方面的权益。 目的是开发出伦理化、负责任的 AI。 HCAI 理念强调在 AI 开发中保持人的中心地 位，贯彻技术、人、伦理三方面相互依承的系统化 AI 开发思维，主张 AI 开发是一个跨学科协作的 系统工程，开发出可靠的、安全的、可信赖的 AI 系统[2, 19]。 2.2 HAII 领域的工作框架 针对 HAII 这一新兴领域，我们作出以下初步 的定义。图 2 示意了人−人工智能交互 (HAII) 的 领域框架，其中，蓝色圆圈部份代表跨学科的主 要合作学科，白色长形部份代表本文所讨论的 HAII 研究和应用的主要问题。 HAII 领域理念：以人为中心 AI(HCAI)。 HAII 领域目的：作为一个跨学科交叉领域， HAII 利用 AI、计算机科学、人机交互、人因工程、 心理学等学科技术和方法，致力于合作研发 AI 系 统，优化人与 AI 系统之间的交互，注重机器与人 类智能的优势互补，全方位考虑 AI 伦理道德，强 调人对 AI 系统的最终决控权，通过提供一个跨学 科的合作平台，在 AI 系统开发中实现 HCAI 开发 理念，为人类提供安全、可靠、可信赖的 AI。 HAII 研究和应用范围：狭义地说，HAII 涉及 到人与 AI 系统交互的研究和应用；广义地说，任 何涉及到由人来使用、影响人的 AI 研究发都属 于 HAII 的范畴，包括与人产生交互的 AI 系统的 研究和应用领域，如智能手机应用 APP、智能人 机交互技术、智能决策系统、智能物联网等。如 图 2 所示，HAII 从人−机−环境系统的角度来考虑 各种因素对人与 AI 交互的影响，全面了解这些影 响有助于发挥 AI 技术的优势，避免负面影响。 ·608· 智 能 系 统 学 报 第 16 卷