·616- 智能系统学报 第16卷 1)操作员能够对所使用的自主化技术做出知情且 多AI人员在开发中基本按照“以技术为中心”的 有意识的决策；2)操作员有足够的信息来确保采 理念，一些人员认为人机交互无法解决的问题目 取合法的行动。另外，在系统设计、测试、专业人 前已被AI技术解决（如语音输入），人机界面不必 员培训等方面采取措施来确保人类对系统的有效 考虑用户体验；而人机交互等专业人员往往在 控制。“有意义的人类控制”与HCAI理念一致， AI项目产品需求定义后才参与项目，限制了他们 有利于在设计中实现伦理化AI的目标。 对AI系统设计的影响，并且导致一些AI项目的 最后，HAⅡ领域要优化AI的开发实践来支 失败79 持伦理化AI设计。研究表明，目前AI界缺乏有 第二，A系统研发中缺乏有效的跨学科合作。 效的伦理化AI设计方法论、指导设计选项的技 AI人员与非AI人员之间缺乏有效的沟通语言， 术细节或详细示例s。HAIⅡ领域可从“人在环 非AI人士缺乏必要的AI知识，而AI人士缺乏对 路”AI、人-AI合作等设计思路方面提供帮助。如 其他学科的了解。目前，已有研究提出了基于 何将伦理化AI原则嵌入到开发流程、如何提高 HCAI理念的AI与人机交互专业人员的“配对式 伦理化AI准则对AI工程师行为的影响、如何提 AI合作开发流程o以及提升的人机交互方法四。 升AI工程师的伦理化设计技能等方面的问题都 第三，跨学科合作缺乏有效的方法。一些人 需要HAⅡ的多学科方案。 机交互人员在AI系统开发中仍然采用传统针对 4HAⅡ研究和应用的挑战及对策 非AI系统的方法；许多AI人员不易接受其他学 科的方法。目前，人们已经提出了一些方法，例 作为一个新兴领域，在实现HCAI理念的实 如，“AI优先”方法、“AI作为设计材料B,现。 践中，HAⅡ研究和应用必定面对挑战。 为有效实现HCAI理念和开展HAII工作，从 第一，AI人员缺乏对HCAI理念的理解。许 以下3个层面提出建议，如图3所示。 安全、可靠、可信赖的A1 AI研发组织层面 人-人工智能交互(HAD研究和应用 吃 A1研发团队层面 HCAI设计 HCAI 标准指南 多学科团队 优化的AI研发流程 跨学科方法 研发资源 基于以人为中心AI(HCAI)理念的组织文化 字 7 !研发社会层面 跨学科复合型A!人才政府AI发展策略、政策、标准等跨行业、跨学科基金项目 关键领域攻关项目 图3有效实现HCAI理念以及开展HAⅡ研究和应用的“三层面”策略 Fig.3 "3-layer"strategy for effectively implementing HCAI and carrying out HAII research and application 首先，在AI研发团队层面，建立多学科团队 AI研发团队。 和采用跨学科方法。AI带来的新问题只有采用 最后，在AI研发社会层面，培养具备HCAI 多学科合作才能找到有效方案。基于HCAI理念 理念的跨学科复合型人才。例如，在高校开设 来优化现有的AI研发流程，例如，在开发初期制 “AI主修+辅修”、“主修+AI辅修”本科专业，培养 定HCAI设计目标，优化在各个开发流程节点上 针对HAⅡ关键问题的硕博研究生：制定AI发展 协同合作。 策略、法规等；开展跨行业、跨学科攻关项目，提 其次，在AI研发企业组织层面，培育基于 倡学术界和工业界之间的协作；设立政府专项基 HCAI理念的组织文化，制定基于HCAI的开发标 金来支持HAIⅡ项目；建立完善的产学研相结合 准指南，提供HCAI研发资源（跨学科人力资源、 的科研体系，在一些关键行业开展HAⅡ研究和 HAIⅡ项目、跨学科研究设备等)，建立高效的 应用。1) 操作员能够对所使用的自主化技术做出知情且 有意识的决策；2) 操作员有足够的信息来确保采 取合法的行动。另外，在系统设计、测试、专业人 员培训等方面采取措施来确保人类对系统的有效 控制。“有意义的人类控制”与 HCAI 理念一致， 有利于在设计中实现伦理化 AI 的目标。 最后，HAII 领域要优化 AI 的开发实践来支 持伦理化 AI 设计。研究表明，目前 AI 界缺乏有 效的伦理化 AI 设计方法论、指导设计选项的技 术细节或详细示例[85]。HAII 领域可从“人在环 路”AI、人-AI 合作等设计思路方面提供帮助。如 何将伦理化 AI 原则嵌入到开发流程、如何提高 伦理化 AI 准则对 AI 工程师行为的影响、如何提 升 AI 工程师的伦理化设计技能等方面的问题都 需要 HAII 的多学科方案。 4 HAII 研究和应用的挑战及对策 作为一个新兴领域，在实现 HCAI 理念的实 践中，HAII 研究和应用必定面对挑战。 第一，AI 人员缺乏对 HCAI 理念的理解。许 多 AI 人员在开发中基本按照“以技术为中心”的 理念，一些人员认为人机交互无法解决的问题目 前已被 AI 技术解决 (如语音输入)，人机界面不必 考虑用户体验；而人机交互等专业人员往往在 AI 项目产品需求定义后才参与项目，限制了他们 对 AI 系统设计的影响，并且导致一些 AI 项目的 失败[87-89]。 第二，AI 系统研发中缺乏有效的跨学科合作。 AI 人员与非 AI 人员之间缺乏有效的沟通语言， 非 AI 人士缺乏必要的 AI 知识，而 AI 人士缺乏对 其他学科的了解[90]。目前，已有研究提出了基于 HCAI 理念的 AI 与人机交互专业人员的“配对式 AI 合作开发流程” [40] 以及提升的人机交互方法[91]。 第三，跨学科合作缺乏有效的方法。一些人 机交互人员在 AI 系统开发中仍然采用传统针对 非 AI 系统的方法；许多 AI 人员不易接受其他学 科的方法。目前，人们已经提出了一些方法，例 如，“AI 优先”方法、“AI 作为设计材料” [37, 39]。 为有效实现 HCAI 理念和开展 HAII 工作，从 以下 3 个层面提出建议，如图 3 所示。 安全、可靠、可信赖的 AI AI 研发组织层面 AI 研发团队层面 多学科团队 优化的 AI 研发流程 跨学科方法 AI 研发社会层面 跨学科复合型 AI 人才 政府 AI 发展策略、政策、标准等 跨行业、跨学科基金项目 关键领域攻关项目 HCAI 设计 标准指南 HCAI 研发资源 人−人工智能交互 (HAII) 研究和应用 基于以人为中心 AI (HCAI) 理念的组织文化 图 3 有效实现 HCAI 理念以及开展 HAII 研究和应用的“三层面”策略 Fig. 3 “3-layer” strategy for effectively implementing HCAI and carrying out HAII research and application 首先，在 AI 研发团队层面，建立多学科团队 和采用跨学科方法。AI 带来的新问题只有采用 多学科合作才能找到有效方案。基于 HCAI 理念 来优化现有的 AI 研发流程，例如，在开发初期制 定 HCAI 设计目标，优化在各个开发流程节点上 协同合作。 其次，在 AI 研发企业组织层面，培育基于 HCAI 理念的组织文化，制定基于 HCAI 的开发标 准指南，提供 HCAI 研发资源 (跨学科人力资源、 HAII 项目、跨学科研究设备等)，建立高效的 AI 研发团队。 最后，在 AI 研发社会层面，培养具备 HCAI 理念的跨学科复合型人才。例如，在高校开设 “AI 主修+辅修”、“主修+AI 辅修”本科专业，培养 针对 HAII 关键问题的硕博研究生；制定 AI 发展 策略、法规等；开展跨行业、跨学科攻关项目，提 倡学术界和工业界之间的协作；设立政府专项基 金来支持 HAII 项目；建立完善的产学研相结合 的科研体系，在一些关键行业开展 HAII 研究和 应用。 ·616· 智 能 系 统 学 报 第 16 卷