第14卷第4期 智能系统学报 Vol.14 No.4 2019年7月 CAAI Transactions on Intelligent Systems Jul.2019 D0:10.11992/tis.201906037 网络出版地址：http:/kns.cnki.net/kcms/detail/23.1538.TP.20190621.1449.002.html 人工智能伦理体系：基础架构与关键问题 陈小平 (中国科学技术大学计算机学院，安徽合肥230026) 摘要：全球范围内针对人工智能伦理准则的讨论已达成基本共识。在此基础上，本文进一步研究4个关键问 题：人工智能伦理体系的运行机制问题、人工智能伦理准则的场景落地问题、人工智能伦理风险的预测判别问 题，以及人工智能伦理对重大社会问题综合创新的支撑机制问题。这些问题超越了人工智能伦理准则的范围。 却是一种完整、有效的人工智能伦理体系所必须解答的。本文的主要贡献是对这4个问题提出一套建议 方案。 关键词：人工智能：伦理体系：伦理准则：风险预测：伦理性创新 中图分类号：N01:TP18文献标志码：A文章编号：1673-4785(2019)04-0605-06 中文引用格式：陈小平.人工智能伦理体系：基础架构与关键问题智能系统学报，2019,14(4)：605-610. 英文引用格式：CHEN Xiaoping..Ethical system of artificial intelligence:infrastructure and key issues.CAAI transactions on in- telligent systems,2019,14(4):605-610. Ethical system of artificial intelligence:infrastructure and key issues CHEN Xiaoping (University of Science and Technology of China,Computer School,Hefei 230026,China) Abstract:On the basis of consensus on ethical guidelines or principles so far reached in the world,four key issues on ethical system of AI will be studied further in this paper:operating mechanisms of AI ethics system,the grounding of AI ethical guidelines in real-world scenarios,prediction and identification of ethical risks of AI technology,and compre- hensive innovation mechanisms of handling major social problems supported by the AI ethics system.These issues go beyond the realm of AI ethical guidelines,while they must be solved in order to develop a complete and effective oper- ating system of AI ethics.A preliminary plan for solving these issues is proposed as the main contribution of this paper. Keywords:artificial intelligence;ethical system;ethical guidelines,risk prediction;ethical innovation 随着人工智能第三次浪潮带来的重要进展， 如中国人工智能学会理事长李德毅院士在论坛致 人工智能伦理挑战已成为当前国内外普遍关注的 辞中指出的那样，本次论坛具有里程碑意义。 一个焦点，一些组织和机构开展了相关议题的研 讨，发布了一批人工智能伦理准则的建议。中国 1人工智能伦理建设：从伦理准则 人工智能学会对人工智能伦理问题高度重视，于 到伦理体系 2018年年中开始组建人工智能伦理专委会。在 人工智能伦理建设已经历了两个阶段。第一 2019全球人工智能技术大会上，5月26日举行了 “全球视野下的人工智能伦理”论坛，在国际上首 阶段是人工智能伦理必要性的讨论，从专业角度 次提出了人工智能伦理体系规划问题，这意味着 说，耶鲁大学Wendell Wallach等美国学者起了带 人工智能伦理建设开始进入第三阶段，而人工智 头作用，在国际上引起了普遍重视；从更广泛的 能伦理体系的关键问题研究提上了议事日程。正 背景看，尤瓦尔赫拉利的《人类简史》发挥了重 收稿日期：2019-06-20.网络出版日期：2019-06-24 要的推动作用。第二阶段是人工智能伦理准则的 通信作者：陈小平.E-mail:xpchen@ustc.edu.cn. 讨论，欧盟走在前面，中国和其他一些国家也积DOI: 10.11992/tis.201906037 网络出版地址: http://kns.cnki.net/kcms/detail/23.1538.TP.20190621.1449.002.html 人工智能伦理体系：基础架构与关键问题 陈小平 （中国科学技术大学 计算机学院，安徽 合肥 230026） 摘 要：全球范围内针对人工智能伦理准则的讨论已达成基本共识。在此基础上，本文进一步研究 4 个关键问 题：人工智能伦理体系的运行机制问题、人工智能伦理准则的场景落地问题、人工智能伦理风险的预测判别问 题，以及人工智能伦理对重大社会问题综合创新的支撑机制问题。这些问题超越了人工智能伦理准则的范围， 却是一种完整、有效的人工智能伦理体系所必须解答的。本文的主要贡献是对这 4 个问题提出一套建议 方案。 关键词：人工智能；伦理体系；伦理准则；风险预测；伦理性创新 中图分类号：N01; TP18 文献标志码：A 文章编号：1673−4785(2019)04−0605−06 中文引用格式：陈小平. 人工智能伦理体系：基础架构与关键问题 [J]. 智能系统学报, 2019, 14(4): 605–610. 英文引用格式：CHEN Xiaoping. Ethical system of artificial intelligence: infrastructure and key issues[J]. CAAI transactions on in￾telligent systems, 2019, 14(4): 605–610. Ethical system of artificial intelligence: infrastructure and key issues CHEN Xiaoping (University of Science and Technology of China, Computer School, Hefei 230026, China) Abstract: On the basis of consensus on ethical guidelines or principles so far reached in the world, four key issues on ethical system of AI will be studied further in this paper: operating mechanisms of AI ethics system, the grounding of AI ethical guidelines in real-world scenarios, prediction and identification of ethical risks of AI technology, and compre￾hensive innovation mechanisms of handling major social problems supported by the AI ethics system. These issues go beyond the realm of AI ethical guidelines, while they must be solved in order to develop a complete and effective oper￾ating system of AI ethics. A preliminary plan for solving these issues is proposed as the main contribution of this paper. Keywords: artificial intelligence; ethical system; ethical guidelines; risk prediction; ethical innovation 随着人工智能第三次浪潮带来的重要进展， 人工智能伦理挑战已成为当前国内外普遍关注的 一个焦点，一些组织和机构开展了相关议题的研 讨，发布了一批人工智能伦理准则的建议。中国 人工智能学会对人工智能伦理问题高度重视，于 2018 年年中开始组建人工智能伦理专委会。在 2019 全球人工智能技术大会上，5 月 26 日举行了 “全球视野下的人工智能伦理”论坛，在国际上首 次提出了人工智能伦理体系规划问题，这意味着 人工智能伦理建设开始进入第三阶段，而人工智 能伦理体系的关键问题研究提上了议事日程。正 如中国人工智能学会理事长李德毅院士在论坛致 辞中指出的那样，本次论坛具有里程碑意义。 1 人工智能伦理建设：从伦理准则 到伦理体系 人工智能伦理建设已经历了两个阶段。第一 阶段是人工智能伦理必要性的讨论，从专业角度 说，耶鲁大学 Wendell Wallach 等美国学者起了带 头作用，在国际上引起了普遍重视；从更广泛的 背景看，尤瓦尔·赫拉利的《人类简史》发挥了重 要的推动作用。第二阶段是人工智能伦理准则的 讨论，欧盟走在前面，中国和其他一些国家也积 收稿日期：2019−06−20. 网络出版日期：2019−06−24. 通信作者：陈小平. E-mail：xpchen@ustc.edu.cn. 第 14 卷第 4 期 智 能 系 统 学 报 Vol.14 No.4 2019 年 7 月 CAAI Transactions on Intelligent Systems Jul. 2019