第4期 陈小平：人工智能伦理体系：基础架构与关键问题 ·609· 加以改变。因此，开发相应的人工智能和大数据 人工智能伦理体系的运行机制由它的基础架 等技术，及时充分地收集反映这些变化的指标数 构决定，该架构规定了伦理体系的主要部门以及 据，并与传统的产业和社会统计数据相结合，通 它们之间的相互关系，其中包括场景落地的机 过系统性分析得出社会状况的科学判断，对于维 制。本文建议，在人工智能创新生态中增设一个 持社会平稳运行，更加合理地进行政策决策和规 新型研究部门一伦理性研究，它有两项基本职能： 划制定，具有极其重大的现实意义，同时也为更 人工智能风险预测判别和应对重大社会问题的伦 好地应对重大社会问题奠定了必要基础。 理性创新。根据这些分析和建议，在未来人工智 第二，社会发展可能态势的分析预测。在未 能时代，社会进步和经济发展将进入“双轮驱动” 来某个时段，完全可能出现大量工作被机器取 模式，以传统的商业化创新和新设立的伦理性创 代、大批工作年龄人口无工可做的情况。这种情 新作为两个不同而相互关联的动力机制。 况下的社会结构、经济运行机理和社会发展动 总之，人工智能伦理建设面临一系列挑战，不 力，与当下社会是根本不同的。因此，在应对某 是将一般伦理学原则、方法和规则具体化到人工 些重大社会问题的过程中，未来人类很可能进入 智能就可以奏效的。如何建立这样的人工智能伦 一个全新的社会文明阶段。为了保证这种社会演 理体系，仍需要相关各方紧密合作，进行长期、艰 化符合人类的根本利益，保证宇宙万物的和谐共 苦的探索。 存，人类完全有必要未雨绸缪，而不应被动地随 致谢笔者在与下列学者和专业人士的相关 波逐流。对未来社会发展可能态势进行分析预 交流中受益良多：李德毅院士、赵汀阳、陈嘉映、 测，是社会长期发展规划的必要基础。这种分析 王蓉蓉、宋晓刚、郝玉成、于剑、王卫宁、潘天佑 预测是非常困难的，需要多学科合作，而人工智 秦字、Jeroen van den Hoven、Wendell Wallach、刘 能技术可以在其中发挥重要作用。 晓力、苏彦捷、孙周兴、王国豫、宋冰、刘哲、梁 第三，重大社会问题解决方案的创新设计。 正、Steve Angle 人类面临的重大社会问题，往往难以就事论事地 参考文献： 得到解决，需要通过综合性创新找出化解之道。 然而面对如此高维复杂的问题，单纯依靠人工智 [1]The High-Level Expert Group on AI.Ethics guidelines for 能技术和其他相关技术手段，是不可能自动求解 trustworthy Al[EB/OL].(2019-04-08).https://ec.europa. 的。因此，有必要探索人机合作的求解模式，而 eu/digital-single-market/en/news/ethics-guidelines-trust- 人工智能技术可以显著提升人机合作问题求解的 worthy-ai. 水平和性能。例如，利用人工智能“暴力法2)中 [2]傅莹.人工智能对国际关系的影响初析[EB/OL].(2019- 的“假设推理”方法，可以进行人机合作式问题求 04-10).https://pit.ifeng.com/c/7lkmTsTwMD2 解，而且在高维复杂应用场景中已有成功案例， [3]裴钢.科技伦理建设应由全人类共同参与[EB/OL] 假设推理发现了单纯依靠人或机器都无法发现的 http://st.zjol.com.cn/kjjsb/201905/t20190508 10075117.sh tml. 有效的解决方案。因此，针对重大社会问题，借 助人工智能技术，通过人机合作方式，完全可能 [4]LEI Ruipeng,ZHAI Xiaomei,ZHU Wei,et al.Reboot eth- ics governance in China[J].Nature,2019,569:184-186. 发现以往无法发现的综合创新方案。在未来科技 [5]陈磊.人工智能让人类尴尬：伦理道德法律框架设计滞 和产业革命时代，这将是人工智能伦理体系为人 后N.科技日报，2017-11-21 类做出的巨大贡献。 [6]蓝江.人工智能的伦理挑战N].光明日报，2019-04 5结束语 01(15) [7]李艳.人工智能该怎么管？八项原则来了！一文读描 在人工智能伦理准则达成的基本共识的基础 [N.科技日报，2019-06-18. 上，本文提出人工智能伦理体系规划问题，重点 [8]熊争艳，董瑞丰.加快推动人工智能伦理研究N].新华 讨论解决伦理准则无法解答而伦理体系必须解决 每日电讯，2019-03-11(06). 的4个关键问题一运行机制问题、场景落地问题、 [9]杨骏.超越“机器人三定律”人工智能期待新伦理 风险预测判别问题和发展动力问题，并对这些问 [EB/OL].(2019-03-18).http://www.xinhuanet.com/tech/ 题提出了初步解决方案。 2019-03/18/c1124249611.htm.加以改变。因此，开发相应的人工智能和大数据 等技术，及时充分地收集反映这些变化的指标数 据，并与传统的产业和社会统计数据相结合，通 过系统性分析得出社会状况的科学判断，对于维 持社会平稳运行，更加合理地进行政策决策和规 划制定，具有极其重大的现实意义，同时也为更 好地应对重大社会问题奠定了必要基础。 第二，社会发展可能态势的分析预测。在未 来某个时段，完全可能出现大量工作被机器取 代、大批工作年龄人口无工可做的情况。这种情 况下的社会结构、经济运行机理和社会发展动 力，与当下社会是根本不同的。因此，在应对某 些重大社会问题的过程中，未来人类很可能进入 一个全新的社会文明阶段。为了保证这种社会演 化符合人类的根本利益，保证宇宙万物的和谐共 存，人类完全有必要未雨绸缪，而不应被动地随 波逐流。对未来社会发展可能态势进行分析预 测，是社会长期发展规划的必要基础。这种分析 预测是非常困难的，需要多学科合作，而人工智 能技术可以在其中发挥重要作用。 第三，重大社会问题解决方案的创新设计。 人类面临的重大社会问题，往往难以就事论事地 得到解决，需要通过综合性创新找出化解之道[20]。 然而面对如此高维复杂的问题，单纯依靠人工智 能技术和其他相关技术手段，是不可能自动求解 的。因此，有必要探索人机合作的求解模式，而 人工智能技术可以显著提升人机合作问题求解的 水平和性能。例如，利用人工智能“暴力法” [21] 中 的“假设推理”方法，可以进行人机合作式问题求 解，而且在高维复杂应用场景中已有成功案例， 假设推理发现了单纯依靠人或机器都无法发现的 有效的解决方案。因此，针对重大社会问题，借 助人工智能技术，通过人机合作方式，完全可能 发现以往无法发现的综合创新方案。在未来科技 和产业革命时代，这将是人工智能伦理体系为人 类做出的巨大贡献。 5 结束语 在人工智能伦理准则达成的基本共识的基础 上，本文提出人工智能伦理体系规划问题，重点 讨论解决伦理准则无法解答而伦理体系必须解决 的 4 个关键问题——运行机制问题、场景落地问题、 风险预测判别问题和发展动力问题，并对这些问 题提出了初步解决方案。 人工智能伦理体系的运行机制由它的基础架 构决定，该架构规定了伦理体系的主要部门以及 它们之间的相互关系，其中包括场景落地的机 制。本文建议，在人工智能创新生态中增设一个 新型研究部门——伦理性研究，它有两项基本职能： 人工智能风险预测判别和应对重大社会问题的伦 理性创新。根据这些分析和建议，在未来人工智 能时代，社会进步和经济发展将进入“双轮驱动” 模式，以传统的商业化创新和新设立的伦理性创 新作为两个不同而相互关联的动力机制。 总之，人工智能伦理建设面临一系列挑战，不 是将一般伦理学原则、方法和规则具体化到人工 智能就可以奏效的。如何建立这样的人工智能伦 理体系，仍需要相关各方紧密合作，进行长期、艰 苦的探索。 致谢 笔者在与下列学者和专业人士的相关 交流中受益良多：李德毅院士、赵汀阳、陈嘉映、 王蓉蓉、宋晓刚、郝玉成、于剑、王卫宁、潘天佑、 秦宇、Jeroen van den Hoven、Wendell Wallach、刘 晓力、苏彦捷、孙周兴、王国豫、宋冰、刘哲、梁 正、Steve Angle。 参考文献： The High-Level Expert Group on AI. Ethics guidelines for trustworthy AI[EB/OL]. (2019-04-08). https://ec.europa. eu/digital-single-market/en/news/ethics-guidelines-trust￾worthy-ai. [1] 傅莹. 人工智能对国际关系的影响初析 [EB/OL]. (2019- 04-10). https://pit.ifeng.com/c/7lkmTsTwMD2. [2] 裴钢. 科技伦理建设应由全人类共同参与 [EB/OL]. http://st.zjol.com.cn/kjjsb/201905/t20190508_10075117.sh tml. [3] LEI Ruipeng, ZHAI Xiaomei, ZHU Wei, et al. Reboot eth￾ics governance in China[J]. Nature, 2019, 569: 184–186. [4] 陈磊. 人工智能让人类尴尬: 伦理道德法律框架设计滞 后 [N]. 科技日报, 2017-11-21. [5] 蓝江. 人工智能的伦理挑战 [N]. 光明日报, 2019-04- 01(15). [6] 李艳. 人工智能该怎么管？八项原则来了！一文读懂 [N]. 科技日报, 2019-06-18. [7] 熊争艳, 董瑞丰. 加快推动人工智能伦理研究 [N]. 新华 每日电讯, 2019-03-11(06). [8] 杨骏. 超越“机器人三定律” 人工智能期待新伦理 [EB/OL]. (2019-03-18). http://www.xinhuanet.com/tech/ 2019-03/18/c_1124249611.htm. [9] 第 4 期 陈小平：人工智能伦理体系：基础架构与关键问题 ·609·