第14卷第3期 智能系统学报 Vol.14 No.3 2019年5月 CAAI Transactions on Intelligent Systems May 2019 D0:10.11992/tis.201810020 网络出版地址：http:/kns.cnki.net/kcms/detail/23.1538.TP.20190425.1003.002.html 重新找回人工智能的可解释性 何华灿 (西北工业大学计算机学院，陕西西安710072) 摘要：针对深度神经网络AI研究的可解释性瓶颈，指出刚性逻辑（数理形式逻辑）和二值神经元等价，二值神 经网络可转换成逻辑表达式，有强可解释性。深度神经网络一味增加中间层数来拟合大数据，没有适时通过抽 象把最小粒度的数据（原子）变成粒度较大的知识（分子），再把较小粒度的知识变成较大粒度的知识，把原有的 强可解释性淹没在中间层次的汪洋大海中。要支持多粒度的知识处理，需把刚性逻辑扩张为柔性命题逻辑（命 题级数理辩证逻辑)，把二值神经元扩张为柔性神经元，才能保持强可解释性。本文详细介绍了从刚性逻辑到 柔性逻辑的扩张过程和成果，最后介绍了它们在AI研究中的应用，这是重新找回AI研究强可解释性的最佳途径。 关键词：人工智能；可解释性；演化；不确定性；泛逻辑学；柔性命题逻辑；柔性神经元；数理辩证逻辑 中图分类号：TP18文献标志码：A 文章编号：1673-4785(2019)03-0393-20 中文引用格式：何华灿.重新找回人工智能的可解释性.智能系统学报，2019,14(3)：393-412 英文引用格式：HE Huacan.Refining the interpretability of artificial intelligenceJ.CAAI transactions on intelligent systems,,20l9, 143:393-412. Refining the interpretability of artificial intelligence HE Huacan (School of Computer Science,Northwestern Polytechnical University,Xi'an 710072,China) Abstract:In view of the restrictions on the interpretability of artificial intelligence(AI)research on deep neural net- works,it is indicated that rigid logic (mathematical formal logic)and binary neurons are equivalent.Moreover,a binary neural network can be converted into a logical expression,which is highly interpretable.The deep neural network blindly increases the number of intermediate layers to fit big data without the timely abstraction of data with the smal- lest granularity(atom)into knowledge with larger granularity(molecule),changes knowledge with smaller granularity into knowledge with larger granularity,and submerges the original strong explanatory power in the ocean of intermedi- ate layers.To support knowledge processing of multiple granularities,rigid logic should be expanded into flexible pro- positional logic(proposition-level mathematical dialectic logic)and binary neurons should be expanded into flexible neurons to maintain the strong explanatory power.This paper introduces in detail the achievement of the expansion pro- cess from rigid logic to flexible logic and its application in Al research,which is the best method to recover the inter- pretability of Al. Keywords:artificial intelligence;interpretability;evolution;uncertainty;universal logic;flexible propositional logic; flexible neurons:mathematical dialectic logic 近十年来在大数据处理、云计算和深度神经 许多惊世骇俗的奇迹！不同于以往的两次高潮， 网络的推动下，人工智能从低谷走向了第三次发 这次世界各主要大国都纷纷制定国家战略，把 展高潮期，以AlphaGo为代表的研究成果创造了 AI列为未来争霸世界的国之重器：2017年7月 收稿日期：2018-10-17.网络出版日期：2019-04-25 20日国务院发布了《新一代人工智能发展规 基金项目：国家自然科学基金面上项目(60273087)：西北工业 “大学基础研究基金重点项目(W18101). 划》，计划到2030年我国AI理论、技术和应用要 通信作者：何华灿.E-mail:hehuac@nwpu.edu.cn. 处于国际领先地位；紧接着2017年9月1日俄罗DOI: 10.11992/tis.201810020 网络出版地址: http://kns.cnki.net/kcms/detail/23.1538.TP.20190425.1003.002.html 重新找回人工智能的可解释性 何华灿 （西北工业大学 计算机学院，陕西 西安 710072） 摘 要：针对深度神经网络 AI 研究的可解释性瓶颈，指出刚性逻辑 (数理形式逻辑) 和二值神经元等价，二值神 经网络可转换成逻辑表达式，有强可解释性。深度神经网络一味增加中间层数来拟合大数据，没有适时通过抽 象把最小粒度的数据 (原子) 变成粒度较大的知识 (分子)，再把较小粒度的知识变成较大粒度的知识，把原有的 强可解释性淹没在中间层次的汪洋大海中。要支持多粒度的知识处理，需把刚性逻辑扩张为柔性命题逻辑 (命 题级数理辩证逻辑)，把二值神经元扩张为柔性神经元，才能保持强可解释性。本文详细介绍了从刚性逻辑到 柔性逻辑的扩张过程和成果，最后介绍了它们在 AI 研究中的应用，这是重新找回 AI 研究强可解释性的最佳途径。 关键词：人工智能；可解释性；演化；不确定性；泛逻辑学；柔性命题逻辑；柔性神经元；数理辩证逻辑 中图分类号：TP18 文献标志码：A 文章编号：1673−4785(2019)03−0393−20 中文引用格式：何华灿. 重新找回人工智能的可解释性[J]. 智能系统学报, 2019, 14(3): 393–412. 英文引用格式：HE Huacan. Refining the interpretability of artificial intelligence[J]. CAAI transactions on intelligent systems, 2019, 14(3): 393–412. Refining the interpretability of artificial intelligence HE Huacan (School of Computer Science, Northwestern Polytechnical University, Xi’an 710072, China) Abstract: In view of the restrictions on the interpretability of artificial intelligence (AI) research on deep neural net￾works, it is indicated that rigid logic (mathematical formal logic) and binary neurons are equivalent. Moreover, a binary neural network can be converted into a logical expression, which is highly interpretable. The deep neural network blindly increases the number of intermediate layers to fit big data without the timely abstraction of data with the smal￾lest granularity (atom) into knowledge with larger granularity (molecule), changes knowledge with smaller granularity into knowledge with larger granularity, and submerges the original strong explanatory power in the ocean of intermedi￾ate layers. To support knowledge processing of multiple granularities, rigid logic should be expanded into flexible pro￾positional logic (proposition-level mathematical dialectic logic) and binary neurons should be expanded into flexible neurons to maintain the strong explanatory power. This paper introduces in detail the achievement of the expansion pro￾cess from rigid logic to flexible logic and its application in AI research, which is the best method to recover the inter￾pretability of AI. Keywords: artificial intelligence; interpretability; evolution; uncertainty; universal logic; flexible propositional logic; flexible neurons; mathematical dialectic logic 近十年来在大数据处理、云计算和深度神经 网络的推动下，人工智能从低谷走向了第三次发 展高潮期，以 AlphaGo 为代表的研究成果创造了 许多惊世骇俗的奇迹！不同于以往的两次高潮， 这次世界各主要大国都纷纷制定国家战略，把 AI 列为未来争霸世界的国之重器：2017 年 7 月 20 日国务院发布了《新一代人工智能发展规 划》，计划到 2030 年我国 AI 理论、技术和应用要 处于国际领先地位；紧接着 2017 年 9 月 1 日俄罗 收稿日期：2018−10−17. 网络出版日期：2019−04−25. 基金项目：国家自然科学基金面上项目 (60273087)；西北工业 大学基础研究基金重点项目 (W18101). 通信作者：何华灿. E-mail：hehuac@nwpu.edu.cn. 第 14 卷第 3 期 智 能 系 统 学 报 Vol.14 No.3 2019 年 5 月 CAAI Transactions on Intelligent Systems May 2019