·192· 智能系统学报 第15卷 主要就在做System1的事情；System2(子系统 部分是比较难的。 2)是逻辑分析系统，是有意识的、带逻辑、规划、 笔者有幸在同一时期和Bengio课题组并行 推理以及可以语言表达的系统。人在通过Sys- 做了类似的认知工作，我们从2018年初开始研 tem2处理问题的时候，往往要收集相关数据、进 究认知计算，我们给他取了一个名字，叫做认知 行逻辑分析和推理，最终做出决策。目前的绝大 图谱(cognitive graph),下图展示了我们提出的基 多数人工智能系统都还没能实现System2,Ben- 于双通道处理理论的认知系统框架。System g0提出这正是未来深度学习需要着重考虑的。 1我们采用了BERT来实现，通过预训练可以得 当然Bengio也提到多智能体角度来实现AL、以 到每个实体的表示，在表示的基础上可以实现知 及从计算机角度需要考虑的问题，比如更好的模 识扩展；System2则采用图神经网络，这是因为 型和知识搜索。对于如何用深度学习来实现Sys System1扩展的信息都传递给System2,使得 tem2,Bengio提到对于计算机来说，最关键就是 System2可以基于多方面的信息做决策。这个 处理数据分布中的变化。对于System2来说，基 方法在推理方面还有所欠缺，但在多跳问题回答 本的要素包括：注意力和意识。注意力(atten- 任务上取得了不错的结果，后续在推理方面可能 tion)的实现在深度学习模型中已经有大量的研 还可以做很多有意思的扩展。相关论文发表在ACL 究和探讨，比如GAT(图注意力机制)等，意识这 2019上. System 2(GNN) Cognitive graph G Before visiting x x [Prevz] D D △x D Prev System 2: x [Previl explicit decision Pass clues Results of the W X to "Next"Ans'” A5 step of visitingx Hop span Ans span To Ti T Ti. Sem [x,Q,clues] System I(GNN) System 1: Ea可E EwE画Ei☐ E implicit knowledge aS】ok Toky [SEP]Tok; expansion Question+clues .G] Paragraph☒ 这是一个总体的思路，要真正实现知识和推 作者简介： 理，其实还需要万亿级的常识知识库支持，来支 唐杰.教授，担任IEEE T.on Big 撑深度学习的计算，这样才能真正实现未来的 Data、AI OPEN主编以及WWW'21、 人工智能。这一次人工智能浪潮也许到终点还 CIKM'I6、WSDM'1.5的PC Chair.主 是没有推理能力，没有可解释能力。而下一波 要研究方向为认知图谱、数据挖掘、社 交网络和机器学习。主持研发了研究 人工智能浪潮的兴起，就是实现具有推理、具有 者社会网络挖掘系统AMiner,杰出青 可解释性、具有认知的人工智能，这是人工智能 年基金获得者，获北京市科技进步一 下一个10年要发展、也一定会发展的一个重要 等奖、人工智能学会一等奖、KDD杰出贡献奖。发表学术论 方向。 文300余篇，引用15000余次。 中文引用格式：唐杰.浅谈人工智能的下一个十年J.智能系统学报，2020,15(1)：187-192 英文引用格式：TANG jie.On the next decade of artificial intelligence.CAAI transactions on intelligent systems,2020,l5(1): 187-192主要就在做 System 1 的事情；System 2(子系统 2) 是逻辑分析系统，是有意识的、带逻辑、规划、 推理以及可以语言表达的系统。人在通过 Sys￾tem 2 处理问题的时候，往往要收集相关数据、进 行逻辑分析和推理，最终做出决策。目前的绝大 多数人工智能系统都还没能实现 System 2，Ben￾gio 提出这正是未来深度学习需要着重考虑的。 当然 Bengio 也提到多智能体角度来实现 AI、以 及从计算机角度需要考虑的问题，比如更好的模 型和知识搜索。对于如何用深度学习来实现 Sys￾tem 2，Bengio 提到对于计算机来说，最关键就是 处理数据分布中的变化。对于 System 2 来说，基 本的要素包括：注意力和意识。注意力 (atten￾tion) 的实现在深度学习模型中已经有大量的研 究和探讨，比如 GAT(图注意力机制) 等，意识这 部分是比较难的。 笔者有幸在同一时期和 Bengio 课题组并行 做了类似的认知工作，我们从 2018 年初开始研 究认知计算，我们给他取了一个名字，叫做认知 图谱 (cognitive graph)，下图展示了我们提出的基 于双通道处理理论的认知系统框架。System 1 我们采用了 BERT 来实现，通过预训练可以得 到每个实体的表示，在表示的基础上可以实现知 识扩展；System 2 则采用图神经网络，这是因为 System 1 扩展的信息都传递给 System 2，使得 System 2 可以基于多方面的信息做决策。这个 方法在推理方面还有所欠缺，但在多跳问题回答 任务上取得了不错的结果，后续在推理方面可能 还可以做很多有意思的扩展。相关论文发表在 ACL 2019 上。 System 2 (GNN) System 1 (GNN) Δ [x] x [Prev2] X [x] x [Prev1] W1 W2 Ques Prev1 Next Ans Prev2 x y Cognitive graph G Before visiting x System 2: explicit decision System 1: implicit knowledge expansion Pass clues to “Next”“Ans” Results of the step of visiting x Hop span |Name of entity “Next”| |Possible answer “Ans”| Ans span T0 T1 T[SEP] T1 Sem [x, Q, clues] E[CLS] E1 Tok1 [CLS] [SEP] Question+clues [x, G] Paragraph [x] ′ E[SEP] E1 ′ Ti ′ Tk ′ TM ′ EM ′ TokM Tok ′ 1 ′ TokN TN Tj EN ′ 这是一个总体的思路，要真正实现知识和推 理，其实还需要万亿级的常识知识库支持，来支 撑深度学习的计算，这样才能真正实现未来的 人工智能。这一次人工智能浪潮也许到终点还 是没有推理能力，没有可解释能力。而下一波 人工智能浪潮的兴起，就是实现具有推理、具有 可解释性、具有认知的人工智能，这是人工智能 下一个 10 年要发展、也一定会发展的一个重要 方向。 作者简介： 唐杰，教授，担任 IEEE T. on Big Data、AI OPEN 主编以及 WWW’21、 CIKM’16、WSDM’15 的 PC Chair，主 要研究方向为认知图谱、数据挖掘、社 交网络和机器学习。主持研发了研究 者社会网络挖掘系统 AMiner，杰出青 年基金获得者，获北京市科技进步一 等奖、人工智能学会一等奖、KDD 杰出贡献奖。发表学术论 文 300 余篇，引用 15 000 余次。 中文引用格式：唐杰. 浅谈人工智能的下一个十年 [J]. 智能系统学报, 2020, 15(1): 187–192. 英文引用格式：TANG jie. On the next decade of artificial intelligence[J]. CAAI transactions on intelligent systems, 2020, 15(1): 187–192. ·192· 智 能 系 统 学 报 第 15 卷