第17卷第3期 智能系统学报 Vol.17 No.3 2022年5月 CAAI Transactions on Intelligent Systems May 2022 浅评《新一代人工智能十问十答》 Brief review on ten questions and answers for the new generation of artificial intelligences 李向阳，吴锋 (中国科学技术大学计算机科学与技术学院，安徽合肥230026) 新一代人工智能是我国近期的一项重大发展 的时代，人们就认为意识是感官在大脑中的投 战略，影响深远。2021年李德毅院士山，围绕新一 射，是思维的一个重要组成部分（如图1所示）。 代人工智能的技术内核，做出了富有理论深度和 时至今日，虽然我们可以用精密仪器监测大脑的 实践指导意义的论断。本着“真理越辩越明”的原 活动，但依然没有弄清楚大脑是如何综合各种感 则，笔者根据个人对这一问题的理解和思考，围 官信息形成完整的意识。 绕李院士的“十问十答”的某些论点做一个简单的 评述。 一问：意识、智慧和智能是什么关系？新一 代人工智能触不触及意识？ 李院士认为：意识是一种感觉，是对自身存在 的感知。而要想感知到“我”这个本体的存在，首 先需要具备知觉意识，要能够从边界上区分出“我” 和“非我”。对于生物来说，这一边界就是皮肤，制 造真正意义的皮肤还有很长的路要走。 意识确实需要一个边界，而作为这个边界的 “皮肤”则可以是一种抽象的存在。例如，一个房 间内装备了能感知温度、湿度、含氧量、粉尘密度 等信息的传感器。如果只能单纯地获取这些信 息，那当然谈不上有意识。但如果能够综合这些 信息，获得对生活在房间内人的舒适度的评估， 那这是不是在某种意义上可以称为一种意识呢？ 图1笛卡尔的思维二元论 Fig.1 Descartes'dualism of thought 如果这个房间还能够根据这个信息，自动开启空 调、加湿器、制氧机、空气净化器等，让房间一直 因此，虽然如李院士所说意识和智能是可以 保持对人的最佳舒适度，这可不可以称为有智能 分离的，但意识是思维的一个重要过程，是智能 呢？在这里，这些传感器能感知的范围就是它的 的一项前提。计算机虽然有计算智能但没有意 边界。 识，是因为使用计算机的人补上了意识的空缺， 意识(consciousness)不仅要有“感”，更重要的 二者构成了一个智慧的整体。新一代人工智能如 是能“觉”，也就是要能根据感知到的信息，提取 果需要更多的自动化，就必然会触及意识，至少 出与自身相关的隐含信息。意识通常包括环境意 是狭义的意识。 识，例如安全意识、危机意识，可以看作是对个体 高等生物的生理本能是自然选择的结果，确 生存环境的评估；如果个体是群体的一部分，那 实不在当前人工智能的研究范畴。因为人工智能 还包括群体意识，例如团队意识，可以看作是个 的对象面临的是人类的选择，而不是自然的选 体对其他个体影响的评估。事实上，早在笛卡尔 择。例如，金鱼的体态对游泳、觅食不利，但得到 收稿日期：2022-05-16. 了人们的喜爱，一样能够生存和繁衍。 通信作者：李向阳.E-mail:xiangyangli@ustc.edu.cn 生物的情感基础是体内激素大幅度波动的结
浅评《新一代人工智能十问十答》 Brief review on ten questions and answers for the new generation of artificial intelligences 李向阳，吴锋 （中国科学技术大学 计算机科学与技术学院, 安徽 合肥 230026） 新一代人工智能是我国近期的一项重大发展 战略，影响深远。2021 年李德毅院士[1] ，围绕新一 代人工智能的技术内核，做出了富有理论深度和 实践指导意义的论断。本着“真理越辩越明”的原 则，笔者根据个人对这一问题的理解和思考，围 绕李院士的“十问十答”的某些论点做一个简单的 评述。 一问：意识、智慧和智能是什么关系？新一 代人工智能触不触及意识？ 李院士认为：意识是一种感觉，是对自身存在 的感知。而要想感知到“我”这个本体的存在，首 先需要具备知觉意识，要能够从边界上区分出“我” 和“非我”。对于生物来说，这一边界就是皮肤，制 造真正意义的皮肤还有很长的路要走。 意识确实需要一个边界，而作为这个边界的 “皮肤”则可以是一种抽象的存在。例如，一个房 间内装备了能感知温度、湿度、含氧量、粉尘密度 等信息的传感器。如果只能单纯地获取这些信 息，那当然谈不上有意识。但如果能够综合这些 信息，获得对生活在房间内人的舒适度的评估， 那这是不是在某种意义上可以称为一种意识呢？ 如果这个房间还能够根据这个信息，自动开启空 调、加湿器、制氧机、空气净化器等，让房间一直 保持对人的最佳舒适度，这可不可以称为有智能 呢？在这里，这些传感器能感知的范围就是它的 边界。 意识（consciousness）不仅要有“感”，更重要的 是能“觉”，也就是要能根据感知到的信息，提取 出与自身相关的隐含信息。意识通常包括环境意 识，例如安全意识、危机意识，可以看作是对个体 生存环境的评估；如果个体是群体的一部分，那 还包括群体意识，例如团队意识，可以看作是个 体对其他个体影响的评估。事实上，早在笛卡尔 的时代，人们就认为意识是感官在大脑中的投 射，是思维的一个重要组成部分（如图 1 所示）。 时至今日，虽然我们可以用精密仪器监测大脑的 活动，但依然没有弄清楚大脑是如何综合各种感 官信息形成完整的意识。 A B C 图 1 笛卡尔的思维二元论 Fig. 1 Descartes’ dualism of thought 因此，虽然如李院士所说意识和智能是可以 分离的，但意识是思维的一个重要过程，是智能 的一项前提。计算机虽然有计算智能但没有意 识，是因为使用计算机的人补上了意识的空缺， 二者构成了一个智慧的整体。新一代人工智能如 果需要更多的自动化，就必然会触及意识，至少 是狭义的意识。 高等生物的生理本能是自然选择的结果，确 实不在当前人工智能的研究范畴。因为人工智能 的对象面临的是人类的选择，而不是自然的选 择。例如，金鱼的体态对游泳、觅食不利，但得到 了人们的喜爱，一样能够生存和繁衍。 生物的情感基础是体内激素大幅度波动的结 收稿日期：2022−05−16. 通信作者：李向阳. E-mail：xiangyangli@ustc.edu.cn. 第 17 卷第 3 期 智 能 系 统 学 报 Vol.17 No.3 2022 年 5 月 CAAI Transactions on Intelligent Systems May 2022
第17卷 智能系统学报 ·654· 果，例如：多巴胺的大量分泌会让人产生愉悦，肾 备的。“人无爪牙之利、筋骨之强”，却能站在生 上腺激素的飙升会让人情绪激动。现代医学通过 物链的最顶端，凭借的是人类的智能。人类智能 药物或对大脑相对部位的刺激同样能产生相应的 和动物智能最大的区别在于人类的智能更加的 情感。激烈的情感能让人体的各项性能短时间内 “通用”。这背后的原理是什么，着实让人着迷。 飙升，对于应对紧急情况有利。但它同时也是一 因此，通用智能不一定是强智能，反之亦然。 柄双刃剑，可能造成过度消耗（类似CPU的超频） 我们真正需要的其实是强智能，但通过研究通用 或者歇斯底里的应激反应。对于智能体是否真的 智能可能有机会一窥智能的本质，从而创造出现 需要这种大幅度的波动还存在争议。 在没有的、新的强智能工具。这好比能够有能在 情感机器人的外显情感，更多是一种与外界 天上飞、地上跑、水面游的通用交通工具固然好， 交流的方式，不涉及内在的情感波动。 但是我们需要的或许是飞的最快的飞机、跑的最 二问：如何理解通用智能？通用智能一定是 快的汽车和游的最快的船。 强智能吗？新一代人工智能既要通用又要强智 强智能或许与人类智能相去甚远，不足以提 能，通用和强是什么关系？ 供对智能的深度理解，但它却能更好地解决问 李院士认为：通用智能是跨领域的一般性智 题。通用智能或许没有想象中那么来的有“用” 能。如果说强人工智能追求的是智能纵向的深 事实上如果需要更多拥有人类智能的个体，提高 度，新一代人工智能追求的恰恰是智能横向的宽 社会生育率或许更为现实。但对它的研究却能够 度。纵向智能、横向智能都没有尽头。 让我们深入地了解智能的本质，拓展我们创造更 在这里，是不是可以理解为强智能就是要比 强智能的可能。对于新一代人工智能研究来说二 人做得更好，通用智能就是要和人一样能够完成 者同样意义重大。 多种任务？AlphaGo能够战胜人类围棋世界冠军四 三问：目前几乎所有人工智能都是在计算机 在围棋上比人做得更好，是不是就可以认为是围 上表现出来的计算机应用，即“计算机智能”。如 棋任务上的强智能了？或许还有很多人不这么认 何在物理装置上实现超出计算机智能的、受脑科 为，因为AlphaGo需要百万棋局的训练，而人只 学和认知科学启发的新一代人工智能？ 需要很少的棋局。但是AlphaGo可以利用专门的 李院士认为：需要强调“介观类脑”，即在大规 硬件将百万棋局的训练压缩在很短的时间内完 模神经元群组和网络水平上模拟脑认知网络：同 成，这是人做不到的。如果不以结果作为智能强 时没有感知不会有认知，脑和外界环境不停地交 弱的评判，而要将智能的实现途径拉到和人类 互，和外部客体之间一直存在着认知对应关系。 似，做到“类人”，这可能没有太大的意义。我们 无需从分子水平讨论“类脑”智能，这应该是 不能说飞机的飞就不是飞，而鸟类的飞才是飞；飞 大多数人的共识。但如何从神经元水平模拟脑认 机的飞行能力就不能叫强，一定要“类鸟”的飞行 知网络，目前虽然取得了一些进展，但总体还没 能力才可以。所有能够超越人类的智能都值得研 有太好的途径。通过电子电路等物理装置实现脑 究，都可能造福人类。 神经网络，最大的问题可能还在于它不像神经网 诚如李院士所言，通用智能的“通用”其实也 络一样具有高度的可塑性。刚出生婴儿的大脑和 是相对而言的，有一定范围的。人也不是什么都 受过高等教育的成年人的大脑，在脑神经的连接 能做，随着社会分工的进一步精细化，人也朝着 结构上应有较大的差别。人不断学习的过程同时 特化、专才的方向发展。从生产效率的角度，通 也是不断重塑“脑回路”的过程。物理装置虽然也 用的机器永远比不上特化的专用机器。研究通用 能模拟脑神经网络，但还不能真正像脑神经一样 智能的价值可能还不仅仅局限于希望一台机器能 根据外界的反馈，自动地调整和重塑神经的连 够完成多项任务，更大的价值可能还在于希望了 接。归根结底，目前对脑神经网络的调整机制还 解智能的本质，就像古生物学家希望了解生命的 缺乏充分的认知，同时也缺乏合适的物理装置 起源一样。通过对智能本质的探究，解决目前无 能够模拟这一过程。这需要多学科交叉的共同 法解决的问题。 努力。 计算机是人类有史以来创造的最通用的工 一些古人类学的研究表明，由于环境的巨变， 具。它的通用性本质上来源于图灵机，一种“万 早期的类人猿被迫从树上来到平坦的草原上生 能”(universal)的计算机器。它可以同时用来计 活。适应了树栖生活的类人猿，很难在相对较短 算、编辑和通信，这是算盘、打字机和电话所不具 的时间内进化出适应地面上生活的身体结构（如
果，例如：多巴胺的大量分泌会让人产生愉悦，肾 上腺激素的飙升会让人情绪激动。现代医学通过 药物或对大脑相对部位的刺激同样能产生相应的 情感。激烈的情感能让人体的各项性能短时间内 飙升，对于应对紧急情况有利。但它同时也是一 柄双刃剑，可能造成过度消耗（类似 CPU 的超频） 或者歇斯底里的应激反应。对于智能体是否真的 需要这种大幅度的波动还存在争议。 情感机器人的外显情感，更多是一种与外界 交流的方式，不涉及内在的情感波动。 二问：如何理解通用智能？通用智能一定是 强智能吗？新一代人工智能既要通用又要强智 能，通用和强是什么关系？ 李院士认为：通用智能是跨领域的一般性智 能。如果说强人工智能追求的是智能纵向的深 度，新一代人工智能追求的恰恰是智能横向的宽 度。纵向智能、横向智能都没有尽头。 在这里，是不是可以理解为强智能就是要比 人做得更好，通用智能就是要和人一样能够完成 多种任务？AlphaGo 能够战胜人类围棋世界冠军[2] ， 在围棋上比人做得更好，是不是就可以认为是围 棋任务上的强智能了？或许还有很多人不这么认 为，因为 AlphaGo 需要百万棋局的训练，而人只 需要很少的棋局。但是 AlphaGo 可以利用专门的 硬件将百万棋局的训练压缩在很短的时间内完 成，这是人做不到的。如果不以结果作为智能强 弱的评判，而要将智能的实现途径拉到和人类 似，做到“类人”，这可能没有太大的意义。我们 不能说飞机的飞就不是飞，而鸟类的飞才是飞；飞 机的飞行能力就不能叫强，一定要“类鸟”的飞行 能力才可以。所有能够超越人类的智能都值得研 究，都可能造福人类。 诚如李院士所言，通用智能的“通用”其实也 是相对而言的，有一定范围的。人也不是什么都 能做，随着社会分工的进一步精细化，人也朝着 特化、专才的方向发展。从生产效率的角度，通 用的机器永远比不上特化的专用机器。研究通用 智能的价值可能还不仅仅局限于希望一台机器能 够完成多项任务，更大的价值可能还在于希望了 解智能的本质，就像古生物学家希望了解生命的 起源一样。通过对智能本质的探究，解决目前无 法解决的问题。 计算机是人类有史以来创造的最通用的工 具。它的通用性本质上来源于图灵机[3] ，一种“万 能”（universal）的计算机器。它可以同时用来计 算、编辑和通信，这是算盘、打字机和电话所不具 备的。“人无爪牙之利、筋骨之强”，却能站在生 物链的最顶端，凭借的是人类的智能。人类智能 和动物智能最大的区别在于人类的智能更加的 “通用”。这背后的原理是什么，着实让人着迷。 因此，通用智能不一定是强智能，反之亦然。 我们真正需要的其实是强智能，但通过研究通用 智能可能有机会一窥智能的本质，从而创造出现 在没有的、新的强智能工具。这好比能够有能在 天上飞、地上跑、水面游的通用交通工具固然好， 但是我们需要的或许是飞的最快的飞机、跑的最 快的汽车和游的最快的船。 强智能或许与人类智能相去甚远，不足以提 供对智能的深度理解，但它却能更好地解决问 题。通用智能或许没有想象中那么来的有“用”， 事实上如果需要更多拥有人类智能的个体，提高 社会生育率或许更为现实。但对它的研究却能够 让我们深入地了解智能的本质，拓展我们创造更 强智能的可能。对于新一代人工智能研究来说二 者同样意义重大。 三问：目前几乎所有人工智能都是在计算机 上表现出来的计算机应用，即“计算机智能”。如 何在物理装置上实现超出计算机智能的、受脑科 学和认知科学启发的新一代人工智能？ 李院士认为：需要强调“介观类脑”，即在大规 模神经元群组和网络水平上模拟脑认知网络；同 时没有感知不会有认知，脑和外界环境不停地交 互，和外部客体之间一直存在着认知对应关系。 无需从分子水平讨论“类脑”智能，这应该是 大多数人的共识。但如何从神经元水平模拟脑认 知网络，目前虽然取得了一些进展，但总体还没 有太好的途径。通过电子电路等物理装置实现脑 神经网络，最大的问题可能还在于它不像神经网 络一样具有高度的可塑性。刚出生婴儿的大脑和 受过高等教育的成年人的大脑，在脑神经的连接 结构上应有较大的差别。人不断学习的过程同时 也是不断重塑“脑回路”的过程。物理装置虽然也 能模拟脑神经网络，但还不能真正像脑神经一样 根据外界的反馈，自动地调整和重塑神经的连 接。归根结底，目前对脑神经网络的调整机制还 缺乏充分的认知，同时也缺乏合适的物理装置 能够模拟这一过程。这需要多学科交叉的共同 努力。 一些古人类学的研究表明，由于环境的巨变， 早期的类人猿被迫从树上来到平坦的草原上生 活。适应了树栖生活的类人猿，很难在相对较短 的时间内进化出适应地面上生活的身体结构（如 第 17 卷 智 能 系 统 学 报 ·654·
·655· 李向阳，等：浅评《新一代人工智能十问十答》 第3期 尖利的爪牙、快速的奔跑等)。相对于漫长的身 习中，如果奖惩机制合适，机器人一旦开始学习 体进化，大脑是唯一能在短时间内进行调整从而 就会持续不断直到收敛。事实上，生物也可以通 快速适应环境的身体器官。从某种意义上说，人 过类似的机制学习。例如：通过人为控制小鼠大 类智能的产生也是残酷自然选择的结果。不同于 脑的多巴胺分泌，可以让小鼠学会新的技能，如 基因层面的进化，大脑的改变是不可遗传的。因 图2所示的。目前强化学习和人类的学习还有巨 此，人类发展产生了教育-学习的传承机制，生存 大的差别，关键问题之一在于如何制定合适的奖 技能和知识得以代代相传。 惩机制，这或许还有很长的路要走。就像不同的 由此可见，环境的刺激对于人类智能的产生 教育体系培养出来的人才，在能力方面也有较大 起着非常关键的作用。或许类脑智能本身就是不 的差别，不同民族对教育的重视程度也不尽相 可存储、不可转移的，而是在特定的装置（如大脑） 同。如何为机器人制定合适的教育体系（如奖惩 上，由于环境的刺激而激发出的一种能力。因此， 机制)，让机器人“自觉”地偏好学习，是新一代人 类脑智能的研究不能够仅仅局限于模拟脑的结 工智能需要认真研究的课题。 构，还需要研究对脑的刺激方式，以及接受刺激 后脑结构的调整方式。只有明白这些行为背后的 大脑新皮质中多巴胺的自发刺激 复杂机理，才有可能发展出真正的“类脑智能”。 四问：机器人不会有七情六欲，学习的原动 飞秒激光 力来自何处？如果没有接受教育的自觉性，新一 國值 代人工智能如何具有学习的动机？ 多巴胺传 感器信号 李院土认为：可人工赋予机器企图和任务目 通过训练多巴胺刺激 ML- 标，让机器在交互的过程中，提出自己的问题，依 追踪不断升高的國值 据任务目标，分解并确定具体的学习目标，也就 有了学习的驱动力，学习欲望强，主动性就强 时间 人的七情六欲归根结底来源于生物生存和繁 奖励 衍的本能，这是自然选择的结果。在人类社会 中，有人过早地选择结束自己的生命，有人决定 终身不要子嗣，这些是人的大脑根据某些现实因 素做出的决策。可见生物的本能并不是由遗传物 图2人为控制小鼠大脑的奖惩机制 质“携刻”在负责理性思维的大脑中，而是由身体 Fig.2 Reward and punishment mechanisms in artificially 的其他器官影响大脑的结果。例如：对食物和异 controlled mouse brains 性的渴望，这些都不是由理性思维激发。相反， 五问：人的偏好和注意力选择是如何产生 理性思维还可以根据情境对这些本能产生抑制作 的？新一代人工智能如何体现这一点？ 用，控制本能的冲动。 李院士认为：人的注意力选择源于记忆，源于 因此，对于人来说，学习的原动力（本能）可 记忆的偏好依附性。记忆网络以及记忆的多索引 能主要来源于脑外（身体）的刺激，而不一定是大 并行机制很重要，注意的选择性法则是：先检索 脑内部理性思维的结果。对于远古的人来说，多 典型情境提取记忆，后选择规则推理计算求解。 学习一份技能，就多了一些生存的概率。一些缺 人的注意力产生有可能源于资源的受限。比 乏学习动力的个体可能在残酷的自然选择中被淘 如人眼只能聚焦于前方大概巴掌大的区域，所以 汰了，而延续下来的都是能够对学习产生正反馈 眼球需要不断地调整焦点，而蜻蜓的复眼就可以 的个体。再比如单细胞生物没有神经系统，但它 同时关注大片的区域，这是感知器官的不同造成 依然能够“学会”获取食物，只不过它的学习过程 的。虽然大脑的功耗比起滚烫的CPU来说已经 依赖于基因的遗传和变异来实现。 低很多，但相较于身体的其他器官依然是绝对的 如果生物学习的原动力来自自然的选择，那 耗能大户。所以才有了注意力之说，一段时间一 么机器人学习的原动力就是来自创造者（人）的 片专门的脑区激活，专注处理一件事情。而且注 选择。 意力集中的持续时间也是有限的，一段时间后资 事实上，机器人如何更好地利用外界的反馈 源消耗过度就容易精神涣散。一些药物或者酒精 来学习一直是强化学习研究的目标。在强化学 也容易让人难以集中注意力。可见，注意力对于
尖利的爪牙、快速的奔跑等）。相对于漫长的身 体进化，大脑是唯一能在短时间内进行调整从而 快速适应环境的身体器官。从某种意义上说，人 类智能的产生也是残酷自然选择的结果。不同于 基因层面的进化，大脑的改变是不可遗传的。因 此，人类发展产生了教育−学习的传承机制，生存 技能和知识得以代代相传。 由此可见，环境的刺激对于人类智能的产生 起着非常关键的作用。或许类脑智能本身就是不 可存储、不可转移的，而是在特定的装置（如大脑） 上，由于环境的刺激而激发出的一种能力。因此， 类脑智能的研究不能够仅仅局限于模拟脑的结 构，还需要研究对脑的刺激方式，以及接受刺激 后脑结构的调整方式。只有明白这些行为背后的 复杂机理，才有可能发展出真正的“类脑智能”。 四问：机器人不会有七情六欲，学习的原动 力来自何处？如果没有接受教育的自觉性，新一 代人工智能如何具有学习的动机？ 李院士认为：可人工赋予机器企图和任务目 标，让机器在交互的过程中，提出自己的问题，依 据任务目标，分解并确定具体的学习目标，也就 有了学习的驱动力，学习欲望强，主动性就强。 人的七情六欲归根结底来源于生物生存和繁 衍的本能，这是自然选择的结果。在人类社会 中，有人过早地选择结束自己的生命，有人决定 终身不要子嗣，这些是人的大脑根据某些现实因 素做出的决策。可见生物的本能并不是由遗传物 质“镌刻”在负责理性思维的大脑中，而是由身体 的其他器官影响大脑的结果。例如：对食物和异 性的渴望，这些都不是由理性思维激发。相反， 理性思维还可以根据情境对这些本能产生抑制作 用，控制本能的冲动。 因此，对于人来说，学习的原动力（本能）可 能主要来源于脑外（身体）的刺激，而不一定是大 脑内部理性思维的结果。对于远古的人来说，多 学习一份技能，就多了一些生存的概率。一些缺 乏学习动力的个体可能在残酷的自然选择中被淘 汰了，而延续下来的都是能够对学习产生正反馈 的个体。再比如单细胞生物没有神经系统，但它 依然能够“学会”获取食物，只不过它的学习过程 依赖于基因的遗传和变异来实现。 如果生物学习的原动力来自自然的选择，那 么机器人学习的原动力就是来自创造者（人）的 选择。 事实上，机器人如何更好地利用外界的反馈 来学习一直是强化学习[4] 研究的目标。在强化学 习中，如果奖惩机制合适，机器人一旦开始学习 就会持续不断直到收敛。事实上，生物也可以通 过类似的机制学习。例如：通过人为控制小鼠大 脑的多巴胺分泌，可以让小鼠学会新的技能，如 图 2 所示[5]。目前强化学习和人类的学习还有巨 大的差别，关键问题之一在于如何制定合适的奖 惩机制，这或许还有很长的路要走。就像不同的 教育体系培养出来的人才，在能力方面也有较大 的差别，不同民族对教育的重视程度也不尽相 同。如何为机器人制定合适的教育体系（如奖惩 机制），让机器人“自觉”地偏好学习，是新一代人 工智能需要认真研究的课题。 大脑新皮质中多巴胺的自发刺激 飞秒激光 多巴胺传 感器信号 奖励 时间 舔食 通过训练多巴胺刺激 追踪不断升高的阈值 皮质多巴胺 奖励 阈值 图 2 人为控制小鼠大脑的奖惩机制 Fig. 2 Reward and punishment mechanisms in artificially controlled mouse brains 五问：人的偏好和注意力选择是如何产生 的？新一代人工智能如何体现这一点？ 李院士认为：人的注意力选择源于记忆，源于 记忆的偏好依附性。记忆网络以及记忆的多索引 并行机制很重要，注意的选择性法则是：先检索 典型情境提取记忆，后选择规则推理计算求解。 人的注意力产生有可能源于资源的受限。比 如人眼只能聚焦于前方大概巴掌大的区域，所以 眼球需要不断地调整焦点，而蜻蜓的复眼就可以 同时关注大片的区域，这是感知器官的不同造成 的。虽然大脑的功耗比起滚烫的 CPU 来说已经 低很多，但相较于身体的其他器官依然是绝对的 耗能大户。所以才有了注意力之说，一段时间一 片专门的脑区激活，专注处理一件事情。而且注 意力集中的持续时间也是有限的，一段时间后资 源消耗过度就容易精神涣散。一些药物或者酒精 也容易让人难以集中注意力。可见，注意力对于 ·655· 李向阳，等：浅评《新一代人工智能十问十答》 第 3 期
第17卷 智能系统学报 ·656· 大脑来说是一种资源调度的过程，集中最多的资 的，因此是开放的、不完全的，允许精确性和复杂 源解决最要紧的事情。什么才是最要紧的事情， 性相容，允许不同思想兼容并包。 这源于大脑的判断。大脑会综合当前的信息和过 人类的自然语言最基础的功能还是实现不同 往的记忆做出最佳的判断。 个体间的交流。例如：动物可以通过声音来求偶 人的偏好组成就更为复杂。部分源于身体当 或警戒，越是群居的动物交流的方式越复杂。早 下的需求，例如饥饿的时候食物会变得更美味， 期人类在面对残酷的自然选择时，依靠的是群体 缺乏部分元素是会更加偏爱富含这部分元素的食 的力量来狩猎或抵御危险。在这一过程中，自然 物。部分源于大脑中的记忆，例如动物的各种警 语言的产生具有很大的历史偶然性，是集体创作 戒色会让有相关经验的捕食者望而却步。还有一 的结果。 部分源于对新刺激的本能反应，例如对新事物的 相比较而言，数学语言和计算机语言的创造 偏好等。 过程要直接得多，因此也更加简单和自恰。例如： 新一代人工智能作为人类的工具是否需要自 编程语言，就是为了方便人和计算机之间的交互 身的偏好，这个值得商榷。例如：机器学习的一 而设计的；网络协议，就是为了方便计算机和计 个重要研究方向就是防止因为训练数据而对结 算机之间的交互。因为参与者都有计算机，因此 果产生不必要的偏好，做到公平公正。但它必须 必须是计算机能够准确无误解析和执行的，是具 能够理解人的偏好，并更好地提供服务。 有图灵完备性的精确描述语言。如果没有人参与 新一代人工智能是否需要注意力在于它并行 其中，使用自然语言可能是没有必要的。比如： 处理多项事物的能力以及分工方式，也就是说， 脱离人类社会由动物抚养长大的“狼孩”，不懂人 和我们具体实现智能的方式存在直接的关系。例 的语言，但很难说他完全就没有人类的智能。 如：神经网络遍及全身的水母，能够对周边的刺 让计算机去解析和处理人类的自然语言，更 激同步地做出反应。越高等的智能，对资源的消 多的是由人工智能的工具属性决定的。目前的人 耗就越大，各部分的分工也就越细致，需要注意 工智能都是计算机实现的，而人日常中更多的是 力机制进行调度。例如：人脑就是由不同的分区 使用自然语言。从语法层面上，二者之间自然存 组成（如图3），每个分区负责不同的功能，在进行 在巨大的差别。但这都不是最困难的，最困难的 相应活动时被激活。 是在语义方面的差别。目前，存在某些自然语言 的语义是计算机语言或者数学语言所不能表示和 人类大脑分区示意图 (个性、决策、额叶 顶叶（物体识别、空间位 处理的。对这部分语义的研究，能够加深我们对 运动等) 置理解、触觉等) 自然语言的理解。 事实上，操不同语言的人之间，也没有办法完 全无障碍地交流。我通常将这理解为文化上的差 (视觉) 异。文化的确塑造了不同的语言习惯，但语言反 枕叶 过来也会影响文化。例如：印度某地方言中缺少 小脑 题叶 关于昨天的直接表述，是不是就代表这一地方的 (短时记忆、语 言、嗅觉等) 脊髓 人更看重当下？不同文化熏陶下的人和人之间尚 且有沟通障碍，让计算机理解厚重的人类文化自 图3人类大脑的功能分区 然任重道远。 Fig.3 Functional divisions of the human brain 在人类之初，由于智力的增长，我们创造并能 六问：人类思维的载体是自然语言，自然语 使用复杂的自然语言。自然语言的使用使得知识 言开放性很强，通用计算机是基于图灵机模型， 能够方便地在个体之间、上一代和下一代之间传 属于封闭的有限状态空间，根据哥德尔不完备定 递。但这或许只是因为人类受限于先天的感官， 理，数学自身难以完全自洽。因此，人工智能怎 才使用了这种并不高效、不精确的方式。如果人 么可以反过来要用计算机语言或者数学语言去形 和人之间能够用其他方式（如脑电波）交流，结果 式化人类的自然语言呢？ 是不是就会完全不一样？例如：在蚁群中，通过 李院士认为：机器是否有语言智能，还要看它 信息素的交流同样能够实现相对复杂的行为。这 有没有接受语言和文字的交互、学习和进化能 些问题背后很可能藏着智能的本质，值得我们进 力。新一代人工智能是用人类的自然语言表述 一步探究
大脑来说是一种资源调度的过程，集中最多的资 源解决最要紧的事情。什么才是最要紧的事情， 这源于大脑的判断。大脑会综合当前的信息和过 往的记忆做出最佳的判断。 人的偏好组成就更为复杂。部分源于身体当 下的需求，例如饥饿的时候食物会变得更美味， 缺乏部分元素是会更加偏爱富含这部分元素的食 物。部分源于大脑中的记忆，例如动物的各种警 戒色会让有相关经验的捕食者望而却步。还有一 部分源于对新刺激的本能反应，例如对新事物的 偏好等。 新一代人工智能作为人类的工具是否需要自 身的偏好，这个值得商榷。例如：机器学习的一 个重要研究方向[6] 就是防止因为训练数据而对结 果产生不必要的偏好，做到公平公正。但它必须 能够理解人的偏好，并更好地提供服务。 新一代人工智能是否需要注意力在于它并行 处理多项事物的能力以及分工方式，也就是说， 和我们具体实现智能的方式存在直接的关系。例 如：神经网络遍及全身的水母，能够对周边的刺 激同步地做出反应。越高等的智能，对资源的消 耗就越大，各部分的分工也就越细致，需要注意 力机制进行调度。例如：人脑就是由不同的分区 组成（如图 3），每个分区负责不同的功能，在进行 相应活动时被激活。 人类大脑分区示意图 额叶 顶叶 (物体识别、空间位 置理解、触觉等) (视觉) 枕叶 小脑 脊髓 颞叶 (短时记忆、语 言、嗅觉等) (个性、决策、 运动等) 图 3 人类大脑的功能分区 Fig. 3 Functional divisions of the human brain 六问：人类思维的载体是自然语言，自然语 言开放性很强，通用计算机是基于图灵机模型， 属于封闭的有限状态空间，根据哥德尔不完备定 理，数学自身难以完全自洽。因此，人工智能怎 么可以反过来要用计算机语言或者数学语言去形 式化人类的自然语言呢？ 李院士认为：机器是否有语言智能，还要看它 有没有接受语言和文字的交互、学习和进化能 力。新一代人工智能是用人类的自然语言表述 的，因此是开放的、不完全的，允许精确性和复杂 性相容，允许不同思想兼容并包。 人类的自然语言最基础的功能还是实现不同 个体间的交流。例如：动物可以通过声音来求偶 或警戒，越是群居的动物交流的方式越复杂。早 期人类在面对残酷的自然选择时，依靠的是群体 的力量来狩猎或抵御危险。在这一过程中，自然 语言的产生具有很大的历史偶然性，是集体创作 的结果。 相比较而言，数学语言和计算机语言的创造 过程要直接得多，因此也更加简单和自恰。例如： 编程语言，就是为了方便人和计算机之间的交互 而设计的；网络协议，就是为了方便计算机和计 算机之间的交互。因为参与者都有计算机，因此 必须是计算机能够准确无误解析和执行的，是具 有图灵完备性的精确描述语言。如果没有人参与 其中，使用自然语言可能是没有必要的。比如： 脱离人类社会由动物抚养长大的“狼孩”，不懂人 的语言，但很难说他完全就没有人类的智能。 让计算机去解析和处理人类的自然语言，更 多的是由人工智能的工具属性决定的。目前的人 工智能都是计算机实现的，而人日常中更多的是 使用自然语言。从语法层面上，二者之间自然存 在巨大的差别。但这都不是最困难的，最困难的 是在语义方面的差别。目前，存在某些自然语言 的语义是计算机语言或者数学语言所不能表示和 处理的。对这部分语义的研究，能够加深我们对 自然语言的理解。 事实上，操不同语言的人之间，也没有办法完 全无障碍地交流。我通常将这理解为文化上的差 异。文化的确塑造了不同的语言习惯，但语言反 过来也会影响文化。例如：印度某地方言中缺少 关于昨天的直接表述，是不是就代表这一地方的 人更看重当下？不同文化熏陶下的人和人之间尚 且有沟通障碍，让计算机理解厚重的人类文化自 然任重道远。 在人类之初，由于智力的增长，我们创造并能 使用复杂的自然语言。自然语言的使用使得知识 能够方便地在个体之间、上一代和下一代之间传 递。但这或许只是因为人类受限于先天的感官， 才使用了这种并不高效、不精确的方式。如果人 和人之间能够用其他方式（如脑电波）交流，结果 是不是就会完全不一样？例如：在蚁群中，通过 信息素的交流同样能够实现相对复杂的行为。这 些问题背后很可能藏着智能的本质，值得我们进 一步探究。 第 17 卷 智 能 系 统 学 报 ·656·
·657· 李向阳，等：浅评《新一代人工智能十问十答》 第3期 七问：如何体现新一代人工智能与时俱进的 忆、交互和计算3部件组成，其中的感知、认知与 学习能力？ 行为都是双向互动的。记忆、交互和计算3部分 李院士认为：新一代人工智能也必须具有像 之间的信息传递机制和螺旋发展比较复杂，但三 人一样的学习和交互认知的环境才能习得知识， 位一体很重要。 而不是传统人工智能那样一次性设计而成，也不 同冯诺依曼的计算机体系作类比，记忆可以 是带着特殊预设目的，向机器强制地集中性注入 看作存储，交互是键盘、鼠标、屏幕等这些输入输 一个或者多个专门领域的计算智能。 出外设，而计算则是CPU。记忆系统里有瞬时记 这其实涉及到了人工智能一个最基础的问 忆、工作记忆和长期记忆3类子部件，存储系统 题：智能是否能够被记录、存储和传递。自然界 中的寄存器、内存和硬盘分别负责瞬时、工作和 中声音可以、图像也可以，甚至生物个体通过遗 长期的存储。计算机的记忆与人的记忆最大的区 传物质DNA也可以被克隆。两个克隆人之间最 别其实在于信息的表示方式。计算机采用的是二 初拥有共同的生物基础，也会因为后天的经历不 进制进行存储和运算的，所有的信息都需要以一 同表现出不同的智能。假设给我们一个爱因斯坦 定的方式编码成二进制。而记忆在人脑中是以神 的大脑，而我们的生物技术已经发达到能够复刻 经元突触的连接形式来实现的。 一个完全一样的大脑，那么这个大脑是否和爱因 人工神经网络从某种意义上可以看作是在二 斯坦一样聪明？理论上，同一个软件在不同计算 进制的计算机系统中模拟神经元的记忆机制。从 机上的拷贝应该有完全一样的表现。但复杂如大 计算效率上看，这是低效的。所以有了关于“类 脑，这或许是一个不可能的任务，或许像很多量 脑”芯片的研究，希望能够提高模拟的效率。这些 子现象一样我们进行记录的那一刻大脑已经发生 “类脑”芯片虽然在连接上模拟神经元，但是在传 了变化，已经不是原来的大脑了。所以获得类人 递机制上依然是二进制的。这使得它们始终无法 智能的唯一途径，可能就是需要不断地从外界进 做到与大脑一样的高效和低功耗。量子计算机圆 行刺激，即学习的过程。 中的量子比特则是在信息的表示和传递的彻底革 如果学习是获得类人智能的必要途径，那首 新。或许这些技术的进步能够给类脑智能带来新 先需要有一个像大脑一样可学习的装置，然后就 是学习的过程。当前，深度神经网络充当这个可 的途径，并从根本上改变现有的人工智能架构。 九问：记忆、计算和存储的区别是什么？能 学习的装置，而各种学习算法和数据充当的就是 不能说，记忆智能和计算智能都不可或缺？利用 这一学习的过程。当然深度神经网络目前远没有 自己记忆中的经验解决当前的一个智力问题也 大脑那般的可塑性，当前的学习算法和数据与我 们的家-校-社会三位一体的教育体系也完全不在 好，利用知识去分析推理解决也好，如何建立整 个数量级。 体的工作机制？ 对于学习装置，我们目前没办法复刻一个生 李院士认为：记忆是新一代人工智能的核心， 物学上的大脑，因此尝试用计算机或电子电路去 记忆比计算重要得多，记忆是对计算的监督和约 模拟人的大脑。对于学习过程，新一代人工智能 束，认知网络具有多索引并行机制，可通过检索 就需要考虑为机器人借用我们现有的教育体系， 引擎直接提取记忆，因为有注意力选择机理，它 还是为其再造一个教育体系。就比如AlphaGo, 要比临场的思维、推理、计算快得多。记忆早于 最初的版本还从一定程度上利用到了人类的棋谱回 计算，记忆优于计算，记忆约束计算，记忆随学习 而AlphaGo Zerol就能够完全独立于人类的围棋 与时俱进。 教育体系。即便是重用我们现有的教育体系，那 从某种程度上说，记忆是知识的表示形式。 也是完全不一样的方法，毕竞让机器人像人一样 获得记忆就是从信息中提取知识，使用记忆就是 慢慢地学习成本太高。需要用到强大的学习装 根据知识做出决策，这些在计算机上实现的时候 置，让十几年的教育能够缩短在几天内完成。 都需要计算。因此不应该把记忆和计算分开对 八问：在新一代人工智能架构的机器人中， 待，二者在智能行为中都是不可或缺的。例如： 基本组成最少可能有哪几种？各部分中的信息产 人工神经网络中，记忆表现为神经网络的参数， 生机制与存在形式是什么？它们之间的信息传递 训练神经网络的过程就是获取记忆的过程，使用 是什么样的？ 神经网络的过程就是使用记忆的过程。只是目前 李院士认为：新一代人工智能机器中，由记 神经网络的后向传播的训练方式与人们获得记忆
七问：如何体现新一代人工智能与时俱进的 学习能力？ 李院士认为：新一代人工智能也必须具有像 人一样的学习和交互认知的环境才能习得知识， 而不是传统人工智能那样一次性设计而成，也不 是带着特殊预设目的，向机器强制地集中性注入 一个或者多个专门领域的计算智能。 这其实涉及到了人工智能一个最基础的问 题：智能是否能够被记录、存储和传递。自然界 中声音可以、图像也可以，甚至生物个体通过遗 传物质 DNA 也可以被克隆。两个克隆人之间最 初拥有共同的生物基础，也会因为后天的经历不 同表现出不同的智能。假设给我们一个爱因斯坦 的大脑，而我们的生物技术已经发达到能够复刻 一个完全一样的大脑，那么这个大脑是否和爱因 斯坦一样聪明？理论上，同一个软件在不同计算 机上的拷贝应该有完全一样的表现。但复杂如大 脑，这或许是一个不可能的任务，或许像很多量 子现象一样我们进行记录的那一刻大脑已经发生 了变化，已经不是原来的大脑了。所以获得类人 智能的唯一途径，可能就是需要不断地从外界进 行刺激，即学习的过程。 如果学习是获得类人智能的必要途径，那首 先需要有一个像大脑一样可学习的装置，然后就 是学习的过程。当前，深度神经网络充当这个可 学习的装置，而各种学习算法和数据充当的就是 这一学习的过程。当然深度神经网络目前远没有 大脑那般的可塑性，当前的学习算法和数据与我 们的家-校-社会三位一体的教育体系也完全不在 一个数量级。 对于学习装置，我们目前没办法复刻一个生 物学上的大脑，因此尝试用计算机或电子电路去 模拟人的大脑。对于学习过程，新一代人工智能 就需要考虑为机器人借用我们现有的教育体系， 还是为其再造一个教育体系。就比如 AlphaGo， 最初的版本还从一定程度上利用到了人类的棋谱[2] ， 而 AlphaGo Zero[7] 就能够完全独立于人类的围棋 教育体系。即便是重用我们现有的教育体系，那 也是完全不一样的方法，毕竟让机器人像人一样 慢慢地学习成本太高。需要用到强大的学习装 置，让十几年的教育能够缩短在几天内完成。 八问：在新一代人工智能架构的机器人中， 基本组成最少可能有哪几种？各部分中的信息产 生机制与存在形式是什么？它们之间的信息传递 是什么样的？ 李院士认为：新一代人工智能机器中，由记 忆、交互和计算 3 部件组成，其中的感知、认知与 行为都是双向互动的。记忆、交互和计算 3 部分 之间的信息传递机制和螺旋发展比较复杂，但三 位一体很重要。 同冯诺依曼的计算机体系作类比，记忆可以 看作存储，交互是键盘、鼠标、屏幕等这些输入输 出外设，而计算则是 CPU。记忆系统里有瞬时记 忆、工作记忆和长期记忆 3 类子部件，存储系统 中的寄存器、内存和硬盘分别负责瞬时、工作和 长期的存储。计算机的记忆与人的记忆最大的区 别其实在于信息的表示方式。计算机采用的是二 进制进行存储和运算的，所有的信息都需要以一 定的方式编码成二进制。而记忆在人脑中是以神 经元突触的连接形式来实现的。 人工神经网络从某种意义上可以看作是在二 进制的计算机系统中模拟神经元的记忆机制。从 计算效率上看，这是低效的。所以有了关于“类 脑”芯片的研究，希望能够提高模拟的效率。这些 “类脑”芯片虽然在连接上模拟神经元，但是在传 递机制上依然是二进制的。这使得它们始终无法 做到与大脑一样的高效和低功耗。量子计算机[8] 中的量子比特则是在信息的表示和传递的彻底革 新。或许这些技术的进步能够给类脑智能带来新 的途径，并从根本上改变现有的人工智能架构。 九问：记忆、计算和存储的区别是什么？能 不能说，记忆智能和计算智能都不可或缺？利用 自己记忆中的经验解决当前的一个智力问题也 好，利用知识去分析推理解决也好，如何建立整 体的工作机制？ 李院士认为：记忆是新一代人工智能的核心， 记忆比计算重要得多，记忆是对计算的监督和约 束，认知网络具有多索引并行机制，可通过检索 引擎直接提取记忆，因为有注意力选择机理，它 要比临场的思维、推理、计算快得多。记忆早于 计算，记忆优于计算，记忆约束计算，记忆随学习 与时俱进。 从某种程度上说，记忆是知识的表示形式。 获得记忆就是从信息中提取知识，使用记忆就是 根据知识做出决策，这些在计算机上实现的时候 都需要计算。因此不应该把记忆和计算分开对 待，二者在智能行为中都是不可或缺的。例如： 人工神经网络中，记忆表现为神经网络的参数， 训练神经网络的过程就是获取记忆的过程，使用 神经网络的过程就是使用记忆的过程。只是目前 神经网络的后向传播的训练方式与人们获得记忆 ·657· 李向阳，等：浅评《新一代人工智能十问十答》 第 3 期
第17卷 智能系统学报 ·658· 的过程还相去甚远，效率极低且需要大量的训练 不相同。 样例。使用神经网络的过程也称为推理的过程， 因此，人工智能的伦理也应该是新一代人工 其速度也比训练过程快得多。文献[9]表明，当 智能的一项重要研究内容。 前的神经网络其实也具有一定的推理能力。 李院士的“十问十答”涉及了多个新一代人工 相较于基于逻辑和搜索的推理而言，基于神 智能的技术内核，在学界引发了热烈的讨论。通 经网络的推理要快得多。但我们不认为神经网络 过对这些问题的思考，笔者认为对于人类智能本 的搜索能够像传统的搜索一样充分地使用知识。 质的探索不能仅仅停留在技术层面的模仿；更要 这或许是人工神经网络对样本的使用率过低且泛 从宏观、科学的视角研究它的起源和发展过程， 化性不足所致。例如：AlphaGo中就将蒙特卡洛 从意识、偏好、记忆等碎片化内容一步步地拼凑 树搜索和深度神经网络相结合冈。前者负责临场 出智能的全貌。大脑虽然是智能产生的物质基 的推理，后者负责记忆。这主要因为蒙特卡洛树 础，但真正的智能则是从后天的学习以及与环境 搜索算法在计算机中能够高校地实现。如果能够 的交互过程中激发出来的。因此，类脑装置的研 在人工神经网络的层面实现通用的推理算法，那 究和学习过程的研究不宜脱节。相对于模拟大脑 么是否就能够实现记忆和推理的统一？从而实现 的运作，通过模仿人的学习和教育过程来搭建适 部分网络负责推理，部分网络负责记忆。 宜的装置或许也是一条可行的途径。此外，从以 十问：新一代人工智能机器人，存不存在停 人为本、服务于人的角度，人的情感、文化、伦理 机问题？如何理解机器人在发育成长过程中软硬 等都应该是新一代人工智能需要进一步探索和研 件的维修管理和扩充升级？ 究的主题。 李院士认为：硬件的故障自修复和停机问题， 参考文献： 本质是高阶逻辑的不自洽性和不完备性，在这里 是不存在的，只能是特定人赋予机器意向性，检 [1]李德毅.新一代人工智能十问十答U.智能系统学报， 2021(5):827-833 测或者授权停机，特定人是机器人的高阶，并在 LI Deyi.Ten questions and answers for the new genera- 机器人发育成长过程中扩充升级机器人的软件及 tion of artificial intelligences[J].CAAI transactions on in- 其物理载体。 telligent systems,2021(5):827-833. 停机问题主要涉及的是人工智能哲学的范 [2]SILVER D,HUANG A,MADDISON C J,et al.Master- 畴。当机器人真正获得了智能之后，故障的自维 ing the game of go with deep neural networks and tree 护、软硬件的升级、停机乃至自我复制，这些似乎 search[J.Nature,2016,529(7587):484-489 都是不可避免的。而人的授权或者将特定人作为 [3]TURING A M.On computable numbers,with an applica- 机器人的高阶似乎也不足以改变。正如电影《侏 tion to the entscheidungsproblem[J].Proceedings of the 罗纪公园》里所说“生命总会找到它们的出路”。 London mathematical society,1937(1):230-265 拥有真正智能的机器人同样总可以巧妙地规避人 [4]SUTTON R S,BARTO A G.Reinforcement learning:an 的授权。例如：铁线虫为了能在水里产卵，在螳 introduction[M].2nd ed.New York:John Wiley and Sons, 螂腹部发育后会控制其自动跳入水中；再比如钩 1998 形虫要在猫的肠道中发育，被其感染的老鼠则会 [5]FOO C,LOZADA A,ALJADEFF J,et al.Reinforcement 失去对猫的天生恐惧。智能机器人同样可以以某 learning links spontaneous cortical dopamine impulses to 种方式反过来控制能够授权的人，实现它的目 reward[J].Current biology:CB,2021,31(18):4111-4119. 标，这从理论上看都是可行的。 [6]MEHRABI N,MORSTATTER F,SAXENA N,et al.A survey on bias and fairness in machine learning[J.ACM 那这是否意味着智能机器人最终会像很多人 computing surveys,2022,54(6):115. 预测的一样失控，最后智能更高的机器人占据主 [7]SILVER D.SCHRITTWIESER J.SIMONYAN K.et al 动地位，甚至导致人类的灭绝？我们大可不必有 Mastering the game of Go without human knowledge[J]. 这样的担心。就像人类社会中，精英群体并不会 Nature,.2017,550(7676):354-359. 把弱势群体赶尽杀绝，甚至会施以援手。这里面 [8]MERMIN N D.Quantum computer science:an introduc- 起关键作用的是文明社会的伦理道德规范。当然 tion[M].Cambridge:Cambridge University Press,2007. 我们不希望作为工具的人工智能会反过来高高在 [9]JAEGER H.Deep neural reasoning[J].Nature,2016, 上，针对机器人的伦理将和人与人之间的伦理大 538(7626):467-468
的过程还相去甚远，效率极低且需要大量的训练 样例。使用神经网络的过程也称为推理的过程， 其速度也比训练过程快得多。文献 [9] 表明，当 前的神经网络其实也具有一定的推理能力。 相较于基于逻辑和搜索的推理而言，基于神 经网络的推理要快得多。但我们不认为神经网络 的搜索能够像传统的搜索一样充分地使用知识。 这或许是人工神经网络对样本的使用率过低且泛 化性不足所致。例如：AlphaGo 中就将蒙特卡洛 树搜索和深度神经网络相结合[2]。前者负责临场 的推理，后者负责记忆。这主要因为蒙特卡洛树 搜索算法在计算机中能够高校地实现。如果能够 在人工神经网络的层面实现通用的推理算法，那 么是否就能够实现记忆和推理的统一？从而实现 部分网络负责推理，部分网络负责记忆。 十问：新一代人工智能机器人，存不存在停 机问题？如何理解机器人在发育成长过程中软硬 件的维修管理和扩充升级？ 李院士认为：硬件的故障自修复和停机问题， 本质是高阶逻辑的不自洽性和不完备性，在这里 是不存在的，只能是特定人赋予机器意向性，检 测或者授权停机，特定人是机器人的高阶，并在 机器人发育成长过程中扩充升级机器人的软件及 其物理载体。 停机问题主要涉及的是人工智能哲学的范 畴。当机器人真正获得了智能之后，故障的自维 护、软硬件的升级、停机乃至自我复制，这些似乎 都是不可避免的。而人的授权或者将特定人作为 机器人的高阶似乎也不足以改变。正如电影《侏 罗纪公园》里所说“生命总会找到它们的出路”。 拥有真正智能的机器人同样总可以巧妙地规避人 的授权。例如：铁线虫为了能在水里产卵，在螳 螂腹部发育后会控制其自动跳入水中；再比如钩 形虫要在猫的肠道中发育，被其感染的老鼠则会 失去对猫的天生恐惧。智能机器人同样可以以某 种方式反过来控制能够授权的人，实现它的目 标，这从理论上看都是可行的。 那这是否意味着智能机器人最终会像很多人 预测的一样失控，最后智能更高的机器人占据主 动地位，甚至导致人类的灭绝？我们大可不必有 这样的担心。就像人类社会中，精英群体并不会 把弱势群体赶尽杀绝，甚至会施以援手。这里面 起关键作用的是文明社会的伦理道德规范。当然 我们不希望作为工具的人工智能会反过来高高在 上，针对机器人的伦理将和人与人之间的伦理大 不相同。 因此，人工智能的伦理也应该是新一代人工 智能的一项重要研究内容。 李院士的“十问十答”涉及了多个新一代人工 智能的技术内核，在学界引发了热烈的讨论。通 过对这些问题的思考，笔者认为对于人类智能本 质的探索不能仅仅停留在技术层面的模仿；更要 从宏观、科学的视角研究它的起源和发展过程， 从意识、偏好、记忆等碎片化内容一步步地拼凑 出智能的全貌。大脑虽然是智能产生的物质基 础，但真正的智能则是从后天的学习以及与环境 的交互过程中激发出来的。因此，类脑装置的研 究和学习过程的研究不宜脱节。相对于模拟大脑 的运作，通过模仿人的学习和教育过程来搭建适 宜的装置或许也是一条可行的途径。此外，从以 人为本、服务于人的角度，人的情感、文化、伦理 等都应该是新一代人工智能需要进一步探索和研 究的主题。 参考文献： 李德毅. 新一代人工智能十问十答 [J]. 智能系统学报, 2021(5): 827–833. LI Deyi. Ten questions and answers for the new generation of artificial intelligences[J]. CAAI transactions on intelligent systems, 2021(5): 827–833. [1] SILVER D, HUANG A, MADDISON C J, et al. Mastering the game of go with deep neural networks and tree search[J]. Nature, 2016, 529(7587): 484–489. [2] TURING A M. On computable numbers, with an application to the entscheidungsproblem[J]. Proceedings of the London mathematical society, 1937(1): 230–265. [3] SUTTON R S, BARTO A G. Reinforcement learning: an introduction[M]. 2nd ed. New York : John Wiley and Sons, 1998. [4] FOO C, LOZADA A, ALJADEFF J, et al. Reinforcement learning links spontaneous cortical dopamine impulses to reward[J]. Current biology:CB, 2021, 31(18): 4111–4119. [5] MEHRABI N, MORSTATTER F, SAXENA N, et al. A survey on bias and fairness in machine learning[J]. ACM computing surveys, 2022, 54(6): 115. [6] SILVER D, SCHRITTWIESER J, SIMONYAN K, et al. Mastering the game of Go without human knowledge[J]. Nature, 2017, 550(7676): 354–359. [7] MERMIN N D. Quantum computer science: an introduction[M]. Cambridge: Cambridge University Press, 2007. [8] JAEGER H. Deep neural reasoning[J]. Nature, 2016, 538(7626): 467–468. [9] 第 17 卷 智 能 系 统 学 报 ·658·
·659· 李向阳，等：浅评《新一代人工智能十问十答》 第3期 作者简介： 吴锋，副教授，博士，英国南安普 顿大学博士后，主要研究方向为智能 李向阳，教授，博士生导师，博士 机器人、多智能体系统、自主决策推 新创讲席教授，现任中国科学技术大 理、强化学习。主持国家科技重大专 学信息与智能学部执行部长，中国科 项子课题、国家自然科学基金、安徽省 学技术大学计算机科学与技术学院执 自然科学基金等多项国家和省部级科 行院长，中科院光电无线通信实验室 研项目，入选中国科学院青年创新促 主任，ACM中国理事会指导主席，曾 进会。曾获得2011年度中国科学院院长奖特别奖，2012年 经担任ACM中国联合主席，ACM Publication Board成员，主要研究方向为物联网智能 度中国科学院优秀博士论文奖，以及第14届智能体与多智 (AIOT)、大数据共享计算、物联网和数据安全和隐私。作为 能体国际会议(AAMAS2015)最佳应用论文奖等奖项。基 首席科学家承担了国家重点研发计划、国家自然科学基金重 于“分布马尔可夫决策+在线启发式搜索”的技术路线，形成 点项目、美国基金委重点项目等20余项。获批国内外专利 了多机器人自主协作与对抗的技术体系，成功应用于具有 40余项，由于在“智能物联网和移动计算的设计、优化、系统 “人工智能测试标杆”之称的机器人足球领域，自2005年以 实现"的贡献获得ACM Fellow、IEEE Fellow、和ACM杰出 来连续11年保持世界前二，在自主适应性等方面国际领 科学家称号；国家重点研发计划物联网安全项目首席科学 先。发表学术论文50余篇。 家；共10余次获得国际会议最佳论文奖。发表学术论文 500余篇，谷歌学术论文引用总数26000余次。 中文引用格式：李向阳，吴锋.浅评《新一代人工智能十问十答》，智能系统学报，2022,17(3)：653-659 英文引用格式：LI Xiangyang,.WU Feng.Brief review on ten questions and answers for the new generation of artificial intelli- gences J].CAAI transactions on intelligent systems,2022,17(3):653-659 第二届国际人工智能会议 CAAI International Conference on Artificial Intelligence 2022 受疫情影响，第二届国际人工智能会议CICAI2022(CAAI International Conference on Artificial Intelligence 2022)将延期至2022年9月3一4日在中国北京雁栖酒店召开。征稿时间也将延期至6月21日。诚邀学术 界与产业界同行围绕人工智能前沿理论及应用，投稿分享新成果。本届会议新增演示论文(Dmo)征稿，鼓 励大家现场演示交流新技术成果。会议还将评出最佳论文、最佳学生论文、最佳海报论文、最佳Demo奖项。 加拿大皇家科学院和加拿大工程院两院院士、微众银行首席人工智能官、香港科技大学计算机与工程 系前系主任杨强教授受邀出席CICAI2022大会，将围绕《可信联邦学习》作大会主旨报告。京东探索研究 院院长、京东集团高级副总裁、悉尼大学数字科学研究所顾问、清华大学卓越访问教授、中国科学技术大学 大师讲席教授陶大程教授受邀出席CICAI2022大会，将围绕《繁而不同：VTAE让机器视觉飞得更高》作 大会主旨报告。 本届会议将于9月3日设立五个主题的Tutorial讲习班：图机器学习、AI数字人、人机交互与机器人、自 然语言智能、艺术与人工智能。讲者包括来自清华大学、中科院自动化所、中央音乐学院、中国移动研究 院、香港科技大学、美国伊利诺伊大学香槟分校、加州大学洛杉矶分校、美国弗吉尼亚大学、美国罗切斯特 大学、不列颠哥伦比亚大学、苏黎世联邦理工学院、美国InterDigital等知名高校与企业的人工智能领域专家 学者。Tutorial讲习班已经开启注册，注册免费，名额有限。CICAI会议接收的论文可直接参加Tutorial讲习班。 会议组委会将为与会者提供交通保障和全方位的成果展示与交流平台。欢迎大家多提宝贵意见与建议 cicai@caai.cn)。 会议主页：htps://cicai.caai.cn/2022 会议注册网址：htps://cicai..caai.cn/2022/#/registration 投稿网址：htps:lcmt3.research.microsoft.com/CICAL2022/ 投稿截止日期：2022年6月21日 录用通知日期：2022年7月31日 终稿截止日期：2022年8月7日 会议日期：2022年9月3一4日
作者简介： 李向阳，教授，博士生导师，博士， 新创讲席教授，现任中国科学技术大 学信息与智能学部执行部长，中国科 学技术大学计算机科学与技术学院执 行院长，中科院光电无线通信实验室 主任，ACM 中国理事会指导主席，曾 经担任 ACM 中国联合主席，ACM Publication Board 成员，主要研究方向为物联网智能 （AIOT）、大数据共享计算、物联网和数据安全和隐私。作为 首席科学家承担了国家重点研发计划、国家自然科学基金重 点项目、美国基金委重点项目等 20 余项。获批国内外专利 40 余项，由于在“智能物联网和移动计算的设计、优化、系统 实现”的贡献获得 ACM Fellow、IEEE Fellow、和 ACM 杰出 科学家称号；国家重点研发计划物联网安全项目首席科学 家；共 10 余次获得国际会议最佳论文奖。发表学术论文 500 余篇，谷歌学术论文引用总数 26000 余次。 吴锋，副教授，博士，英国南安普 顿大学博士后，主要研究方向为智能 机器人、多智能体系统、自主决策推 理、强化学习。主持国家科技重大专 项子课题、国家自然科学基金、安徽省 自然科学基金等多项国家和省部级科 研项目，入选中国科学院青年创新促 进会。曾获得 2011 年度中国科学院院长奖特别奖，2012 年 度中国科学院优秀博士论文奖，以及第 14 届智能体与多智 能体国际会议（AAMAS 2015）最佳应用论文奖等奖项。基 于“分布马尔可夫决策+在线启发式搜索”的技术路线，形成 了多机器人自主协作与对抗的技术体系，成功应用于具有 “人工智能测试标杆”之称的机器人足球领域，自 2005 年以 来连续 11 年保持世界前二，在自主适应性等方面国际领 先。发表学术论文 50 余篇。 中文引用格式：李向阳, 吴锋. 浅评《新一代人工智能十问十答》[J]. 智能系统学报, 2022, 17(3): 653–659. 英文引用格式：LI Xiangyang, WU Feng. Brief review on ten questions and answers for the new generation of artificial intelligences[J]. CAAI transactions on intelligent systems, 2022, 17(3): 653–659. 第二届国际人工智能会议 CAAI International Conference on Artificial Intelligence 2022 受疫情影响，第二届国际人工智能会议 CICAI 2022 (CAAI International Conference on Artificial Intelligence 2022) 将延期至 2022 年 9 月 3—4 日在中国北京雁栖酒店召开。征稿时间也将延期至 6 月 21 日。诚邀学术 界与产业界同行围绕人工智能前沿理论及应用，投稿分享新成果。本届会议新增演示论文（Demo）征稿，鼓 励大家现场演示交流新技术成果。会议还将评出最佳论文、最佳学生论文、最佳海报论文、最佳 Demo 奖项。 加拿大皇家科学院和加拿大工程院两院院士、微众银行首席人工智能官、香港科技大学计算机与工程 系前系主任杨强教授受邀出席 CICAI 2022 大会，将围绕《可信联邦学习》作大会主旨报告。京东探索研究 院院长、京东集团高级副总裁、悉尼大学数字科学研究所顾问、清华大学卓越访问教授、中国科学技术大学 大师讲席教授陶大程教授受邀出席 CICAI 2022 大会，将围绕《繁而不同：ViTAE 让机器视觉飞得更高》作 大会主旨报告。 本届会议将于 9 月 3 日设立五个主题的 Tutorial 讲习班：图机器学习、AI 数字人、人机交互与机器人、自 然语言智能、艺术与人工智能。讲者包括来自清华大学、中科院自动化所、中央音乐学院、中国移动研究 院、香港科技大学、美国伊利诺伊大学香槟分校、加州大学洛杉矶分校、美国弗吉尼亚大学、美国罗切斯特 大学、不列颠哥伦比亚大学、苏黎世联邦理工学院、美国 InterDigital 等知名高校与企业的人工智能领域专家 学者。Tutorial 讲习班已经开启注册，注册免费，名额有限。CICAI 会议接收的论文可直接参加 Tutorial 讲习班。 会议组委会将为与会者提供交通保障和全方位的成果展示与交流平台。欢迎大家多提宝贵意见与建议 （cicai@caai.cn）。 会议主页：https://cicai.caai.cn/2022 会议注册网址：https://cicai.caai.cn/2022/#/registration 投稿网址：https://cmt3.research.microsoft.com/CICAI2022/ 投稿截止日期：2022 年 6 月 21 日 录用通知日期：2022 年 7 月 31 日 终稿截止日期：2022 年 8 月 7 日 会议日期：2022 年 9 月 3—4 日 ·659· 李向阳，等：浅评《新一代人工智能十问十答》 第 3 期
