杨立昆十问：AI的领导者将成为未来世界的统治者？杨立昆制造界前天来源/制造界（ID：baixiuo1）作者/杨立昆封面/图虫创意“图灵奖"得主、“深度学习三巨头“之一、“卷积神经网络之父”Facebook首席人工智能科学家....由于在人工智能领域的突出贡献，杨立昆被中国计算机科学界和企业界所熟知。杨立昆是法国人，名字原文为YannLeCun，姓氏为LeCun，因在美国常被误缩写为Y.L.Cun，于是把LeCun合写在一起。中文译名原为扬·勒丘恩，华人AI圈一直亲切地称他为“杨乐康”，他本人听闻后，干脆自己给自己取了中文名字一一杨立昆。他被誉为“卷积神经网络之父”，2019年3月，因在人工智能深度学习方面的贡献获得2018年度图灵奖。此外，他还获得了2014年IEEE神经网络先锋奖（NeuralNetworkPioneerAward）2015年IEEEPAMI杰出研究奖和2016年LoVie终身成就奖。他为卷积神经网络（CNN，ConvolutionalNeuralNetworks）和图像识别领域做出了重要贡献，以手写字体识别、图像压缩和人工智能硬件等主题发表过190多份论文，研发了很多关于深度学习的项目，并且拥有14项相关的美国
杨立昆十问：AI 的领导者将成为未来世界的统治者? 杨立昆制造界前天 来源/制造界（ID：baixiu01) 作者/杨立昆 封面/图虫创意 “图灵奖”得主、“深度学习三巨头”之一、“卷积神经网络之父”、 Facebook 首席人工智能科学家.由于在人工智能领域的突出贡献，杨 立昆被中国计算机科学界和企业界所熟知。 杨立昆是法国人，名字原文为 Yann Le Cun，姓氏为 Le Cun，因在美国 常被误缩写为 Y.L.Cun，于是把 LeCun 合写在一起。中文译名原为扬•勒 丘恩，华人 AI 圈一直亲切地称他为“杨乐康”，他本人听闻后，干脆自己 给自己取了中文名字——杨立昆。 他被誉为 “卷积神经网络之父”，2019 年 3 月，因在人工智能深度学习 方面的贡献获得 2018 年度图灵奖。此外，他还获得了 2014 年 IEEE 神 经网络先锋奖（Neural Network Pioneer Award）、2015 年 IEEE PAMI 杰出研究奖和 2016 年 Lovie 终身成就奖。他为卷积神经网络 （CNN，Convolutional Neural Networks）和图像识别领域做出了重 要贡献，以手写字体识别、图像压缩和人工智能硬件等主题发表过 190 多份论文，研发了很多关于深度学习的项目，并且拥有 14 项相关的美国
专利。研究领域包括人工智能、机器学习、机器感知、移动机器人学和计算神经学。人工智能常常被认为是一项将要颠覆世界的技术，从这一概念诞生至今的65年中，无数电影与小说塑造了各种经典的人工智能角色，Al（ArtificiaIntelligence）也很快成为人类未来世界蓝图中的重要组成部分。但在人工智能不断拓宽我们对未来想象的同时，也不芝”AI统治世界”等一类的消极论调那么，我们当下讨论的AI真的即将统治人类吗？AI真的比我们更聪明吗？如果你也对这些问题心存疑虑，又想免于被互联网上的各种言论牵着鼻子走那么，图灵奖得主杨立昆（YannLeCun）的新书《科学之路：人，机器与未来》或许可以为你提供一份更科学、客观且前沿的人工智能问题参考手册。杨立昆在书中对人工智能提出了10个问题并进行了深入探讨，让我们更全面更客观的了解人工智能。在真正开始有关AI的伦理思考之前，我们首先要弄清楚以下三个名词的关系：人工智能、机器学习与深度学习。人工智能是试图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。自前，开发新应用最常用的人工智能技术之一就是机器学习，而深度学习是实现机器学习的重要方法之一，也被杨立昆以及其他许多科学家认为是人工智能的未来。1/人工智能是不可理解的黑匣子吗？一些悲观主义者认为深度学习系统是“黑匣子”，我们未来没办法理解和操控人工智能，但他们错了。诚然，深度学习以模拟人类神经网络为基础，当神
专利。研究领域包括人工智能、机器学习、机器感知、移动机器人学和 计算神经学。 人工智能常常被认为是一项将要颠覆世界的技术，从这一概念诞生至今的 65 年中，无数电影与小说塑造了各种经典的人工智能角色， AI（ Artificial Intelligence）也很快成为人类未来世界蓝图中的重要组成部分。但在人工智 能不断拓宽我们对未来想象的同时，也不乏“AI 统治世界”等一类的消极论调， 那么，我们当下讨论的 AI 真的即将统治人类吗？AI 真的比我们更聪明吗？ 如果你也对这些问题心存疑虑，又想免于被互联网上的各种言论牵着鼻子走， 那么，图灵奖得主杨立昆（Yann LeCun）的新书《科学之路：人，机器与未 来》或许可以为你提供一份更科学、客观且前沿的人工智能问题参考手册。杨 立昆在书中对人工智能提出了 10 个问题并进行了深入探讨，让我们更全面、 更客观的了解人工智能。 在真正开始有关 AI 的伦理思考之前，我们首先要弄清楚以下三个名词的关系： 人工智能、机器学习与深度学习。人工智能是试图了解智能的实质，并生产出 一种新的能以人类智能相似的方式做出反应的智能机器。目前，开发新应用最 常用的人工智能技术之一就是机器学习，而深度学习是实现机器学习的重要方 法之一，也被杨立昆以及其他许多科学家认为是人工智能的未来。 1/ 人工智能是不可理解的黑匣子吗？ 一些悲观主义者认为深度学习系统是“黑匣子”，我们未来没办法理解和操控 人工智能，但他们错了。诚然，深度学习以模拟人类神经网络为基础，当神
经网络具有数百万个单位和数十亿个连接时，似乎很难完全理解它的工作原理，但这不正是所有智能决策的特点吗？我们不了解让出租车司机、工匠、医生或航空公司飞行员完成他们的工作的神经运作机制，但我们会选择相信他们。为什么要对一台反应更快、不知疲倦、从不分心的机器提出更高的要求呢？当你可以证明它比人类更可靠时，为什么还要对它产生怀疑呢？人工智能系统每天做出数万亿个决策，其中大多数都与查找、分类和过滤信息以及一些稍显无聊的应用程序有关，例如应用于照片和视频的效果。你是否真的愿意花时间和精力来详细了解它们？人工智能的工作能够带来令人满意的效果，这不就够了吗？而且使用没有深入了解其运行机制的系统是一种常见的现象。许多常用药物都是通过反复试错获得的，而我们对其作用机制了解甚少。比如，我们熟悉的且在日常生活中不可被替代的阿司匹林是有史以来使用最广泛的药物，它于1897年首次被合成，可是直到1971年我们才明确其作用机制。2/大脑只是一部可模拟的机器吗？如今，大多数科学家都接受了大脑是生化机器的概念。虽然这是一台复杂的机器，但总归是一台机器。神经元对输入的电信号做出反应，根据从上游神经元接收到的信息计算是否产生电脉冲信号、动作电位或放电脉冲，并将其发送给所有下游神经元。这是一种十分基本的机制。但是，通过结合数十亿个相对简单的神经元的活动，我们便获得了大脑和思想
经网络具有数百万个单位和数十亿个连接时，似乎很难完全理解它的工作原 理，但这不正是所有智能决策的特点吗？ 我们不了解让出租车司机、工匠、医生或航空公司飞行员完成他们的工作的 神经运作机制，但我们会选择相信他们。为什么要对一台反应更快、不知疲 倦、从不分心的机器提出更高的要求呢？当你可以证明它比人类更可靠时， 为什么还要对它产生怀疑呢？ 人工智能系统每天做出数万亿个决策，其中大多数都与查找、分类和过滤信 息以及一些稍显无聊的应用程序有关，例如应用于照片和视频的效果。你是 否真的愿意花时间和精力来详细了解它们？人工智能的工作能够带来令人满 意的效果，这不就够了吗？ 而且使用没有深入了解其运行机制的系统是一种常见的现象。许多常用药物 都是通过反复试错获得的，而我们对其作用机制了解甚少。比如，我们熟悉 的且在日常生活中不可被替代的阿司匹林是有史以来使用最广泛的药物，它 于 1897 年首次被合成，可是直到 1971 年我们才明确其作用机制。 2/ 大脑只是一部可模拟的机器吗？ 如今，大多数科学家都接受了大脑是生化机器的概念。虽然这是一台复杂的 机器，但总归是一台机器。神经元对输入的电信号做出反应，根据从上游神 经元接收到的信息计算是否产生电脉冲信号、动作电位或放电脉冲，并将其 发送给所有下游神经元。这是一种十分基本的机制。但是，通过结合数十亿 个相对简单的神经元的活动，我们便获得了大脑和思想
我意识到，模拟人脑的想法可能会让一些哲学家或有宗教信仰的人极力反对，但是有许多科学家认为思维机制最终将会由可以学习的人工智能系统重现。质疑此观点的人认为，我们对生物、物理、量子和其他系统如何在人体内结合以使大脑发挥作用的了解还远远不够。的确，我们并不能理解这一切，但是我坚信，哺乳动物或人类的大脑是可以“计算“的机器，并且这些计算原则上可以通过电子机器或计算机进行再现。3/人工智能会产生意识吗？意识是一个很难讨论的话题，我们不知道如何衡量和定义它。它与自我意识混淆在了一起，同时，意识被认为是动物存在超级智力的标志。在镜子中认出自己的大象和黑握握已经具有自我意识，而狗不行。我个人认为意识是一种幻觉，它似乎在许多聪明的动物身上存在。人类的意识与注意力息息相关，当面对特殊情况时，我们将注意力集中于此，此时我们会非常专注。当我们玩益智游戏时、准备新的烹饪食谱时、参加辩论时我们的注意力将毫不犹豫地集中在这个不寻常的复杂任务上。它迫使我们开启"世界模型"以规划下一步行动。对我来说，毫无疑问，未来的智能机器应该具备某种形式的意识。也许与人类的不同，它们可以同时专注于多项住务。但它是无法培养意图或发展意识的。我的同事安托万·博兹总结道：“我们甚至没有配方的原料去制造一台既能够制定战略，又对世界有敏锐了解的真正智能机器。如今我们还缺乏一些基础概念
我意识到，模拟人脑的想法可能会让一些哲学家或有宗教信仰的人极力反 对，但是有许多科学家认为思维机制最终将会由可以学习的人工智能系统重 现。 质疑此观点的人认为，我们对生物、物理、量子和其他系统如何在人体内结 合以使大脑发挥作用的了解还远远不够。的确，我们并不能理解这一切，但 是我坚信，哺乳动物或人类的大脑是可以“计算”的机器，并且这些计算原则 上可以通过电子机器或计算机进行再现。 3/ 人工智能会产生意识吗？ 意识是一个很难讨论的话题，我们不知道如何衡量和定义它。它与自我意识 混淆在了一起，同时，意识被认为是动物存在超级智力的标志。在镜子中认 出自己的大象和黑猩猩已经具有自我意识，而狗不行。 我个人认为意识是一种幻觉，它似乎在许多聪明的动物身上存在。人类的意 识与注意力息息相关，当面对特殊情况时，我们将注意力集中于此，此时我 们会非常专注。当我们玩益智游戏时、准备新的烹饪食谱时、参加辩论时， 我们的注意力将毫不犹豫地集中在这个不寻常的复杂任务上。它迫使我们开 启“世界模型”以规划下一步行动。 对我来说，毫无疑问，未来的智能机器应该具备某种形式的意识。也许与人 类的不同，它们可以同时专注于多项任务。但它是无法培养意图或发展意识 的。我的同事安托万·博兹总结道：“我们甚至没有配方的原料去制造一台既能 够制定战略，又对世界有敏锐了解的真正智能机器。如今我们还缺乏一些基 础概念
4/人工智能比人类更聪明吗？人工智能正在改变人类对自身的看法，不断冲击着人类独有的的“物种傲慢。在文艺作品中，AI危险又美丽，为人类服务却各方面都比人类更加强大、更有创意。但在现实中，AI落地的应用却往往不懂常识、行动迟缓且耗能极大。当你凝视人工智能时，人工智能并不一定在凝视你，因为它根本不知道你为什么要凝视他（至少现在不知道）。原因就是人工智能缺乏常识，没有感知，甚至没有办法根据场景变换对已存储的知识活学活用。DeepMind训练了一个可以玩经典雅达利（Atari）视频游戏的系统，系统一共包括80个游戏，每场比赛它至少要花费80个小时来训练，才能勉强达到合格水平，而一个人只需要15分钟就可以做到这一点。但实际上，这80个小时是机器实时玩游戏时所花费的训练时间，在训练结束之后，它可以用（比人类）更快的速度进行游戏，甚至可以同时进行多个游戏。也就是说如果让系统运行更长的时间，它将达到人类无法企及的超高效率。但并不是所有应用AI的系统都有足够的时间成本去用更长时间接受更多的训练，比如自动驾驶领域。自动驾驶系统中的AI必须跟随汽车在道路上行驶以获得更多训练数据一一必须驾驶数百万个小时，模拟引起成干上万次的撞车事故，而后才能学会如何避免撞车。如果汽车掉下悬崖，系统一定会说“哦我一定是错了”，但这只会稍微纠正其策略。第二次，汽车可能会以不同的方式掉下悬崖，然后系统会再次纠正一点。依此类推，在系统彻底弄清楚如何
4/ 人工智能比人类更聪明吗？ 人工智能正在改变人类对自身的看法，不断冲击着人类独有的的“物种”傲 慢。在文艺作品中，AI 危险又美丽，为人类服务却各方面都比人类更加强 大、更有创意。但在现实中，AI 落地的应用却往往不懂常识、行动迟缓且耗 能极大。 当你凝视人工智能时，人工智能并不一定在凝视你，因为它根本不知道你为 什么要凝视他（至少现在不知道）。原因就是人工智能缺乏常识，没有感 知，甚至没有办法根据场景变换对已存储的知识活学活用。 DeepMind 训练了一个可以玩经典雅达利（Atari）视频游戏的系统，系统一 共包括 80 个游戏，每场比赛它至少要花费 80 个小时来训练，才能勉强达到 合格水平，而一个人只需要 15 分钟就可以做到这一点。但实际上，这 80 个 小时是机器实时玩游戏时所花费的训练时间，在训练结束之后，它可以用 （比人类）更快的速度进行游戏，甚至可以同时进行多个游戏。也就是说， 如果让系统运行更长的时间，它将达到人类无法企及的超高效率。 但并不是所有应用 AI 的系统都有足够的时间成本去用更长时间接受更多的训 练，比如自动驾驶领域。自动驾驶系统中的 AI 必须跟随汽车在道路上行驶以 获得更多训练数据——必须驾驶数百万个小时，模拟引起成千上万次的撞车 事故，而后才能学会如何避免撞车。如果汽车掉下悬崖，系统一定会说“哦， 我一定是错了”，但这只会稍微纠正其策略。第二次，汽车可能会以不同的方 式掉下悬崖，然后系统会再次纠正一点。依此类推，在系统彻底弄清楚如何
避免跌落悬崖之前，汽车必须像这样重复跌落悬崖数干次（还不止），其执行难度和资金耗费可想而知。以上两个示例足够说明一点：AI不是天才，不能轻而易举地获得“智慧”，它需要大量的训练和数据支撑才能在某一具体事件上做到人们所说的“聪明”，但这中间耗费的时间、算力等等成本又远远超过人们的普遍预想。到目前为止，人类的学习方法比任何一种人工智能的学习方法都更为有效。在人脑中，额叶专用于获取有关世界运转规律的常识，这就是智力的本质。动物学习的方法与人类学习的方法大致相同。有些物种的天赋更高，在鸟类中，乌鸦就特别有天赋。在海洋动物中，章鱼非常聪明。再说说猫，它们没有人类的推理能力，但依然比最聪明的机器拥有更多的常识，老鼠也一样。所有这些动物都通过观察来学习世界运转的规律，获得了可以增加生存概率的预测模型。如果人类能制造出像老鼠或松鼠一样聪明的机器，人工智能事业或许就成功了。如今，即便是最先进的人工智能系统也存在局限性，它们还不如一只猫聪明。虽然我们已经了解了大脑学习的原理，知道了大脑的结构，但重现其功能所需的计算量是无比巨大的，大约是每秒1.5×1018量级的操作。现在一块GPU每秒可执行1013次计算，功耗约为250瓦。为了达到人脑的计算能力，必须将10万个这样的处理器连接上功耗至少25兆瓦的巨型计算机才能实现。这巨大的能量消耗是人脑的100万倍！因此，深度学习的能力十分强大却又十分有限。目前的深度学习系统仍无法进行逻辑推理，因为当前的逻辑与学习能力并不匹配，这是未来几年的主要挑战。只受过国际象棋训练的机器根本无法下围棋，而且它完全不理解自己
避免跌落悬崖之前，汽车必须像这样重复跌落悬崖数千次（还不止），其执 行难度和资金耗费可想而知。 以上两个示例足够说明一点：AI 不是天才，不能轻而易举地获得“智慧”，它 需要大量的训练和数据支撑才能在某一具体事件上做到人们所说的“聪明”， 但这中间耗费的时间、算力等等成本又远远超过人们的普遍预想。 到目前为止，人类的学习方法比任何一种人工智能的学习方法都更为有效。 在人脑中，额叶专用于获取有关世界运转规律的常识，这就是智力的本质。 动物学习的方法与人类学习的方法大致相同。有些物种的天赋更高，在鸟类 中，乌鸦就特别有天赋。在海洋动物中，章鱼非常聪明。再说说猫，它们没 有人类的推理能力，但依然比最聪明的机器拥有更多的常识，老鼠也一样。 所有这些动物都通过观察来学习世界运转的规律，获得了可以增加生存概率 的预测模型。如果人类能制造出像老鼠或松鼠一样聪明的机器，人工智能事 业或许就成功了。 如今，即便是最先进的人工智能系统也存在局限性，它们还不如一只猫聪 明。虽然我们已经了解了大脑学习的原理，知道了大脑的结构，但重现其功 能所需的计算量是无比巨大的，大约是每秒 1.5×1018 量级的操作。现在一 块 GPU 每秒可执行 1013 次计算，功耗约为 250 瓦。为了达到人脑的计算能 力，必须将 10 万个这样的处理器连接上功耗至少 25 兆瓦的巨型计算机才能 实现。这巨大的能量消耗是人脑的 100 万倍！ 因此，深度学习的能力十分强大却又十分有限。目前的深度学习系统仍无法 进行逻辑推理，因为当前的逻辑与学习能力并不匹配，这是未来几年的主要 挑战。只受过国际象棋训练的机器根本无法下围棋，而且它完全不理解自己
所做的事情，它只不过是机械化地执行指令。如果以生物的智能做一把标尺，人类的智能为100，老鼠的智能为1，那么人工智能在标尺上的位置可能更接近后者。科学面临的挑战是巨大的，技术也是如此。也许你要提起那些仿真机器人来反驳我了，比如“素菲亚”。索菲亚是一位面带神秘微笑、长着一双玻璃眼珠的美丽的光头女人，“她“在2017年的许多舞台上都大放异彩。“她“动人的脸庞能够呈现数十种不同的表情，在调侃一个记者关于地球上有太多机器人的担忧时，“她“笑道：“您好莱坞电影看太多了！“这个经典笑话让她如此酷似人类，以至沙特阿拉伯在当年授予了“她“沙特国籍。实际上，“她“只是一个由工程师预先设定好一系列标准答案的未偶”。当我们与”她“交流时，所有的谈话内容均会经过匹配系统处理，并从得到的答案中选择最合适的一个输出。索菲亚欺骗了人们，“她”只是一个完成度很高的塑料制品，只不过是我们（被这个激活了的物体所感动的人类）赋予了它某些智能。最后，你要是问AI聪明吗？在某种程度、某个范围、某个具体的事件上，在掌握了大量数据和长时间的训练之后，它可以做到更快速的反应、进行更深入的分析并处理更多的并行任务，这时你可以说，AI是聪明的。但在普遍意义的学习能力上，在我们所生活的这个复杂的世界模型里，它还没能积累起足够的世界知识以产生某些常识，你也可以说，AI是不怎么聪明的。5/人工智能会产生人类感情吗？我丝毫不会怀疑自主智能机器有一天会产生情感。当用于测量机器人电池电量的镜头元件产生了较高的成本而致使机器人开始寻找电源时，不正与饥饿
所做的事情，它只不过是机械化地执行指令。如果以生物的智能做一把标 尺，人类的智能为 100，老鼠的智能为 1 ，那么人工智能在标尺上的位置可 能更接近后者。 科学面临的挑战是巨大的，技术也是如此。也许你要提起那些仿真机器人来 反驳我了，比如“索菲亚”。索菲亚是一位面带神秘微笑、长着一双玻璃眼珠 的美丽的光头女人，“她”在 2017 年的许多舞台上都大放异彩。“她”动人的脸 庞能够呈现数十种不同的表情，在调侃一个记者关于地球上有太多机器人的 担忧时，“她”笑道：“您好莱坞电影看太多了！”这个经典笑话让她如此酷似人 类，以至沙特阿拉伯在当年授予了“她”沙特国籍。实际上，“她”只是一个由工 程师预先设定好一系列标准答案的“木偶”。当我们与“她”交流时，所有的谈话 内容均会经过匹配系统处理，并从得到的答案中选择最合适的一个输出。索 菲亚欺骗了人们，“她” 只是一个完成度很高的塑料制品，只不过是我们（被 这个激活了的物体所感动的人类）赋予了它某些智能。 最后，你要是问 AI 聪明吗？在某种程度、某个范围、某个具体的事件上，在 掌握了大量数据和长时间的训练之后，它可以做到更快速的反应、进行更深 入的分析并处理更多的并行任务，这时你可以说，AI 是聪明的。但在普遍意 义的学习能力上，在我们所生活的这个复杂的世界模型里，它还没能积累起 足够的世界知识以产生某些常识，你也可以说，AI 是不怎么聪明的。 5/ 人工智能会产生人类感情吗？ 我丝毫不会怀疑自主智能机器有一天会产生情感。当用于测量机器人电池电 量的镜头元件产生了较高的成本而致使机器人开始寻找电源时，不正与饥饿
的感觉相似吗？当机器因成本高昂而避免采取行动时，或者由于成本低廉而执行任务时，这是否已经可以看作是一种情感的标志？当计算饥饿的目标函数的组成部分产生高成本时，它会触发对食物的搜素。普遍的观点认为，这些行为是目标模块组件不满意的结果。我很清楚地意识到所有这些似乎都是可以简化的。情感是人性的重要组成部分，因此人们不愿意将其数字化为简单的数学函数计算，对将人类行为简化为目标函数的最小化也心存疑虑。但是，我在此提出的仅是关于智能系统的一般体系结构的假设，没有否认目标函数和世界模型的丰富性或复杂性，6/人工智能可以预测未来吗？人们都很喜欢预测，例如预测库存、预测产品的需求、预测一只股票或财务价值的演变曲线那么，人工智能可以预测未来吗？如今的人工智能有一个悸论：它功能极其强大、极其专业化，却没有一点常识。现在让我们回过头来看前文提到的围棋Al一一LeelaZero。Leela如果想要在25路盘面上立于不败之地，则需要更多专门针对25路围棋对战的数据以及更长时间的自我对局训练，才最终有可能获得全胜局面。但Leela不知道围棋的基本常识通用于不同盘面，也不懂得类推和移情。这也从另一个侧面反映出了AI的另一个“不聪明“之处一一对于人类常识的缺失。常识缺失的人工智能是什么样的呢？一个翻译系统有时可能会产生一些滑稽的错误而不自知，自动驾驶汽车可以从点A行驶到点B，但它并不知道什么是驾驶员。比如虚拟助手可以报告交通信息，能调到你点播的广播电台，但
的感觉相似吗？当机器因成本高昂而避免采取行动时，或者由于成本低廉而 执行任务时，这是否已经可以看作是一种情感的标志？ 当计算饥饿的目标函数的组成部分产生高成本时，它会触发对食物的搜索。 普遍的观点认为，这些行为是目标模块组件不满意的结果。 我很清楚地意识到所有这些似乎都是可以简化的。情感是人性的重要组成部 分，因此人们不愿意将其数字化为简单的数学函数计算，对将人类行为简化 为目标函数的最小化也心存疑虑。但是，我在此提出的仅是关于智能系统的 一般体系结构的假设，没有否认目标函数和世界模型的丰富性或复杂性。 6/ 人工智能可以预测未来吗？ 人们都很喜欢预测，例如预测库存、预测产品的需求、预测一只股票或财务 价值的演变曲线. 那么，人工智能可以预测未来吗？ 如今的人工智能有一个悖论：它功能极其强大、极其专业化，却没有一点常 识。 现在让我们回过头来看前文提到的围棋 AI ——LeelaZero。Leela 如果想要 在 25 路盘面上立于不败之地，则需要更多专门针对 25 路围棋对战的数据以 及更长时间的自我对局训练，才最终有可能获得全胜局面。但 Leela 不知道 围棋的基本常识通用于不同盘面，也不懂得类推和移情。这也从另一个侧面 反映出了 AI 的另一个“不聪明”之处——对于人类常识的缺失。 常识缺失的人工智能是什么样的呢？一个翻译系统有时可能会产生一些滑稽 的错误而不自知，自动驾驶汽车可以从点 A 行驶到点 B，但它并不知道什么 是驾驶员。比如虚拟助手可以报告交通信息，能调到你点播的广播电台，但
如果你告诉它，“Alexa，我的手机掉进了浴缸。“它不会知道这代表着你的手机湿了，且需要更换，因为它只能在接受训练的范围内工作。如果想要系统更有效地回答问题，Alexa必须具备一些常识，即一些有关世界运作方式及其物理规律的约束知识。常识至关重要，它制约着我们与世界的联系，它能填补空白，弥补隐含的信息。当我们看到一个坐在桌子旁的人时，可能看不到他的腿，但我们知道他肯定有腿，因为我们对人类有一定的常识。我们的大脑还整合了物理学的基本定律，比如，如果有人打翻了眼前的玻璃杯，那么杯子里的水就会洒得满桌子都是。我们知道如果不拿住某个东西，它就会掉下去。我们还能够意识到时间流逝、方物运动。我们在生命的头几个月和几年中逐渐了解世界的模型一一我有意使用了与人工智能领域相同的词汇，这使我们可以将某个普通的句子补充完整。这个句子的其余部分并没有向我们提供有关整个句子的所有信息，但我们还是能够将这个句子补充完整，因为我们知道世界的运行规律。同样，当我们阅读一个文本时，可以或多或少预测到下一个句子；当我们观看一个视频时，能够或多或少预测到接下来一连串的动作和反应。由此可见，人类常识对于培养人工智能的学习能力至关重要，否则它只是一个功能强大、专业化高，却没有任何概念、文化、什么都不懂且耗能极高的应用程序。目前，机器带有的预测能力十分有限。当然，如果给定一个有些删减的文本，机器有能力给出一个可能的后续单词列表。但是，如果这段文字是阿加莎·克里斯蒂(Agatha Christie)的小说，在最后一幕波罗探长宣布"凶手是
如果你告诉它，“Alexa，我的手机掉进了浴缸。”它不会知道这代表着你的手 机湿了，且需要更换，因为它只能在接受训练的范围内工作。如果想要系统 更有效地回答问题，Alexa 必须具备一些常识，即一些有关世界运作方式及 其物理规律的约束知识。 常识至关重要，它制约着我们与世界的联系，它能填补空白，弥补隐含的信 息。当我们看到一个坐在桌子旁的人时，可能看不到他的腿，但我们知道他 肯定有腿，因为我们对人类有一定的常识。我们的大脑还整合了物理学的基 本定律，比如，如果有人打翻了眼前的玻璃杯，那么杯子里的水就会洒得满 桌子都是。我们知道如果不拿住某个东西，它就会掉下去。我们还能够意识 到时间流逝、万物运动。 我们在生命的头几个月和几年中逐渐了解世界的模型——我有意使用了与人 工智能领域相同的词汇，这使我们可以将某个普通的句子补充完整。这个句 子的其余部分并没有向我们提供有关整个句子的所有信息，但我们还是能够 将这个句子补充完整，因为我们知道世界的运行规律。同样，当我们阅读一 个文本时，可以或多或少预测到下一个句子；当我们观看一个视频时，能够 或多或少预测到接下来一连串的动作和反应。 由此可见，人类常识对于培养人工智能的学习能力至关重要，否则它只是一 个功能强大、专业化高，却没有任何概念、文化、什么都不懂且耗能极高的 应用程序。 目前，机器带有的预测能力十分有限。当然，如果给定一个有些删减的文 本，机器有能力给出一个可能的后续单词列表。但是，如果这段文字是阿加 莎·克里斯蒂(Agatha Christie)的小说，在最后一幕波罗探长宣布“凶手是
先生”，那么，为了完成这个句子需要读者有很强的常识和对人性的了解。很显然，没有哪一台机器能做到这一点。更不用提预测人类世界的未来了。7/人工智能会统治世界吗？在经典科幻电影《我，机器人》（I,Robot）中，机器人具有自我进化能力转化成了人类的”机械公敌”，制造者和被制造著展开了战争。这恐怕也是很多人对人工智能未来的担忧。我们对机器人想要取得权力的恐惧主要来自人性特质在机器上的投射。对大多数人来说，人类与智慧生物的唯一互动就是与其他人类的互动，正因如此，我们混淆了智力和人性。这是一个错误，因为还有其他形式的智力存在，即使在动物界也是如此。人类同倭黑猩猩、黑猩猩、狒狒和其他一些灵长类动物一样，具有复杂且通常带有等级制的社会组织，每个个体的生存（或舒适度）取决于它影响该物种其他成员的能力（统治只是影响的一种形式）。我们是社会性动物的事实解释了我们为什么把对统治的渴望与智力联系在一起。除了对统治的渴望，为了人类物种（或基因）的生存，我们的许多冲动和情感已通过进化建立了起来，其中包括好奇心，对探索的渴望，竞争力，屈服，渴望与我们的同类接触，爱，仇恨，掠食，以及我们对家庭成员、我们的部族、我们的文化、我们的国家的偏爱。没有这些冲动和情感的人、动物或机器也都可以是有智慧的。我们必须将这个问题说得清晰透彻：只有当我们在智能机器中明确地建立了这种欲望时，它们才会渴望统治人类。但我们为什么要这样做呢？
先生”，那么，为了完成这个句子需要读者有很强的常识和对人性的了解。很 显然，没有哪一台机器能做到这一点。更不用提预测人类世界的未来了。 7/ 人工智能会统治世界吗？ 在经典科幻电影《我，机器人》（I,Robot）中，机器人具有自我进化能力， 转化成了人类的“机械公敌”，制造者和被制造者展开了战争。这恐怕也是很 多人对人工智能未来的担忧。 我们对机器人想要取得权力的恐惧主要来自人性特质在机器上的投射。对大 多数人来说，人类与智慧生物的唯一互动就是与其他人类的互动，正因如 此，我们混淆了智力和人性。这是一个错误，因为还有其他形式的智力存 在，即使在动物界也是如此。 人类同倭黑猩猩、黑猩猩、狒狒和其他一些灵长类动物一样，具有复杂且通 常带有等级制的社会组织，每个个体的生存（或舒适度）取决于它影响该物 种其他成员的能力（统治只是影响的一种形式）。我们是社会性动物的事实 解释了我们为什么把对统治的渴望与智力联系在一起。 除了对统治的渴望，为了人类物种（或基因）的生存，我们的许多冲动和情 感已通过进化建立了起来，其中包括好奇心，对探索的渴望，竞争力，屈 服，渴望与我们的同类接触，爱，仇恨，掠食，以及我们对家庭成员、我们 的部族、我们的文化、我们的国家的偏爱。没有这些冲动和情感的人、动物 或机器也都可以是有智慧的。我们必须将这个问题说得清晰透彻：只有当我 们在智能机器中明确地建立了这种欲望时，它们才会渴望统治人类。但我们 为什么要这样做呢？