他停了一会儿洗洗手,然后他们坐在了小吃部里,面前摆着大汉堡、炸薯条和苏打 饼 罗格说:“爸爸,蒙绨维克出问题了吗?” 他爸爸沮丧地说:“我们还没检查完呢,有了结果我会慢慢告诉你的。” 可它看起来在工作啊,我的意思是,我听见它的声音了。” “哦,没错,它确实在工作,它只是并不总能给出正确的答案。” 罗格今年13岁,四年级的时候就开始上计算机课了。有时候他真讨厌这门课,真希 望自己生活在二十世纪,那时候的孩子们可不用上这门课。—一但有时候和他爸爸谈谈 是有用的 罗格说:“假如只有蒙绨维克知道答案的话,你怎么知道它并不总能绐出正确的答案 他爸爸耸了耸肩,罗格以为他爸爸会说这很难解释而不给他谈论下去一一但他的爸 爸几乎从来没有这么干过。 他爸爸说:“孩子,蒙绨维克可能有一个大得像个工厂的大脑,但它并不像我们的这 么复杂,”他拍了下自己的脑袋,“有时候,它能给出我们凭人工一千年也算不出来的答 案:但同样有时候什么东西在我们脑中一闪现,然后我们说,‘哇喔,这儿有问题!然 后我们再问蒙绨维克,而它给出了另外一个答案。你知道,要是蒙绨维克是对的,同样 的问题我们应该得到同样的答案。现在有不同的答案,那么就必然有一个是错的。” “现在的问题是,孩子,我们怎么能保证我们总是能发现蒙绨维克出错,我们怎么 知道是不是有些错误的答案从我们脑中溜了出去?当我们依赖蒙绨维克的答案去做什么 事情的时候,而在五年之后才发现蒙绨维克的答案错了,这是非常悲惨的。蒙绨维克里 面一定有什么地方不对,但我们找不出来。而这个问题会越来越糟糕的。” 为什么会越来越糟?” 他爸爸吃完了汉堡,又开始一块一块地吃薯条。“这是我的感觉,孩子,”他沉思着 说,“我们造它的时候用错了智能模式。” 嗯? “罗格你看,要是蒙绨维克像人一样聪明,我们可以告诉它,然后不管错误多么复 杂我们可以一起找出来。而要是它像一个机器一样机械,它出错的时候会简单得多,我 们也很容易找到。麻烦在于,它是半智能的,像个白痴一样。它足够聪明能够犯极其复 杂的错误,但不够聪明能帮助我们找出错误所在。一一这就是错误的智能模式。” 罗格的爸爸看起来十分沮丧,“但我们能做什么?我们不知道怎么将它变得更聪明 点一—现在还不能。我们也不敢把它变得更笨些,因为世界上的问题越来越严重,我们 提出的问题极其复杂需要蒙绨维克全部的智慧去解答。把它变笨些会造成灾难他停了一会儿洗洗手，然后他们坐在了小吃部里，面前摆着大汉堡、炸薯条和苏打 饼。 罗格说：“爸爸，蒙绨维克出问题了吗？” 他爸爸沮丧地说：“我们还没检查完呢，有了结果我会慢慢告诉你的。” “可它看起来在工作啊，我的意思是，我听见它的声音了。” “哦，没错，它确实在工作，它只是并不总能给出正确的答案。” 罗格今年 13 岁，四年级的时候就开始上计算机课了。有时候他真讨厌这门课，真希 望自己生活在二十世纪，那时候的孩子们可不用上这门课。——但有时候和他爸爸谈谈 是有用的。 罗格说：“假如只有蒙绨维克知道答案的话，你怎么知道它并不总能给出正确的答案 呢？” 他爸爸耸了耸肩，罗格以为他爸爸会说这很难解释而不给他谈论下去——但他的爸 爸几乎从来没有这么干过。 他爸爸说：“孩子，蒙绨维克可能有一个大得像个工厂的大脑，但它并不像我们的这 么复杂，”他拍了下自己的脑袋，“有时候，它能给出我们凭人工一千年也算不出来的答 案；但同样有时候什么东西在我们脑中一闪现，然后我们说，‘哇喔，这儿有问题！’然 后我们再问蒙绨维克，而它给出了另外一个答案。你知道，要是蒙绨维克是对的，同样 的问题我们应该得到同样的答案。现在有不同的答案，那么就必然有一个是错的。” “现在的问题是，孩子，我们怎么能保证我们总是能发现蒙绨维克出错，我们怎么 知道是不是有些错误的答案从我们脑中溜了出去？当我们依赖蒙绨维克的答案去做什么 事情的时候，而在五年之后才发现蒙绨维克的答案错了，这是非常悲惨的。蒙绨维克里 面一定有什么地方不对，但我们找不出来。而这个问题会越来越糟糕的。” “为什么会越来越糟？” 他爸爸吃完了汉堡，又开始一块一块地吃薯条。“这是我的感觉，孩子，”他沉思着 说，“我们造它的时候用错了智能模式。” “嗯？” “罗格你看，要是蒙绨维克像人一样聪明，我们可以告诉它，然后不管错误多么复 杂我们可以一起找出来。而要是它像一个机器一样机械，它出错的时候会简单得多，我 们也很容易找到。麻烦在于，它是半智能的，像个白痴一样。它足够聪明能够犯极其复 杂的错误，但不够聪明能帮助我们找出错误所在。——这就是错误的智能模式。” 罗格的爸爸看起来十分沮丧，“但我们能做什么？我们不知道怎么将它变得更聪明一 点——现在还不能。我们也不敢把它变得更笨些，因为世界上的问题越来越严重，我们 提出的问题极其复杂需要蒙绨维克全部的智慧去解答。把它变笨些会造成灾难的