解读《未来简史》：我们担心人工智能，其实担心的不是机器而是人

本文来源于微信公众号：笔记侠

微信ID：Notesman

责编 | 清野

内容来源：8月20日，中信出版集团旗下“中信书院APP”邀请骆新来到上海书展现场，解读《未来简史》。

笔记君邀您，阅读前先思考：

阿西莫夫的机器人三定律是什么?

人和机器的本质区别是什么?

如何判定什么是人，什么是智能?

尤瓦尔·赫拉利最想得到的答案是什么?

完整笔记·人类简史

人工智能给我们带来的是什么?

对于人工智能，我们持有乐观的想法。因为人工智能越来越多的取代人类所做的事情，会让人解放成一个“神”。这也是尤瓦尔·赫拉利从《人类简史》到《未来简史》一直在叙述的过程。这两本书连起来，尤瓦尔·赫拉利的叙事方式总结起来一共三句话：

人类社会的进程，“人”从普通动物经过农业革命变成有意识的人，再经过科学革命成为“神人”，我们此生追求永恒、追求不死，科技进步一定可以帮助人类实现这个梦想。

当然尤瓦尔·赫拉利也在问，我们真的能够通过科学找到我们的快乐吗?可以用乐观的方式去解释，也可以从悲观的方向理解。

一、我们担心人工智能，

其实担心的不是机器

1942年，阿西莫夫在短篇小说“Runaround”(《环舞》)中首次提出了三定律：

第一，机器人不得伤害人类，或因不作为使人类受到伤害;

第二，除非违背第一定律，机器人必须服从人类的命令;

第三，除非违背第一及第二定律，机器人必须保护自己。

后来，阿西莫夫加入了一条新定律：第零定律。

现在问题就出来了，这个定律第一条就站不住脚。如果今天我们跟国外开战，动用了机器人轰炸机。我方认为应该消灭对方，但对方也是人，这个定律的内在缺陷就凸显出来了。

机器应不应该开枪，如何设置机器的行为逻辑?

由于第一条有内容缺陷，第二第三也不能保证。所以他加了“第零定律”，优于之前的三条：机器人不得伤害人类整体，或因不作为使人类整体受到伤害。

假如把机器人轰炸机加入界定：你可以伤害人，但是不以伤害人类整体为目的。这个定律是否解决了机器人的逻辑?

反过来想这个问题，如果我是恐怖分子本身，我怎么会认为我是恐怖分子?所以消灭你们对于我来说才是保护了人类的整体。

要注意到四个定律不能形成的主要原因：你站在任何位置看待世界都和另外一个人完全不一样。

就跟夫妻吵架似的，夫妻两人天生有自己的利益纠葛，你如何判定只有你的看法是正确的?如果用你的方式，机器人就成为了消灭另外一方主要的力量。

活动现场

我看了尤瓦尔·赫拉利的《未来简史》，让我感动的是，他所谓的《未来简史》够像这个英文的标题一样，HOMO DEUS，HOMO(人类)来自于拉丁文一个词汇“上帝”，人是不是成为“上帝”，成为“神”?

我们总是以为科幻小说是科幻，但是人类为什么有神话?神话是信息交流不畅通的时候不得不把看到的不理解的事物通过想像弥合。

科幻一定是建立在信息极度丰富的基础上，人类才对未来发生想像。但是问题来了，科幻跟科学没有半毛钱关系。

如果是你，你会做什么选择?

今天我们相信大数据能帮我们解决一切。请问一辆车在街上走，突然，它面对了一位小朋友，这时路边有一位老同志，这辆车怎么办?它计算这个孩子还要活很多年，旁边有老同志已经活了七八十年，它要不要把没有违反交通规则的老同志撞死?

你以为这个问题只是问给人类本身吗?这个问题同样也问给我们的今天的数字化和机器人时代。

你以为我们恐惧的是机器本身吗?机器从诞生的一开始就不断地替代人类做很多事情，人跑得再快，跑不过汽车;再能打击对方，也比不过一颗原子弹。人类发明的所有机器都是对人能动性延伸的产物。

我们担心人工智能，其实担心的不是机器，担心的还是人。“人会如何确定人工智能的逻辑”才是最核心的。

人工智能该如何给这辆车设定最好的逻辑，未来该撞谁不撞谁?百度、谷歌都在推广无人驾驶汽车，面临的问题已经出来了。

记住那句话，这个世界没有科幻小说，打着科学名义的科幻小说，都是一部哲学小说。科幻小说里面面临的所有选择，在我们现实生活中都会遇到，只是科幻小说有更加极致的设计。

感谢诺兰(克里斯托弗·诺兰，代表作《星际穿越》)，感谢很多的科幻电影制作人，他们不断地为我们提供这样的设计。

二、人和机器的本质区别是什么?

图灵在1954年发明计算机时说过，人工智能赶上人类时，把人和机器分别关在不同的小黑屋，问相同的问题(即图灵测试)，如果不能辨清哪边是人、哪边是智能，则可判定人工智能已经赶上人类。

如果给机器和人做图灵测试，你会问他们什么问题来判定哪个屋里的是人，哪个屋里的是机器?

我们如何判定什么是人，什么是智能?

我们经常问出这样的问题：

一个球击穿了一张桌子，因为它是泡沫塑料做的，请问泡沫塑料做的是球还是桌子?

猫躺在地毯，它感觉很温暖。请问谁很温暖，是猫还是地毯?

警察不愿意给示威者提供游行的许可证，因为他们担心会发生暴力冲突。请问会使用暴力的是警察还是游行者?

这就是图灵问题的核心。你发现没有，很多问题都是代词问题，“它”指谁?人类社会一个5岁孩子都会回答的问题，但是计算机没有办法进行训练。

我回去我妈妈在，我走了她还在，她一直在。如果假设有一个妈妈，她会给爸爸打电话，说她在家。

“她在家”指的是谁?孩子都能知道，但是机器很难通过逻辑运算获得。这就是人类和机器本质的区别。

我的朋友认为人和机器的本质区别是，人类有时间、智能、认知、道德不同的界定。

你在说话和行为当中永远会有变化，你不是一个机器，你不是不可变的，你随时在发生着改变，所以你所有的语言都有语境。

小明给领导送了一个包包，领导问他，你这是什么意思?

小明说：没什么意思，意思意思。

领导说，你这么做可就不够意思了。

小明说：就一点小意思，小意思。

领导说：你这个人可真有意思呀。

小明说：其实我也没有别的意思。

领导说：那我就不好意思了。

请给我解释，这个“意思”是什么意思?

我做新闻，喜欢读古代哲学家或者文化人的书。洛克写的很多内容前后是矛盾的，前面好像是反对主权的，后面又是自由主义占先导。为什么有这样的变化?

因为洛克本身就是在变化的，什么是“你”?此刻你是你，还是下一秒的你是你。本质上洛克的很多东西没有发生变化，但是语言表述让你觉得完全是两个人，这两个人其实很统一。

今天我们的思维认为，一个东西一旦被设定就不能改变了。

《战狼2》票房已经有51亿，大家从来没有想过这片子能卖这么多钱。有人问吴京，你做过大数据计算吗?

大数据计算成功的例子有，比如说前不久看过跟狗有关的片子，这是阿里巴巴根据阿里云在网上销售的狗食猫食数据得到的。

发现这些人年轻、有钱、有闲、有爱心，买东西不注重价格。经大数据计算发现完全可以给他们做出一个产品，他们预计票房是8千万，最后卖6.5亿。

大数据完全预测了我们的行为，但是你如何预测《战狼2》?没有任何公司给他投资，他只能拿到8千万，谁知道这个片子火成这样。

时间、智能、道德、认知包含了诸多偶然性，社会绝不是一个进步和退步的过程，它是由很多方方面面，甚至你完全意想不到的“灰犀牛”和“黑天鹅”构成的。

不要那么自以为是，不要认为我们才能决定一切。

三、如果人工智能让人变得无所不能，活着的意义何在?

由于现在是互联网时代，我们其实很少考虑生命的意义。我们总觉得如果有一天，计算机替我们解决了一切问题，那是幸福的时代。人们很难理解霍金这样观点，他总说计算机不能解决一切，只会给我们带来灾难。

我知道的是，人类希望成为神，成为真正意义上伟大的圣人。人工智能给我们提供了三种选项，通过人工智能做身体延伸，通过无机植入改变有机的功能。

这都是想法，但是对于我来说，我觉得最值得担心的是我们对未来生活的无限憧憬，让我们忘记了，只有痛苦是我们活着的意义。

如果人工智能让你变得无所不能，请问你活着的意义何在呢?

我的朋友是南京政治学院心理系的教授，他跟我说了一句话，你忧郁和快乐可能取决肠道菌群。所以有一个人天生快乐不是他乐观，是因为肠道里面快乐的神经细胞多，所以让你从忧郁到快乐最好的方式是吃快乐者的粪便。当然这是半开玩笑。

人类为什么有感情?因为感情是意志的产物。

《海底总动员》有小动物找爸爸的情节，实际上动物不会有找爸爸的行为，因为动物不需要有感情。

人类需要感情，是因为人如果没有感情，生下的孩子没有办法渡过漫长的10年的生长期。感情不至于让母亲把孩子扔到残酷的社会当中，让他死掉;让男性不至于抛弃伴侣，所以，人需要情感。

只有越高等级的动物才有情感的需求。

所以只有人类会去找孩子非常复杂的基因留存下来。这和道德与否毫无关系，和你意识怎么样毫无关系。但是人工智能改变了这一切，它告诉你这些东西都可以通过算法完成，那么你还需要建立这样的感情吗?

只需要把感情去掉，你再也没有悲伤可言。

同样如果我们通过什么样的方式造出一个永生不绝的人，所有的疾病都将没有，他将永久性地活下去，甚至有一些人可以消灭所有的人，成为世界真正的胜者和上帝。

社会的不平等又出来了，有人花钱让自己活下去，总有人活不下去，甚至被人奴役。这是尤瓦尔·赫拉利最重要的思考，但是他这种思考也没有什么必要。

我们通过人工智能方式想变得更加完美，但是我非常绝望地跟大家说一句话，包括尤瓦尔·赫拉利这本书当中潜台词告诉你：

你之所以活的这个世界，我之所以活的世界，是因为我们每个人都有缺陷。你的缺陷是你可以在社会上活下来的理由，正是因为你有痛苦，所以你才有奋斗的动力;正是因为物资永远不足，所以你要获得物资。如果你是没有痛苦的人，你将不复存在。

如果没有死亡做参照，你的永生有什么意思。

如果我们有一天发现所有需要的东西都可以完成的话，突然就会找不到生存的意义了。

尤瓦尔·赫拉利在写过《人类简史》之后接受过BBC采访，我只记得他在节目的最后一句话。记者问他，如果让你找到一个问题的答案，你现在唾手可得，可以实现这个梦想。请告诉我，你最想得到的答案是什么?

尤瓦尔·赫拉利花了很长时间思考，他回答说，我就想得到这个问题的答案——人活着究竟有什么意义?

尤瓦尔·赫拉利希望让我们知道历史是一个二级混沌系统，人类无论对未来的人工智能持乐观还是悲观态度，只要对明天进行了预测，这就是人类存在的意义。你的预测本身就正在改变你。

如果你对人工智能有所警惕的话，你就会在使用当中加以某些限制。预测会改变人类也会改变某些历史，最好的预测是我们谁也看不到结果，别妄图有任何人可以准确地预测到未来。

我到今天为止没有看到任何一种说法是明智的。

我非常喜欢哲学家罗素的书《西方哲学史》，建议大家看一看。最后谁是真正有弱点人?全是。谁是真正完美的人?没有。包括罗素本身都没有这么完美。不要追求完美，追求完美本身就是一种病态。

这个社会没有那么完美，但是承认不完美，努力改变它，就是我们这个人真正要做的事情。你也许终生看不到未来的希望，但是请你相信，这个社会不断地妥协，不断地通过算法博弈中的结果，产生超乎所有人想像的历史走向。

就算你看到历史没有你真正希望的正义，你都应该有一个起码的道德追求，那就是反思。人工智能永远不可能打败人类的原因只有一个准则，就是人类具有对自我行为反思的能力，无论的反思究竟能不能产生结果。这也是你有异于人工智能的地方。

你无论如何都不能避免成为自己情感的奴隶，但是正因为有情感我们才是人，而不是人工智能。

今天我对尤瓦尔·赫拉利《未来简史》的解读还不够。但“反思”是我多年从事电视工作，从事新闻工作一贯追求的方向。

我们人这一辈子都在反思自己，没有反思的人生是不值得过的，这是苏格拉底的名言。为什么希望大家多来上海书展，就是希望大家从不一样的书籍当中去体会不一样的人生，才不会用单一的视角看待这个世界。

首先因为我们有反思我们才是人，希望你多多为自己行为做出反思。第二，《未来简史》其实说的是人类的历史，我们从哪儿来，要到何处去。只有搞清楚我们从哪儿来，才能知道要到何处去。

希望今天能够给大家一点小小的启发，我只能给大家提供换一个角度看问题的建议和参考。

谢谢大家!