A前瞻官网
前瞻网
a 当前位置: 前瞻网 » 资讯 » 大咖

雨果奖得主郝景芳谈人工智能:AI在彼岸,我们在此岸

分享到:
 郝景芳 • 2017-11-07 16:58:27 来源:笔记侠 E531G0
100大行业全景图谱

雨果奖得主郝景芳谈人工智能:AI在彼岸,我们在此岸

本文来源于微信公众号:笔记侠

微信ID:Notesman

图片制作 | 邱小军 Holly kay

侠客&责编 | kay

内容来源:2017年11月5日,在腾讯第五届WE大会上,中国科幻作家、第74届雨果奖获得者郝景芳所做分享,笔记侠作为合作方,经主办方审核授权发布。

完整笔记·人工智能

笔记君邀您,先思考:

如果哥伦布没有发现新大陆对中国哪个菜系影响最大?

明年可以学英语,也可以学编程,你会选择什么?为什么?

当你看到一位老人跌倒了,怎么做?

(这三个问题在文章中均有讨论)

我今天作为一个科幻小说家被邀请,所以就轻松一点,给大家讲讲故事。

讲的有关人工智能的故事。

一、给人工智能做测试

前些日子看过一部电影叫《机械姬》,讲一个很有钱的老板请了一个科学家去帮他测试他的人工智能能不能通过图灵测试。

我今天要讲的故事是前一段时间又有一个老板,他请我过去,说你作为一个科幻作家帮我测一测我刚刚花了大价钱买的人工智能机器不能通过图灵测试。

笔记侠注:图灵测试是目前认为判断人工智能是否达到人类智能的一种方法。

让人类与人工智能/人的对话,如果这个人能判断出对方是人工智能,则还没有达到人类智能;如果不能分辨出对方是人还是人工智能,则认为这个人工智能已经等同于人类的智能了。

我问,你这个机器是什么算法,什么原理?他说就是现在最流行深度学习、强化学习、大数据学习。

我说,好,我用三个小测试就能帮你测出来,我猜它是不能通过图灵测试的。这三个小测试很简单,就是我们人都会的,但是机器现在都不会的测试。

2

郝景芳女士演讲现场

第一个测试题:如果哥伦布没有发现新大陆对中国哪个菜系影响最大?

答案是川菜。

这个题目对我们人类实在是太简单了,我们都知道哥伦布从美国带回了南瓜、玉米、红薯、花生、辣椒,还有很多别的食物。

对哪个菜系影响最大?对于吃货界来讲,也不难回答,如果没有辣椒,就没有川菜,所以肯定是对川菜影响最大。

而这是个涉及到我们日常生活常识的题目,尽管所有的其他食物也很重要,但是只有辣椒这个灵魂式的调味品受的影响最大。

但是,对于人工智能,这是一个跨界问题,它涉及到历史、日常生活的常识、饮食。对这种跨界问题、常识问题,人工智能是答不出来的。

第二个测试题:找位女士对人工智能说她没想到今天这么冷,看人工智能如何回复。

人工智能如果回复给她一个天气预报,肯定不是她心里希望的。

假设一个女孩子对你说了这样的话,她希望你怎么回复她?抱抱?这没有唯一的答案,回复要看你和她的关系;要看这个女孩子有着怎样的个性;也要看当时是在一个什么样的场合下。

如果真的是一个跟你关系很不错,有一点暧昧的可爱的姑娘、萌妹子,说这个话也许是想让你把衣服给她,然后顺便抱抱。

但是如果不是这样的场合,是一个女老板,刚正不阿的女上司,她说没想到今天这么冷,那你说我抱抱您吧,她说不定会给你一巴掌。

因为她可能是跟你说,你的工作是失职的,为什么没有给我把房间弄得更暖和一点,这个时候你得赶紧说对不起老板,我下次给您提前安排。

所以,这是一种当对方说出一句话的时候,他心里的意思、他希望我们的回应,完全因人而异的问题,需要我们能够察言观色,能够体察对方、理解他人的心思才能够给出正确答案。

我说,这种问题人工智能是不会解答的,测这个问题它肯定不行。

第三个测试题:明年可以学英语,也可以学编程,你会选择学什么?为什么?

这种问题对于人类来说也很容易的,我们每天都在看形形色色的广告,每天被各种各样的信息充斥,我们能够根据我们自身选出自己想要的。

但这也是没有正确答案的问题,因为实际上该学什么,你要知道自己是一个什么性格的人,梦想是什么,未来的目标是什么,要想达到目标该怎么做,都要从你自身找答案,答案和原因都要根据你自己来做。

人工智能它们没有这种元认知能力,不理解自己,并不能够为自己做决定。当你跟AlphaGo说下围棋,它不会说我不要下围棋,我今天想去看场电影,因为它并没有对于自我的了解、自我的认知。

所以我说这种能够从自己出发做决定的能力,也能够看得出来人工智能和人的区别。

然后老板就问我说,可是你说的这几个东西在我听起来实在是太简单了,AlphaGo都这么厉害了,AlphaGo Zero在已经战胜了原本的AlphaGo,它不能很快就学会吗?

我说那我们要来看看AlphaGo它会什么、不会什么。AlphaGo厉害的地方在于深度学习、强化学习,它有很强的算力、有大数据。

深度学习是一种神经网络,是一种基于大数据的统计的算法,模仿了我们大脑皮层的神经网络,能够从很多的数据里面找到规律,自己学到最好的算法。

它和过去上一代的人工智能最大的不一样就是上一代的人工智能经常是专家系统,专家告诉你怎么下棋你就怎样下棋,但是这一代的人工智能用了这样深度学习的办法,可以自己学会下棋的套路。

但是非常有局限性,因为这样的深度学习算法它只能够处理数据透明、规则明确的一个特定领域的问题。

也就是说,在一个特定的边界里面,处理这个边界里面的数据,然后找到最好的结果。

AlphaGo并不知道它自己在下围棋,也不知道自己是AlphaGo,不知道它战胜了世界上所有的高手,它下了围棋也不会高兴。

它只是在处理一些数据,并没有我们刚才说过的一些高层次认知能力,自我认知能力,自我意识能力。

然后老板说,我知道现在算力是进展很快的,过几天我们计算能力又上了一个新台阶,你说的这些高级能力是不是就能够学会了呢?

我说,其实我相信未来总有一天人工智能会克服这些难关,学到我刚才说的这些能力。

但是,这是阶梯状的,并不是拿现在的算法增强算力,就一定能够解决所有的问题,而是要跨过一个又一个槛,上一个又一个台阶。

这就像是当时发明了蒸汽机、电,人们就觉得自己能够解决世界上所有的问题了。物理大厦就剩下了三朵小乌云,后来就是这三朵小乌云提出了相对论、量子力学,把人类带入了新的世界。

二、人工智能头上的“3朵小乌云”

我说,未来可能会实现,但是它需要有很大的鸿沟、很大的跨越,才能够实现。

现在人工智能头上三朵小乌云的就是综合认知能力、理解他人的能力、自我决定的能力。

1.综合认知的能力困难在哪?

现在的深度学习网络,一个网络只能学习一件事情,当它学习了下围棋,把围棋领域的数据都学会了之后,它的整个网络记住了这一件事情,一旦这个网络再去学另外一件事情,就会把前一件事情忘记了,因为它是用整个网络所有的参数来学习了这一件事情。

这个在科学界被称为“遗忘的灾难”。一个网络,一个这样的人工智能只能干一件事情,只能在一个特定领域里面做一件狭窄的事情,不可能像我们人一样有通识的能力。

我们人和人工智能很大的不同,就是我们人是触类旁通的。

当我们学习了政治、经济、历史、社会文化、家庭日常生活的做饭、交通出行,我们不会认为这些都是不同领域的事情,我们是把它融会贯通,融在一起。

人类在我们的头脑当中有一个世界模型,很多时候我们并没有意识到这个世界模型的存在,但是这个世界模型非常重要,它就是我们对物理世界,对于人情世故等常识的来源。

当我们有了这样的世界模型,在我们在看眼前的一幅画面二维画面的时候,我们会用自己头脑当中的知识,把这个画面构建成一个三维的,栩栩如生的画面。

3

例如,我们现在看到礼堂、舞台、座位,我们会觉得这是一个有纵深的、三维的舞台。可是人工智能没有这样一个世界模型,它分辨图象要用非常非常多的计算来做。

现在有一些实验室已经开始试图用这样一个模型来构造这样的视觉。

但我们人类的头脑当中都有这样的模型,我们有关于世界的理解、关于他人的理解,关于整个社会的理解。

我们的常识系统,这种通识知识体系,是我们理解事情的基础,也是我们超越人工智能的地方。

2.理解他人的能力。

现在的技术已经可以进行一些人工智能和人的语言对话,但只有在特定领域的专业问答,可以有比较好的答案匹配,自然语言处理仍然还是一个难题。

为什么自然语言处理会难呢?

首先,因为实际上人工智能还仍然不能理解大量的情景,就是因为它的头脑里没有对人类世界、物理世界、人情世界的通识知识体系,所以要理解很多的自然情景会很困难。

现在的语言很多时候是用的这样一个优化算法的搜索,你出了一个问题,它去搜索一个答案匹配给你,但是很多时候并不能够真正理解你的意思。

此外,人工智能由于没有丰富的情感世界,并不能够推己及人。

我们人类是怎样相互了解彼此的?

第一,我们用目光接触。

研究共情(也称为神入、同理心、同感、同理心、投情等)的学者会发现,灵长类之一的大猩猩可以通过这样的目光交流,人类绝对可以通过目光来理解对方,小孩子大概从9个月的时候就开始有这种能力。

我们头脑中有镜像神经元,镜像神经元可以直接反映出对方的一些意图和对方的感受,我们能够直接感受到对方。

第二,我们有推己及人的能力。

我们生病的时候希望对方嘘寒问暖,我们就能够推导出对方生病的时候,一定希望我们嘘寒问暖,而人工智能由于没有这样的内部的情感,自然也很难推己及人。

人工智能在理解他人的能力方面,目前还是有很多的困难。我也知道有很多实验室,现在已经开始试图把整个的认知框架、认知模型带到自然语言处理上,但是成果可能是很久很久以后的事情。

3.自我决定的能力。

自我决定的能力需要两个方面的突破:一个是自我表征的能力。人工智能需要能够自己说出来,我自己做这个事情是为什么。

这种真正提取出对于自己来说有意义的因果表达能力,它使得我们做很多事情可以举一反三,可以泛化,我们可以从一件事情学到的东西,可以带着这样的因果关系用到另外的事情。但是,人工智能在很多时候缺少这样的语言认知能力。

另一个是人工智能要说出“原来这就是我呀。”这样的一种自我意识。然而不知道要到未来多久之后才会产生。

其实人工智能目前并不是一个独立体系,不像我们人类,每个人所有的思想、灵魂都封闭在身体里,并不能随时联通到互联网,而人工智能很多时候是要与其他的网络去连接、联通。

所以,这样的孤立的自我意识,很可能跟我们人完全不一样。

现在这几朵小小的乌云是人工智能目前不能做到的和我们人类一样的地方,未来有没什么可能突破呢?

有可能,虽然不是现在,因为不仅仅要靠算力提高,还需要有更好的、更强的综合性算法,以及更多技术突破。

三、如何让人工智能达到更高的水平?

这时老板就问我说,你觉得人工智能未来人如何才能达到一个更高水平的智慧呢?我说其实最好的方法就是更多地了解我们人自身,理解我们人类自身的心智系统是什么样的。

人工智能能够在一个领域里面做到极致,但是我们人是一个自我综合协调的系统,并不是单一心智。

人工智能学家马文·明斯,1985写过一本书叫《心智社会》,把人比作一个社会,人的心智里面的每一部分,都像一个小人一样,众多小人在一起组成了一个完整的、复杂的社会。人并不是有单一心智的。

马文·明斯在《情感机器》中说,“我认为人类的尊严来自于人类自身的构造,处理多种情况和困难的不计其数的方法和多样性正是人和动物,与过去所知道的机器的主要区别。”

这是什么意思呢?现在很多时候,当我们制造机器的时候,我们总想寻找一种通用智能,就是用这一个智能解决所有的问题,但人类其实不是这样的。

人是综合智能,在人的头脑里面有不一样的智能进行问题处理。

当我们在街上看到一个车过来的时候,杏仁核发出警报,告诉我们危险要躲开;

当我们看到一个老人摔倒在街上,一种同情怜悯之心让我们想把他扶起来,但是一个批判的声音说,他有可能是骗子要躲开,但是又有一个正义的声音说,即使他是骗子,这样可怜的老人我是不是应该帮助他。

但是还会有一个综合的,从一个全景的的角度会去分析这个时候的形势、分析这个时候个人的情况、分析这个时候社会的状况,可能会报警,也可能会介入处理当时的状况。

所以在任何一个情形下,我们其实并不是用统一的单一的智能来进行处理日常的情况,我们的头脑中其实有很多声音。

人工智能目前只是一个绝顶的武林高手,但对于我们任何一个人来说,我们的头脑里都是一个武林门派,更多的是一种综合处理,统一协调的系统性方法。

所以我觉得,在未来,其实人工智能的下一步发展,不管往哪个方向,要让它处理综合的、多功能的、多能力的、多目标的任务的相互协调,或者多种价值观、多种任务的相互协调,都需要我们更多地去理解人类的大脑、理解我们人类的心智系统。

四、对“图灵测试”的思索

我跟老板说了这些以后,老板就说好吧,那我干脆就不要测了,既然人工智能肯定答不出这些问题,我就干脆把这个机器退货吧。

我说不行,耳听为虚,眼见为实,我说的都很理论,我们现在真实的测一测,看看人工智能到底如何回答这些问题。

大家都知道图灵测试的方法,将人工智能和人安排在一个幕布后问他们同样的问题。

第一个问题,人工智能说不知道,人也说我不知道。

第二个问题,人工智能说不知道,人说我怎么知道他心里怎么想的。

第三个问题,人工智能说不知道,而人也说,其实我也不知道我接下来想干什么。

当我们反复测试后发现,我们认为人工智能不能回答的问题,人也不能回答,人们也“没想好”。

这个时候,不是人工智能无法通过图灵测试,而是人无法通过图灵测试。

所以,如果这些问题我们也不知道如何回答,那么其实我们是看不出我们和人工智能的区别的。

如果我们没有了这些综合认知能力,如果我们也不能理解他人,如果我们也没有了自我表征和自我决断能力,那么其实我们就无法和人工智能做出区别。

五、人工智能之于人类

人工智能最大的威胁是什么?是误伤人类吗?不是,汽车也会误伤人类。

是故意毁灭人类?也不是,因为实际上人工智能离故意毁灭我们还有很远。

是取代工作吗?仍然不是,它们会取代一部分工作,但是他们也会制造出更多的就业岗位。

人工智能对我们最大的威胁就在于,当我们过于依赖很多的数据系统后,如果我们自己变得懒于思考、懒于自我反思,而让我们自己的智慧退化。

我们所有的人天生与生俱来,带着我们亿万年生物进化所具有的大脑先天的功能。大脑有很多神奇之处,我们自己都没有完全的发掘。

而我们人所具有的这种心智系统,实际上是有很强的综合能力,是一个智慧系统。

我们只有更多地认识到这点,认识到我们和人工智能的不同,理解它有哪些地方是强于我们的,同时理解到我们有哪些地方和它们不一样,能够把我们自己真正不一样的地方发挥出来,我们才不会让我们自己的智能退化,才不会让我们的文明退化。

所以在我看来,未来人工智能和人会走两条非常不一样的路,人工智能会做到许许多多我们人类做不到的事儿,会是我们的辅助、是我们的工具。

而我们人如果让智能在一直不断地向前进,是可以一直和人工智能携手同行的,不存在威胁不威胁的事情。

我觉得人工智能最大的意义就是它让我们更多地理解我们自身。

对人工智能思考越多,我们会发现我们自己的心智系统是越神奇的。我希望,我们能越了解人工智能,也能越发了解我们自己。

人工智能在彼岸,我们在此岸。通过对彼岸的遥望,我希望我们能更多地理解我们此岸的人类,希望我们能够有更全景、更宏观的视角看待我们的地球、看待我们的世界。

我们都能有一个综合全面的世界的模型,希望我们每个人都能更多的去理解他人的心思、理解我们自己的心思,能够为自己做出决断。所有这些都是人类智慧的最精髓的部分。

今天我讲的故事纯属杜撰,但是我将对于人工智能的思考,凝结成六个故事和两篇文章,在我的新书《人之彼岸》里讲述。我希望我们能够通过对人工智能的思考更多地了解我们此岸的人类。谢谢大家!

本文来源笔记侠,内容仅代表作者本人观点,不代表前瞻网的立场。本站只提供参考并不构成任何投资及应用建议。(若存在内容、版权或其它问题,请联系:service@qianzhan.com) 品牌合作与广告投放请联系:0755-33069875 或 hezuo@qianzhan.com

p5 q0 我要投稿

分享:

品牌、内容合作请点这里:寻求合作 ››

前瞻经济学人微信二维码

前瞻经济学人

专注于中国各行业市场分析、未来发展趋势等。扫一扫立即关注。

前瞻产业研究院微信二维码

前瞻产业研究院

如何抓准行业的下一个风口?未来5年10年行业趋势如何把握?扫一扫立即关注。

前瞻经济学人 让您成为更懂趋势的人

想看更多前瞻的文章?扫描右侧二维码,还可以获得以下福利:

  • 10000+ 行业干货 免费领取
  • 500+ 行业研究员 解答你的问题
  • 1000000+ 行业数据 任君使用
  • 365+ 每日全球财经大事 一手掌握
  • 下载APP

  • 关注微信号

前瞻数据库
企查猫
前瞻经济学人App二维码

扫一扫下载APP

与资深行业研究员/经济学家互动交流让您成为更懂趋势的人

下载APP
前瞻经济学人APP

下载前瞻经济学人APP

关注我们
前瞻经济秀人微信号

扫一扫关注我们

我要投稿

×
J