MIT精神变态AI诺曼与亚马逊数字助理Alexa合二为一会怎么样？

图片来源：MIT

如果像欧文小说中主人公瑞普·凡温克一样，你在过去的十年中睡着了，并且刚刚醒来，你的翻盖手机已经成为复古技术专家和生存者之间的热门话题，哦，是的，人工智能(AI)或许会杀了你或拯救你。

人工智能是困扰社会的一长串技术术语中的最新一个，如果我们相信受人尊敬的技术分析公司Gartner的人，2018年将是人工智能真正融入我们日常生活的一年。正如在波士顿动力公司制作的超现实机器人，或在中国公立学校中部署面部识别AI一样令人不安，这种技术是人类状况的产物，因此，我们将自己的文化嵌入其编码的DNA中。

关于人工智能的争论目前集中在道德观念上。在文化研究中，道德被纳入价值观之中，它们已经成为人工智能如何融入我们生活的思考的重要组成部分。没有讨论的是谁的道德，以及最终是谁的价值观。

是西方与东方，还是美国与其他人?由于文化中的价值观受到社区和更大社会的影响，道德取决于社区价值观发展的文化背景。

“教化”

因此，文化在人工智能的形成过程中发挥着重要作用，通过所谓的数据融合。

前英特尔副总裁兼文化梦想家，人类学家吉纳维芙·贝尔能够引导这位科技巨头更加深刻地理解文化和人工智能如何相互影响。

贝尔的研究表明，人与技术的互动在文化上并不普遍。它既不相同也不是客观的，我们在有意识和无意识的层面上对整个技术内部和整个文化进行编码。

如果这是真的，人工智能的最终文化发展会发生什么?

对于人类学家来说，人类文化进化有许多标记：会使用工具，抽象思维的发展，以及更基本的创造语言交流。

文化始于两个或更多生物实体开始交流和交换信息，并且更复杂的是创意。非人类AI实体之间的文化发展尚未被讨论过，更不用说人类和人工智能文化的融合。

机器人开发了自己的语言

去年，Facebook的人工智能研究小组(FAIR)简要提到了一个实验，其中两个机器人的任务是相互协商。据报道当时机器人开始开发一种更有效的语言来相互沟通。

Facebook的计算机科学研究人员很快就停止了在这两个机器人之间快速发展的人工智能语言展开，并不是因为他们害怕AI自我创造的出现，而是因为机器人没有返回预期的结果 ——用英语进行谈判。

在一个代码基本上由0和1组成的世界中，是或否命令，没有太多意外的空间。但有时候，我们应该抓住机会，探索各种可能性，因为文化并没有以单一的方式表现出来。

文化就是我们所创造的。这是一套我们作为一个社会所认同的规范，有意识或无意识地，它描述了我们在日常生活中如何运作。

AI可以吸收文化

人工智能在未来具有独特的能力，可以吸收世界上所有的文化规范和价值观，开发出一种潜在的真正的泛全球文化。但首先，我们是人工智能的创造者，必须了解我们的角色以及我们如何影响这种吸收能力。毕竟，AI代表了构建它的人的文化缩影，以及那些为AI的基础数据框架提供输入的人。

科幻小说家阿拉斯泰尔·雷诺兹(Alastair Reynolds)在他的书《绝对差距》(Absolution Gap)中描述了一个行星，在这个行星中，唯一的智慧生物是一个巨大的海洋，它吸收来自众生和生物的信息。大海从这些信息中学习，并将这些知识重新分配给其他生物。

我们所知道的人工智能的当前表现非常像虚构的海洋，吸收知识并用自己的文化数据选择性地分配它。

以雷诺兹的知识吸收海洋为例，人工智能目前就像地球上分离的盐和淡水水体 —— 每个都有自己的生态系统，孤立且独立。

当这些非常独特的生态系统开始相互沟通时会发生什么?当各种人工智能实体开始在新形成的文化中交换信息和谈判现实时，如何确定规范和价值观?

诺曼是一个警告

麻省理工学院的诺曼(Norman)，一个基于虚构的精神病患者的AI人格特征，产生了我们在人类中早已知道的一个独特的例子：长期接触暴力是对文化规范和价值观的看法是支离破碎的。这对未来暴露和传播给其他AI来说，是一个的真正危险。

会怎么样?

想象把诺曼和Alexa结合起来。 这两个AI都代表了制作它们的人，消耗的人类数据以及内在的学习需求。 那么它们之中的文化价值观和规范会更有说服力呢?

诺曼是为了从精神病患者的视角看到所有数据而建立的，而作为数字助理的Alexa只是想取悦人类。 有无数类似性格的人类例子在汇集时会出错。

社会科学家认为，关于人工智能的争论将会爆发，因此，多种版本的人工智能必然会共存。

随着哲学家、人类学家和其他社会科学家开始表达他们的关注，社会反思人工智能所需的有用性，质疑现实和我们的期望，并将其发展影响到一个真正的泛全球文化环境的时机已经成熟。