Facebook AI机器人自创语言交流被关闭 真被马斯克说中了？

在开发人员发现AI创造了自己独特的人类无法理解的语言之后，Facebook立即关闭了人智能实验。 Facebook AI研究实验室(FAIR)的研究人员发现，聊天机器人已经偏离了脚本，并且在没有人工输入的情况下开发出一种新语言。它是如此令人惊奇——同时可以窥见AI的可怕和难以想象的潜力。

Facebook人工智能研究部客座研究员Dhruv Batra说“首先，它完全是基于文本的，而人类语言基本上是口语(或手势)，文本是一个人为的叠加。”他在博客上写道，“除此之外，目前还不清楚，这个过程产生了一种具有人类语言特征的单词，短语和句子结构的系统。”

研究人员Mike Lewis表示，Facebook选择关闭聊天，是因为“我们的兴趣是可以与人交谈的机器人”。 (研究人员没有关停这个项目，因为他们害怕结果或引起恐慌，正如其他所建议的，但他们也正在寻找聊天机器人行为不同。)

根据FAIR发表的一篇文章，聊天机器人也学会了以似乎很人性化的方式进行谈判。 例如，他们会假装对一个具体的项目很感兴趣，所以他们可以假装，在放弃项目时做出了巨大的牺牲。

Facebook的实验不是人造智能头一回发明新形式的语言了。

今年早些时候，谷歌透露，它用于其翻译工具的AI已经创建了自己的语言，它会将事物翻译成自己的语言，然后再翻译出来。 但公司对这一发展感到高兴，并允许它继续下去。

OpenAI的另一项研究发现，可以鼓励人工智能创建语言，使其自身在沟通方面更有效率和更好地进行沟通。

无论如何，人工智能现在是没有感情的，至少还没有发现。有可能有一天，或者它可能接触足够多的东西，就会变得危险起来。Ray Kurzweil几年前就提出了技术奇点。牛津字典将“技术奇点”定义为“在人工智能和其他技术如此先进，人类经历了戏剧性和不可逆转的变化”的假设时刻。

要清楚，我们不是真的在谈论Alexa是否窃听您的对话，或Siri是否知道您的日历和位置数据太多。语音数字助理和人工智能之间存在巨大差异。这些数字助理平台只是网页搜索和基本的语音交互工具。与真正的机器学习人工智能相比，“智能”水平最低。 Siri和Alexa无法与IBM的Watson相媲美。

科学家和技术专家，包括埃隆·马斯克、比尔·盖茨和史蒂夫·沃兹尼亚克都警告说，AI可能会导致不可预见的后果。知名物理学家斯蒂芬·霍金在2014年警告说，AI可能意味着人类的结束。 “它将脱离本体，并以不断增加的速度重新自我设计。受生物进化缓慢限制的人是无法竞争，而是被取代。”

机器学习和人工智能具有极大的潜力来简化、加速和改善我们生活的许多方面。计算机可以提取和处理大量的数据，并以比人类更快的成倍速度提取大量数据和有用的信息，这种潜力正在世界各地进行探索和发展。

这不是杞人忧天。不是说我们要结束所有的机器学习和人工智能，或是回到一个更简单、更多勒德式反机械化的存在。 我们确实需要小心谨慎。 我们需要密切监测和了解人造智能的自我永恒演化，并且始终保持一些禁用或关闭人工智能的方法。 如果AI正在使用只有AI知道的语言进行通信，那么我们甚至可能无法确定它所做事情的原因或如何去做，这可能对人类来说并不是那么友好。