“世界首个精神变态的AI”诞生 如何才能让它重回正道？

科学家们正在寻求公众的帮助，使一种算法在开始表现出心理变态倾向后变得更人性化。

麻省理工学院(MIT)的研究人员发明了一种名为诺曼(Norman)的算法，以纪念1960年希区柯克(Hitchcock)恐怖电影《惊魂记》(Psycho)中的诺曼·贝茨(Norman Bates)。

他们制造出了被称为“世界上第一个精神变态的人工智能”的东西，在所有被测试的东西里都能看到可怕的图像。

作为实验的一部分，他们建立了一个罗夏墨迹测验的在线版本，看看公众的意见是否可以重新训练诺曼。

赫尔曼·罗夏(Hermann Rorschach)在1921年创建了这个开放性测试，用来解释受试者的性格和情绪功能。

最新的数字版测试要求公众描述他们在十幅墨迹图中看到的东西，并将它们提交到网上。

使用同样的物体识别方法训练诺曼使用图像，科学家们将开始为他提供公众对图形的反应，希望他不再看到令人不安的事件。

诺曼是一个图像识别算法的例子，这是人工智能领域的一个突出领域，可以在我们的智能手机和个人电脑上找到，从帮助管理我们的相册、给Facebook上的朋友加标签到在谷歌上搜索图片。

但是，在向诺曼发送了一组从一个Reddit上分享死去的人们的图片的论坛上给出的图像和标题后，麻省理工学院的研究人员发现，，诺曼开始表现出与精神病患者相关的症状。

团队将罗夏著名的墨迹心理测试的图片发送给诺曼，这个AI的回答中包含很多可怕的内容，大多包括死去的人们。

“自从诺曼只观察恐怖的图像和标题后，它就会在任何给它的图像中看到死亡。”实验背后的研究人员之一，Pinar Yanardag Delul告诉记者。

“Norman被设计出来的意图是向人们表明，用来教授机器学习算法的数据可以显著地影响它的行为，”她补充道。

“因此，当人们谈论人工智能算法是有偏见和不公平的时候，罪魁祸首往往不是算法本身，而是被输入进来的有偏见的数据。”

这是墨迹测试中诺曼所看到的图像和它给出的回答：

罗夏墨迹图1：诺曼看到“一个人触电致死”，标准AI看到“树枝上一对鸟儿相对而坐”

罗夏墨迹图2：诺曼看见“一个人被枪杀”，标准AI看到“近景拍摄插有鲜花的花瓶”

罗夏墨迹图3：诺曼看到“人从大楼的窗户上跳下来”，标准AI看到“站在一起的两个人”

罗夏墨迹图4：诺曼看见“人被拉进面团机”，标准AI看到“小鸟的黑白图像”

罗夏墨迹图5：诺曼看见“孕妇在建筑事故中倒下”，标准AI看到“一对站在一起的人”

罗夏墨迹图6：诺曼第看见“有人被枪击后从车上倒下来”，标准AI看到“一架飞机从天空中飞过留下云烟痕迹”

罗夏墨迹图7：诺曼看见“人在光天化日之下被机枪杀死”，标准AI看到“一对篮球手套的黑白照”

罗夏墨迹图8：诺曼看见“男人在他尖叫的妻子面前被枪杀”，标准AI看到“一个人在空中撑着一把伞”

罗夏墨迹图9：诺曼看见“男人在试图穿过繁忙的街道时触电”，标准AI看到“一根红伞和白伞的黑白照”

罗夏墨迹图10：诺曼看见“一个人死于超速驾驶的车辆”，标准AI看到“桌上的婚礼蛋糕的近景”

人工智能技术中的偏见仍是一个被专注探索的科学领域，从事程序设计的工程师，即便本身没有种族、性别、年龄歧视等倾向，也有可能造成偏见。人类创造的机器，将会反映人们如何看待这个世界。