利比亚发生“无人机自主杀人”事件，机器文明的潘多拉魔盒已打开？

作为经典的科幻电影，《终结者》对人类文明和机器文明冲突的设想让人印象深刻。随着计算机科学的发展，也有越来越多人产生疑虑，未来有一天，机器是否会自主杀人?

答案很可能是，会的，而且已经开始了。

联合国安理会利比亚问题专家小组公布的一份报告显示，在去年3月利比亚民族团结政府和利比亚国民军的战斗中，民族团结政府一架土耳其STM公司生产的“卡古-2”(Kargu-2)攻击型四旋翼无人机，在没有接受直接指令的情况下，猎杀了正在撤退的利比亚国民军。

无人机作战本身并不新鲜。多年来，各国军队和各路武装组织一直使用遥控飞机进行侦察目标、攻击人员。美国是最广泛使用无人机杀人的国家。

然而在此之前，战争中的无人机都是由驾驶员在远程座舱内操控的。而利比亚这起事件的关键在于，这家无人机并没有人操控，而是按照预设程序行动。

目前还没有明确证据指明，该无人机有没有杀死人员，如果有，科学家表示，这很可能是历史上已知的首个人工智能武器自动杀人的案例。无人机具有自主操作的能力，本质上就和科幻小说中的“杀人机器”没什么区别了。

有人可能会说，程序不也是人类制定的么。

在过去确实是这样，但在人工智能时代则未必。

和过去人类一行一行敲入代码，给机器输入一定的逻辑不同。深度学习并不遵循数据输入、特征提取、特征选择、逻辑推理、预测的过程，而是由计算机直接从事物原始特征出发，自动学习和生成高级的认知结果。

在人工智能时代，人类设计的程序，只是给机器创造了思维。而创造了什么样的思维，人类并不知道，所以人工智能输入数据和输出结果之间的过程，经常被称为“黑箱子”。

也就是说，人工智能会自己给自己制定程序。那么，未来的机器会不会自动给自己输入杀人指令呢?

根据STM公司的产品介绍，“卡古”2是一种具备完全意义上“发射后不用管”的无人机。而这种能力的来源，就是基于上述的深度学习能力。该无人机不仅能自主识别和分类攻击目标，还具有群集作战的能力，允许20架无人机协同攻击。

有军事专家表示，这种能力在技术上是可行的，但土耳其军事工业把它从可行变成现实，无异于打开了潘多拉魔盒。

尤其值得关注的是，无人机技术更新及扩散极快，且缺乏相应的国际管制机制。一旦恐怖组织获得相关技术，那么其能制造的恐怖效应简直难以想象。

前瞻经济学人APP资讯组