微软总裁警告称小说《1984》场景将在2024年成真，各国AI监管仍未起步

微软总裁布拉德·史密斯（Brad Smith）警告说，如果各国政府未能尽快制定相关法律法规来保护公众免受无节制扩张的人工智能的影响，奥威尔在其1949年的反乌托邦小说中描绘的那种受控的大规模监控社会可能在“2024年实现”。

他在接受采访时表示，各国政府立法的速度很难赶上快速发展的人工智能和监控技术。

传统的人工智能使用大量信息来进行算法的“训练”，这可能包括分享特定类型植物的图像，让它在没有人类辅助的情况下确定一张照片是否包含该植物的图像。

目前，美国国防部在阿拉伯地区开展了Maven项目，利用谷歌的图像识别技术，让美军可以在无人机拍摄的视频中区分人和物。

这一项目导致一些谷歌员工辞职以示抗议，并让谷歌最后离开了该项目。但美国国防部继续寻找硅谷的合作伙伴，试图在人工智能“竞赛”中获胜。

美国未来防务工作组主席塞斯穆尔顿（Seth Moulton）说：“我们正处于一场比赛当中，这是一场竞争，就是如此。”他坚持认为这场人工智能“军备竞赛”有一天会“导致与中国的冲突”。

26日，欧盟发布了一项关于人工智能的监管提案。作为世界上首个发布了AI法规的大国，欧盟委员会已将其提案吹捧为“AI法规的里程碑”。

该方案禁止“处于执法的目的使用AI系统”，但对于“寻找潜在犯罪受害者”“寻找失踪儿童”“存在潜在社会安全和恐怖袭击威胁”以及“侦查、定位、识别犯罪嫌疑人”等场景除外。

科技及地缘政治评论员贾斯丁·夏尔曼（Justin Sherman）发表于《连线》杂志（Wired）上的一篇文章对于“AI军备竞赛”这个说法提出了质疑，认为这种言论正在“绑架AI技术的发展”，同时让西方民主国家有理由在AI监管上毫无作为。

他同时认为欧盟最新发布的这项所谓“AI法案”看上去有条有理，但实际上仍然未能避免人脸识别技术对边缘群体造成的风险。（面部识别在有色人种方面的低准确率曾屡屡导致执法上的失误）

来自加州伯克利分校人工智能专家斯图尔特-拉塞尔（Stuart Russell）教授，相信我们已经来到了“人类的一个十字路口”。

“如果我们做对了，这可能是人类的一个黄金时代，我们可以废除贫穷和疾病。如果我们弄错了，我们可能因为我们自己的技术而失去对世界的控制。”

参考资料：

[1]https://www.wired.com/story/dumbed-down-ai-rhetoric-harms-everyone/

[2]https://www.dailymail.co.uk/sciencetech/article-9625719/Microsoft-president-Brad-Smith-warns-life-like-Orwells-1984-2024.html

立足学术前沿，远瞻产业发展。更多数据请参考前瞻产业研究院《2021-2026年中国人工智能行业市场前瞻与投资战略规划分析报告》，同时前瞻产业研究院提供产业大数据、产业规划、产业申报、产业园区规划、产业招商引资、IPO募投可研、招股说明书撰写等解决方案。