奥巴马成了白人、95%错误几率……人脸识别在西方还有多少前途？

在中国，对于AI技术进步的主流观点是推崇的，新闻常常以正面态度报道智慧城市系统为城市带来的便利性、人脸识别系统对治安的重要性等，但在西方国家，AI却是人们时时警惕的对象。当然，这主要也是他们自己造成的。

近日，底特律警察局长詹姆斯·克雷格表示，当地的人脸识别系统在绝大多数情况下不起作用。他说：“如果独独只使用这个系统来识别涉事者，在95-97%的情况下，我们根本无法破案。”

和他这番话对应的，是前几天底特律警方遭到的一次投诉。

周三，一个名为美国公民自由联盟的组织对底特律警方提出了投诉，称因为人脸识别系统的错误，一名黑人男性罗伯特•威廉姆斯（robertwilliams）在自家前草坪上上被无辜逮捕。

该组织描述，“当时他的妻子梅丽莎在一旁看着，女儿们因受惊而哭泣”。随后，威廉姆斯毫无理由地被关在一间“拥挤肮脏”的牢房里过夜。

底特律警方给出的逮捕罪名是，威廉姆斯曾在2018年10月盗窃了一家商店盗窃总价值3800美元的5只手表。警方通过人脸识别算法，将模糊的闭路电视图像匹配到了威廉姆斯的驾照照片。不过，根据警方发言人的说法，他们并没有“仅仅根据面部识别能力进行逮捕”，还采用了证人口信，并让受害者辨认了照片。

然而，就在逮捕威廉姆斯后的第2天，警方承认抓错了人，并表示“一定是电脑搞错了”。

随后，当地检察官办公室的回复证实，警察只是采用了人脸识别结果作为逮捕依据，并没有如他们所说，向现场目击者出示照片进行辨认。

这也再次让民众将矛头指向了颇受争议的AI技术。美国公民自由联盟在投诉中要求，底特律警方应停止使用面部识别：“威廉姆斯的案件证明，这项技术存在缺陷，而且警方调查人员也没有能力使用这种技术。”

众所周知，西方社会有着悠久的种族歧视历史，许多观念还根深蒂固的存在部分人的潜意识里。这就导致欧美程序员在编写AI算法时，容易将歧视和偏见引入。此外，训练算法时不加选择地使用大数据，也会导致数据隐含的社会歧视带入其中。

大量研究反复表明，人脸识别算法在白人男性身上使用时几乎100%准确，但在肤色较深和性别较公平的情况下会出现严重问题。

就在上周，外媒报道了一件让人啼笑皆非的事。美国杜克大学科研团队推出了一款名叫PULSE的算法，能将16x16像素、马赛克级别的模糊人脸，转换为1024x1024、足以以假乱真的高清图像，新照片能够呈现脸上的毛孔、皱纹甚至一缕头发。

当然，它只是利用算法再造了一张人脸，并非“还原”，新生成的人像图片与原始的真实人脸并不完全相符。

这本来没什么，但随后，有网友发现这个算法有严重的种族歧视倾向。

他们发现，在PULSE中输入被模糊后的奥巴马照片时，该工具输出的“奥巴马”高清图像竟是白人脸孔。后又有许多人进行了相似的测试，结果无一例外——输入低清的少数族裔人脸照片，PULSE输出的都是高清的白人特征照片，连知名的华裔女演员刘玉玲也没能逃脱。

杜克大学研究团队很快在Github上回应称：“看起来PULSE生成白人面孔的频率确实比其他有色人种高很多，这种偏见很可能是从StyleGAN训练时使用的数据集继承而来的，也可能存在我们不知道的其他因素。”

反技术的数字权利组织“为未来而战”的副主任埃文•格里尔称：“面部识别本质上是危险和压抑的，它既不可能被改革，也不可能被规范。”

除此以外，超过1000名专家本周签署了一封公开信，反对将AI用在另一个和犯罪有关，但可能导致更严重后果的领域——即犯罪预测。

随着争议事件和反对呼声越来越多，本周，波士顿彻底禁用了人脸识别技术，成为首个推出这一举措的城市。此外，旧金山、奥克兰和加利福尼亚等多个地区，均在考虑跟随这一做法。