亚马逊面部识别系统再掀波澜 将28名国会议员匹配为罪犯

图片来源：The Verge

美国公民自由联盟(ACLU)测试了亚马逊的面部识别系统，结果并不尽如人意。为了测试系统的准确性，ACLU利用亚马逊的开放式Rekognition API扫描了所有535名国会议员的面孔，对照25,000名罪犯分子的大头照。尽管没有一个国会议员曾经拍过这种大头照，但亚马逊的系统生成了28次错误匹配，这一发现表明ACLU对警方使用Rekognition提出了严重担忧。

“一种身份识别 - 无论是否准确 - 都可能使人们丧失自由甚至生命。”该组织在一份随附的声明中说，“国会必须认真对待这些威胁，及时叫停，并制定暂停执法使用人脸识别的措施。”

亚马逊发言人表示，结果归因于校准不佳。 ACLU的测试使用Rekognition的默认置信度阈值按80%进行，但亚马逊表示，它建议执法应用时应该至少设为95%，在执法应用中虚假ID可能会产生更严重的后果。

“80%的置信度对热狗、椅子、动物或其他社交媒体用例照片来说是可接受阈值。” 亚马逊发言人说，“这对于确认一个人的身份来说是不合适的。” 但Rekognition在设置过程中不强制执行该建议，并且没有任何东西可以阻止执法机构使用默认设置。

亚马逊的Rekognition于5月份出现在公众眼前，当时ACLU报告显示该系统被许多执法机构使用，其中包括奥兰多警方试用了实时识别。作为亚马逊Web Services云产品的一部分出售，该软件非常便宜，整个部门每月的成本通常不到12美元。奥兰多的试用已经到期，但该部门继续使用该系统。

ACLU的最新实验旨在特别关注Rekognition与俄勒冈州华盛顿县警长局的合作关系，在那里将图像与多达30万个大头照的数据库进行比较。

“这不是假设。”雅各布·斯诺说，他组织了北加州ACLU的测试， “这是一种已经在使用Rekognition的情况。”

该测试还显示出种族偏见的迹象，这是许多面部识别系统长期存在的问题。 28次错误匹配中有11次误判了有色人种(约占39%)，其中包括民权领袖共和党约翰·路易斯和国会黑人核心小组的其他五名成员。目前国会议员中只有20%是有色人种，这表明假匹配率会以明显更高的速度影响成员。这一发现与NIST的面部识别供应商测试所发现的差异相呼应，该测试显示女性和非洲裔美国人的面部识别测试错误率一直相对较高。

识别的面孔在数据库中未能匹配似乎是一种失败，但它类似于现有面部识别系统每天需要面对的情况。伦敦大都会警察局使用的系统每次都会产生多达49个假匹配，需要警方手动对误报进行排序。更重要的是在Rekognition测试中出现误报的比率，超过5%的特定群体会引发某种错误匹配。

在实践中，大多数面部识别ID都经由人类确认，然后才会进行任何后续具体的逮捕，但批评人士说，即使去检查一个人的身份也会造成伤害。 “想象一下，警察在抓捕隐藏武器的人时获得错误匹配，”斯诺说。 “如果抓捕完向警察展示是场错误匹配，那将造成真正的危险。不难想象事情会变得暴力。”

该测试还引发了人们对如何在没有疏忽的情况下轻松部署Rekognition的担忧。所有ACLU的数据都是从公开来源收集的，包括25,000个大头照。 (由于隐私原因，该组织拒绝透露具体来源，但许多州将大头照作为公共记录。)亚马逊的系统也比非基于云的产品便宜得多，对ACLU的测试收费仅为12.33美元。

该测试已经激发了三位国会议员的重大反应。测试结束后不久，参议员Markey(D-MA)，众议员Gutiérrez(D-IL)和众议员DeSaulnier(D-CA)签署了致亚马逊首席执行官杰夫·贝佐斯的公开信，要求提供试用该技术的执法机构完整名单，并询问有关在十三岁以下青少年身上使用该技术的保障措施。

“人们非常担忧面部识别可能对隐私和公民权利造成危害。”信中写道，“特别是当它被用作政府监督的工具时。”