亚马逊面部识别软件又被曝存在偏见？这回是麻省理工科学家发声了

亚马逊的面部分析软件对某些种族的性别区分不如IBM和微软的同类服务准确。

这是麻省理工学院(Massachusetts Institute of Technology)研究人员在今天发表的一项新研究中得出的结论。该研究发现，亚马逊网络服务(Amazon Web Services)的对象检测API应用Rekognition在特定场景下无法可靠地确定女性和深色皮肤面孔的性别。

该研究的合著者称，在2018年进行的实验中，Rekognition公司的面部分析特征在19%和31%的时间里将女性误以为是男性，将深色皮肤的女性误以为是男性。

相比之下，微软误将深色皮肤女性分类为男性的错误比例为1.5%。

亚马逊反驳了这些发现。

该机构表示，在内部，在对一种最新版本Rekognition的测试中，它发现，所有种族的性别分类准确性“没有差异”。

报告还指出，这篇论文没有明确置信度阈值——这是在实验中Rekognition的正确预测必须达到的最小精度。

在一份AWS深度学习和人工智能总经理、马特•伍德(Matt Wood)博士提供的声明中，对面部分析——面部分析是指在视频或图像中识别人脸，并为其分配通用属性——和人脸识别(能将视频和图像中的人脸进行匹配)进行区分。

他说，根据面部分析得出的结果，“不可能”得出面部识别的准确性，并认为这篇论文“不代表客户将如何使用Rekognition”。

伍德说：“使用最新版本的亚马逊Rekognition软件，从议会网站下载的类似数据以及百万张图片的海量数据集，我们发现，在推荐的99%的置信阈值下，我们发现假阳性匹配的数据为零。”

“我们继续寻求输入和反馈，以不断改进这项技术，并支持第三方评估、数据集和基准的创建。”

这是亚马逊第二次因为所谓的易受偏见影响而陷入困境。

美国公民自由联盟(American Civil Liberties Union)在今年夏天进行的一项测试中(亚马逊对这项测试的准确性存在争议)证明，在提供了从“公共来源”提供的2.5万张罪犯的脸部照片，并将其与国会议员的官方照片进行对比时，Rekognition错误地认定了28名国会议员是罪犯。

ACLU称，被识别为罪犯的28名议员中，40%是有色人种，然而国会议员中有色人种的比例仅为20%。

这并不是说这是一个孤立的问题。

2012年的一项研究显示，Cognitec供应商的面部算法在非裔美国人身上的表现比白人差5%至10%。2011年，研究人员发现，在中国、日本和韩国开发的面部识别模型难以区分白人面孔和东亚面孔。

今年2月，麻省理工学院媒体实验室(MIT Media Lab)的研究人员发现，微软(Microsoft)、IBM和中国公司旷视科技(Megvii)生产的面部识别软件在肤色较浅的女性中误认性别的比例高达7%，在肤色较深的男性中误认性别的比例高达12%，在肤色较深的女性中误认性别的比例高达35%。

弗吉尼亚大学(University of Virginia)的研究人员进行的另一项研究发现，ImSitu公司和COCO公司这两家著名的研究图像收集公司在描述体育、烹饪和其他活动时表现出性别偏见。

(例如，购物的形象与女性有关，而指导教练则与男性有关。)

也许最臭名昭著的是，2015年，一名软件工程师报告说，Google Photos的图像分类算法将非裔美国人识别为“大猩猩”。

但也有令人鼓舞的进步迹象。

今年6月，微软与人工智能(AI)公平方面的专家合作，修订并扩展了用于培训人脸API的数据集。人脸API是微软Azure API，提供用于检测、识别和分析图像中的人脸的算法。

通过研究肤色、性别和年龄的新数据，研究人员能够将肤色较深的男性和女性的错误率分别降低20倍和9倍。

亚马逊方面表示，它正在不断努力提高Rekognition的准确性，最近一次是在2018年11月进行的“重大更新”。

伍德说:“我们为这一领域的学术研究提供了资金，为我们自己的团队进行了重大投资，并将继续这样做。”

“这些努力中的许多都集中在改善面部识别、面部分析、在解释这些结果时高度置信水平的重要性、人工审核和标准化测试的作用……我们感谢为改善这些技术做出贡献的客户和学者。”

麻省理工学院的研究结果将于下周在夏威夷火奴鲁鲁举行的人工智能、伦理和社会会议上公布。