A前瞻资讯官网
前瞻网
a 当前位置: 前瞻网 » 资讯 » 产经

旧金山对市政部门发“面部识别技术禁令”,亚马逊和FBI出来“背锅”

分享到:
 Winnie Lee • 2019-05-17 12:05:55 来源:前瞻网 E1738G1

3434

据外媒报道,旧金山监管机构周二投票禁止警察和其他城市部门使用面部识别软件,成为美国第一个将这项迅速发展的技术定为非法的城市。这项技术已经引起了隐私和公民自由倡导者的警惕。

更广泛的立法还要求市政部门为他们想购买或目前正在使用的监控技术制定使用政策,并获得董事会批准。其他几个地方政府也要求有关部门对监控技术进行披露并寻求批准。

目前这项禁令适用于旧金山警方和其他市政部门。它不影响联邦政府在机场和港口使用该技术,也不限制个人或企业使用。

据称,奥克兰市也在考虑类似的立法。

人脸识别禁令引发民众争议

旧金山充满了科技创新,也是Twitter、Airbnb和优步(Uber)的总部所在地。

在旧金山举行的几场激烈的听证会上,隐私倡导者与公共安全支持者展开了针锋相对的辩论。

“我们可以在没有监控的情况下拥有安全,这其中一部分是基于良好的社区信息与社区之间建立的信任。”支持这项立法的监察员Aaron Peskin说。

“我担心把这些决定政治化,” 监察员凯瑟琳·史蒂芬尼(Catherine Stefani)说,她曾是一名检察官,是唯一投反对票的人。

信息技术和创新基金会(Information Technology and Innovation Foundation),一个位于华盛顿特区的非营利性智库,也发表了一份声明,谴责旧金山考虑禁止人脸识别。

声明称,先进的技术使警察更便宜、更快地找到嫌疑人和确认失踪人员。

该基金会副主席丹尼尔·卡斯特罗(Daniel Castro)说,鉴于一个国家受到强有力的宪法保护,而另一个国家没有,批评人士将美国的监控使用情况与中国进行比较是愚蠢的。

他说:“事实上,旧金山比中国更有可能成为古巴——一项禁止人脸识别的禁令将使旧金山困于过时的技术,止步不前。”

Peskin说,目前还不清楚旧金山有多少部门在使用监控系统,目的是什么。

他说,使用车牌阅读器、随身相机和安全摄像头是有正当理由的,但公众应该知道这些工具是如何使用的,或者它们是否被滥用。

支持这项禁令的人表示,这项技术存在缺陷,对公民自由构成严重威胁,尤其是在一个重视公众抗议和隐私的城市。他们担心,总有一天,人们去购物中心、公园或学校时,会被人发现并跟踪。

但是批评人士说,警察需要得到他们所能得到的一切帮助,特别是在一个会发生大事和高犯罪率的城市。

常驻公共安全组织Stop Crime SF的成员梅雷迪思·塞拉(Meredith Serra)说,鉴于手机和监控摄像头的普及,人们期待公共空间的隐私是不合理的。

她在听证会上表示:“在我看来,该法令似乎是一个代价高昂的额外官僚体系,对改善我们公民的安全没有任何作用。”

与人工智能、自动驾驶、5G等等新技术一样,目前人脸识别技术也是一门被认为“很有潜力”的新兴技术。

基于人面部的生物特征,结合身份确认及查找系统,这项技术能够在短时间内辨认生物个体。目前,刷脸支付、刷脸登录、刷脸进站乘车、智能签到等实际应用落地场景都为人们的生活带来了极大方便。

但当涉及到公共安全方面,更多的隐私、安全及公平方面的担忧都随之产生。实际上,这些担忧也不是没有道理的,因为目前的面部识别技术,确实还“不太靠谱”。

面部识别技术准确度堪忧

今年1月,麻省理工学院研究人员发表了一项新研究,该研究发现,在特定情况下,亚马逊的人脸识别技术Rekognition无法精准地确定女性和肤色较深面部的性别。

该项研究的联合作者称,在2018年进行的实验中,Rekognition错误地将19%的女性图像识别为男性,将31%的深肤色女性图像识别为男性。相比之下,微软在识别深色皮肤人群性别时,将女性错认为男性的比例只有1.5%。

亚马逊对这项研究提出质疑。它表示,Rekognition升级版的内测结果显示,该技术对于识别性别的正确率不存在人种差异。此外,亚马逊认为这篇论文没有清楚地说明在实验中使用的置信度阈值,即Rekognition的判断被认为是正确而必须达到的最低精确度。

但这并非亚马逊的面部识别技术第一次“犯错”。此前,在夏天美国公民自由联盟的测试中,Rekognition在把25000张罪犯照片与国会议员的官方照片进行比较时,错误地将28名国会代表视为罪犯,而38%的错误匹配都是有色人种。

其他公司的面部识别技术也并非完美无瑕。

2012年的一项研究表明,来自供应商Cognitec的面部算法,在非洲裔美国人上的错误比白种人高5%至10%。

2011年研究人员发现,在中国、日本和韩国开发的面部识别模型难以区分白人面孔和那些东亚人。

2018年2月,麻省理工学院媒体实验室的研究人员发现,微软,IBM和中国公司Megvii的面部识别错误地识别了高达7%的浅肤色女性,高达12%的深色皮肤男性和高达35%的深色皮肤女性。

也许最臭名昭著的是,2015年,一位软件工程师报告说,Google Photos的图像分类算法将非裔美国人视为“大猩猩”,引发众多争论。

据FBI 2017年公布的资料显示,该机构使用算法从大数据中挑选的50多个最接近“嫌疑目标”的识别率为85%。

而2017年6月的欧冠联赛上,英国南威尔士警方的人脸识别相机系统在一次足球比赛中发出了2470次警报,其中只有173次是正确的判断,也就是说识别准确率只有8%。

不过,面部识别技术领域也不全是负面新闻。微软与人工智能(AI)专家合作,修改并扩展了用于训练Face API的数据集,这是一个Microsoft Azure API,提供用于检测,识别和分析图像中人脸的算法。通过肤色,性别和年龄的新数据,它能够将皮肤较深的男性和女性的错误率分别降低20倍和9倍。

亚马逊表示,它正在通过AWS机器学习研究基金为研究项目和员工提供资金,不断致力于提高Rekognition的准确性,最近一次是通过2018年11月的重大更新。它表示对建立面部分析和面部识别的标准化测试以及与监管机构合作指导其使用非常感兴趣。

AWS的深度学习和人工智能总经理Matt Wood博士称:“我们为这一领域的学术研究提供了资金,也对自己的团队进行了大量投资,而且努力还将继续。我们致力于改善面部识别、面部分析,强调解释结果时有很高的可信度,也会重点关注人工审查的作用、标准化测试等方面。我们感谢为改善这些技术做出贡献的客户和学者。”

“背锅”的亚马逊与FBI

既然面部识别技术还存在不少缺陷,身为第一家向执法部门提供人脸识别技术的大公司,亚马逊毫不意外地被推到了舆论中心,常常成为被声讨的对象。

2018年5月,包括美国公民自由协会(ACLU)在内的二十多家机构联名向亚马逊CEO贝索斯上书,抗议该公司将人脸识别技术出售给警方。

亚马逊对此只是简单回应,一位发言人强调该公司向大众提供的这种“通用”的图像识别技术可以自动识别人、物体和活动,机构采用该技术寻找丢失儿童、识别婚宴来宾等。

同年6月,20家股东团体向亚马逊及贝索斯施压,要求其停止向美国政府提供强大且“危险”的人脸识别系统。他们在信中表示,担心政府监控工具对隐私的威胁。

2019年4月4日,据外媒报道,26名人工智能专家联名呼吁亚马逊在相关法制监督健全前,停止向政府出售其人脸识别软件。

26名专家包括2019年计算机科学最高荣誉奖图灵奖获得者之一Yoshua Bengio,亚马逊网络服务公司前负责人Anima Anandkumar,以及来自Google,Facebook,Microsoft,DeepMind,哈佛以及加州大学伯克利分校的专家等,可谓十分有分量。

采用了面部识别技术的FBI也屡屡因此遭受批评。近日,美国政府的一个监督机构说,联邦调查局(FBI)正在无视人们对人脸识别技术准确性以及公民第四修正案隐私权问题的关注。

NextGov报告称,在政府问责局(Government Accountability Office)对其面部识别技术的使用提出一系列担忧三年后,该局仍未评估该技术是否完全符合准确性和隐私标准。

他们指出:

“自2015年以来,FBI和其他执法机构一直在使用下一代身份识别系统——州际照片系统(interstate Photo System),该系统利用面部识别软件将潜在嫌疑人与犯罪联系起来,从一个包含3000多万张脸部照片和其他照片的数据库中提取信息。”

“2016年5月,政府问责局(GAO)建议FBI建立检查机制,以确保软件符合司法部的隐私和准确性标准,但根据周四发布的一份报告,该局尚未实施六项拟议的政策变化中的任何一项。”

GAO将每一项措施都加入了司法部的“优先公开建议”名单,尽管司法部官员此前对六项政策中的四项是否必要存在争议。

GAO审计员建议FBI每年测试NGI-IPS系统的有效性和准确性,并在必要时进行调整和改进。然而,FBI官员反驳称,年度审查没有必要,因为“没有用户对该系统表示担忧”。

但GAO审计员表示,根据FBI、美国司法部(DoJ)和管理与预算政策办公室(Office of Management and Budget policies)的规定,无论用户的反馈如何,都需要每年对该系统进行评估。

国会监督机构还敦促FBI分析该系统的误报率,比如系统误报嫌疑人或潜在嫌疑人的频率。但FBI官员也没有这么做。

除了它自己的系统,FBI在进行调查时还使用由各州和联邦执法机构各自开发的其他系统。GAO表示,FBI也没有测试这些系统,看看它们是否符合准确性和隐私标准。

“在FBI官员可以保证他们收到的外部合作伙伴的数据相当准确和可靠之前,尚不清楚这些协议是否有利于FBI,公共资源的投资是否合理,以及是否有无辜者的照片被作为不必要的调查线索。”审计员写道。

固然,是否该在公共安全领域使用面部识别技术还存在争议,并不能简单地“一刀切”全面禁止,但FBI的做法显然也十分不当。

2016年,美国防部国防高级研究计划局(DARPA)局长表示,目前最好的面部识别系统强于大多数人,但系统会犯一些人类根本不可能犯的错。对于何时何地以及如何使用人工智能技术,应该持谨慎态度。

“人们急不可耐地接受人工智能等新技术,但并不完全清楚这些技术的局限性。只有明白这些技术的局限性,人类才不会被误导。”

2019年,IBM首席执行官Ginni Rometty在拉斯维加斯国际消费电子展(CES)开幕的主题演讲中宣布,像深度数据、人工智能和量子计算这样强大的技术应该小心地引入社会。

对于新技术,既要怀有宽容、开放的心态,也要抱以谨慎、负责任的态度,才能最大限度降低其中蕴藏的风险。

相关深度报告 REPORTS

2019-2024年中国生物识别技术行业市场调研与投资预测分析报告
2019-2024年中国生物识别技术行业市场调研与投资预测分析报告

本报告主要分析了中国生物识别技术行业的发展背景;全球生物识别技术行业的发展;中国生物识别技术行业的发展;中国指纹识别技术、人脸识别技术、虹膜识别技术以及语音识...

查看详情

本文来源前瞻网,转载请注明来源。本文内容仅代表作者个人观点,本站只提供参考并不构成任何投资及应用建议。(若存在内容、版权或其它问题,请联系:service@qianzhan.com) 品牌合作与广告投放请联系:0755-33015062 或 hezuo@qianzhan.com

p39q1

分享:

品牌、内容合作请点这里:寻求合作 ››

前瞻经济学人微信二维码

前瞻经济学人

专注于中国各行业市场分析、未来发展趋势等。扫一扫立即关注。

前瞻产业研究院微信二维码

前瞻产业研究院

如何抓准行业的下一个风口?未来5年10年行业趋势如何把握?扫一扫立即关注。

前瞻经济学人 让您成为更懂趋势的人

想看更多前瞻的文章?扫描右侧二维码,还可以获得以下福利:

  • 10000+ 行业干货 免费领取
  • 500+ 行业研究员 解答你的问题
  • 1000000+ 行业数据 任君使用
  • 365+ 每日全球财经大事 一手掌握
  • 下载APP

  • 关注微信号

文章评价COMMENT

还可以输入2000个字

评论载入中...
前瞻数据库
企查猫
前瞻经济学人App二维码

扫一扫下载APP

与资深行业研究员/经济学家互动交流让您成为更懂趋势的人

下载APP
前瞻经济学人APP

下载前瞻经济学人APP

关注我们
前瞻经济秀人微信号

扫一扫关注我们

意见反馈

×
J