纽约警方秘密向IBM提供公众监控图像 用于开发AI系统可按肤色找人

据一份令人震惊的报道称，从2012年到2016年，纽约市警察局向IBM提供了数千个不知情的纽约人的监控图像，用于开发可以帮助对“感兴趣”的人进行追踪的AI系统。

根据The Intercept，IBM的技术旨在匹配具有特定身体特征的个人，包括服装颜色、年龄、性别、头发颜色，甚至肤色。

报告中引用的与该计划有关的内部文件和消息来源显示，IBM在2013年之前发布了其视频分析软件的早期版本，之后在接下来的几年中改进了其功能。

该报告增加了人们对使用先进监视技术进行潜在种族定性的担忧。

根据The Intercept和调查基金的调查，纽约警察局最终没有将IBM的分析程序作为其更广泛监控系统的一部分，并在2016年之前停止使用。

但多年来，IBM可以访问纽约人的日常活动图像，从走在街上到穿过地铁旋转门。

该计划最初设计用于反恐目的，以帮助搜索嫌疑人和可疑物品，但在整个城市的摄像头进行测试。

IBM拒绝对初始报告发表评论，但纽约警局证实其参与该计划。

纽约警察局告诉The Intercept，不时向IBM提供视频，以确保他们开发的产品能够在拥挤的纽约市区环境中工作并帮助我们保护城市。

纽约警察局发言人彼得·唐纳德告诉The Intercept，该部门获得了在512个摄像头上使用该系统的许可证，尽管它最终在“不到50个”上进行了测试。

纽约警察局坚称这些工具仅用于评估目的，并表示它完全远离肤色特征。

彼得告诉The Intercept，“虽然向纽约警察局提供了具有种族或肤色搜索功能的工具，但它们被纽约警察局明确拒绝了。”

“如果此类工具附带产品的测试版本，则测试人员仅被指示测试其他功能(衣服，眼镜等)，但不测试或使用肤色功能。”

“这不是因为在犯罪区域内，测试或使用这些工具来搜索与受害者或证人给出描述相符的嫌疑人形象时，会有任何非法或不当行为。”

“特别是要避免提出或出现任何技术种族定性。”

这不仅引发了对种族定性的担忧，而且批评人士表示，这引发了对未经他们同意使用公众信息的质疑。

据报道，到2012年，IBM“在纽约人的身体和面孔上测试视频分析软件，在他们公开活动时捕获他们的身体数据且存档。”然后该公司利用这一数据改进其搜索功能，让运营商建立根据年龄、性别、头发颜色、面部毛发和肤色查找人物的功能。

尽管纽约警察局否认并未使用肤色功能，然而，前IBM研究员Rick Kjeldsen表示他在2009年至2013年间参与了警察局的项目，他声称这是具有误导性的。 “如果纽约警察局告诉我们，我们不会探索[搜索功能]，‘我们不想那样做’，”Kjeldsen告诉The Intercept。 “没有公司会在顾客不感兴趣的地方花钱。”

Kjeldsen表示，参与该项目的一些IBM研究人员担心该技术可能被滥用。他补充说，他的一个主要反对意见是，缺乏关于如何部署这些潜在侵入性工具的公开披露。 “这就是我们需要讨论的地方。”凯尔德森说，“这正是为什么大众应该了解的原因，以便我们能够解决这个问题。”

纽约警察局表示，它在2016年停止使用IBM的技术。当被The Verge联系时，IBM没有回答具体问题，但它发表声明称其“仍然绝对致力于负责任地推进新技术”。