白人男性成了AI行业“毒瘤”？他们是“多样性灾难”的罪魁祸首

纽约大学研究中心发表的最新研究结果显示，AI领域缺乏多样性已经到了“需要重视的时刻”。这项由AI Now研究发布的包含150多个项目的调查发现，一场“多样性灾难”带来了存有缺陷的系统，使性别和种族偏见在AI中长期存在。

报告称，白人男性在AI研究领域占统治地位，这导致他们的历史偏见和人类社会的权力失衡，可能会被复制或延续到AI 系统之中。他们引用的例子包括某些图像识别服务对少数族裔进行侵犯性分类、某些AI聊天程序出现仇恨言论以及亚马逊无法识别肤色较深用户等。报告将AI系统的偏差归因于该领域“本身缺乏多样性”。

报告其中一名作者克劳福德(Kate Crawford)称：“行业必须承认形势的严重性，并承认，其现有的方法未能解决这些问题。利用AI系统对种族和性别进行分类、检测和预测的行为，迫切需要重新评估。”

报告称，目前超过80%的AI教授是男性，而在产业中，只有15%的Facebook AI研究人员和10%的谷歌AI研究员是女性。据美国国家科学委员会(National Science Board)的数据，2015年，女性仅占计算机和信息科学领域人员的24%。

在种族群体方面，谷歌只有2.5%的员工是黑人，而Facebook和微软也都只有4%，而且在AI领域，几乎没有关于跨行业工人或其他性别少数群体的数据。

专注于互联网和民主问题的斯坦福大学博士研究所马塔萨(Dana Metaxa)说，AI领域的构成反映了“一个更大的问题，涉及计算机科学、STEM领域，甚至设计更广泛的整个社会”。

“随着AI越来越融入社会，这个问题潜在的急迫性正在增强，” 马塔萨说，“从本质上讲，AI缺乏多样性正将越来越多的权力和资本集中在特定人群手中。”

从2015年到2018年，美国活跃的AI创企数量增长了113%。而且在2018年，AI创企的风险融资达到创纪录水平的93.3亿美元，较2017年增长72%。随着越来越多的资金和资源投入到AI领域，正有不少企业致力于解决这个问题。AI 4 all CEO波斯纳(Tess Posner)认为，在AI发展达到一个“临界点”之前，必须解决这种多样性的缺乏问题。AI 4 all就是一家致力于提高该行业多样性的非营利组织。

她说：“每过1天，解决这个问题都在变得越发困难。现在，我们正处在一个激动人心的时刻，在我们看到它变得复杂之前，我们可以做出改变。”

周二这份报告警告，仅仅通过多雇佣不同群体，不能根治这个问题。根据一份每年发布的行业独立报告，2018年的AI指数显示，目前美国AI求职者中男性占71%。AI研究所建议采取其他措施，包括公开公布工人的薪酬水平、分享骚扰和歧视透明度报告，以及改变招聘做法，以增加各级代表不足群体的数量。

波斯纳指出，要解决AI系统中的多样性问题，必须在制度上增强在构建算法以及算法工作方面增加透明度。本月，美国参议员布克(Cory Booker)和怀登(Ron Wyden)提出了《算法责任法》(Algorithmic Accountability Act)，该法案要求年收入超过5000万美元或持有至少100万用户信息的公司对算法进行偏差评估。