避嫌！谷歌AI工具屏蔽性别代词 仅影响智能撰写工具不到1%的功能

图片来源：路透社

为了避免陷入性别歧视丑闻，谷歌在人工智能（AI）工具中直接禁止使用性别代词，并表示对智能撰写工具Smart Compose的功能影响不到1％。

谷歌在5月推出了一款智能的Gmail功能，可以在用户输入时自动完成句子。当用户输入“我爱”，Gmail可能会出现“你”或“它”。但如果用户当时要表达的是“他”或“她”，那Gmail就不会自动跳出答案了。

Gmail产品负责人在采访中向路透社透露：谷歌的技术工具不会提出指向性别的代词，因为风险太高，“智能撰写”（Smart Compose）技术可能会错误预测用户性别以至于冒犯用户。

Gmail产品经理Paul Lambert说，公司研究该项目的科学家在1月份发现了这个问题，当时他正在打字：“我下周会见投资者”，而Smart Compose功能就自动提出了问题：“你想和他见面吗？”而不是“她”。

消费者已经习惯了，智能手机自动功能不太灵敏。但是，性别问题正在影响政治和社会，谷歌不想冒险，批评家正在以各种方式仔细审查人工智能的潜在偏见漏洞。

Paul Lambert表示：“性别问题出错是大问题。”

Smart Compose功能利用得当可能对业务有很大帮助。这证明谷歌比其他竞争对手更了解人工智能的细微差别，这是该公司为其品牌建立亲和力并吸引客户使用其AI驱动的云计算工具、广告服务和硬件的一部分战略。

Gmail拥有15亿用户，而Paul Lambert表示，Smart Compose协助Gmail.com发送全球11％的消息。

Smart Compose是AI开发人员称之为自然语言生成（NLG）的一个用例，计算机通过研究文学、电子邮件和网页中的单词之间的模式和关系来“学习”写句子。

系统会显示数十亿个人类写下的句子，之后会“学习”到如何完成常用短语，但也会受到普遍性的限制。例如，男性长期在金融和科学等领域占主导地位，因此Smart Compose会认为投资者或工程师是“他”。而所有主要的科技公司也是这种情况。

Paul Lambert表示，由大约15位工程师和设计师组成的Smart Compose团队尝试了几种解决方法，但没有一种能够证明是无偏见或可行的。他们认为最好的解决方案是最严格的解决方案：限制人工智能的覆盖范围。他说，禁用性别代名词对Smart Compose的功能影响不到1％。

Prabhakar Raghavan负责监管Gmail和其他服务的工程，他表示：“我们觉得唯一可靠的是保守做法。”

谷歌的新对策

谷歌决定在性别问题上采取保守做法，因为该公司预测技术之前出过问题。

在2015年，谷歌的照片服务中图像识别功能把一位黑人女士识别为大猩猩，之后谷歌就这件事道歉。在2016年，谷歌修改了搜索引擎的自动完成功能，因为当用户寻求有关犹太人的信息时，补充信息会显示“是恶魔”这种反犹太人的信息。

谷歌已经禁止预测技术出现咒骂和种族辱骂相关的词，以及提及商业竞争对手或悲惨事件。

谷歌禁用性别代词的新政策也影响了智能回复中出现的回复列表。这个服务允许用户使用短语如“听起来不错”立即回复短信和电子邮件。

谷歌还利用人工智能道德团队开发的测试来发现其他的偏见漏洞。

美国以外的人寻找当地的文化问题。Smart Compose很快会用四种语言显示：西班牙语、葡萄牙语、意大利语和法语。

工程领导人Prabhakar Raghavan说道：“你需要进行大量的人为监督。因为在每种语言中，不恰当的用词可能会对应不同的东西。”

科技公司共同的挑战

谷歌并不是唯一一家担心性别代名词问题的科技公司。

Agolo是一家纽约创业公司，汤森路透（Thomson Reuters）曾对其进行投资，主要使用AI来概括商业文件。

它的技术无法在某些文件中确定哪个代词与哪个名称相符。Agolo的首席技术官Mohamed AlTantawy表示，所以概括的结果会有几句话可以给用户提供更多背景信息。

Mohamed AlTantawy说：“长的副本比省略了细节要好。再小的错误都会让公众失去信心，人们希望100％正确。”

然而，不完美之处仍然存在。谷歌和苹果公司开发的预测键盘工具会出现“男警察”代替“警察”，“男销售员”代替“销售员”的情况。

在谷歌翻译中输入中性土耳其语短语“one is a soldier”，它的英语翻译指代男性士兵，是“他是士兵”。同样的，阿里巴巴、微软公司、亚马逊公司的翻译软件在为云计算客户提供翻译服务时会采用“她”作为相同短语。

AI专家呼吁这些公司刊登免责声明和给出多种可能的翻译。

微软的LinkedIn表示，避免使用一年前的预测消息传递工具Smart Replies中的性别代词，以防止发生潜在的错误。阿里巴巴和亚马逊目前没有回应评论。

Automated Insights Inc是美国北卡罗来纳州的一家从统计数据中生成新闻文章的公司，其集成工程师John Hegele表示，像Smart Compose这样“警告和限制”的做法，仍然是复杂系统中最常用的策略。

John Hegele表示：“最终目标是一个完全由机器生成的系统，可以准确知道要表达的内容。虽然已经取得了很多进展，但目前还没能实现。”