Gmail的智能构图屏蔽了基于性别的代词，因为谷歌担心会有偏见

Alphabet Inc.旗下的谷歌今年5月为Gmail推出了一项巧妙的功能，可以在用户键入时自动完成句子。点击“我爱”，Gmail可能会提出“你”或“它”。但是，如果用户喜欢的对象是“他”或“她”，他们就不走运了。

谷歌的产品负责人在接受路透社采访时透露，谷歌的技术不会暗示基于性别的代词，因为其“智能合成”技术可能会错误地预测某人的性别或性别身份，冒犯用户，风险太高。Gmail产品经理保罗·兰伯特（paul Lambert）表示，一名公司研究科学家在1月份键入“我下周将会见一名投资者”时发现了这个问题，Smart Compose建议了一个可能的后续问题：“你想见见他吗？”而不是“她”

消费者已经习惯了智能手机上自动更正的尴尬失态。但在性别问题正在重塑政治和社会的时候，谷歌拒绝冒险，批评者正在前所未有地审视人工智能中的潜在偏见。“不是所有的‘搞砸’都是平等的，”兰伯特说。性别是一个“很大，很大的事情”错误。精明的构图对生意有好处。

展示谷歌比竞争对手更了解人工智能的细微差别是该公司战略的一部分，该战略旨在为其品牌建立亲和力，并吸引客户使用其人工智能驱动的云计算工具、广告服务和硬件。Gmail有15亿用户，Lambert说Smart Compose帮助处理了全球11%来自Gmail.com的邮件，该功能是在Gmail.com首次推出的。

智能合成是人工智能开发人员所说的自然语言生成(NLG)的一个例子，在这种情况下，计算机通过研究文学、电子邮件和网页中单词之间的模式和关系来学习写句子。一个显示数十亿人的句子变得擅长完成常见短语，但受到一般性限制的系统。例如，男性在金融和科学等领域长期占据主导地位，因此该技术可以从数据中得出投资者或工程师是“他”还是“他”的结论。这个问题几乎困扰了每一家主要的科技公司。

兰伯特说，由大约15名工程师和设计师组成的Smart Compose团队尝试了几种变通方法，但没有一种是无偏见或值得的。他们认为最好的解决办法是最严格的：限制覆盖范围。兰伯特说，在Smart Compose提出建议的情况下，性别代词禁令只影响了不到1%的情况。“我们唯一可靠的技术是保守，”普拉巴卡尔·拉加万（prabhakar Raghavan）说，他在最近的推广之前一直监督Gmail和其他服务的工程。

新政策

谷歌决定在性别问题上谨慎行事，此前该公司的预测技术出现了一些引人注目的尴尬。该公司在2015年道歉，当时其照片服务的图像识别功能将一对黑人夫妇标记为大猩猩。2016年，谷歌改变了其搜索引擎的自动完成功能，因为当用户寻求关于犹太人的信息时，谷歌提出了反犹太人的查询“犹太人邪恶吗”。谷歌已经禁止在其预测技术中使用脏话和种族诽谤，以及提及其商业竞争对手或悲惨事件。

该公司禁止性别代词的新政策也影响了谷歌智能回复中可能的回复列表。该服务允许用户立即回复短信和电子邮件，如“听起来不错”。谷歌利用其人工智能伦理团队开发的测试来发现新的偏见。兰伯特说，一个垃圾邮件和滥用小组戳系统，试图通过黑客或记者的思维来发现“多汁”的失态。

美国以外的工人寻找当地的文化问题。Smart Compose很快将在其他四种语言中工作：西班牙语、葡萄牙语、意大利语和法语。“你需要很多人的监督，”工程负责人拉加万说，因为“在每种语言中，不当之网必须涵盖不同的东西。”

广泛的挑战

谷歌并不是唯一一家在性别代词问题上苦苦挣扎的科技公司。获得汤森路透投资的纽约创业公司Agolo使用AI来汇总商业文档。它的技术在一些文献中不能可靠地确定哪个代词配哪个名字。因此，Agolo的首席技术官穆罕默德·阿尔坦塔维（Mohamed AlTantawy）表示，总结中提取了几个句子，以给用户更多的上下文。

他说更长的副本比缺少细节要好。“最小的错误都会让人们失去信心，”阿尔坦塔维说。“人们希望百分之百正确。”然而，缺陷仍然存在。谷歌和苹果公司开发的预测键盘工具提出用性别化的“警察”来完成“警察”和“推销员”来表示“销售”。在谷歌翻译中输入中立的土耳其短语“一个是士兵”，它就会用英语吐出“他是士兵”。阿里巴巴（Alibaba）和微软（Microsoft Corp.）的翻译工具也是如此。亚马逊（Amazon.com Inc.）在为云计算客户提供的翻译服务中，相同的短语选择了“她”。

人工智能专家呼吁这些公司展示免责声明和多种可能的翻译。微软的领英表示，为了避免潜在的失误，它在其一年前的预测信息工具智能回复中避免了性别代词。阿里巴巴和亚马逊没有回应置评请求。总部位于北卡罗来纳州达勒姆的自动洞察公司（Automated Insights Inc.）的集成工程师约翰·黑格尔（John Hegele）表示，类似智能合成中的警告和限制仍然是复杂系统中最常用的对策。该公司从统计数据中生成新闻文章。

“最终目标是一个完全机器生成的系统，它神奇地知道该写什么，”黑格尔说。“已经取得了很多进展，但我们还没有取得进展。”