Gmail的Smart Compose是谷歌近年来最有趣的人工智能功能之一，它可以预测用户将在电子邮件中写些什么，并为用户提供完成句子的服务。但和许多人工智能产品一样，它的智能程度取决于它所训练的数据，而且容易出错。这就是为什么谷歌阻止Smart Compose在电子邮件中使用基于性别的代词，如“他”和“她”——谷歌担心它会猜错性别。

路透社报道说，这一限制是在该公司的一名研究科学家在今年1月发现问题后引入的。研究人员在一条信息中键入“我下周要会见一位投资者”，Gmail提出了一个后续问题，“你想会见他吗”，误导了投资者的性别。

Gmail产品经理PaulLambert告诉路透社，他的团队试图用多种方法解决这个问题，但都不够可靠。Lambert说，最终，最简单的解决方案就是将这些类型的回复全部删除，谷歌表示，这一改变只会影响不到1%的智能撰写预测。兰伯特告诉路透社说，在这种情况下谨慎是值得的，因为性别是一件“非常非常重要”的事情。

这个小错误是一个很好的例子，说明了使用机器学习构建的软件如何反映和强化社会偏见。像许多人工智能系统一样，Smart Compose通过研究过去的数据、梳理旧电子邮件来学习它应该建议的单词和短语(它的姊妹功能Smart Reply也提供了同样的功能来建议对电子邮件进行小规模的回复。）

在兰伯特的例子中，似乎Smart Compose已经从过去的数据中了解到，投资者更可能是**而不是**，所以错误地预测这一位也是如此。

这是一个相对较小的过失，但表明了一个更大的问题。如果我们相信使用过去数据训练的算法所做的预测，那么我们很可能会重复过去的错误。在电子邮件中猜测错误的性别不会产生巨大的后果，但是人工智能系统在医疗、就业和法庭等领域做出决策又会怎样呢？就在上个月，有报道称亚马逊不得不放弃一种使用机器学习的内部招聘工具，因为它对**候选人有偏见。AI偏见可能会让你失去工作，甚至更糟。

对于谷歌来说，这个问题可能是巨大的。该公司正在将算法判断集成到其更多产品中，并在世界各地销售机器学习工具。如果它最明显的人工智能功能之一犯了如此微不足道的错误，那么消费者为什么要信任该公司的其他服务呢？

该公司显然看到了这些问题的出现。在Smart Compose的帮助页面中，它警告用户，它使用的人工智能模型“也可以反映人类的认知偏见”。意识到这一点是一个良好的开端，围绕如何处理这一问题的对话正在进行中。“不过，在这种情况下，该公司并没有解决太多问题，只是消除了系统出错的机会。