人工智能正渗透到我们的日常生活中，应用程序可以管理你的**图片、管理你的电子邮件，以及将任何语言的文本翻译成另一种语言。谷歌、Facebook、苹果和微软都在大力研究如何将人工智能集成到它们的主要服务中。很快你就会在每次拿起**时与AI（或其输出）进行交互。你应该相信它吗？不总是这样。

人工智能可以比人类更快更准确地分析数据，但它也可以继承我们的偏见。为了学习，它需要大量的数据，找到这些数据最简单的方法就是从互联网上输入文本。但是互联网包含了一些极端偏颇的语言。斯坦福大学的一项研究发现，一个接受过互联网训练的人工智能将刻板印象中的白人名字与“爱”等积极词汇联系在一起，而黑人名字则与“失败”和“癌症”等消极词汇联系在一起

Luminoso首席科学官Rob Speer负责监督开源数据集ConceptNet Numberbatch，它被用作人工智能系统的知识库。他测试了Numberbatch的一个数据源，发现它们的单词关联存在明显的问题。当输入一个类似的问题“男人对女人就像店主对女人一样……”时，系统会填写“家庭主妇”。它同样把女人与缝纫和化妆品联系起来。

虽然这些关联可能适用于某些应用程序，但它们会在常见的人工智能任务（如评估求职者）中产生问题。人工智能不知道哪些关联是有问题的，所以对**的r进行排序是没有问题的é总和é 低于相同的ré总和é 从一个男人那里。同样，当斯佩尔尝试构建一个餐馆评论算法时，它对墨西哥食物的评价较低，因为它学会了将“墨西哥菜”与“非法”等负面词汇联系起来

所以斯佩尔就进去了。他发现了不恰当的联想，并将其调整为零，同时保持了诸如“男人/叔叔”和“女人/阿姨”之类的恰当联想，他对与种族、种族和宗教有关的词语也做了同样的处理。为了对抗人类的偏见，需要一个人类。

Speer在一封电子邮件中说，Numberbatch是唯一一个内置去偏倚功能的语义数据库。他对这种竞争优势感到高兴，但他希望其他知识库也能效仿：

这是近期人工智能的威胁。这不是科幻小说里机器人主宰世界的场景。是人工智能驱动的服务做出了我们不理解的决策，这些决策最终会伤害某些群体。

关于这种偏见，最可怕的是它能在无形中接管一切。据斯佩尔说，“有些人（将）一生都不知道为什么他们会得到更少的机会，更少的工作机会，更多的与警察或交通安全管理局的互动……”当然，他指出，种族主义和性别歧视被烙印进社会，而充满希望的技术进步，即使明明是为了对抗它们，往往也会放大它们。没有建立在主观数据上的客观工具。因此，人工智能开发者承担着巨大的责任，去发现他们人工智能的缺陷并加以解决。

“应该更多地了解什么是真实的，什么是炒作，”斯皮尔说人工智能很容易被过度炒作，因为大多数人还没有正确的隐喻来理解它，这就阻止了人们适当的怀疑。

“没有一种人工智能能像人脑那样工作，”他说为了反击这种炒作，我希望我们能停止谈论大脑，开始谈论实际发生的事情：主要是统计数据、数据库和模式识别。这不应该让它变得不那么有趣。”