电脑认为他们知道你是谁。人工智能算法可以从图像中识别物体，甚至人脸。但在人脸识别算法的庇护下，我们很少能窥见。现在，通过ImageNet轮盘赌，我们可以看到AI跳到结论。它的猜测有些可笑，有些…种族主义。

ImageNet轮盘赌是艺术和技术博物馆名为“训练人类”的展览的一部分，旨在向我们展示面部识别算法的杂乱内部，否则我们可能会认为这些算法是直截了当和公正的。它使用人工智能研究中使用的一个大型标准数据库中的数据。上传一张照片，算**告诉你它认为你是什么。我的第一张**被贴上了“不吸烟”的标签，另一张被贴上了“脸”的标签，我们的主编被贴上了“心理语言学家”的标签，我们的社交编辑被贴上了“swot，grind，nerd，wonk，dweeb”的标签，无害的乐趣，对吧？

但后来我尝试了一张自己在较暗的灯光下的照片，它回来的标签是“黑人，黑人，黑人，黑人”，事实上，这似乎是人工智能的标签，任何人都有深色皮肤。更糟糕的是：在twitter上讨论这个工具的帖子中，有色人种总是把这个标签和“混血儿”以及“孤儿”、“**嫌疑犯”等毫无趣味的标签放在一起

这些类别在原始的ImageNet/WordNet数据库中，而不是由ImageNet轮盘赌工具的**者添加的。以下是后者的注释：

ImageNet轮盘赌定期以可疑和残忍的方式对人进行分类。这是因为基本的训练数据包含这些类别（以及那些被贴上这些类别标签的人的照片）。我们没有让基础训练数据负责这些分类。我们从普林斯顿和斯坦福大学创建的名为ImageNet的流行数据集中导入分类和训练图像，该数据集是用于图像分类和目标检测的标准基准。

ImageNet轮盘赌在一定程度上是为了展示各种政治是如何通过技术系统传播的，而这些系统的创造者甚至都没有意识到。

这些标签来自哪里？

该工具是基于ImageNet的，ImageNet是一个图像和标签的数据库，过去是，现在仍然是，图像识别算法的最大和最易访问的训练数据源之一。据Quartz报道，它是从网上收集的图片组装而成的，主要由土耳其的机械工人和人类标记，这些人将大量图片归类为硬币。

因为ImageNet的**者并不拥有他们收集的照片，他们不能仅仅把它们分发出去。但是如果你好奇的话，你可以查一下照片的标签，得到照片原始来源的url列表。例如，“个人，个人，某人，某人，凡人，灵魂”&gt科学家“&gt；”语言学家、语言科学家“心理语言学家”引出了这张照片列表，其中许多似乎来自大学教师网站。

浏览这些图片可以让我们一窥这里发生了什么。心理语言学家往往是以这种方式拍摄的白人。如果你的照片和他们的一样，你可能会被贴上心理语言学家的标签。同样地，其他标记取决于您与使用这些标记的训练图像的相似程度。如果你是秃头，你可能会被贴上光头的标签。如果你皮肤黝黑，衣着花哨，你可能会被贴上穿非洲礼仪服装的标签。

ImageNet并不是一个公正、客观的算法，它反映了创造者收集的图像、产生这些图像的社会、mTurk工作者的思想以及为标签提供单词的词典中的偏见。很久以前，有些人或电脑把“blackamoor”放进了在线词典，但从那时起，许多人肯定在他们的人工智能标签中看到了“blackamoor”（在疯狂的2019年！）我没说，哇，我们把这个拿走。是的，算法可能是种族主义和性别歧视，因为他们是从观察我们中学到的，好吗？他们是从看我们身上学到的。