两周前，斯坦福大学的一对研究人员提出了一个惊人的说法。他们利用从一个***站上拍摄的数十万张照片，说他们训练了一个面部识别系统，只要看一眼就能识别出某人是**恋还是***。这项工作首先被《经济学人》报道，其他出版物也很快跟进，标题如“新AI可以从照片中猜出你是***还是**恋”，“AI可以从照片中判断你是***，这很可怕。”

你可能已经猜到了，事情并没有那么简单(更清楚的是，单凭这项工作，人工智能无法从照片上判断某人是***还是**恋。）但这项研究抓住了人们对人工智能的共同恐惧：它将为监视和控制开辟新的途径，并可能对边缘化人群特别有害。论文的作者之一，Michal Kosinski博士说，他的目的是对人工智能的危险性敲响警钟，并警告说，面部识别将很快不仅能够识别某人的性取向，而且能够识别他们的政治观点、犯罪行为，甚至智商。

有了这样的说法，有些人担心我们正在恢复一个有着糟糕历史的旧观念：你可以凭直觉从外表判断人物。这种伪科学，相貌学，是19世纪和20世纪科学种族主义的燃料，为人类最坏的一些冲动提供了道德掩护：妖魔化、谴责和消灭人类同胞。批评科辛斯基工作的人指责他用21世纪的神经网络取代了19世纪的卡钳，而教授本人则表示，他对自己的发现感到震惊，并很高兴被证明是错的。”这是一个有争议和令人不安的话题，也让我们感到不安，”他告诉《边缘报》。

但是，伪科学有没有可能在人工智能的帮助下，伪装成新的装束，潜入这个世界呢？有人说机器只是能够比我们自己读到更多关于我们的信息，但是如果我们训练机器去实现我们的偏见，并且在这样做的过程中，给我们正确摒弃的旧思想以新的生命，那会怎样呢？我们怎样才能知道区别呢？

人工智能真的能发现性取向吗？

首先，我们需要看看最近争论的核心研究，这项研究是由科辛斯基和他的合著者王一伦撰写的。它的结果被报道得很差，大量的炒作来自于对系统准确性的错误陈述。该论文指出：“在81%的情况下，[该软件]能正确区分男***者和**恋者，在71%的情况下能正确区分**。”当系统给一个人5张照片时，这一比例会上升：**高达91%，**为83%。

从表面上看，这听起来像是“人工智能81%的时候可以通过看一个人的照片来判断他是***还是**恋。”（因此成为头条新闻）但这并不是数字的意思。在随机展示照片时，人工智能的正确率不到81%：它在一对照片上进行测试，一张是***，一张是**恋，然后询问哪个人更可能是***。**81%的时间猜对了，**71%的时间猜对了，但是测试的结构意味着它从50%的基线开始——这就是随机猜测的结果。尽管它比这要好得多，但结果并不等同于说它能在81%的时间里识别任何人的性取向。

正如马里兰州大学的社会学家菲利普·科恩（Philip Cohen）在博客中对《边缘报》发表的批评文章所说：“人们害怕你有私生活，你的性取向不为人所知，当你去机场或体育赛事时，电脑会扫描人群，识别出你是***还是**恋。但没有太多证据表明这种技术可以做到这一点。”

Kosinski和Wang在论文的最后用1000张照片而不是两张照片测试了他们的系统，他们清楚地表明了这一点。他们要求人工智能在一个数据集中选出谁最有可能是***，其中7%的照片对象是***，大致反映了美国人口中**恋和***的比例。当被要求选择100个最有可能是***的人时，系统只得到70个可能的点击中的47个。其余53人身份不正确。当被要求确定前10名时，有9个是对的。

如果你是一个坏演员试图用这个系统来识别***者，你不能确定你得到了正确的答案。不过，如果您将它用于足够大的数据集，您可能会得到大部分正确的猜测。这危险吗？如果这个系统被用来针对***者，那当然是的。但其余的研究表明，该计划还有进一步的局限性。

计算机真正能看到什么而人类却看不到？

目前还不清楚面部识别系统是用什么因素来做出判断的。Kosinski和Wang的假设是，这主要是识别结构性差异：男***者脸上的**特征和女***者脸上的**特征。但是人工智能可能被其他**物混淆了，比如照片中的面部表情。

这是特别相关的，因为在研究中使用的图像是从一个约会网站。正如奥伯林学院（oberlincollege）社会学教授格雷戈•马特森（Greggor Mattson）在一篇博客文章中指出的那样，这意味着这些图片本身是有偏见的，因为它们是专门为吸引具有某种性取向的人而挑选的。几乎可以肯定的是，他们达到了我们对***和**恋者的文化期望，而且，为了进一步缩小他们的适用范围，所有的研究对象都是白人，不包括双性恋者或自我认同的变性人。如果一个**恋**在***站上选择了一张最具“男子气概”的照片，那说明的更多的是他认为社会想要从他那里得到什么，而不是他的下巴形状和他的性取向之间的联系。

为了确保他们的系统只关注面部结构，Kosinski和Wang使用了名为VG Face的软件，该软件将面部编码为数字串，并被用于识别画中名人的模样等任务。他们写道，这个程序可以让他们“最小化瞬间特征的作用”，比如灯光、姿势和面部表情。

但从事人工智能面部系统研究的研究员汤姆·怀特说，VGG面部实际上非常善于捕捉这些元素。怀特在Twitter上指出了这一点，并通过电子邮件向《边缘》杂志解释了他是如何测试这个软件的，并用它成功地区分了表情像“中性”和“快乐”的面孔，以及姿势和背景色。

科辛斯基在接受《边缘》采访时说，他和王明确表示，面部头发和化妆等可能是人工智能决策的一个因素，但他坚持认为面部结构是最重要的。”Kosinski说：“如果你观察VGG面部的整体特征，你会发现它对短暂的面部特征影响很小。”我们还提供了非暂时性面部特征似乎可以预测性取向的证据。”

问题是，我们不能确定。Kosinski和Wang还没有发布他们创建的程序或者他们用来训练它的图片。他们确实在其他图片来源上测试自己的人工智能，看看它是否识别出了所有***和**恋的共同因素，但这些测试是有限的，而且也是从一个有偏见的数据集中提取的——Facebook个人资料图片来自喜欢“我喜欢***”和“***和神话”等页面的**

这些群体中的**是否是所有男***的合理代理人？可能不是，科辛斯基说他的工作可能是错的。”他说：“还需要进行更多的研究来验证这一点。”。但要说一个人怎样才能完全消除选择偏差来进行结论性测试是很棘手的。科辛斯基告诉《边缘报》：“你不需要了解模型是如何工作来测试它是否正确的。”然而，正是对算法不透明性的接受，使得这类研究如此令人担忧。

如果人工智能不能表现出它的工作能力，我们能相信它吗？

人工智能研究人员不能完全解释为什么他们的机器会做他们所做的事情。这是一个贯穿整个领域的挑战，有时被称为“黑箱”问题。由于人工智能的训练方法，这些程序不能像普通软件那样显示它们的工作，尽管研究人员正在努力修正这一点。

与此同时，它也导致了各种各样的问题。一个常见的现象是，性别歧视和种族歧视的偏见是捕捉到从人类的训练数据和复制的人工智能。以科辛斯基和王的工作为例，“黑匣子”让他们在信仰上有了特别的科学飞跃。因为他们相信他们的系统主要是分析面部结构，他们说他们的研究表明面部结构可以预测性取向研究1a表明，通过[神经网络]提取的面部特征可用于准确识别**和**的性取向。”）

专家说，这是一个误导性的说法，没有得到最新科学的支持。伦敦国王学院（King's College London）研究性取向生物学的学者卡齐·拉赫曼（Qazi Rahman）说：“脸型和性取向可能有一个共同的原因——最可能的原因是子宫内荷尔蒙的平衡——但这并不意味着脸型能可靠地预测性取向。”他告诉《边缘》杂志说：“生物学比我们通常认为的要微妙得多。”这里的问题是协会的力量。”

性取向主要来自生物学的观点本身就有争议。拉赫曼认为性取向主要是生物学上的，他称赞科辛斯基和王的工作“这不是垃圾科学，”他说但当谈到性取向的预测时，他说有一整套“非典型***”需要考虑对我来说，问题更多的是（研究）没有抓住重点，这就是行为。”

把性取向的问题归结为身体中一个单一的、可测量的因素有着悠久的、往往是不光彩的历史。正如马顿在他的博客中写道的，研究方法从“19世纪对女*****和男***臀部的测量，到20世纪末声称发现了‘***基因’、‘***大脑’、‘***无名指’、‘***耳朵’和‘***头皮’。”，但在最坏的情况下，它是一种压迫的工具：它给那些想去人性化和迫害性少数群体的人一个“科学”的借口。

澳大利亚国立大学社会学讲师詹妮·戴维斯（Jenny Davis）将其描述为一种生物本质主义。这是一种信仰，认为性取向之类的东西根植于身体。她说，这种方法是双刃剑。一方面，它“做了一件有用的政治事情：把责任从同**望中分离出来。但另一方面，它强化了这种欲望被贬低的地位，“把**恋定为常态，把***定为“价值较低的……一种疾病”

当我们在这种背景下考虑科辛斯基和王的研究时，人工智能驱动的面部识别呈现出更为黑暗的一面——也就是说，一些评论家说，作为由人工智能驱动的面相回归趋势的一部分。

你的性格，就像你脸上的鼻子一样朴素

几个世纪以来，人们一直认为脸是塑造人物的关键。这个概念起源于古希腊，但在19世纪尤其有影响。面相学的支持者建议，通过测量某人前额的角度或鼻子的形状，他们可以确定一个人是诚实的还是罪犯。去年在中国，人工智能研究人员声称他们可以用面部识别做同样的事情。

他们的研究成果发表在《利用人脸图像自动推断犯罪行为》一书中，在人工智能社区引起了一点小骚动。科学家们指出了这项研究的缺陷，并得出结论说，这项工作是在复制人类对什么是“刻薄”或“漂亮”面孔的偏见。在一份名为“相貌学的新衣服”的广泛反驳中，谷歌研究人员布莱斯（Blaise Ag）üera y Arcas和两位合著者写道，我们应该期待“未来几年会有更多类似的研究……错误地宣称科学的客观性，以便‘洗劫’人类的偏见和歧视。”üera y Arcas可对此报告发表评论。）

Kosinski和Wang的论文清楚地承认了相貌学的危险性，指出相貌学“现在被普遍地，正确地，作为迷信和伪装成科学的种族主义的混合物而被拒绝。”但是，他们继续说，仅仅因为一个主题是“禁忌”，并不意味着它没有真理的基础。他们说，由于人类能够以“低精度”读取他人脸上的个性等特征，机器应该也能这样做，但更准确。

科辛斯基说，他的研究不是相貌学，因为它使用的是严格的科学方法，他的论文引用了一些研究表明，我们可以通过观察来推断人的特征（准确度不同）。”他说：“我接受了教育，让我相信，脸上绝对不可能有任何关于你亲密特征的信息，因为相貌学和颅相学只是伪科学。”但事实上，他们声称的东西没有任何事实依据，他们在编造东西，并不意味着这些东西是不真实的。”他同意相貌学不是科学，但他说，计算机可以揭示的基本概念中可能有真理。

对戴维斯来说，这种态度来自于对人工智能中立性和客观性的普遍错误信念。”“人工智能实际上不是人工的，”她告诉《边缘报》机器学习就像人类学习一样。我们通过文化接受教育，吸收社会结构的规范，人工智能也是如此。因此，它将重新创造、扩大并延续我们教给它的轨迹，这些轨迹将始终反映现有的文化规范。”

我们已经创造了性别歧视和种族歧视的算法，而这些文化偏见和相貌实际上只是同一枚硬币的两面：两者都依赖不好的证据来评判他人。中国研究人员的工作是一个极端的例子，但肯定不是唯一的例子。至少已经有一家初创公司宣称可以通过人脸识别识别识别****和恋童癖，还有许多其他公司提供分析“情商”和进行人工智能监控。

直面未来

但是回到那些关于Kosinski和Wang论文的令人震惊的标题所暗示的问题：人工智能会被用来迫害性少数群体吗？

这个系统？不，换一个？也许 吧。

Kosinski和Wang的工作并不是无效的，但其结果需要认真的鉴定和进一步的测试。如果没有这些，我们对他们的系统所了解的只是，它可以在某个特定的***站上，以某种可靠性发现自我认同的***和**恋白人之间的差异。我们不知道是否发现了所有***者和**恋者所共有的生理差异；我们不知道它是否适用于更广泛的照片集；而且这项研究并没有表明，性取向只需测量下巴就可以推断出来。它并没有破译人类的***，就像人工智能聊天机器人破译了一段美好对话的艺术一样(它的作者也没有这样的说法。）

科辛斯基说，这项研究是为了警告人们，但他承认，要做到这一点，你必须解释自己是如何做到的，这是一个“不可避免的悖论”。论文中使用的所有工具都可供任何人查找和组装。研究人员杰里米·霍华德（Jeremy Howard）在深度学习教育网站Fast.ai上撰文总结道：“假设许多组织已经完成了类似的项目，但没有在学术文献中发表，这可能是合理的（原文如此）。”

我们已经提到了从事这项技术的初创公司，不难发现**机构会使用这项技术。在伊朗和沙特阿拉伯这样的国家，***仍然可以被****；在许多其他国家，***意味着被国家追捕、监禁和折磨。最近有报道说车臣共和国开设了男***集中营，那么如果那里有人决定**自己的艾盖达尔，并扫描俄罗斯社交媒体的个人资料图片怎么办？

在这里，很明显，像Kosinski和Wang这样的系统的精确度并不是真正的重点。如果人们相信人工智能可以用来确定性取向，他们会使用它。考虑到这一点，我们比以往任何时候都更重要的是要理解人工智能的局限性，在危险开始影响人们之前，尝试并消除它们。在我们教机器我们的偏见之前，我们首先要教自己。