来自机器学习实验室OpenAI的研究人员发现，他们最先进的计算机视觉系统可以被比钢笔和笔记本更复杂的工具所欺骗。如上图所示，简单地写下一个对象的名称并粘贴在另一个对象上就足以诱使软件误认它看到的内容。

“我们将这些攻击称为排版攻击，”OpenAI的研究人员在博客中写道。他们指出，这种攻击类似于欺骗商业机器视觉系统的“敌对图像”，但**起来要简单得多。

对抗性图像对于依赖机器视觉的系统来说是一个真正的危险。例如，研究人员已经证明，只要在路上贴上某些标签，他们就可以欺骗特斯拉自动驾驶汽车中的软件在没有警告的情况下改变车道。这种攻击对从医疗到军事的各种人工智能应用都是一种严重的威胁。

但至少在目前，这种特定攻击所带来的危险是不需要担心的。讨论中的OpenAI软件是一个名为CLIP的实验系统，没有部署在任何商业产品中。事实上，CLIP不寻常的机器学习体系结构的本质造成了这种攻击成功的弱点。

CLIP旨在探索人工智能系统如何在没有密切监督的情况下，通过对庞大的图像和文本对数据库进行训练，学会识别对象。在这个案例中，OpenAI使用了从互联网上刮下来的大约4亿个图像-文本对来**训练剪辑，这个剪辑于今年1月发布。

本月，OpenAI的研究人员发表了一篇新的论文，描述了他们是如何打开剪辑来查看它的性能的。他们发现了他们称之为“多模态神经元”的东西——机器学习网络中的单个组件，它们不仅对物体的图像做出反应，还对草图、卡通和相关文本做出反应。令人兴奋的原因之一是，它似乎反映了人脑对**的反应，人们观察到单个脑细胞对抽象概念而不是具体例子作出反应。OpenAI的研究表明，人工智能系统有可能像人类一样将这些知识内化。

在未来，这可能会导致更复杂的视觉系统，但目前，这种方法还处于起步阶段。尽管任何人都能告诉你苹果和一张写着“苹果”字样的纸之间的区别，但像CLIP这样的软件却不能。同样的能力，让程序在抽象的层次上链接文字和图像，造成了这种独特的弱点，OpenAI称之为“抽象谬误”

实验室给出的另一个例子是识别存钱罐的片段中的神经元。这个组件不仅响应小猪存钱罐的图片，还响应一串美元符号。在上面的例子中，这意味着如果你用“$$$”字符串覆盖一个链锯，你可以欺骗CLIP把它识别为一个存钱罐，就像它在你当地的硬件商店是半价一样。

研究人员还发现，CLIP的多模态神经元编码的正是你从互联网上获取数据时可能会发现的那种偏见。他们注意到“中东”的神经元也与恐怖主义有关，并发现了“一个为黑皮肤人和大猩猩都开火的神经元”。这复制了谷歌图像识别系统中一个臭名昭著的错误，该系统将黑人标记为大猩猩。这又是一个例子，说明了机器智能和人类智能有多么不同，为什么在我们把自己的生命托付给人工智能之前，必须先把机器智能分开来理解它的工作原理。