这个谷歌人工智能视频分类器很容易被潜意识的图像愚弄

谷歌目前正与一些世界上最强大的公司陷入困境，他们对自己的广告出现在YouTube上的种族主义、反犹太主义和恐怖分子视频旁边感到恼火。最近的报道将这一问题曝光，作为回应，各品牌纷纷推出广告活动，而谷歌则将更多人工智能资源用于验证视频内容。但问题是，这家搜索巨头目前的算法可能无法胜任这项任务。...

谷歌目前正与一些世界上最强大的公司陷入困境，他们对自己的广告出现在YouTube上的种族主义、反犹太主义和****视频旁边感到恼火。最近的报道将这一问题曝光，作为回应，各品牌纷纷推出广告活动，而谷歌则将更多人工智能资源用于验证视频内容。但问题是，这家搜索巨头目前的算法可能无法胜任这项任务。

华盛顿大学最近发表的一篇由Quartz发现的研究论文明确了这个问题。它测试了谷歌的云视频智能API，该API被设计用于客户端，通过对象识别自动对视频内容进行分类(该系统目前处于私人测试阶段，没有在YouTube或任何其他谷歌产品上使用——这些产品使用不同的系统。）这种由深度神经网络提供支持的API在普通视频上运行得非常好，但研究人员发现它很容易被坚定的对手欺骗。

在这篇论文中，华盛顿大学的研究人员描述了一段测试视频（由Google提供，名为Animals.MP4）是如何被公司的API赋予“Animal”、“widlife”、“Zoo”、“Nature”和“Touri**”标签的。然而，当研究人员在视频中**一辆汽车的图片时，API以98%的把握说，视频应该被贴上“奥迪”的标签。在这种情况下，这些帧被称为“敌对图像”，大约每两秒钟**一次。

研究人员写道：“这种漏洞严重破坏了API在敌对环境中的适用性。”例如，[…]对手可以绕过视频过滤系统，将良性图像**含有非法内容的视频。”

这项工作凸显了科技界的一个明显趋势。随着谷歌（Google）、Facebook和Twitter等公司在其平台上处理令人讨厌的内容，它们越来越多地转向人工智能来帮助对数据进行排序和分类。然而，人工智能系统从来都不是完美的，它们经常会出错或被欺骗。这一点已经被谷歌的反troll过滤器所证实，该过滤器旨在对侮辱进行分类，但可以被俚语、流氓标点符号和打字错误所愚弄。似乎还需要人类来可靠地告诉我们人类到底在干什么。

更新时间：4月4日，12:04PM：这个故事已经更新，以澄清API工具目前没有部署在YouTube上。