Facebook正在澳大利亚测试一种新的先发制人的报复性色情防御方法，乍一看可能会适得其反：直接将你的**或视频上传到Messenger。据澳大利亚广播公司（Australia Broadcasting Corporation）称，Facebook已与澳大利亚**电子安全专员办公室（office of the Australian government's e-Safety Commissioner）合作，开发了一个新系统，以打击非感官分享露骨媒体的行为。该办公室主要致力于防止未成年人在网上受到虐待。

通过上传你担心将来可能被分享的图片或视频，试图在网上羞辱或骚扰你，Facebook可以对媒体进行数字“散列”，有效地给媒体留下数字足迹。这使得社交网络可以使用与照片和人脸匹配算法相同的基于人工智能的技术来跟踪媒体，然后防止媒体在未来被上传和共享。这只在您拥有原始文件的情况下有效，但它似乎绕过了恶意第三方通过分析和标记图像或视频的实际内容来更改元数据的任何尝试。

早在今年4月，Facebook就首次实施了类似的、尽管不那么先发制人的机制，以防止报复色情泛滥，并实施了照片匹配系统，以防止已经被报道和拍摄的图像传播。该公司还对报复性色情活动的账户进行了自由取缔。但现在Facebook似乎在要求用户提前思考，如果他们觉得自己特别脆弱，就要谨慎行事，这种情况可能发生在一段关系中，随着时间的推移，这种关系可能会变得虐待，或者只有在关系结束后才会发生。

电子安全专员朱莉·英曼·格兰特（Julie Inman Grant）对******（ABC）说：“我们看到许多场景，照片或视频可能是在某一点上自愿拍摄的，但没有任何形式的同意将这些图像或视频发送得更广。”他们没有储存图像。他们正在存储链接并使用人工智能和其他照片匹配技术。因此，如果有人试图上传相同的图像，这将有相同的数字足迹或哈希值，它将被阻止上传。”

当然，这里有几个值得一提的问题。尽管Facebook使用散列系统来避免将照片或视频直接存储在其服务器上，但该公司在隐私和消费者信任方面名声不佳，这意味着普通用户可能会认为直接上传到Messenger相当于发布针对自己的报复性色情。而且因为这只是一个测试，现在还不知道系统是否可以轻易地通过改变照片的某些方面来欺骗Facebook的过滤器，有时甚至是以微妙甚至不易察觉的方式。

欺骗机器视觉系统的成功尝试是有据可查的。众所周知，黑客和研究人员都会利用所谓的“敌对图像”来欺骗人工智能算法，要么让面部识别系统认为某人长得像其他人，或者强迫一个图像识别软件认为它看到的是一个物体，而这个物体实际上只是一堆杂乱无章的几何形状。认为Facebook的自动复仇色情过滤系统可以以类似的方式绕过并不牵强，它可以在图像行之间**足够多的隐藏数据，使其在算法眼中看起来与源代码有足够的不同。

美国东部时间11月7日下午5:02更新：澄清Facebook的哈希系统意味着它可以识别文件，而不需要在服务器上显式访问它们。