杰西卡·瓦伦蒂（Jessica Valenti）在上周的专栏文章中写道，“如果Twitter、Facebook或谷歌想阻止他们的用户接受在线骚扰，他们可以在明天这样做。”从技术上讲，他们可以100%有效地阻止骚扰，因为如果你停止接收所有通信，你就停止接收骚扰。问题是，有没有可能钝算法工具是有效的，而不是太广泛？

瓦伦蒂特别提到YouTube的“复杂内容ID程序”：

瓦伦蒂在这里假设contentid是有效的。但是，内容ID和其他为版权执法服务的生硬的算法工具被记录在案，其效力值得怀疑，严重影响了****。换言之，内容ID及其同类同时太弱和太强。它们在解决版权侵权问题上的适用性已经受到严重怀疑；它们在解决骚扰问题上的适用性应该受到更多的质疑。

首先，contentid之所以有效，是因为它能够将上传内容与电影制片厂、唱片公司等上传的大量版权作品数据库进行匹配。换句话说，contentid寻找几乎完全相同的内容。骚扰具有可预测的性质，但它仍然常常是原创内容，在不同的情况下有很大的差异。机器学习算法最终能以可接受的精度预测骚扰吗？也许吧，但关键是：即使在版权执法方面，也没有人对内容标识系统感到满意。视频被错误标记的用户通常会感到愤怒，即使内容产业抱怨侵权行为持续，同时推动更强有力的保护，远远超出法律的意图。

内容ID和它的同类同时太弱和太强

关于Content-ID的实际功效的数据非常少。它当然是聪明的，但是它仍然可以被规避。更重要的是，contentid只是另一个工具，对于版权持有者来说，这仍然是一个恶作剧的游戏。瓦伦蒂要求她的读者尝试上传一个每日节目的剪辑，并“看看他们有多快就被打倒了。”是的，事情越变越糟。然后事情又有了起色。当然很难保持一个非官方版本的每日节目剪辑。但是在YouTube上搜索“每日秀”，你就会找到它们。一个反骚扰机制，骚扰得到通过，之后被删除，然后一次又一次地通过，令人满意吗？

为什么不首先自动阻止某些内容被发布？去年11月，我写了一篇关于Twitter用来压制英国国会议员卢西亚娜·伯格（Luciana Berger）的恶棍的直截了当的自动审查机制的文章。在这种情况下，用户被禁止在微博上对伯杰的某些诽谤。他们最终采用了精心设计的解决方案，在字母之间添加空格或破折号，或者只是张贴冒犯性的图片。使用类似BotMaker这样的工具来对付骚扰的明显问题，BotMaker是一个很可能在Berger的案例中使用的反垃圾邮件程序，这不仅是因为它们没有100%的有效性，而且它们显然没有可扩展性。在Twitter上向每个人扩展一个单词黑名单并不是一个可行的解决方案。

工具的攻击性越强，过滤掉不骚扰的通信的可能性就越大

这个工具的攻击性越强，它过滤掉那些没有骚扰的通信的可能性就越大——尤其是人们希望接收的通信。你可以从像Content-ID这样的系统标记的误报中看到这一点。例如，Content-ID记录了一个背景中有小鸟啁啾的视频，因为它匹配了一首前卫的歌曲，背景中也有一些小鸟啁啾。或者是美国宇航局关于火星登陆的官方视频被一家通讯社拍下来的时候。或者是因为人们开始唱“生日快乐”而中断了直播，或者是雨果奖的现场直播在颁奖典礼播出《谁博士》和其他雨果奖提名节目的片段时被打断。

在后一种情况下，UStream使用了与Content-ID类似但不完全相同的方法，即盲算法自动审查受版权保护的内容，而无需YouTube拥有的更复杂的上诉程序。机器人不聪明；他们无法感知上下文和意义。然而，YouTube的上诉系统并不能很好地转化为反骚扰工具。如果你必须报告每一个骚扰事件，然后在一个来回的上诉系统中坚持到底，那么这个系统有什么好处呢？

即使是依靠人来报告内容和处理报告的系统本身也可能成为滥用的渠道

依靠人来报告内容的系统，甚至更多的人来处理这些报告，理论上比自动算法对上下文更敏感，但即使是这些系统，也会成为来自各个意识形态领域的恶意行为者滥用的渠道。例如，参见目前对著名的男权活动家Stefan Molyneux提起的诉讼，他因欺诈性地利用DMCA关闭YouTube上一个专门批评其播客厌恶**的频道而被起诉。不仅仅是版权执法机制被用来扼杀公开讨论的厌女情绪。当一名妇女与街头骚扰者对质，秘密拍摄他们的反应，并将视频上传到YouTube上时，她的视频被删除了，“这违反了YouTube关于**或性内容的政策。”当BuzzFeed问及被删除的事时，YouTube发言人回应说，“我们网站上的大量视频，有时我们会打错电话，“即使有真正的人在另一端看投诉的背景，也会做出错误的决定。但自动化系统甚至不会考虑上下文。

拿内容ID和类似的系统来结束骚扰是不现实的技术乐观主义。瓦伦蒂引用杰克琳·弗里德曼的话说，“如果硅谷能发明一辆无人驾驶汽车，他们就可以在自己的平台上解决网络骚扰问题。”但无人驾驶汽车仍然没有出现在大街上，原因令人信服。加州大学伯克利分校交通研究所研究员史蒂文·施拉多夫在接受麻省理工学院《技术评论》采访时说：“公众似乎认为所有的技术问题都解决了。但事实并非如此，“无人驾驶汽车不擅长发现坑洞，更不擅长处理**和停车场。从理论上讲，这些似乎是小细节，但在实践中，不解决小细节会伤害到人。

内容ID的基本前提不能简单地针对骚扰

科技能减轻骚扰吗？产品的改变是否也能改变使用它的社区？当然。但是，模仿contentid的钝工具是被动的反应，必然会产生更多的问题，而不是缓解已经存在的问题。内容ID的基本前提-将内容与数据库匹配-不是一个可以简单地转移到骚扰的前提。而随后的程序，旨在减轻内容ID的直率——也就是说，DMCA的撤销和随后的上诉程序，具体到每一个涉嫌侵权的个案——并不是一个能让骚扰受害者受益的程序。

社交媒体公司对骚扰问题的反应乏善可陈，他们当然有能力做得更好，但做得更好仍不意味着明天就能消除骚扰。可悲的是，他们将知识产权执法置于用户安全之上，但即便是知识产权执法在许多方面都被认为不令人满意——无论是对内容行业、公平使用倡导者，还是对用户。一个以内容ID为模式的骚扰解决方案很可能会导致所有人的类似不满。