傑西卡·瓦倫蒂（Jessica Valenti）在上週的專欄文章中寫道，“如果Twitter、Facebook或谷歌想阻止他們的使用者接受線上騷擾，他們可以在明天這樣做。”從技術上講，他們可以100%有效地阻止騷擾，因為如果你停止接收所有通訊，你就停止接收騷擾。問題是，有沒有可能鈍演算法工具是有效的，而不是太廣泛？

瓦倫蒂特別提到YouTube的“複雜內容ID程式”：

瓦倫蒂在這裡假設contentid是有效的。但是，內容ID和其他為版權執法服務的生硬的演算法工具被記錄在案，其效力值得懷疑，嚴重影響了****。換言之，內容ID及其同類同時太弱和太強。它們在解決版權侵權問題上的適用性已經受到嚴重懷疑；它們在解決騷擾問題上的適用性應該受到更多的質疑。

首先，contentid之所以有效，是因為它能夠將上傳內容與電影製片廠、唱片公司等上傳的大量版權作品資料庫進行匹配。換句話說，contentid尋找幾乎完全相同的內容。騷擾具有可預測的性質，但它仍然常常是原創內容，在不同的情況下有很大的差異。機器學習演算法最終能以可接受的精度預測騷擾嗎？也許吧，但關鍵是：即使在版權執法方面，也沒有人對內容標識系統感到滿意。影片被錯誤標記的使用者通常會感到憤怒，即使內容產業抱怨侵權行為持續，同時推動更強有力的保護，遠遠超出法律的意圖。

內容ID和它的同類同時太弱和太強

關於Content-ID的實際功效的資料非常少。它當然是聰明的，但是它仍然可以被規避。更重要的是，contentid只是另一個工具，對於版權持有者來說，這仍然是一個惡作劇的遊戲。瓦倫蒂要求她的讀者嘗試上傳一個每日節目的剪輯，並“看看他們有多快就被打倒了。”是的，事情越變越糟。然後事情又有了起色。當然很難保持一個非官方版本的每日節目剪輯。但是在YouTube上搜索“每日秀”，你就會找到它們。一個反騷擾機制，騷擾得到透過，之後被刪除，然後一次又一次地透過，令人滿意嗎？

為什麼不首先自動阻止某些內容被髮布？去年11月，我寫了一篇關於Twitter用來壓制英國國會議員盧西亞娜·伯格（Luciana Berger）的惡棍的直截了當的自動審查機制的文章。在這種情況下，使用者被禁止在微博上對伯傑的某些誹謗。他們最終採用了精心設計的解決方案，在字母之間新增空格或破折號，或者只是張貼冒犯性的圖片。使用類似BotMaker這樣的工具來對付騷擾的明顯問題，BotMaker是一個很可能在Berger的案例中使用的反垃圾郵件程式，這不僅是因為它們沒有100%的有效性，而且它們顯然沒有可擴充套件性。在Twitter上向每個人擴充套件一個單詞黑名單並不是一個可行的解決方案。

工具的攻擊性越強，過濾掉不騷擾的通訊的可能性就越大

這個工具的攻擊性越強，它過濾掉那些沒有騷擾的通訊的可能性就越大——尤其是人們希望接收的通訊。你可以從像Content-ID這樣的系統標記的誤報中看到這一點。例如，Content-ID記錄了一個背景中有小鳥啁啾的影片，因為它匹配了一首前衛的歌曲，背景中也有一些小鳥啁啾。或者是美國宇航局關於火星登陸的官方影片被一家通訊社拍下來的時候。或者是因為人們開始唱“生日快樂”而中斷了直播，或者是雨果獎的現場直播在頒獎典禮播出《誰博士》和其他雨果獎提名節目的片段時被打斷。

在後一種情況下，UStream使用了與Content-ID類似但不完全相同的方法，即盲演算法自動審查受版權保護的內容，而無需YouTube擁有的更複雜的上訴程式。機器人不聰明；他們無法感知上下文和意義。然而，YouTube的上訴系統並不能很好地轉化為反騷擾工具。如果你必須報告每一個騷擾事件，然後在一個來回的上訴系統中堅持到底，那麼這個系統有什麼好處呢？

即使是依靠人來報告內容和處理報告的系統本身也可能成為濫用的渠道

依靠人來報告內容的系統，甚至更多的人來處理這些報告，理論上比自動演算法對上下文更敏感，但即使是這些系統，也會成為來自各個意識形態領域的惡意行為者濫用的渠道。例如，參見目前對著名的男權活動家Stefan Molyneux提起的訴訟，他因欺詐性地利用DMCA關閉YouTube上一個專門批評其播客厭惡**的頻道而被起訴。不僅僅是版權執法機制被用來扼殺公開討論的厭女情緒。當一名婦女與街頭騷擾者對質，祕密拍攝他們的反應，並將影片上傳到YouTube上時，她的影片被刪除了，“這違反了YouTube關於**或性內容的政策。”當BuzzFeed問及被刪除的事時，YouTube發言人回應說，“我們網站上的大量影片，有時我們會打錯電話，“即使有真正的人在另一端看投訴的背景，也會做出錯誤的決定。但自動化系統甚至不會考慮上下文。

拿內容ID和類似的系統來結束騷擾是不現實的技術樂觀主義。瓦倫蒂引用傑克琳·弗裡德曼的話說，“如果矽谷能發明一輛無人駕駛汽車，他們就可以在自己的平臺上解決網路騷擾問題。”但無人駕駛汽車仍然沒有出現在大街上，原因令人信服。加州大學伯克利分校交通研究所研究員史蒂文·施拉多夫在接受麻省理工學院《技術評論》採訪時說：“公眾似乎認為所有的技術問題都解決了。但事實並非如此，“無人駕駛汽車不擅長髮現坑洞，更不擅長處理**和停車場。從理論上講，這些似乎是小細節，但在實踐中，不解決小細節會傷害到人。

內容ID的基本前提不能簡單地針對騷擾

科技能減輕騷擾嗎？產品的改變是否也能改變使用它的社群？當然。但是，模仿contentid的鈍工具是被動的反應，必然會產生更多的問題，而不是緩解已經存在的問題。內容ID的基本前提-將內容與資料庫匹配-不是一個可以簡單地轉移到騷擾的前提。而隨後的程式，旨在減輕內容ID的直率——也就是說，DMCA的撤銷和隨後的上訴程式，具體到每一個涉嫌侵權的個案——並不是一個能讓騷擾受害者受益的程式。

社交媒體公司對騷擾問題的反應乏善可陳，他們當然有能力做得更好，但做得更好仍不意味著明天就能消除騷擾。可悲的是，他們將智慧財產權執法置於使用者安全之上，但即便是智慧財產權執法在許多方面都被認為不令人滿意——無論是對內容行業、公平使用倡導者，還是對使用者。一個以內容ID為模式的騷擾解決方案很可能會導致所有人的類似不滿。