臉譜網說，人工智慧助長了仇恨言論的鎮壓
Facebook表示，它正在利用人工智慧主動檢測更多的仇恨言論。週四釋出的一份新的透明度報告對今年早些時候政策調整後的社交媒體仇恨問題提供了更詳細的資訊，儘管它留下了一些重大問題沒有得到回答。
Facebook的季度報告包括了有關仇恨言論流行的新資訊。該公司估計，0.10%到0.11%的Facebook使用者看到的內容違反了仇恨言論規則，相當於“每10000次內容瀏覽就有10到11次仇恨言論瀏覽量”。這是基於對帖子的隨機抽樣，衡量內容的覆蓋範圍，而不是單純的帖子計數，捕捉到了病毒性極強的帖子的效果。不過，外界還沒有對此進行評估。在接受記者採訪時，Facebook誠信副總裁蓋伊•羅森（Guy Rosen）表示，該公司正在“規劃並努力進行審計”
Facebook堅持在使用者舉報之前主動刪除大部分仇恨言論。報告稱，在過去三個月裡，大約95%的Facebook和Instagram仇恨言論都是主動的。
與最早的努力相比，這是一個戲劇性的飛躍——在2017年末，它只完成了約24%的收購。它還加大了仇恨言論的刪除力度：2019年最後一個季度，大約64.5萬條內容被刪除，而2020年第三季度，650萬條內容被刪除。有組織的仇恨團體屬於一個單獨的節制類，從139900起增加到224700起，增幅要小得多。
Facebook說，其中一些技術是由人工智慧的改進推動的。今年5月，Facebook發起了一項研究競賽，旨在尋找能夠更好地檢測“可恨的模因”的系統。在最新的報告中，Facebook標榜自己能夠同時分析文字和圖片，捕捉下面的影象巨集（由Facebook建立）等內容。
這種方法有明顯的侷限性。正如Facebook所指出的，“一段新的仇恨言論可能與之前的例子不同”，因為它引用了一個新的趨勢或新聞故事。這取決於Facebook分析多種語言和捕捉特定國家趨勢的能力，以及Facebook如何定義仇恨言論，隨著時間的推移，這一類別已經發生了變化。例如，否認大屠殺上個月才被禁止。
它也不一定會幫助Facebook的版主，儘管最近改變了使用人工智慧來分類投訴。冠狀病毒的流行打亂了Facebook的正常節制行為，因為它不允許版主在家裡檢視一些高度敏感的內容。Facebook在其季度報告中表示，它的截獲數量正在恢復到“大流行前的水平”，部分原因是人工智慧。
但一些員工抱怨說，他們被迫在安全前返回工作崗位，200名內容版主簽署了一份公開請求，要求更好地保護冠狀病毒。在那封信中，主持人說自動化未能解決嚴重的問題。“人工智慧不能勝任這項工作。重要的演講被掃進了Facebook過濾器的胃裡，而像自殘這樣的危險內容卻一直存在。
羅森不同意他們的評估，並說Facebook的辦公室“達到或超過”安全工作區的要求。他說：“這些非常重要的員工在這項工作中扮演著非常重要的角色，我們對人工智慧的投資幫助我們發現並刪除這些內容，以保證人們的安全。”。
Facebook的批評者，包括美國立法者，可能仍然不相信它捕捉到了足夠多的可惡內容。上週，15位美國參議員向Facebook施壓，要求其在全球範圍內釋出攻擊***的帖子，要求其提供更多針對具體國家的資訊，說明其溫和做法和仇恨言論的目標。Facebook執行長扎克伯格（markzuckerberg）在參議院聽證會上為該公司的溫和做法辯護，表示Facebook可能會在未來的報告中納入這些資料。他說：“我認為這一切都會非常有幫助，這樣人們就可以看到我們的所作所為，並讓我們承擔責任。”。
扎克伯格建議，國會應該要求所有網路公司效仿Facebook，政策執行主管莫妮卡·比克特今天重申了這一觀點。“當你談到制定法規，或者改革美國的第230條（通訊正派法案）時，我們應該考慮如何在有害內容被很多人看到之前追究公司的責任。比克特說：“今天報告中的數字有助於說明這一對話。“我們認為，良好的內容監管可以在整個行業創造一個這樣的標準。”
- 發表於 2021-04-17 09:22
- 閱讀 ( 45 )
- 分類：網際網路
你可能感興趣的文章
為什麼iphone比android更容易崩潰，微軟處理仇恨言論。。。【科技新聞摘要】
... facebook拋棄了人工編輯 ...
facebook的仇恨言論檢測人工智慧得到了回報
... Facebook的仇恨檢測人工智慧（hate-detecting AI）在提升其對仇恨言論的反應方面發揮了重要作用。羅森指出，該平臺對其人工智慧進行了改進，“其中細微差別和背景至關重要，例如仇恨言論...
facebook的人工智慧解決了可惡內容的增加
Facebook複雜的人工智慧（AI）技術使得該平臺能夠刪除比以往更多的仇恨言論。它的仇恨檢測AI在2020年第三季度成功捕獲了95%的仇恨內容。 ...
蒂克托克加入了歐洲對抗仇恨言論的準則
蒂克托克加入了歐洲打擊網上非法仇恨言論的行為準則。此舉意在表明蒂克托克致力於打擊仇恨言論。 ...
臉譜網說，它不再補充oculus rift的補給
Facebook表示，Oculus Rift的耳機“通常”不會隨著它們從商店貨架上消失而得到補充，這標誌著虛擬現實系統的壽命結束。正如UploadVR昨天報道的那樣，Facebook已經證實“一般來說，隨著渠道售罄，它們將不會繼續補充。”PC捆綁耳...
自去年以來，facebook的欺凌和騷擾事件數量翻了一番
...，其數字是由兩個因素決定的：更具人性化的審查能力和人工智慧的改進，尤其是非英語職位。 該公司還表示，將依靠自動化來解決平臺上越來越多的影片和音訊問題，包括一個傳聞的俱樂部競爭對手。“我們正在透過人們分...
reddit禁止r/donaldtrump論壇煽動暴力
...規定” Reddit的網站政策禁止內容，這些內容助長仇恨、鼓勵、美化、煽動或呼籲對群體或個人實施暴力。根據這一點，我們一直積極主動地與主持人聯絡，提醒他們我們的政策，並根據需要提供支援或資源，”Reddit...
facebook正在加強對反黑人仇恨言論的節制
...》雜誌（Verge）說，Facebook已經開始將其平臺上的反黑人仇恨言論視為比針對白人、**和美國人的仇恨言論更重要的內容，以解決此類言論對少數群體造成的不成比例的影響。 其結果是，Facebook用於檢測仇恨言論並採取...
去看看facebook是如何為世界領袖們改變規則的
...cebook平臺上的活動。 同樣，Facebook是否能透過任何人力或人工智慧的努力來完美地執行其規則也值得懷疑。（Techdirt創始人邁克·馬斯尼克（Mike Masnick）將此稱為“馬斯尼克的不可能定理”（Masnick's Impossibility Thermory），即使是最...
在人工智慧系統過度審查之後，youtube帶來了更多的人類版主
...大流行期間被“下線”的人類版主帶回來，因為該公司的人工智慧過濾器無法匹配它們的準確度。 早在今年3月，YouTube就表示，它將更多地依賴機器學習系統來標記和刪除在仇恨言論和錯誤資訊等方面違反其政策的內...
