臉譜網’到2020年，中國控制假貨的問題只會變得更糟
去年夏天，一段馬克·扎克伯格的影片在Instagram上流傳，Facebook執行長似乎聲稱他“完全控制了數十億人被盜的資料，所有的祕密，他們的生活，他們的未來。”結果證明這是一個藝術專案，而不是蓄意誤導，但Facebook允許它留在這個平臺上。據該公司稱，它沒有違反任何政策。
對一些人來說，這表明，大型科技公司並沒有準備好應對人工智慧**的假媒體（deepfakes）的衝擊。但這不一定是Facebook的錯。Deepfakes很難控制，不是因為它們很難被髮現（儘管它們可以），而是因為它的分類非常廣泛，任何試圖“取締”人工智慧編輯的照片和影片的行為最終都會影響到一整條無害的內容。
完全禁止深度偽造將意味著刪除流行的笑話，如性別交換的Snapchat**和人工老化的臉。禁止在政治上具有誤導性的假貨只會導致科技公司多年來面臨的同樣的政治溫和問題。考慮到沒有簡單的演算法可以自動識別人工智慧編輯的內容，無論他們頒佈什麼禁令，都意味著要為四面楚歌的人類版主創造更多的作品。對於Facebook這樣的公司來說，沒有簡單的選擇。
“如果你認為‘deepfake’是指任何透過機器學習編輯的影片或影象，那麼它適用於這麼一個龐大的類別，以至於不清楚它是否有任何意義，”哈佛-麻省理工學院（Harvard-MIT）倫理和人工智慧治理計劃（AI initiatim）的前主任蒂姆•黃（Tim Hwang）告訴《邊緣》（Verge）。“如果我有我的druthers，我不確定我是否有，我會說，我們應該考慮深假的方式是作為一個意圖的問題。你想在你正在建立的媒體上實現什麼？”
值得註意的是，這似乎是大平臺實際採取的方向。Facebook和Reddit上週都宣佈了針對深度仿冒的溫和政策，他們並沒有試圖徹底消除這種模式，而是將重點放在了更窄的範圍內。
Facebook表示，它將刪除“**縱的、誤導性的媒體”，這些媒體使用人工智慧或機器學習進行“編輯或合成”，其方式對普通人來說並不明顯，可能會誤導人們認為影片中的某個主題說了他們實際上沒有說的話。”但該公司指出，確實如此不包括“戲仿或諷刺”或使用傳統手段進行的誤導性編輯，比如去年眾議院議長南希·佩洛西（Nancy Pelosi）的病毒式影片，據說她的話含糊不清。
與此同時，Reddit完全沒有提到人工智慧，而是說它將刪除“以誤導或欺騙的方式模仿個人或實體”的媒體。它還為“諷刺和模仿，並補充說，它將“始終考慮任何特定內容的上下文”-這一寬泛的警告，使其mods有很大的迴旋餘地。
正如許多人指出的那樣，這些政策充滿了漏洞。威爾·奧雷莫斯在OneZero撰文指出，Facebook’例如，s只涵蓋包括演講在內的編輯媒體。這意味著“一段偽造的影片，看起來像是一個政客燒了房子
美國國旗，參加白人民族主義**，或與****握手” 不會被禁止— Facebook向奧雷姆斯證實了一些事情。
這些都是明顯的遺漏，但它們凸顯了將深度偽造與平臺適度的潛在問題分離開來的困難。儘管近年來有許多報道“深假” 作為同義詞“政治誤傳，” 實際的定義要寬泛得多。到2020年，問題只會變得更糟。
雖然早期版本的deepfake軟體需要一些耐心和技術技巧來使用，但下一代將使建立deepfake變得像釋出一樣簡單。使用人工智慧編輯影片（deepfake的標準定義）的應用程式將變得司空見慣，隨著它們的傳播——用於笑話、品牌推特、欺凌、騷擾以及介於兩者之間的一切——將deepfake視為對線上真相的獨特威脅的想法將逐漸消失。
就在本週，一個名為Doublicat的應用程式在iOS和Android上啟動，它使用機器學習貼上使用者’ 面對大眾的反應天賦。現在它只適用於預先挑選的天才，但公司’s CEO告訴邊緣’我允許使用者在將來將面**他們喜歡的任何內容中，這是由一種機器學習方法（稱為GAN）提供支援的。
所有這些是否使Doublicat成為一個假冒的應用程式？是的。它會破壞民主嗎？可能不會。
看看它的輸出質量，如下麵的GIF所示，它顯示了我的臉貼在chrispratt的《公園和娛樂》上。從技術上講，它令人印象深刻。這個應用程式只需幾秒鐘就可以從一張照片中生成GIF。但它永遠不會被誤認為是真的。與此同時，TikTok的建立者ByteDance一直在嘗試使用deepfake功能（儘管它表示不會將這些功能整合到它廣受歡迎的應用程式中），Snapchat最近推出了自己的面部交換工具。
黃光裕認為，從長遠來看，淡化“假貨”一詞實際上可能有好處。“我認為，人們說所有這些消費功能都是深度假貨的最大諷刺是，它在某種程度上把深度假貨的含義商品化了，” 黃說。如果假貨變得平常而不起眼，那麼人們就會“熟悉這項技術能做什麼，” 他說。然後，希望我們能更好地理解它，把重點放在錯誤資訊和政治宣傳的根本問題上。
有人可能會說，在社交媒體上控制深度造假的問題從一開始就主要是分散註意力。人工智慧編輯的政治宣傳未能以有意義的方式實現，研究顯示，絕大多數深度假貨都是非感官色情（佔網路深度假貨影片的96%）。
社交媒體平臺已經很高興地參與到關於適度的辯論中，但正如Facebook和Reddit最近的宣告所顯示的那樣，這些努力大多隻是一場旁敲側擊。核心問題沒有改變：誰可以在網際網路上撒謊，誰來決定他們是否在撒謊？一旦深度偽造不再是對真理的生存威脅，我們將面臨同樣的、不變的問題，比以往任何時候都更加緊迫。
- 發表於 2021-04-20 15:31
- 閱讀 ( 42 )
- 分類：網際網路
你可能感興趣的文章
如何刪除facebook通知
... 導航到臉譜網然後登入你的帳戶。 單擊右上角的通知圖示（它可能看起來像個鈴鐺）。 找到要隱藏的通知。 單擊要刪除的通知旁邊的...
假貨的6大危害及識別方法
... 什麼是假貨(a deepfake)？ ...
有人能分辨出他們是假的嗎？
...現在，我們有深度偽造的人失去了對他們的肖像或聲音的控制。 什麼是假音訊(an audio deepfake)？ 我們中的大多數人都看過一個影片deepfake，在這個影片中，深度學習演算法被用來用別人的相似性來代替一個人。最好的是令人不...
windows10只會讓windows碎片化變得更糟
...塊”存在，包括特定Intel顯示驅動程式和舊版AMD Radeon GPU的問題。 除了對2018年10月更新的緩慢升級之外，高達9.7%的Windows10使用者仍在使用比2018年4月更新更舊的版本。至少這沒有Android的碎片問題那麼糟糕。 為三個月後的更新做...
upnp是否存在安全風險？
...DNS伺服器可以重定向流量到其他網站。例如，它可以指向臉譜網在另一個IP地址完全-你的網頁瀏覽器的位址列會說臉譜，但你會使用惡意組織建立的網站。 這有問題嗎？對。我找不到任何跡象表明這個問題已經解決了。即使它...
2020年是未來更熱年份的預演
...的前工業化時期。《巴黎氣候協議》的目標是將氣候變暖控制在2攝氏度以下，以防止氣候變化造成最嚴重的影響。 然而，與氣候有關的災難已經出現。“全球氣溫的小幅上升會導致極端天氣事件的大變化。我們已經看到了其中...
臉譜網說，人工智慧助長了仇恨言論的鎮壓
Facebook表示，它正在利用人工智慧主動檢測更多的仇恨言論。週四釋出的一份新的透明度報告對今年早些時候政策調整後的社交媒體仇恨問題提供了更詳細的資訊，儘管它留下了一些重大問題沒有得到回答。 Facebook的...
亞馬遜在英國打掉一個五星級欺詐案
...時就留下一次五星評級。其中許多評論是針對隨機挑選的中國公司的產品。傅蘭雅似乎在eBay上轉售了這些產品。 像這樣的騙局通常始於社交網路和Telegram之類的簡訊應用程式，在這些應用程式中，公司可以與潛在的評論者見面...
國際空間站剛剛避開了一塊“未知的太空碎片”
...楚這些太空碎片是什麼，但美國宇航局說，休斯頓的飛行控制人員正在美國太空司令部的協助下跟蹤這一物體。有一次，它預計將在距離空間站1.39公里（0.86英里）的範圍內。 國際空間站以前曾被一些小型太空垃圾擊中。它還成...
2019年人類留下的電子垃圾數量創紀錄
...取得的進展。相反，他們發現世界已經倒退。 他們預計問題只會變得更糟。預計到2030年，電子垃圾的數量將比2014年翻一番。據報道，這對人們的健康是一種危險，因為垃圾桶會毒害處理垃圾的人和周圍的環境。 報告作者之一...
