假貨意味著你不能相信你看到的一切。現在，假貨可能意味著你不能再相信你的耳朵了。那真的是總統向加拿大宣戰嗎？真的是你爸爸在電話裡問他的郵箱密碼嗎？

再加上另一個存在主義的擔憂，我們的自大會不可避免地摧毀我們。在里根時代，唯一真正的技術風險是核生化戰爭的威脅。

在接下來的幾年裡，我們有機會痴迷於奈米技術的灰粘和全球流行病。現在，我們有深度偽造的人失去了對他們的肖像或聲音的控制。

什麼是假音訊(an audio deepfake)？

我們中的大多數人都看過一個影片deepfake，在這個影片中，深度學習演算法被用來用別人的相似性來代替一個人。最好的是令人不安的現實，現在輪到音訊了。當一個“克隆”的聲音可能與真人的聲音無法區分時，就會產生一個假聲音。

“這就像Photoshop中的語音，”simelike AI的執行長Zohaib Ahmed在談到自己公司的語音克隆技術時說。

然而，糟糕的Photoshop工作很容易被揭穿。我們採訪過的一家安全公司說，人們通常只猜測一個音訊是真是假，準確率約為57%，不比擲硬幣好多少。

此外，由於如此多的語音記錄都是低質量的電話通話（或是在嘈雜的地方錄製的），音訊偽造品可能會變得更加難以辨別。音質越差，就越難發現聲音不是真的。

但是為什麼有人需要一個Photoshop來**聲音呢？

令人信服的合成音訊案例

實際上對合成音訊的需求量很大。據艾哈邁德說，“投資回報率是非常直接的。”

在遊戲方面尤其如此。在過去，演講是遊戲中不可能按需創作的一個組成部分。即使在實時呈現電影質量場景的互動式標題中，與非播放角色的語言互動也基本上是靜態的。

不過，現在科技已經趕上了。製片廠有可能克隆演員的聲音，並使用文字到語音引擎，使人物可以說任何實時。

在廣告、技術和客戶支援方面也有更傳統的用途。在這裡，一個聲音，聽起來真正的人和迴應個人和上下文沒有人的投入是什麼重要的。

語音克隆公司也對醫療應用感到興奮。當然，聲音替代在醫學上並不是什麼新鮮事，斯蒂芬·霍金在1985年失去了自己的聲音後，用了一種機器人合成的聲音。然而，現代的聲音克隆技術有著更好的前景。

2008年，合成語音公司CereProc在癌症奪走後，把他的聲音還給了已故影評人羅傑·埃伯特。CereProc已經發布了一個網頁，允許人們鍵入資訊，然後將以前總統布什的聲音發言。

CereProc的首席科學官馬修·艾利特（Matthew Aylett）說：“埃伯特看到了這一點，就想，如果他們能模仿布什的聲音，就應該能夠模仿我的聲音。”。然後，埃伯特要求公司建立一個替換語音，他們透過處理一個大型錄音庫來完成。

“這是第一次有人這樣做，這是一個真正的成功，”艾利特說。

近年來，一些公司（包括穀類食品公司）與肌萎縮側索硬化症協會合作開展了“Revoice專案”，為肌萎縮側索硬化症患者提供合成語音。

合成音訊的工作原理

語音克隆目前正處於發展階段，許多公司正在開發工具。類似人工智慧和描述有線上演示任何人都可以嘗試免費。你只需錄製螢幕上出現的短語，幾分鐘後，你的聲音模型就被創建出來了。

你可以特別感謝人工智慧，深度學習演算法能夠將錄製的語音與文字進行匹配，從而理解組成你語音的成分音素。然後，它使用生成的語言構建塊來近似它沒有聽到你說話的單詞。

基本技術已經存在了一段時間，但正如艾利特指出的，它需要一些幫助。

“模仿聲音有點像做糕點，”他說。“這有點難做，有各種各樣的方法，你必須調整它的手來讓它工作。”

開發人員需要大量的錄音資料才能獲得可透過的結果。幾年前，閘門打開了。計算機視覺領域的研究證明是至關重要的。科學家們開發了生成性對抗網路（GAS），它可以首次根據現有資料進行推斷和預測。

艾利特說：“我的模型現在可以把馬變成斑馬，而不是讓電腦看到馬的照片，然後說‘這是一匹馬’。因此，語音合成技術的飛速發展得益於計算機視覺的學術研究

語音克隆的最大創新之一是，要建立語音，需要多少原始資料，就可以整體減少。過去，系統需要幾十甚至數百小時的音訊。然而，現在，只需幾分鐘的內容就可以產生有能力的聲音。

關聯：人工智慧的問題：機器在學習東西，但不能理解它們

對不信任任何東西的恐懼

這項技術，連同核能，奈米技術，3D列印和CRISPR，是同時驚心動魄和可怕的。畢竟，新聞中已經有人被克隆語音欺騙的案例。2019，英國的一家公司聲稱它被一個音訊假電話騙取了錢給罪犯。

你也不必走很遠就能找到令人驚訝的令人信服的音訊贗品。YouTube頻道人聲合成的特點是知名人士說一些他們從未說過的話，比如喬治·W·布什讀了50美分的《在達人俱樂部》。這是當場的。

在YouTube的其他地方，你可以聽到一群前總統，包括奧巴馬、克林頓和里根，在說唱NWA。音樂和背景聲音有助於掩蓋一些明顯的機器人故障，但即使在這種不完美的狀態下，其潛力也是顯而易見的。

我們在類似人工智慧和描述工具上進行了實驗，並建立了語音克隆。Descript使用了一個語音克隆引擎，它最初被稱為Lyrebird，給人印象特別深刻。我們對質量感到震驚。聽到你自己的聲音說你知道你從來沒有說過的話是令人不安的。

這段演講絕對有機器人的特質，但隨便一聽，大多數人都不會有理由認為這是假的。

我們對人工智慧有更高的期望。它為您提供了建立具有多種聲音的對話以及改變對話的表達、情感和節奏的工具。然而，我們認為語音模型沒有捕捉到我們使用的語音的本質特徵。事實上，這不太可能愚弄任何人。

一位類似的人工智慧代表告訴我們，“如果他們做得正確，大多數人都會被結果嚇壞。”我們兩次建立了一個語音模型，得到了類似的結果。所以，很明顯，**一個語音克隆並不是一件容易的事，你可以用它來完成一次數字搶劫。

即便如此，Lyrebird（現在是Descript的一部分）的創始人Kundan Kumar認為我們已經通過了這個門檻。

庫馬爾說：“對於一小部分病例來說，它已經存在了。”。“如果我用合成音訊來改變演講中的幾個詞，它已經很好了，你很難知道改變了什麼。”

我們也可以假設這項技術只會隨著時間的推移變得更好。系統將需要更少的音訊來建立模型，更快的處理器將能夠實時構建模型。更聰明的人工智慧將學習如何在沒有範例的情況下，增加更令人信服的人類般的節奏和對演講的強調。

這意味著，我們可能正逐漸接近輕鬆克隆語音的普及。

潘多拉魔盒的倫理

在這個領域工作的大多數公司似乎都準備以安全、負責的方式處理這項技術。例如，類似AI，其網站上有一個完整的“道德”部分，下面的節選令人鼓舞：

“我們透過嚴格的流程與公司合作，以確保他們克隆的聲音可供他們使用，並獲得聲音演員的適當同意。”

同樣，庫馬爾說，Lyrebird從一開始就擔心濫用。這就是為什麼現在，作為Descript的一部分，它只允許人們克隆自己的聲音。事實上，“相似”和“描述”都要求人們實時記錄樣本，以防止非感官性的聲音克隆。

令人振奮的是，主要的商業參與者已經實施了一些道德準則。然而，重要的是要記住，這些公司不是這項技術的把關人。現在已經有很多開源工具，但是沒有規則。據Deeptrace威脅情報部門負責人亨利·阿杰德（Henry Ajder）說，濫用它也不需要高階編碼知識。

Ajder說：“這一領域的許多進展都是透過GitHub等地的協作工作，利用以前發表的學術論文的開源實現實現的。”。“任何對編碼有中等熟練程度的人都可以使用它。”

安全專家以前見過這一切

早在語音克隆成為可能之前，犯罪分子就曾試圖透過電話偷錢，安全專家也一直待命檢測和防範。安全公司Pindrop試圖透過驗證來電者是否是他或她聲稱是音訊中的人來阻止銀行欺詐。僅在2019年，Pindrop就聲稱已經分析了12億次語音互動，防止了約4.7億美元的欺詐企圖。

在克隆語音之前，騙子嘗試了其他一些技術。最簡單的方法就是從其他地方打電話，告訴他有關這個標誌的個人資訊。

Pindop執行長VijayBalasubramaniyan說：“我們的聲學簽名允許我們確定一個電話實際上是來自奈及利亞Skype**，因為它的聲音特性。”。“那麼，我們可以比較一下，知道顧客在亞特蘭大使用AT&T電話。”

一些罪犯還利用背景音來甩掉銀行業務代表。

巴拉蘇布拉曼尼揚說：“有一個騙子，我們稱之為雞人，他總是把公雞放在幕後。”。“還有一位女士在後臺用一個嬰兒的哭聲來說服呼叫中心的工作人員，‘嘿，我正經歷一段艱難的時期’來獲得同情。”

還有一些**罪犯會追查**的銀行賬戶。

Balasubramaniyan解釋說：“他們使用科技來提高聲音的頻率，聽起來更**化。”。這些都是成功的，但“偶爾，軟體會出錯，聽起來像阿爾文和花栗鼠。”

當然，語音克隆只是這場不斷升級的戰爭中的最新發展。安全公司已經在至少一次釣魚攻擊中抓獲了使用合成音訊的欺詐者。

Balasubramaniyan說：“有了正確的目標，支出可能是巨大的。”。“所以，花時間創造一個合適的人的合成聲音是有意義的。”

有人能分辨出聲音是假的嗎？

當談到識別一個聲音是否被偽造時，有好訊息也有壞訊息。糟糕的是，克隆人的聲音一天比一天好。深度學習系統正變得越來越智慧，併發出更真實的聲音，而這些聲音需要更少的音訊來建立。

從奧巴馬總統讓任正非表態的片段中你可以看出，我們也已經到了這樣一個地步：一個高保真、精心構建的聲音模型對人的耳朵聽起來非常有說服力。

聲音片段越長，你越可能注意到有什麼不對勁。不過，對於較短的剪輯，你可能不會注意到它是合成的，尤其是如果你沒有理由質疑它的合法性的話。

聲音質量越清晰，就越容易注意到音訊的深層假訊號。如果有人直接對著錄音室質量的麥克風講話，你就能仔細聽。但是，在噪音很大的停車場，如果******質量差，或者手持裝置上的通話，則很難評估。

好訊息是，即使人類在區分真假方面有困難，計算機也沒有同樣的侷限性。幸運的是，語音驗證工具已經存在。Pindop有一個可以相互深入學習的系統。它使用這兩種方法來發現音訊樣本是否是它應該是的人。然而，它還檢查了一個人是否能發出樣本中的所有聲音。

根據音訊的質量，每一秒的語音都包含8000-50000個可以分析的資料樣本。

Balasubramaniyan解釋說：“我們通常尋找的是人類進化對語言的限制。”。

例如，兩個人聲之間的間隔最小。這是因為你的嘴和聲帶中的肌肉可以很快地重新配置自己，所以在生理上不可能說得更快。

“當我們看到合成音訊時，”巴拉蘇布拉曼尼揚說，“我們有時會看到一些東西，然後說，‘這不可能是人類產生的，因為唯一能產生這種聲音的人需要有一個7英尺長的脖子。”

還有一類聲音叫做“擦音”。當你發f、s、v和z這樣的字母時，空氣透過你喉嚨裡的一個狹窄的管口時，擦音就形成了。對於深度學習系統來說，擦音特別難掌握，因為軟體很難區分它們和噪音。

因此，至少就目前而言，語音克隆軟體被一個事實絆倒了，那就是人類是一袋袋肉，透過身體上的小孔流動空氣來說話。

Balasubramaniyan說：“我一直開玩笑說，深度假貨是非常愛發牢騷的。他解釋說，演算法很難區分錄音中單詞的結尾和背景噪音。這就導致了許多語音模型的語音比人類要慢。

Balasubramaniyan說：“當一個演算法經常看到這種情況發生時，從統計學上講，它會更加確信是音訊產生的，而不是人類產生的。”

simelike-AI也在使用simelikeyzer（GitHub上提供的一種開源深度學習工具）正面解決檢測問題。它可以檢測出假聲並進行說話人驗證。

這需要警惕

人們總是很難猜測未來會怎樣，但這種技術幾乎肯定只會變得更好。此外，任何人都可能成為受害者，而不僅僅是高調的個人，比如民選官員或銀行CEO。

巴拉蘇布拉曼尼揚預測說：“我認為我們正處於第一次音訊洩露的邊緣，人們的聲音會被竊取。”。

不過，目前，音訊假貨的真實風險很低。已經有一些工具在檢測合成影片方面做得相當好。

另外，大多數人不會有被攻擊的危險。根據Ajder的說法，主要的商業參與者“正在為特定的客戶開發定製的解決方案，而且大多數人都有相當好的道德準則來確定他們願意與誰合作，不願意與誰合作。”

然而，真正的威脅就在前方，正如阿杰德繼續解釋的那樣：

“潘多拉的盒子將是人們把這項技術的開源實現拼湊成越來越使用者友好、可訪問的應用或服務，而這些應用或服務沒有商業解決方案目前所具備的那種道德層面的審查。”

這可能是不可避免的，但是安全公司已經在他們的工具箱中加入了假音訊檢測。不過，保持安全需要警惕。

阿杰德說：“我們在其他安全地區也這樣做過。“例如，許多組織花了大量時間試圖瞭解下一個零日漏洞是什麼。合成音訊只是下一個前沿領域。”

相關報道：什麼是假貨，我應該擔心嗎？