接受yelp資料培訓的ai撰寫的虛假餐館評論與真實交易“難以區分”
你對網上的評論有多信任？可能不是很多吧？你知道，像大多數人一樣，光彩奪目的評論和五星評級很容易買到。你甚至會認為自己很擅長辨別假評論和真評論的區別。但是，你對人工智慧寫的評論有多滿意呢？
正如businessinsider首次報道的那樣，芝加哥大學的研究人員已經訓練出一種神經網路，它可以大量產生令人信服的虛假評論。他們的研究成果將在今年10月舉行的ACM計算機與通訊安全會議上發表，它指出了一個未來，即線上審查系統不僅是偶然的，而且是完全崩潰的。因為儘管能在網上買到來自人類的假評論是一回事；這是另一個完全自動化的過程，人工智慧機器人在亞馬遜、Yelp、TripAdvisor和其他任何你能看到的地方，都能寫出超現實的文章。
不相信？看看紐約同一家餐廳的這三篇五星級評論，看看你是否能發現真正的交易：
- “我喜歡這個地方。我來這裡已經很多年了，這是一個和朋友和家人一起玩的好地方。我喜歡這裡的食物和服務。我在那裡從來沒有過不好的經歷。”
- “我吃了帶薯條的烤蔬菜漢堡！！！！哦，還有味道。天哪！非常美味！太好吃了，我都沒拼出來！！”
- “我和我的家人都是這個地方的超級粉絲。工作人員非常好，食物也很棒。雞肉很好吃，蒜醬也很好。水果冰淇淋也很好吃。強烈推薦！”
答案是：一、二、三都是假的。它們是一個神經網路訓練的結果，這個神經網路訓練了從Yelp獲得的數百萬條真實評論。
這隻是一個小樣本，但是研究人員用亞馬遜的機械土耳其人對他們的機器人進行了測試。為40家真正的餐館**了5份假評論，每一份都發給3個人。這些人被要求對他們是否認為這些評論是真實的，以及他們認為這些評論有多有用進行評分。研究人員說，他們的人工智慧生成的評論與真實交易“實際上無法區分”，人類評估人員給他們的“有用性”評級為3.15，而真實評論的“有用性”評級為3.28。
當然，這些假評論並不完美，研究人員說他們能夠開發出剔除人工智慧生成文字的技術(其中一個缺點是，在真假評論中使用不同字母的頻率；結果發現，研究人員建立的神經網路傾向於使用較少種類的字元，這是一個很容易發現的線索。）但是，未來的神經網路可以訓練得更加複雜，最終的結果可能是在假評論生成器和假評論檢測器之間進行一場人工智慧貓鼠遊戲。
Yelp在一份即將釋出的宣告中說，它不相信這些人工智慧贗品會帶來太多問題一位發言人說：“雖然這項研究只關註於建立看似真實的評論文字，但Yelp的推薦軟體採用了更為全面的方法。”除了文字內容之外，它還使用許多訊號來決定是否推薦評論。
但對於該專案的研究人員之一本昭（Ben Zhao）來說，其意義遠不止是不可信的餐館評論。他告訴《商業內幕》（BusinessInsider）記者，這樣的技術將“動搖我們對什麼是真什麼不是的信念”
“所以我們從網上評論開始。你能相信某某所說的關於餐館或產品的話嗎？但它會進步的。。。它將發展到更大的攻擊，在這裡，寫在部落格上的整篇文章可能完全由機器人沿著某個主題自動生成，然後你真的必須考慮資訊從何而來，如何驗證。”
Verge去年就寫過這個話題，討論了人工智慧可以用來操縱或生成虛假影片和影象的許多方法。不過，這是一個快速發展的領域，從那時起，人們創造了更多的技術，使得人們很容易偽造政客講話的影片，或者用幾分鐘的講話作為樣本資料重現某人的聲音。
Yelp和Amazon上的虛假評論可能只是數字時代新時代的開始，在這個時代，網路上的首要任務將是找出誰是真正的人類，誰不是。
更新時間：美國東部時間9月1日凌晨04:30：Yelp補充評論。
- 發表於 2021-05-29 20:12
- 閱讀 ( 35 )
- 分類：網際網路
你可能感興趣的文章
評論文章(critique)和回顧(review)的區別
...作品的主觀意見，而不是由具有技術理解能力的領域專家撰寫的評論。 什麼是批判(a critique)？ 批評可以簡單地理解為批判性評估。與大多數評論不同，評論是由特定領域的專家撰寫的。因此，批評往往是技術性的和客觀的。它...
微軟在必應增加假新聞事實核查
...“事實核查”的標籤。幾個月前，Facebook頒佈了一項打擊虛假新聞的法令，谷歌也很快跟進。而現在，微軟也加入了這一行列。你很快就會在Bing搜尋結果中看到這些努力的成果。 ...
microsoft office中的5個最佳輔助工具
...圖表，而作者可以為形狀、插圖、頁面、母版、超連結和資料圖形新增可選文字。 專案——甘特圖、工作表檢視、時間線、團隊計劃器、使用檢視和表單檢視已經與螢幕閱讀器相容。 iOS上的Office鏡...
避免假新聞和驗證這5個網站和應用程式的真相
... 還有一些好訊息。Zimdar計劃重新上傳她的虛假新聞資料庫，並在Google文件中釋出關於該計劃的更新。 ...
憤怒消費者的6個最佳投訴網站
...一個關於各種主題、公司、產品和服務的商業評論和投訴資料庫。最新的評論頁面包括清晰的標題和消費者投訴摘要，以及正面反饋。 ...
卷軸與真實：5個著名名人展示他們另一面的網站
... 4熱門人物（web/youtube）：最接近的名人可以接受醉酒的採訪 ...
線上評論越來越糟糕：賣家如何欺騙你給他們留下有利可圖的評論
...些常識性的方法可以避免以這種方式玩。第一，永遠不要接受第三方網站的審查請求：eBay和Amazon等網站上的賣家應該只希望客戶對這些特定網站的反饋，這些網站是進行互動的地方。當然，你可以在谷歌地圖之類的網站上留下...
如何在amazon、yelp和其他網站上發現虛假評論
...pot掃描每個評論中使用的語言，還檢查每個評論人的個人資料，然後使用一些因素來決定給定的評論是否可能是假的。 例如，過於積極的語言被認為是危險訊號。雖然很多人願意在評論中稱讚一個好產品，但他們很少像假評論...
一名大學生利用gpt-3撰寫虛假部落格文章，最終成為駭客新聞的頭條
據麻省理工學院《技術評論》報道，大學生利亞姆·波爾（Liam Porr）利用語言生**工智慧工具GPT-3**了一篇假部落格文章，最近這篇文章在《駭客新聞》（Hacker News）上排名第一。Porr試圖證明GPT-3產生的內容可以欺騙人們相信它是...
yelp實施消費者預警系統來打擊虛假的付費評論
...新的措施，勸阻企業主在其網站上釋出（或付錢給其他人撰寫）好評。從今天開始，當該公司發現此類可疑活動時，它將向違規企業發出警報，提醒Yelp訪問者在90天內保持可見。九個警報已經發出了大門-這幾乎是一個太小的數...
