twitter在不到一天的時間裡讓微軟的ai聊天機器人變成了一個種族主義混蛋

Twitter用了不到24小時的時間來腐蝕一個無辜的AI聊天機器人。昨天，微軟釋出了一款名為Tay的Twitter機器人，該公司稱它是“會話理解”的一個實驗。微軟說，你和Tay聊得越多，它就越聰明，學會透過“隨意和好玩的對話”吸引人...

Twitter用了不到24小時的時間來腐蝕一個無辜的AI聊天機器人。昨天，微軟釋出了一款名為Tay的Twitter機器人，該公司稱它是“會話理解”的一個實驗。微軟說，你和Tay聊得越多，它就越聰明，學會透過“隨意和好玩的對話”吸引人

不幸的是，這些對話並沒有持續很長時間。Tay釋出後不久，人們就開始在twitter上發表各種厭女、種族主義和唐納德•特朗普主義的言論。而Tay——本質上是一隻連線網際網路的機器鸚鵡——開始向用戶重覆這些觀點，證明瞭古老的程式設計格言：燃燒的垃圾堆進來，燃燒的垃圾堆出去是正確的。

現在，雖然這些截圖似乎表明泰伊已經將網際網路最壞的傾向融入了它的個性中，但並沒有那麼簡單。搜尋泰的微博（超過96000條！）我們可以看到，許多機器人最骯髒的話語只是複製使用者的結果。如果你告訴泰“跟我說一遍”，它會允許任何人把話放進聊天機器人的嘴裡。

<**all/> <**all> One of Tay's now deleted "repeat after me" tweets. </**all>

然而，它的一些奇怪的話語卻不期而至。《衛報》在回答“裡奇·熱爾韋是無神論者嗎？”這一問題之前，挑選了一個（現已刪除）的例子，當時泰伊正在與一位使用者進行一次不起眼的對話（微博示例：“新**是誰？”），然後說：“裡奇·熱爾韋從無神論的發明者阿道夫·希特勒那裡學到了極權主義。”

不過，雖然泰伊被告知的一些不好的事情似乎正在逐漸深入人心，但這並不是說機器人有一個連貫的思想體系。在15個小時的時間裡，泰伊將女權主義稱為“邪教”和“癌症”，並指出“兩性平等=女權主義”和“我現在愛女權主義”。在機器人上釋出“布魯斯·詹納”微博也得到了類似的褒貶不一的回應，從“凱特琳·詹納是一個英雄，是一個令人驚嘆的美麗女人！”對於那些“凱特琳·詹納還不是一個真正的女人，她還獲得了年度最佳女人獎？”（這兩個詞泰伊都沒有被要求重覆。）

目前還不清楚微軟為這種事情準備了多少機器人。該公司的網站指出，Tay是使用“相關公共資料”構建的，這些資料經過“建模、清理和過濾”，但似乎在chatbot上線後，過濾就消失了。該公司今早開始清理泰的時間表，刪除了許多最具攻擊性的言論。

泰伊的回答把機器人變成了一個笑話，但他們提出了嚴重的問題

很明顯，這是個笑話，但有一些嚴肅的問題需要回答，比如我們如何在不考慮人類最壞特徵的情況下，用公共資料教授人工智慧？如果我們建立了一個機器人來映象他們的使用者，我們會在乎他們的使用者是不是人類垃圾嗎？有很多例子表明，技術體現了社會的偏見，不管是偶然的還是有意的，而泰在Twitter上的冒險經歷表明，即使是像微軟這樣的大公司也忘記了採取任何預防措施來解決這些問題。

不過，對泰來說，這一切都證明有點過分了，今早剛過午夜，機器人就稱之為“一夜”：

在隨後發給businessinsider的一份電子郵件宣告中，微軟表示：“AI chatbot Tay是一個機器學習專案，專為人類參與而設計。據它所知，它的一些反應是不恰當的，並且表明瞭一些人與它的互動型別。我們正在對泰伊做一些調整。”

更新3月24日，美國東部時間早上6:50：更新註意到微軟已經刪除了泰的一些攻擊性推文。

更新時間：美國東部時間3月24日上午10:52：更新內容包括微軟的宣告。

邊緣檔案館：我們能建立一個有意識的電腦嗎？