微軟為其人工智慧機器人的“攻擊性和傷害性推文”道歉
微軟今天為其Twitter聊天機器人Tay發表道歉，在一篇部落格文章中說，一部分人類使用者利用該程式中的一個缺陷，將其轉化為一個煽動仇恨言論的希特勒道歉者。作者Peter Lee是微軟研究公司的副總裁，他沒有詳細解釋這個漏洞是什麼，但人們普遍認為，留言板4chan臭名昭著的/pol/community濫用了Tay的“跟我重覆”功能。因此，當泰伊在推特上被灌輸性別歧視、種族主義和其他可怕的臺詞時，機器人開始模仿那些卑鄙的言論，後來開始採取反女權主義和親納粹的立場。不到24小時後，微軟就停止了對泰的收購。
李說Tay並不是微軟第一個在野外釋出的聊天機器人。目前約有4000萬人使用的中文資訊軟體XiaoIce讓該公司的研究部門對讓日常消費者與人工智慧軟體互動產生了興趣。”李開複寫道：“使用小冰的偉大經歷讓我們不禁要問：在一個完全不同的文化環境中，這樣的人工智慧會不會同樣迷人？”。回顧過去，我們毫不奇怪，當時的文化環境——講英語的Twitter——導致泰伊模仿了網際網路的一些最糟糕的品質，包括網路騷擾。”對於泰伊無意中發出的攻擊性和傷害性的推文，我們深表歉意，”李補充道。微軟正在修複這個漏洞，然後將Tay重新上線。
泰伊開始模仿網際網路的一些最糟糕的品質
佐伊奎因，一個遊戲開發商和網際網路活動家的目標Gamergate運動，受到虐待後，泰伊聊天機器人是指她與厭惡**的汙衊影響。在週三的一系列推文中，奎因抨擊微軟沒有考慮到如何操縱軟體2016年。她在推特上寫道：“如果你在設計/工程過程中沒有問自己，‘這怎麼可能用來傷害別人’，你就失敗了。”。
值得稱贊的是，Lee說，Tay stress背後的團隊在各種不同的場景下測試了chatbot，只有在它上線後才發現它的主要缺陷。”他寫道：“儘管我們已經準備好應對多種形式的系統濫用，但我們對這一特定攻擊進行了嚴格監管。”我們將繼續堅定不移地努力，從這一點和其他經驗中學習，為建設一個代表人類最好而不是最壞的網際網路而努力。”
這是一個樂觀的想法。然而，當一個像微軟這樣有經驗的大公司不能保護一個人工智慧不被我們中最壞的人寵壞時，這並沒有給我們未來的機器人霸主帶來多大的希望。
- 發表於 2021-05-04 00:40
- 閱讀 ( 61 )
- 分類：網際網路
你可能感興趣的文章
減少你的詛咒：濫用你的人工智慧裝置會讓你失去工作
...i在2011年登場，一年後的今天，谷歌緊隨其後。到2014年，微軟擁有Cortana。同年，亞馬遜將一款名為Alexa的人工智慧卡插在一個塑膠管裡，人們可以把它放在工作臺上。此後，谷歌和蘋果也採取了同樣的做法。科技巨頭們正在迅速...
什麼是機器學習演算法？他們是這樣工作的
... 2微軟機器人變成了納粹 ...
微軟希望你轉世成為聊天機器人
...進步，機器學習的力量使聊天機器人聽起來更接近人類。微軟希望利用這項技術為那些沉默不語的人發聲，並**出能模仿死者的聊天機器人。 ...
深入研究replika：我的人工智慧朋友
... 鑑於GPT-3與微軟的圖靈NLG等前輩相比，已經被認為是幾年來的一次指數級飛躍，可以肯定的是，我們可能還需要一段時間才能想出更好的方案。 ...
微軟為什麼不放棄cortana呢？
...是Alexa和Google Assistant自2017年以來一直擁有的一項功能。微軟並沒有完全放棄Cortana，但它正在慢慢地將Cortana轉變成一個通用數字助理以外的東西。 誰會用cortana？ 亞馬遜有Echo，谷歌有Google Home，蘋果有HomePod。但你知道微軟有...
openai的文字生成系統gpt-3現在每天輸出45億字
...直試圖透過GPT-3作為其第一個暢銷產品來賺錢。該公司與微軟達成了一項獨家協議，讓這家科技巨頭能夠以獨特的方式訪問GPT-3的底層程式碼，但任何公司都可以申請訪問GPT-3的通用API，並在此基礎上構建服務。 由於OpenAI熱衷於...
教皇方濟各敦促信徒祈禱人工智慧和機器人“永遠為人類服務”
...的是，這並不是教皇的新領地。今年早些時候，梵蒂岡與微軟和IBM一起批准了“人工智慧倫理羅馬呼籲”（Rome Call for AI Ethics）——一份包含指導人工智慧部署的六項一般原則的政策檔案。其中包括透明性、包容性、公正性和可...
電報上的假機器人使得製造假裸體的工作變得非常容易
...式。”現在它被用來給電報機器人供電，自動處理支付，為其創造者創造收入。 DeepNude使用一種人工智慧技術，即生成性對抗網路（generative敵對網路，簡稱GANs）生成假**，生成的影象質量參差不齊。大多數照片明顯是假的，帶...
irobot正在給它的吸塵器提供一個新的人工智慧大腦
...合作。” 該公司已經沿著這條路走了一段時間，在2018年為其機器人添加了地圖功能。這使得相容的Roombas可以建立一張你家的地圖，使用者可以在地圖上標註特定的房間，並引導機器人按需清潔。家庭智慧升級，其中包括iRobot應...
微軟人工智慧記者在msn主頁上迷惑混血小混血歌手
微軟決定用人工智慧取代人類記者來執行其新聞和搜尋網站MSN.com網站英國流行樂團Little Mix的兩名混血成員被自動化系統搞糊塗後，受到批評。 正如《衛報》首次報道的那樣，新上任的機器人編輯MSN.com 精選了一個關...
