facebook將研究其演算法是否存在種族偏見

Facebook正在組建新的內部團隊，專門研究其主要社交網路和Instagram的種族偏見，特別是其使用人工智慧訓練的演算法是否會對黑人、西班牙裔和其他代表性不足的群體產生不利影響。Facebook的一位發言人告訴Verge，這個團隊將“負責確保我們所做的每件事都有公平和公平的產品開發。”。“我們將繼續與Facebook負責的人工智慧團隊密切合作，以確保我們在各自平臺上尋找潛在的偏見。”...

新的股票團隊——Instagram內部稱之為團隊（正在組建一個類似的團隊來研究Facebook的主要應用程式和網站）——標誌著該公司的一個轉變，該公司歷來**公司內部研究種族偏見影響的努力。《華爾街日報》週二首次報道了Facebook新研究團隊的訊息。

“種族正義運動對我們公司來說是一個真正重要的時刻。Instagram負責產品的副總裁Vishal Shah在一份給the Verge的宣告中說：“我們的制度和政策中的任何偏見都與為每個人提供一個表達自己的平臺背道而馳。”。雖然我們一直在努力創造更公平的體驗，但我們正在為繼續這一進展做出更多努力——從建立Instagram股票團隊到Facebook的包容性產品委員會。”

喬治·弗洛伊德5月底去世後，美國各城市每天都在**種族主義和政策**，公司今天做出上述決定。在反誹謗聯盟、改變之色、全國有色人種協進會和其他民權組織發起的“停止誹謗”運動下，Facebook也在經歷長達一個月的廣告**的最後階段。**行動包括可口可樂、迪士尼、麥當勞、星巴克和沃爾瑪等數十家大型消費商，不過，執行長扎克伯格（Mark Zuckerberg）被稱為“令人失望”，並被指在本月早些時候與**組織者會面時提供了膚淺的藉口。

上個月，Instagram執行長亞當•莫塞裡（Adam Mosseri）承諾，將徹底改革Instagram試圖解決黑人和其他代表性不足群體在該平臺上面臨的問題的方式。莫塞裡寫道：“首先要說明代表性不足的群體，比如我們的黑人社群，在使用Instagram時所面臨的經驗和挑戰。”。“為了更好地瞭解我們的平臺對不同群體的影響，我們做了很多工作，這幫助我們達到了今天的水平。但我認為，在一些關鍵領域還有更多的工作要做，這符合我們更廣泛的公司承諾。”Mosseri特別指出，騷擾、賬戶驗證、分銷和演算法偏見是Instagram需要改進的領域，以便更好地為黑人使用者服務。

Facebook有著種族偏見的坎坷歷史。調查發現，該公司允許廣告商在住房和就業等聯邦監管市場上做廣告時，將某些少數群體排除在外。Facebook經常使用一些技術性的東西來回避這些問題，比如不是按種族而是按所謂的“種族”或“多元文化”親緣關係來對使用者進行分類，或者根據大多數黑人、西班牙裔或其他少數族裔在統計上對平臺的喜好來自我選擇身份群體。只有在媒體（最突出的是ProPublica）的嚴格報道之後，作為與民權組織達成的法律和解的一部分，Facebook才最終禁用了針對住房、工作和信貸廣告的廣告選擇。

據《華爾街日報》報道，該公司還不到4%的黑人員工，去年公司官員禁止員工在未經最高層領導批准的情況下研究其平臺的種族影響。《華爾街日報》報道，結果發現，像Instagram賬戶暫停這樣自動調節的Facebook軟體對使用者的影響不成比例，該平臺懷疑使用者是黑人。

在全國各地發生黑人生命事件**活動後，Facebook承諾捐款2億美元支援黑人擁有的企業。該公司上個月還表示，計劃在未來五年內將黑人和其他代表性不足的少數民族在其領導團隊中的比例提高30%，併力爭到2023年將黑人和西班牙裔員工人數翻一番。

一份長達89頁的民權審計報告由法律公司Relman Colfax歷時兩年進行，並於7月8日釋出，該報告呼籲Facebook研究並消除其人工智慧培訓軟體和系統中的種族偏見，儘管那些進行審計的人不被允許研究公司內部研究和人工智慧模型。