看看你怎麼樣

電腦認為他們知道你是誰。人工智慧演算法可以從影象中識別物體，甚至人臉。但在人臉識別演算法的庇護下，我們很少能窺見。現在，透過ImageNet輪盤賭，我們可以看到AI跳到結論。它的猜測有些可笑，有些…種族主義。...

Illustration for article titled See How AI Stereotypes You

電腦認為他們知道你是誰。人工智慧演算法可以從影象中識別物體，甚至人臉。但在人臉識別演算法的庇護下，我們很少能窺見。現在，透過ImageNet輪盤賭，我們可以看到AI跳到結論。它的猜測有些可笑，有些…種族主義。

ImageNet輪盤賭是藝術和技術博物館名為“訓練人類”的展覽的一部分，旨在向我們展示面部識別演算法的雜亂內部，否則我們可能會認為這些演算法是直截了當和公正的。它使用人工智慧研究中使用的一個大型標準資料庫中的資料。上傳一張照片，算**告訴你它認為你是什麼。我的第一張**被貼上了“不吸煙”的標簽，另一張被貼上了“臉”的標簽，我們的主編被貼上了“心理語言學家”的標簽，我們的社交編輯被貼上了“swot，grind，nerd，wonk，dweeb”的標簽，無害的樂趣，對吧？

但後來我嘗試了一張自己在較暗的燈光下的照片，它回來的標簽是“黑人，黑人，黑人，黑人”，事實上，這似乎是人工智慧的標簽，任何人都有深色面板。更糟糕的是：在twitter上討論這個工具的帖子中，有色人種總是把這個標簽和“混血兒”以及“孤兒”、“**嫌疑犯”等毫無趣味的標簽放在一起

這些類別在原始的ImageNet/WordNet資料庫中，而不是由ImageNet輪盤賭工具的**者新增的。以下是後者的註釋：

ImageNet輪盤賭定期以可疑和殘忍的方式對人進行分類。這是因為基本的訓練資料包含這些類別（以及那些被貼上這些類別標簽的人的照片）。我們沒有讓基礎訓練資料負責這些分類。我們從普林斯頓和斯坦福大學建立的名為ImageNet的流行資料集中匯入分類和訓練影象，該資料集是用於影象分類和目標檢測的標準基準。

ImageNet輪盤賭在一定程度上是為了展示各種政治是如何透過技術系統傳播的，而這些系統的創造者甚至都沒有意識到。

這些標簽來自哪裡？

該工具是基於ImageNet的，ImageNet是一個影象和標簽的資料庫，過去是，現在仍然是，影象識別演算法的最大和最易訪問的訓練資料來源之一。據Quartz報道，它是從網上收集的圖片組裝而成的，主要由土耳其的機械工人和人類標記，這些人將大量圖片歸類為硬幣。

因為ImageNet的**者並不擁有他們收集的照片，他們不能僅僅把它們分發出去。但是如果你好奇的話，你可以查一下照片的標簽，得到照片原始來源的url列表。例如，“個人，個人，某人，某人，凡人，靈魂”&gt科學家“&gt；”語言學家、語言科學家“心理語言學家”引出了這張照片列表，其中許多似乎來自大學教師網站。

瀏覽這些圖片可以讓我們一窺這裡發生了什麼。心理語言學家往往是以這種方式拍攝的白人。如果你的照片和他們的一樣，你可能會被貼上心理語言學家的標簽。同樣地，其他標記取決於您與使用這些標記的訓練影象的相似程度。如果你是禿頭，你可能會被貼上光頭的標簽。如果你面板黝黑，衣著花哨，你可能會被貼上穿非洲禮儀服裝的標簽。

ImageNet並不是一個公正、客觀的演算法，它反映了創造者收集的影象、產生這些影象的社會、mTurk工作者的思想以及為標簽提供單詞的詞典中的偏見。很久以前，有些人或電腦把“blackamoor”放進了線上詞典，但從那時起，許多人肯定在他們的人工智慧標簽中看到了“blackamoor”（在瘋狂的2019年！）我沒說，哇，我們把這個拿走。是的，演算法可能是種族主義和性別歧視，因為他們是從觀察我們中學到的，好嗎？他們是從看我們身上學到的。