examsoft的proctoring軟體存在人臉檢測問題

薩福克大學法學院教授Gabe Teninbaum呼籲ExamSoft修復其考試軟體的一個嚴重缺陷：無法識別人臉。這是一個問題，可能會延誤考生-或禁止他們開始他們的考試-根據報告，它不成比例地影響了膚色暗的人。...

薩福克大學法學院教授Gabe Teninbaum呼籲ExamSoft修復其考試軟體的一個嚴重缺陷：無法識別人臉。這是一個問題，可能會延誤考生-或禁止他們開始他們的考試-根據報告，它不成比例地影響了膚色暗的人。

ExamSoft的軟體在學生完成遠端考試時對他們進行記錄，並監控他們是否存在學術不誠實的跡象。Teninbaum的報告介紹了ExamSoft的一個名為ExamID的功能，該功能旨在驗證考生的真實身份。當學生第一次登入他們的考試入口網站時，他們會上傳一張自己的照片（他們的“基線影象”）；然後在開始未來的考試之前，系統會提示他們再進行一次**，軟體會根據他們的原始照片進行檢查。

研究發現，人臉識別演算法在識別黑臉時總是比識別白臉時出錯更多。雖然這些研究並沒有特別關注ExamSoft，但似乎也不例外。早在今年9月，多名非白人考生就告訴《****》，由於“光線不好”，軟體無法識別他們的身份——這是一個面板較淺的泰寧鮑姆無法複製的問題。

今年初秋，泰寧鮑姆著手尋找解決辦法。他認為這樣的錯誤會給本來就很緊張的一段時間增加不必要的壓力。Teninbaum在接受《邊緣》雜誌採訪時說：“這些學生將要參加一場高風險的考試，而這是非常不受歡迎的。”。

他補充說：“任何時候參加考試，你都只想把注意力集中在考試上。“你不想覺得自己有這些額外的挑戰。”

Teninbaum還認為光學很重要；學校應該感謝邊緣化的學生，不要依賴一類眾所周知具有歧視性的軟體。他說：“學生們應該感到，他們的學校正在盡其所能保護他們的權利、利益和尊嚴。”。

在即將發表在《機器人學、人工智慧和法律》雜誌上的報告中，泰寧鮑姆概述了他發現的解決方法。

他建議學校給每個學生分配一個相同的、基本的形象。然後，他建議，他們應該要求ExamSoft啟用“延遲識別”，這是軟體內建的一項功能，即使識別失敗，學生也可以繼續進行考試。（ExamSoft告訴the Verge，到2020年底，預設情況下，延遲識別已經啟用，因此學校應該可以跳過這一步。）

這些調整將導致ExamSoft誤認每個考生。但他們仍然可以繼續他們的考試-ExamSoft將傳送**到學校之後，導師可以手動驗證每個人。“我們知道我們的學生是誰，”泰寧鮑姆說。“我們可以確保學生是他們所說的那樣，避免讓學生受到這些挑戰。”

他還建議ExamSoft讓客戶可以訪問“延遲身份”功能。他在報告中寫道：“記者敦促ExamSoft將其構建成一個功能，透過這個功能，機構可以簡單地開啟/關閉ExamID，從而繞過ExamID，直到技術成熟成為一種不歧視的技術。”。

Teninbaum希望這些改變能持續到COVID-19大流行之後，並能幫助學生們在遠端課堂上感覺更舒服。“隨著人們越來越多地上網接受教育，這將是一個日益嚴重的問題，”他說。

即使如此，他只是解決了問題的一部分。學生們在ExamSoft的procuring軟體中經歷了一系列的打嗝。10月份，3000多人利用這個平臺參加加州的律師考試，他們的影片被標記為可能違反規則的行為——參加線上考試的申請人中，有近36%。使用者報告了音訊問題，以及其他技術故障。

包括理查德·布盧門塔爾、伊麗莎白·沃倫和科裡·布克在內的六位美國參議員在去年12月給ExamSoft寫了一封***，強調了對有色人種學生和殘疾學生的潛在危害，以及許多其他擔憂。

ExamSoft在一份即將發表的宣告中說：“ExamMid旨在為考生提供無摩擦的體驗。ExamID試圖透過允許考生設定和批准自己的基線圖片來緩解通常與面部識別軟體相關的挑戰，該軟體使用這些圖片與考生在考試時拍攝的圖片進行比較。此外，考生可以在參加任何考試之前測試ExamID如何驗證他們的特定圖片，以幫助減輕考試期間圖片匹配問題的壓力。”

更新時間：美國東部時間1月6日上午11:14：ExamSoft添加了宣告。