微軟改進Face API，顯著降低膚色識別錯誤率

AiTechYun

編輯：chux

微軟宣布，它已經更新了其面部識別技術，顯著提升了系統識別膚色的能力。

這一改進解決了最近的擔憂，即商業上可用的面部識別技術更準確地識別出膚色較淺的人的性別，而不是深色的膚色，而且他們在膚色較淺的男性身上表現最好，而膚色較深的女性則表現最差。

隨著新的改進，微軟表示它能夠將顏色較深的男性和女性的錯誤率降低20倍。對於所有女性來說，公司表示錯誤率降低了9倍。總體而言，該公司表示，通過這些改進，他們能夠顯著降低人口統計數據的準確度差異。

對於膚色較深的女性，誤差率更高，這凸顯了行業範圍內的挑戰：人工智慧技術只能與用於訓練它們的數據水平一樣。如果面部識別系統要在所有人中表現良好，那麼訓練數據集需要表現出多種膚色以及諸如髮型，珠寶和眼鏡等因素。

負責微軟面部識別技術開發的團隊通過Azure Cognitive Services為客戶提供Face API，與微軟的偏見和公平專家合作，改進稱為性別分類器的系統，專註於改善性能所有膚色的結果。

Face API團隊進行了三項重大更改。他們擴展並修改了訓練和基準數據集，推出了新的數據收集工作，通過專註於膚色，性別和年齡，進一步改進訓練數據，並改進了分類器以產生更高精度的結果。

微軟紐約研究實驗室的高級研究員，AI系統公平性，問責性和透明度專家Hanna Wallach說，「我們談過不同的方式來檢測偏見並實現公平。我們討論了數據收集工作，以使培訓數據多樣化。我們談到了不同的策略，在部署它們之前對我們的系統進行內部測試。」

認知服務團隊的主要項目經理Cornelia Carapcea說，Wallach和她的同事們提供了「對偏見的更細緻的理解」，並幫助她的團隊創建了一個更強大的數據集，在膚色問題上負責。

超越技術挑戰

Ece Kamar是華盛頓州雷蒙德市微軟研究實驗室的高級研究員。她的研究專註於人工智慧工具，幫助工程師識別培訓數據中的盲點，比如暗色皮膚女性的代表性不足，這可能導致AI系統在性別分類任務中出現不可接受的錯誤。

她表示，改善Face API中性別分類器的性能主要是一項技術挑戰。她說：「收集更多捕捉到我們世界多樣性的數據，並小心如何衡量績效是減輕這些問題的重要步驟。」

她說，一個更加細微的挑戰是，要學習如何以及何時去減少反映並放大社會偏見的AI系統，而不是因為數據集不完整或演算法不足，而是因為人類社會存在偏見。

Wallach解釋說：「如果我們正在訓練機器學習系統以模擬在有偏見的社會中做出的決策，並使用該社會生成的數據，那麼這些系統必然會重現其偏見。」

Wallach的團隊正在制定最佳實踐，以便從構思和數據收集到模型培訓，部署和監控，從這些類型的AI驅動產品和服務的整個開發流程中檢測和減輕偏見和不公平。

「這是一個真正思考我們在系統中反映什麼價值的機會，」Wallach說，「它是否是我們想要反映在我們的系統中的價值。」

尋找答案

例如，如果您在網上搜索「首席執行官」這個詞，那麼你很可能會得到有關世界各地公司和組織的高級領導職位的信息，其中包括一些圖片，最有可能是男性。

這並不奇怪，因為財富500強CEO中不到5％是女性。

在微軟，這促使Bing搜索引擎工程師不斷探索與Bingla等專家合作，他們正在尋找如何最好地展示反映董事會，學術界和社交媒體關於缺乏女性首席執行官，以及改變這種狀況的努力。

Bing團隊的主要項目經理Michael Golebiewski表示，「當我們思考這種偏見時，我們開始考慮如何教用戶分辨偏見，如何向用戶解釋社會正在發生的事情，以及如何幫助用戶探索這些事情。」

「這是一個還沒有完整答案的領域。這也是我們開始考慮如何在用戶搜索時與用戶進行對話的一個領域。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！