蘇亞爸爸給小朋友解讀熱點：你被人工智慧歧視了嗎？

微軟正在創建一個「先知」工具

來捕捉 AI 演算法偏見

微軟正在開發一個工具來自動識別一系列不同 AI 演算法中的偏見。這在自動偵查可能滲入機器學習的不平等方面，是迄今為止最大膽的嘗試，且它還能幫助企業在利用人工智慧的同時防止無意間歧視某些群體。

演算法偏見是研究人員和技術專家日益擔憂的問題，由於演算法將做重要決定的過程自動化，因此存在著這樣的風險：偏見也可能自動化和大規模地產生作用，並且讓受害者更難以察覺。

從事偏見檢測控制面板研究的微軟高級研究員里奇·卡魯納說：「透明度、可理解性和解釋這類東西對這個領域來說是全新的，我們很少有人有足夠的經驗來明白我們該尋找的東西，以及偏見可能潛伏在我們模型中的所有方式。」

臉書在 5 月 2 日的年度開發者大會上宣布了其自己的偏見檢測工具。這個工具命名為「公平暢行」，如果演算法根據一個人的種族、性別或年齡做出了不公平的判斷，它就會自動發出警告。

臉書在 5 月 2 日的年度開發者大會上宣布了其自己的偏見檢測工具。這個工具命名為「公平暢行」，如果演算法根據一個人的種族、性別或年齡做出了不公平的判斷，它就會自動發出警告。

文章來源：MIT Technology Review

翻譯：流利閱讀

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！