美國議員被誤判為罪犯 亞馬遜的人臉識別系統遭質疑
亞馬遜推出了自己的面部識別系統,宣稱其簡單易用,鼓勵客戶通過這套系統"檢測、分析和比較各種用戶驗證、人員計數和公共安全使用情況等。這套面部識別軟體錯誤地將28張國會議員的照片與一個犯罪資料庫中的照片錯誤地聯繫在一起。 例如,劉易斯是美國公民權利時刻的關鍵人物,但美國公民自由協會在測試中發現其被誤匹配為一名罪犯。這使得部分人開始呼籲亞馬遜停止為執法部門提供面部分析技術。
面部識別技術難以識別深色膚色一直是一個問題。除此之外,面部識別技術更是有一定系統的偏見。今年2月,麻省理工學院媒體實驗室的 Joy Buolamwini 和微軟的 Timnit Gebru 發布的研究結果均表明,來自 IBM、微軟和 Face + + 的面部識別軟體比起識別白人更難識別其它有色人種。"先想像一下,一台高速攝像機錯誤地說,黑人司機超速行駛的速度比白人司機高。然後想像一下,執法部門知道這件事,其他人都知道這件事,但他們只是繼續使用它。」
但亞馬遜對這項研究的參數提出了質疑,指出美國公民自由協會使用了80% 的信息閾值; 這就是 Rekognition 找到匹配的可能性,你可以根據你想要的準確度來調整。公司在一份聲明中說, "當我們使用面部識別技術進行執法活動時,我們指導客戶設定至少95% 或更高的閾值。"
亞馬遜表示,它與合作夥伴密切合作,但不清楚該採取何種形式進行操作上的指導,也不清楚執法部門是否會效仿。 所以,責任在於客戶——包括執法部門都需要進行調整。
參考來源:
https://www.wired.com/story/amazon-facial-recognition-congress-bias-law-enforcement/
https://techcrunch.com/2018/07/26/congress-members-demand-answers-from-amazon-about-facial-recognition-software/
-End-
編輯:青箱子
本文章圖片來源於網路,侵權必刪
想要了解更多人工智慧領域的行業動態,歡迎關注聲學在線公眾號!
![](https://pic.pimg.tw/zzuyanan/1488615166-1259157397.png)
![](https://pic.pimg.tw/zzuyanan/1482887990-2595557020.jpg)
※賽靈思收購深鑒科技:收購額或將3-4億美元 A輪投資方變收購方
※DuerOS 3.0怎麼讓開發者賺錢?
TAG:聲學在線 |