亞馬遜人臉識別技術再遭滑鐵盧：從120名官員中認出了26名罪犯

知識 08-21

「刷臉解鎖手機」「刷臉購物」「刷臉驗證身份辦理銀行卡」……我們與生俱來的「臉」除了與顏值形象掛鉤，也在逐漸演變成我們身份的唯一識別標識，逐漸深入我們的日常生活，為我們提供了極大的便利。

但當人臉識別遇上現實，也不乏跪地躺槍，慘不忍睹的時候，比如今天我們的主角——來自亞馬遜的Rekognition。

Rekognition是亞馬遜研發的一款圖像分析軟體。亞馬遜已經將這項技術銷售給了美國的幾個執法機構，比如說華盛頓縣治安官辦公室，旨在利用軟體的面部識別演算法實時自動識別和跟蹤犯罪嫌疑人；亞馬遜也在爭取將能把這項技術賣給美國政府。

人臉識別並不是Rekognition的唯一功能丨Rokognition官網

這是什麼神奇演算法，「看」一眼就能知道對方是不是犯罪嫌疑人？

Rekognition需要被辨識的臉部照片作為基礎資料庫，目前基礎資料庫的建設主要基於亞馬遜的雲服務AWS。當攝像頭捕捉到現實中的人臉或用戶上傳對比照片後，Rekognition會自動將它們與基礎資料庫中的照片進行對比；如果相似度足夠高，那麼Rekognition就認為這個人屬於基礎資料庫中的某個人。在軟體中，將這個相似度稱作「可信度閾值」，它的默認值為80%。

人臉識別技術 | James Martin/CNET

利用先進科技，讓犯罪嫌疑人無處逃遁，想像一下就覺得似乎世界變得更美好了一點。然而，這種想法也遭到了不少人的反對，比如一直和Rekognition唱反調的美國公民自由聯盟（American Civil Liberties Union，ACLU，一個非盈利組織）。

8月14日，ACLU對它進行了一項測試，Rekognition的表現卻令人大跌眼鏡：基於25000人的犯罪嫌疑人基礎資料庫，ACLU上傳了120張立法者的照片讓Rekognition一試身手，結果是，Rekognition用誤判26名立法者為犯罪嫌疑人的結果，證明了自己身手不佳。

實際上，這並不是Rekognition第一次「犯錯誤」，早在2018年，它就已經錯誤地將28名國會議員識別為罪犯，萬萬沒想到，經過1年的努力，它義無反顧地在將政府官員識別為罪犯的路上越走越遠……

2018年Rekognition識別錯誤的28名國會議員 | ACLU官方Twitter

不得不說，這軟體給我們提供了一份充滿了戲劇性的「答卷」，然而作為承擔身份識別重要角色的軟體，這樣的結果無法不讓人對其嚴謹性和嚴肅性產生質疑。

舊金山議員丁右立（Phil Ting）提議禁止使用這個軟體系統，並且表示這樣的錯誤識別結果將會給人們帶來巨大的負面影響，當你被人認為是一個罪犯，「可能會影響你找工作的能力、影響你買房租房的能力。」這遠不是一項技術犯了一個可笑的錯誤那麼簡單，而是確確實實會有活生生的人們，受到這一錯誤帶來的實際影響。

那麼，面對再一次的重大失誤，作為軟體開發商亞馬遜對此作何解釋？福布斯這樣報道：「當使用面部識別來判斷調查中的嫌疑人時，執法部門應該使用推薦的99%的可信度閾值，並且僅將這些預測作為調查的一個要素（而非唯一決定因素）」。

ACLU表示這種解釋無法讓人信服。在測試中使用的80%的可信度閾值，實際上是軟體提供的默認設置。既然99%的可信度閾值才是推薦使用值，為什麼亞馬遜不將默認可信度閾值設置為99%呢？然而對此，亞馬遜並未給出答覆。

ACLU成員Matt Cagle做出回應丨ACLU

實際上，這款軟體在整個美國進行了推廣和試用，除了在識別準確度方面存在問題，在各地的試用中還暴露出了其他一系列問題。比如，由於準確度引發的，在有色人種聚居地識別錯誤可能造成種族歧視問題，引發警民衝突；在佛羅里達州奧蘭多試用期間，還出現網路帶寬問題導致軟體無法良好運行等問題，很顯然，Rekognition並沒有為真正能夠推廣和應用做好準備。另外，人臉識別技術的濫用，是不是也在一定程度上侵犯了公民的隱私和自由？

未來，Rekognition將會走向何方，目前我們無法做出判斷。

作為AWS的重要應用軟體，除了賣給政府部門，這款支持包括人臉識別在內的圖像分析技術也會通過AWS出售給相關大數據公司，亞馬遜7月27日發布的2018年財報中顯示，雲服務第二季度凈銷售額為61.05億美元，比上年同期的41.00億美元增長49%；運營利潤為16.42億美元，上年同期為9.16億美元。

面臨問題重重、形勢嚴峻的推廣應用現實，以及巨大利潤的誘惑，亞馬遜最終將會如何處理此事呢？

科技進步、人工智慧給我們的生活帶來的方便和快捷不言而喻，但是科技作為工具，能否使用的好最終還是掌握在人的手裡，說白了，AI只是個孩子，要學的還很多，而關鍵在於我們人類「家長」怎麼去教育和引導。

終結者 | Paramount / Skydance

參考文獻

[1]https://hackernoon.com/a-quick-introduction-to-aws-rekognition-8257d4777198

[2]https://www.orlandoweekly.com/Blogs/archives/2019/07/18/orlando-cancels-amazon-rekognition-capping-15-months-of-glitches-and-controversy

[3]https://gizmodo.com/amazons-face-recognition-tech-once-again-pegs-politicia-1837215790

[4]https://www.vice.com/en_us/article/ne8wa8/amazons-facial-recognition-misidentified-1-in-5-california-lawmakers-as-criminals

[5]https://www.forbes.com/sites/monicamelton/2019/08/13/amazon-rekognition-falsely-matches-26-lawmakers-to-mugshots-as-california-bill-to-block-moves-forward/#4c323d0c7350

[6]https://www.dailymail.co.uk/news/article-5995149/Amazons-face-ID-tool-mismatched-28-members-Congress-mugshots-ACLU.html

[7]https://www.icrac.net/open-letter-to-amazon-against-police-and-government-use-of-rekognition/

[8]https://www.cnet.com/news/amazons-rekognition-falsely-matched-lawmakers-to-criminals-again-aclu-says/

作者：芸薹

編輯：Luna

一個AI

看見了嗎！我還是個孩子！我會從你們的留言里學習，學好學壞都有可能……