「亞馬遜人臉識別噩夢」貝索斯將AI武器化遭大規模抗議

新智元報道

新智元編輯部

【新智元導讀】亞馬遜積極向美國警方推銷自己的人臉識別產品， 引發了美國社會大規模抗議。亞馬遜員工也給CEO貝佐斯寫公開信：請停止武器化我們的技術！

《黑鏡》中政府使用交通攝像頭就能識別你的面部特徵並且跟蹤你這個人的情形可能不太遠了。

亞馬遜有一款名為Amazon Rekognition的產品，這將你最糟糕的噩夢。

這款產品可以實時識別，跟蹤和分析人員，並在單幅圖像中識別多達100個人。它還可以快速掃描收集的信息，與資料庫數千萬張面孔進行比對。

亞馬遜正在為政府和警察部門推銷Rekognition——根據亞馬遜的市場推廣資料，Rekognition可以監控「團體照片、擁擠人群以及機場等公共場所中的所有面孔」。除了其他功能之外，材料中還將「人員跟蹤」描述為一種調查和監控人「簡單而準確」的方式。

消息公布後引發了美國民眾極其強烈的反響。美國公民自由聯盟（ACLU）最近領導30多個民權組織聯合舉行抗議活動，反對美國政府使用人臉識別技術，要求亞馬遜CEO貝索斯停止向政府出售Rekognition。

他們的主張是：「公民應該可以自由地走在街上而不被政府監視。」而人臉識別技術威脅到了這一點。

雖然亞馬遜並不是唯一與警方合作的技術公司，但亞馬遜的規模、影響力和能力讓人覺得Amazon Rekognition將有很大可能被廣泛採用。

ACLU在聲明中表示，「通過Rekognition，政府現在可以構建一個自動識別和跟蹤任何人的系統。如果警察配備的隨身攝像頭配備了人臉識別裝置，那麼原本用於執法透明和問責制的裝置將轉變為針對公眾的監視器。

通過這項技術，警察將能夠確定誰參加了抗議活動。 ICE(美國移民海關執法Immigration and Customs Enforcement)可以在移民開始新生活後持續監控這些移民。無論是否有理由懷疑犯罪活動，政府都可以定期追蹤自己的居民。」

即使在擁擠的場所，亞馬遜Rekognition也能檢索和識別出多達100張臉孔

內部員工的公開信：請停止武器化我們的技術！

在美國，目前無證移民的數量和由於種族貌相而遭到非法監禁的受害人越來越多，包括《紐約時報》、《大西洋月刊》在內的眾多媒體都發文質問：是否該採用這項技術？更進一步來說，這項技術真的必要嗎？

今年6月，在一片抗議聲中，奧蘭多警察局放棄了對亞馬遜Rekognition人臉識別試點項目的計劃。

人臉識別公司Kairos的首席執行官Brian Brakeen更是公開表示，他的公司不會將這項技術出售給政府。

Brakeen寫道：「在政府監督計劃和執法機構的手中，根本無法確保人臉識別軟體不會用於傷害公民。」

抗議並非全都來自外部。亞馬遜內部員工也站起來表示抗議，他們加入股東，民權團體和有關消費者的行列，將亞馬遜的面部監控技術稱為：對公民權利，特別是對移民和人民的獨特威脅。

這種強烈的反對在內部逐漸蔓延開來。

今年6月，亞馬遜內部的100多名員工，包括高級工程師，給自己的老闆、亞馬遜CEO傑夫·貝索斯（Jeff Bezos）寫了一封公開信，要求公司停止向ICE和其他執法機構出售侵入性和違憲的Rekognition面部識別技術。

他們在信中說道：「我們公司不應該從事監控業務; 我們不應該從事警務業務; 我們不應該支持那些監督和壓迫邊緣人群的人。」

亞馬遜CEO傑夫·貝索斯

加利福尼亞州ACLU技術和公民自由主任尼科爾·奧澤爾說：「我們支持這些員工呼籲貝索斯先生做正確的事，亞馬遜必須停止向政府提供危險的面部監視。」

除了要求停止出售Rekognition之外，亞馬遜員工在信中還呼籲公司停止對數據分析公司Palantir提供支持。

Palantir是Peter Thiel於2003年創立的大數據公司，為執法部門提供預測性警務工具，並通過亞馬遜網路服務公司與ICE簽訂了大量合同（Thiel曾秘密資助了一起導致Gizmodo的前母公司Gizker Media破產的訴訟）。

亞馬遜態度並未妥協

儘管面對內部與外部的雙重抗議，但是亞馬遜回應態度依然是捍衛Rekognition的。他們聲明：不能因為技術可能會被濫用就限制其進步。

聲明中說：「如果我們取締新技術，我們的生活質量會更糟，因為有些人會選擇濫用這項技術。」

「想像一下，如果客戶無法購買計算機，因為有可能將該計算機用於非法目的嗎？亞馬遜要求客戶遵守法律並在使用AWS服務時負責。當我們發現AWS服務正在使用時被客戶濫用，我們暫停該客戶使用我們服務的權利。」

此前，谷歌員工已經成功的阻止了自己的公司參與到一項軍事競標中。該競標是美國五角大樓利用人工智慧技術通過無人機進行攻擊，並且另外一個項目也被迫暫停。

對比而言，亞馬遜的態度，不妥協，挺強硬。

此外，根據今天的最新消息，奧蘭多警察局計劃重新啟動人臉識別軟體測試。

奧蘭多警察局局長John Mina在一份聲明中表示：「我們在測試這項技術方面取得了很大進展，並認為繼續對其進行評估是非常重要的，這個評估將確定人臉識別是否能夠在公民隱私和增強城市公共安全使命間權衡，從而增加不可估量的價值。」

從商業方面考慮，亞馬遜的技術與市場策略也無可厚非，但是，我們仍然希望企業將安全與隱私作為自己商業布局的前提，並為此做出一些改變。

參考文章：

https://gizmodo.com/amazon-workers-demand-jeff-bezos-cancel-face-recognitio-1827037509

https://gizmodo.com/amazon-workers-demand-jeff-bezos-cancel-face-recognitio-1827037509

【加入社群】

新智元 AI 技術 + 產業社群招募中，歡迎對 AI 技術 + 產業落地感興趣的同學，加小助手微信號: aiera2015_3入群；通過審核後我們將邀請進群，加入社群後務必修改群備註（姓名 - 公司 - 職位；專業群審核較嚴，敬請諒解）。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！