「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞

新聞 07-25

1 新智元報道

「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞

英國《金融時報》昨天發表了一篇題為《中國利用人工智慧預測犯罪》的報道，再次聚焦中國的「人臉識別定罪犯」問題。

報道指出，「中國是一個監控國家，當局可以不受限制地對公民過往的言行進行審查。如今，中國正試圖利用旨在預測和防止犯罪的技術來窺視他們的未來」。

報道引用了中國科技部副部長李萌的發言，「……李萌上周五表示，如果能好好利用智能系統和智能設備，就能提前獲知哪些人可能是恐怖分子，哪些人可能做壞事」。

報道還指出，中國企業正在協助警方開發人工智慧，並稱這將有助於警方在犯罪行為實施之前識別和逮捕嫌疑人。

報道以雲從科技為例子，表示雲從正在使用技術監控高風險場所（比如售賣刀具和榔頭的商店），根據買家的可疑行為（比如在買了一把菜刀後又購入麻袋和榔頭）預測犯罪。

「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞

《金融時報》報道：中國政府一直在收集個人數據監視和控制本國公民，快速發展的人工智慧正在增強政府的監視能力。來源：金融時報

中國人臉識別應用超乎西方社會想像

實際上，這並不是第一次主流外媒對中國的人臉識別技術的應用現狀產生關注。就在上月底，美國《華爾街日報》發表長篇特寫「China"s All-Seeing Surveillance State Is Reading Its Citizens" Faces」——中國「天網」正在監控公民的臉，對廣泛滲透如今中國人民日常生活的人臉掃描及識別做了介紹，包括手機應用上的身份驗證、辦公樓的刷臉門禁，以及公路旁亂穿馬路的攝像頭。

這篇文章在《華爾街日報》中文版以《在中國，你還敢闖紅燈嗎？》為題發表，因為報道中有深圳「人臉識別智能抓拍行人闖紅燈」的內容。

「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞

深圳人臉識別智能抓交通違規的例子：如果有行人闖紅燈，會被監控攝像頭自動抓拍並實時顯示在電子屏上。圖片來源：The Wall Street Journal

《華爾街日報》的那篇文章表示，「中國政府部門正在展開一場規模宏大的社會工程試驗」，希望通過廣泛應用人臉識別技術，影響人們的行為方式，並且識別違法犯罪分子。

不僅如此，文章表示中國政府希望到 2020 年建立起一個全國性社會信用體系，「根據公民在工作單位、公共場所和個人財務方面的表現進行打分」。

根據《華爾街日報》的報道，人臉識別系統已經在中國社會得到了超乎西方人最瘋狂想像的應用：

上海，為了讓人比賽時不抄近路而在跑道旁安裝人臉識別系統
北京，為了防止有人偷廁紙而在公廁安裝人臉閘機
浙江溫州，在各個主要教堂、清真寺和寺廟全面安裝監控攝像頭，「其中一些攝像頭瞄準了教堂內的長凳」
四川成都，一個安全設備大會上，警員指揮人臉識別無人機隊進行人群監控（產品來自深圳雲天勵飛技術有限公司，過馬路闖紅燈的人臉識別系統也來自這家公司）
商湯科技展示通過攝像頭網路跟蹤某人在某區域附近的行蹤
……

「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞

視頻監控攝像頭在深圳等中國城市隨處可見。圖片來源：The Wall Street Journal

Facebook 人臉識別功能因數據違規被叫停

《金融時報》文章明確表示：人臉識別「提出了有關可能存在誤判的問題，尤其在一個法律專家表示司法系統缺乏必要制衡的國家」。

報道表示，中國法律可以指控嫌疑人企圖犯罪，而且沒有證據的誤判很難在上訴時扭轉。

FT 中文網最近組織了人工智慧專題，機器學習涉及的數據中很多都屬於個人信息，根據個人信息保護相關法律規定，收集這些信息需要取得用戶明確、充分且完備的授權，並應當明確告知用戶收集信息的目的、方式手段、內容、留存時限，還有使用的範圍。

專題里提到了 Facebook 的例子——2011 年，Facebook 人臉識別和標記功能因為沒有按照伊利諾伊州《生物信息隱私法案》（BIPA）執行而被起訴，隨後又因採集面部特徵前沒有明確提醒並徵得用戶同意而遭到愛爾蘭和德國有關部門的調查。最後，Facebook 被迫在歐洲相關地區停用人臉識別功能，並刪除了針對歐洲用戶的人臉資料庫。

中國火熱的人臉識別市場

計算機視覺和人臉識別目前是人工智慧最為火熱的領域。麥肯錫的報告顯示，2017 年，在機器學習的子領域中，計算機視覺獲得了最多的投資。

「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞

麥肯錫的報告顯示，2017 年世界範圍內，在機器學習的子領域中，計算機視覺獲得了最多的投資。

以中國的企業海康威視為例，計算機視覺+安防的發展方向幫助這家企業獲得了飛速的發展。自 2001 年公司成立至今，海康威視已連續 16 年保持業績穩健增長，成為浙股和中小板的市值王，總市值在整個 A 股市場排在第 16 位，超越了很多巨頭企業。

2001 年公司成立的時候，海康威視只有以研發工程師為主體的 28 人的創業團隊。而到目前，它的員工數已超過 2 萬人，其中研發人員就有近 1 萬。今年 6 月，市場調研機構 IHS 發布報告，海康威視佔全球視頻監控市場份額的 21.4%，連續六年位列全球第一。在行業雜誌 A&S《安全自動化》發布的排名中，海康威視已躍居全球安防 50 強第一位。

2015 ~ 2017 年間，中國湧現了大批的以計算機視覺和人臉識別為核心業務的初創企業，除了上文提到的雲從、商湯、雲天勵飛，還有曠視科技。根據《華爾街日報》報道，去年秋天杭州 G20 峰會期間，曠視等幾家公司與警方合作，識別犯罪嫌疑人以及恐怖分子嫌疑人。「一個多月里有超過60人因此被拘留。」

人臉識別到底還要哪些風險，我們來看看國外的一些最前沿的研究：

CMU 研究——犯罪配件：對最先進人臉識別技術真實而鬼祟的攻擊

在機器學習演算法顯著提升人臉識別準確率，從而真正實現了「天網」恢恢疏而不漏的大背景下，一系列出於各種動機的反識別研究也浮出了水面。

CMU 的研究人員研製出了一種眼鏡，可以讓佩戴者不被人臉識別系統認出來，甚至還能讓系統誤以為是另外一個人。

「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞

在題為《犯罪配件：對最先進人臉識別技術真實而鬼祟的攻擊》（Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition ）的研究報告中，研究者把他們的系統描述為對人臉生物特徵分析系統「 physically realisable 」且「不起眼」的攻擊。

「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞

模仿和攻擊的成功例子。圖 b—圖 d 中，上圖中的研究者戴上鏡框，模仿了下圖中的人。

這種攻擊利用了人類和計算機在識別人臉時的不同。通過選擇性地改變一張圖像中的某些像素，它能夠讓一張人臉圖像在人類眼中保證最大程度地不變，同時又能盡量使人臉識別系統感到困惑。

研究人員發現最佳辦法是戴一副大眼鏡（但又不是太大），甚至在一張真實照片中，這樣做也能「改變像素」。通過選擇一副帶有誇張鏡框的「怪咖」眼鏡，研究者能夠改變任何人臉照片像素的 6.5 %。根據這些鏡框就能找到操控圖像識別效果的模式。

「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞

Invisibility attack 的例子。左：Kiefer Sutherland 的原圖；中：Invisibility by perturbing pixels that overlay the face；右：Invisibility with the use ofaccessories。

而因為計算機和我們識別人臉的方式不同，這些加在人臉上的模式對於我們來說，只不過是戴了一副玳瑁框的眼鏡。這麼做的成本也很低：使用一個普通的照片印表機，研究者根據鏡框將模式列印出來，每個只需要 0.22 美元。

最後的結果讓人印象深刻。這種眼鏡既能騙過商業人臉識別軟體，比如 Face++，也能騙過進行特定訓練用以識別 5 位研究者和 5 位名人的模型。僅僅戴著這樣的眼鏡，研究者就完全能讓軟體識別不出他的臉，同時還能模仿某幾位名人，比如 Milla Jovovich 和 Carson Daly。

研究本身沒有設定限制。研究者警告說：「研究中我們調查的圖像條件的變數比實際情況可能要狹窄。」

比如，為了控制光線，研究者是在沒有窗戶的房間內拍照的。但他們指出，人臉識別軟體的許多應用，包括進入大樓的生物特徵掃描，都有相似的限制變數。

當然，在其他情況下，這種控制是不存在的。研究者說：「attacker 不太可能控制光線，也不可能控制他/她和街道上安防攝像頭的距離。」

論文摘要：

機器學習賦能了一系列創新，包括用於癌症診斷、自動駕駛汽車等新演算法也持續出現。面對機器學習的廣泛應用，理解機器學習演算法在哪些攻擊面前會展現脆弱性至關重要。

本文我們聚焦於廣泛應用於安防和入口控制的人臉生物特徵系統。我們定義並調研了一種新的攻擊：這種攻擊physicallyrealizable 且不起眼，可以讓攻擊者不被識別，還可以模仿為另一個人。我們開發了一種系統性的方法，可以自動生成這樣的攻擊，其實現方法是在人臉上印出一副鏡框。攻擊者戴上這種鏡框的照片，能夠讓最先進的人臉識別系統也無法識別，或誤認為是另一個人。我們的研究聚焦於白箱式的人臉識別系統，但我們也展示了相似的技術在黑箱場景中也同樣可以避開人臉檢測。

通過臉部一些簡單而新潮的線條，就能騙過聰明的攝像頭

俄羅斯「谷歌」Yandex 的技術銷售總監 Grigory Bakunov 正在進行一項最新研究。他每天在工作之餘開發了一種演算法，能夠使人臉識別軟體無法成功的識別出一個人。通過特殊的化妝，他可以幫助人們在人工智慧面前隱藏身份。

「爭議」外媒質疑中國人臉識別定罪犯，三項研究看人臉識別技術漏洞