CMU設計反人臉識別眼鏡，90％的概率騙過人臉識別系統

科技改變生活

1月4日，卡耐基梅隆大學的Mahmood Sharif博士設計了一種反人臉識別眼鏡，帶上之後成功讓多種人臉識別AI判斷失效，這也顯示了目前多種AI網路安全隱患。

研究人員將圖案列印在眼鏡框上，之後Face++的人臉識別把一名男工作人員識別成了女演員米拉·喬沃維奇，而一名女工作人員被認成了項目負責人Mahmood Sharif，出錯率高達90%。

實際上這種眼鏡的花紋採用的是「攝動」（Perturbation）圖案，這種圖案在2013年首次被提出，可以通過小到像素級別的圖案欺騙圖像識別器。下圖是一個典型的例子，首先一個神經網路成功識別一個香蕉。

有趣的是，當在香蕉旁邊放上一個攝動圖案小板子之後，AI竟然把這根香蕉當成了烤麵包機。

這其中的原理就在於神經網路的缺陷，是的，儘管深度神經網路是目前AI的核心，但是也存在缺陷。這種缺陷來自於它們的線性特徵，2013年，卡耐基梅隆大學的Christian Szegedy就對這種線性特徵的過度擬合進行了充分的說明。

這些研究在AI領域被統稱為對抗生成網路，也就是專門尋找神經網路的缺陷，並實現騙AI的目的。當然這項研究並不是要做壞事，而是為了優化神經網路。一個嚴重的例子就是自動駕駛汽車，如果自駕車的視覺神經網路一旦出現問題，那麼後果將不堪設想。

當然，要糊弄AI也不是一件容易的是，因為首先你需要訪問到目標神經網路的內部代碼。而且每一個攝動圖案都需要經過精心的設計，針對不同的神經網路框架都需要不同的圖案。下圖就是這款眼鏡的代碼，主要針對OpenFace 和 VGG兩種神經網路。

此次研究的負責人Mahmood Sharif博士，於2015獲得於以色列海法大學計算機科學碩士學位，目前正在卡耐基梅隆大學攻讀博士學位。他的主要研究領域為神經網路、計算機安全和機器學習。

研究人員下一步則是針對人臉識別神經網路出現的問題進行修復，構建更安全的人臉識別AI。此外，包括谷歌、Facebook在內的巨頭目前也紛紛意識到了神經網路缺陷的嚴重性，正在開發更好的防禦措施。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！