Facebook開發「去識別」系統，能讓你在即時視頻時「隱身」
近日，挪威科技大學的《DeepPrivacy：A Generative Adversarial Network for Face Anonymization》論文，稱用新的、更有挑戰的方法騙過臉部識別系統：不改變原來數據分布的前提下把臉部匿名化，更通俗的說法就是輸出一張逼真的人臉，但不改變原圖人的姿態和背景。在這種技術加持下，臉部識別系統依舊能正常執行，但完全無法識別出原來臉的身份，偽造者則可以冒充他人，自由出入有臉部識別系統的設施。
根據作者測試，經過匿名化的臉仍然保持接近原圖的臉部可識別性，普通臉部識別對匿名化後的圖像，識別出臉部的平均準確率只下降0.7%。而臉部含有的自然信息自然100%不重疊。
用AI來騙AI，這波操作簡直是傑出的一手。
之前，Facebook也嘗試做反臉部識別，近日終於有結果。
外媒VentureBeat報道，Facebook人工智慧實驗室Facebook AI Research（FAIR）開發出「去識別」系統，可欺騙臉部識別系統，例如，讓臉部識別系統將你辨認成女明星。
（Source：視頻截屏）
此技術使用機器學習即時改變視頻人物的關鍵臉部特徵，誘使臉部識別系統錯誤識別。
據稱，將對抗自編碼器與訓練過的臉部分類器配對，以使人臉稍微扭曲，迷惑臉部識別系統同時，又能維持人們可辨認的自然面貌，可用在視頻，甚至是即時視頻。
這種「去識別」技術過去已存在，以色列的自動反臉部識別系統提供商D-ID研發出針對靜態圖像的去識別技術。另外還有對抗性範例，利用計算機視覺系統的弱點，人們穿戴印有對抗圖案的衣物，誘騙臉部識別系統看到不存在的東西。
過去的技術通常應用於從監控鏡頭等渠道獲得的照片、靜止圖片，或事先計劃好利用對抗圖像欺騙臉部識別系統。現在，FAIR的研究針對即時圖片和視頻腳本，FAIR稱這項技術成果是業界首例，足以抵抗精密的臉部識別系統。
Facebook還發布一篇論文，解釋對新技術的態度，提出一種觀點，即臉部識別可能侵犯隱私，臉部替換技術可能用於製作誤導性視頻。為了控制臉部識別技術濫用，推出視頻去識別方法，並取得很好的效果。
此外，據VentureBeat報道，Facebook並不打算在任何商業產品使用這反臉部識別技術，但這項研究可能會對未來的個人隱私保護工具產生影響。就像研究在「誤導性視頻」強調的，能防止個人肖像用於製作偽造視頻。
其實反臉部識別技術近年來發展迅速，早在去年，多倫多大學Parham Aarabi教授和研究生Avishek Bose團隊開發一種演算法，可動態破壞臉部識別系統。
簡單來說，他們選擇的方法是通過干擾臉部識別演算法達到阻礙臉部識別的功能。通過改變一些人眼幾乎不可識別的微小像素，改變識別器的檢測結果。儘管演算法修改十分微小，但對檢測器來說卻很致命。
研究人員針對300-W資料庫的檢測結果也證實這種方法的可行性。資料庫包含多種族、不同照明條件和背景環境超過600張臉部照片，是業界的標準資料庫。結果表明，此系統能將原本可檢測到的臉部率從接近100%降到0.5%。
這個反臉部識別系統有神經網路自主學習能力，可以隨臉部識別系統進化而不斷改善自己；更可怕的是，AI時代下，我們竟不能保全自己的臉部隱私。
