GeekPwn2018頂級AI黑客招募令：你有信心致盲AI嗎？

談及機器學習，「對抗樣本」這個詞，應該已經不再陌生。而對抗性樣本攻防賽，或許你還是第一次聽說。

為了加快對抗樣本的研究，作為全球首個關注人工智慧與專業安全的前沿平台，GeekPwn2018將創新性地設置CAAD 對抗樣本攻防賽（Competition on Adversarial Attacks and Defenses），針對圖像識別領域的對抗攻擊與防禦研究分別設置了三個項目，於今年5月正式開賽。選手出示的圖片上，到底是中華田園犬還是北極熊、是鸚鵡還是鴕鳥、是汽車還是飛機？想知道答案，你一定要來GeekPwn2018的現場一探究竟。

因為，這可能是AI安全領域最特別的一次比賽。

連人也不放過的「對抗樣本」

雖然，人工智慧已經作為不可或缺的科技新品走進了千家萬戶，上到人臉識別門禁、瞳孔識別保險柜，下到手機、房門，AI使一切看起來如此便捷與美好。但事實上，研究人員們經歷過的人工智慧的「失敗」遠遠多於我們看到的成功的成品，這其中就涉及到對對抗樣本干擾的排除。因為多數基於機器學習的分類器對於對抗樣本是高度敏感的。

有一個例子：在2016年的GeekPwn矽谷站上，生成對抗網路之父Ian GoodFellow就帶來了欺騙機器視覺的演示。

在一張熊貓的圖片中，加入了一個小干擾到對抗性樣本里，就導致系統將其誤認為是長臂猿的照片。在絕大多數時候，這些小的修改並不會使人類注意，但仍然會使得分類器出錯。

Ian憑藉一個做過手腳的對抗性樣本讓我們知道，即使對樣本做極微小的改變也能欺騙神經網路圖像分類器，讓分類器做出南轅北轍的判斷。充分說明了目前 AI 系統的脆弱性。

而不久前，這種利用對抗樣本的欺騙手法已經更上一層樓，對抗性樣本不再只是欺騙機器，現在連人類也可以被欺騙了。就如下圖所示：無論是機器模型還是人類都會判斷左側是貓，右側是狗。而事實上，右側圖像只是左側圖像一個簡單地對抗擾動。

這些例子都在告訴我們一個事實，機器視覺並非金剛不壞之身，攻擊者利用對抗樣本會為我們帶來潛在的安全隱患，它們可以被用來攻擊機器學習系統，即使是在無法獲得模型的情況下。如：當無人駕駛汽車的視覺系統被欺騙，就無法正確區分對人、交通工具和路標的分類，這將會帶來災難性後果。

從長遠角度來看，機器學習和 AI 系統必將變得更加強大。類似於對抗樣本的機器學習安全漏洞可能危害甚至控制強大的 AI 們。那麼，從機器學習安全的角度來考慮，該如何防禦？而目前為止一個行之有效的防守策略就是對抗訓練。在不斷地模型訓練過程中，訓練樣本不僅僅是乾淨樣本，而是乾淨樣本加上對抗樣本。隨著模型訓練越來越多，一方面乾淨圖片的準確率會增加，另一方面，對對抗樣本的魯棒性也會增加。

你的障眼法能否蒙蔽機器的雙眼

為了找到防禦這些對抗樣本的最佳防禦策略，探索這個讓人激動人心的領域，2018年，GeekPwn以65萬元總獎金聯合谷歌大腦的 Alexey Kurakin、Ian Goodfellow 以及美國加州大學伯克利分校計算機系教授宋曉冬共同發起 CAAD 對抗樣本攻防賽（Competition on Adversarial Attacks and Defenses）。

本次大賽將聚焦讓機器學習分類器頻頻犯錯的對抗樣本，針對圖像識別領域的對抗攻擊與防禦研究分別設置了三個項目，預演 AI 領域可能存在的風險並不斷完善，從而推動人工智慧安全健康成長。在這三項項目中，選手需要提交程序來完成相應的任務，選手可以獨立報名，參加一個或多個項目。

第一個項目為非定向對抗攻擊，此項比賽的目標是輕微修改原圖像，使得未知分類器將修改後的圖像錯誤分類；第二個項目為定向對抗攻擊，此項比賽的目標是目標是輕微修改原圖像，使得未知分類器將修改後的圖像錯誤分類到指定的類；最後一個項目則是對抗防禦，此項比賽的目標是生成基於機器學習的分類器，對對抗樣本有強的防禦力，也即能夠正確地把對抗樣本進行分類。

簡單來說，GeekPwn希望以CAAD對抗樣本攻防賽的形式，邀請全球頂級AI黑客，通過「對抗訓練」，使機器進行更深度的「學習」，從而有效提升機器的魯棒性，讓機器學習系統健康成長。

CAAD對抗樣本攻防賽將於2018年5月-2018年7月以線上的形式展開，在GeekPwn2018拉斯維加斯站上舉行頒獎儀式。報名起止時間為：2018年 5 月 10 日-7 月10 日。值得一提的是，比賽的顧問團和評審委員會將由業內頂尖專家組成，其中包括谷歌大腦資深研發工程師Alexey Kurakin、加州大學伯克利分校計算機系教授宋曉冬、清華大學副教授兼智能技術與系統國家重點實驗室副主任朱軍以及極棒實驗室總監王海兵等。

而除了CAAD樣本對抗攻防賽外，GeekPwn2018還將設置另一AI命題專項賽——數據追蹤挑戰賽。AI和數據化時代，能夠多維度將不同來源的數據關聯並得出準確結果是一種先進的技術。你能通過對受害者手機中安裝的病毒APP進行分析，在海量的病毒數據中揪出幕後黑手嗎？只要你能「玩轉AI」,我們都歡迎你報名參賽，用你非凡的技術實力，完成那些看似「不可能」的挑戰任務。GeekPwn2018將於8月10日及10月24日分別在美國拉斯維加斯以及中國上海舉辦，敬請期待。戳GeekPwn官網（2018.geekpwn.org），了解更多賽事信息。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！