防禦人工智慧最好的辦法，也是人工智慧！

這是一場進攻AI和防守AI的演算法大戰，這也可能是一次未來網路安全和網路戰的預演。

這場競賽將在接下來的5個月里進行，它的組織者是Kaggle。其實Kaggle是一個數據科學的競賽平台。在比賽中，研究人員的演算法會為了迷惑和欺騙對方而展開激烈鬥爭。組織者的願望是：這場鬥爭能促使人們對「如何強化機器學習系統」產生更深刻洞見，以抵禦未來的網路攻擊。

懷俄明大學副教授Jeff Clune主要研究機器學習的局限性，他說：「通過研究去促進兩個對立面的發展——一方面是愚弄深度神經網路，另一方面卻是設計一種無法被愚弄的深度神經網路。這真是一個絕妙的想法。」

這次比賽由三個挑戰項組成：一個挑戰是簡單地迷惑機器學習系統，使它不能正常工作；另一個是試圖強迫系統對某些東西進行不正確的分類，第三個挑戰項目則是開發最強大的防禦系統。比賽結果將在今年晚些時候召開的一次大型人工智慧會議上公布。

機器學習，尤其是深度學習，正迅速成為許多行業不可或缺的工具。該技術主要是指將數據輸入一種特殊的計算機程序，指定一個特定的結果，並讓機器自己開發一種演算法來實現結果。深度學習是通過調整一個巨大的、神經元網路數學模型參數來實現的。

人們早就知道機器學習系統可以被愚弄和欺騙。例如，通過找出過濾器的識別模式演算法，垃圾郵件製造者完全可以避過現代的垃圾郵件過濾器。

但是，近年來研究人員已經證明，即便是最聰明的演算法，有時也會被令人吃驚的方法誤導。例如，具有近似人類的圖像識別能力的深度學習演算法，也可能會被看似抽象或隨意的圖像所欺騙，這些圖像正是利用了深度學習演算法開發的低級模式。

這場比賽的組織者，也是研發機器學習的谷歌大腦研究員Ian Goodfellow說：「研究對抗式的機器學習比傳統的機器學習更困難，因為很難分辨到底是你的攻擊能力太強，還是你的防禦能力太弱。」

隨著機器學習的普及，人們擔心這種攻擊會被用於營利或純粹的惡作劇。例如，黑客可能會不採取任何安全措施，而直接安裝惡意軟體。

Goodfellow說：「計算機安全的發展方向一定是機器學習，壞人將通過機器學習讓他們的攻擊自動化，我們卻是使用機器學習來進行防禦。」

理論上講，犯罪分子也可以欺騙聲音和面部的識別系統，甚至在自動駕駛汽車上張貼海報來欺騙視覺系統，導致其崩潰。

Kaggle是演算法發展進步的孵化器，也是滋養優秀數據科學家的溫床。該公司於3月被谷歌收購，現在是谷歌雲平台的一部分。在收購Kaggle前，Goodfellow和另一位谷歌大腦研究員Alexey Kurakin就一起提交了關於開辦這場競賽的方案。

Kaggle的聯合創始人和首席技術官Benjamin Hamner說，他希望這場比賽會吸引人們關注一個迫在眉睫的問題：「隨著機器學習的應用越來越廣泛，從對抗性學習中理解問題和風險變得越來越重要。」

公開賽的好處勝過了「宣傳新型網路攻擊」帶來的風險，他補充說：「我們相信對這項研究來說，公開的創造和分享才是最好的方式，不應該閉門造車。」

同時，Clune表示，他很希望通過這場比賽測試那些聲稱可以抵抗攻擊的演算法。他說：「在可預見的未來，我敢打賭神經網路還是會被繼續愚弄。「

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！