TechCrunch峰會王琦：人「攻」智能，黑客助力新技術的健康發展

提起黑客，大家想到的第一個問題：你們為什麼要黑？他們還要黑什麼？

在2018年TechCrunch國際創新峰會2018上，KEEN公司CEO、 GeekPwn大賽發起和創辦人王琦（大牛蛙）與Technote創始人盧剛在活動現場圍繞「黑客與安全」展開了一場對話。王琦表示，黑客是一群「負責任披露」的獨行藝術家，中西方應該加強交流，在技術與經驗方面做到互通有無，而未來人工智慧的發展高度幾乎與黑客技術的高度呈正相關，也正是有了黑客，才有了解決問題甚至消滅問題的資本。黑客從來都不是壞人，恰恰相反，他們是一群「默默保護全人類」的白帽俠客；是一群「負責任披露」的獨行藝術家。

（KEEN公司CEO、GeekPwn大賽發起和創辦人、王琦）

黑客助力人工智慧健康發展

隨著人工智慧與區塊鏈技術的發展，AI安全與區塊鏈安全逐漸成為當下各大廠商與消費者最為看中的一點。「人工智慧也是一項技術，需要設計、部署，還有自身的一套演算法。人工智慧安全分成三層，如果用傳統方法來黑的話比較容易。在我們比賽上面用到比較知名的人臉識別，差不多都黑過了，都證明它有問題，但不代表它很不安全。」

說起與人工智慧和區塊鏈相關的安全及風險問題，王琦首先表示這兩個方面都是未來的趨勢，「人工智慧現在技術還處於起步階段，但場景很多。區塊鏈技術相當成熟，只是沒有應用起來，因為場景很少。對於安全與否，取決於有沒有被賊盯上，我們值不值得被偷。」 王琦如是說。

「只要它是一個智能產品，我們就可以黑掉它的心臟、它的大腦，干擾它的行為。當然，我更希望的是黑掉它的感知、黑掉它的意識。」人工智慧應用系統是一個整體，任何環節都可能出現漏洞，導致安全問題。」 極棒實驗室研究總結出影響AI安全的三大方面，分別為系統層安全漏洞、AI框架或庫的漏洞以及AI演算法的缺陷。系統層安全漏洞即傳統安全漏洞，通過操作系統或者應用層漏洞導致AI應用產生錯誤判斷；AI框架、庫的漏洞也不鮮見，各大主要流行框架、庫都曾曝出重大漏洞；AI演算法的漏洞則體現在通過構建對抗演算法打敗AI的手段，其中最為著名的包括生成式對抗網路。

王琦用一個GeekPwn 2017 矽谷站上研究人員演示的無人駕駛的例子向我們闡釋了生成式對抗網路問題——通過用一個不起眼的標記就可以欺騙汽車的視覺系統，造成嚴重後果。「人工智慧還是有缺陷的，例如Face ID，用 3D 列印面具也不是不可攻破的。大家發展新技術的同時，別忘了產品還要運行在系統上，傳統黑客一定會入侵，如果不注意的話，更何況新技術也會面臨新問題。」在王琦看來，手機、電腦系統能夠被黑客攻破，無人駕駛汽車當然也不能倖免。

中西黑客同台，用技術獲得世人的理解與尊重

所謂「黑客」，簡單理解是一群通過發現漏洞來幫助廠商修復問題，從而避免發生大規模的召回等產品問題的群體。王琦在會上針對中國黑客的發展歷程表示，過去我們都是「拿來主義」。但中國人很聰明，能夠把技術研究得很深入。發展到現在，中國黑客已經將研究重心由技術能力的提高轉移到創造力的提高，因為白帽子們承擔的任務就是在壞人之前發現問題。如果我們不做這件事情，壞人就有可能做這件事情。安全問題不是因為黑客才存在的，恰恰是因為有黑客才消滅的。

安全問題如泉涌般接踵而至，亟待解決。而GeekPwn辦這個比賽的初衷就是希望研究安全的人多起來，這樣的人多起來，安全行業就會好起來，我們身邊產品漏洞就會越來越少，生活也就會安全起來。GeekPwn作為全球最大關注智能生活的安全極客大賽，也是全球首個探索人工智慧與專業安全的前沿平台，已經分別在中國上海、香港與美國矽谷舉辦比賽。今年的GeekPwn2018，將突破以往的賽制設置，分為拉斯維加斯站與上海站。大賽規則也全新升級，分別設置了不同挑戰場景的命題專項賽與非命題專項賽，覆蓋機器學習、機械、安全等多個領域，同時設立了500萬人民幣的初始獎金池，力邀廣大極客選手發揮各自的專業背景與實戰能力，挑戰自我，突破安全邊界。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！