中國互聯網大會GeekPwn王琦：黑客與AI亦敵亦友

7月10日， 2018中國互聯網大會在北京國家會議中心開幕。來自互聯網領軍企業、獨角獸、新銳企業、傳統企業等在內的300家國內外公司企業家和代表、多位院士及專家學者亮相，圍繞人工智慧安全、互聯網獨角獸、區塊鏈等2018中國互聯網的熱點和焦點話題，進行思想碰撞、尖峰論道。

（KEEN公司CEO、GeekPwn大賽發起和創辦人王琦）

作為以黑客技術探索AI安全，並發起專業比賽的業內先行者，KEEN公司CEO、GeekPwn大賽發起創辦人王琦出席會議並發表了主題為「AI與黑客 亦敵亦友」的演講。整個演講圍繞人工智慧與安全的關係展開，以在GeekPwn賽場上的真實案例闡述了AI安全目前面臨的威脅與挑戰。

聚焦AI安全，GeekPwn助力人工智慧生態健康發展

隨著技術不斷進步，人工智慧技術已經逐步應用到人們日常生活的方方面面。但王琦卻在會上表示了他的擔憂。王琦表示，人工智慧還存在很多缺陷。在智能時代，我們黑掉一個掃地機器人和一個手機，可以看做是黑掉智能產品的肉體，而在人工智慧時代，我們黑的是意識、是感知、是眼睛，這往往會帶來很多新的安全問題。

以GeekPwn2017上海站出現的人臉識別破解為例，攻擊者通過入侵併控制該系統管理端，利用其操作系統漏洞和應用層邏輯漏洞，就可以實現以任意人臉通過人臉識別門禁。除了人臉識別外，聲紋識別也備受挑戰。攻擊者通過模擬聲紋特徵，合成一段「攻擊」語音，就可以成功欺騙並通過具有聲紋識別功能的聲紋鎖的驗證。自動駕駛是目前 AI 的重要應用領域，但是機器視覺並沒有人們想像中的那麼可靠，去年GeekPwn2017矽谷站現場，選手分享了一個僅僅通過貼紙就能讓機器視覺分辨不出「停車標誌」。

王琦表示，站在黑客的角度，黑客所利用的所有漏洞，在過去都僅僅被認為是錯誤，在黑客的眼裡，是可以利用這個錯誤去做一些事情的。GeekPwn一直在為推動人工智慧安全發展不斷努力。早在2015年，GeekPwn實驗室就開始研究AI安全；2016年GeekPwn率先提出關於AI安全方面的挑戰議題，來自谷歌大腦團隊的Ian Goodfellow、Alexey Kurakin等AI領域的頂尖專家出現在極棒的舞台，分享了在物理環境下生成對抗性樣本的最新研究；2017年，AI仿聲驗聲攻防賽、AI PWN、PWN AI等AI挑戰項目正式亮相，吸引了來自全球的選手參加，帶了了諸多項目演示。

「無論機器學習、深度學習是不是人工智慧的未來，但是如果我們現在能夠聚焦對抗攻擊這一塊，我覺得一定會對未來人工智慧發展有所幫助。用AI方法來對抗AI，針對AI本身運行環境的攻擊，還有演算法的攻擊，還有利用AI去做一些生物特徵的攻擊，還有AI和AI之間的對抗攻擊，都是我們鼓勵的類型。」王琦在會上說到。

先壞人一步，黑客是網路安全的守護神

「在每年的GeekPwn項目設置上，我們都做了大量的引導工作， GeekPwn的比賽重點都是針對當下最大的安全風險，目的是讓大眾看到那些潛在的安全隱患，提高他們的安全意識。」 王琦也在會上表示，今年GeekPwn有兩大「重頭戲」，我們設置了兩個AI專項，一個是聚焦AI演算法安全的CAAD對抗樣本攻防賽，另一個是聚焦AI與大數據安全的數據追蹤挑戰賽。CAAD分為三個層面，一個是防禦，還有一個非定向攻擊和定向攻擊，整個比賽條件是黑盒無探測，我們對整個攻擊的目標是泛化的。而數據追蹤則是聚焦大數據的脫敏問題，如果有人能夠通過AI的技術把脫敏之後的數據還還原出來，完成對一個人物的畫像，並且推測出他的行為，就可以應用在抓捕犯罪分子的過程中。

如今，GeekPwn已經走過了5個年頭，先後在北京、上海、澳門、香港、矽谷等地舉辦過8場比賽，超過百位選手登上極棒比賽的舞台。「那時候不像現在，越來越多人接受了黑客的說法，那時候我們不敢明目張胆，只敢叫安全極客大賽。這就如同貓和老鼠的遊戲，安全漏洞從來不是因為黑客才存在，恰恰是因為黑客發現才被消滅。如果黑客能夠利用自己的特長，未雨綢繆提前做一些事情，這將非常有意義。」

GeekPwn一直在為推動安全生態健康發展創造更新的競賽形式，打造更為豐富的對抗場景，為全球白帽黑客技術交流提供更大的舞台。談及Geekwn在推動安全領域做出的積極作用，王琦也表示，第一，GeekPwn推動了安全人才的發展，讓更多白帽黑客得到社會的認可；第二，GeekPwn推動了從PC領域到移動領域的轉化；第三，GeekPwn正在推動移動領域向人工智慧領域的轉化。截止到目前為止，GeekPwn已經幫助安全廠商修復了幾百個安全漏洞，這已經證明了我們在研究領域轉換的價值和安全研究員的價值。

值得一提的是，GeekPwn2018除了CAAD對抗樣本攻防賽和數據追蹤挑戰賽外，黑客屋挑戰賽、機器特工挑戰賽以及全新的非命題挑戰賽——基於漏洞攻破挑戰賽和非基於漏洞攻破挑戰賽也同樣值得期待。「歡迎大家關注2018年8月10日的極棒拉斯維加斯站與2018年10月24日的極棒上海站，和我們一起見證人「攻」智能！」王琦如是說。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！