GeeKPwn2018的思考：人工智慧若變壞，誰來拯救人類？

「假設真的有一天人工智慧的奇點來臨，假設有一天人工智慧控制了整個人類，我們黑客能不能發現他們的安全缺陷進行反擊，保護人類呢？」——碁震KEEN公司CEO，GeekPwn發起創辦人

10月24日是全球程序員節。在這個重要的節日里，第五屆GeekPwn大賽在上海開戰，主題是「人『攻』智能，洞見未來」。在大會開幕前的視頻中，播放了著名物理學家史蒂夫·霍金曾為2017 GeekPwn大賽發來的一段話：人工智慧會是人類發生的最好或最壞的事。

霍金擔憂人工智慧會成為人類的終結者，也正如文章開頭GeekPwn創始人兼CEO王琦關於「人工智慧是否會控制人類」的擔憂一樣，埃隆·馬斯克、比爾·蓋茨等都曾發出過類似的擔憂。

人工智慧是否會威脅人類？假若人類真的被人工智慧控制，我們將如何反擊？這看似科幻又不著邊際的猜想，在GeekPwn 2018上卻讓我嗅到了一絲真實，併產生深深的思考。

GeekPwn2018讓我們看到AI的危險

人工智慧被認為是21世紀最偉大的通用目的性技術，其地位堪比蒸汽機、計算機的發明。人工智慧技術逐漸被應用在各行各業，比如，在醫療領域幫助醫生篩查癌症、在交通領域幫助城市治堵、在物流倉儲領域幫助分揀貨物……

這些都是人工智慧幫助人類的案例，未來還會起到更大的幫助。那麼，誰曾想過，人工智慧可能存在的危害？霍金、馬斯克也只是預測可能危害人類，但並未給出實例。

圖靈獎得主清華大學教授姚期智曾在演講中說：「谷歌AlphaGo雖然擊敗了人類圍棋高手，但是目前從理論上還無法解釋AI演算法。這就像是一個黑盒子，至今無法明確的知道偉大的科學家圖靈發明的這套『神經網路演算法』到底是如何運行的，雖然已經被廣泛的應用。」

在GeeKPwn2018上，進行了一場現場的CAAD CTF，參賽選手要完成的項目是通過AI技術騙過亞馬遜 Celebrity Recognition。這場比賽，選取了在CAAD線上比賽的100多支戰隊中成績優異的6支戰隊，他們在現場展開CAAD CTF線下對戰的激烈角逐。這些選手分別來自清華大學、中國科學技術大學、美國約翰·霍普金斯大學、Facebook、騰訊、阿里巴巴、扇貝等知名高校與企業。

在比賽中，他們利用AI技術將預設的自己生成的對抗樣本圖片成功騙過圖像分類器，將宇宙飛船飛行器識別為巨石，將導彈物體誤認為安全的，甚至將現場的主持人、「最強大腦」蔣昌建的照片識別為阿諾德·施瓦辛格。

這讓所有在場的觀眾無不震驚！假如犯罪分子通過AI技術將導彈這樣的危險品偽裝騙過AI系統，是否會釀成重大事故？CAAD CTF對抗賽充分暴露出AI系統的漏洞，這些漏洞是可以被AI技術找到並攻破的。

而這只是一個非常小的「AI欺騙AI」的案例，但是「管中窺豹，可見一斑」。人工智慧處在普及和大規模發展初期，甚至我們還未能研究明白這套「神經網路演算法」的奧秘。所以，AI可能導致的風險，我們更無法評估。

王琦在GeeKPwn2018上說：「要知道人工智慧之父『圖靈』之前也是一名黑客，黑客創造了人工智慧，有沒有可能毀滅它？」顯然，王琦作為一名黑客，他充滿著對未知技術領域的巨大興趣，同時大腦中也有著強大的使命感，幻想著在人工智慧控制人類的時代，讓黑客「以其人之道，還治其人之身」，以拯救人類！

GeekPwn為AI安全搖旗吶喊

網路安全的範疇一直隨著攻擊技術、攻擊場景的變化而變化。

在PC時代，安全人員要做的工作是查找系統的漏洞，因為黑客會通過這些漏洞去發動攻擊；在移動互聯網時代，攻擊的方式從對系統的攻擊轉向對APP的攻擊，比如，黑客竊取支付帳號密碼，盜刷資金；通過網約車APP漏洞，免費叫車等等。

從本質上講，PC和移動互聯網時代，網路安全都是人和人的對抗。正如GeekPwn CEO王琦所說：「以前安全界裡面一直有一句話叫做：安全其實本質上是人和人的對抗。

但是到了AI時代以後，我覺得一下子把這個領域擴大了3-4倍。過去是人和人的對抗，現在引入了人和機器的對抗、機器和機器的對抗、機器對抗人等等。」

這就意味著，人工智慧時代的安全策略必須重新思考和構建，而目前仍處於最為初級的階段。如果AI技術不斷進步，而AI安全防禦能力卻踏步不前，這將無法應對未來可能發生的AI攻擊。

「GeeKPwn這個平台希望成為人工智慧與專業安全跨界融合趨勢的旗手，通過『搖旗吶喊』讓更多人關注人工智慧時代的安全，從而護航人工智慧的健康發展。」王琦在接受媒體採訪時說。

事實上，GeekPwn這個近乎於公益的組織已經激了發全社會對安全的關注和重視，同時吸引更多人才從事安全職業，更多高校開設網路安全專業。從而讓「中國不僅成為網路大國，還要成為網路技術的強國！」

數據顯示，2018年上半年，網路安全人才需求規模指數較2017年上半年同比增長了44.9%，與2017年下半年相比環比增長了9.4%，網路人才缺口上百萬。

王琦說，GeekPwn創辦五年來，在北京、上海、香港以及國外的拉斯維加斯等地多次舉辦，通過參賽不僅開闊了安全人員的視野，同時通過獎金、獎牌也在經濟上和榮譽上對安全人員進行激勵，從而激發更多人參與到安全事業中。

全國許多知名高校也開始設立網路安全專業，在校教師也開始組建網路安全研究小組，在GeekPwn的組織下在全球參加各類安全比賽。騰訊、百度、京東、小米、華為等企業也紛紛與GeekPwn合作，進行安全技術的研究以及人才的引進。從而形成了，安全產業、安全學習和安全研究相結合的「產學研」生態。

目前，人工智慧正在興起，但是AI安全還未被足夠重視，GeekPwn再次走在世界的前列，將自己定位成「全球首個探索人工智慧與專業安全的前沿平台」，為AI安全搖旗吶喊。

AI安全人員像是《侏羅紀世界2》中的歐文

「最強大腦」節目主持人蔣昌建在GeekPwn上講了一段意味深長的話：AI的意思是人工智慧，中文讀音則是「愛」。我們希望人工智慧為世界帶來更多的AI，更多的愛，而不是危害。

Facebook CEO扎克·伯格堅定的對人工智慧持樂觀態度。也有些人認為，未來機器人不會具備人的意識，所以機器不會控制人。騰訊創始人張志東則提出「科技向善」，認為在人工智慧時代，科技從業者更應該具有善心。

的確，如果壞人掌握了高級技術，將給世界帶來災難。這不由的讓我想到了2015年在國內上映的《侏羅紀世界2》中的故事情節：

為了牟利，伊萊·米爾斯指使吳博士，利用DNA技術將迅猛龍和狂暴龍的基因合成，創造出雜交品種「暴虐迅猛龍」，它集迅猛龍和狂暴龍的機智和兇殘於一身，被稱為地球殺手。但在交易這隻雜交恐龍的過程中，恐龍逃出了籠子，迅速成為人類殺手，所向無敵。

最後，由男主角歐文馴養的「迅猛龍」與「暴虐迅猛龍」進行對抗，打敗了雜交的「暴虐迅猛龍」，拯救了人類。

而伊萊·米爾斯就是那個掌握高科技的壞人，就如同掌握了AI技術的殺手，「暴虐迅猛龍」就是壞人製造的AI武器，普通人無法與之對抗。歐文就像是掌握AI安全能力的黑客，那隻被他馴養的「迅猛龍」，就像是利用AI技術訓練的安全防禦模型，成功的擊敗了壞人創造的AI武器。

我們期待AI帶給人類更多愛，我們需要更多掌握AI安全的工程師，他們可以像《侏羅紀世界2》中的恐龍馴養師歐文一樣勇敢、機智的守護人類！（完）

PS：昨日的房產的文章被刪除了，大家移步到這裡看：

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！