共話人工智慧時代安全問題

現在,人工智慧作為一項高賦能的技術,在為產業發展提供新機遇的同時,也帶來了安全的挑戰。在這個機遇與挑戰共存的時代,我們如何看待和解決人工智慧的安全問題呢?7月10日,在2018中國互聯網大會人工智慧移動安全高峰論壇上,來自阿里巴巴、百度、360、小米、長虹等企業界的嘉賓就此展開了熱烈的討論。

360智能安全研究院院長李康認為,智能和安全已經在安全這個領域對抗很多年了,包括病毒檢測、垃圾郵件、釣魚軟體等問題一直都存在,各種機器學習演算法的對抗,在過去也一直都在發生。現在被各界廣泛關注的熱點問題,在安全領域中其實都是老問題,而且會一直存在。

與此同時,隨著很多新的人工智慧應用的出現,還會出現新的安全問題。李康舉例說,例如一個水平不高的程序員,過去做資料庫傳輸曾出現了脫庫問題,現在去寫人工智慧程序、寫區塊鏈程序依然會出現問題,「安全對抗應該是安全領域永恆的一個主題。」

小米科技首席安全官陳洋認為:「我們完全沒有必要恐懼AI帶來的安全問題。因為安全永遠是一個不斷攻防的過程。問題暴露了,我們解決了問題,就安全了。」他舉例說,比如解鎖,最開始是輸入密碼,只要別人在旁邊瞄一眼就可以看到,只是大家「視而不見」而已。通過AI技術賦能,手機通過攝像頭能識別「你是你」後解鎖,帶來了很多方便。隨之而來安全問題出現了,用一個照片、一個視頻就能去解鎖。「我們用AI去實現人臉解鎖的同時,我們也用AI進行攻防。怎麼樣去做人臉解鎖呢?最開始我們要訓練AI怎麼樣能夠認出『他是他』,先把人區分出來。第二步,對AI進行識別黑樣本的訓練,讓AI通過大量的黑樣本學習到非活體的破解手段。」陳洋解釋說,「AI既可以用於產品,也可以用於對產品的安全性進行提升,還有很多時候可以用於檢測非法的攻擊等等。因此,AI在安全領域也是有非常多的應用場景的。」

「我們要像呵護自己的孩子一樣去呵護智能硬體。」阿里巴巴安全部資深總監陸全如是說,並解釋說,第一,現在所謂智能就是數據驅動,人們給它什麼數據它就學什麼。第二,人工智慧代表未來的生產力,不能因噎廢食,因為懼怕這個人工智慧而不去做研究。第三,隨著智能的發展,以後它就不會再像現在那樣易於被人攻擊了。

在百度首席安全科學家韋韜看來,AI的應用不可能因為存在安全隱患就推遲到來,因為「AI的應用如洪水般湧來。」他進一步解釋說,大部分產業里都是這種情況,在技術突飛猛進的時候,很少有人會考慮安全問題。「我們現在感覺到的是非常強的緊迫感。現在AI在各個領域推進的速度之快是超乎大家想像的,前兩年IT業界的人還不知道深度學習是什麼,今年都在談深度學習能做什麼。」 韋韜說,「我們看到在一些典型應用場景之下,存在極其嚴峻地對安全和隱私的威脅。而且這個威脅已經不再是一個可能的風險,而是一個現實的威脅。比如像智能音箱和智能家居的設備,當它的安全出現問題的時候,用戶的隱私直接面臨非常嚴重的威脅。這個破壞能力超出了前兩年手機安全問題的破壞能力,完全埋伏在用戶的周圍,用戶想逃都逃不掉。」

對於「還是孩子的AI」,韋韜認為,既然大家已經對「這個孩子」寄予了非常大的期望,那麼就要讓「這個孩子」做很多「成人」都做不好的事情。「大家都知道沒有哪個安全產品是絕對萬無一失的,都要做防禦體系。過去某一條防線被攻破以後,後面還有補救機會的。但是在無人車上是幾乎沒有補救機會的。」韋韜說,「我們要做很多工作,以能夠在安全上有新的突破,把以前在『沙灘』上建立的『城堡』的地基重新夯實。」

長虹信息安全燈塔實驗室首席科學家唐博說,對於智能設備廠商來說,AI促進了產品效能的提高,促進了用戶使用體驗的提升。同時會帶來一些安全問題,也是預料之中的。唐博認為:「就AI和安全之間的關係來講,我們可以把它看作三個發展階段。第一個階段,用AI的方法可以解決一些安全的問題,可以用AI的方法來識別攻擊,可以通過大數據分析,分析流量和終端的一些情況,來識別一些異常流量或者一些攻擊的行為。第二個階段,是用安全來保護人工智慧,同時保護隱私。 第三個階段,在智能設備的安全性達到一定程度的時候,AI會有更大的發展,到時候可能會出現跨界甚至跨平台的AI應用,效率會得到更大的提升。AI、安全和效率三者之間是一個相輔相成的發展過程。」

泰爾終端實驗室副主任馬鑫認為,任何技術本沒有對錯之分,只有先進落後之分。AI不像其他技術,其他技術像潮水,AI像海嘯。今年上半年AI撲面而來,所有的領域、所有的行業都在說AI。AI是一個大系統,是一個有很大賦能作用的技術,軟體越複雜,它的安全點越需要被關注。在整個技術研究過程中,發展和安全之間的問題是需要平衡的。要考慮AI應用的場景,有些產品應用場景比較簡單,它的安全性比較容易能夠得到滿足或者得到保障。在AI應用比較複雜的情況下,更需要安全性的保障和研究。「有一個底線應該成為共識,當某項技術涉及或者威脅到人身生命財產安全的時候,這項技術的應用就應該放到安全之後去考慮。」(雲竹)

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！