谷歌打造安卓安全衛士，計算機安全未來就是機器學習

選自 Wired

作者：CADE METZ

機器之心編譯

參與：Terrence、盛威、微胖

谷歌的核心產品包括搜索，應用程序，廣告，地圖，YouTube 以及安卓。現任谷歌 CEO Pichai 是谷歌核心業務出身，對安卓系統也有特別的感情。他曾幫助智能手機平台從搖擺不定的安卓2.3升級到更加穩定、有用的安卓4.0。安卓明顯成熟起來。在他倡導 AI first的戰略中，安卓安全系統也開始運用人工智慧打造安全衛士，安全團隊負責人相信，如果計算機安全的未來在於風險管理，那麼，這個未來就是機器學習。不過，這項新近展開的征程還面臨不少難題。

安卓安全團隊：Rich Cannings、Sebastian Porst、Jon Larimer、Adrian Ludwig、Scott Roberts、Nick Kralevich

當 Adrian Ludwig 描述解決計算機安全問題的理想方案時，他做了一個類比。不過，不是比作鎖、防火牆或者護城河之類的。他說，應該像信用卡公司那樣解決計算機安全問題。

他解釋道，信用卡公司並不徹底杜絕風險。而是管理風險，利用將市場描述為一個整體的數據，針對不同個體，打造不同的風險景觀（和不同利率）。Ludwig 相信，計算機安全也應該以這種方式運作。「安全社區給出的好壞或黑白模型？」「除非我們接受存在灰色地帶，否則，（哪有什麼白）都是黑（風險）。」

如果計算機安全的未來在於風險管理，就像 Ludwig 相信的那樣，那麼，這個未來就是機器學習。

Ludwig 在谷歌工作，他負責安卓安全工作。但是，他和他的同事們想將安全工作引領到一個新的方向上。如果計算機安全的未來在於風險管理，那麼，這個未來就是機器學習，它和在谷歌帝國其他領域大獲成功的人工智慧是一類的。我們不應該制定固定不變的、旨在阻止所有在線攻擊的數字規則。隨著互聯網日趨複雜——也在更多人群中普及開來——這種做法會把所有人踢出局。我們應該打造這樣的系統，有能力分析更大的圖景並學會在運行中識別潛在問題。

Adrian Ludwig

藉由信用卡公司的類比，Ludwig 也將谷歌和其最大競爭對手蘋果區分開來。「我不想要這樣的解決方案：封閉一切。」Ludwig 告訴我。不用說，蘋果的安全模型也有自己的優點。聯邦通信委員會（FCC）正在調查，填補安卓手機漏洞，為什麼要花這麼長的時間——原因可能在於安卓系統碎片化，因為谷歌和這麼多不同的手機廠商合作。蘋果只擁有一個手機製造商：它本身。但 Ludwig 想說的是，這會是一個介於自由放任與閉關鎖國之間的中間地帶。而且這個地帶涉及機器學習，包括一種日益重要的人工智慧技術，深度神經網路。

「如果你有十億台設備，無論多麼安全，有些設備總會有bug，有些 bug 可以妥協，」 Ludwig 在 NSA工作了8年，在加入谷歌前還在一家安全諮詢公司Stake任職了一段時間：「為此，你需要數據，而且需要分析數據。」

深度本能

他並不是唯一一個大力推行這一抱負的人。有中國谷歌之稱的百度，使用了深層神經網路來識別惡意軟體。安全創業公司，比如，Deep Instinct 和 Cylance 也是這麼做的。就像神經網路可以識一張照片中的特定特徵一樣，它也可以識別一款惡意軟體應用程序——或者有些瑕疵的系統代碼，它們會讓手機有被黑之虞。

但是，革命可能不止於此。谷歌發力，仍處於早期階段。「這不是個科學實驗。而是真實存在的解決方案。不過，還不是主流解決方案，」Ludwig 說。目前，谷歌沒有那麼大體量的問題去訓練這個神經網路。「絕大多數應用程序是安全，也是好的。而且會有少數不良玩家。」和 Ludwig 一起工作的Rich Cannings說道。「這真的很難發現。」諷刺的是，想要真正擁抱機器學習，谷歌需要更多的安卓系統問題，用來訓練或者改善神經網路。

那並不是說安卓安全記錄完美無缺。「一年前，」 Joshua Drake說，一位擁有 Zimperium 安全裝備的研究人員，最近找出了安卓系統中的一個明顯string bugs，「我真感覺安卓沒有往安全系統上投錢。」而且機器學習也不是萬能葯。沒辦法幫助谷歌將安全補丁發配到所有那些安卓手機製造商中。但是，它可以幫助他們識別安全漏洞，如果當前的技術已臻完美。

Nick Kralevich 和 Rich Cannings

門神

Sebastian Porst 負責的這個谷歌團隊，主要是識別任何可能出現在安卓手機上的惡意、脆弱的應用程序。而且他也想從這些工作中抽身出來。最終，他想要機器來幹活。他說，那就是我們的目標。

Sebastian Porst

在谷歌，這態度算是非同尋常。實際上，它正是公司運作的背後哲學。 Ben Treynor Sloss 說，「我們最終成立了一個小組，由一些越來越厭倦手工作業的人組成，他們也有能力寫軟體，取代之前的手工勞動。」

在安卓安全團隊中，這一行動剛開始不久。不過，Porst和他的團隊已經建立了一個自動化系統。Dubbed Bouncer，這款系統可以分析每一個上傳到 Google Play 的應用程序，尋找惡意或其他問題軟體代碼，然後運行每個應用，因此，它也可以分析軟體運行情況。這個系統也被綁定到谷歌網頁爬蟲上，自動掃描上傳到任一網站的安卓應用。Porst說，「我們從每個可以找到的資源處掃描應用程序。」如果一款不明應用被上傳到一定數量的安卓手機上，系統就會找到它，分析代碼以及軟體行為。

過去，Bouncer 根據一套預先設計好的規則運行。不過現在，為了訓練系統，谷歌依賴起機器學習。在掃描所有那些應用程序過程中，系統已經搜集到了有關每個程序的海量數據，也就是Porst所說的 「信號」——定義這款應用的特徵和行為。現在，團隊正在將這些信號輸入到神經網路中，系統就能學會那種特徵組合暗示了惡意軟體。Porst說，「我們可以用機器學習找出那些真與潛在危害行為相關的信號，哪些信號意味著完全無害。」

結果，它還管用了。不過，效果有限。當時，Porst 說，「安全專家不能被任何一種機器學習演算法取代。」實際上，機器學習只是團隊掃描系統的一部分，而且，如果系統標記了某款應用程序有問題，那麼，人類工程師總是可以再審核一下。問題在於，數據太少。Ports 說，技術對 Play Store 之外的應用程序的有效程度，遠超商店內的應用。這主要是因為，如今，商店裡的應用幾乎都是沒什麼威脅的軟體。邪惡分子很清楚不要妄加嘗試。

這並不是說機器學習不會有所進步。安全創業公司 Deep Instinct 的首席技術官 Eli David 說，他的公司通過分析數據（不僅限於一個計算機平台，比如安卓，而是所有平台），已經打造出有效模型。他說，「你的範圍必須夠大。」

真實的 ClusterFuzz

在發現了一個很大的移動 OS 漏洞後，Jon Larimer 得到了一份谷歌的工作。他在安卓的圖形設備驅動程序上發現了這個漏洞。他利用這個漏洞寫了一段檢測代碼，並通過互聯網獲得了一部手機的完全控制權。然後，他向 Ludwig 和安卓團隊成員演示了這一過程。

Jon Larimer

現在，Larimer 和他的團隊正在開發一個能夠自動識別這種漏洞的系統。

像 Nick Kralevich 這樣的安卓安全工程師也寫過一些旨在檢測手機操作系統漏洞的程序。但是，仍然經常發現漏洞。因此，Larimer 和他的同事利用原本為谷歌 Chrome 瀏覽器解決安全問題的技術開發了一個模糊測試（fuzz testing）系統，它能給軟體發送大量隨機輸入並從中發現漏洞。Larimer 的這個系統被命名為 Clusterfuzz，它能同時對多部安卓手機進行模糊測試。

在某些情況下，這個系統會通過數千台伺服器不停地對 1500 台虛擬的手機進行測試。但它也會對實體的手機進行測試，因為硬體對手機性能的影響不可小覷。在谷歌總部的 43 號樓，你可以看到數百台手機被放在許多支架上進行這種測試。「我們的團隊里人不多，」他說。「但我們的優勢是能夠測試成千上萬個 CPU。」

現在，為了識別更多漏洞，谷歌向這個系統里加入了機器學習技術。Larimer 和他的團隊正在嘗試使用神經網路來識別 Clusterfuzz 獲得的每份文件（file)的結構。如果系統認識這個結構，它就能更徹底地測試文件了。不是僅僅隨機將輸入扔給文件，它能使用那些適合它的特定組成的輸入。為了學會識別文件如何運行，Larimer 解釋說，神經網路能過幫助系統「儘可能多地接觸到源碼」。和 Porst 在機器學習上的工作一樣，這項計劃仍處在初期階段。但 Larimer 給出了一個承諾：我們的系統最終會百分之百地覆蓋每一個地方，這就是未來。

想辦法折中

如果沒有別的情況，所有這些努力顯示，安卓的安全狀況正在改變。除了邁向機器學習，谷歌還發起了一個巨額懸賞計劃，這個計劃由前微軟成員 Scott Roberts 指導。而 Ludwig 則為解釋他的團隊成員如何解決安全問題作出很多努力。像 Joshua Drake 這樣的外部研究者曾經質問谷歌，在安卓誕生的前幾年是如何處理安全的。但現在，即使是 Drake 也會告訴你一些谷歌正在改變的跡象，特別是當他在去年夏天爆出安卓的 Stagefright 高危漏洞後。「現在情況完全不同了，」他說。「不得不說谷歌已經意識到他們還有很多需要做的。」

谷歌並不信仰蘋果的模式。但 Ludwig 和他的安卓團隊也知道舊方法不一定奏效了。他們相信理想的方法是在這兩者之間的。Drake 同意這種觀點。「兩種生態系統都有自己的優點和缺點，」他說。「它沒這麼簡單。」如果真是這種情況的話，機器學習就真的能在未來的手機安全上扮演一個主要角色了。前提是他們能讓這個想法變成現實。

本文由機器之心編譯，轉載請聯繫本公眾號獲得授權。

------------------------------------------------

請您繼續閱讀更多來自 機器之心 的精彩文章:

※機器人安全衛士——可靠不可靠
※蘋果IOS系統和安卓機器人的PK，我全壓安卓機器人！
※機器學習讓機器更智能
※機器智能 助力全民健康
※機器人醫生做手術，安全可靠嗎？
※推測機器學習的未來
※預言未來的機器：全球最古老的計算機
※聯合IBM，安翰醫療膠囊機器人能否練就火眼金睛？
※無錫機器視覺檢測智能安防落地趨勢
※機器人安全氣囊或能確保工業機器人與人類更安全地並肩工作
※防止機器人打人？德國研究人員想給機器人裝上安全氣囊
※安翰醫療董事長吉朋松：智造全球首款消化道機器人
※中國和歐洲合力打造月球村計畫曝光，全靠機器人的前衛建設會讓你也很想去住！
※谷歌的機器學習軟體正在開發機器學習軟體，某些成績已優於人類程序員
※機器學習方法體系匯總
※安卓機器人竟展開殺戮？
※福島2號機安全殼內輻射值創新高 機器人作業受阻
※北京大學先進智能機械系統執行主任劉立：雙臂協作機器人
※乾貨｜機器學習演算法工程師速查表大全