機器人安全衛士——可靠不可靠

科技 08-09

機器人安全衛士——可靠不可靠

什么是自動化安全研究人員工作的潛在風險？

據某位安全研究人員說，之所以會提到自動化安全工作具有某些潛在威脅，是因為機器人的出現讓這個工作面臨著一些挑戰。

然而沒有必要恐慌，因為人工智慧系統，在目前階段，主要是用於攻擊網路黑客。由美國國防部先進研究項目局（簡稱DARPA）資助舉辦的DEF CON（黑客大會）也參與其中。

在「網路大挑戰」這個項目中，曾經讓7個小組分別在一個千核伺服器上來運行各自的程序，給予他們8個小時的時間，讓他們儘可能得找出系統中的漏洞，並且完成對它們的修復。

最後，他們總共發現了650處漏洞，並且創建了420個補丁來修復這個漏洞。其中，來自卡內基梅隆大學的團隊成為了最終贏家，並獲得了200萬美金的獎勵，用於系統的維護。

據路透社的消息稱，該項目主管邁克?沃克說道，「一些有趣的事情在慢慢發生了。我們發現了，網路自主化監控已經成為了可能。」

雖然，將這些程序整合在一起的時間連8個小時都不到。但是這種排位賽已經連續舉辦了三年，每一個參加的團隊，要麼是網路安全公司，要麼就是來自各大精英院校。每一屆的最終獲勝者都會給予75萬元的獎勵，幫助他們去準備迎接DEF CON（黑客大會）的挑戰。

該比賽的目標為了建成一個更加強大的人工智慧系統，可以加快網路安全行業對漏洞和攻擊的反應能力。在此之前，沃克曾提到過，每一個程序從產生漏洞到被發現平均需要312天，而且還不包括修復的時間。

DARPA的目標是要將那個時間縮短到幾分鐘。「網路大挑戰要為網路安全帶去充分的自主權。我們希望看到整個網路生命安全周期都能夠實現自動化運轉。」

安全網路公司會因此而擔心嗎？

漏洞掃描工具並不會因此而失去它們的作用，實際上，安全研究人員們已經開始使用自動化程序來跟蹤惡意軟體了。

「計算機和網路安全提供商F-Secure已經開始對惡意軟體進行自動化分析了。」安全專家Mikael Albrect說。「每天，我們會收到50萬左右的可疑文件和可疑網址。我們逐個地進行分析，到底是安全的還是惡意的。」

「在15年前，毫無疑問，這些都是由研究者們手動完成的，因此隨著可疑文件的增多，對機器學習和人工智慧的需求和投入都在提高。」他補充道。「我們急需使用自動化方法的首要原因在於這些可疑文件的數量很龐大，我們需要對新的威脅快速地作出反應。」

他補充說，這種自動化不是對工作的威脅。「儘管人們總是在說人工智慧，但是這些系統並不全是智能化的，因為它們只能理解這些惡意軟體威脅，卻不能夠及時迅速地對這些威脅作出即時地反應和處理。」 Albrect說道。

路易斯，作為熊貓安全公司的一名安全研究人員，他也認為，其實人工智慧根本就不會威脅到安全研究行業，相反，AI是擴展他們能力的一個好方式。「許多漏洞都是安全研究人員們通過使用大量的自動化工具發現的。使用全自動化方法，也就意味著可以發現並檢測出更多的漏洞。」路易斯坦言道。

他承認，在過去的20年里，如果沒有這些人工智慧工具的幫助，我們會需要更多的安全研究人員。「20年前，我們會需要專門的工程師來寫反惡意代碼程序。如果今天還是使用這種方式，我們將會需要成千上萬的人來做這件事。但是如今的現狀說明，我們已經創建了很多有用的工具來完成這些工作，而這些工具大部分是由安全研究員設計出來的。」

這也就意味著，現在大量的工作是由自動化系統完成的，而這些自動化系統又是出自於安全專家之手。「如果你從這個角度來看，若我們沒有設計出這些自動化程序，可能需要更多的技術人員，而有了這些智能工具，又有人在擔憂研究員的工作受到威脅。我想事實上，沒有哪一個公司會白白放著這些技術不用，而去花費更多的錢僱傭不必要的人工吧。」路易斯說道。

安全協議是否需要呢？

然而，對AI安全自動化，人們還是存有很大的擔憂。電動前沿基金會（EFF）就強烈建議，這樣的AI項目可能需要為其制定一個「安全協議」。

「我們認為，DARPA對人工智慧的大力推廣又酷又有創意，但是也許也會帶來一絲危險。」blog post的報刊人員內特?卡多佐，彼得?埃克斯利和吉瑞米?吉路拉曾一致表示道，他們也曾指出了其中所面臨的挑戰，就是「如何才能建立起這些自動化系統，使其可以完全融於電腦當中」。

雖然他們很贊同這一提升安全性能的觀點，但是他們也指出這一趨勢可能會被犯罪分子所利用。「我們準備開發一些新的工具，不僅僅是能夠發現漏洞，同時能夠自動記錄並修復它們。」他們寫道。

這並不意味著該項目將停止於此，只是需要給安全研究人員們提個醒，在大規模使用人工智慧的過程中，還需要意識到潛在的風險。

1號機器人網（www.1hjqr.com）機器人行業最權威媒體

請您繼續閱讀更多來自 1號機器人網 的精彩文章: