AI時代安全非小事

科技日報記者 劉艷

國家網路安全宣傳周收營，同往年一樣，總有些話題格外引人議論和關注。今年，人們看到在人工智慧技術的支持下，我們正在共同構築一個更為安全的世界。

針對這個網路安全的新命題，騰訊信息安全執行委員會主任、騰訊公司安全管理部副總經理楊鵬表示，人工智慧技術路線豐富將改善安全困境，但人工智慧的本體安全決定安全應用的發展進程。

沒有一個國家可獨立應對

AI安全考驗

隨著網路空間安全呈現出智能化、隱匿性、規模化的特點，讓網路空間安全的防禦、檢測和響應面臨更大的挑戰，網路空間安全成為人工智慧國際間合作的重要領域。

「就如一枚硬幣的兩面，人工智慧既帶來好處，也帶來風險，它對國家安全的影響非常大，大到我們現在都無法確定。」聯合國人工智慧和機器人中心主任伊萊克利.貝里斯在接受科技日報記者採訪時強調，人工智慧為解決網路安全事件、系統漏洞、信息保護等提供了更加高效、智慧的解決方案，但同時也容易被非法利用。

伊萊克利.貝里斯說：「面對技術規範、行業標準、法律法規尚未健全的人工智慧新領域，為了消除不透明和分歧，避免惡意的競爭，應對現階段人工智慧的發展充分評估，並建立起各方參與的協同合作模式，制定統一的安全監測標準、安全防範架構、安全評估體系。沒有任何一個國家，可以獨立完成這件事。」

當人工智慧越來越多地被應用到戰略決策輔助系統和智能軍事系統，基於人工智慧的技術代差將對國家安全力量對比產生不可逆的影響，迫切需要審視人工智慧對維護國家安全提出的新要求。

上海賽博網路安全產業創新研究院和上海社科院互聯網研究中心的聯合課題組發布的《人工智慧時代的國家安全：風險與治理》報告提出，應從提升風險意識、完善治理體系、加強監管能力和探求國際合作等來構建風險分析和應對框架，提升國家安全的韌性。

對抗還是對抗手段卻在升級

雖然安全對抗本質上就是看誰鑄的門檻更高，但人工智慧時代也讓黑客們迎來狂歡，為安全產業帶來顛覆性影響。

中國信息通信研究院副院長王志勤「2018世界人工智慧大會·人工智慧安全高端對話」上特彆強調：「人工智慧的發展要趨利避害。」

雖然越來越多的案例顯示，「智能網路武器」日益威脅著網路安全，但人工智慧在各類安全場景中形成的多種多樣解決方案，也正加速用於網路安全漏洞檢測、惡意軟體識別、不良信息智能審核、防範網路犯罪等領域。

如中國科學院院士何積豐亦所說：「在功能安全方面，軟體測試驗證正變得更加智能化，在信息安全方面，主動防禦體系同樣愈發智能化。」

騷擾詐騙電話和垃圾簡訊一直是困擾手機用戶的難題，其潛藏的詐騙風險讓用戶飽受財產損失之苦，而騰訊基於反欺詐 AI 模型建造能力研發的「賓果反詐騙防控系統」3月上線投入使用以來，全國重點詐騙區域詐騙號碼大幅下降接近70%，預警超過50000起，準確率超過99%，覆蓋全國31個省區市，累計為民眾避免損失20億元。

中國科學院複雜系統管理與控制國家重點實驗室主任王飛躍表示，網路安全系統的實力，很大程度上可能並不取決於其物理本身，而是取決於與其伴生的軟體定義的人工系統映像。

人工智慧安全防護能力

首先衝擊汽車行業

大量人工智慧新技術和網聯功能的引入，首先讓汽車行業面臨全新挑戰，信息安全將成為汽車行業的「國防」，汽車品牌的重要能力將向信息安全遷移。

科恩安全實驗室是全球知名的安全研究團隊，2016年曾通過移動網路識別、準備和實施攻擊場景等技術成功發現特斯拉的重要漏洞，並遵循負責任的漏洞披露方式把漏洞威脅情況提交給特斯拉官方，供其完善智能防禦系統，保障智能車輛安全。

據說，為了保證車輛的網路安全，特斯拉從 Google、微軟和蘋果等公司挖來了工程師組建安全團隊，專門做產品安全分析和漏洞修復等工作。

北京市政協委員陳小兵說：「特斯拉在所有車企中算是對網路安全最為重視的一家，但依然被挖出了嚴重漏洞。目前很多傳統車企尚未組建專門的網路安全團隊，並且車載系統非常容易受到攻擊。」

不僅僅是智能車輛系統本身的安全，百度AI安全技術總監聶科峰說：「汽車產業已全面進入智能網聯時代，智能車機所面臨的安全挑戰不僅涉及用戶隱私安全、財產安全層面，同時延伸到人身和公共安全層面。」

騰訊科恩實驗室總監呂一平認為，透明、分享和行業合作對於形成更加全面安全的互聯網世界至關重要，其研究目標和成果將有助於改善許多國家數以億計的司機、乘客和行人的交通出行安全。

智能製造安全問題凸顯

在智能製造成為熱點話題的同時，全球大量的工業設備卻因為缺乏基礎的安全保障，正成為黑客甚至是全球不法分子攻擊的目標。

中國電子學會副理事長兼秘書長徐曉蘭對科技日報記者說：「智能製造是解決工業生產困境最重要的抓手，沒有工業互聯網智能製造很難取得突破性發展。」

現實情況卻是，工業互聯網領域的安全事件繼續呈高髮狀態，2017年影子經紀人泄露的NSA網路武器庫，包含眾多工業互聯網系統漏洞，可以實現對設備的精確打擊。我國國家信息安全漏洞共享平台（CNVD）統計結果亦顯示，2017年新增信息安全漏洞4798個，其中工控系統新增漏洞數351個，與2016年同期相比，新增數量幾乎翻番。

百度安全副總經理沈鵬飛說：「物聯網、車聯網、工業互聯網的興起，打破了虛擬世界與現實世界間的最後一道屏障，傳統的安全防禦方案已經無法應對AI時代面臨的各種安全問題。」

在應對惡意攻擊之外，工業互聯網自身的安全問題同樣不可忽視。

美的庫卡機器視覺AI研發總監胡正表示，人機協作的機器人是未來的趨勢，但機器人導致工人死亡的事件每年都有，保證人在操作過程中不受機器人的侵害，不僅在技術層面還有很大的挑戰，業界對這一問題的重視程度普遍存有僥倖心理。

安全倫理不只是學術討論

人們希望看到機器變得很聰明，但也會擔心會相對變傻，這種小糾結如今雖然更多的體現在人工智慧的學術領域，但業界越來越多的人為，人工智慧的研發和應用，需要優先考慮倫理規範問題。

人工智慧先驅、圖靈獎得主Raj Reddy說：「從60年代到現在，許多人都對人工智慧抱有誤解，認為人工智慧的發展會取代人類，並非如此，我們的願景始終是希望AI能延伸人的知覺，強化人的能力，幫助人類更好更快地完成多樣的工作。」

但是，伊萊克利.貝里斯也說：「隨著人工智慧的進一步使用，人類20-30%的工作會被取代，雖然又會創造新的工作，但如何平衡人工智慧和社會經濟發展、社會發展和安全穩定之間的關係，不讓失業問題導致社會安全形勢惡化，需要找到好的契合點，這是產業未來的重要使命之一。」

峰橋集團總裁陳實認為，各國都應重視對人工智慧安全倫理規範的思考，將技術發展與社會倫理置於相同的環境下充分思考，減小人工智慧帶來的倫理衝擊，保證人工智慧在全世界共同的倫理規範內健康發展。

來源：科技日報 文中圖片來自網路

編輯：陳小柒

審核：王小龍

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！