利用人工智慧維護國家安全？聽聽新美國安全中心怎麼說
全球技術地圖
創新丨前沿丨科普丨資訊
隨著人工智慧技術和產業迅速發展，其可能帶來的安全挑戰開始成為政府和社會熱議的焦點之一。一方面，人工智慧技術擁有顛覆性能力，目前在一些細分領域已遠超人類水平，加上發展應用速度過快，引發廣泛擔憂，如「矽谷鋼鐵俠」馬斯克多次強調人工智慧將對人類產生巨大威脅。但另一方面，人工智慧融入人類社會的進程已無法阻擋，一些研究機構站在客觀角度，在評估其負面影響的同時，亦開始探索如何發揮人工智慧在維護國家安全方面的應用潛力。
2018年7月10日，美國知名智庫新美國安全中心（CNAS）發布一篇名為《人工智慧與國際安全》（Artificial Intelligence and International Security）的報告。該報告較為全面地分析了人工智慧對網路、信息、經濟和金融、國防、國土和全球安全等諸多安全領域產生的直接或間接影響，並且與CNAS此前發布的《人工智慧：每個決策者都需要知道什麼》組成「人工智慧與安全」系列報告。更為重要的是，本報告從另一個角度出發，針對政府如何利用人工智慧維護國家安全，提出了切實可行的行動建議。
人工智慧對國家安全的影響正逐漸明晰
就目前情況看，人工智慧對網路安全、信息安全、經濟和金融安全、國防、情報、國土安全、外交和人道主義方面有直接重大的影響，對全球安全有間接的影響。
網路安全方面。美國國防部自2016年以來即進行自主網路安全系統開發和部署，目前，該系統已實現網路安全漏洞的自動識別和修復，並可對對手發起攻擊。未來，人工智慧網路監控、網路漏洞識別和攻擊、網路防護和軟體驗證、個性化社交網路攻擊等技術和手段將更成熟、自動化程度更高、成本更低，且更易於被國家和非國家行為體利用。如被用於國家安全或惡意目的，將產生嚴重的破壞後果。
信息安全方面。結合自然語言識別、心理分析模型和概率分析等，可實現信息的精準定向宣傳及深度偽造等，嚴重影響個體選擇、司法公正和國家安全。例如，劍橋分析公司利用臉書公司的大量用戶數據，結合心理學分析模型，分析出用戶更易於接受的內容，並向不同用戶群體精準投放，影響個體的行為，形成輿論議題，輔以情感分析和內容偽造等手段，左右輿論導向，達到反恐宣傳、輿論導向和助選的目的。未來，這一過程的自動化程度將更高。與此相應的人工智慧打擊假消息技術，如假新聞自主審查、網路內容機器人的自主檢測和阻止、真實性驗證等將得到重視，並將成為國家安全的重要影響因素。
經濟和金融安全方面。目前的監管手段難以有效監管網路洗錢和非法融資，加上去中心化的區塊鏈技術的發展和應用，各國的經濟和金融安全都存在一定程度的監管失效風險。人工智慧為金融監管提供新的框架、模式和手段，將降低監管成本，提高效率，且更為注重數據和隱私保護。但這種優勢也有可能被經濟和金融破壞者利用，反過來對國家安全造成影響。
國防方面。機器人和自主武器已經成為各國軍事實力競爭的焦點之一。此外，在國防領域人工智慧還可用於收集信息、反通信干擾新技術研發、網路軍事對抗中製作偽裝或誘餌、策略改進、指揮與控制、提供非戰鬥功能支援、改進軍事和政府組織業務流程等。總之，人工智慧可以幫助軍隊提高認知、預測行為、開發新的解決方案和執行任務，人工智慧將戰鬥的行動速度提高到人類無法控制的程度可能會引發人類對戰爭本質的重新思考，以及法律、道德、操作和戰略等問題。日前，在瑞典斯德哥爾摩舉辦的2018國際人工智慧聯合會議上，超過2000名人工智慧學者共同簽署《致命性自主武器宣言》宣誓不參與致命性自主武器系統（LAWS）的開發、研製工作。
情報方面。人工智慧將可用于海量情報收集、大數據處理和情報分析等。蘭德公司在報告中提出第二代和第三代開源情報的概念，未來人工智慧技術與開源情報結合將成為國家情報競爭的重要領域。
國土安全方面。人工智慧結合語音識別、圖像識別和數據共享等技術，可提高國土安全管理的可靠性和效率。
外交和人道主義方面。人工智慧將打破現有外交格局、並對其進行重塑，在監督選舉、協助維和行動和援助資金的使用監督等發揮重要的作用。
此外，人工智慧還將從就業、社會與政治、宏觀經濟、民族主義與國際衝突等方面對國家安全造成間接的影響。多個權威機構的報告均指出未來人工智慧將對就業產生巨大的衝擊，可能對權力平衡和安全環境產生重大的間接影響。人工智慧發展會導致社會階層重新分配，既得利益者和新勢力之間的博弈可能引發政治和社會動蕩。人工智慧對宏觀經濟的影響則較為不確定，可能的方向包括總體薪資水平均增加、兩級分化加劇、國家經濟水平與資源保有量成反比、人類在經濟活動中重要程度下降、代際錯位等。這種不確定影響可傳導到社會福利和政治安全領域，進而影響國家安全。人工智慧還可能引發民粹主義和民族主義的浪潮，並造成國際衝突，如貿易戰和軍事衝突等。
總之，人工智慧將大大增強數據收集、分析和生成的能力，引發新的產業革命，更新軍事能力，且人工智慧的使用門檻和成本並不高，其顛覆性影響已經或將滲透到經濟、軍事競爭力和國家安全的方方面面，改變國家實力對比和全球經濟根基，並重塑國家安全。
充分利用人工智慧技術維護國家安全的建議
（一）利用人工智慧檢測網路漏洞，清除虛假內容，維護網路安全
利用人工智慧系統檢測已知網路漏洞和惡意信息，預測惡意攻擊，提高網路信息防禦能力。在文字類信息防禦方面，人工智慧系統可自動審核、檢測、分析和破壞具有惡意內容的信息（虛假新聞），並阻止殭屍程序的入侵。在視圖類信息防禦方面，人工智慧系統可融合數字分散式分類帳和機器速度感測器，實時驗證圖像和視頻的真實性，也可幫助清除篡改數據。此外，利用區塊鏈技術可對文件進行加密並通過對等網路進行分發，以提高信息可靠性。
（二）利用人工智慧系統檢測非法融資，提高監測效率，維護經濟金融安全
利用人工智慧系統幫助政府與金融機構降低對非法融資監測的成本，提高監測效率和準確性。通過分析和學習大量數據，人工智慧系統將具備異常檢測和模式識別功能，可幫助系統從金融機構收集的非結構化數據中學習，實現持續監測潛在危險的能力。同時，人工智慧系統還可整合有關實體和個人的可用非財務信息，利用圖像識別技術和開源社交媒體信息，對客戶的風險狀況進行評估。此外，人工智慧系統能夠從原有的非法融資類型中自主學習，形成一套演算法，可應用到相關類型的數據處理中，避免了隱私數據的泄露，可幫助政府和金融機構在保護企業隱私的情況下整合金融領域信息。
（三）利用人工智慧評估自身軍事實力，為軍隊提供支持，維護國防安全
利用人工智慧系統幫助軍隊提升戰鬥能力和非戰鬥支援能力。在戰鬥能力方面，人工智慧系統可廣泛收集戰場信息、開展戰場模擬對抗與自我對抗訓練並預測戰場行為，這將提升軍隊的戰場信息理解能力，加強武器裝備的電子對抗/防禦能力與反應速度，並可為指揮官提供最優策略。同時，人工智慧系統可將作戰命令及時、精確地傳遞給各個作戰單元，提高作戰效率。在非戰鬥支援能力方面，人工智慧可通過分析大量數據，幫助國防領導人了解自身力量，包括預測設備的維護周期、項目的開支或進度及後勤人員的身心狀況等。此外，隨著人工智慧的不斷成熟，可改變軍事和其他政府組織內的傳統業務流程（如會計、旅行、醫藥、後勤及其他行政職能），可降低運營成本，提高工作效率。
（四）利用人工智慧收集海量情報，藉助大數據提升分析能力
利用人工智慧系統加強情報收集和分析能力。在情報收集方面， 人工智慧系統可在海量信息（如面部識別、生物識別技術及大型監控系統）中分析數據之間的聯繫，標記可疑活動，預測未來行為。同時，面對反人工智慧欺騙技術的攻擊，可利用改進過的人工智慧系統對報告或文件進行驗證，這對反情報和審訊具有重要意義。在情報分析方面，人工智慧系統可大規模跟蹤和分析大量數據（包括開源數據），監測異常行為，以尋找恐怖分子、秘密特工或潛在敵方軍事活動的跡象。當前，隨著人工智慧系統的改進，還可幫助分析師分擔日常任務和基礎數據處理工作，使分析師能專註於常識性推理。這表示人工智慧在情報分析方面也具有巨大的潛在價值。
（五）利用人工智慧監視人員、貨物狀況，維護邊境及國土安全
利用人工智慧系統幫助執法人員監視人員及貨物狀況，提升監測能力，維護邊境及國土安全。在維護邊境安全方面，可利用人工智慧系統的語音識別演算法、開源數據分析能力及深度學習能力，分析遇險信號的真偽、評估行李中的危險物品並提供綜合意見，為人類決策提供準確的信息支持。在維護國土安全方面，可利用人工智慧系統檢查集裝箱，並可與機器人和無人機相結合開展對人類異常行的監視與檢測，並做出評估，為決策者提供支持。
（六）利用人工智慧改善外交關係和人道主義行動能力，維護穩定國際關係
利用人工智慧系統改善外交關係和實施人道主義行動。在改善外交關係方面，人工智慧圖像識別和信息分類技術可通過監控人員和識別潛在漏洞，保障外交活動安全。同時，人工智慧的語言處理演算法可降低國家間的語言溝通障礙，加強國家間的溝通與了解。此外，隨著人工智慧系統內部理論學習的不斷進步，可對政治、經濟和社會趨勢進行預測，為決策者提供參考建議。在實施人道主義行動方面，人工智慧技術可幫助監督選舉，協助維和行動，並確保財政援助不被濫用。同時，人工智慧系統還可提高生產力，保障醫療保健和其他經濟效益，能直接改善欠發達國家的生活質量。不僅如此，人工智慧還可被用於農業種植和自然災害預警等領域，避免發生大規模災害。
編譯丨黃廣平 張嘉毅 包宏
選自丨《人工智慧與國際安全》
TAG:全球技術地圖 |