人工智慧在軍事領域的應用前景與風險

全球技術地圖

創新丨前沿丨科普丨資訊

人工智慧的出現，很可能重塑未來全球軍事。

人工智慧正在國家安全領域佔據一席之地。雖然公眾可能仍將軍事領域中的人工智慧與《終結者》中的人形機器人等同起來，但有關人工智慧對國家安全的影響的討論有了顯著增長。這些討論涵蓋了學術界、商界和政府，從牛津大學哲學家尼克·博斯特倫有關人工智慧對人類生存風險的擔憂，到特斯拉創始人埃隆·馬斯克擔心人工智慧可能引發第三次世界大戰，再到弗拉基米爾·普京聲明：在21世界，誰能領導人工智慧技術，誰就能主宰世界。

在人們擯棄「革命性變革」的這種空話，去思考人工智慧應用于軍事領域將給世界帶來的切實影響，這究竟意味著什麼？人工智慧不是武器。相反，從軍事層面來看，人工智慧和電力、內燃機一樣，都是一種助力。因此，人工智慧對軍事力量和國際衝突的影響，取決于軍隊和決策者對人工智慧的具體應用。那麼，關於人工智慧應用于軍事領域的影響，其核心問題包括：評估什麼是「人工智慧」的原則；人工智慧與以往技術革新的不同；軍事領域應用人工智慧的目的；人工智慧應用的潛在限制以及軍事領域人工智慧應用對國際政治的影響。

人工智慧的前景——包括提高從後勤服務到戰場規劃等事務的速度與精準度以及提高人類決策能力——正在驅使世界各國軍隊加速對人工智慧應用的研究與開發。對美國軍方而言，人工智慧提供了一種新路徑來保持其軍事優勢，同時無形中削減開支、降低士兵面臨的風險。對其他國家，尤其是俄羅斯和中國來說，人工智慧提供了更有價值的東西——即破壞美國軍事優勢的能力。國家之間對於人工智慧主導權的競爭，與經濟或其他領域的競爭並無二致，但其潛在的軍事也是顯而易見的。人工智慧研究的速度和軌跡的不確定性，意味著人工智慧的前景極不明朗。此外，安全和可靠性方面的考量可能會限制軍方選擇使用人工智慧的方式。

什麼是人工智慧？人工智慧是指，賦予機器或電腦模擬人類智能行為的能力。研究者、公司和政府應用了多種人工智慧方法，包括機器學習和神經網路等。當前有關人工智慧技術發展軌跡的研究表明，即便是在人工智慧研究者之中，也有很多人認為人工智慧未來發展速度有很大的不確定性。有部分研究者認為通用人工智慧（AGI）能在數年內實現突破，但也有人認為，突破的實現可能需要幾十年甚至更久。因此，本文著重探討「狹義」人工智慧，或人工智慧應用於具體問題的解決，例如AlphaGo Zero——一個被設計用以贏得圍棋比賽的人工智慧系統。

從歷史的角度看，如果對科技發展持樂觀態度的人是正確的，那麼依據創新的速度，人工智慧將擁有對經濟和社會產生廣泛影響的潛力。與火箭或飛機等離散設備有所不同人工智慧可以融入各種事物。因此，就軍事目的來說，人工智慧是很好的助推器。

對於軍事領域來說人工智慧的意義是什麼？軍事領域如何應用人工智慧，而且為什麼這對於國際政治來說十分重要？從另一個角度看，軍方相信人工智慧可以幫助解決哪些現代戰爭面臨的挑戰？以下三個人工智慧潛在應用領域詮釋了為何軍方會對此感興趣。

首先，現代軍隊在數據方面面臨的挑戰與公司或政府類似——數據量大、難以快速處理。狹義的信息處理人工智慧應用程序能加速數據解析，方便於向更高層次任務投放人力。例如，美軍的Maven項目力求使用運演算法則更快速地解析無人機監控反饋的圖像。這類軍用狹義人工智慧應用在商業領域也有明確的應用，並且不單只有圖像識別功能。從圖像識別到公開或機密的信息資料庫處理，人工智慧處理應用能幫助軍方更準確快速地解析信息，從而更好地做出決策。

其次，從高超音速到網路攻擊，高級軍方和領導人都認為戰爭的速度正在加快。無論你採取的是OODA(觀察、適應、決定、行動)循環方式，還是簡單地準備在敵方未發現自己已經到達的情況下進行打擊，速度在現代戰爭中都是優勢。速度不僅僅是指戰機或軍需品迅速到位，它還關乎決策。就像遙控系統一樣，飛機由人工智慧控制，擺脫了要保護人類飛行員的限制，雖然抵消了駕駛艙中人類飛行員的諸多優點，但提高了駕駛性能和可操控性。比如在防空領域，與人類的操作相比，以機器速度運行能夠讓系統在面對導彈飽和攻擊時，更高效地保護軍事基地或城市。人類的反應速度此時可能不堪一擊，無論他/她多能幹。這已經是以色列Iron Dome（鐵穹）系統所遵守的一個原則。

第三點，人工智慧可以在戰場上實施各種新的軍事行動理念，比如常說的「忠誠僚機」概念，人類飛機或坦克駕駛員也能夠因此具備協調無人機的能力。戰爭空間越複雜，「僚機」的運演算法則越有用，這種演算法能夠幫助它們在人類協調控制員無法直接引導飛機的情況下做出反應。同樣的道理，機群也需要人工智慧來協作。

顯然，軍方有動機去研究可以提升軍隊效率的潛在人工智慧應用。這些動機不僅僅來自於別國軍隊的競爭壓力，還有國內政治和官方的原因，推動著國家朝著擁有自主武器系統的方向邁進。對於美國這樣的民主政體來說，自主武器系統在理論上為人類能夠低成本、低風險地完成任務提供了潛在可能性。比如，美陸軍2017年發布的「機器人與自主系統戰略」，特別提到了自主系統可以在低成本、低風險的情況下提升效率。

對於俄羅斯和中國這些國家來說，人工智慧意味著控制。人工智慧系統可以讓國家減少對民眾的依賴，他們可以依靠更少、更忠誠的人來管理軍隊。

與聯合國《特定常規武器公約》多年來討論的「致命自主武器系統」相比，關於人工智慧在軍事領域應用的探討更為廣泛。創造可使用致命武器的自主系統可能就是人工智慧在軍事領域的應用之一，當然還有許多其他應用。

有效使用人工智慧面臨的障礙。軍用人工智慧面臨著技術和組織的雙重挑戰，有些主要是關於安全性和可靠性的擔憂，因為這可能會對企業造成傷害，所以自詡為以人工智慧為基礎的現代軍隊轉型從未真正實現。這些技術挑戰分為兩大類：內在可靠性和外部開發。

狹義人工智慧系統的特點意味著它們經過訓練用以執行特殊任務，不論是下國際象棋還是解析圖片。在戰爭中，根據Clausewitz（克勞塞維茨）著名的論斷，由於迷霧和摩擦，環境會迅速地轉換。如果既定人工智慧系統應用環境發生改變，系統可能會不適應。這種脆弱性因此成為了系統可靠性的威脅。在戰場上對抗雙方部署的人工智慧系統會使環境複雜化，超出一個或多個系統的解析力，進一步加劇了系統的脆弱性，並增加了事故和失誤的可能性。

人工智慧由機器決定最佳方案並執行的特性，可能會增加預測AI系統行為的難度。例如，在AlphaGo對陣圍棋世界冠軍李世石的第二場比賽中，AlphaGo出其不意的一招，讓李世石離開賽場，並花了15分鐘研究這招。這證明這一步是一個人類頂級賽手不會想到的，但機器已經算出來了。這顯示出人工智慧改善決策處理上的巨大潛力。軍隊的運作建立在可靠和信任的基礎上——無論是在指揮中心還是戰場上，如果人類操作者不確定人工智慧在特定環境下具體會做什麼，那可能會使計劃更複雜、操作更困難並且事故更可能發生。

針對可能發生的意外進行人工智慧系統編程，這種挑戰也會逐步削弱其可靠性。比如一個經編程可以玩俄羅斯方塊的人工智慧系統，研發人員發現，人工智慧已經能夠在快要輸的時候暫停遊戲，以保證走好每一步，使成功的可能性最大化，從而完成指令。這種改編，反映出人工智慧系統行為的不確定性，超出了多數軍隊能夠容忍的範圍。偏見和對數據的改編會讓其可靠性的實現更加困難。可解釋性是人工智慧系統面臨的又一挑戰。對於一個系統而言，重要的不僅僅是可靠性，同時也必須具有能使他人信任的可解釋性。如果一個人工智慧系統以特定的方式將圖像分類或躲避敵方雷達，但不能說明為什麼會做出這樣特別的選擇，那麼人類不太可能相信它。

可靠性不僅僅是人工智慧系統設計的問題。戰爭是競爭性行為，當今軍隊和情報機構試圖在和平時期及戰時入侵併破壞潛在敵人的行動，不管這些系統是在堪薩斯州後台運行還是應用在戰場上，有一點是不變的——這是一個人工智慧系統的世界。研究者們已經指出，圖像識別演算法在導致分類問題的像素級中毒數據面前很脆弱。以開源數據為基礎的演算法此時可能不堪一擊，因為敵方試圖「毒化」此數據，以防止別國合理使用——編製運演算法則用于軍事目的。這一敵方數據問題很重要。黑客攻擊也可能導致在更安全的網路中編製並運行運演算法則，這也說明了在國家安全範疇內，網路安全和人工智慧有著重要的交互作用。

軍隊何時啟用人工智慧？在有關人工智慧和武器的公開討論中，常常忽視的一個關鍵問題是，軍方一般不會願意使用以人工智慧為基礎的系統，除非它們在完成某一特定任務方面（無論是解釋圖像、轟炸目標還是策劃一場戰鬥）明顯優於現有的系統。

這些安全性和可靠性方面的問題，在敵對雙方試圖破壞對方的系統的競爭環境中凸顯，那麼人工智慧在軍事領域還有什麼前景？儘管軍方不太可能僅僅因為這些安全因素就停止對人工智慧應用的研究，但這些安全性和可靠性問題會影響人工智慧系統的類型，也會影響它們融入「常規」軍事行動計劃。

軍事技術整合有三個層次——開發、部署及使用。每個階段中，人工智慧能夠提升效率、降低人類士兵危險以及成本的前景都要與其面臨的安全性和影響軍隊行為的可靠性的挑戰相抗衡。

軍事層面的人工智慧研究是在競爭的環境中進行的。中國大刀闊斧地全面推進人工智慧研究引發了美國極大的擔憂，比如，中國在人工智慧領域會超越美國。鑒於人工智慧融合的優勢，很多美國軍人擔心其他參與者能力出眾，自己因此而落後。任何國家都不希望自己的戰士、艦艇以及坦克受到敵軍的威脅，也沒有國家希望敵方系統能夠在戰鬥環境中做出反應並快速回擊。

在軍用系統中融合人工智慧，我們才剛剛開始。人類和自動化實驗室主任Missy Cummings認為，儘管全球軍隊自主系統的研究和發展在增加，但過程是「漸進的」，各組織機構仍「努力實現從開發到應用的跨越式進步。」

在開發階段，測試和整合活動應揭示潛在的安全和可靠性挑戰，並使其成為人工智慧軍事應用的一個關鍵投資領域。現在，軍方可能認為，在某些情況下，這些風險是可以接受的，因為它們有落後的風險，並且相信它們能夠及時糾正編程上的挑戰。從本質上講，軍方將權衡人工智慧領域可靠性和能力之間的權衡，人工智慧系統可能提供更大的能力，但也存在可靠性風險。

在部署或使用人工智慧系統時，軍方可能會特別考慮某一特定衝突。隨著衝突風險升級，如果軍方判定失敗的可能性更大，那麼自然會接受部署優勢技術帶來的風險，但也會考慮可靠性的問題。反之，衝突風險降低，軍方認為自己能夠在降低技術風險情況下取勝，那麼人工智慧系統的部署就會延遲，直至軍方認定其可靠，或是比現有系統可靠。

軍事和商業技術發展歷史說明，軍事和商業技術發展的歷史表明，既要謹慎，也要有理由相信，安全和可靠性問題不會也不應該導致軍事融合的停滯。1886年，Karl Benz發明了第一輛汽油發動機汽車。然而在經過了一代人的時間後，汽油內燃發動機才申請到第一批專利，而賓士的汽車超越馬車，在交通上佔據霸主地位，又花了一代人的時間。為什麼這個過程如此漫長？答案是出於對安全和可靠的考量。早期內燃機面臨問題是可靠性、成本、機器缺乏標準、生產缺乏一致性以及內燃機驅動汽車的複雜性導致故障頻發。

每當新技術誕生，這個熟悉的故事就會不斷重演。它們在當時能賦予人們更大的能力，但同時也有極大的安全和可靠方面的問題。有時候，像內燃機或飛機一樣，這類問題可以解決。也有些時候，像軍事用途的飛船或飛艇，安全問題如此之大，技術永遠不可能像替代方案一樣可靠、有效。

AI和戰爭的未來。AI對世界的影響將遠勝於軍事力量和戰爭未來帶來的影響。自動化在未來工作中的作用會帶來巨大的經濟和社會效應，無論是否開發軍事領域專用AI應用，AI都將是軍方必然的選擇。法國總統Emmanuel Macron最近指出，AI將會打破現有商業與工作模式，其規模之大，法國因此急需制定新的AI戰略以確保其AI研發領導地位。儘管他向一個可能的實現的AI軍事應用發出警告，聲稱他「堅決反對」將AI投放戰場用以殺敵。然而，法國情報部門卻已經在用AI 來提高數據處理速度、提升數據可靠性了，他們認為這有助於法國軍隊在戰場上提高自身能力。

AI的優點是，儘管存在安全性和可靠性問題，但在引領全球軍隊時，也能預見坐以待斃的風險。從數據處理到蜂群概念再到戰場管理，AI能夠幫助軍隊快速、準確行動，同時使更少數人置身於危險之中。也或者並非如此。當前機器學習和神經網路方法特有的安全性和可靠性問題，也意味著對抗性數據等問題，對於許多軍用AI來說是挑戰。

美國國家安全機構的最高領導者似乎非常清楚，美國在技術變革時代所面臨的風險。國防部長James Mattis最近就指出，部署AI「為時尚早」，但他現在開始質疑AI是否能改變「戰爭的基本性質」。然而同中國相比，美國AI的投資相對較小，中國AI國家戰略正快速吸引學術界、商界和軍方的投資。美國可能比一個世紀前的英國更清醒，即廣泛科技改革會影響其軍事優勢，但不足以保證其勝利。當人們認為，所有科技，其核心都是民眾和組織機構如何加以使用時，尤為如此。從打敗了騎士的長弓到終結了戰艦獨大的時代的海軍航空力量，強權國家認為自己仍處於領導地位，直到一次主場戰敗，歷史從此顛覆。

我們不知道AI用于軍事用途，其結果是否也會如此。AI研究機構內部對於AI發展前景及安全性和可靠性，在某種程度上，也不太確定。可能未來20年，國家安全研究者們會重啟AI「時尚」。考慮到技術的廣度與特定技術，如定向能相比，以及AI商業能源及投資的程度，極可能發生的是，人工智慧時代的出現，在某種程度上會重塑未來全球軍事。

作者丨Michael C. Horowitz

編譯丨劉洋

選自丨Bulletin of the Atomic Scientists

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！