美退役少將談「殺人機器人」
本文系商業周刊App付費文章，禁止轉載。
拉提夫認為戰爭技術中的人工智慧和自動化爭議最大
「自動化武器會不知不覺地來到我們身旁」
對埃隆·馬斯克(Elon Musk)來說，2017年又是忙碌的一年。特斯拉(Tesla)的市值超過福特(Ford)和通用汽車公司(General Motors)，巨型鋰電池工廠開始源源不斷地生產出鋰電池，旗下的安裝公司開始在居民房屋的屋頂安裝不破壞建築美感的太陽能電池板。他正準備向火星發射兩枚火箭，在洛杉磯地下挖掘巨型隧道，並且在百忙之中還不忘批評特朗普在《巴黎氣候協定》上的所作所為（當然，他並沒有做到面面俱到，問問Model 3轎車等候名單的車主就清楚了）。
禁止殺人機器人
有鑒於此，大家很容易忽視掉馬斯克2017年心愿名單中的另外一項：拯救人類。2016年夏天，他聯合包括谷歌人工智慧權威穆斯塔法·蘇萊曼(Mustafa Suleyman)等其他一些科技業大佬聯名致信聯合國，敦促嚴格禁止機器人殺人武器。在他們看來，這種機器人大殺器的誕生將意味著人類噩夢的開始，他們在信中寫道：
致命性自動武器的誕生有可能演變成為「第三次戰爭革命」。這種武器一旦開發出來，會導致武裝衝突的規模之大超出以往，蔓延速度之快超出想像。這類武器既可以成為被暴君和恐怖分子用來對付無辜平民的恐怖殺器，在被黑客入侵後，其用途也可能會適得其反。人類沒有太多時間阻止這類武器，潘多拉盒子一旦打開，再想關上談何容易。
與此同時，五角大樓也在撰寫另一封信：其2018國防預算報告中要求國會撥款130億美元的科技研發資金，另外100億美元用於開發空間作戰系統。我不想惹馬斯克先生不快，但他會發現，作為對手，美國的軍工產業可要比底特律那些老掉牙的汽車公司難對付得多。
然而，就像任何一個與亞馬遜智能助理Alexa獨居一室時略感緊張的人一樣，我相信那些參與自動武器研發的人中間一定有人像馬斯克一樣感到擔憂。我在本周就找到了這麼一位：《未來戰爭：為全球新戰場做準備》(Future War: Preparing for the New Global Battlefield)一書的作者，前空軍少將羅伯特·拉提夫(Robert Latiff).
拉提夫將軍與其新作《未來戰爭：為全球新戰場做準備》
退役少將訪談
拉提夫將軍在2006年從美國空軍退役，退役前曾擔任美國國家偵察局(National Reconnaissance Office)先進系統和技術部門主任。退役後，他一直在國防工業領域任職，並在聖母大學(Notre Dame)和喬治梅森大學擔任講師。以下是節選的訪談記錄：
記者：將軍，您十多年前就已經退役，為什麼現在才出這本書？您在私營和學術領域的經歷對於您對「全球新戰場」的觀點有哪些啟發？
拉提夫：事實上，我從伊拉克戰爭時起就開始思考這個問題。當我目睹戰場上所發生的一些情況（不僅僅是阿布格萊布監獄），這著實讓我感到困擾。退役後，你能想像得到，我進入了國防承包商行業工作，這份差事不算壞。但無論在軍中，還是退役之後，我都沒聽說有誰質疑我們的某些研究是否應該進行。你要知道，這類研究有的真是挺嚇人，我不知道這樣的研究算不算不道德，但沒人提出過這方面質疑。
記者：能否舉一兩個例子？
拉提夫：一般來說，與生物學有關的一些研究會有點恐怖，像合成生物學這樣的研究你不知道最終會有什麼樣的後果。一些電磁學方面的研究也有點嚇人，特別是與人類和殺傷力有關時。
記者：明白了，所以你花了些時間在私營領域，而……
拉提夫：在我最終退役並閑下來從事教學和諮詢工作時，這些問題還在困擾著我。我和聖母大學取得了聯繫，藉助這樣一個機會，我開了一門課程，深受學生歡迎，最終，有人請我圍繞這個話題出一本書，內容與這門課相關，但不完全基於授課的內容。
拉提夫將軍在聖母大學講授課程
記者：聖母大學的學生反響如何？
拉提夫：剛一開始，他們有些嚇著了，或許用吃驚來形容更合適。他們中很多人從未接觸過這類軍事話題。剛開始給他們講這些新式武器時，學生們的反應都很興奮，他們中很多人的第一反應是：「沒錯，我們就得這麼干。」但當我讓他們思考這麼做在道德上會有哪些影響時，他們似乎陷入了沉思，我覺得他們在其中學到了很多東西。
記者：只要戰爭還存在一天，圍繞戰爭倫理的爭論就不會停止。就戰爭的正義與否而言，中世紀義大利神學家托馬斯·阿奎納(Thomas Aquinas)的「戰爭論」可能最為知名。當我們以傳統視角來審視今天的戰爭技術時，有哪些你認為會引發最大的爭議？
拉提夫：我認為人工智慧和自動化的爭議最大，很大程度是因為這些並沒有人類參與。在阿奎納和聖奧古斯丁的時代，他們爭論的是「戰爭的意圖」是否正確。殺戮的意圖是否正確？殺人者是否獲准這樣做？我們現在做的事情是在保護無辜者嗎？我們是在避免不必要的痛苦嗎？而在自動化和人工智慧時代，我不覺得軍工行業有誰可以證明，我們能夠放心地任由這些系統去做該做的事。
記者：是啊，我們知道很多人擔心這個問題。2016年有一大群科技行業大佬寫信給聯合國，要求禁止機器人大殺器。2016年11月還以《常規武器公約》的名義舉辦了會議，希望將相關禁令擴大至全球範圍。我個人認為這只是痴人說夢。在限制人們所擔心的這種毀滅性武器方面，國際社會能形成一致的努力嗎？
拉提夫：我認為可以，也應該如此。很湊巧，支持禁用這類武器的那些人中間有人聯繫到我。我對他們的答覆是我不認為這麼做是痴人說夢。我只是覺得他們的出發點是好的，但方法有問題。首先，我不覺得禁用會有效。其次，我不認為發達國家會參與到這類武器的禁用中。但你禁用某些東西時，大多數時候這類東西會轉入地下，你無法對此進行監督，國際法中沒有監督這條。
我是武器控制和不擴散條約的堅定支持者。無論是美國、俄羅斯還是中國，他們無論如何都會遵守這類條約。如果我們能夠制定某種合約，可以限制那些我們可以集體限制、且具有某種核實機制的東西，更重要的是，各方一致同意防止這類武器的擴散，那就可以說是向前邁進了一步。的確，一些流氓國家到頭來會得到一些這類武器。但是對這些軍控條約進行監督和核查要比禁用這類武器更容易實現。
科技大佬去信聯合國要求禁止殺人機器人
記者：我也是核不擴散條約的堅定支持者。但要生產這類武器，你需要具備強大的工業基礎。此外，核原料的生產和藏匿也很難不被人發現。但說到人工智慧和網路武器，這些東西可以很容易被隱藏起來，這怎麼核查？
拉提夫：在今天，這的確是個問題，除了在武器核查條約的範圍上做文章，我不覺著有什麼簡潔的答案。超級大國在這方面非常在行。就算有種種條約的限制，我們依然可以飛越俄羅斯的領空，俄羅斯也可以飛越我們的，我們的衛星在盯著他們，他們的衛星也盯著我們。
所以說，對於那些新的技術，我們應該給機會進行試驗，看看這些技術最終的效果，我們在預測武器性能方面很在行。我不知道最終的核查機制會是什麼樣子，但是有這樣一個核查機制總比下一道禁令，然後再去大海里撈針要強。
記者：幾個月前，我採訪了曾主抓奧巴馬政府尖端國防現代化的前國防部副部長鮑勃·沃克(Bob Work)。他稱這一舉措為「第三次抵消戰略」，因為俄羅斯和中國這些超級大國對手在制導武器和一體化聯合作戰網路這些「第二次抵消戰略」方面已經和我們齊頭並進。你是否也這樣看待未來的挑戰呢？
拉提夫：我也是，而且我贊同副部長關於中、俄已經迎頭趕上的觀點。你看看近來俄羅斯在敘利亞戰場上巡航導彈的攻擊，那些導彈先進極了。至於自動化、人工智慧、超音速和電磁武器，即使他們眼下還在落後，也會很快趕超上來。所以說，「第三次抵消戰略」的領先時間不會比「第二次抵消戰略」長多少。
記者：的確，前兩次抵消戰略（第一次核技術、第二次精確制導）的領先時間只有幾十年，第三次可能更短。有鑒於此，對於這些新技術，五角大樓應該重點關注哪些？
拉提夫：我認為我們在自動化和網路空間里仍佔據優勢。我認為最讓我擔憂的、也是我最不確定我們是否佔據優勢的是電子戰。我所指的不一定是那些核電磁脈衝武器，我是泛指從小型電子戰到大範圍電子戰涉及的一切問題。
未來戰爭會涉及網路戰、外太空戰
記者：比如說干擾系統？
拉提夫：干擾系統是其中之一。或者說能夠摧毀或干擾我方電子系統的電子脈衝，有些類似網路戰，但使用的是電磁脈衝。還有集成了微波和定向能量束等的戰地武器。
記者：所以說不止有殺人機器人，還有「星際迷航」裡面的相位槍。說到這一點，我們知道，根據聯合國條約，外太空不應該部署武器。但我覺得外太空距離武器化只是一步之遙。俄羅斯甚至印度等在這方面投入了大筆資金，你認為是否有必要在太空武器不擴散方面做些工作？
拉提夫：我本人非常歡迎這方面的舉措。但我也認為超級大國可能還不想這麼做。說到「星球大戰」或「星際迷航」，我並不為外太空的戰爭而感到非常擔心。我甚至不擔心在太空部署可有效攻擊地球的武器。如果了解一些物理學和軌道力學原理，你就知道這類武器的成本有多高。
讓我感到擔心的是美國對空間系統的極端依賴，俄羅斯也日漸如此。對此每個人都心知肚明。所以，地基反導系統，無論是可以干擾重要空間系統正常運行的激光、電磁，還是可能干擾或摧毀軌道衛星的在軌武器系統，都令人感到極端的擔憂。
記者：還有什麼讓你睡不著覺？
拉提夫：五角大樓圍繞自動化武器的整體思路都讓我感到不安。我來解釋一下，五角大樓在2012年制定的政策中要求真人必須參與其中，這一點是好的。我反對的是致命自動化武器。但是和大多數這類政策不同的是，國防部並未制定實施指導原則。後續工作一直沒有跟進。近期發布的一項國防科學委員會報告不建議殺傷性武器自動化。總的來說，官方在這個問題上異常低調。坦白的說，我認為任何有思想的人都認識到，自動化武器會不知不覺地來到我們身旁，無論我們同意與否，這一天都會到來，我認為目前有關自動化殺傷性武器的政策是掩耳盜鈴，我們需要對這些政策做出澄清。
（本文內容不代表彭博編輯委員會、彭博有限合夥企業、《商業周刊/中文版》及其所有者的觀點。）
撰文：Tobin Harshaw
編輯：方李敏、鄒世昌
翻譯：吳洪濤
點擊你感興趣的關鍵詞
立即獲得關於TA的更多信息！
省錢套路丨比特幣暴漲丨風投聚焦針織襪
......
TAG:商業周刊/中文版 |