如何評價馬斯克等116名AI專家呼籲禁止「殺手機器人」？衛報：太晚了

太晚了，人工智慧早已被用于軍事目的

新智元編譯

來源：theguardian

作者：Philip Ball

編譯：劉小芹

【新智元導讀】馬斯克等116名全球人工智慧和機器人領域的專家近日在墨爾本舉行的人工智慧國際會議上發布聯名公開信，呼籲聯合國採取行動禁止「殺手機器人」，引發廣泛熱議。《衛報》發表評論文章，認為勸說國際武器貿易不要製造殺手機器人已經太晚，無異於勸說飲料製造商不要製造橙汁。

關於116名人工智慧和機器人領域的專家發布公開信，要求禁止「殺手機器人」（killer robots），一個回應是：你們難道不應該早點想到嗎？

特斯拉 CEO 馬斯克（Elon Musk）是呼籲禁止殺手機器人的專家之一。「我們沒有太多時間準備了」，公開信中說，「一旦這個潘多拉的魔盒被打開，就很難再次關上。」但是，這樣的系統可以說早已存在了，例如BAE等開發的Taranis「無人作戰飛機」（UAV, Unmanned Aerial Vehicle ），三星製造的 SGR-A1 哨戒炮,已經部署在韓國國界。無人坦克也已經正在研發中，而人類對致命性無人機的控制只是何種程度的問題。

Photograph: Allstar/Studio Canal/Sportsphoto Ltd./Allstar

然而，殺手機器人一直在精神上與我們同在，只不過是以機器人的形式。Karel ?apek 1920年在科幻舞台劇「RUR」（Rossum』s Universal Robots，羅梭的萬能工人）中創造了「robot」這個詞（在捷克語中的意思是「勞動者」）。他創造的類人機器人，由與劇名同名的一家工廠製造，他們反叛人類，並最終滅亡人類。從 Cybermen 到終結者（Terminator），此類的故事層出不窮。

沒有機器人啟示錄正在逼近的背景，甚至很難去思考馬斯克等人簽署的公開信所提出的問題。即使人類的滅亡不是處在生死攸關，我們知道的是這些機器可能導致失控，其結果是《機械戰警》中OCP公司的機器人警察。

這樣的暗示似乎總是引出一些有關致命武器的嚴肅話題。好吧，所以一個機器人世界末日大決戰可能並不完全是空想的，但這些故事，以及它們造成的深刻的人類的恐懼，最終都是娛樂性質的。儘管如此，類似這樣的辯論，將科幻電影描述的技術的好和壞兩極化，伴隨帶來的意義在於，只要我們避免真正壞的那些技術，剩下的都是好的。

法律專家對這個問題的認識無疑更加複雜。一方面，他們關心機器人倫理方面的更廣泛、而且越來越緊迫的問題；另一方面，這些問題關乎現代戰爭的性質，以及其商品化。

我們可以怎樣令自主技術系統更加安全，更符合道德規範？避免機器人對人類造成傷害是Isaac Asimov的《我，機器人》（I, Robot）這部作品所探討的問題，這是一部短篇故事集。這部作品對後世造成如此深遠的影響，其中提出的阿西莫夫「機器人三定律」現在仍經常被討論，其認識度幾乎像牛頓的運動三定律一般。具有諷刺意味的是，阿西莫夫寫的故事主要是關於這麼動機正確的定律如何被環境破壞。

無論如何，道德問題很難有一刀切的原則。 歷史學家Yuval Noah Harari指出，自動駕駛汽車需要有一些原則來規定它們在面臨不可避免、並且可能導致死亡的事故時應該怎樣採取行動：機器應該試圖保護什麼？Harari 說，也許我們會被提供兩種模式：利己主義（優先保護駕駛員）和利他主義（優先保護其他人）。

Photograph: Melinda Sue Gordon/Allstar/Paramount Pictures

在2012年人權觀察組織一份有關殺人機器人（killer robots）的報告中，包含一些科幻小說般的預想。報告寫道：「要區分恐懼的平民和具有威脅性的敵人，需要有一名士兵去了解人類行動背後的意圖，這是機器人做不到的事情。」報告還寫道：「機器人不會受到人類情感和人類同情心的約束，而這些是避免濫殺平民的重要制約因素。」但第一個論斷不夠令人信服——機器人可以使用生物識別技術，其判斷力或許比用肉眼判斷的戰戰兢兢的士兵更準確。對於第二個，或許某些時候是正確的。但其他時候呢，人類在戰爭中會強姦和屠殺平民。

我不是要反對這份報告中對自主機器人士兵的恐懼，因為我也是這樣。相反，這使我們回到關鍵的問題，不是關乎技術，而是關乎戰爭。

我們對戰爭倫理問題的敏感是非常任意的。人權觀察組織的報告說：「完全自主的武器的使用提出了有關責任的問題，這將削弱另一個已確立的保護平民的工具。」這是一個公平的觀點，但不可能放到任何一個已達成一致的倫理框架內，核武器在國際上就是合法的。此外，無人機戰爭，士兵強化技術和法律之間是一個連續統一體，無法分解為「人和機器」。

自動化軍事技術的問題與戰爭本身性質的不斷變化密切相關，在恐怖主義和叛亂狀態，戰爭並沒有開始和結束的時間點，也沒有戰場或軍隊：美國戰略分析師 Anthony Cordesman認為：「現代戰爭的教訓之一是戰爭不再被稱為戰爭。」不管我們怎麼處理，都不會再有像諾曼底登陸那樣的。

戰爭一直在使用最先進的技術；「殺手機器人」也同樣是。潘多拉的魔盒在鋼鐵冶煉被發明時就已打開，如果不是更早的話（而且打開魔盒的從來不是女性）。你可以確定的是，肯定有人從中獲利。

無論如何，讓我們試著遏制住「化玉帛為干戈」的最糟糕的衝動，但勸說國際武器貿易不要製造殺人機器人，無異於勸說軟飲料製造商不要生產橙汁。

原文：https://www.theguardian.com/commentisfree/2017/aug/22/killer-robots-international-arms-traders

【號外】新智元正在進行新一輪招聘，飛往智能宇宙的最美飛船，還有N個座位

點擊閱讀原文可查看職位詳情，期待你的加入~

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！