韓國研發AI武器遭抵制，武器自帶「頭腦」將多可怕？

禁止自主武器的開發，事實上並不妨礙人工智慧技術的發展，也不妨礙其被正常用于軍事領域，其中的關鍵就在於，人類是否擁有控制權，能否在關鍵時刻對其進行關閉。

2016年國際軍警防務展。 圖/視覺中國

文 |鄭偉彬

4月4日，全球超過50名人工智慧研究人員聯名抵制韓國科學技術院與韓國頂尖財團合作開設的人工智慧武器試驗室。原因在於該機構試圖研發自主武器（autonomous weapons）。

韓國研發「機器殺手」遭到聯合抵制

據韓國時報報道，該研究機構將開發一種基於人工智慧的導彈。它能夠控制自身的速度和高度，也能夠偵測到敵方的雷達防線並改變路線，在沒有直接人為干預的情況下調整其針對目標的路徑。此外，該機構還將開發配備人工智慧（AI）的潛艇和武裝四輪摩托。這些設備都可以根據AI技術及其演算法決定何時與人接觸。

在遭到全球人工智慧研究人員的聯名抵制之後，韓國科學技術院校長申成澈（音譯）表示，由於意識到關於人工智慧有違人類道德的擔憂，因此將不會開展任何有違人類尊嚴的研究活動，包括研發缺少人工控制的自主武器。

類似的問題已經有很多討論，也引發了全球許多科學家、研究機構及政府的關注。比如2017年，包括美國企業家馬斯克在內的117名企業家、專家發表公開信，呼籲聯合國禁止使用AI武器。隨後不久，英國政府表示將計劃禁止完全自主武器。

AI應用于軍事領域關鍵在人類有主導權

需要強調的是，在上述事件中所涉及的AI武器，均是針對自主武器（autonomous weapons），而非簡單的智能武器，或是自動化武器（automatic weapons）。

但很多媒體在報道韓國此次事件時，都錯誤地將autonomous weapons翻譯成自動武器。事實上，這兩者之間有著很大的差別，即武器是否具有自主意識，能夠自主決定是否展開攻擊行為。

電影《終結者2》中的機器人

自主武器並不等於智能武器，也不等於自動武器。諸如智能武器或自動武器，現在就已經存在，比如自動瞄準裝置、導彈定位系統、無人機等等，但是無論是哪一種武器，其最終決定權都在人類手中。這一點在此次的公開信上已經得到了具體的體現。研究人員明確反對「autonomous weapons lacking meaningful human control」，即缺乏最起碼的人類控制的自主武器。這和一般意義上的自動化武器或智能武器已經不是同一概念了。

自主武器，屬於通常所說的強人工智慧範圍，它把武器是否對人類進行毀滅性打擊行為的決策權交給機器。這無疑是十分危險的做法。它所造成的結果，必然是毫無道德、倫理限制的殺人機器四處橫行，而人類將對此束手無策。一旦打開了這個潘多拉盒，將很難關閉，人類存在面臨被徹底消滅的可能。這也是為何當前主流的人工智慧研究，都不主張讓機器擁有自主意識。

而對於智能武器之類的技術研發，卻可能有益於人類，有益於軍事發展。比如掃雷機器人，它可以代替人類執行危險的掃雷任務。比如美國海軍研究實驗室在幾年前設計的「船上自主消防機器人」，可以在整個船上自主移動，處理許多通過由人類執行的危險消防任務。這些與自主武器這種機器殺手，有著天壤之別。換句話說，禁止自主武器的開發，事實上並不妨礙人工智慧技術的發展，也不妨礙其被正常用于軍事領域，其中的關鍵就在於，人類是否擁有控制權，能否在關鍵時刻對其進行關閉。

設置約束協議防止自主武器出現

從這個角度上說，這也是人類發展任何形態科技所應該恪守的底線，即避免科技進步的同時帶來人類無法控制的後果。以人工智慧為例，當前已經出現過一些類似的「失控」事件，涉及種族歧視、性別歧視等。比如微軟的聊天機器人Tay曾經在Twitter上發表涉及種族歧視的言論，導致其上線一天就被迫關閉。背後的原因在於被污染的數據未能進行剔除，導致機器智能的失控。

除了數據本身，演算法同樣也可能導致智能失控。目前廣泛應用的深度學習即是一個「黑箱」決策過程，人類無法得知決策是怎樣形成的。這是一種潛在的危險。因此有少量研究人員就試圖通過諸如拓撲數據分析等方法，來揭開這個神秘的黑箱。否則，只能像即將於5月在歐盟生效的《通用數據保護條例》所規定的那樣，對於不可解釋的演算法，視其為「非法」。

對於自主武器也是如此，在當前並不能永遠排除自主武器出現的可能之時，一個可以接受的方式即是設置相應的約束協議，最大可能地防止這種可能的出現或使用。正如聯合國已經較為成功地禁止了生化武器、致盲激光武器的使用一樣。

總而言之，在任何技術進步面前，人類始終要回答一個問題，即人類作為一個整體是否具備足夠的智慧來應對技術創新帶來的希望和危險。當人類社會越來越由技術所主導或推動時，今天的人類為其付出多少努力，注入多少價值觀，將決定未來人類社會的最終面貌。

鄭偉彬（互聯網從業者）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！