科幻電影恐怖情節可能成真？AI專家呼籲聯合國應禁止各國將AI用於武器研發

內文

美國電動車大廠Tesla、Google旗下的DeepMind、丹麥的Universal Robotics，以及加拿大Element AI和法國Aldebaran Robotics等26國AI及機器人企業的專家和領袖，於2017年8月21日共同發表一封連署公開信，警告「殺手機器人(Killer Robot)」等AI自主性武器將帶來「第三波戰爭革命」，要求聯合國應全面禁止各國發展AI武器，以避免未來可能造成的巨大威脅。

拓墣觀點

1. 現在的AI會像電影中那樣自主性決定毀滅人類？

在2017年8月21日參與這次聯署公開信的AI專家或企業創辦人，包含Tesla創辦人Elon Musk、DeepMind共同創辦人Mustafa Suleyman、Universal Robotics創辦人Esben ?stergaard、打造Pepper機器人的Aldebaran Robotics創辦人Jerome Monceaux等具代表性人物。

其中在公開信中提及的「自主性(Autonomous)毀滅武器」，讓大家無不想到諸多AI選擇毀滅人類的科幻電影情節，例如因為賦予AI任務是要建構一個「完美」的世界，但未料到AI後來發覺人類本身就不完美，因此決定要毀滅人類以建構「完美」世界等劇情發展。

現在的AI真會像電影中那樣恐怖、令人畏懼嗎？其實就現在AI的技術能力而言，我們距離做出像電影中會自我思考、具有自我意識的AI系統還非常遙遠，僅能就單一目標進行訓練，因此到目前為止，都還不可能發生「AI發覺人類不完美」或是「AI自己對『完美』產生特殊認知」的情況。

2. AI真的可能帶來「第三波戰爭革命」嗎？

既然現代的AI技術不可能讓AI達到具有意識或自我思考能力，那麼這些AI專家訴求是否過於杞人憂天？很不幸地，這個答案是否定的。

即使現在的AI技術還遠遠無法達到科幻電影中的超高境界，但確實已經足以對這個世界產生威脅，像是UC Berkeley人工智慧實驗室的主管Stuart Russell就曾說，故意濫用AI可能是比使用惡意軟體還要更糟糕的問題，因為這些AI系統已經可以在沒有人類干預下選擇攻擊目標，包含可在城市中搜尋並消滅敵方軍用直升機等。只是現代AI被運用於武器研發的威脅，其實不是來自於AI本身的想法，而是來自於人類訓練AI背後的不良意圖。

就是因為現在的AI系統無法具備思考能力，根本不可能有能力分辨世間的是非善惡，所以AI是否具有威脅性，全憑人類想要訓練AI系統完成什麼樣的目標而決定。若人類蒐集大量武器與戰爭相關的數據，輸入AI系統進行訓練，確實可製造出能自動識別敵軍並加以攻擊的自主性軍事武器。況且將AI應用于軍事用途本來就充滿巨大商機，若再沒有任何法規限制其發展，將可能完全無法阻止各國運用AI發展具毀滅性的軍事武器。

然而，就在這些AI專家跳出來呼籲聯合國應禁止各國以AI發展軍事武器的同時，若不受這些法規規範的恐怖份子認真投入相關研發，是否也代表一般守法的國家將因此面臨高度的恐怖威脅？到底該怎麼做才能夠解除各種潛在危機？這部份還有賴各國政府、AI研發人員與各界專家共同討論。

（文/ 拓墣產業研究院 林貞舒）

拓墣產業研究院

高新科技產業鏈智庫與顧問

面向新經濟的專業諮詢機構

集成電路丨半導體丨人工智慧丨產業園

智能城市丨物聯網丨電競遊戲丨雲計算

5G通訊 丨無人機丨自動駕駛丨AR/VR

工業4.0丨AI技術丨智能裝備丨機器人

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！