外媒：比起機器人暴動的終極噩夢，更加現實的擔憂是

英國《經濟學人》周刊網站近日刊登題為《自動武器是一個規則改變者》的文章稱，相對於機器人暴動的終極噩夢，一個更加現實的擔憂是人類有可能讓自動武器自行判斷殺人與否。有分析認為，在競爭激烈的地區執行任務時，讓機器全權負責的誘惑將變得難以阻擋。

美軍「收割者」無人機

文章稱，迅速到來的軍事機器人革命是空前的。這些技術帶來了倫理、法律、政策等問題，可能構成在某些人看來關乎生死存亡的一種危險。

聯合國《特定常規武器公約》（CCW）相關會議已經進行了有關致命自動武器的討論，該公約禁止或限制一些被認為會引起不合理痛苦的武器。CCW去年11月一場會議召集了一批政府專家和阻止殺手機器人運動組織的非政府組織代表。阻止殺手機器人運動組織希望達成一項具有法律約束力的國際條約，禁止使用致命自動武器，就像此前禁止集束彈藥、地雷和激光致盲武器一樣。

文章稱，棘手的是，自動武器包括從能夠有選擇性地瞄準的導彈到具有能夠決定打擊誰、何時打擊以及如何打擊等認知技能的學習型機器等一系列武器。大多數人認為，當使用致命武器時，應當由人來負責啟動。但要確定哪類人工控制是適宜的則更為棘手，並且相關技術發展太快，導致國際外交無法跟上形勢。

韓國三星公司的研發十年之久的 SGR-A1 機器人哨兵就擁有自主射擊的能力，造價約 20 萬美元，很有可能會部署在朝韓邊境。SGR-A1 並不能很好地區分敵我。

文章稱，令情況更加複雜的是，人工智慧和自動機器最引人注目的進展正由具有商業動機的私企實現。即使能夠達成禁止軍用機器人的協議，催生自動武器的技術也會很快普及並容易轉讓。

防務分析人士彼得·辛格指出，人工智慧競賽由不可阻擋的力量驅動：地緣競爭、知識前沿領域的科學動力以及追求利潤的科技企業。因此，是否能抑制人工智慧競賽一些更令人不安的方面以及如何抑製成為問題所在。簡單來說，一個令大多數人驚恐的想法是讓能夠思考的機器自行選擇是否殺死人類。而且，儘管有關機器人暴動的終極噩夢仍是科幻小說，但其他擔憂則具有現實性。

俄羅斯的 Uran-9 多功能無人戰車

專家保羅·沙雷擔心自動系統可能因代碼編寫質量不高或對手發動網路攻擊而失靈。這可能致使機器人攻擊人類部隊，或導致局勢快速升級，以至於人類無法做出反應。自動武器的可靠性非常難以測試。會思考的機器可能以人類操控者從未設想過的方式行事。

文章稱，美國前國防部副部長詹姆斯·米勒說，如果自動系統在競爭激烈的地區執行任務，讓機器全權負責的誘惑將變得難以阻擋。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！