人工智慧武器時代來臨，法律限制迫在眉睫
人工智慧武器時代來臨
法律限制迫在眉睫
隨著人工智慧的快速發展，人工智慧不斷應用於各個行業。智能金融、智能醫療、智能機器人這些詞語已經屢見不鮮。在戰爭武器裝備方面，人工智慧當然也不甘示弱。武器裝備的研發正如火如荼地駛上人工智慧化發展的快車道。人工智慧武器時代快速襲來勢不可擋的同時，人們對人工智慧武器的擔憂也無處不在。當具備高度智能、「會思考」的武器系統真正走上戰場，洶湧而來的人工智慧武器化究竟是福還是禍？
人類戰爭史表明，前沿科技往往首先應用于軍事領域。但幾乎從未有一種技術在應用于軍事時像人工智慧（AI）一樣，既被寄予厚望，又遭眾多反對。人工智慧武器是具有指揮高效化，打擊精確化，操作自動化，行為智能化等特點的智能武器，其在武器裝備上的廣泛應用，不但能適應「快速、精確、高效」的作戰需求，還能顯著提升武器裝備的制導能力、毀傷效果和反應速度，因此得到廣泛關注。它可以"有意識"地尋找、辨別需要打擊的目標，具有辨別自然語言的能力，是一種"會思考"的武器系統。人工智慧武器，是繼火藥和核武器之後在「戰爭領域」的第三次革命。如果任何軍事力量推動人工智慧武器的開發，全球性的軍備競賽則將不可避免。因為人工智慧武器，不像核能一樣需要昂貴的成本和難以獲取的原材料，一旦開發，人工智慧武器就很容易在各軍事力量中普及。
人工智慧武器應用於人類戰爭其威懾力有效性不言而喻，但眾所周知凡事都有兩面性，它所帶來的致命威脅也是令人不容忽視的。早在2017年3月，人類歷史上最偉大的科學家史蒂芬·霍金在接受《泰晤士報》採訪時就曾說，人類需要控制人工智慧，以防止它們在未來可能對人類生存帶來毀滅性的威脅。而霍金在生前也向人類呼籲發出最後的警告：慎用人工智慧，不要研發人工智慧武器。
而在2017年11月於日內瓦舉辦的聯合國特定常規武器公約會議上，伯克利大學教授、資深AI研究者Stuart Russell向超過70個國家的代表，曝光了一個人類歷史上的恐怖武器——殺手機器人。在Stuart Russell向代表們公布的驚悚視頻畫面中，一群形似「殺人蜂」的小型無人機衝進課堂，通過人臉識別瞬間殺死了一群正在上課的學生，場面無比血腥。這不禁令人望而卻步、毛骨悚然。
英國《明星日報》網站7月15日報道稱，人工智慧正日益侵入我們的日常生活，這項技術還可能會啟動一場自主的武器軍備競賽。網路安全專家羅曼-揚波利斯基博士披露了人類是如何通過追求這項技術將自己置於災難邊緣的。他解釋說：「人工智慧戰爭比核戰爭對人類構成了更大的危險。核武器很危險，但是它們只是工具，一旦爆炸，就不再有另外的敵對關係。然而，人工智慧不僅是一種工具，而且是一種媒介，它處於一種持續的動態關係之中，而非是單一的危險局勢。」
日前一起無人機刺殺總統事件再次引發人們對人工智慧武器的思考，人工智慧武器時代已經到來了嗎？當地時間8月4日，據美聯社報道，委內瑞拉總統馬杜羅在首都加拉加斯出席一場軍隊紀念活動演講時突然遭無人機襲擊。雖然馬杜羅及時安全撤離了，但「人類歷史上第一次動用無人機刺殺一國元首」的新聞標題迅速登上了國外各大媒體頭條。《紐約時報》是這樣描述當時的情形，「這似乎是一場為好萊塢編寫的暗殺事件：低空飛行的無人機、半空中爆炸、總統和第一夫人閃避尋求掩護，數千名列隊的士兵四處逃散，所有這一切都通過現場直播傳向全國」。場面慌亂、人們逃竄，氣氛不寒而慄，驚恐的人們不禁感慨：無人機不僅能送貨，居然還能刺殺總統！那麼，這是否也在宣告著利用人工智慧武器作戰的時代已經悄然到來了呢？
眾所周知，自古以來人類戰爭不過是兩國相爭兵戎相見，一番廝打之後受苦受難的還是老百姓。而現在，戰爭已不是當初領國間單純地搶佔領地，所使用的武器也不再是大刀長矛，炮彈弓箭了。現在的武器已經先進到一顆原子彈就能把人類家園毀於一旦，國與國之間戰爭的勝負主要取決於國家的科技實力。接下來大家不難想像到如果人工智慧武器應用於實戰，那麼人類又該面臨怎樣的困境。到時候人們可以足不出戶，就坐在家裡的電腦前，操控著電腦，就可以操縱人工智慧武器大開殺戒。國家與國家之間也是一言不合就開戰，而那些科技發達的強國也將更加肆無忌憚，落後就得挨打這是不變真理。到時人工智慧武器隨處可見，被擊毀的無人戰鬥機，無人軍艦，無人坦克遍地都是，硝煙四起。
哪還有什麼美麗家園。到了那個時候人類啊恐怕只能長埋地下，在深不見底的地下室里操控著電腦，才能免於這場人工智慧大戰吧。一場戰爭過後，摧毀的是人類文明，留下的是遍地荒野。因為人工智慧武器的誕生，最終會使人類無家可歸長眠地下。
但在這個智能化和信息化的時代，要把人工智慧與軍事應用「一刀兩斷」是萬萬做不到的。正如，谷歌曾經幫助五角大樓開發非致命的人工智慧無人機，之後遭到了員工們集體抗議日前，幾周後科技巨頭谷歌公司正式宣布，將中斷與美國軍方關於使用人工智慧分析無人機視頻的合作，並承諾不會將人工智慧技術用於武器開發。不過，谷歌公司表示還將繼續推動人工智慧在網路安全等軍事領域的應用。因為谷歌對AI武器的態度，韓國開斯特大學的學生曾經對AI武器方面進行了研發，由於受到外界的強烈抵制，最終開斯特的校長承諾不會開發「違背人類意願，以及沒有人為控制的自動化武器」。「來勢洶洶」的人工智慧武器化，引發了人們對於「冷血機器」的深思和對人工智慧武器可能引發的「終結者末日」的擔憂。
日前數以千計的人工智慧專家，包括Google人工智慧子公司 DeepMind 的創始人，均簽署了不發展致命性自主武器的承諾。簽署者主要擔心若開發致命型的殺人武器，會對人類產生威脅，因此互相共同承諾既不參與創造，也不支持致命性自主武器技術的開發。這次簽署者包括 160 家與 AI 相關的公司和組織，以及超過2,400名專家。其中包括Google DeepMind、ClearPath Robotics，歐洲人工智慧協會、XPRIZE 基金會、矽谷機器人，倫敦大學學院以及特斯拉特斯拉總裁馬斯克（馬斯克），以及 Google Research 的 Jeffrey Dean 和英國議會成員 Alex Sobel 等人。
但無論是簽署承諾協議還是做出承諾，人工智慧武器彷彿都勢不可擋。美國國防部去年8月表示，未來AI戰爭不可避免，美國需要「立即採取行動」加速AI戰爭科技的開發工作。俄羅斯也在開發多個智能化無人作戰平台項目。俄軍的「天王星-6」無人掃雷車已經在敘利亞戰爭投入使用。蘇霍伊公司的「獵人」遠程重型無人機也將於今年年底首飛。根據歷史經驗來看，人類的理性恐怕很難阻止新技術軍事化的步伐。軍用智能化時代的到來，可能只是一個時間問題。而要防範人工智慧武器成為「嗜血狂魔」，關鍵還是人類自身。
事實上，人工智慧的軍事化應用雖然還只是剛剛起步，但它確實在未來戰爭中佔據著不可替代的重要位置。未來戰爭作戰節奏越來越快，戰場數據將成「井噴」式增長，人腦很難應對瞬息萬變的戰場態勢，反應速度快、信息容量大、不受時空或體力限制的人工智慧必然會進入戰場決策的「指揮圈」。美國國防部計划到2035年初步建成智能化作戰體系，到2050年實現作戰平台、信息系統、指揮控制的全面智能化，藉此實現與對手的「技術代差」。
同時，人工智慧還將加速戰場數據的信息融合，伴隨著無人機、無人潛航器、機器人士兵以及「無人與有人」協同作戰單元逐步走向戰場，「雲端大腦」「數字參謀」「虛擬倉儲」等人工智慧軍事化應用或將在未來戰爭中發揮「顛覆性」作用。
然而，人工智慧武器只是一台完成人類布置任務的機器，一旦被別有用心的人重新編程，只需一段簡單的代碼，就可以把很多人工智慧武器轉變成不亞於化學武器、生物武器和空心彈的殺人機器。面對複雜的人類戰場環境，智能化武器裝備也不是只靠數據和演算法就能「想」明白的。人工智慧武器的問題，不在於它們將會控制世界，而在於它們非常容易被重新編程，因此任何人都能夠以低得驚人的預算，製作出一台濫殺無辜的高效機器。可怕的不是機器本身，而是黑客可以用比較適中的價格，用它們來做什麼樣的事情。由此可見，事關戰爭的重大問題決不能輕易交由機器來做抉擇，即便是人工智慧軍事化日益完善成熟，也不能放任智能化武器的「野蠻生長」。
隨著時代的發展,人們的生活越來越離不開人工智慧技術。目前,人工智慧技術已經滲透到人類生活的方方面面。從人類駕駛汽車到無人駕駛汽車,從人類戰鬥機到無人戰鬥機,從人工鬧鐘到智能鬧鐘，甚至醫療等方面紛紛離不開人工智慧,人工智慧不斷改善人們的生活。但我們必須清楚的是，人工智慧技術是為人類服務的,它決不能不能超越人類的底線,更不能對人類造成傷害。不可非議的是隨著時代發展，人工智慧給人類生活帶來便利的同時必然會帶來一些問題。這就需要制定一定的法律法規對人工智慧進行管理、約束,這樣才能更好地為人類所用,才能讓人類過上更好的生活。
由人工智慧快速發展引發的一系列問題：人工智慧與勞動者勞動權保障、人類隱私保護的人格權問題、知識產權的保護問題、數據財產的保護問題、侵權責任的認定問題以及機器人的法律主體問題等等都是人工智慧領域不可忽視的法律問題。而作為當今最令人擔憂恐懼的人工智慧武器問題。比如，自主機器人能否被授權殺人？參戰的自主機器人是否應承擔戰爭責任等等？當下相關政府部門更應該制定和完善相關的道德法律準則，構建以技術和法律為主導的風險控制機制，運用智能與傳統相結合的方式對人工智慧武器的社會應用情況進行法治監督。這個問題不容忽視，可謂迫在眉睫。
人工智慧武器革命引發的法律問題才剛剛開始,法律研究者需要秉持理性主義精神,不斷拓展知識儲備,跟進理論創新和制度創新,探索和發現一個更適合人工智慧武器時代的法律制度體系。綜上所述，人工智慧武器時代勢不可擋但我們相信法律制度的理性之光與科學技術的智慧之光必將交相輝映、大放異彩。
TAG:鷗若教育 |