鋼鐵俠馬斯克為什麼害怕人工智慧武器？這要從AK-47之父的懺悔說起

美國士兵操作遙控無人戰車

戰爭就是殺人，殺人需要武器。以武器來衡量，人類的戰爭經歷了冷兵器、熱兵器（包括核武器），現在將要走向智能武器，後者被視為將引發第三次戰爭革命。

冰川思想庫特約撰稿 | 張田勘

2017年世界機器人大會於8月27日閉幕。在這屆機器人大會上，各種機器人悉數亮相，包括手術機器人、鋼琴機器人、智能協作機器人……

在此之前一周，特斯拉CEO馬斯克與包括谷歌Deep Mind聯合創始人Mustafa Suleyman等在內的115名機器人、AI界領袖人物，共同簽署公開信，敦促聯合國阻止AI（人工智慧）武器的使用。

未來戰爭的形態

人工智慧武器就是裝載有人工智慧軟體的武器或機器人。智能武器的製造和使用其實是早晚的事，這一點不用說AI專業人員，就是一般公眾也心知肚明。

此時，AI領袖們提前出手，倡儀聯合國阻止智能武器的使用，可以說是比對待和處置核武器提前了一步。

風起於青萍之末。9月1日，製造AK-47等軍用槍支而聞名的卡拉什尼科夫公司宣布，將推出具有人工智慧性質的新槍。公司發言人索菲婭·伊萬諾娃說，這款槍支基於先進的「神經網路全自動系統」，在無人操控的情況下，不僅能夠決定是否射擊，還能夠根據敵人和環境的變化隨時調整射擊狀態。

也就是說，由卡拉什尼科夫研發的AK-47自動步槍經過多次升級換代，現在已經提升到最高級的人工智慧武器了。

拉什尼科夫公司打算為俄羅斯陸軍生產新一代機器人坦克。

要分清楚的是，馬斯克等人呼籲的是禁用智能武器，而非禁止製造，理由是：智能武器有可能讓戰爭形態發生第三次革命，升級換代為智能武器戰爭。一旦智能武器大規模投入使用並升級換代（這在信息時代是非常容易的），可能導致武裝衝突規模比以往任何時候都更大，而且速度比人類所能理解的還要快，所有人都面臨滅頂之災。所以，聯合國現在必須採取行動，禁止智能武器的使用。

魯迅曾說，翻開歷史一查，每一頁上都寫著仁義道德，但仔細看下去，滿本都寫著兩個字——吃人。其實，換成殺人更為準確，因為人類走過來的歷史戰爭時間遠遠遠多於和平時間。

從《劍橋戰爭史》到各種版本的《世界史》對人類有史以來的戰爭有過多種統計，其中一種統計是，從公元前3200年到公元1964年這5164年中，世界上共發生戰爭14513次，只有329年是和平的。這些戰爭導致36.4億人喪生，造成的財富損失摺合成黃金可以鋪一條寬150千米、厚10米、環繞地球一周的金帶。

戰爭就是殺人，殺人需要武器。以武器來衡量，人類的戰爭經歷了冷兵器、熱兵器（包括核武器），現在將要走向智能武器，後者被視為將引發第三次戰爭革命。至於化學武器、生物武器其實使用的並不多，所以未單獨分類。第三次戰爭革命可以稱為智能兵器戰爭，這在馬斯克等人看來是比包括核武器在內的熱兵器戰爭更能完全毀滅人類，因此需要未雨綢繆。

歷史上殺人最多的武器是什麼

馬斯克等人的憂慮並非杞人憂天，智能武器是否會比原子彈這樣的核武器殺人更多，誰也無法確定，但是他們是從歷史汲取教訓，並且想要事先免責，就像保險合同，有一個免賠條款。

馬斯克聯合AI領域的專家呼籲抵制AI武器

因為，儘管智能武器不會由馬斯克等人造出來，但也有可能是通過人工智慧的原理和其他機器人行業的科研人員造出來，並且人類未必能阻止智能武器用於戰爭，到時，人工智慧的研發者有可能跳到黃河也洗不清。

同時，智能武器的製造者將陷入深深的道德危機之中，惴惴不安，甚至惶惶不可終日，歷史上被稱為槍王的AK-47自動步槍的發明者蘇聯槍械設計師米哈伊爾·季莫費耶維奇·卡拉什尼科夫就是如此。

AK-47自動步槍性能好，堅實耐用，故障率低，無論是在高溫還是低溫條件下都經久耐用，尤其在風沙泥水中使用，性能可靠，而且結構簡單，分解容易。因此，被譽為世界十大名槍之首。

在電影《危險關係》中，演員塞繆爾·傑克遜更是道出了它作為全球最重要的殺人武器的真相：「當你真的想殺死房間里每一個人時，AK-47是最好的選擇，AK-47的中型子彈可以在發射1秒鐘後要那個人的命。」

位列世界十大名槍之首的AK47

AK-47從1947年定型，1949年全面使用以來，全球有100多個國家的軍隊裝備了AK-47，也是全世界生產數量最多的步槍，約1.5億-2億支。

既然產量最多，殺人也會最多。儘管在熱兵器殺人的排行榜上有的將馬克沁機槍排在第一，稱歐洲整整一代人喪命於這一機關槍下，人數達到1000萬以上。

但是，從產量來看，生產了1.5億-2億支的AK-47應當比馬克沁機槍殺人還多，因為，直到今天AK-47都在使用，而且恐怖分子和與之交手的特種兵都對它鍾愛有加。

相比而言，殺傷力更大的熱兵器——原子彈遠遠趕不上AK-47和馬克沁機槍的殺人數，因為人類只使用了兩次原子彈，總共造成了約30萬人死亡。從這個比較來看，智能武器能否超過過去的常規熱兵器或核武器，是一個未知數。

戰時士兵使用的馬克沁機槍

不過，真正憂慮的是，當智能武器全面應用到戰爭中，即便殺人的效果不如AK-47和核武器，對人類的精神打擊和摧毀也要遠遠超過後者。

並且，製造和使用智能武器的人將如何善終？

AK-47之父卡拉什尼科夫的懺悔

卡拉什尼科夫研製了AK-47後，蘇聯政府次獎勵他，授予其蘇聯英雄稱號。即便有政府的加持和靠山，卡拉什尼科夫也在臨終前因惶恐不安而寫了一封懺悔信。也許，促使他寫這封信的動機之一是在某天夜晚熟睡後夢見，那個策劃並實施9·11驚天大案的拉登正手握著他發明的AK-47自動步槍，並向無辜者射擊，嚇出一身冷汗後醒來，再也睡不著。

實際情況也的確如此。世界上最大的恐怖分子是如此喜歡卡拉什尼科夫設計的AK-47，以致拉登在2011年5月1日在巴基斯坦首都伊斯蘭堡郊外被美國特種步隊擊斃時，身旁的武器就是AK47，這支拉登的用槍後來被美國中央情報局（CIA）在位於弗吉尼亞州的博物館展出。

實際上AK-47可能是殺人最多的武器。儘管無法精確統計死於和傷於AK-47之下的人數，僅僅一個簡單推算，如果一支AK-47致死致傷一人的話，全球的1.5億支AK-47殺死的人也遠遠多於馬克沁機槍和原子彈造成的傷亡。

這也許正是讓卡拉什尼科夫最惴惴不安並在晚年要寫懺悔信的最重要原因。

AK47之父——卡拉什尼科夫

卡拉什尼科夫的一生非常矛盾。1958年和1976年他兩次被授予社會主義者勞動英雄稱號（第二次是因為設計了AK-74）、勞動紅旗獎章和愛國戰爭一級獎章，同時又是斯大林和列寧獎章獲得者，2009年他又被授予俄羅斯英雄稱號。1980年，卡拉什尼科夫的家鄉庫里亞還為他豎了一個青銅半身像，2000年11月16日卡拉什尼科夫被授予「神奇人物」獎。

由於發明AK-74，只有小學學歷的他獲得了最高學位證書——技術科學博士，也是世界公認的著名輕武器設計師，也許老卡就是我們今天所推崇的那種動手能力極強的理工男。但是，他說他並未從自己發明的AK-74賺到一分錢。

卡拉什尼科夫於2013年12月23日去世，此前的一年，他給俄羅斯東正教教會寫了一封懺悔信稱，「精神上的痛苦令我無法忍受。我一直都有一個沒有解決的問題：如果我設計的步槍剝奪了人的生命，那麼，我作為一個93歲的人，一個農民的兒子，一個東正教徒，對於他人，甚至是敵人的死亡負有不可推卸的責任。」

對此，俄羅斯東正教神職人員進行了回應，對卡拉什尼科夫的立場表示感謝，並認為卡拉什尼科夫是愛國主義的典範。儘管蘇聯和俄國給予了他如此多的榮譽和稱號，以及俄羅斯東正教神職人員對其進行安慰，也無法讓卡拉什尼科夫從AK-74殺人如此之多的痛苦中解脫。

在不同的場合、不同的地點和不同的時間，卡拉什尼科夫像祥林嫂一樣絮叨，進行著同樣的辯解：我研發武器，是為了保衛自己的祖國。但這些武器有時卻被用在了不該用的地方。那不是我這個設計者的錯，而是政治家們的錯。我也希望這個武器今後能用於保衛國家。

恐怖分子偏愛AK-47

而且，每當卡拉什尼科夫看電視，發現自己發明的槍在本·拉丹手中時，他總會問：「它怎麼到了拉丹的手中？」儘管他一再表示從未後悔自己的發明：「罪孽不在於步槍，而在於扣動扳機的人」，但他給東正教的信又真實地表達了他的懺悔，並且帶著這樣巨大的內心矛盾、忐忑不安，甚至是痛苦走向生命的盡頭。

然而，即便卡拉什尼科夫懺悔了，卻未必就「放下了屠刀」，因為以他的名字命名的公司又要製造更高級的智能AK-74，上帝會讓他進入天國嗎？

智能武器將面臨什麼樣的命運

也許從AK-74的歷史中，馬斯克等人預感到了智能武器將產生更大危害和災難，但是，從人類的歷史和戰爭史來看，既不可能禁止智能武器的生產，也不太可能禁止包括智能武器在內的所有武器的使用，前車之鑒太多。

對於核武器，有1970年3月正式生效的《不擴散核武器條約》，也有2017年7月7日，在聯合國紐約總部通過的《禁止核武器條約》（美、英、法、俄、中五大常任理事國未參與）；

對於化學武器，有1997年4月29日正式生效的《禁止化學武器公約》（全稱《禁止研製、生產、貯存和使用化學武器以及銷毀此種武器公約》）；

對於生物武器，有1975年3月26日生效的《禁止生物武器公約》（全稱《禁止細菌（生物）及毒素武器的發展、生產及儲存以及銷毀這類武器的公約》）；

美國製造的能跑能飛的無人戰車

對於常規武器，更是有許多國際公約。然而，世界上的任何武器禁止公約都有一些國家沒有簽約，再加上戰爭爆發之後很多國家並不執行簽署的公約，因而任何公約都可能是一紙空文。

這也是為何包括智能武器在內的任何武器也難以禁止的原因，無論是研發還是使用，更何況研發和使用智能武器還能獲得巨大的利潤

不過，從四個歷史節點的人物可以看到在禁止研發和使用殺人武器上的進步。

一是發明炸藥並創建諾貝爾獎，而且單設一項和平獎的艾爾弗雷德·諾貝爾。他其實是最大的武器發明者，因為今天所有的熱兵器都需要炸藥。諾貝爾的理念甚至證明他希望和平，但又在行動上支持研發和使用武器。

艾爾弗雷德·諾貝爾

諾貝爾稱，「我想製造一種具有摧毀一切的可怕威力的物質或機械。這樣，交戰雙方的軍隊就可以在瞬息之間同歸於盡。文明國家便會由於極端恐怖而不再打仗，並解散軍隊。」

他深信，只靠縮減軍備和締結不戰條約是沒有多大效果的。只有以毒攻毒，才能實現和平。

愛因斯坦和卡拉什尼科夫屬於同一類，在研發武器並看到了武器的巨大災難之後，從內心感到後悔。

愛因斯坦得知原子彈在日本爆炸的災難後說：「我現在最大的感想就是後悔，後悔當初不該給羅斯福總統寫那封信。我當時是想把原子彈這一罪惡的殺人工具從瘋子希特勒手裡搶過來。想不到現在又將它送到另一個瘋子手裡。我們為什麼要將幾萬無辜的男女老幼，作為這個新炸彈的活靶子呢？」

愛因斯坦甚至認為，原子戰爭除了給戰爭雙方帶來前所未有的傷亡和毀滅以外，什麼也解決不了，用戰爭解決爭端已不再可能。

如果說諾貝爾、愛因斯坦和卡拉什尼科夫等人都是事後諸葛亮的話，今天，馬斯克等呼籲禁止使用智能武器的AI領袖們則向前邁出了一小步，成為事前諸葛亮，在智能武器還沒有使用和造成萬劫不復的災難或毀滅人類之前，呼籲禁止使用智能武器。

愛因斯坦和原子彈之父奧本海默

這個提議其實是建立在科技和研究人員無罪的基礎上的。

卡拉什尼科夫一再稱，他設計AK-74沒有錯，保家衛國的人使用AK-74也沒有錯，錯在決定使用武器的政治家以及使用AK-74的恐怖分子和歹徒。同樣，愛因斯坦也認為，核武器造出來就不由科學家而是由政治家說了算，禁核是政治家的事。

1962年10月的古巴導彈危機差點引發毀滅世界的美國和蘇聯的核大戰，但最終還是通過政治談判和平解決，不過解決的基礎是相互確保摧毀（MAD），這是後來對此次危機的理論總結（美國國防部長R.S.麥克納馬拉於1964年提出）。

這一理論既然能阻止核戰爭，同樣也可能阻止由智能武器所引發的第三次戰爭革命。不過，其基礎又繞回到諾貝爾的最初想法和實踐上，以毒攻毒。相互確保摧毀的前提是，相互都有置對方於死地的毀滅性武器，如核武器和智能武器，所以智能武器會大量製造出來。

但是，還有沒有一種防線前移的作法呢？例如，科研人員首先約法三章，不研究不製造智能武器。這也很難，卡拉什尼科夫一再說明，敵人侵略我們，我們需要更好的武器才能消滅敵人，所以研製了AK-47。如此，智能武器和所有武器無論是研發還是使用，就只會在研發和使用，禁止，再研發和使用，再禁止的無限循環中周而復始下去。

下一步，希望有人拿出更好的設想和主意。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！