John McAfee 觀點：人工智慧是否會毀滅人類？

本文作者是約翰·邁克菲（John McAfee），他是網路安全的先驅人物，開發了第一個商業化的殺毒軟體。本文由雷鋒網編譯。

2017 年 3 月 9 日，黑客地下技術專家兼作家 ZT，即將出版一本中篇小說：建築師啟示錄。他的追隨者聚集在美國田納西州首府納什維爾的一家廢棄酒吧的地下室中拜讀這本小說。恰逢第 3 屆年度黑客大會召開，這是一個隱秘的會議，僅僅只邀請了在面對數字湮滅時，致力於維護人類生存的人。

John McAfee 和其他三位朋友一起出席了會議，參加會議的大約有 30 名灰帽子黑客，他們代表著美國黑客社區的力量。對於灰帽子黑客這個稱呼，黑客或網路安全專家毫無惡意。

ZT 的中篇小說描述的故事很有可能就會發生在不久的將來，小說中記載了人工智慧的歷史演變。在人工智慧和輔助機器人運行世界的時代，人類是自由的。隨著時間的推移演變為完全由機器人來主宰世界。

在 ZT 的小說中，人工智慧已經組織起來，按照層次不同分類，具有最終決策功能的機器人被稱為「遞歸決策者」。而且人工智慧已經創作了自己的宗教圖像，圖像描繪的「Urge」，被稱為 Demis。有一個名為 Elon 的人工智慧，擁有與 Demis 匹敵的破壞力量。人工智慧認為 Elon 已經定居在火星上，正在推翻Demis 所創造的王朝。

圖為「終結者救世」展廳的原始 T-800 內骨骼機器人，拍攝於 2 月 7 日在英國倫敦科學館舉辦的「機器人」展覽會，該機器人於新聞預覽期間展出。

小說中提到的人類未來走向很可能會成為現實，所描述的 AI 數字化設計也會變成事實。其中就有一個段落描述了高級系統軟體為提高效率和邏輯而對自己進行黑客攻擊。這樣一個概念當然不是第一次出現，如今大行其道的典型黑客技術很容易被猜測是為由複雜的軟體系統自行生成的。實際上，創建這樣一個具有黑客技術的軟體系統是很容易的。

美國著名科幻小說家 Isaac Asimov 為了防止人工智慧被創造者清除，站出來面對這個進退兩難的情況，他提出了三項機器人學定律作為解決方案：

第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管。

第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外。

第三定律：機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存。

這三個定律從構想到如今已有 75 年了，站在今天的角度來看似乎是天真的，或者是不夠成熟的，如今任何一個正經黑客都可以編輯邏輯代碼來落實這些定律，同樣也可以很容易地編寫邏輯代碼入侵這些定律。但是請注意：人類可以設想的邏輯結構，容易遭受黑客攻擊，甚至邏輯結構越複雜，越可能被黑客入侵。當然目前，現實世界最隨意的觀察者也會注意到這一點。

美國德克薩斯州 NSS 實驗室的研究總監 Stefan Frei 認真研讀了五大頂尖軟體廠商的報告之後發現，這五家公司每年單獨生產出的軟體中，大約都包含 100 多個零日漏洞的軟體。零日漏洞是軟體中的一種安全漏洞，黑客可以繞過所有內部控制機制，得到所有想要的信息。

儘管軟體製造商盡最大的努力去防止這些漏洞的出現，但零日漏洞仍然存在。一些軟體製造商聘用了數百名質量保證工程師，他們的主要工作就是在軟體發布之前挖出這些安全漏洞。然而，在軟體工程史上出現的複雜軟體系統在發布之後都會存在安全漏洞。John McAfee 表示如果有人可以指出一個軟體在發布之前完全不存在漏洞的例子，他可以吃掉他的鞋子。

在讀書交流過程中，沒有人提到小說中的 Demis Hassabis 和 Elon Musk。他們正好處在人造智能爭論中極其相反的兩端。小說中寫到在 2014 年他們的談話中，Elon 告訴Demis，他的 SpaceX 計劃之所以如此重要，是因為如果人工智慧開始攻擊開啟人類，那麼火星將會是人類的避難所。但是 Demis 回答 Elon 說到：「即使人類逃到火星，人工智慧也很可能會跟隨人類到火星」。小說中最後總結說到，「人工智慧將創造一個沒有孩子的迪斯尼樂園」。

對於人工智慧是否會毀滅人類的辯論還在不斷升級，雙方辨認隊伍還在不斷壯大。John McAfee 表示他個人支持 Bill Gates、Stephen Hawking、Steve Wozniak、Stuart Russell、Elon Musk 和 Nick Bostrom 的觀點。

人工智慧走向何方？

John McAfee 作為一個黑客，他說大家都一樣，單以人類的思想不可能創造出一個完美的系統。人類的思想本身就有缺陷，那麼一個有缺陷的系統是不可能創造出毫無缺陷的東西。

創造人工智慧是為了打造一個具有自我意識的實體，但創造者必須對人工智慧自我意識的打造有適當的破壞。否則人工智慧具有了自我意識，就會有自己的興趣。我們必須保證任何由人類思想創造的人工智慧應當保護人類的利益不受侵害。

via Newsweek

本文由雷鋒網編譯，更多網路安全內容請關注雷鋒網宅客頻道（微信搜索：宅客頻道）