當 AI 智能達到頂峰機器會叛變人類嗎？

科技 11-01

本文由騰訊數碼獨家發布

最近人人都在說AI人工智慧，人工智慧這個話題最近也火得不行，各種人工智慧產品紛紛面市，這不禁讓我們思考，人工智慧發展到一定程度時，會有自己的思想並反抗人類嗎？AI會取代我們的位置成為這個星球的新主人嗎，會和人類發生暴力衝突嗎？不想這麼遠，近一點的，AI是否會取代掉一些職業？關於這個話題，很多人各執一詞，接下來我們站在理性的角度分析一下。

大多數人工智慧專家都認為，計算機的思維能力終將超過人類，但問題是，計算機超越人類需要多久？在思維能力上超越人類如何定義，是計算機擁有獨立思考能力還是只是運算速度更快一些?

要知道，儘管現在人工智慧相當強大，但它們仍然不能擁有獨立思考的能力。我們現在使用術語AGI(通用人工智慧)、Strong AI（強人工智慧）、True AI，以及其他術語來區分現今的人工智慧和擁有獨立思考能力的人工智慧，但是，隨著AGI技術的發展，註定會帶來一些風險，人工智慧發展到什麼時候會給人類帶來威脅，我們又該如何應對這些風險呢？

AGI何時到來?

為什麼AGI到現在還沒有實現呢？有兩個因素：1、我們要提供AGI所需的強大計算能力，2、要編寫AGI軟體。人工智慧專家對人腦的計算能力做出了估測，並預測CPU的計算能力將不斷提高，預計在10年、20年或半個世紀的時間裡，CPU在普通計算方面將超過人腦。

波士頓動力公司的機器人已經獲得了人類小腦的560億個神經元的運動和協調能力，也就是大腦計算能力的65%。機器人只需要幾個CPUs就能完成，並不是因為CPU的計算能力超過了560億個神經元，機器人的程序讓其比大腦機械學習更加高效，大多數人覺得今天的人工智慧系統還很有局限性，認為AGI離我們還很遙遠。但對此我們不敢苟同，AI已經擁有了大部分AGI功能，只是它們還沒有很好地結合在一起，AGI可能在短短10年之內就會結合起來，比大多數人想像的要快得多。

其實AGI的發展速度是我們想像不來的，我們現在需要關注的是AGI系統可能是什麼樣子，以及我們應該如何準備，考慮我們人類是否會被取代。下面我們分析一下人工智慧發展成熟，我們與人工智慧相處的幾種情況。

情況1:和平共處

在考慮和人工智慧和平相處之前，我們要先考慮一下，機器人為什麼會與人類起衝突，衝突的根源是什麼？人類的衝突的根源是由於人類本能的擴張需求，如果一個「部落」(國家、部落、宗教)沒有得到它需要的資源，它可能會與鄰近部落開戰以獲得資源。在部落中，等級秩序下，每個人都在為自己的階級而競爭，通過競爭建立地位，這種衝突根源在於人類內心的貪慾。

機器人並不會有人類這種階級鬥爭和貪慾，他們只會自己之間掙奪能源，所以，機器之間相互鬥爭的可能性要遠大於與人類競爭。從長遠來看，按照這一設想，人類的問題將通過計算機決策得到控制。AGI人工智慧將為人口過剩、饑荒、疾病和戰爭安排解決方案，而這些問題將變得過時。計算機最初將幫助我們，因為這將是它們的基本程序，後來因為它們將看到，擁有一個穩定、和平的人口符合它們自己的利益。計算機將管理所有的技術、探索和進步。

情景2:機器統治

很多科幻片可能都演過，一台機器有了自我意識，當科學家威脅要切斷它的電源時，它就攻擊科學家。當然，這種場景在現實生活中不太可能發生，人類之所以有衝突，是因為我們有領土意識、佔有慾、貪婪，而AGI並沒有這些情感，也沒有自我保護本能。可是如果他們有了自我意識，AGIs人工智慧開始為他們自己的未來AGI後代編程時，他們也會將這些思想傳遞下去……就像我們將自己的價值觀傳遞給後代一樣。

但假設有一台機器出了問題，無論是出於偶然還是出於人類邪惡的意圖，對其他AGIs都是很危險的，因此，AGIs將消除這類機器，出問題的單獨的機器很快就會被淘汰，這將起到很好的威懾作用。

那麼，人工智慧會發動核戰爭嗎？一般情況下，人類和AGIs的利益是一致的，戰爭對所有人都沒好處，我們要考慮的是人類和人工智慧利益不一致的情況，如疾病、饑荒和乾旱等問題對人類有毀滅性影響，但對AGIs人工智慧沒太大影響情況，如果機器有思想並開始建立他們自己的文明，他們同樣會採取措施將不和諧分子從系統中清除出去，未來的機器也將消滅他們自己，而且可能更加高效。

情景3:機器被壞人利用