終有一天機器會取代人類嗎？

昨天，教育部網站發布關於印發《高等學校人工智慧創新行動計劃》的通知。《行動計劃》提出，形成「人工智慧+X」複合專業培養新模式，到2020年建設100個「人工智慧+X」複合特色專業，建立50家人工智慧學院、研究院或交叉研究中心。《計劃》還要求在中小學階段引入人工智慧普及教育，並建立面向社會公眾的人工智慧科普公共服務平台。

有關人工智慧的話題，一直是坊間熱議的焦點之一。今天與諸君分享群學書院特約撰稿人陳欣的文章，也歡迎大家就此問題，深入交流。

終有一天人工智慧會取代人類嗎？

文 | 陳欣

在人工智慧發展史上，有關於「人工智慧究竟會不會終將超越人類，甚至統治人類」一直是大家爭執不休的話題。我們如何看待人工智慧與人類的關係，它是否成為天使或惡魔，或許，我們可以從人工智慧發展史上四次論爭中，尋求更客觀的探討和判斷。

01

20世紀60年代之爭：機器究竟是不是危險的？

半個多世紀前，天才的計算機科學先驅們，就開始關注機器自動化對人類可能帶來的「危險」。1960年，控制論之父維納發表了著名論文《自動化的某些道德和技術的後果》，在他看來，「機器能夠並肯定會超越它們的設計者的某些局限性，當這一天到來時，它們將是高效而又危險的」。

維納的反對者們，卻覺得他純屬杞人憂天，他們樂觀地強調，機器沒有自己的思想，只能根據事先被編入的內容產生其輸出。它不能輸出任何未經輸入的東西，諸如「下棋機器」之類所謂的「意圖」或「結論」，只不過是程序設計者的意圖。也就是說，機器不能擁有任何程度的創造力，人類製造的機器必然會持續地受制於人。

到了1962年，前蘇聯科學院院士索波列夫表示：「儘管沒有大腦，人就無法思維，但是人卻能夠創造能夠獨立思考的大腦」，之所以這麼說，是因為在他看來，人腦的一切活動，包括推理、情感、決策等等，實際上都可以還原為一系列的數字或代碼。

索波列夫的「超前」觀點，遭到了諸如盧卡斯等人的強烈質疑。在他看來，依靠數學與邏輯進行運算的計算機，是永遠無法完成對哥德爾所謂的「不完全性定理」的證明的，這就是機器不可能相同於人的最好的證明之一。他說，「我們不是在討論機器和人類誰高級，而是它們是否相同。在某些領域機器毫無置疑高級於人類；但永遠有另外一些領域機器無法取人類而代之。我們無法想像會有一個機器的模型能夠完全的表徵人的心靈」。

控制論之父諾伯特.維納（1894-1964）

02

20世紀70-80年代，人工智慧進入第一個「寒冬期」

1974-1980年間，人工智慧進入第一個「寒冬期」，人們對於AI樂觀派「發展擁有人類智慧的人工智慧」綱領產生懷疑。

1980年初，約翰?羅傑斯?塞爾（對，就是加州大學伯克利分校被女學生投訴性侵的著名哲學大神級人物）提出「中文屋」思想實驗，他以羅傑·尚克等人構想的「故事-理解」程序為依託，批判「程序即心靈」的觀點。

「故事-理解」程序的設計目的，是試圖模仿人類理解故事的能力。當被問及與故事相關卻沒有直接提及的信息時，人類可以表現出根據故事情景進行推斷的能力。尚克等人設想：如果存在這樣一台具有「故事-理解」程序腳本的機器，當人們向它展示相似的故事情節並問其同樣問題時，機器如果能夠像人類那樣給出預期的答案，那麼這台程序化的機器就是真實地理解了故事的意義，進而也就具有了真實的認知能力。

不過在塞爾看來，人工智慧或計算機不過是基於一系列語法規則進行符號處理的轉換機，它無法像生物大腦一樣進行語義解釋，計算機可以處理符號，但它不能理解這些符號背後的意義。

塞爾的觀點引發了大爭論。有從人工智慧可以間接實現上述手段，正面回應的。更多人苦於符號主義流派的人工智慧面臨瓶頸與困境，無法直接通過人工智慧工程領域的實際發展，用事實來批駁，只能從邏輯嚴謹性上批評塞爾。

毋庸置疑，塞爾「中文屋」思想實驗就科學嚴謹性上而言漏洞不少，但其直指當時人工智慧弱於「reasoning」的觀點長矛確實擊中對方軟肋，否則也不會引起眾多討論。就是2018年的今天，人工智慧研究仍在「reasoning」的問題上苦苦思解，業界依然承認其是目前最核心的問題。

約翰 賽爾的中文屋測試

03

20世紀90年代中後期：人工智慧終究會取代人類嗎？

1997年，伴隨著IBM公司 「深藍」計算機的出現，關於人工智慧風險的討論重又興起，不過，此時討論的焦點，已經從此前的「是否所有的人類活動均可以形式化」問題，轉化為「奇點議題」研究，人們開始發問：人工智慧最終真的會超過人類嗎？

2000年，尤德考斯基等創建了「奇點研究所」，其使命之一便是保證奇點項目實施過程中充分關注到其所內含的責任並保證讓其不偏離責任軌跡，保護奇點的健全性。

波斯特羅姆提出「存在性風險」概念，將人工智慧視為「存在性風險」之一，認為人工智慧領域的實驗已經進入意料之外且後果難以控制的疆域。

挑戰卡斯帕羅夫成功的計算機「深藍」

04

2012年後至今，以神經網路與深度學習為代表的大發展時期

2006年，多倫多大學教授Hinton等人發表論文，首次提出了「深度學習」概念，為解決深層結構相關的優化難題帶來希望。在2012年深度學習的運用大大提升了圖像識別和語音識別的準確率。神經網路模型在ImageNet競賽中的突破，引起了工業界強大的興趣。2017年5月，阿爾法圍棋與排名世界第一的世界圍棋冠軍柯潔對戰，以3比0的總比分獲勝。

在人工智慧學界和工業界一片大好形勢下，樂觀派認為奇點將加速來臨，雷·庫茲韋爾認為隨著未來信息技術得到空前發展，人類將超越自身的生物極限——生命。謹慎派則在默認技術發展的趨勢同時，提出要警惕人工智慧的危害。

2015年初，包括物理學巨匠斯蒂芬-霍金和spacex創始人馬斯克在內的一群科學家和企業家簽發了一封公開信，公開信警告稱，如果智能機器缺乏監管，人類將迎來一個黑暗的未來。隨後，關於人工智慧研究領域應優先考慮的AI 23條被提議，並形成文字綱領。

過去半個多世紀里，圍繞人工智慧的幾次大論爭，實際都可以歸納為人類關注的兩個核心問題：

第一，人工智慧到底是什麼？第二，人們需要警惕的是什麼樣的人工智慧？

05

弱人工智慧與強人工智慧

人工智慧的一個比較流行的定義，是由約翰·麥卡錫在1956年的達特矛斯會議上提出的：人工智慧就是要讓機器的行為看起來就象是人所表現出的智能行為一樣。

此後，學術界認為，麥卡錫這個定義，指的是「弱人工智慧」。所謂「弱人工智慧」，指的是能夠進行推理和解決問題的智能機器，這些機器只不過看起來像是智能的，但是並不真正擁有「智能」，也不會有自主意識。

與此相對應，強人工智慧觀點認為，有可能製造出真正能推理和解決問題的人工智慧。並且，這樣的機器能將被認為是有知覺的，有自我意識的。可以獨立思考問題並制定解決問題的最優方案，有自己的價值觀和世界觀體系。有和生物一樣的各種本能，比如生存和安全需求。在某種意義上可以看作一種新的文明。

因此，我們可以將強人工智慧分為兩類：類人的人工智慧，即機器的思考和推理就像人的思維一樣。非類人的人工智慧，即機器產生了和人完全不一樣的知覺和意識，使用和人完全不一樣的推理方式。

目前大多數科學家公認的是我們處於弱人工智慧階段。

06

目前仍處於弱人工智慧階段

為何說我們目前處於弱人工智慧階段？必須首先回答弱人工智慧和強人工智慧的區別，或者說目前的人工智慧相對於人類缺失什麼？

對於這個問題，金觀濤先生在《反思人工智慧》一文中已經做了部分回答。他從人類智能的基礎——記憶入手指出：記憶分「陳述性記憶」和「非陳述性記憶」。

所謂「非陳述性記憶」，比如騎自行車、游泳等，人們可以通過實踐來獲得，但卻根本不能用語言來描述它。我們學游泳或者學騎自行車的時候，儘管可以從教練那裡聽到很多技巧介紹，但是真正學會的那一剎那，其實完全靠自己的體會，或者說，連我們自己都不知道自己「怎麼一下子就學會了」。

與之相對的，是「陳述性記憶」，也就是說，人類能夠以符號系統予以表述的知識，可以被傳遞、重構、遺忘甚至歪曲。

金先生在符號主義基礎上提出，人類智能不同於生物本能之處在於，人不僅具備選擇的能力，還具備創造符號以及利用符號系統把握世界、並賦予世界意義的能力。人用語言傳遞知識，組織社會，產生社會行動。這一切會反過來使主體意識複雜化，社會意識就是由此起源的。

反觀當下現實，目前，人工智慧還處於連接主義、行為主義、符號主義共同發展時期。當下人工智慧主流學派——神經網路的深度學習，強化學習和對抗學習，對人工智慧的發展很大程度上仍是在其非陳述性的一面的進展。

然而，如果沒有陳述性記憶，知識不能經理性加工、傳遞，亦不能社會化。也就是說，僅僅用非陳述性記憶是無法理解最簡單的智能的。目前人工智慧相對於人類缺失的恰恰是創造符號的能力、賦以世界意義的能力、主體意識和社會意識等等。

07

未來人工智慧的走向

一種是我稱之為「同人」的強人工智慧。這樣的智能，與人有相同的知覺，相同的自我意識，可以獨立思考問題並制定解決問題的最優方案，有和人一樣的價值觀和世界觀體系。不過，這種假設實際是個徹頭徹尾的「偽命題」，如果真要發展此類強人工智慧，根本不需要使用腦科學+計算科學+電子工程+材料工程等頂尖技術去研發，只需要使用人類本能即可——生個寶寶並悉心培養。

與此相對，我稱之為「異人」的強人工智慧。這樣的智能，可能有知覺，有自我意識，可以獨立思考問題並制定解決問題的最優方案，也可能擁有價值觀和世界觀體系，但恐怕會是與人類完全不同的一整套體系。這也就是目前絕大多數人工智慧科學家默認的「強人工智慧」的含義。根據目前計算科學發展的演算法來看，大多數人工智慧演算法雖然不同程度的受到人腦科學的啟發，其本質邏輯還是不同於人腦的。

比如，同樣是「看東西」的視覺處理，無論計算機還是人，都有很強的物體識別能力，不過識別的原理並不相同。計算機演算法識別面孔主要是從矩陣表示的視覺信息中提取關鍵特徵並對其進行分類，為了加快識別速度，特殊場合還採用了數字信號處理晶元。而人的整套視覺系統，從視網膜到視覺皮層，都是利用海量神經元的群體活動完成表徵和識別的。

目前人工智慧研究加速發展，歸根結底來源於三種技術的急速發展：演算法、算力和大數據。從根本上說，這三種技術，都是建立在計算機本身特性基礎上，而非基於人腦的模擬的。

在中國率先成立的南京大學人工智慧學院院長周志華看來，

從技術上來說，主流人工智慧學界的努力從來就不是朝向強人工智慧，現有技術的發展也不會自動地使強人工智慧成為可能。

不妨看看現在人工智慧技術所取得的成功。在圖像識別、語音識別方面，機器已經達到甚至超過了普通人類的水平；在機器翻譯方面，便攜的實時翻譯器已成為現實；在自動推理方面，機器很早就能進行定理自動證明；在棋類遊戲方面，機器已經打敗了最頂尖的人類棋手……可以看出，上述成功有一個共同的特點：它們都是在考慮某種特定類型的智能行為，而不是「完全智能」行為。自主心智、獨立意識、甚至情感之類的東西，根本無須考慮。打個未必恰當的比方，如果人們的目標是造個工具砸東西，那麼造出鎚子來就好了，無須考慮讓鎚子有心智、意識，也不必考慮是否要讓鎚子自己感覺到「疼」。事實上，人工智慧研究活躍的子領域，都是與製造智能「工具」直接相關的；而對「強人工智慧」必不可少、卻與「工具」不太相關的內容，如自主心智、獨立意識、機器情感之類，罕有嚴肅的研究。所以，現有技術即便發展再快、發展再好，也不會直接使得強人工智慧成為可能。

當然，還有一種我稱之為「人機合一」的人工智慧，也就是人工智慧+人腦智能，利用目前人工智慧的成果和人類大腦智能連接，以人體、機器人和雲作為物理載體，實現強人工智慧，既利用人工智慧強大的局部／特定類型的模式識別能力，又發揮人類大腦智能利用小數據即可「舉一反三」的遷移學習能力，同時讓此混合智能也具備了人類特有的自主心智，獨立意識，情感、價值觀和社會意識等。

目前這一智能演進方向的代表技術就是「人機介面」研究和人類大腦逆向工程。這種智能實現路徑區別於「異人」的強人工智慧，發展技術路線大大縮短了實現時間，這一下讓強人工智慧變得「觸手可得」，其也讓混合智能的主體倫理變得需要立即探討了。

用學者蘇令銀先生的話說，我們所建構的人與機器人的關係是如何形成的，很大程度上不僅取決於我們如何談論機器人，取決於我們人類如何與機器人生活在一起，取決於我們社會中技術的發展，也取決於我們的文化及其信仰的維度，是這些因素激發了特定道德地位的歸因。

作者簡介

陳欣，南京大學社會學系本科畢業，繼而三年研究生學習，曾任知名房地產公司高管，中途懷著對科技的熱情，與人合夥搞起了智能硬體和自動化，近兩年一直關注人工智慧發展，並積極投身到人工智慧教育與普及事業中，也在此過程中不斷加深了（雖仍是淺薄的）對人工智慧的認識，並愈發覺得社會科學理論對人工智慧發展的參考意義，社會科學也會因人工智慧技術的推動而愈發可計算。

《奇點臨近》

Ray Kurzweil 著

機械工業出版社2011年

人工智慧作為21世紀科技發展的最新成就，深刻揭示了科技發展為人類社會帶來的巨大影響。本書結合求解智能問題的數據結構以及實現的演算法，把人工智慧的應用程序應用於實際環境中，並從社會和哲學、心理學以及神經生理學角度對人工智慧進行了獨特的討論。本書提供了一個嶄新的視角，展示了以人工智慧為代表的科技現象作為一種「奇點」思潮，揭示了其在世界範圍內所產生的廣泛影響。本書全書分為以下幾大部分：第一部分人工智慧，第二部分問題延伸，第三部分拓展人類思維，第四部分推理，第五部分通信、感知與行動，第六部分結論。本書既詳細介紹了人工智慧的基本概念、思想和演算法，還描述了其各個研究方向最前沿的進展，同時收集整理了詳實的歷史文獻與事件。

雷·庫茲韋爾曾發明了盲人閱讀機、音樂合成器和語音識別系統。為此他獲得許多獎項：狄克森獎、卡耐基梅隆科學獎。1988年，麻省理工學院提名他為「當年傑出發明家「。他曾獲9項名譽博士學位，2次總統榮譽獎。庫茲韋爾也是一名成功的企業家，他用他的發明創辦了自己的企業，開發出多項造福人類的高科技產品。庫茲韋爾是多部暢銷書的作者。他1990年出版的《智能機器的時代》成功地預言了電腦將在1998年戰勝棋王，該書獲得了美國出版協會「最優秀的計算機科學著作」獎。 庫茲韋爾現任奇點大學校長。

特別鳴謝

江蘇省慈善總會鄭鋼基金

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！