與金觀濤先生商榷

陳自富/上海交通大學科學史與科學文化研究院

《文化縱橫》微信：whzh_21bcr

［導讀］2017年8月刊《文化縱橫》登載了金觀濤先生的《 反思「人工智慧革命」》一文，本文系對這篇文章的評論和回應。作者指出，金先生在文中表達的觀點非常具有啟發性，然而，金文的論據——當代人工智慧研究中用神經網路自動機代替符號主義，從而忽視了人類智能的符號形式化能力，存在著重大的瑕疵。回顧人工智慧研究的歷史可見，現在我們對「智能」的認識不僅沒有退步，反而可能比歷史上更加豐富和完整。

最近，金觀濤先生在《文化縱橫》雜誌2017年8月刊發《 反思「人工智慧革命」》一文，對AlphaGo以來人工智慧革命的最新發展進行了反思，提出在這場革命中，研究者對人類智能及其與社會的關係認識混亂，反映了當代人文精神逐步喪失、科學被技術異化的局面，從而導致現代社會包容科技革命的能力退步。金先生在文中表達了這樣一種觀點：我們應從更廣泛的社會和文明進化視角，及人類獨特的認知能力出發，重新審視對「智能」的認識，保持人類社會進步的內在動力，避免人類在面臨人工智慧挑戰時陷入智能退化和長期衰退。

金觀濤先生在文中的結論基本是今天面對信息文明高度繁榮的學者們的共識，科學與人文的隔閡甚至對立，對人類科技進步中社會性因素的忽視，導致了技術理性的張揚和人文精神的退化，是現代社會面臨的一個重大問題，但金先生分析這個問題的視角和背景卻獨樹一幟：即從當前最流行的人工智慧發展浪潮中剖析，從而得出因為對人類智能的理性認識不夠全面，導致（或者至少是加劇）當代社會面對人工智慧革命時可能產生的種種憂慮的結論。

但是，金先生這個視角的根本論據，從人工智慧發展歷史來看似乎不成立。金文的論證起點是認為當前人工智慧革命是一場「退回到原點的運動」，過去的研究對人類智能的理性認識出現了重大倒退，從而導致對智能發展中社會和人文因素的忽視。由此金先生給出了一些非常強的表述，例如： 「神經網路自動機的研究和製造突破了物質和技術條件的限制，這就是今天的人工智慧"革命"， 既然早在20世紀40-50年代，AlphaGo的工作原理已得到清晰認知，為什麼當時神經網路自動機的功能沒有被冠以人工智慧之名呢?」[1]

金先生對當代人工智慧研究中關於「智能」觀點的批評大致可以總結為：

（1）神經網路自動機就是當前人工智慧的革命，但它反映的是生物本能而不是人類智能，從控制論的角度來看，就是將人類複雜的智能行為簡化為機器對外界刺激的反應和反饋，從而還原到心理學上的行為主義解釋。

（2）當代人工智慧「革命」的核心是神經網路技術，這種復興是對人工智慧歷史上符號主義的反叛和倒退。

（3）即使是歷史上人工智慧理論中的符號主義，也沒有準確地反映人類智能，而只是反映了人類智能中一部分基於符號的形式化能力。[2]

因此，金先生所指出的倒退，是指當代人工智慧研究中用神經網路自動機代替符號主義，從而忽視了人類智能的符號形式化能力，但是人工智慧的發展歷史和現狀表明，「反思"人工智慧革命"」中的這個論據，存在著重大的瑕疵。

我們首先分析一下當前人工智慧研究共同體對「智能」的最新認識，例如微軟亞洲研究院院長洪小文指出智能機器的能力分為以下四個級別：

（1）功能（Capability）：是日常工具的價值點，例如車輪、鎚子的功能用途等；

（2）智能（Intelligence）：包括記憶力、計算力等，可以採用定量方法來測試；

（3）智力（Intellect）：包括人類獨有的判斷力、創造力等；

（4）智慧（Wisdom）：指來源於社會、文化和歷史沉澱的經驗所形成的綜合性能力.

洪小文同時認為迄今所有的人工智慧成就都只達到了功能（Capability）和智能（Intelligence）級別，其未來的目標是向智力和智慧邁進。[3]劉鋒在《機器人與谷歌大腦--人工智慧的6個智能分級》一文中，也將人工智慧從0級到5級分為6個智能等級，其中人類是第5級智能系統的典型範例，具備創新、創造和知識生產或消費的能力。[4]

因此，從研究共同體的最新觀點來看，智力和智慧、第5級人工智慧與金先生在文中指出的人類智能與自由意志、語言、社會文化高度關聯的觀點是吻合的，因而很難得出當前人工智慧研究中對「智能」的理性認識更為退步的結論。

從歷史來看，人工智慧的研究綱領呈現出一幅多元論場景，雖然具有共同的目標：建造可以執行「人類能完成的任務」的智能機器，但各個學派對於什麼是人類智能並無一個明確的定義，甚至由於不同的研究傳統，在上世紀50-60年代中後期，關於「人工智慧」的命名都存在差異：英國受傳統控制論影響較大，在1956年達特茅斯會議之前，習慣稱「機器智能」，而卡內基理工學院的赫爾伯特·西蒙和艾倫·紐厄爾從信息加工的視角出發，則用「複雜信息處理」（CIP: Complex Information Processing）這個名詞，至於達特茅斯會議上約翰·麥卡錫發明的「人工智慧」這個詞，主要是想表達與抽象自動機研究的不同點。總之，人工智慧研究歷史從一開始就未必存在金先生文中呈現的場景：研究者對人類智能具有符號主義立場的統一觀點。[5]

早期人工智慧研究的實際情況是人們並未能嚴格對人類智能和機器智能做出明確區分，而是從信息加工、對環境複雜性的反應、邏輯或語言能力等多個不同的維度來刻畫尚處於萌芽狀態的人工智慧。「人工智慧」這個名詞的基本統一以及大學中計算機系的建立，差不多要到60年代中後期才完成，而且當時聯結主義和符號主義的研究也處在競爭狀態，符號主義佔據強勢地位的局面，是在1969年馬文·明斯基和西摩爾·派珀特出版《感知機》一書，對康奈爾大學心理學家羅森布拉特的感知機研究加以批判後才出現的。80年代派珀特回顧此事時，將早期人工智慧時期的神經網路和符號人工智慧比喻為控制論的兩個女兒，她們剛開始都同樣成功，都有來自其他知識領域的追求者，但60年代之後，DARPA老爺的出現改變了這一切，神經網路被殺死了，這同時也從側面表明對智能的認識受到了外部社會力量的干擾。[6]

其實在人工智慧研究史上，智能研究的理論基礎一直受到高度重視，並且也有過多次重大的爭議和討論。例如，1987年在麻省理工學院人工智慧實驗室、國家科學基金會、美國人工智慧學會的支持下，麻省理工學院召開了一次關於人工智慧理論基礎的研討會，與會的學者被要求提交一篇表明他們理論立場和原則的論文，在此基礎上，《人工智慧》雜誌將會議成果通過1991年第47卷（第1期到第3期的合集）的《人工智慧的基礎》專輯出版。在這本專輯中，對當時人工智慧不同研究綱領的核心爭論歸結為以下5個假設：

（1）人工智慧的核心是概念化的研究，應從知識級別水平上開始；

（2） 認知可以在沒有解決符號接地問題的情況下作為非具身的過程來研究，即可從感知和動作中分離出來進行抽象研究（註：符號接地問題指符號如何獲得現實世界語義的問題）；

（3）認知可以很好地在命題項中描述，即認知動力學是語言驅動的，類似於自然語言（如英語）的一個邏輯－數學版本；

（4）我們可以將認知從學習中分離進行研究，即認知動力學和認知所需的知識可以與概念學習、心理發展以及進化變異分開研究；

（5）所有的認知存在一個統一架構。

而不同研究綱領對於這5個假設具有如下不同的立場：[7]（見下表）

與金先生在其文中描述不同的是，當時人工智慧在研究實踐中並不是簡單存在符號主義和聯結主義這種涇渭分明的二元對立。行為主義認為智能是通過行為表現的，肯定人與動物在生物學上的連續性，強調有機體對環境的適應行為，把心理、意識、情感等都歸結為行為，實際上把智能視作一個從動物到人類的連續體，而目前人類級別的智能是從與環境的交互中進化而來的。這種看法如西蒙所表述的：螞蟻和人類行為的表面複雜性在很大程度上是其所處環境複雜性的反映。[8]至於行為主義在工程上的實現方式，究竟是採取符號或是神經網路的方法，從行為主義學者羅德尼·布魯克斯的研究來看，並不是那麼絕對。[9]金先生在文中將聯結主義與心理學中的行為主義等同起來，其實並不是人工智慧研究中的真實情況。

由於人工智慧具有工程和科學兩種不同的維度，或稱之為人工智慧的工程觀和科學觀，前者並不以理解人類智能為前提，主要是利用計算機、數據等資源通過演算法加工來完成人類實踐生活中的任務，後者則需要從人類智能原理出發來實現人工智慧，是否以當前馮·諾依曼結構的傳統計算機作為工具並不重要。因此討論人工智慧是否存在AlphaGo之後的神經網路自動機革命，並不是一個嚴謹的說法。例如當前的類腦計算研究，是放棄傳統的馮·諾依曼型計算機，改為從結構上模仿人腦來開發晶元，從而希望從結構模擬中的功能湧現中來產生智能。

對人類智能的認識是科學家當今面臨的最大難題之一，在研究過程中由於對科學原理的不了解，不得不在工程上進行簡化，即不對智能做任何明確的定義，而是在利用人工智慧探索智能行為機制的過程中來逐步了解和解釋智能的本性，這是當前研究中的一種重要傾向，這種工程上的智能觀有助於消除對智能的哲學蒙昧主義，是任何具有工程和科學雙重性質的技術性科學中不得不採取的務實態度，沒有這種務實態度，簡單地將工程實踐和原理在認識論上對立起來，可能會對知識的進步產生不利影響。

雖然現在深度學習在圖像識別、語言處理等特定領域取得了比以前更大的成就，但據此認為神經網路就是人工智慧唯一的統治性綱領還為時尚早，而且神經網路和符號主義並不是完全對立的。例如符號主義研究中一個核心的概念是表徵，但早在1986年聯結主義的「聖經」，即由魯梅哈特、麥克萊蘭主編出版的兩卷本論文集《平行分布加工》中，斯摩棱斯基就指出神經網路和表徵存在某種關係。[10]明斯基和派珀特在1988年再版《感知機》一書時，仍未改變其對神經網路研究的批判性觀點, 他們論證新的神經網路仍然只能處理玩具世界的問題，整個理論結構仍然只是奠基在流沙上，對於規模放大後是否能達到目標還是一個問題。另外，如果神經網路是整個大腦的模型，那麼聯結主義和符號主義是不兼容的，如果只是大腦的部分模型，那麼兩個研究綱領將會是互補的。[11]現在來看，包括符號主義、聯結主義乃至行為主義的多種視角，應該都是對人類智能在不同層次的刻畫。

人工智慧不是理論物理學那樣高度成熟和形式化的科學，不具有嚴密的理論形式，但是其經驗性定律及其使用的概念框架、假設也是在特定的歷史和文化條件中形成的，具有其自身的形而上學背景。因此這些定律和概念框架與常識知識的實在表述不一致時，往往會帶來與經驗定律的衝突，但這種衝突可以通過對其定律、理論假設和模型的科學解釋，來彌合表達日常經驗的常識語言與其定律解釋之間的差距，從而推動人工智慧學科理論的成熟。

問題是對於經驗定律或理論模型的科學解釋是依賴於語境和具體實踐的，這種語境在解釋學的背景下用海德格爾的術語「前結構」來表達，反映了解釋者所處的歷史、文化和社會背景。金先生就是從傳統控制論的背景出發，將當前人工智慧和社會的關係，從認識論的角度還原到了錯誤的概念辨析中，而忽視了人工智慧歷史的實證研究中，對智能概念具有非常豐富的維度和演化過程。

在這個意義上，金先生文章中作為起點的論據：當前人工智慧革命中對「智能」概念的認識是一次重大倒退，似乎與人工智慧歷史的實際發展相反，從早期人工智慧研究中對「智能」 概念的樸素性認識開始，經過長期的爭論以及工程實踐後，科學家已經對「智能」概念有了更加豐富的認識，不僅意識到社會文化因素對人類智能的重大影響，而且也意識到當前人工智慧所面臨的重大困難，認為實現人工智慧的目標將是一個長期的任務。因此，現在我們對「智能」的認識不僅沒有退步，反而可能比歷史上更加豐富和完整。

本文並未對金觀濤先生在文中闡述的結論持有異議，他在文中表達的觀點非常具有啟發性，但筆者認為對於如何達到這樣的結論，其論證的過程似應基於更加確定的論據和更完整的路徑，謹以此小文與金先生商榷，希望能對人們當前所面臨的技術理性張揚、人文精神逐步退化的問題有所裨益。

注釋：

[1][2] 金觀濤：《反思「人工智慧革命」》，載《文化縱橫》2017年8月刊。

[3] 洪小文：《我們需要什麼樣的機器人》，載《中國計算機學會通訊》2014年第10期。

[4] 劉鋒：《機器人與谷歌大腦--人工智慧的6個智能分級》，載《中國計算機學會通訊》2016年第12期。

[5] 陳自富：《研究綱領衝突下的人工智慧發展史：解釋與選擇》，上海交通大學2017年版,第21?31頁.

[6] Papert S. One AI or many?// The artificial intelligence debate: false starts, real foundations. MIT Press, 1989,13?14.

[7] Kirsh D., 「Foundations of AI: The big issues」, Artificial Intelligence, Vol.47(1991).

[8] 司馬賀：《人工科學--複雜性面面觀》，武夷山譯，上海科技教育出版社2004年版，第48?76頁。

[9] 陳自富：《研究綱領衝突下的人工智慧發展史：解釋與選擇》， 上海交通大學2017年版,第44-48頁。

[10] Rumelhart D E, McClelland J L., Parallel Distributed Processing, The MIT Press, 1986, pp.75-78.

[11] Marvin Minsky, Seymour Papert. Perceptrons: An Introduction to Computational Geometry, MIT Press, 1988, pp. xiv-xv.

本文刊於《文化縱橫》2018年2月號，原標題：我們對「智能」的認識退步了嗎？--與金觀濤先生商榷。圖片來源於網路，歡迎個人分享，媒體轉載請聯繫本公眾號。

文化

縱橫

打賞不設上限， 支持文化重建

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！