人工智慧作為科學與技術的兩重性

全球技術地圖

創新丨前沿丨科普丨資訊

人工智慧是科學技術的前沿，不僅影響當下人類社會的方方面面，而且關係到人類的命運。正因為此，人工智慧引發來自科技界內外的廣泛關注和爭議。

人工智慧是科學技術的前沿，不僅影響當下人類社會的方方面面，而且關係到人類的命運。正因為此，人工智慧引發來自科技界內外的廣泛關注和爭議。這些爭論大致可以歸為三類：

其一，人工智慧是否會危及人類的命運；

其二，強人工智慧與弱人工智慧的競爭與合作；

其三，強人工智慧與弱人工智慧各自內部發展路徑辨析。

本文探討第一、二兩點，這兩點都涉及對人工智慧的科學屬性與技術屬性的理解。人工智慧一身而二任，既是科學，也是技術，是科學和技術的一體化。

無論置身於其中的業內人士還是身處局外的觀察者，實際上自覺不自覺地不是把人工智慧歸為科學，就是認作技術。在某種意義上可以說，眼下關於人工智慧的種種爭論，或多或少均與此有關。

一、強人工智慧與弱人工智慧

1.強、弱人工智慧——科學與技術

強人工智慧與弱人工智慧之爭可以歸結到科學與技術的關係。相對而言，強人工智慧強調跟隨並再現人的自我意識，偏向於認為人工智慧是探索人腦與意識的科學；弱人工智慧則沿著圖靈的思路，認為人工智慧能夠執行人腦相應的功能而得到應用即可。顯然，在弱人工智慧一方的心目中，人工智慧是技術。

正因為強人工智慧與弱人工智慧的背後有科學與技術之分，所以二者的思路和發展路徑存在種種差異。

強人工智慧的目標是發現未知，揭示人腦及其運行背後未知的秘密，核心是主體的意向性。強人工智慧的驅動力是其背後人類數千年如一日的好奇心，是一往無前永不遏止的探索精神。

作為科學，強人工智慧清楚肩負的重任。且不要說人類的「意向性」，身邊貓狗等寵物的意向性說的清楚嗎？有必要沿生物進化的路徑回溯，先從模擬昆蟲、魚和哺乳動物的大腦開始，再一步一步進階到對人腦的模擬。「強人工智慧還太遠了。」（北京航空航天大學自動化學院副教授秦曾昌）。

面對如此宏大的目標，眼下的弱人工智慧，哪怕是阿法狗，還是阿法元，只能是一個字：「弱」；而那些媒體為此的搖旗吶喊，只能是泡沫，從而給人工智慧，特別是弱人工智慧潑冷水。

強人工智慧嘲笑弱人工智慧之「弱」，距人的智能何止千里之遙。「中文屋子」與其說是「懟」強人工智慧，不如說是在羞辱弱人工智慧。強人工智慧要求揭示功能背後的結構，必須以「具有意識功能的材料為基質」（中山大學人際互聯實驗室主任翟振明），譬如說「微管」，由結構解釋功能，在量子層面闡明意識的本質，以知其所以然。

潘建偉認為，「不到量子人工智慧的時代，我是一點兒不擔心人工智慧會取代人類。」馬兆遠認同這一點，在由納米尺度理解意識之前，「人工智慧至少在三百年內還沒什麼機會超越人腦」。

站在技術的立場，弱人工智慧則認為強人工智慧沒有必要，實現功能無需捨近求遠，不如且行且進。如果人們的目標是製造「工具」，那麼考慮特定類型的智能行為就已足夠，何必再去考慮獨立意識（南京大學教授、計算機軟體新技術國家重點實驗室常務副主任周志華）？

一部技術史，從工作機-動力機-控制學習機的線索來看，工作機、動力機、控制學習機，分解開來，逐一攻克。汽車並不是馬，電機和熱機未必如九牛或二虎，電腦雖在普適與情感等方面不如人腦，卻越來越多的個別場合勝似人腦。

從科技黑箱的視角看，使用者只在乎其能否執行功能。就此而言，科技黑箱並不介意牛馬的結構，從基本物理運動、化學運動、生命運動一路走來，突破曾經的一個個界限，在實際上同樣進入意識運動的王國。

弱人工智慧的目標是看得見的眼前，數年或數十年，在一定程度上可以預測，滲透到經濟、社會和文化的各個領域，在個別的特定的領域逐一替代人。所謂「個別」、「特定」，就是邊界明確，規則嚴密，賞罰分明，也就是有「激勵機制」。弱人工智慧，在這些特定的領域攻城略地，日益，以及堅定地擴大自己的營地。

從知識論的視角來看，弱人工智慧把人的日常生活與工作中有規可循的行為編碼編程，大數據加演算法加算力，做成控制學習機。再結合工作機與動力機，腳踏實地步步為營，對人工智慧持樂觀立場，集腋成裘，在近數十年間將會迎來「奇點」。

其實，歷史地看，科學和技術的發展都離不開對方的支撐和拉動，已經有太多的研究成果說明了這一點，人工智慧至今的發展同樣是科學和技術，在某種意義上，也就是強人工智慧與弱人工智慧，雙方攜手並進的結果（此處期待業內人士拍磚和完善）。

2.強人工智慧人機迴圈中的「機」與「人」

如果接受這一觀點，那麼不難看出，筆者在（人機迴圈：人類的科技化與科技的人文化（序及綱要）；人機迴圈：人類的科技化與科技的人文化（一、2）「機」的演化…人機迴圈：人類的科技化與科技的人文化一、人機迴圈中的「機」）中所分析的「機」，工作-動力-學習機，以及科技黑箱，都是把人工智慧看作是技術。

既然如此，作為科學的強人工智慧，「機」的含義自然有所不同，那就是科學研究過程中所提出的「模型」，例如一個多世紀前對於原子的「葡萄乾麵包」和「行星式」模型，關於銀河系的「水缸里的漩渦」模型，以及DNA的「三螺旋」和「雙螺旋」模型等。對於強人工智慧來說，「機」，也就是模型，主要並不有意實現什麼功能，而是旨在認識大腦的結構，理解和揭示意識的本質，這是模型的目標：人的大腦和意識。

強人工智慧與弱人工智慧的人機迴圈中的「機」不同，人機迴圈中的「人」也不同。在作為技術的弱人工智慧看來，人機迴圈中的人是現實社會中的各色人等；那麼作為科學，既然強人工智慧中人機迴圈的「機」是認識過程中的模型，那麼人機迴圈中的人就不是現實社會中的人，而是人作為「類」的典型。

在一次次迴圈中，模型無限逼近原型。眼下的一項最新進展是麻省理工學院的「類腦晶元」[i]，人造突觸，是可以用於終端的攜帶型低功耗神經形態晶元，可將人腦能力「複製」到晶元，從而為實現神經網路硬體化打下堅實的基礎。

值得注意的是，強人工智慧在某種意義上沿襲了西方近代以來的步點。秉承笛卡爾的「認識論轉向」，「腦」登場，「心」只是「處理機械自然中為物理學無法解釋的一切感性經驗的傾倒垃圾的場所」[ii]。所以需要「以頭立地」，重「知」（智）輕「行」。

然而，人是「工作機-動力機-控制學習機」的融合，不可分割。身體，不僅是工作機和動力機，而且全方位參與認知與實踐活動。這就是「全身心」，心智合一，靈與肉不可分離。

如果考慮到身心合一，那麼強人工智慧人機迴圈之「機」，就必須以一個完整的人作為「迴圈」的目標。2016/9/25上海AI小組閉門討論會稱，生命形態的不完整情況下發展的人工智慧為「偽智能」。

或許正是在此意義上，喬布斯曾在自傳里預言：20世紀80年代是IT時代，而21世紀絕對是基因科技時代。生物技術將從技術之「機」和科學之模型兩個緯度推進人工智慧。

考慮到科學與技術之間的互動，作為技術的弱人工智慧中的「機」與作為科學的強人工智慧中的「機」，也就是科學模型之間的互動，有待拓寬和強化。（此處同樣期待業內人士拍磚和完善）

二、人工智慧雙刃劍

科學技術是雙刃劍，這一點已經在科技界和社會上形成廣泛共識。人工智慧也是雙刃劍。分析強人工智慧與弱人工智慧雙方對人工智慧雙刃劍的立場會饒有興味。

1.科學與技術，何者更是雙刃劍

科學技術是雙刃劍，這一說辭籠統了。進一步的分析可以發現，科學與技術相比之下，技術更是雙刃劍。

可以在自然與社會之間設一譜系，將人類的各項活動排序。相對而言，科學更接近自然，技術更靠近社會。科學源於好奇心，強調自由探索，「為科學而科學」，其成果是與特定的主體、對象和語境無關的非嵌入編碼知識。

科學的成果雖然可以為各方所用，但科學本身止於認識階段。作為認識活動，科學與社會的互動主要在觀念層面，科學實驗雖然是實踐活動，但目的主要是為了認識，而不是效益。

技術旨在效用和控制，需要調動更多自然和社會資源，其成果滿足特定社會成員的特定需要。作為實踐活動，技術需要社會調集更多資源，技術的成果（科技黑箱）也會更直接廣泛影響社會。

技術與社會之間在經濟、政治和文化諸領域發生全方位的互動。較之科學來說，技術的雙刃劍效應，無論是正面還是負面，都更為顯著，更為「鋒利」。如果說作為認識活動，「科學無禁區」，那麼作為產生後果的實踐活動，技術必須有禁區。由此可見，技術必須更多顧及負面效應。

2.人工智慧雙刃劍的不同立場

弱人工智慧一方把人工智慧看作是技術，因而人工智慧必須考慮可控與效益，考慮雙刃劍的負面效應。技術有禁區。因而擔心人工智慧最終影響人類的命運，霍金（科學家可以持人工智慧是技術的觀點，或者其成果終究會轉化為技術，從而關注其負面效應）與馬斯克是持這一觀點的代表人物。他們擔心的威脅，實際上是來自強人工智慧。「嚴肅學者不該去碰強人工智慧」（周志華）。如果限定在弱人工智慧，則只會是人類乖巧而順從的助手。

如果看作是科學，更多強調自由探索精神，科學無禁區。難道「強人工智慧是潘多拉魔盒？」（北京郵電大學人機交互與認知工程實驗室主任劉偉）[iii]。

即使是「潘多拉魔盒」，如果因此「說不要研究強人工智慧，這就有些一廂情願了。因為強人工智慧是科學發展的必然趨勢。」

回顧一部科學史，劉偉所言不差。合成尿素打破無機與有機的界限，生命科學和生物技術架起通往生命的橋樑，往日的界限已經攻克，意識運動同樣沒有禁區。

大腦，即使加上身體，全身心，無論多麼複雜，無限，畢竟是「已經生成」之物（或弦）；人工智慧，無論是「強」還是「弱」，其發展卻無窮無盡。這一點與《三體》中描繪的「黑暗森林」類似。這一追趕的步伐，在弱人工智慧看來近在咫尺，就在數十年後，即使在強人工智慧心目中，也就數百年。

3.人工智慧雙刃劍前景

先看作為技術的人工智慧。

科技黑箱將越來越黑。除了少數科技精英，人類中越來越多的人將不知其運行的機理，而科技精英的解釋如「糾纏」、「疊加」、「塌縮」，則往往令常人如雲里霧裡，甚至科技精英也無法以經典的科學概念解釋得出的結果，乃至求助於已「恭候多時」的佛教徒。

與此相反的趨勢是，在相當程度上正是因為越來越黑，所以科技黑箱在操作上越來越簡單。

上文述及，科技黑箱沿量子階梯上升，由無機到有機、生命，以及大腦，從生理到心理；工作機越來越能幹，動力機越來越強大持久，控制學習機越來越聰明，因而對人類社會的影響在正負兩方面都越來越大。這一點再加上雙刃劍越來越黑，越來越簡單，因而雙刃劍那一刃都變得越來越鋒利。

人性有兩個根本的弱點：自利與有限。無自利，或許唯有耶穌和佛陀。有限，不可能洞察一切。沿弱人工智慧的途徑，人工智慧的發展將最終超越人性的弱點。弱人工智慧沒有自我意識，意味著無所謂「自利」， 無關尊嚴、榮譽，對於所有的情感「沒感覺」，而是遵循規律。弱人工智慧不是克服，而是繞過人性的自利。而在時空上無窮無盡的大數據和超凡脫俗的計算能力則超越人之「有限」。

「讓機器工作，讓人們思考」，這是2011年9月22日，IBM公司在計算機紀元50周年的題詞。這十個字是弱人工智慧的宗旨。

回顧歷史，在普里戈金的分岔圖上，每一次科技創新或多或少都是一次分岔。每一次分岔，往往針對上一次創新的不足之處與負面效應，換言之，人類畢竟還擁有一定程度的控制權，可以由新的分岔彌補修正上一個分岔的負效應。

展望前程，人類正在越過的是人類歷史上最大，或許也是對於人類來說的最後一個分岔。人工智慧的發展將可能一勞永逸地結束人類社會歷經萬年，「從分岔到分岔」的「曲折前行」的道路。

再看作為科學的強人工智慧。

即使在不涉及實踐後果的純粹的認識領域，強人工智慧同樣有令人毛骨悚然的效應。在圍棋界，來無蹤去無影的「棋感」已被阿法狗解密。試想，例如在人類最神奇私密的愛情領域，強人工智慧將其中難以乃至不可言說的微妙之處一一解碼，娓娓道來，以示天下，人類還花前月下，談情說愛嗎？要是同情心、審美和宗教情懷都可以在「微管」與量子的層面上得到解釋，這一說辭不禁令人想起歷史上曾經的還原論。

強人工智慧與弱人工智慧的一個共同點是，踏在往日科學技術的肩上，沿量子階梯和運動形式升高，直至生命和意識。

斯蒂芬·沃爾夫勒姆（Stephen Wolfram）表示[iv]，模仿人類，既是錯誤的路線，又是唯一可行的路線。

強人工智慧與弱人工智慧結合，能否是「上帝的歸上帝，凱撒的歸凱撒」的模式。人，照看自己的靈魂，做出決策；機，人工智慧從事計算，提供決策的依據和選項。「人心機腦」，是可欲的理想，還是一廂情願？

人是雙刃劍。

雖然有上述種種反思，但是強人工智慧也好，弱人工智慧也好，二者的相互結合也好，人工智慧繼續推進的趨勢不可阻擋。說到底，在這一趨勢的背後，依然是人工智慧苦苦追尋並試圖超越的人性。

人性推動人工智慧超越（否定）自身。科技雙刃劍的根源是人。

人自身就是雙刃劍。一刃是善，一刃是惡；一刃是自我控制，一刃是放縱自我；一側是對世界無窮的知與控制的慾望，另一側是有限的認識和實踐能力；一邊是對不確定未來的嚮往或恐懼，一邊是對確定往事的留戀或背離。

說到底依然是兩句話：人是自利的，人是有限的。

前者的表現之一是控制欲，控制自然，控制他人，與此同時則是放縱自我。個人的控制與放縱，在人際就是控制與反控制。

後者在於，由於自然界（大腦）的極端複雜、相互關聯與不確定，由於人（國）際關係的博弈或合作，以及由於主觀能力所限，人不可能把握全局，不可能預知未來。

回首往事，歷歷在目；展望未來，充滿了分岔和不確定。兩千年前，伊壁鳩魯的原子論認為原子的偏斜造就了世界，上世紀居里的名言是，非對稱創造世界。或許應該補充的是，非對稱也會毀滅世界。

潘多拉魔盒釋放了科技，也就是釋放了雙刃劍。打開了，就不可能再關上。

弗洛伊德在1930年寫道，能否理解，文明在多大程度上是建立在對本能的滿足之上，又是在多大程度上是以對強大的本能的力量（以壓迫、鎮壓或別的方法？）不予滿足為前提？

凱文·凱利謹慎地表示，互聯網產生的相當大一部分都是不好的。但只要互聯網的積極的一面僅僅比負面效應多出1%，我認為這1%會年復一年地滾動，歷經數十年甚至上百年的複合產生收益。所以，為了長遠獲得正效應的複利，現在互聯網產生的正面效用，必須要比負效應哪怕多那麼一點點。

本能（好奇、控制……）或許正是比對本能的控制大了1%。正是這1%的不對稱,「建構」了迄今的文明史。除了邪教，幾乎所有的宗教都在於勸誡放棄對自然和他人的控制，代之以控制自我。

要是宗教大獲成功，或許人類將止步不前；要是沒有宗教，人類將自我毀滅。

自然界，正物質恰好比反物質多了「一點」，那多出來的「一點」構成了人類和大千世界。

說到底，人自身雙刃劍的不對稱，這才是科技雙刃劍——無論是正面還是負面——的原動力。

只要人類一息猶存，就不會停下好奇與控制的腳步；只要人類不停下探索與支配的步伐，最終的征服對象就是人類自己。這是人類最大的悖論。

向死而生，這是哲學家對個人的教導，現在成為人類本身的宿命。

人類，能否鳳凰涅槃浴火重生……

[1] 鑒於科學與技術之間沒有截然分明的界限，強人工智慧與弱人工智慧之間也沒有截然分明的界限，因而本文中的論述也會帶有這一印記。

[i]http://mp.weixin.qq.com/s/UkIBPqfVJ4_wbOcwQPZv3w

[ii] 伊·巴伯．科學與宗教．成都：四川人民出版社，1993．35

[iii] 強人工智慧是潘多拉魔盒嗎？秦曾昌、翟振明、周志華、劉偉，2018-02-05《科技日報》：張蓋倫http://blog.sciencenet.cn/blog-40841-1098625.html

[iv] http://www.php230.com/weixin1430105795.html

作 者 簡 介

呂乃基 男，1945年11月生，上海市人。教授。1967年畢業於復旦大學化學系。1981年研究生畢業於復旦大學哲學系，獲碩士學位。

現為東南大學科技與社會研究中心主任，中國自然辯證法研究會理事。1967年畢業於復旦大學化學系。1981年研究生畢業於復旦大學哲學系，獲碩士學位。

呂乃基教授學術研究興趣廣泛，涉及科學與文化的關係，科技革命與中國社會的轉型等。近年來，在技術哲學和技術論領域有較為深入的研究，在學術界具有廣泛影響。發表論文80餘篇，著作、譯著7部（含第一作者），主編3部。

成果獲江蘇省哲學社會科學優秀成果二、三等獎、中國圖書獎。主持完成科教興省（獲國家科技進步三等獎）的子課題技術創新的社會環境。今年來，在南京大學、中央黨校、北京科技大學以及台灣大學、台灣政治大學、成功大學和香港科技大學等高等學府以及北京、廣東、浙江、四川、山東和江蘇等地多次講演並受到熱烈歡迎。

編譯丨呂乃基

轉自丨呂乃基科學微博

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！