UC Berkeley教授：還原論遠不是通向人工智慧的坦途

機器之心原創

作者：Junpei Zhong

參與：Yang Haojin、黃小天、蔣思源

Alva No? 目前是加利福尼亞大學伯克利分校的哲學教授，他的研究領域主要有認知科學、分析哲學的起源、現象學、心靈哲學、藝術理論、感知理論以及維特根斯坦研究。

想法與評論

在科學中，還原論（Reductionism）意味著發掘複雜現象背後的機制，一種可行的方法就是將系統簡化為更簡單的組件。這種方法論成為了很多成熟研究領域的基礎，如經典力學和化學等。在認知科學的背景下，我們可以通過研究神經元的生物學機制最終揭開認知的迷霧。在工程方面，最先進的深度學習也受到了神經科學新發現的啟發。

然而在該篇評論文中，No? 表達了他對目前神經科學研究中使用還原論的一些想法。在我的理解中，還原論遠遠不能建立真正的人工意識機器。

對於意識的起源，No? 持生成性（enactive）觀點，他同樣對視覺意識也有獨特見解，這也正是幾十年來他所積極研究的課題。根據他出版的書籍 [1]，視覺意識源自於和周圍環境的相互作用，而不是簡單地作為單向視覺流（uni-direction visual stream）存在於我們大腦中。因為這種假設並不能解決主觀意識是如何來源於客觀的電化學信號這一問題，所以我們必須考慮到，人類大腦和身體的不同部分是作為一個整體允許人類獲得視覺經驗。同樣，當前最先進的深度學習還不足以揭開視覺意識的迷霧，更不要說開發人工意識了。

大腦理論的模塊化已經被廣泛接受併流行起來了，該理論表明大腦的不同部分負責不同的任務。例如，視覺系統用於視覺感知，運動區域負責人體活動等。這種觀點經常在日常生活中無意地得到提升，如人們經常會說「大腦中的一個區域負責觀看」。在這個句子中，有一個前提假設，即這一塊區域除了觀看並不會處理其他的任務。然而，正如 No? 提到 Hubel 和 Wiesel 的例子，他們的後續工作之一，即研究者們發現了「兩個視覺流」中的背側流（the dorsal stream）實際上提供了與視覺輸入相協調的動作轉換。另一方面，視覺系統（以及其他感知）並不能獨立存在，它們還是要依賴於身體的運動與指導 [2]。

然而，當我們回顧目前的人工智慧應用，如自動駕駛汽車、Facebook 的推薦系統或圖像識別等，它們都是遵循輸入與輸出之間的簡單映射，其中人工智慧演算法學習並嘗試尋找輸入與最優輸出之間的最優映射函數。現有的深度卷積神經網路其分類和感知都是由相同網路所訓練出來的。通過足量的訓練，神經網路能將（類似的）符號表示（目標分類標籤）與圖像的原始像素相鏈接。如果使用 CNN 構建人造智能體，這些符號表徵永遠不會給智能體本身任何意義。「番茄」或「棒球」是什麼意思？雖然它們有相似的形狀，但這對人工智慧體又有什麼意義呢？因此，CNN 也只是單一的模塊化網路，它僅僅處理視覺信息。如果我們想要建立對這兩個物體的視覺意識，Noe 的觀點即只有當人工智慧體理解視覺對象所處的真實環境是什麼時，視覺表徵才會有意義。

最近出現了 AlphaGo，它擊敗了圍棋世界冠軍，儘管沒有一個物理的身體。強化學習本身是一個很有前途的方法，它可以通過物理互動探索外部世界。不幸的是 AlphaGo 所使用的深度學習只被用於探索圍棋的最佳走法。因此，從 No?（和作者的觀點來看），AlphaGo 只是一台桌面計算器。強化學習演算法是一個好工具，允許我們通過發展出知覺意識的行為探索這個世界。AlphaGo 本身只是一個很好的高級強化演算法的試驗台，但是沒有一個附帶知覺和行動的身體去探索世界，AlphaGo 永遠不會理解圍棋的每一步走動意味著什麼。

基於 No? 的感覺運動權變理論（sensorimotor contingency theory），我們應該把大腦作為整體來理解，而不是分解為部分來理解。例如，知覺和行動有著如同法律一般的規則，並不可被分離。知覺的世界隨著我們動作的影響而改變，而我們的行動幫助我們真實地看到我們感知的物體是什麼。簡言之，我們為了更好的感知而行動，這提升了我們對世界的理解，並增加了行動能力。通過建構這些感覺運動技巧，我們獲得了理解對象和外在世界規律的智能。儘管如此，當我們看目前最先進的人工智慧時，發現它依然有欠缺。

因此，在理想情況下，也許我們可以構建一個機器人，它將嘗試抓住飛來的棒球，並測試西紅柿的柔軟度以真正理解（或有一個視覺意識）棒球和西紅柿之間到底具體有什麼不同。

Alva No? 的最初文章

如果你停下來考慮一下這個想法，即通過詳細描述每個部分來了解一個複雜系統；乍看起來，系統的每一個部分令人著迷。

你不太可能僅通過觀察一隻鳥而對鳥群的組織原理產生太多洞見。同樣，你也不可能通過研究羽毛的特性而搞明白鳥是如何飛翔的。

第二個例子來自視覺科學的先驅 David Marr；在視覺理論中，Marr 在其反對神經還原論（neural reductionism）的情景中對例子做了改進。Marr 認為，為了理解我們看見的方式，需要考慮當一隻動物在產生視覺時做了什麼。視覺的任務是什麼？視覺為了什麼？只有這樣，從動物及其需求和利益的層面給出現象描述，我們才能理智地詢問：我們（或者自然）如何才能創造一隻動物或一台機器以執行或實現這一功能？並且唯有如此，我才有資格去問，對於大腦的全部功能，個體腦細胞成功做出了哪些貢獻？或者在哪些貢獻方面失敗了？

有趣的是 Marr 的書剛出版，David Hubel 和 Thorsten Wiesel 由於在人類視覺系統信息處理方面的工作而獲得了諾貝爾獎。他們根據一代代科學家的先前成果，在貓和猴子中發現了細胞的感受野（receptive field）。簡單來說，他們發現不同的細胞分別調試對一種而不是多種刺激（線、桿、運動）反應更靈敏。他們既不提問也不回答這一迫在眉睫的問題：個體神經元的迴路如何產生了意識的視覺體驗？不僅 Hubel 和 Wiesel，那些認為其工作應該獲得科學最高獎項的人都很可能理所當然地認為這個問題存在答案——將使用還原論的某些版本進行解釋。

事實上，我們依然不知道大腦是如何形成視覺意識的。但我們可以回到 Marr 的書中，理解為什麼是這樣的。你不可能從有關個體細胞的事實中獲知整體（不是大腦，或者整個有機體）的情況。在利用關於感受野的事實去理解或者解釋任何事情之前，還有大量的概念性基礎工作要做。

我和其他人已經為此爭論了一段時間，並在普遍的炒作中產生了一點可識別的小影響。大腦之年（The Year of the Brain）、大腦的十年（Decade of the Brain）、連接組（Connectome）、大腦計劃（Brain project）等等。因此這是一個值得注意的重大事件，也許是真正具有歷史意義的事件之一，因為一群來自全世界的頂級神經科學家最近齊聚一堂共同為神經元雜誌（the journal Neuron）寫一份意見書（opinion piece），呼籲「糾正還原論者的偏見」並擁抱「更多元化的神經科學」。

Hubel 與 Wiesel 曾因貓和猴子大腦中的單細胞電極研究而獲得諾貝爾獎。在此之前，唯一能夠研究大腦的方法就是死後驗屍。在那之後，人們發展出了在活體上研究大腦活動的新技術：fMRI、PET 和其他成像工具，還有遺傳操作工具和生物電控技術。以這些新技術與大數據為基礎，人們終於繞出了理論的死胡同。更多的信息和更多的知識並不等價，很多數據都在干擾人們的理解，一些已經成型的理論或許只是噪音，甚至比噪音還要糟糕，是噪音偽裝出來的洞見。

每個人都知道在個體細胞里是無法找到意識的。但我們現在有了從時間和空間方面對細胞的分布式集成進行建模的工具。當然，意識的關鍵在於更大的系統之中！在找到正確的問題之前，我們很可能無法得知任何有意義的信息。亦或許我們可以找到一些東西，但是不知道它們到底是什麼。就像哥倫布登陸美洲時，他曾把印第安人誤認為印度人一樣。我給出這個例子是因為 Hubel 在 1981 年獲得諾貝爾獎的演講時，曾將自己和 Wiesel 的研究和哥倫布的探險作了類比。

意見書的作者 John Krakauer 等人可不是悲觀主義者，Marr 更不是。為了推進對人類意識（或非人類動物意識）的理解，他們認為研究應從大腦之外開始，如動物的生活、行為、面對的問題和生存所需要的環境。這比分子生物學更接近生物，比神經活動更接近認知和意識。在理解行為之前，我們是無法得知大腦是如何產生意識的。

哲學不是，也從來不是哲學家們的認知屬性。科學需要哲學，科學家們不僅需要注意到哲學家們在做什麼，在一些時候——比如危急時刻，還需要自己思考哲學問題。他們需要自己提出問題，質疑自己的前提，並進行艱難的概念挖掘工作，讓自己獲得更可靠的基礎。科學家懂的欣賞哲學的價值，並出於科研需要去構建和掌握科研方法所需的背景性知識，我非常讚賞這些努力。

科學從來都不是信息或數據的堆積。科學關注知識的理解。通過呼籲拒絕還原論，並鼓勵大腦科學家們重新思考生物體與周遭世界之間的概念謎題，以及它們內部的聯繫。神經科學家們已經建立了足夠的認識，為神經科學和意識方面的研究打下了基礎。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！