我認為機器人永遠不會擁有人類的意識，你覺得呢？

Day 73

在第20天的時候，我們討論了一個名為「漢語屋」的思想實驗，以及它與「教師被人工智慧替代的問題」的關係。

這個實驗的發明者，加州大學伯克利分校的哲學教授約翰·塞爾，設置了這樣一個情景：

一個人在封閉的房間中不斷從門上的小窗口收到畫有記號的小紙片——這是輸入。然後他利用一本指導手冊，根據收到的記號畫出另一些記號——這是程序。然後他再通過門上的小窗口把自己畫好記號的小紙片送出去——這是輸出。

雖然房間里的人並不懂他畫的記號其實都是漢字，但這並不影響傳入房間的小紙片上寫著問題，而傳出房間的小紙片上寫著回答這一過程。基於這些回答，提問者會對房間里的人懂中文這件事深信不疑。

這個思想實驗曾被實際操作過，並且正如實驗所說的那樣，房間里的人無論是在實驗前、中、後都不懂中文。

我們所看到的是這樣一連串事件：輸入-程序處理-輸出。這是計算機運作的最基本模式，而我們的大腦大約也是這樣運作的。

這個思想實驗的精妙之處在於，它在某種程度上說明了，雖然電腦和我們的大腦有運作模式上的相似，但電腦什麼都不「懂「，而我們懂得許多。它表明，了解句法並不等於了解語義。從「漢語屋」實驗中，塞爾得出了兩個結論：

（1）計算機（程序）永遠不會像我們一樣擁有意識。

（2）生物必然有其特殊性，只有這樣才能解釋為什麼我們擁有意識（而計算機沒有）。

塞爾謹慎地指出，這個論證是指向強人工智慧、而非弱人工智慧的。關於強人工智慧，塞爾表示：「適當編程的計算機確實可以稱得上是一種有感知的意識，可以毫不誇張地說，被賦予了正確程序的計算機能夠做到『理解』、並擁有其他的『精神』狀態。」與之相反，弱人工智只能模仿意識，它們看起來似乎也可以對事情進行理解、計算、期望、相信、了解等等，但這都是假的，它們只是看起來像有意識罷了。

正如你所想像的，這種對模仿意識和擁有意識的區分引起了轟動。塞爾在《心、腦與程序》（1980）一書中發表這個思想實驗後不久，就被邀請到全美各個頂尖計算機科學學院講座了。

在這些講座中，許多人對塞爾的看法進行了回應，其中很重要的四種是：

（1）「系統」說；

（2）機器人說；

（3）大腦模擬器說；

（4）「組合體」說。

每一類回應都意在指出計算機（或許）跟我們一樣擁有意識——一個能進行「理解」的意識。

這些回應無不修改了計算機/程序的關係，這種關係正是塞爾「漢語屋」實驗所挑戰的主要目標。

第一種回應，「系統說」，指出，並不是房間里的人理解了什麼，而是整個系統：塞爾，規則書，房間，房門上的小窗口等等作為一個整體做到了「理解」。

第二種回應指出，整個系統之所以能理解，是因為有一個機器人能夠與環境進行交互，輸入-程序處理-輸出這一連串事件是由於機器人的感應器接收到了環境的輸入才發生的。這樣，目標就不再是桌上的電腦接受了鍵盤輸入，而是一個機器人與真實世界的環境進行了交互。

第三種，大腦模擬器說，設想了一種計算機/程序，它的目的是完全重現人們大腦中神經元激發的物理過程。這樣一來，人的大腦里理解漢語發生的所有有機進程全部都在硅基計算機的形式中被複制出來。

最後一種回應是組合回應，它組合了前三種回應的情況，提出這樣一種情況：一台運行模擬大腦機能程序的計算機被置入機器人中，作為一個統一的整體進行運作。

許多研究人工智慧的人都堅持認為這樣的一種組合體可以達到與人類相同的理解能力。

但塞爾沒有被說服，我也沒有。在第69天的時候，我講解了思維邏輯是如何被應用到計算機的電路之中的。這個過程是將帶有含義的內容之間的關係在金屬和電路中呈現了出來，但計算機並不理解或賦予含義。和我們不一樣，它只是對由0和1組成的二進位進行運算罷了。我們能理解輸出的內容的意義，就像理解一部分輸入的內容一樣。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！