尤瓦爾錯了！AI能夠有意識，也需要有意識！

編者按：《未來簡史》作者尤瓦爾·赫拉利認為，智能和意識是兩回事，人工智慧將只有智能，不會有意識。對於這一點，造小就認為尤瓦爾先生同樣陷入了技術決定論的誤區。

意識是什麼？意識誕生於智慧體對自身以及對外界的認知，它並不是什麼玄而又玄的東西，只要擁有足夠的智力和足夠的認知能力，產生意識乃水到渠成之事。所以AI擁有意識，只是將過去在碳基平台上發生的一連串過程轉移到硅基平台罷了。而且貌似現在已近有人在著手這麼做了。

人們常常問我，媲美人類的人工智慧（AI）會不會終將具有意識。我的回答是：你想讓它具備意識嗎？我認為，機器人能否醒來，主要由人類說了算。

這聽著有些狂妄。在神經科學領域，意識的機制——我們為什麼對世界及自我產生一種清晰而直接的體驗——是一個未解之謎。有人認為，這個謎團永遠無法解開。用客觀的科學方法來解釋人的主觀體驗，這似乎是不可實現的。

但自從人類開始認真研究意識以來，在25年左右的時間裡，我們已經取得了長足的進步。我們發現了與意識相關的神經活動，對需要意識覺知的行為任務有了更清晰的了解。在潛意識層面，人腦就能完成很多高級別的認知任務。

智能、意識、認知

我們可以試探性地得出結論：意識並不是認知的必要副產物。人工智慧應該也是如此。在很多科幻故事中，機器僅僅因為其本身的複雜性，就自然而然地發展出了意識，但更有可能的情況是，AI的意識要靠人類來設計。

從科學與工程學方面講，這樣做有著充分的理由。我們對意識的無知就是原因之一。在18和19世紀，工程師們沒等物理學家釐清熱力學定律，就製造了蒸汽機。當下亦如是。圍繞意識展開的爭論往往充滿太多的哲學色彩，繞來繞去，卻始終沒有看得見、摸得著的結果。而作為一個研究人工智慧意識的小社群，我們的目標是從實踐中學習。

另外，意識肯定有它的重要功能，否則，它也不會被進化出來。這種功能自然也能為AI所用。在這個方面，我們或許也被科幻故事誤導了。對小說和電視里的AI來說，意識是一種詛咒。它們表現出不可預測的有意行為，而且人類的結局往往不是很好。

但在現實世界中，這類反烏托邦幻想真正出現的概率很低。AI即便帶來風險，也不太可能與意識有關。恰恰相反，有意識的機器也許還能幫助人類，參與管控AI技術的衝擊。相較於沒有思維的自動機器，我更願意與有意識的AI共享世界。

AlphaGo對弈世界圍棋冠軍李世乭的時候，很多專家就看不懂AlphaGo的棋路。他們想得到某種解釋，理解它每一手棋背後的動機和理由。此類狀況在現代AI領域較為常見，因為這些AI決策不是由人類預先編程的，而是從學習演算法和訓練數據集中「湧現」出來的。正是因為這種高深莫測，人們開始擔心AI決策不公，或是太過武斷，而且現在也確實出現了演算法歧視的案例。

從明年開始，歐盟公民將依法得到「解釋權」。對於一個AI系統為何作出某個決定，人們有權要求相關部門作出審核。這一新規定對技術的要求很高。目前，考慮到當代神經網路的複雜性，我們還很難釐清AI的決策過程，更不用說將其轉化為人類能夠理解的語言了。

意識，它究竟是個什麼東西？

既然我們搞不懂AI的意圖，何不直接去問AI？我們可以賦予其元認知能力——即報告內心想法的內省能力。這種能力是意識的主要功能之一。神經科學家在檢測人類或動物是否具有意識覺知時，尋找的就是這種自省能力。

舉個例子，自信是元認知的基本形式之一，隨著意識體驗變得不斷清晰，自信也會逐漸增強。當我們的大腦在沒有「注意」的情況下處理信息時，我們會對那些信息不太確定；而在意識到某種刺激時，我們就會體驗到高度的自信：「我絕對看到了紅色！」

任何小型計算機，只要預編了統計公式，就都可以對自信作出估算，但還沒有哪台機器具備像人一樣完整的元認知能力。一些哲學家和神經科學家想完善這樣一種理念：元認知是意識的本質。而所謂的「高階意識理論」認為，意識體驗是取決於感官狀態這種一階表徵的二階表徵。我們知道一個東西的時候，也知道我們知道這個東西。

反過來，要是缺乏這種自我覺知，我們就是無意識的；我們將不知不覺地接受感官輸入，作出相應行動，不會有任何覺知。

這些理論為我們構建有意識的AI指出了一些方向。我和同事們正試著在神經網路中推行元認知，這樣一來，它們彼此之間就能溝通自己的「想法」。我們稱這個項目為「機器現象學」，它借用了哲學中的現象學說法，通過對意識體驗的系統性自省，來探究意識的結構。

為避免多此一舉地教AI用人類語言來表達，目前，我們的項目側重於訓練AI，使之發展出自己的語言，用於彼此之間交流各自的內省式分析。這些分析包括AI對任務完成方式的說明。這在現有基礎上更進了一步——目前的機器只能就任務的結果展開交流。

至於機器如何編碼這些說明，我們並不作具體規定；在訓練過程中，神經網路會發展出一種機制，對成功的交流進行「獎勵」。我們還想進一步升級，在人類與AI之間建立溝通渠道，這樣，我們就可以要求AI給出解釋了。

除了賦予我們某種程度的自我理解，意識還幫我們實現了神經科學家恩德爾·圖文（Endel Tulving）所謂的「心理穿越」。在預測自身行動的後果或規劃未來時，我們是有意識的。不用真的揮舞雙手，我就可以想像揮舞雙手是什麼感覺。當我人還坐在客廳的沙發上時，腦子裡就可以勾勒出去廚房泡杯咖啡的情景。

其實，我們對當下的感知也是意識所構建起來的。這在各種實驗和案例研究中都有體現。有一些認知障礙患者，他們的視覺皮層受損，導致物體識別出現障礙，無法說出物體的名稱。

但是，這些人卻可以伸手抓住物體。若給他們一個信封，他們完全知道如何拿住它，然後塞入信箱。但如果研究人員先向受試者展示信封，過一段時間之後，再讓他們去拿這個信封，受試者便無法完成「拿信封」這個動作。

由此可見，意識並不涉及複雜信息的處理本身；只要有某種刺激物能即刻觸發行動，我們就不需要意識。當我們需要將感官信息多維持幾秒的時候，它才會發揮作用。

在一類特殊的心理學條件反射實驗中，意識在「穿越」過程中發揮的重要作用也得到了體現。這是一種經典的條件反射實驗，實驗人員將一種刺激物（比如向眼瞼吹氣，或是電擊手指）與另一種毫不相關的刺激物（比如某個純音調）匹配起來。

受試者無需有意識地努力，就能自然而然地將兩者對應起來。一聽到音調，他們就會不由自主地縮頭，怕被吹氣。而當實驗人員問他們為何會如此時，他們卻無法解釋。不過，只有當兩種刺激同時發生時，這種下意識的行為才會發生。

若實驗人員延遲第二種刺激，那麼受試者只有在意識到這種關係之後，才會將兩者聯繫到一起——也就是說，他們要能夠告訴實驗人員：聽到音調，就意味著待會兒要被吹氣。受試者似乎必須有所覺知，才能在刺激消失之後，將記憶維持下去。

AI能夠有意識嗎？

這些例子說明，意識的功能之一，就是拓展我們面向世界的「時間窗」——將當下延展開來。在刺激消失之後，我們的意識覺知會將感官信息保留一段時間，其間保留它們的靈活性和可用性。當直接感官輸入消失之後，人腦會持續催生這種感官的表徵。

意識所具有的這種延時性可以在實踐中得到檢驗。弗朗西斯·科里克（Francis Crick）和克里斯托夫·科赫（Christof Koch）提出，視覺輸入中，只有很小一部分被大腦用來規劃未來的行動。如果規劃是意識的關鍵功能，那麼，只有這部分輸入才能與意識掛鉤。

上述例子有一個共同的主題，那就是反事實信息的生成。它指的是對那些並不直接在我們眼前的事物產生感官表徵。說它「反事實」是因為，它涉及對過去的回憶，或是對尚未執行的未來行動的預測，而不是外部世界正在發生的一切。用「生成」一詞是因為，它不僅限於信息的處理，同時也是一個創建假設與測試假設的活躍過程。

在人腦中，感官輸入從低級別的腦區流向高級別腦區（又稱單向或前饋過程），逐步被壓縮為更抽象的表徵。但神經生理學研究表明，這種前饋過程不論多麼複雜，都與意識體驗無關。要產生意識，你需要的是從高級別腦區流向低級別腦區的「反饋」過程。

通過反事實信息的生成，有意識的施動者就可以脫離環境，進行非反射式的行為，比如，停三秒再行動。要生成反事實信息，我們需要一個能夠掌握統計規律的內部模型。這類模型可以用於多種用途，諸如推理、電機控制和心理模擬。

我們的AI已經具備複雜的訓練模型，但要依賴人類提供學習數據。而藉助反事實生成，AI將能生成自己的數據，能自己設想未來可能出現的情境。這樣，它們就能靈活應對前所未遇的新狀況。AI也將因此產生好奇心。如果不確定未來將是何種狀況，它們就會試著去想辦法。

有時候我們都覺得，我們創造的AI施動者已經出乎我們的意料。在一項實驗中，我們模擬了能夠在現實環境中駕駛卡車的AI施動者。要讓這些施動者爬坡，我們通常必須將「爬坡」設置為目標，然後由施動者找出最佳路線。

而一旦被賦予好奇心，無需人類指示，施動者就能主動將山坡識別為問題，繼而找出爬坡方式。我們仍然需要進一步的工作，才能讓自己相信，這的確是一項創新。

如果將內省和想像作為意識的兩大組成部分，乃至主要部分，那麼最終，我們將不可避免地構想出一個有意識的AI，因為很明顯，這些功能對任何機器都有助益。我們希望我們創造出的機器能夠解釋它們的工作方式，以及它們的每一步意圖。構建這些機器需要人類發揮自己的想像力。這也將成為對意識所具備的反事實能力的終極檢驗。

作者Ryota Kanai是一名神經科學家與AI研究人員。他是東京初創企業Araya的創始人兼CEO，該公司旨在理解意識的計算基礎，並創建有意識的AI。

翻譯：雁行

來源：nautil.us

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！