人工智慧是否會發展出自我意識（下）

二、關於意識的討論

有些人認為意識是一種幻想。如果它是一種幻覺，那麼它就是我們擁有的最強大的錯覺。西方哲學中最著名的演繹是——「我思故我在」。如果科學家發現了意識的基礎原理，那麼可以產生什麼樣的技術呢？我們可以測試一下哪些人是有意識的，而哪些人沒有。這是人類有歷史以來不斷提出的問題，一旦我們有了完整的理論，我們就可以回答它們。並且如果我們想要建立一個有意識的機器，這個理論會給我們一個指導的藍圖。

計算機可以有意識嗎？

意識也是具有特定「因果」的複雜系統。他們有一種特殊方式與世界互動的，例如大腦。如果你構建一個與大腦具有結構電路的計算機，那麼理論上這台計算機也會有與之相關的意識，感覺就像這台電腦一樣。數字虛擬的模擬大腦應該也是如此。只是現在我們因為對大腦運作原理的不了解，還不能製作出這樣的計算機或者真正模擬一個大腦的運行程序。

什麼樣的問題是有意識存在才能回答的？

在生活中我們也會對意識進行測試。如果你發生了意外事故昏迷送去醫院急診，醫生會問你：你能動一下眼睛嗎？你現在能不能說話嗎？如果你能說話，你知道現在的日期？你知道自己在哪裡嗎？

但我怎麼判斷另一個體有意識的？我知道你的大腦與我的大腦非常相似，我就會把你放進了掃描儀，這樣我知道你有大腦，而且你的大腦結構與我的大腦相似。所以，我有一個合理的推論，你也是有意識的。但是人工智慧系統與我的大腦非常不同，想要通過推理來實現這一步驟就非常困難。現在人工智慧展現出來的行為，沒有我可以判斷的「自我意識」行為。所以要看看底層硬體的結構，以及在這硬體結構上運行的邏輯，然後與人類大腦進行比較，這是非常困難的。

還記得之提到的中文房間實驗么？

所謂的「中文房間實驗」，是由美國哲學家約翰·塞爾(John Searle)在1980年發表論文提出的一個思維試驗。這個思維實驗是說，把一位只會說英語的人關在一個封閉的房間里，他只能靠牆上的一個小洞傳遞紙條來與外界交流，而外面傳進來的紙條全部由中文寫成。這個人帶著一本寫有中文翻譯程序的書，房間里還有足夠的稿紙、鉛筆和櫥櫃。那麼利用中文翻譯程序，這個人就可以把傳進來的文字翻譯成英文，再利用程序把自己的回復翻譯成中文傳出去。

在這樣的情景里，外面的人會認為屋裡的人完全通曉中文，但事實上這個人只會操作翻譯工具，對中文一竅不通。

塞爾提出這個實驗，是為了反駁那些人的觀點：他們認為電腦和其他人工智慧能夠真正思考。這個思維實驗強調，專門研究如何通過圖靈測試的人工智慧，並不是真正的具有自我意識的人工智慧，本質上來說是工具與意識的差別，這也是我們如何看待人工智慧的兩種不同觀點。

目前最大難題是人工智慧與人的根本區別究竟在哪裡？

人的大腦從思維過程來看，就是一台經過長期進化選擇的高度精巧機器，人們並不知道這台機器是如何工作的，所以設計出的機器對人的模仿也很有限；而沒有強大計算能力進行模擬，也不可能認清人腦系統的工作機制，從這角度上來說，硬體能力和演算法是相輔相成又互相制約的。現在最新的研究成果已經成功藉助人工智慧破譯了人類的思維信號，在理解人類大腦機制獲得了突破。研究發現，利用人工神經網路將人類個體大腦活動破譯成可理解的信號。現在的人工智慧在研究中的廣泛運用，將會加速真正的人工智慧的實現速度。以前感知和識別也是生物智能的特徵，而現在我們也把這種能力賦予了機器。可以預見，生物智能與非生物智能邊界將會漸漸模糊，越來越多的生物智能的單項能力會被人工智慧實現。如此發展下去「自我意識的產生」，這樣的事件將會是「壓垮駱駝的最後一根稻草」，讓非生物智能轉變成生物智能，甚至超越生物智能。

三 、真正的人工智慧

現在我們的問題是：什麼時候才能擁有真正的人工智慧？具體時間線是什麼？

為了實現有意識的強人工智慧，需要在三個方面取得突破性的進展：

第一、軟體方面也就是演算法。

現在的深度學習和機器學習開了一個好頭，但這離真正的AI自我編程還有比較長的距離；機器或人工智慧系統是否能有角色個性將會取決於演算法本身。角色來自意識，因此開發這種角色的AI系統需要基於足夠先進的技術，可以製作一種學習對比過去結果經驗從而預期未來的方式來決策，這就像就像人類如何了解世界的。並且演算法本身可以從外界學習和自我進化，在無人監督和干預的情況下。一旦突破了這個點，人工智慧將會迎來飛躍，就像阿爾法狗一樣的，幾天之內可以輸入人類社會產生以來的所有信息，從而進化成為一個超級智能體。所以人工智慧意識的覺醒，一般也被認為是「奇點」的到來，後續的人工智慧發展將會無法想像。如果不熟悉「奇點」的概念，其實就是智能機器意識覺醒並超越人類智力水平的那一刻，它會催生指數級的技術增長，從而改變我們生存的環境基礎。人類的歷史將會達到一種奇點，人類和人工智慧的角色會發生不可預料的變化，就像宇宙大爆炸的奇點那樣難以理解和預測，而因此給世界帶來的變化，也將遠遠超出我們的理解。我們現在沒有人能真正理解擁有一個超級智能的人工智慧意味著什麼，同時我們也沒有準備好應對任何後果。

關於這點也有不同的實用主義觀點聲音認為，我們是否可以建立一個有意識的機器的問題只對那些認為這些區別很重要的人來說很重要。人工智慧的核心僅僅只是工具。對人工智慧的態度基本上是務實的，人工智慧系統是否具有真正的智能，或真實的情感和同理心並不重要。重要的是，它的行為方式使其對人類社會有益。未來甚至更複雜的演算法可以繞過這個問題，學習了足夠多的經驗和人類行為，並呈現為有意識的實體，那這就是有意識的生物的再創造，而不是新的意識種類——擁有自我意識的生物。這種觀點強調人工智慧的實用性，以及干預和控制，始終使人工智慧處於預先編程和控制的情況下，那樣在協助我們解決問題的同時，也避免了人工智慧獲得自我意識，從而避免對人類產生的潛在威脅。

第二、神經科學方面的進步。

現在我們人類對於大腦結構和意識的認知都還很少，而人類是我們已知唯一具有高級自我意識的物種，所以參考對象比較單一，也只能寄希望於生物學神經學的研究能夠有突破；

神經科學研究認為意識是由我們的大腦內部構建的活動，它結合了我們的感官、我們如何感知世界以及我們的行為。但即使在這個定義中，神經科學家現在也不知道我們為什麼有意識以及如何完美的地根據神經活動來定義什麼是意識。比如人工智慧創作的藝術品的情況。通常，人類的藝術作品都是為了好玩以及表達思維活動而呈現的。但是當我們用人工智慧學習了藝術的模式，然後以某種演算法創造「藝術品」時，那麼演算法是僅僅生成了一種圖像，還是創造了一些有意義的東西。兩種作品同樣放在一起展示的時候，欣賞者與藝術品之間的互動，是否有本質差別？或者當人類觀看有人工智慧創作的藝術品時，能否欣賞內涵的藝術元素？這是非常有意思的問題，我們生活中將會看到越來越多的例子和相關討論。而目前，我們還不清楚，人工智慧所創作藝術品對於人類和人工智慧來說，都有怎樣的重要意義。

在微軟聯合創始人保羅艾倫推出的5億美元項目中，艾倫研究所的目標是建立哺乳動物大腦中每個神經元和突觸的詳細地圖集。試圖將大腦每一部分的硬體，與大腦功能之間建立一一對應的關係。這將為神經科學提供類似於人類基因組計劃所實現的數據。研究和創新認知理論，斷言意識是結構的產物，比如大腦，它既可以存儲大量信息，又可以在它們之間創建密切的連接。

第三、硬體結構方面也需要取得重大突破。

最近幾年摩爾定律的上限已經逐漸出現了，晶體管的體積已很難再小。而像量子計算機這樣的強大的新硬體平台還沒有完全研發出來，商業應用更是遙遙無期。

一種可能性是生物晶元，根據神經元的結構組合成大腦皮層，科學家已經用物理晶元實現了，它用56億個晶體管大概模擬了100萬的神經元，有2.56億個突觸。但這個規模只有人腦的萬分之一。還有一個問題演算法，怎麼讓人腦晶元自主工作？一般的智能需要預先編程方式讓它工作，但是這塊晶元需要的是和認知世界一樣的方式，通過外界學習調整內部邏輯編程。這兩點沒有突破性進展的話，人腦生物晶元還有很長的路要走。

展望未來：

現在大多數人都認為人工智慧如果通過了圖靈測試，就可以被認為是真正聰明的人工智慧，也就是說機器和人類都與第二個人類交談，這個交談對象將決定哪一個才是機器。我們會在幾十年內看到能夠通過圖靈測試的人工智慧，也就是說，人類也難以識別出它是機器人。

人工智慧的進步和發展並不一定會導致人類的衰落，也可以把它看作是夥伴。納米機器人會進入我們的生活，智能增強眼鏡或者是智能的假肢，人工智慧也會增強我們的能力。重點是關於「增強」，而現在谷歌目前對人工智慧的推動似也是在為了這一目標奠定一些技術基礎。人類目前或今後不長的時間就可以運用基因編輯技術改變人的身高、智力等遺傳信息，這種被稱為「人類增強」（human enhancement）技術為人類戰勝疾病，改善自身提供了可能性。

想像一下真正的智能機器與我們共同生活似乎並非遙不可及。我們可能還得再等上至少30年。但一切皆有可能，實現那樣的目標只是需要一些時間。這也意味著，我們中的許多人將有機會看到這一天的到來。

今天的節目就到這裡，希望你喜歡，我們下期再見。

本篇是老張創作的課程《人工智慧進化論》課程基礎篇內容，覺得有幫助的話請轉發和評論~

點擊原文訂閱付費課程或者加wx：AI61825與老張互動~

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！