AI真的會超越人類嗎？（一）理性與智能的邊界

最新 07-17

最近主頁菌發生了一些事情，更新稍有延遲，不過還是頂住壓力寫完啦~

就在最近幾年，因為AlphaGo打敗李世石等原因，人工智慧、深度學習這些辭彙突然甚囂塵上。人們從來沒有像最近這樣惶惶不安，終結者和機器人大戰電影里的一幕幕彷彿突然離我們如此接近。更有很多人大喊奇點就要來臨。

而作為對這學期計算理論課程的回顧，LR想帶大家從公認的現代人工智慧的源頭——圖靈老先生談起，一步步講到有關智能的核心猜想：丘奇—圖靈命題，最後再簡要證明一下哥德爾不完備性理論，來帶大家回顧AI和計算機發展的前世今生。

智能是什麼？

當八十年前的圖靈坐在書桌前的時候，他和我們一樣在沉思這個問題。

一個智能正在反思智能本身，這耐人尋味的自指將成為整個故事開始的緣起。

當時的時代，自然是沒有計算機的（但是也不遠了），所以圖靈的思考同時具有計算科學和哲學的雙重意味。值得一提的是，當時並不是沒有用於計算的機器，一個機械史上登峰造極的精密儀器之作，便是由英國數學家巴貝奇設計的差分機：

然而差分機乾的事情，本質上和織布機沒有太大差別，它內部有著固定的齒輪結構，給它一個多項式的係數，它就會逐一吐出這個多項式在0,1,2…處的取值。巴貝奇設計這個機器的目的，是為了消除在這類計算過程當中人類的不確定性的誤差所導致的影響，比如抄寫錯誤、遺漏、計算進位不當等等。

可這真的只是一個工具，巴貝奇自己也知道別提離智能，連通用的計算，差分機都差的很遠。

了解完當時的背景，回到之前的問題：

那麼智能是什麼？

圖靈在紙上寫寫畫畫，並同時思考著自己為什麼能夠進行計算和複雜的邏輯推理，一個可以進行智能計算的機器，究竟該如何抽象呢？

突然，他意識到，也許我們一切的計算和思考，本質上可以抽象為在一張白紙上這樣的過程：

1.在紙上讀取某些已經寫過的符號

2.在腦中根據符號進行推理

3.在紙上寫下新的符號或者刪除原有的符號

4.重複1-3或者結束計算

雖然非常簡略，但可以說是抓住了問題的核心。這個模型就是大名鼎鼎的圖靈機，它有一個讀寫的頭，在一條無限長的紙帶上，它每次只能夠讀取一個格子里的內容，做出寫、擦除、左移和右移的操作。人們把一條帶有問題輸入的條帶餵給一個圖靈機，圖靈機在這個條帶上運行，最後停下來時，就會在紙帶上留下問題的答案。

就像人類思考一樣。

不過，第二個步驟似乎依然含混不清，推理究竟如何定義呢？這裡，圖靈採取了一個簡化的定義方式，那就是這個機器會有有限的狀態，不妨理解為「state of mind」。當機器處於不同狀態時，將會對不同的符號做出不同的反應，具體表現為根據符號轉移到另外的狀態。

例如下面這個小玩意兒，就是一個簡單的根據紙上的一串1，判斷1的個數是奇數還是偶數的圖靈機：

注寫意到了嗎？中間有兩個互相連成環的小圓圈，表示你大腦的兩種狀態，分別是「記住已經數過了奇數個1」和「記住已經數過了偶數個1」。每當我們讀入一個1的時候，我們大腦的「推理」就是從一個狀態轉移到另一個狀態。當我們數完了之後，就根據記憶的狀態給出一共有偶數個1（寫下0）還是奇數個1（寫下1）的結果。

（下面是一個複雜的狀態的圖靈機，有興趣的讀者可以猜猜是幹什麼的）

「哦所以計算的本質就是大腦狀態的轉移嗎？」你可能有點興奮。

不，當然不是。

圖靈機值得注意的地方在於，它有一個條帶（或者一張白紙）。你之前寫下來的內容，是可以再次被重新讀取的，這拓展了你的記憶力。也就是說，你可以把之前的計算結果寫在紙上以供以後使用，如果沒有這個白紙條帶、只有狀態根據讀入的轉移，那麼這個系統被稱作「自動機」（automaton），如果狀態數量是有限的，那就就叫做「有限狀態自動機」（Finite Automaton）。圖靈機是比自動機強的（而且強不少），最簡單的例子就是，下面這個問題可以用圖靈機解決，但就沒法用有限狀態自動機完成。

判斷一個00…011…1的串0和1是不是一樣多

先來看看為什麼圖靈機能夠完成這個任務，道理很簡單，你可以每次讀入一個0就刪掉它，然後跑到右邊刪掉一個1（注意這件事情是只需要有限狀態的，因為你的大腦只有「現在有沒有往右走到1的」這一個念想而已，可以用兩個狀態刻畫），然後再回到左邊看看有沒有0，重複這個過程。等到1被刪完了還有0，或者你跑到右邊一直都沒有找到對應的1可以刪，你就可以斷定01不一樣多，否則就是一樣多。

可是呢？如果你是用有限狀態自動機呢？那麼當你一步步接受到0的時候，你必須記住一共出現了多少個0，這樣才能在後面讀入1的時候進行個數的比較。但是0的個數是沒有限制的，你沒有紙來記憶這個個數，只能用狀態來刻畫，可你又沒有無限的狀態來刻畫這一點（有限狀態！），所以有限狀態機一定做不到這一點。

（有興趣的讀者可以搜索關鍵詞「泵引理」）

有和沒有紙張的記憶，竟然差別如此之大，真是應了中國的老話叫好記性不如爛筆頭啊……

完成了這樣的設計，圖靈非常的滿意。他覺得這個模型很好的刻畫了人類思考的過程和本質，似乎只要有精巧的設計和足夠多的狀態，機器可以模擬人類進行任何形式的思考，解決計算上的任何問題。

（而其實，人類發展到今天，我們用的所有看起來十分高端的計算機，在本質上依然沒有超越這個模型！它們所能解決的問題的範圍沒有超過上面那個笨拙的——圖靈機）

與此同時，遠在數學界的人們剛剛經歷過一次地震，想要通過形式化的公理體系被一個叫做哥德爾的年輕人碾得粉碎，一點希望都沒留下。

這遙遠的兩端，即將發生奇妙的聯繫。

而一切問題的根源，都在於——數學，是不能照鏡子的。那一條閃耀的對角線，暗示了理性和智能一旦反思自身，就將是災難式的悖論。