王垠：自動編程是不可能的，我為什麼不在乎人工智慧

作者：王垠

有人聽說我想創業，給我提出了一些「忽悠」的辦法。他們說，既然你是程序語言專家，而現在人工智慧（AI）又非常熱，那你其實可以搞一個「自動編程系統」，號稱可以自動生成程序，取代程序員的工作，節省許許多多的人力支出，這樣就可以趁著「AI 熱」拉到投資。

有人甚至把名字都給我想好了，叫「深度程序員」（DeepCoder = Deep Learning + Coder）。口號是：「有了 DeepCoder，不用 Top Coder！」 還有人給我指出了這方向最新的，吹得神乎其神的研究，比如微軟的Robust Fill……

我謝謝這些人的關心，然而其實我並不在乎，也不看好人工智慧。現在我簡單的講一下我的看法。

機器一樣的心

很多人喜歡鼓吹人工智慧，自動車，機器人等技術，然而如果你仔細觀察，就會發現這些人不但不理解人類智能是什麼，不理解人工智慧有什麼局限性，而且這些「AI 狂人」們的心，已經嚴重的機械化了。他們或多或少的失去了人性，彷彿忘記了自己是一個人，忘記了人最需要的是什麼，忘記了人的價值。這些人就像卓別林在『大獨裁者』最後的演講里指出的：「機器一樣的人，機器一樣的心。」

每當提到 AI，這些人必然野心勃勃地號稱要「取代人類的工作」，「節省勞動力開銷」。暫且不討論這些目標能否實現，它們與我的價值觀，從一開頭就是完全矛盾的。一個偉大的公司，應該為社會創造實在的，新的價值，而不是想方設法「節省」什麼勞動力開銷，讓人失業！想一下都覺得可怕，我創造一個公司，它最大的貢獻就是讓成千上萬的人失業，為貪得無厭的人節省「勞動力開銷」，讓貧富分化加劇，讓權力集中到極少數人手裡，最後導致民不聊生，導致社會的荒蕪甚至崩潰……

我不可想像生活在那樣一個世界，就算那將使我成為世界上最有錢的人，也沒有了意義。世界上有太多錢買不來的東西。如果走在大街上，我看不到人們幸福的笑容，悠閑的步伐，沒有親切的問候，關愛和幽默感，看不見甜蜜浪漫的愛情，反而看見遍地痛不欲生的無家可歸者，鼻孔里鑽進來他們留下的沖人的尿騷味，走到哪裡都怕有人搶劫，因為人們實在活不下去了，除了偷和搶，沒有別的辦法活……

如果人工智慧成功的話，這也許就是最後的結果。幸運的是，有充足的證據顯示，人工智慧是永遠不會成功的。

我的人工智慧夢

很多人可能不知道，我也曾經是一個「AI 狂熱者」。我也曾經為人工智慧瘋狂，把它作為自己的「偉大理想」。我也曾經張口閉口拿「人類」說事，彷彿機器是可以跟人類相提並論，甚至高於人類的。當深藍電腦戰勝卡斯帕羅夫，我也曾經感嘆：「啊，我們人類完蛋了！」 我也曾經以為，有了「邏輯」和「學習」這兩個法（kou）寶（hao），機器總有一天會超越人類的智能。可是我沒有想清楚這具體要怎麼實現，也沒有想清楚實現了它到底有什麼意義。

故事要從十多年前講起，那時候人工智慧正處於它的冬天。在清華大學的圖書館，我偶然地發現了一本塵封已久的 『Paradigms of Artificial Intelligence Programming』（PAIP），作者是 Peter Norvig。像個考古學家一樣，我開始逐一地琢磨和實現其中的各種經典 AI 演算法。PAIP 的演算法側重於邏輯和推理，因為在它的年代，很多 AI 研究者都以為人類的智能，歸根結底就是邏輯推理。他們天真地以為，有了謂詞邏輯，一階邏輯這些東西，可以表達「因為所以不但而且存在所有」，機器就可以擁有智能。於是他們設計了各種基於邏輯的演算法，專家系統（expert system），甚至設計了基於邏輯的程序語言 Prolog，把它叫做「第五代程序語言」。最後，他們遇到了無法逾越的障礙，眾多的 AI 公司無法實現他們誇口的目標，各種基於「神經元」的機器無法解決實際的問題，巨額的政府和民間投資化為泡影，人工智慧進入了冬天。

我就是在那樣一個冬天遇到了 PAIP。它雖然沒能讓我投身於人工智慧領域，卻讓我迷上了 Lisp 和程序語言。也是因為這本書，我第一次輕鬆而有章法的實現了 A* 等演算法。我第一次理解到了程序的「模塊化」是什麼，在代碼例子的引導下，我開始在自己的程序里使用小的「工具函數」，而不再憂心忡忡於「函數調用開銷」。PAIP 和 SICP 這兩本書，最後導致了我投身於更加「基礎」的程序語言領域，而不是人工智慧。

在 PAIP 之後，我又迷了一陣子機器學習（machine learning），因為有人告訴我，機器學習是人工智慧的新篇章。然而我逐漸意識到，所謂的人工智慧和機器學習，跟真正的人類智能，關係其實不大。相對於實際的問題，PAIP 裡面的經典演算法要麼相當幼稚，要麼複雜度很高，不能解決實際的問題。最重要的問題是，我看不出 PAIP 裡面的演算法跟「智能」有什麼關係。而「機器學習」這個名字，基本是一個幌子。很多人都看出來了，機器學習說白了就是統計學裡面的「擬合函數」，換了一個具有迷惑性的名字而已。

人工智慧的研究者們總是喜歡抬出「神經元」一類的名詞來嚇人，跟你說他們的演算法是受了人腦神經元工作原理的啟發。注意了，「啟發」是一個非常模稜兩可的詞，由一個東西啟發得來的結果，可以跟這個東西毫不相干。比如我也可以說，Yin 語言的設計是受了九 yin 真經的啟發

世界上這麼多 AI 研究者，有幾個真的研究過人腦，解刨過人腦，拿它做過實驗，或者讀過腦科學的研究成果？最後你發現，幾乎沒有 AI 研究者真正做過人腦或者認知科學的研究。著名的認知科學家 Douglas Hofstadter 早就在接受採訪時指出，這幫所謂「AI 專家」，對人腦和意識（mind）是怎麼工作的，其實完全不感興趣，也從來沒有深入研究過，卻號稱要實現「通用人工智慧」（Artificial General Intelligence, AGI），這就是為什麼 AI 直到今天都只是一個虛無的夢想。

識別系統和語言理解

縱觀歷史上機器學習能夠做到的事情，都是一些字元識別（OCR），語音識別，人臉識別一類的，我把這些統稱為「識別系統」。當然，識別系統是很有價值的，OCR 是非常有用的，我經常用手機上的語音輸入法，人臉識別對於警察和間諜機關，顯然意義重大。然而很多人因此誇口,說我們可以用同樣的方法（機器學習，深度學習），實現「人類級別的智能」，取代很多人的工作，這就是神話了。

識別系統跟真正理解語言的「人類智能」，其實相去非常遠。說白了，這些識別系統，也就是統計學的擬合函數能做的事情：輸出一堆像素或者音頻，輸出一個個的單詞文本。很多人分不清「文字識別」和「語言理解」的區別。OCR 和語音識別系統，雖然能依靠統計的方法，「識別」出你說的是哪些字，它卻不能真正「理解」你在說什麼。

聊一點深入的話題，看不懂的人可以跳過這一段。「識別」和「理解」的差別，就像程序語言裡面「語法」和「語義」的差別。程序語言的文本，首先要經過詞法分析器（lexer），語法分析器（parser），才能送進解釋器（interpreter），只有解釋器才能實現程序的語義。類比一下，自然語言的語音識別系統，其實只相當於程序語言的詞法分析器（lexer）。

大部分的 AI 系統裡面連語法分析器（parser）都沒有，所以主謂賓，句子結構都分析不清楚，更不要說理解其中的含義了。IBM 的語音識別專家Frederick Jelinek曾經開玩笑說：「每當我開掉一個語言學家，識別率就上升了。」 其原因就是語音識別僅相當於一個 lexer，而語言學家研究的是 parser 以及 interpreter。當然了，你們乾的事情太初級了，所以語言學家幫不了你們，但這並不等於語言學家是沒有價值的。

很多人語音識別專家以為語法分析（parser）是沒用的，因為人好像從來沒有 parse 過句子，就理解了它的意義。然而他們沒有察覺到，人其實必須要不知不覺地 parse 有些句子，才能理解它的含義。比如這樣一個句子：「我並不完全反對去游泳這個提議。」 我問你，一個不能正確 parse 句子的機器，它如何知道你到底想去游泳，還是不想去？這個機器很可能看到「完全」，「反對」，「游泳」，…… 然後就根據關鍵字做出判斷，認為你不想去游泳。它有可能會考慮那個「不」字，可是這個「不」字在句子里的位置，決定了它否認的結構。沒有語法分析，你就不可能正確的理解它到底在否定什麼。

製造自然語言的 parser 有多難？很多人可能沒有試過。沒想到吧，我做過這事 在 Indiana 的時候，我為了湊足學分，修了一門 NLP 課程，跟幾個同學一起實現了一個英語的 parser。你可能想不到有多困難，你不止需要深刻理解編程語言的 parser 理論，還得依靠大量的例子和數據，才能解開人類語言裡面的各種歧義。我的合作夥伴是專門研究 NLP 的，什麼 Haskell，類型系統，category theory，什麼 GLR parsing 之類…… 都弄得很溜。然而就算如此，我們的英語 parser 也只能處理最簡單的句子，還錯誤百出，最後矇混過關

經過了語法分析，得到一棵「語法樹」，你才能傳給人腦里語言的理解中心（類似程序語言的「解釋器」）。解釋器「執行」這個句子，為相關的名字找到對應的「值」，進行計算，才能得到句子的含義。至於人腦如何為句子里的辭彙賦予「意義」，如何把這些意義組合在一起，形成「思維」，這個問題似乎沒有人很明白。至少，這需要大量的實際經驗，這些經驗是一個人從生下來就開始積累的。我們製造的機器完全不具備這些經驗，我們不知道如何才能讓他獲得經驗，也不知道這些經驗在人腦裡面是什麼樣的結構，如何組織的。所以機器要真的理解一個句子，真的是登天一樣的困難。

這就是為什麼 Hofstadter 說：「一個機器要能理解人說的話，它必須要有腿，能夠走路，去觀察世界，獲得它需要的經驗，它必須能夠跟人一起生活，體驗他們的生活和故事……」 最後你發現，製造這樣一個機器，比養個小孩困難太多了，這不是吃飽了沒事幹是什麼。

機器對話系統和人類客服

各大公司最近叫得最響亮的「AI 技術」，就是 Siri，Cortana，Google Assistant，Amazon Echo 一類含有語音識別功能的工具，叫做「個人助手」。這些東西裡面，到底有多少可以叫做「智能」的東西，我想用過的人都應該明白。我每一次試用 Siri 都被它的愚蠢所折服，可以讓你著急得砸了水果手機。那另外幾個同類，也沒有好到哪裡去。

很多人被「微軟小冰」忽悠過，咋一看這傢伙真能理解你說的話呢！然而聊一會你就發現，小冰不過是一個「網路句子搜索引擎」。它只是按照你句子里的關鍵字，隨機搜出網上已有的句子。大部分這類句子出自問答類網站，比如百度知道，知乎。一個很簡單的實驗，就是反覆發送同一個詞給小冰，比如「王垠」，看它返回什麼內容，然後拿這個內容到 Google 或者百度搜索，你就會找到那個句子真正的出處。人都喜歡自欺欺人，看到幾個句子回答得挺「俏皮」，就以為它有智能，而其實它是隨機搜出一個句子，牛頭不對馬嘴，所以你才感覺「俏皮」。比如，你跟小冰說：「王垠是誰？」，她可能回答：「王垠這是要變段子手么。」

心想多可愛的妹子，不正面回答你的問題，有幽默感！然後你在百度一搜，發現這句話是某論壇裡面黑我的人說的。小冰只是隨機搜索出這句子，至於幽默感，完全是你自己想像出來的。很多人跟小冰對話，喜歡只把其中「符合邏輯」或者「有趣」的部分截圖下來，然後驚呼：「哇，小冰好聰明好有趣！」 他們沒有告訴你的是，沒貼出來的對話，很多都是雞同鴨講。

IBM 的 Watson 系統在 Jeopardy 遊戲中戰勝了人，很多人就以為 Watson 能理解人類語言，具有人類級別的智能。這些人甚至都不知道 Jeopardy 是怎麼玩的，就盲目做出判斷，以為 Jeopardy 是一種需要理解人類語言才可以玩的遊戲。等你細看，發現 Jeopardy 就是很簡單的「猜謎」遊戲，題目是一句話，答案是一個名詞。比如：「有個歌手去年得了十項格萊美獎，請問他是誰？」 如果你理解了我之前對「識別系統」的分析，就會發現 Watson 也是一種識別系統，它的輸入是一個句子，輸出是一個名詞。一個可以玩 Jeopardy 的識別系統，可以完全不理解句子的意思，而是依靠句子里出現的關鍵字，依據分析大量語料得到的擬合函數，輸出一個單詞。世界上那麼多的名詞，到哪裡去找這樣的語料呢？這裡我給你一個 Jeopardy 謎題作為提示：「什麼樣的網站，你給它一個名詞，它輸出一些段落和句子，給你解釋這個東西是什麼，並且提供給你各種相關信息？」 很容易猜吧？你只需要把這種網站的內容掉一個頭，製造一個神經網路，輸入句子，輸出名詞，就可以製造出可以玩 Jeopardy 的機器來，而且它很容易超越人類玩家（為什麼？）。其實為了驗證 Watson 是否理解人類語言，我早些時候去 Watson 的網站玩過它的「客服 demo」，結果完全是雞同鴨講，大部分時候 Watson 回答：「我不清楚你在說什麼。你是想要……」 然後列出一堆選項，1，2，3……

當然，我並不是說這些產品完全沒有價值。我用過 Siri 和 Google Assistant，我發現它們還是有用的，特別是在開車的時候。因為開車時操作手機容易出事，所以我可以利用語音控制。比如我可以對手機說：「導航到最近的加油站。」 然而實現這種語音控制，根本不需要理解語言，你只需要用語音識別輸入一個函數調用：導航（加油站）。個人助手在其它時候用處都不大。我不想在家裡和公共場所使用它們，原因很簡單：我懶得說話，或者不方便說話。點擊幾下屏幕，我就可以精確地做到我想要的事情，這比說話省力很多，也精確很多。個人助手完全不理解你在說什麼，這種局限性本來無可厚非，可以用就行了，然而各大公司最近卻拿個人助手這類東西來煽風點火，誇大其中的「智能」成分，閉口不提他們的局限性，讓外行們以為人工智慧就快實現了，這就是為什麼我必須鄙視一下這種做法。

舉個例子，由於有了這些「個人助手」，有人就號稱類似的技術可以用來製造「機器客服」，使用機器代替人作為客服。他們沒有想清楚的是，客服看似「簡單工作」，跟這些語音控制的玩意比起來，難度卻是天壤之別。客服必須理解公司的業務，必須能夠精確地理解客戶在說什麼，必須形成真正的對話，要能夠為客戶解決真正的問題，而不能只抓住一些關鍵字進行隨機回復。另外，客服必須能夠從對話信息，引發現實世界的改變，比如呼叫配送中心停止發貨，向上級請求滿足客戶的特殊要求，拿出退貨政策跟客戶辯論，拒絕他們的退貨要求，抓住客戶心理，向他們推銷新服務等等，各種需要「人類經驗」才能處理的事情。所以機器能不但要能夠形成真正的對話，理解客戶的話，它們還需要現實世界的大量經驗，需要改變現實世界的能力，才可能做客服的工作。由於這些個人助手全都是在忽悠，所以我看不到有任何希望，能夠利用現有的技術實現機器客服。

縱觀人工智慧領域發明過的嚇人術語，從 Artificial Intelligence 到 Artificial General Intelligence，從 Machine Learning 到 Deep Learning，…… 我總結出這樣一個規律：人工智慧的研究者們似乎很喜歡製造嚇人的名詞，當人們對一個名詞失去信心，他們就會提出一個不大一樣的，新的名詞，免得人們把對這個名詞的失望，轉移到新的研究上面。然而這些名詞之間，終究是換湯不換藥。因為沒有人真的知道人的智能是什麼，所以也就沒有辦法實現「人工智慧」。

生活中的每一天，我這個「前 AI 狂熱者」都在為「人類智能」顯示出來的超凡能力而感到折服。甚至不需要是人，任何高等動物（比如貓）的能力，都讓我感到敬畏。我發自內心的尊重人和動物。我不再有資格拿「人類」來說事，因為面對這個辭彙，任何機器都是如此的渺小。

紀念我的聊天機器人 helloooo

乘著這個熱門話題，現在我來講一下，十多年前我自己做聊天機器人的故事……

如果你看過 PAIP 或者其它的經典人工智慧教材，就會發現這些機器對話系統，最初的思想來自一個叫「ELIZA」的 AI 程序。Eliza 被設計為一個心理醫生，跟你對話排憂解難，而它內部其實就是一個類似小冰的句子搜索引擎，實現方式完全用正則表達式匹配搞定。比如，Eliza 的某個規則可以說，當用戶說：「我(.*)」，那麼你就回答：「我也$1……」 其中 $1 代替原句子里的一部分，造成一種「理解」的效果。比如用戶也許會說：「我好無聊。」 Eliza 就可以說：「我也好無聊……」 然後這兩個無聊的人就惺惺相惜，有伴了。

就是這麼簡單個東西。出乎我意料的是，helloooo 一上網就吸引了很多人。一傳十十傳百，每天都不停地有人發信息跟他聊。由於我給他設置的正則表達式和回復方式考慮到了人的心理，所以 helloooo 顯得很「俏皮」，有時候還可能裝傻，搗蛋，延遲回復，轉移話題，還可能主動找你聊天，使用超過兩句的小段子，…… 各種花樣都有。最後，這個小色鬼贏得了好多妹子們的喜愛，甚至差點約了幾個出去呢！:P 在這點上，helloooo 可比小冰強很多。小冰的技術含量雖然多一些，數據多很多，然而 helloooo 感覺更像一個人，也更受歡迎。這說明，我們其實不需要很高深的技術，不需要理解自然語言，只要你設計巧妙，抓住人的心理，就能做出人們喜愛的聊天機器。

後來，helloooo 終於引起了清華大學人智組研究生的興趣，來問我：「你這裡面使用的什麼語料庫做分析啊？」 我：「&%&￥@#@#%……」

自動編程是不可能的

現在回到有些人最開頭的提議，實現自動編程系統。我現在可以很簡單的告訴你，那是不可能實現的。微軟的Robust Fill之類，全都是在扯淡。我對微軟最近乘著 AI 熱，各種煽風點火的做法，表示少許鄙視。不過微軟的研究員也許知道這些東西的局限，只是國內小編在誇大它的功效吧。

你仔細看看他們舉出的例子，就知道那是一個玩具問題。人給出少量例子，想要電腦完全正確的猜出他想做什麼，那顯然是不可能的。很簡單的原因，例子不可能包含足夠的信息，精確地表達人想要什麼。最最簡單的變換也許可以，然而只要多出那麼一點點例外情況，你就完全沒法猜出來他想幹什麼。就連人看到這些例子，都不知道另一個人想幹什麼，機器又如何知道？這根本就是想實現「讀心術」。甚至人自己都可以是糊塗的，他根本不知道自己想幹什麼，機器又怎麼猜得出來？所以這比讀心術還要難！

對於如此弱智的問題，都不能 100% 正確的解決，遇到稍微有點邏輯的事情，就更沒有希望了。論文最後還「高瞻遠矚」一下，提到要把這作法擴展到有「控制流」的情況，完全就是瞎扯。所以 RobustFill 所能做的，也就是讓這種極其弱智的玩具問題，達到「接近 92% 的準確率」而已了。另外，這個 92% 是用什麼標準算出來的，也很值得懷疑。

任何一個負責的程序語言專家都會告訴你，自動生成程序是根本不可能的事情。因為「讀心術」是不可能實現的，所以要機器做事，人必須至少告訴機器自己「想要什麼」，然而表達這個「想要什麼」的難度，其實跟編程幾乎是一樣的。實際上程序員工作的本質，不就是在告訴電腦自己想要它幹什麼嗎？最困難的工作（數據結構，演算法，資料庫系統）已經被固化到了庫代碼裡面，然而表達「想要幹什麼」這個任務，是永遠無法自動完成的，因為只有程序員自己才知道他想要什麼，甚至他自己都要想很久，才知道自己想要什麼……

有句話說得好：編程不過是一門失傳的藝術的別名，這門藝術的名字叫做「思考」。沒有任何機器可以代替人的思考，所以程序員是一種不可被機器取代的工作。雖然好的編程工具可以讓程序員工作更加舒心和高效，任何試圖取代程序員工作，節省編程勞力開銷，剋扣程序員待遇，試圖把他們變成「可替換原件」的做法（比如 Agile，TDD），最終都會倒戈，使得僱主收到適得其反的後果。同樣的原理也適用於其它的創造性工作：廚師，髮型師，畫家，……

所以別妄想自動編程了。節省程序員開銷唯一的辦法，是邀請優秀的程序員，尊重他們，給他們好的待遇，讓他們開心安逸的生活和工作。同時，開掉那些滿口「Agile」，「Scrum」，「TDD」，「軟體工程」，光說不做的扯淡管理者，他們才是真正浪費公司資源，降低開發效率和軟體質量的禍根。

傻機器的價值

我不反對繼續投資研究那些有實用價值的人工智慧（比如人臉識別一類的），然而我覺得不應該過度誇大它的用處，把注意力過分集中在它上面，彷彿那是唯一可以做的事情，彷彿那是一個劃時代的革命，彷彿它將取代一切人類勞動。

我的個人興趣其實不在人工智慧上面。那我要怎麼創業呢？很簡單，我覺得大部分人不需要很「智能」的機器，「傻機器」才是對人最有價值的，我們其實遠遠沒有開發完傻機器的潛力。所以設計新的，可靠的，造福於人的傻機器，應該是我創業的目標。當然我這裡所謂的「機器」，包括了硬體和軟體，甚至可以包括雲計算，大數據等內容。

只舉一個例子，有些 AI 公司想研製「機器傭人」，可以自動打掃衛生做家務。我覺得這問題幾乎不可能解決，還不如直接請真正智能的——阿姨來幫忙。我可以做一個阿姨服務平台，方便需要服務的家庭和阿姨進行牽線搭橋。給阿姨配備更好的工具，通信，日程，支付設施，讓她工作不累收錢又方便。另外給家庭提供關於阿姨工作的反饋信息，讓家庭也省心放心，那豈不是兩全其美？哪裡需要什麼智能機器人，難度又高，又貴又不好用。顯然這樣的阿姨服務平台，結合真正的人的智能，輕而易舉就可以讓那些機器傭人公司死在萌芽之中。

當然我可能不會真去做個阿姨服務平台，只是舉個例子，說明許許多多對人有用的傻機器，還在等著我們去發明。這些機器設計起來雖然需要靈機一動，然而實現起來難度卻不高，給人帶來便利，經濟上見效也快。這些東西不對人的工作造成競爭，反而可能製造更多的就業機會。利用人的智慧，加上機器的蠻力，讓人們又省力又能掙錢，才是最合理的發展方向。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！