從機器學習先驅到最堅定的AI反對派：一個大師的複雜內心戲

Judea Pearl幫助AI在概率計算上取得了巨大進步，但是仍然嘆息道：AI在因果關係計算上無能為力。

AI得以發展到今天的聰明才智，離不開Judea Pearl的功勞。20世紀80年代，他帶領一批人實現了機器的概率推導。

而現在，他卻成為了AI領域最堅定的反對派之一。在他最新的一本書《疑問之書：因果關係的新科學》（The Book of Why: The New Science of Cause and Effect）中，他指出AI進步最大的一個掣肘在於，對「智能」到底意味著什麼的基本性認識不足。

三十年前，AI研究最大的挑戰在於，如何通過編程讓機器學會將潛在的原因與所觀察到的現狀進行聯繫。Pearl通過一個叫做貝葉斯網路的方法解決了這個問題。

貝葉斯網路讓機器能夠將現象與可能的原因聯繫起來：比如有一個病人剛從非洲回來，有發熱和頭痛的癥狀，那麼最可能的解釋就是他感染了瘧疾。Pearl也因為這項成就獲得了2011年的圖靈獎——計算機科學界的最高榮譽。

但正如Pearl所看到的那樣，AI領域陷入了概率關聯的泥沼。如今，社會被各種吹捧機器學習和神經網路最新研究突破的文章所淹沒。我們總是能讀到諸如機器掌握了傳統遊戲的玩法、學會了駕駛汽車之類的文章。Pearl對此無動於衷，在他看來，如今的AI只不過是上一代機器的加強版：從一大堆數據中找到隱藏的規律。

「所謂深度學習所取得的重大成就，加起來不過就是曲線擬合，」他說道。

81歲的Pearl在他的新書中詳細闡述了真正擁有智能的機器的思考方式。他認為機器真正擁有智能的關鍵在於能夠使用因果推論，而非通過相關關係推論。

例如，僅僅做到將「發熱」和「瘧疾」聯繫起來是不夠的，機器還要能推導出「瘧疾會導致發熱」。一旦這種因果的框架建立起來，機器就有可能提出一些反事實問題——如果施加某種干預，那麼因果關係將會發生什麼變化——Pearl視之為科學思考的里程碑。

同時，Pearl還提出了一套實現這種思考方式的形式語言——21世紀版本的貝葉斯框架，讓機器能夠概率性的思考。

Pearl期望因果推理能夠賦予機器人類級別的智能。他解釋說，在這種級別的智能下機器能夠與人類更有效地溝通，甚至進行道德層面的交流，因為它們已經具備了自由意志——當然，也會有罪惡念頭。

Quanta 雜誌社最近在聖地亞哥的一個會議上與Pearl取得了聯繫，並在會議後對他進行了電話採訪。以下是刪選過的採訪內容：

Kevin Hartnett：為什麼給新書起名叫作《疑問之書》？

Judea Pearl：這本書涵蓋了我過去25年所做的關於因果關係的工作，即因果關係在一個人的生命中意味著什麼，因果關係的應用，以及我們會如何根據固有的因果關係來答問。奇怪的是，這些問題都被科學界拋棄了，我在此就是想彌補科學界對於因果關係的忽視。

H：科學界捨棄了因果關係這種說法還挺讓人驚訝的。這不正是科學的全部嗎？

P：當然，但是你沒法通過科學方程式實現這個願望。代數語言是具有相稱性的：如果x能推導出y，那麼y就能推導出x。我是在說必然關係。但是我們沒法使用數學語言描述一些簡單的事實——比如，即將到來的暴風雨會讓氣壓表的讀數下降，而不是上升。

數學中不存在描述不對等關係的語言，諸如如果x導致了y，並不意味著y一定會導致x。我知道反對科學聽起來非常可怕，如果我對我媽這樣說，她可能會獎勵我一巴掌。

但是科學是非常寬容的：當注意到我們缺少描述不對稱關係的演算之後，科學會鼓勵我們去創造一個。這時數學就發揮了很大的作用。當我意識到一個很簡單的因果關係演算就能解決問題時，我整個人都驚呆了，當今最厲害的統計學家都會認為這個方法非常糟糕或者根本無法解決問題。但其實，所有這些我們能很輕鬆的在高中幾何學中找到證明。

H：幾十年前，您曾通過指導機器進行概率推導而在AI領域取得了盛名。能解釋一下當時AI界發生了什麼嗎？

P：在20世紀80年代早期出現的問題是人們對於預測和分析診斷本質的思考。當醫生觀察一個病人的一系列癥狀時，他會得出這個病人罹患瘧疾或者其他疾病的概率。我們希望自動化系統、專家系統能夠代替專家——不論是醫生、是礦物探尋者、還是別的什麼需要付錢聘請的專家。在那個時候，我就想著能不能用概率的方式解決這個問題。

不幸的是，標準的概率計算模型需要巨量的空間和時間。我想出了一個叫做貝葉斯網路的演算法，只需要多項式時間，並且過程非常透明。

H：另外，在您的新書中，您稱自己為當今AI界的叛徒。這是什麼意思呢？

P：事實上，在創造出了幫助機器對不確定性進行推導的工具之後，我給這個領域引入了一個更具挑戰性的任務：對因果關係進行推導。許多AI界同事還在執著於不確定性研究，許多研究還在以分析診斷為核心，無需考慮問題的因果關係。他們想做的就是得到好的預測結果和分析診斷結果。

我可以舉一個例子。現在所有我們看到的機器學習的研究都是以診斷模式執行的——即，給事物打上「貓」或「老虎」的標籤。他們不在乎「例外情況」，他們想要的只是識別物體，以及預測時間序列下物體的變化。

當我創造出預測和診斷分析強有力的工具的時候，我就覺得自己像個叛徒，因為我知道這只是人類智能的冰山一角。如果我們想要機器能夠對某些干預下的「例外情況」進行推導（例如，如果我們禁煙會怎麼樣？），或者進行反省性思考（例如，我高中畢業後會做什麼？）時，我們必須使用隨機模型。相關關係是遠遠不夠的——這是因為數學本身的客觀缺陷導致的，而不是個人主觀想法。

H：人們都對AI未來可以做到的事情充滿了希望，而你不是？

P：當我看到越來越多深度學習的研究之後，我覺得他們都在相關關係的層級上停止前進了，譬如曲線擬合。雖然這聽起來有點殘酷，但所有令人印象深刻的深度學習研究成就加起來，實質上不過就是把曲線擬合到數據上。從數學層級的角度來看，無論在處理數據、分析數據時多麼熟練，都不過只是一個曲線擬合練習，儘管這個過程複雜且繁瑣。

H：你談論曲線擬合的方式，讓人覺得機器學習的成就並沒有怎麼打動你。

P：不，我印象很深，因為我們原本並沒有期望能夠通過簡單的曲線擬合能夠解決很多問題，但事實上它做到了。我抱有懷疑的是關於未來的發展——接下來我們能期待什麼？我們是否能創造出一個機器人科學家，做出試驗計劃，找到未解決科學問題的新答案？這是我們接下來要做的事情。

我們同樣希望能夠與機器進行有意義的溝通，而有意義則意味著符合我們的直覺。如果你沒法讓機器人具備因果關係的直覺力，那麼就無法與之進行有意義的溝通。機器人不會說出：「我原本可以做的更好」這樣的話，而這是你我天生就能做的。這樣，我們就失去了溝通的一個重要渠道。

H：那麼對於機器掌握了因果關係直覺力的未來，我們可以期待什麼？

P：我們需要給機器部署環境模型。如果機器沒有現實模型，那麼我們就無法期待機器在現實中表現得很智能。首先第一步，也許是10年之內會發生的事情，就是人類給機器部署現實概念模型。

下一步，機器將基於這些模型，自行基於歷史經驗驗證或定義新的模型。這也就是科學界的工作方式，例如，我們從由圓形及本輪組成的地心說模型開始，最後以橢圓軌道的日心說結束。

同樣，機器人也能彼此交流，並能把這個假想的、野蠻的世界，轉為隱喻式的模型。

H：當你和正在AI領域工作的人說起這些想法的時候，他們是什麼反應？

P：AI界如今各分天下。如果給那些沉醉於機器學習、深度學習以及神經網路成就的人說我這些想法的話，他們並不會理解我。他們只想繼續曲線擬合。但如果和那些在AI界中非統計學習領域工作的人講，他們很快就會領會我的意思。過去這兩個月，我已經讀到了幾篇關於機器學習局限性的論文。

H：你的意思是不是說，在機器學習之外有一些別的趨勢呢？

P：不是趨勢，而是一個嚴肅的意志探索之旅，我們需要不斷地自我拷問：我們要去哪？下一步要做什麼？

H：這正好是我最想問你的。

P：我很高興你沒問我關於自由意志的問題。

H：那麼，你是怎樣看待自由意志的？

P：我們未來一定會創造擁有自由意志的機器人，這點毫無疑問。我們需要思考的是怎麼實現這一點，以及我們希望從中獲得什麼。由於某些原因，進化讓自由意志之感知在計算機層面變得可實現。

H：怎麼說？

P：進化讓我們具備了自由意志的感知。顯而易見，進化遵從於一些計算函數。

H：如果機器人擁有了自由意志，會有很明顯的特徵和信號嗎？

P：我認為第一個特徵就在於，機器人開始出現一些反事實的交流，譬如說：「你本應該做的更好」。如果一隊正在踢足球的機器人開始以這樣風格的語言進行交流了，那麼我們就知道它們某種程度上擁有了自由意志。「你應該把那個球傳給我的——我在等你，但是你沒這樣做！」「你本應該……」意味著你本可以做到一些衝動和慾望之下你想做的事情，但是你沒能做到。所以第一個信號會是交流形式的變化，第二個會是行動上的改進。

H：現在你已經談了很多關於自由意志的內容，也許是時候問一下你關於罪行的問題了。罪行往往建立在有能力做選擇的基礎之上。什麼是罪惡？

P：罪惡就是當你的貪婪或者不滿超過了所有常規社會標準時，你內心存在的意念。譬如說，一個人內心有類似於軟體模塊的定義說：「你餓了，因此你被准許採取一些行動來滿足你的貪婪或不滿。」但同時，有別的模塊規定你需要遵守社會規章制度，其中一個叫做同理心。當你把你的不滿提升到這些通常意義上的社會規章制度之上時，罪惡便隨之產生。

H：所以我們如何得知AI具備了犯罪能力？

P：一個徵兆就是機器人持續地忽略部分軟體組件，或者當機器人開始遵從一些組件的指令而忽略掉別的組件，尤其是當它們忽略了那些讓它們遵守基本行為準則的組件，而這些組件或者已經被部署在它們內部，或者本來是希望它們基於歷史學習進行獲取的。而機器人卻不再遵從。

來源：大數據文摘作品

編譯：張南星、傅一洋、鄭璇真

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！