對話 IJCAI 07「卓越研究獎」得主 Alan Bundy ：理解智能的本質是 AI 發展的終極目標

雷鋒網 AI 科技評論按：今年，IJCAI（國際人工智慧聯合會議，International Joint Conferences on Artificial Intelligence）將於 8 月 10 日至 16 日在中國澳門隆重召開。作為國際人工智慧領域最頂級的學術會議之一，IJCAI 始終都是該領域研究者關注的焦點會議之一。

此前，我們開啟了 IJCAI 50 周年特別報道，介紹了 IJCAI 2019 對於 IJCAI 本身以及中國所承載的歷史性意義，並一一點名了在這兩段歷史中留下姓名的科學家們，包括：

• 11 位 IJCAI「卓越研究獎」獲得者：Judea Pearl、 Donald Michie、 Nils Nilsson、 Geoffrey E. Hinton、 Alan Bundy、Victor R. Lesser、Robert Kowalski、 Hector Levesque、 Barbara Grosz、 Andrew Barto、Jitendra Malik；

• 5 位 IJCAI「中國學者第一人」：林堯瑞教授、張鈸院士、陸汝鈐院士、林方真教授以及楊強教授。

日前，AI 科技評論有幸採訪到了 2007 年 IJCAI「卓越研究獎」得主 Alan Bundy，就他的個人研究生涯、當前對於機器學習和 AI 危機的討論以及 IJCAI「卓越研究獎」的獲獎經歷等進行了對話。

Alan Bundy，英國皇家科學院院士、愛丁堡大學教授。他的主要研究方向為自動推理，重要研究成果包括證明規劃（Proof-Planning）、元級推理的證明搜索（Meta-level Reasoning to Guide Rroof Search）等。他曾擔任 AAAI 創始 Fellow、歐洲人工智慧聯合會（ECCAI）Fellow、皇家工程院 Fellow（FREng）、ACM Fellow、英國皇家藝術協會會員（FRSA）以及英國皇家學會會員（FRS），此外，他還是 2007 年 IJCAI「卓越研究獎」以及自動推理領域最高獎「Herbrand 獎」的獲得者。

1968 年和 1971 年，Alan Bundy 先後在萊斯特大學獲得數學學士學位和數學邏輯學博士學位。而之後轉到使其聞名世界的自動推理領域，Alan Bundy 自身更多地歸因為：偶然的契機。

博士畢業後的 Alan Bundy，希望能夠利用自身在邏輯方面的積澱來解決實際問題，而自動定理證明（Automated theorem proving）似乎是他能夠選擇的一個順理成章的研究方向。如果說這還是 Alan Bundy 當時想轉變研究方向的一個想法，那他在博士期間認識的 Bernard Meltzer 則讓他這一想法變成了現實：當時，Bernard Meltzer 已加入愛丁堡大學領導世界領先的 ATP 研究組，恰好正在招收博士後，於是 Alan Bundy 便申請了這一崗位，並最終成功獲得錄用。由此，Alan Bundy 便正式開啟了他在自動推理方向的研究生涯。

ATP 研究組將推理的嚴謹和搜索方向的啟發式方法進行了理想的結合，這一點深深地吸引了 Alan Bundy，同時更讓他意識到了一個核心卻被忽視的問題：推理表示的自動形成。之後，基於這一思路，Alan Bundy 領導研究小組在開展 Mecho 項目中就解決了推理表示的自動形成問題。「Mecho 項目通過將英語理想化為場景的一階表示，然後提取和求解聯立方程，解決了用英語表示的力學問題。」

「最近，我也回到這一領域進行研究，對錯誤的表示進行診斷和修復，因為隨著我們更加依賴於噪音網站和手動構建的本體，這一問題的解決也變得越發重要。」

一直到退休，Alan Bundy 始終都在愛丁堡大學任教，他在採訪中表示：「愛丁堡大學發展成為了全球 AI 研究的四大中心之一（美國之外的唯一一個），在我加入後的四十多年時間裡，我找不到離開愛丁堡大學去其他機構的理由。」

證明規劃（Proof-Planning）是 Alan Bundy 研究生涯中最為人所稱道的一項成果，他表示，這也是他個人認為最具代表性的成果。

「證明策略可以指導定理證明器解決一部分證明問題。研究者通過給這些策略制定前置和後置條件，可以構建某個證明的規劃。如果規劃失敗，研究者就能夠使用前置和後置條件來分析故障原因並修復證明嘗試。其中，經過我們改善後的最佳策略就是 rippling，它能夠指導目標改寫，從而使得將給定條件應用到目標證明中成為可能。而給定的條件可以是歸納假設，也可以是假設證明的假設或公理。同時，在對 rippling 故障的分析中，也可以體現策略是否缺少了中間輔助定理和普遍原理——而這些，此前都被認為是要求人為干預的。」

雖然已退休七年，Alan Bundy 現在依舊在他所熱愛的研究領域勤耕不輟，他提到，近期他最引以為豪的一項工作成果叫做 Reformation：

「這是一個領域獨立的演算法，用以診斷和修復故障邏輯表示，也就是說研究者通過證明某個錯誤的定理或證明無法實現正確推測的錯誤來找到故障。此前針對這一問題的解決方法是信念修正（belief revision），即刪除錯誤公理或不明推論，並添加正確的推論。而 Reformation 則為修復提出了一個新的方向，它通過改變理論的語言來實現修復，例如拆分或融合概念，或者添加、消除概念的獨立性。它基於匹配演算法、聯合，可以分解在錯誤定理證明中不想要但是成功的聯合，或者能夠賦能正確推測的拖延證明中想要但失敗的聯合。」

除此之外，Alan Bundy 表示，他現在還熱衷於自動推斷策略的研究，具體研究方向包括從 Web 上的信息多源到通過組合各種推理方法的新知識推斷，例如統計學和演繹等。「舉個例子，我們的 FRANK（Functional Reasoning Acquires New Knowledge）系統就通過在已知數據上利用回歸來構建功能，之後再將其推斷成未來數據，從事實現自動預測。」

與所有研究者一樣，Alan Bundy 在其幾十年的研究生涯中也遇到過不少挑戰和挫折，不過，他在回顧自己所遇到的問題時，顯得格外樂觀，他表示：雖然他無法用「好」這個字眼來形容他此前在研究中遇到的問題，但是他有一套克服研究困難的竅門：

• 首先，我一直都堅持招收最好的博士後和學生。並且在招收後，我就會相信他們能做好其所能做的工作。這也是我從我的第一任領導 Bernard Meltzer 那裡學到的重要經驗。

• 但是不久後，優秀的研究人員可能就會想離開我的研究小組並開始成立自己的研究小組。對於這一點，比起認為我失去了一位關鍵的團隊成員，我更願意將其視作一個外部合作的新機會。

• 同時，我認為有好的判斷能力去選擇合適的研究平台也非常重要。一些新的編程語言或工具包可能看上去符合你要求的理想技術，但你同時還要確保這些平台始終得到充分維護。否則，在被使用幾年後，它可能會壞掉，而你此前所有的投入也將付諸東流。此外，知道什麼時候跳出來你的某個，也是至關重要的。

關於機器學習的一些思考

Alan Bundy 作為傳統 AI 領域的代表性人物，在採訪中也就當前非常熱門的機器學習表達了他的肯定與顧慮：

「統計機器學習在近年來取得了巨大的成功，並且可以說，正是機器學習真正讓 AI 引起了大眾的廣泛關注。然而，它同樣也存在局限性，例如，機器學習在推理的解釋性方面要求大量的樣本，並且這一方法無法構建像程序這樣的複合結構。

因此，我也非常開心能夠看到當下對於所謂的第三波 AI 浪潮的討論，在這波浪潮中，AI 的符號和次符號方法都被視作能夠解決任意方法局限性的混合系統的潛在補充。我自己也開始進行這個方向的研究實驗，並期待有合作者來共同進一步探索其可能性。」

另外針對當前「深度學習過熱」這一重要議題，Alan Bundy 也結合自己的研究生涯，提醒大家要辯證地看待深度學習這一研究方法：

「實際上，這類過熱現象往往會限制 AI 的發展，我的研究生涯就橫跨了 AI 歷經的幾個發展階段，就比如說上世紀 80 年代專家系統的爆髮式發展。雖然每個階段出現的一系列 AI 新方法都給研究者帶來了非常有用的新工具，但是對於「使用某一種重要方法就能解決 AI 所有的問題」的這種錯誤預期，則會導致不切實際的遐想，並且最終會給人類帶來失望。我認為統計機器學習的成功是毋庸置疑，其使用的 S 型曲線（S-Curve）能夠接近最優解的臨界值，給 AI 領域的研究帶來了巨大的價值。同時，我也認為下一個 AI 寒冬不會到來。另外，我希望現在這第三波 AI 浪潮能夠創造各色各樣的新機遇和新成果。」

AI 領域中一直都有聲音警示 AI 目前存在或未來將到來的危機，其中不少人認為 AI 過於智能將對整個人類物種造成威脅。而 Alan Bundy 對此的觀點有所不同，他曾在計算機學會雜誌《ACM 通訊》（Communications of the ACM）上表示：AI 的威脅的確存在，但威脅並不來自於類人智能 AI 的出現，正好相反，威脅來自於笨拙、低效、無能的 AI。

「我認為 AI 的笨拙、低效、無能將會帶來非常嚴重的危機。沒錯，大量 AI 系統確實取得了不小的成果，然而它們距離成為真正理想的專家還存在距離。它們也許實現了世界級的性能，但都還只能應用於非常狹隘的領域，或者用於下圍棋，或者用於自動駕駛、一般的知識問答等。然而，一旦將這些單個系統用到其能力以外的領域，它們將會帶來各種大型「翻車」現場。就比如說讓 AlphaGo 去駕駛車輛，這無疑將帶來巨大的安全隱患。再比如，心臟診斷系統如果被用來診斷癌症患者，帶來的就不僅僅是誤導，更會給這些患者帶來嚴重的傷害。

目前關於 AI 奇點、AI 系統將讓人類失去主人地位的危機論，實際上干擾了我們對於 AI 所存在的這些真正危機的注意力。一些由帶有局限性的 AI 系統組成的解決方案一旦被應用到其特定能力以外的領域，它們的笨拙、低效、無能顯而易見。」

基於這一擔憂，Alan Bundy 提出 AI 發展的終極目標是：理解智能的本質，尤其是認知。

「我認為不存在任何自然現象會永遠都超出我們的理解範疇，而 AI 則是當前我們理解智能的最佳選擇。一個類比就是我們對於飛行的理解。我們沒有利用對飛行的理解去創造出人造鳥，而是建造了飛機。同樣地，我們並不是要利用我們的智能知識去創造人類的替補，而是創造豐富的 AI 工具來增強和延展人類智能。一些 AI 在特定領域或許已經超越了人類能力，而我希望這些領域能夠在範圍和專業知識方面有所增長。我可不希望我們創造出一個超級機器人種族來接管我們這個世界，我們沒有這樣做的理由。

儘管，現在存在著某種威脅，即人類有可能製造出對人類和文明造成嚴重破壞的自主武器，但是這種威脅比起刻意設計，更帶有偶然因素，所以我們必須堅決反對這種行為。」

IJCAI 2007「卓越研究獎」得主遇上 IJCAI 50 周年

作為 2007 年 IJCAI「卓越研究獎」得主，Alan Bundy 也成為了 IJCAI 歷史篇章上濃墨重彩的一筆。回憶起當時得知自己獲得了 IJCAI「卓越研究獎」的心情，Alan Bundy 用了「Mostly surprise」來形容。

「我猜我們這些獲獎者在得知自己獲得了這一獎項的那一刻，基本上都好似患上了某種程度上的冒名頂替綜合症（Imposter Syndrome）。IJCAI「卓越研究獎」在我心裡就是 AI 領域的最高榮譽，所以當時我簡直不敢相信我的研究被授予了如此重量級的獎項。而這個獎項也讓我成為了我頗為尊崇的 AI 英雄行列中的一員。

不僅如此，這個獎項也成為了我在正式退休後的七年時間裡依舊活躍在 AI 研究領域的支撐之一，我希望我還能夠做出一些成果，讓我在回顧自己的研究生涯時能夠說：我的研究值得獲得這一獎項。」

Alan Bundy 曾作為 AAAI（1990 年）和 ECCAI（1999 年）等起源於區域會議系列的學術會議的 Founding Fellow，因而他也更加能夠了解 IJCAI 所扮演的獨特性角色：

「IJCIA 自創立以來就是世界性的會議，迄今為止已蒞臨全世界的多個國家和地區召開，也吸引了眾多來自全球各地區的 AI 研究者們。我認為 IJCAI 的這一特點非常重要，這也是其他區域性會議所無法比擬的優勢。

當不同研究領域的多個觀點進行交流互動時，往往會碰觸出一個全新研究方向的火花，IJCAI 便是能夠實現這些碰撞的理想勝地。特別是，IJCAI 的 workshop 能夠讓分布在全球各地的志同道合的研究者們匯聚一堂，分享交流觀點。

AI 是整個人類共同努力的成果，需要得到全世界的重視——而這便是 IJCAI 能夠實現的。我希望，IJCAI 在今後依舊能夠繼續在推動分布於世界各地實驗室的研究者們之間的共同協作上，發揮著自己的獨特作用。」

今年恰逢 IJCAI 的 50 周年，對於本屆意義非凡的 IJCAI 會議，Alan Bundy 也非常驕傲而感慨地表達了自己的祝福：

「祝 IJCAI 50 周年快樂！1971 年，我參加了在倫敦召開的 第二屆 IJCAI 會議，當時會議的規模遠無法同現在的相提並論。真的很開心看到 IJCAI 發展得如此盛大，同時還匯聚了來自如此多不同國家 AI 研究團隊。我衷心祝願 IJCAI 能夠一如既往地推動 AI 的全世界發展，吸引世界級的出版媒體，並一直作為國際研究者合作的重要匯聚盛會。同時，我更希望，AI 領域在下個 50 年依舊會出現如此多出色的研究成果，祝福 IJCAI 的 100 周年！」

最後，AI 科技評論也代表廣大研究者向 Alan Bundy 這位在 AI 領域成績斐然的科學家取了一回經。Alan Bundy 本人也向後輩研究者們分享了自己認為最重要的兩點建議：

• 一方面，永遠要研究重要的問題。對於一些並不重要的問題，即便你取得了成果，也沒有什麼太大意義，但是如果你失敗了......。然而，對於一些重要的問題，即便你最終失敗了，在這個過程中你或許也能做出某種程度上的貢獻——即便只是判別出某項技術沒有什麼用，這也可以為其他研究者節省不少時間。

• 另一方面，不要給自己制定不切實際的目標，尤其是當你在完成一個具有挑戰性的 deadline 時，例如說要拿到博士學位，更是要制定貼合實際的計劃和目標。對於一些重要的研究問題，你沒必要讓自己一開始就朝著完全解決這個問題的目標出發，而是首先判斷自己能夠做出顯著同時也是自己力所能及的成果、對這個研究領域具有貢獻性的事情是什麼，再進行規劃。在這個過程中，你還需要明白的一點是：你之後的研究生涯，會給你足夠多的時間去做出更多的成就！

隨著「IJCAI 50 周年特別報道」採訪計劃的推進，雷鋒網 AI 科技評論後續還將為大家帶來一系列採訪報道，歡迎大家前往雷鋒網 AI 研習社專門開設的 IJCAI 小組（https://ai.yanxishe.com/page/meeting/47）向各位學者提問，而我們也將有選擇性地將大家的問題傳達給各位學者，並最終以文字的形式反饋給大家！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！