AI大牛Bengio回應紐約大學教授質疑！期待人工智慧保護地球

年初一場關於深度學習局限性的討論，「戰火」一直蔓延到年尾。

作為近年來最活躍的深度學習質疑者之一，紐約大學教授的 Gary Marcus 曾宣稱以 Yann lecun、Yoshua Bengio 為首的 AI 界大牛「神化」了深度學習，並公開表示只有深度學習是行不通的。

圖丨2017年，Gary Marcus 在麻省理工科技評論舉辦的 EmTech Digital 峰會上演講（來源：麻省理工科技評論）

2018 年 1 月，他曾髮長文闡述深度學習的 10 個局限，在當時引發了很大的反響，10 月 29 日，Gary Marcus 再度發文，稱深度學習 20 年來在解決局限性上沒有顯著進展，無法處理語言複雜性，並直指 Yoshua Bengio 團隊在最新的一篇論文中承認了深度學習的不足，即當下的深度學習技術並不能真正處理語言的複雜性，意味著兩人在深度學習的局限上「達成共識」。

那麼，Yoshua Bengio 又如何看待 Gary Marcus 這來勢洶洶的新一輪「深度學習反思」呢？11 月 6 日，Yoshua Bengio 在採訪中對 DT 君表示，他並不同意 Gary Marcus 的最新表態。兩人在深度學習乃至人工智慧未來發展上仍持不同意見。

圖丨Yoshua Bengio （來源：DT君）

「我們目前的工作中的確展現出了深度學習的局限性。但事實上，這些局限性並不是新的限制。幾十年前，我們在圖像數據上訓練機器時，就知道它們不會理解世界的全部複雜性，只會理解它們接受過訓練的某些特定內容。Gary 一直在說的事情，包括提出一些關於符號的先驗知識等，我同意我們需要這樣做，但我不認為這是什麼新的說辭。我不喜歡他說得好像這些都是新局限、新方案一樣」，Bengio 說。

圖丨Gary Marcus 10月29日發表的文章（來源：Medium）

Gary Marcus 年初的文章中提到的深度學習局限性包括需要更多的數據、不能處理層級結構、無法進行開放式推理、不夠透明、不能與先驗知識集成、不能區分因果關係和相關關係等。他還提到，深度學習工程化很困難，並且存在著過度炒作的潛在風險。因此，Gary Marcus 認為，深度學習需要重新概念化，並在非監督學習、符號操作和混合模型中尋找可能性。而在 Medium 發表的最新博文中，Gary Marcus 也再次強調了深度學習走出當下困境的一個選擇是：與經典人工智慧（符號學）結合。對於這一看法，Bengio 認為，經典人工智慧用以試圖解決 AI 的一些問題的方式是錯誤的，但目標是正確的。

「經典人工智慧試圖用數學公式表示一些常規知識，我覺得這很好。有很多知識可以用這種方式表達出來。但它哪裡錯了？它缺少學習，它缺少不確定性的表示，缺少分散式表示。而分散式表示正是神經網路的核心。這些經典人工智慧所缺乏的東西阻礙了經典人工智慧的進一步發展」，他說，「所以我的看法是，我們可以朝著經典人工智慧想要實現的目標邁進，深度學習是達到這些目標的有力工具。」

圖丨Yoshua Bengio，蒙特利爾大學計算機科學與運籌學系教授，也是深度學習的元老，與 Yann LeCun、Geoffrey Hinton並稱為「深度學習三巨頭」。他的諸多科研積累，包括深度學習架構、循環神經網路（RNN）、對抗演算法、表徵學習，影響和啟發了後來的大量研究者，將深度學習應用到自然語言處理、計算機視覺等人工智慧的各個主要領域，對近年來深度學習的崛起和發展起到了巨大的推動作用。目前,他是僅存的幾個仍然全身心投入在學術界的深度學習教授之一，為人工智慧培養了許多傑出的下一代人才

當然，我們目前也無法判斷深度學習乃至人工智慧的未來會走向何方，Bengio 本人也認為，每個 AI 學者也都有各自不同的觀點。 值得注意的是，這樣的正反不同觀點碰撞出現的一個大背景，正是近年來深度學習已經成長為人工智慧技術中的主流力量：人們不但能在各類 AI 相關應用上發現它的身影，同時它也是整個 AI 生態鏈中的一大底層支持，因此，到了現在這個階段，深度學習演算法能力和人才儲備也被看作一個 AI 公司是否具備一定競爭力的判斷標準。

而作為深度學習的奠基人，除了回應 Gary Marcus 最新的深度學習局限性討論以外，Bengio 也與 DT 君分享了其對於當下的深度學習研究、AI 創業潮等熱門話題的思考。以下為 11 月 6 日 Bengio 於微軟亞洲研究院主辦的一次會議上接受 DT 君採訪的內容（基於原意有所刪改）：

圖丨 Gary Marcus 最新文章中對深度學習的預測（來源：Medium）

問：紐約大學教授 Gary Marcus 最近又發布了一篇文章，稱您的團隊確認了深度學習的局限性，您和他關於深度學習的看法是相同的，您同意 Gary Marcus 的最新說法嗎？

答：我們目前的工作中的確展現出了深度學習的局限性。但事實上，這些局限性並不是新的限制。幾十年前，我們在圖像數據上訓練機器時，就知道它們不會理解世界的全部複雜性，只會理解它們接受過訓練的某些特定內容。就像多年來，研究人員也意識到基於符號的經典人工智慧技術存在一些局限性一樣。

所以，這是一個非常舊的想法。Gary 一直在說的事情，包括提出一些關於符號的先驗知識等，我同意我們需要這樣做，但我不認為這是什麼新的說辭。我不喜歡他說得好像這些都是新局限、新方案一樣。

事實上，我們一直都知道問題所在，也正在解決這些問題，經典人工智慧技術也試圖解決局限性的問題，但 Gary 認為深度學習就是一個錯誤的答案。我認為，深度學習是一個新的工具，我們也知道，人們已經在這個框架內積累了各種各樣的想法，我們將繼續擴展它，並擴大深度學習的範圍，去吸收經典人工智慧的兼具規則和知識的能力。

經典人工智慧試圖用數學公式表示一些常規知識，我覺得這很好。有很多知識可以用這種方式表達出來。但它哪裡錯了？它缺少學習，它缺少不確定性的表示，缺少分散式表示。而分散式表示正是神經網路的核心。這些經典人工智慧所缺乏的東西阻礙了經典人工智慧的進一步發展。

所以我的看法是，我們可以朝著經典人工智慧想要實現的目標邁進，深度學習是達到這些目標的有力工具。

至於接下來的幾年深度學習將走向何方，我不知道，畢竟我沒有水晶球。每個研究人員都有自己的想法。我認為這很好，因為我們都不知道最優解將來自何處，而研究的多樣性非常重要。

因此，作為一個社區，我們必須鼓勵探索。沒有人能確切地掌握未來，沒有人確切地知道正確的方式。所以，大學裡的研究以及在微軟研究院或者其他類似公司的實驗室中，大量的研究都是好奇心驅動的，正如微軟 CEO 納德拉今天早上（的微軟亞洲研究院活動）所說的那樣。

（來源：DT君）

問：目前深度學習技術已經已經有了各種各樣的具體應用，您最近有沒有特別關注哪個方向？

答：未來還會有更多不同的應用出現，我希望看到能夠將人工智慧技術應用於保護地球。

比如與生命相關的應用或者環境保護相關的應用。因為我覺得我們現在真的有很大麻煩，比如氣候變化等。比如說，我由衷地希望研究人員們能考慮研究衛星圖像識別，而不是簡單地研究識別小貓小狗的圖像。

另外，人工智慧在醫療方面的應用也值得期待。

人工智慧將能幫助治療病人，許多這種應用場景或許不會有多大經濟收益，但是對所有人類或者對地球來說意義重大。我希望這種研究和應用越多越好，這比手機上實現某些小功能有用多了，儘管這些功能也挺酷的。

圖丨谷歌團隊的Thang Luong認為，BERT模型開啟了NLP的新時代（來源：Twitter）

問：谷歌最近推出了一個新的 NLP 模型 BERT，根據論文，其在數十項測試中都有非常好的表現，您如何評估這個模型的價值？

答：BERT 讓人印象深刻。但是我感覺它有點類似基於神經網路的谷歌翻譯，我們之前在大學裡也使用過類似代碼，那時還很一般，但經過大量的工程和數據訓練，谷歌已經將其提升了很多。

像谷歌這些大型科技公司，有資金去支持學界的想法然後實現其功能，不過我不認為這是一種基礎性的突破，但它確實讓人印象深刻。

圖丨 Bengio 在微軟亞洲研究會主辦的國際學術研討會暨微軟教育峰會上進行演講（來源：DT君）

問：近期您有在尋找某些特定的 NLP 創新方向嗎？

答：就創新而言，聯繫到自然語言領域，我認為我們需要創建一個能真正聽懂人類語言的系統。

例如，當我說小貓時，它不僅僅是一個抽象的概念，我腦海會有貓的圖像，我能想起貓跳到腿上後的感覺。所有這些感受是不容易用語言形容的。但這些感受是我說話時隨之而來的，所有這些對於理解句子來說是非常重要的。

單純的字元是無法體現這些感受，這些問題還沒有得到解決，BERT 也沒有解決這個問題，而且只針對文字的訓練是不能解決這些問題的。

（來源： Element AI）

問：您在兩年前創辦了 AI 孵化器 Element AI，致力於通過矽谷式的產業服務幫助創業者，將人工智慧的新技術從實驗室轉化為實用產品，同時也為其他公司構建研究機構提供解決方案。根據您的經驗，一家深度學習初創公司需要哪些條件才能夠成功？

答：對於創業來說，創業者只有科技硬實力是不夠的，還需要有強大的商業實力。因此，通常一個人去領導這家公司是很難實現成功的，需要一群有管理能力、商業能力、科研能力和工程實踐能力的人一起合作。我不是一個優秀的工程師，但我是科學家，如果我創業的話，我可能會找一個優秀的工程師合作。

每個人都有自己的優勢，初創企業需要把這些人團結起來，還要吸引合適的投資。尤其在 AI 領域，想要成就事業，初創公司需要找到願意承擔長期風險的合伙人。但是投資人一般更願意投資短期就能實現收益的公司。因此人工智慧行業找到合適的投資並不容易。另一方面，拒絕一些不合適的投資人也未嘗不可，畢竟就長期目標來說，合適但不多的資金也是值得的。

初創公司還需要有強大的技術實力，需要領域內的頂尖人才。就目前人工智慧初創公司來說，有很多盲目扎進來的外行人。行業火熱是好事，但是我們仍需要專業人士的參與。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！