當前位置:
首頁 > 新聞 > 2018圖靈獎授予AI三教父 Bengio、LeCun、Hinton

2018圖靈獎授予AI三教父 Bengio、LeCun、Hinton

2018圖靈獎授予AI三教父 Bengio、LeCun、Hinton

【新智元導讀】ACM剛剛公布2018年圖靈獎獲得者,深度學習三巨頭:Yoshua Bengio、Geoffrey Hinton、Yann LeCun獲獎,深度學習獲得了最高榮譽!

榮耀屬於深度學習!

今天,2018年圖靈獎公布,深度學習三巨頭:Yoshua Bengio、Geoffrey Hinton、Yann LeCun獲獎,三人瓜分100萬美元獎金。

Yann LeCun、Geoffrey Hinton、Yoshua Bengio

  • Yoshua Bengio

    是蒙特利爾大學教授,也是魁北克人工智慧研究所的科學主任;
  • Geoffrey Hinton

    是谷歌副總裁和Engineering Fellow,Vector人工智慧研究院首席科學顧問,多倫多大學名譽教授;
  • Yann LeCun

    是紐約大學教授、Facebook副總裁兼首席AI科學家。

三位獲獎者在業內被稱為「當代人工智慧教父」,開創了深度神經網路(deep neural network),而這項技術已經成為計算科學的關鍵部分,為深度學習演算法的發展和應用奠定了基礎。

去年,」深度學習寒冬論「頻起,三位大神也在多個場合對」寒冬「做出了回應。不僅如此,Geoffrey Hinton還提出新的神經網路模型Capsule Network(膠囊網路),試圖找到解決深度學習缺陷的新方法。


AI三巨頭簡介

Geoffrey Hinto

2018圖靈獎授予AI三教父 Bengio、LeCun、Hinton

Geoffrey Hinton是谷歌副總裁兼Engineering Fellow,向量研究所首席科學顧問、多倫多大學名譽教授。Hinton在劍橋大學獲得實驗心理學學士學位,在愛丁堡大學獲得人工智慧博士學位。他是CIFAR的神經計算和自適應感知(後來的「機器和大腦學習」)項目的創始主任。

Hinton曾獲加拿大最高榮譽勳章,英國皇家學會會員,美國國家工程院外籍院士,國際人工智慧聯合會議(IJCAI)卓越研究獎,NSERC Herzberg金牌獎,及IEEE James Clerk Maxwell金牌。他還被「連線」雜誌選為「2016年度最具影響力100人」之一,並被彭博社選為2017年「改變全球商業格局的50人」之一。

Yann LeCun

2018圖靈獎授予AI三教父 Bengio、LeCun、Hinton

Yann LeCun是紐約大學Courant數學科學研究所的Silver教授,Facebook的副總裁兼首席AI科學家。他在英國電子技術與電子學院(ESIEE)獲得高等英語學士學位,在瑪麗·居里·皮埃爾大學獲計算機科學博士學位。

LeCun是美國國家工程院院士,來自墨西哥IPN和洛桑聯邦理工學院(EPFL)的榮譽博士,賓夕法尼亞大學Pender獎得主,埃因霍溫技術大學和飛利浦實驗室Holst獎章獲得者,諾基亞-貝爾實驗室Shannon Luminary獎、IEEE PAMI傑出研究員獎、以及IEEE神經網路先鋒獎。

他被《連線》雜誌選為「2016最具影響力人物100人之一」以及「25位創造商業未來的天才」之一。LeCun是紐約大學數據科學中心的創始主任,也是CIFAR學習機器和腦力項目的負責人(與Yoshua Bengio共同擔任)。 此外,LeCun還是人工智慧合作夥伴關係委員會的聯合創始人和前成員之一,該機構是研究AI的社會後果的企業和非營利組織的聯合體。

Yoshua Bengio

2018圖靈獎授予AI三教父 Bengio、LeCun、Hinton

Yoshua Bengio是蒙特利爾大學的教授、魁北克人工智慧研究所和IVADO(數據實驗研究所)的科學總監。他是CIFAR機器和腦力學習項目的聯合主任(與Yann LeCun共同擔任)。 Bengio擁有麥吉爾大學電子工程學士學位,計算機科學碩士和博士學位。

Bengio曾獲加拿大勳章,加拿大皇家學會會員和Marie-Victorin獎。他創建魁北克人工智慧研究所(Mila)和並擔任該所科學主任也被認為是對AI領域的重大貢獻。 Mila是一家獨立的非營利組織,目前擁有300名研究人員和35名教職員工,目前是世界上最大的深度學習研究學術中心,並使蒙特利爾成為一個充滿活力的AI生態系統,全球多家大公司和AI創業公司均在此設立研究實驗室。


挺過寒冬,取得成就

近年來,深度學習方法在計算機視覺、語音識別、自然語言處理和機器人等應用領域取得了驚人的突破,這一切得益於神經網路。

在傳統計算中,計算機程序使用明確的分步指令指導計算機。在AI研究的一個子領域—— 深度學習中,計算機並沒有被明確告知如何解決特定的任務,如對象分類。相反,它使用一種學習演算法來提取數據中的模式,這些模式將輸入數據 (如圖像的像素) 與期望的輸出 (如標籤 「cat」) 關聯起來。研究人員面臨的挑戰是開發有效的學習演算法,這些演算法可以修改人工神經網路連接的權重,以使這些權重捕捉數據中的相關模式。

Geoffrey Hinton 自上世紀 80 年代初以來一直倡導用機器學習方法研究人工智慧。受人類大腦的啟發,他和其他人提出了「人工神經網路」,作為他們的機器學習研究的基石。

雖然在 20 世紀 80 年代人工神經網路就已作為一種幫助計算機識別模式和模擬人類智能的工具被提出,但直21世紀初,只有LeCun、Hinton和Bengio等一小群人仍然堅持使用這種方法。

同時,他們對神經網路的興趣最初遭到了懷疑,此後,他們的想法帶來了重大的技術進步,現在已經成為該領域的主導範式。

在計算機科學中,「神經網路」 這個術語指的是由計算機中模擬的、稱為「神經元」 的相對簡單的計算元件的層組成的系統。這些 「神經元」 知識與人腦中的神經元大致相似,它們通過加權連接相互影響。通過改變連接的權重,可以改變神經網路執行的計算。Hinton、LeCun和Bengio認識到使用多層構建深度網路的重要性 —— 因此有了「深度學習」這個術語。

Hinton、LeCun 和 Bengio 三人的獨立工作及合作工作,為該領域開發了概念基礎,通過實驗發現了令人驚訝的現象,並為證明深度神經網路的實際優勢的工程進展做出了貢獻。


深度神經網路改變每一個領域

由於強大的圖形處理器 (GPU) 計算機的普及,以及大型數據集變得可用,LeCun、Bengio 和 Hinton 在過去 30 年裡奠定的概念基礎和工程進展得到了顯著的推進。近年來,這些因素以及其他因素帶來了計算機視覺、語音識別和機器翻譯等技術的跨越式發展。

Hinton、 LeCun 和Bengio既有合作研究,也有獨立工作。

例如,LeCun 在Hinton 的指導下進行博士後研究工作,LeCun和Bengio在20世紀90年代初曾共同在貝爾實驗室工作。即使沒有在一起工作,他們的工作中也有協同合作和相互聯繫,他們彼此之間的影響很大。

Bengio、Hinton 和LeCun 繼續探索機器學習與神經科學和認知科學的交叉領域,最顯著的是,他們共同參與了加拿大高級研究所的 Learning in Machines and Brains 倡議。

圖靈獎通常被視為 「計算機領域的諾貝爾獎」,由谷歌公司提供資金支持,獎金為100 萬美元。Bengio,、Hinton 和 LeCun 將於 2019 年 6 月 15 日星期六在加利福尼亞州舊金山舉行的 ACM 年度頒獎晚宴上正式接受 2018 ACM AM 圖靈獎。

ACM主席Cherri M. Pancake 說,「人工智慧現在是所有科學領域中增長最快的領域之一,也是社會上談論最多的話題之一。人工智慧的發展以及人們對它的興趣,在很大程度上要歸功於 Bengio、Bengio 和 LeCun 為之奠定基礎的深度學習的最新進展。這些技術被數十億人使用。任何口袋裡有智能手機的人都能實實在在地體驗到自然語言處理和計算機視覺方面的進步,這在10 年前是不可能的。除了我們每天使用的產品,深度學習的新進展也為醫學、天文學、材料科學等領域的科學家們提供了強大的新工具」。

「深度神經網路對現代計算機科學的一些重大進步做出了貢獻,幫助在計算機視覺、語音識別和自然語言理解等領域長期存在的問題上取得了實質性進展。」Google 高級研究員、谷歌AI高級副總裁Jeff Dean表示:「這一進步的核心是今年的圖靈獎獲得者Yoshua Bengio,Geoffrey Hinton 和 Yann LeCun 在 30 多年前開發的基礎技術。通過大幅提高計算機理解世界的能力,深度神經網路不僅改變了計算領域,而且幾乎改變了科學和人類努力的每一個領域。」


三位大神的成就

下面是本次獲圖靈獎的三位大神的主要技術成就,這些成就對其後的深度學習研究產生了巨大的影響。

Geoffrey Hinton

反向傳播:

1986年,Hinton與David Rumelhart和Ronald Williams共同撰寫了「Learning Internal Representations by Error Propagation」論文,Hinton等人在文中證明了反向傳播演算法可以讓神經網路發現自身的數據內部表示,這一發現讓神經網路有可能解決以前被認為不可解決的問題。反向傳播演算法已經成為如今大多數神經網路的標準。

玻爾茲曼機:

1983年,Hinton與Terrence Sejnowski一起共同發明了玻爾茲曼機,這是第一個能夠學習不屬於輸入或輸出的神經元內部表示的神經網路之一。

對卷積神經網路的改進:

2012年,Hinton與他的學生Alex Krizhevsky和Ilya Sutskever一起使用整流線性神經元和退出正則化改進了卷積神經網路。在著名的ImageNet圖像識別大賽中,Hinton和他的學生幾乎將對象識別的錯誤率降低了一半,可以說重塑了計算機視覺領域。

Yoshua Bengio

序列的概率模型:

20世紀90年代,Bengio將神經網路與序列的概率模型(如隱馬爾可夫模型)結合起來。這些思想被納入AT&T / NCR用於讀取手寫支票的系統中,成為20世紀90年代神經網路研究的巔峰之作,目前的深度學習語音識別系統正是這些概念的擴展。

高維辭彙嵌入和注意力機制:

2000年,Bengio撰寫了具有里程碑意義的論文「A Neural Probabilistic Language Model」,此文引入了高維詞嵌入作為詞義表示。Bengio的這個思想對日後的自然語言處理任務產生了巨大而深遠的影響,其中包括語言翻譯、問答和視覺問答系統開發等。Bengio的團隊還引入了「注意力機制」,導致了機器翻譯研究的突破,並成為深度學習的順序處理的關鍵組成部分。

生成對抗網路(GAN):

自2010年以來,Bengio與Ian Goodfellow共同開發的生成對抗網路(GAN)引發了一場計算機視覺和計算機圖形學的革命。GAN的一個引人注目應用是,計算機實際上能夠生成原始圖像,這種創造力往往被認為是機器具備人類智能的標誌。

Yann LeCun

卷積神經網路:

20世紀80年代,LeCun開發了卷積神經網路,成為神經網路領域的基本模型。在20世紀80年代後期,LeCun在多倫多大學和貝爾實驗室工作期間,首次在手寫數字圖像上成功了訓練卷積神經網路系統。如今,卷積神經網路是計算機視覺、語音識別,語音合成、圖像合成和自然語言處理領域的行業標準。已被用於自動駕駛、醫學成像分析、語音助手和信息過濾等多個領域。

對反向傳播演算法的改進:

LeCun提出了反向傳播演算法的早期版本(backprop),並根據變分原理對其進行了簡潔的推導。他表述了縮短學習時間的兩種簡單方法,從而加快了反向傳播演算法的速度。

拓寬神經網路的研究領域:

LeCun還拓寬了神經網路的研究領域,將神經網路作為一種計算模型應用於更廣泛的任務上。他在早期研究中引入的許多思想和理念,現在已成為AI領域的基礎概念。例如,在圖片識別領域,他研究了如何讓神經網路學習層次特徵,這一方法現在已經用於很多日常的識別任務。他們還提出了可以操作結構數據(例如圖數據)的深度學習架構。

喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 新智元 的精彩文章:

華為反圍剿正在取得勝利:特朗普改口稱5G應靠競爭而非封殺
MIT新課上線:TensorFlow實操快速掌握」深度學習「

TAG:新智元 |