ACM 對 2018 圖靈獎獲得者 Geoffrey Hinton、Yann LeCun、Yoshua Bengio 的專訪
雷鋒網 AI 科技評論按:曾經,人工神經網路在AI領域內可謂是飽受爭議,很多學者並不看好該技術方面的研究。而就在不久前, 有「深度學習三巨頭」之稱的Yoshua Bengio、Yann LeCun、Geoffrey Hinton 共同獲得了 2018 年的圖靈獎;同時他們在該領域的研究成果也成為了當今從搜索到內容過濾等各個方面不可或缺的組成部分。
那麼現在炙手可熱的深度學習和人工智慧(AI)領域發展究竟如何?在這裡,ACM對三位先驅者進行了相關問題的專訪,以下內容將向大家分享三位學者激動人心的發現,以及他們眼中當下仍存在的挑戰。
Q:現在關於人工智慧的異議已經遠比你們剛開始研究時要多,其中一些是廣為人知的,有些則不是。所以,你們不希望再被問到關於 AI 的什麼問題呢?
GEOFFREY HINTON:比如這個問題,「神經網路只是泡沫嗎?」因為在過去,人工智慧領域的研究者們提出了許多宏偉的想法,但通常難以實現。而神經網路並不是,它的確行之有效,並且還可以擴展。在無需更多代碼的情況下,通過向其提供更多數據和更高速的計算機時,它的性能還會變得更好。
YANN LECUN:的確如此,深度學習的基本思想並沒有消失,但當人們問道是否只需簡單地擴展當前的方法,就能使機器更加智能化時,它的表現仍舊不夠理想,我們還需要創新。
YOSHUA BENGIO:目前的技術在工業和科學方面,已經有多年的應用經驗。但對於我們三個人而言,作為研究者,在獲取更詳細的信息方面還不夠有耐心,因為我們遠離了人類級人工智慧,並且對於理解自然或人工智慧法則方面還有所欠缺。
Q:有哪些問題還沒能得到充分的討論呢?
HINTON:對於大腦是如何工作的,人工智慧給了我們哪些啟發?這個問題有人問過,但問的人還不夠多。
BENGIO:而且更糟糕的是,儘管深度學習的靈感來源於大腦和認知,但如今參與其中的大部分工程師們並不關心這些問題。如果將其運用在工業中,倒是可以被理解;但就研究而言,如果我們不與那些試圖理解大腦運作方式的人多溝通,我認為這是一個巨大的損失。
HINTON:換句話說,神經科學家現在正在認真對待 AI。過去幾年來,神經科學家認為,「人工神經網路與真正大腦的不同之處,在於它不會告訴我們關於大腦如何工作的任何信息。」但現在,神經科學家非常認真的專研大腦中正在進行反向傳播的可能性,這確實是非常令人興奮的。
LECUN:現在幾乎所有關於人類和動物視覺的研究都使用卷積網路作為標準概念模型,這在以前是幾乎不可能發生的情況。
HINTON:我認為這對社會科學也會漸漸的產生巨大影響,因為它會改變我們對人的看法。曾經我們認為人是理性的存在,人的特殊之處在於他們使用推理來得出結論;而現在我們可以更好的去理解「把人比為大規模的類比製造機」的概念。它們很慢地形成這些象徵性事物,然後這些事物決定了得到的類比。當然,我們也可以做推理,沒有它我們就不會有數學,但這並不是我們思考的根本方式。
Q:作為先驅研究者,你們怎麼看待過去的所取得的成績呢?
HINTON:我覺得那些發明現在被定為標準技術的人有他的特別之處。上帝沒有給他們任何東西,也可能存在其他更好的技術。然而對於一個已經進入領域並按標準方式做事的人來說,他不會理解這種標準方式是多麼的獨斷。
BENGIO:學生們有時也會談論神經網路,彷彿像在描述聖經一般。
LECUN:它打造了一代人的獨斷主義。然而,一些最具創新性的想法很可能來自比我們更年輕的人。
Q:該領域的進展著實令人驚嘆,那麼在 20 或 30 年前,你們可能會對什麼感到驚訝?
LECUN:我對很多事情都感到驚訝。比如:深度學習改革竟然來得如此之晚;而它一旦開始後的發展速度竟然如此之快。我本以為事情能夠逐步發生,但人們在 20 世紀 90 年代中期到 21 世紀初中期之間放棄了神經網路的整體觀念。有證據表明在那之前它們依舊在被使用,而一旦大家接受了新的觀念,深度學習改革發生得非常快。首先是語音識別,然後是圖像識別,現在是自然語言理解。
HINTON:20 年前,如果有人說你可以以某種語言寫入一個句子;然後把它分段,送進一個隨機連接的神經網路;在完全不懂語法或語義即沒有任何語言知識的情況下,訓練神經網路將該句子翻譯成另一種語言;最後得到比其他任何都翻譯得更完美的情況,是令我感到震驚的。而現在儘管這樣的翻譯機還不夠完美,也不如人工翻譯更準確,但它已經和這個設想很接近了。
LECUN:這些技術在短時間內對很多行業變得不可或缺,這樣的結果也是出乎意料的。如果現在把深度學習從 Google 或 Facebook 中去掉,兩家公司都會崩潰,因為所有開發都圍繞它進行。當我加入 Facebook 時,有一件事讓我感到驚訝,那就是有一個小組在使用卷積網路進行人臉識別。我對卷積網路的第一印象是它可能對類別或級別的識別會很有用,比如:汽車、狗、貓、飛機、桌子;而不是面部等細粒度的東西。但事實證明它也可以很好的運用在面部識別上,並且現在它已經完全形成了標準。同時,令我感到驚訝的另一件事是 Yoshua 的生成對抗網路實驗室,基本上可以使用神經網路作為生成模型來產生圖像和聲音。
BENGIO:當我在攻讀博士學位時,我正在努力擴展神經網路不僅可以做模式識別,即將固定大小的向量作為輸入並生成類別。但是直到最近,我們的翻譯工作才擺脫了這個模式。正如 Yann 所說,產生新事物的能力確實具有變革性,而能夠操縱任何類型的數據結構(不只是像素和矢量)同理。傳統意義上,神經網路僅限於人類可以非常快速且無意識地執行任務,例如識別物體和圖像。而現代神經網路在本質上,與我們在 20 世紀 80 年代所考慮的不同,它們可以做的事情更接近我們在推理時所做的事情,以及我們在編程計算機時所做的事情。
Q:除了技術本身的進展之外,Yoshua 還談到了讓發展中國家更易於獲得這項技術的緊迫性,對此你們有什麼看法呢?
BENGIO:我認為這非常重要。我過去一直不太關心政治問題,但機器學習和人工智慧已經走出校園了,我認為我們有責任思考這個問題,並參與有關如何使用它們的社會和政治討論。其中一個問題是知識、財富和技術將集中在哪裡?它們是集中在幾個國家,一些公司和一小群人手中,還是找到方法使它們更易於獲取,尤其是對於那些可以為更多人做出更大改變的國家?
HINTON:Google 對其用於開發神經網路的主要軟體進行了開源,稱為 TensorFlow,您還可以在 Cloud 上將 Google 特殊的硬體用於神經網路。因此,Google 也正試圖讓更多的人能夠使用這項技術。
LECUN:我認為這是非常重要的一點。深度學習社區在推廣開放式研究的理念上做得非常好,不僅僅在學術界內,通過公開場合舉行相關會議來發布論文、報告和解讀;而且在企業界,Google 和 Facebook 等公司開源他們編寫的絕大多數軟體代碼,為其他人提供工具,所以任何人都可以在短時間內複製其他人的研究。在任何特定研究課題上,沒有一個頂級研究小組會比任何其他研究小組提前幾個月完成。我認為重要的是整個領域的進展速度有多快,因為我們真正想要建立的東西——虛擬助手,它可以回答我們提出的任何問題,並且可以在日常生活中幫助我們。我們不僅缺乏技術,也缺乏基本的科學原理,所以整個研究團體的工作進展越迅速,對我們所有人就會產生越好的結果。
原文鏈接:
https://cacm.acm.org/magazines/2019/6/236987-reaching-new-heights-with-artificial-neural-networks/fulltext
雷鋒網(公眾號:雷鋒網)AI 科技評論 雷鋒網
※英特爾 10nm 還沒量產,三星 3nm 就要來了
※新能源車市場擠入新兵:「廣汽蔚來」量產車將於明年交付
TAG:雷鋒網 |