當前位置:
首頁 > 知識 > PyTorch 合輯 國慶特輯

PyTorch 合輯 國慶特輯

國慶節來了,社長我也休息一下。

藉此機會,把我們之前發過的內容做一次總結,也方便大家查閱~

今天帶來的是PyTorch合輯。

PyTorch是今年年初時發布的可使用Python語言的Torch框架(原框架的語言為Lua),一經發布即獲得熱捧,很多比賽的冠軍都是用的這個框架。

每篇文章之間的聯繫不強,大家可以根據摘要選擇文章去讀。

大家可以把本文收藏下來,這樣方便回過頭來向各個章節跳轉。

2017 年初,Facebook 在機器學習和科學計算工具 Torch 的基礎上,針對 Python 語言發布了一個全新的機器學習工具包 PyTorch。一經發布,這款開源工具包就受到了業界的廣泛關注和討論,經過幾個月的發展,目前 PyTorch 已經成為從業者最重要的研發工具之一。PyTorch 為什麼如此受歡迎,研究人員是出於怎樣的考慮選擇了 PyTorch?針對這些問題,我們今天不妨來看看專業人士怎麼說。

最近使用 PyTorch 感覺妙不可言,有種當初使用 Keras 的快感,而且速度還不慢。各種設計直接簡潔,方便研究,比 tensorflow 的臃腫好多了。今天讓我們來談談 PyTorch 的預訓練,主要是自己寫代碼的經驗以及論壇PyTorch Forums上的一些回答的總結整理。

從 Siri 到谷歌翻譯,深度神經網路大步推動了機器對自然語言的理解。

迄今為止,大多數模型把語言看作是字詞的平面序列(flat sequence),使用時間遞歸神經網路(recurrent neural network)來處理。但語言學家認為,這並不是看待語言的最佳方式,應把其理解為由短語組成的的分層樹狀結構( hierarchical tree of phrases)。由於對該類結構的支持,大量深度學習研究投入到結構遞歸神經網路(recursive neural network)之中。在業內,這些模型有非常難以執行、運行起來效率低下的名聲。

但對於今年 Facebook 開源的新深度學習框架 PyTorch ,業內人士人認為它的一大貢獻是:搭建結構遞歸神經網路以及其它複雜自然語言處理模型,變得更簡便。

結構遞歸神經網路,是展示 PyTorch 靈活性的一個不錯的例子。但同時,PyTorch 是一個對於各類深度學習任務有完備功能的框架,雖然特別適於計算機視覺問題。它誕生於 Facebook AI 研究院 FAIR 的研究人員之手,PyTorch 把 Torch7 中高效、靈活的 GPU 加速後端演算法庫,和直覺性的 Python 前端結合到一起,並具有快速創建原型機的能力、高度可讀性的代碼、以及對於各類深度學習模型的支持。

谷歌研究人員從 SPINN + 增強學習報告的結果,比在 SNLI 獲得的原始 SPINN 要好一點,雖然它的增強學習版並沒有預計算語法樹。深度增強學習在 NLP 的應用是一個全新的領域,其中的研究問題十分廣泛。通過把增強學習整合到框架里,PyTorch 極大降低了使用門檻。

七月,酷暑難耐,認識的幾位同學參加知乎看山杯,均取得不錯的排名。當時天池 AI 醫療大賽初賽結束,官方正在為複賽進行平台調試,複賽時間一拖再拖。看著幾位同學在比賽中排名都還很不錯,於是決定抽空試一試。結果一發不可收拾,又找了兩個同學一起組隊(隊伍 init)以至於整個暑假都投入到這個比賽之中,並最終以一定的優勢奪得第一名(參見最終排名 )。

Kaggle 是全世界首屈一指的數據科學、機器學習開發者社區和競賽平台。日前,中山大學 CIS 實驗室的研二學生劉思聰為我們帶來了一場精彩的分享。他所在的隊伍在 Kaggle 上的亞馬遜比賽中獲得了金牌,他為我們詳述了比賽過程中所獲得的經驗以及圖像比賽中的一些通用套路。

本文作者為前谷歌高級工程師、AI 初創公司 Wavefront 創始人兼 CTO Dev Nag,介紹了他是如何用不到五十行代碼,在 PyTorch 平台上完成對 GAN 的訓練。AI 研習社編譯整理。

Siraj Raval 作為深度學習領域的自媒體人在歐美可以說是無人不知、無人不曉。

憑藉在 Youtube 上的指導視頻,Siraj Raval 在全世界吸粉無數,堪稱是機器學習界的網紅。說他是全球範圍內影響力最大的 ML 自媒體人,怕也無異議。

因此,AI 研習社聯繫到了 Siraj 本人,並獲得授權將他最精華的 Youtube 視頻進行字幕漢化,免費推送給大家。我們將不定期更新,敬請關注!

今天 Siraj 跟大家講講PyTorch。

視頻主要介紹了 PyTorch 的兩大特性以及與 Tensorflow 的比較,內容淺顯易懂,有豐富的實例展示。關注今年 ICLR 的小夥伴們一定注意到了 Pytorch 崛起迅猛,如果你還在 Pytorch 與 Tensorflow 之間糾結的話,不妨看看該視頻,相信一定能獲得心中的答案。

新人福利

關注 AI 研習社(okweiwu),回復1領取

【超過 1000G 神經網路 / AI / 大數據,教程,論文】

GANs 合輯 | 國慶特輯


喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 唯物 的精彩文章:

GANs合輯 國慶特輯
入門合輯,不知道該怎麼入門的可以看這裡
2分鐘論文系列合輯
深度學習之父Geoffrey Hinton的神經網路合集
Deep Learning解讀合輯 國慶特輯

TAG:唯物 |