「一統天下的AI機器學習模型」:谷歌開源Tensor2Tensor程序庫
谷歌研究人員創建了號稱是「學習一切的模型」,可利用多種類型的訓練數據在不同的任務里訓練人工智慧(AI)模型。
谷歌希望旗下的Tensor2Tensor程序庫可以加速深度學習的研究
谷歌研究人員和以AI為重點的谷歌大腦團隊(Google Brain Team)打造的新Tensor2Tensor程序庫里還包括其他工具及模塊化組件,簡單來說其就是一個程序庫包,他們希望該程序庫包可以加速深度學習的研究。
另外,該谷歌框架可望減少環境定製的一些工作,令深度學習模型可以處理各種任務。
谷歌研究人員在一篇文章里稱此為「學習一切的模型」,到目前為止,儘管深度學習在語音識別、圖像分類和翻譯方面取得了成功,但每個模型都需針對特定的任務進行微調。
而且,各種模型通常是針對來自相同「域」的任務進行訓練的,例如,一種翻譯任務的訓練用的是其他翻譯任務。
這些因素湊在一起將減緩了深度學習的研究,並且也沒有遵循人類大腦的工作原理,人類大腦能夠從一個挑戰中學會一些東西,並將其應用於解決新的任務。
而谷歌創建的模型是針對各種任務訓練的,包括圖像識別、翻譯任務、圖像字幕和語音識別等。
谷歌研究人員稱該單一模型可以同時從多個領域學習許多的任務,而且該模型還能夠傳遞知識。該模型能夠從擁有大量訓練數據的任務里學習,並將學習到知識應用到一些數據有限的任務。
Tensor2Tensor程序庫由谷歌大腦團隊的研究人員和工程師維護,該程序庫提供了一套用於訓練TensorFlow深入學習模型的開源工具。據Tensor2Tensor的GitHub網頁(https://github.com/tensorflow/tensor2tensor)介紹,Tensor2Tensor庫「的目標是最大限度地提高想法帶寬並最大限度地減少執行延遲」。
谷歌大腦團隊高級研究科學家及文章的主要作者Lukasz Kaiser做了如下解釋,「Tensor2Tensor庫有助於為各種機器學習應用程序創建最先進的模型,例如翻譯、解析、圖像字幕等等,有了Tensor2Tensor,就能快速探索各種想法。」
另外,Tensor2Tensor庫還包括一個從谷歌大腦研究人員最近發表的論文里獲取的數據集和模型庫。
Kaiser日前還發布了用於機器翻譯的BLEU基準測試結果,結果表明,Tensor2Tensor的最佳模式可提供業內最佳結果,而用的GPU數量更少,用的時間比過去未使用Tensor2Tensor的模型少很多。
Kaiser 表示,「用了Tensor2Tensor,就可以在一天內使用單個GPU得到業內最佳結果,這一點很了不起。」
Tensor2Tensor庫還包括相關的數據集、模型架構、優化器、學習速率衰減方案、超參數等等,並包含這些組件之間的標準介面。
※羅牛山突破PC統一管理難關
※AMD準備就緒:瞄準數據中心市場 力推EPYC(霄龍)7000系列
※瑞普生物進階企業互聯網:深化產品+服務運營
TAG:ZD至頂網 |
※Google推出AI晶元Edge TPU,可在邊緣運行TensorFlow Lite機器學習模型
※Salesforce開源構建Einstein AI模型的工具
※你的模型可以輕鬆使用TPU了!DeepMind 開源分散式機器學習庫TF-Replicator
※利用搖滾樂隊學習TensorFlow,Word2Vec模型和TSNE演算法
※Horovod?Tensor flow?Uber開源分散式深度學習模型
※LEGO 發布 James Bond? Aston Martin DB5 跑車積木模型
※將 TensorFlow 訓練好的模型遷移到 Android APP上
※Solidworks eDrawings開始支持VR模式查看CAD模型
※Azuma Makoto 創作 SHIKI Model Kit 「式」花藝模型
※LEGO 預告即將推出 James Bond 御用 Aston Martin 跑車積木模型
※谷歌發布TensorFlow Privacy:用以改善AI模型中的隱私
※Oracle開源GraphPipe:幾行代碼讓你在TensorFlow部署PyTorch模型
※LEGO 推出《The Hulkbuster: Ultron Edition》模型
※Tensorflow_08A_Keras 助攻下的 Sequential 模型
※Apache Storm流計算模型 及WordCount源碼實踐
※Avenger/貞德Alter模型公開
※AutoML構建加速器優化模型首嘗試,谷歌發布EfficientNet-EdgeTPU
※Facebook發布PyTorch 1.1,開源AI模型優化簡化工具BoTorch&Ax
※OpenStack-Neutron的資源模型
※孩之寶推出一系列《Avengers: Infinity War》角色玩具模型