谷歌發布TensorFlow神經網路機器翻譯教程

自動翻譯語言的任務，是機器學習界最活躍的研究領域之一。在機器翻譯的許多方法中，序列到序列（「seq2seq」）模型最近取得了巨大的成功，並已成為大多數商業翻譯系統中的事實上的標準，如Google翻譯，它使用深度神經網路來捕捉句子大意。雖然seq2seq模型如OpenNMT或tf-seq2seq有大量的材料，但缺乏材料教授人們的知識和技能，以輕鬆建立高質量的翻譯系統。

今天，谷歌宣布為TensorFlow構建了一個新的神經機器翻譯（NMT）教程，讓用戶能夠充分了解seq2seq模型，並展示如何從零開始構建有競爭力的翻譯模型。

本教程旨在使過程儘可能簡單，從NMT的一些背景知識開始，並通過代碼細節來構建vanilla系統，它允許NMT系統處理長句的關鍵因子。最後，本教程提供了有關如何複製Google NMT（GNMT）系統中的關鍵功能以在多個GPU上進行訓練的詳細信息。

本教程還包含詳細的基準測試結果，用戶可以自行複製。我們的模型提供了強大的開源基準，其性能與GNMT結果相當。我們在流行的WMT 14英語 - 德語翻譯任務上實現了24.4個BLEU分。 其他基準測試結果（英語 - 越南語，德語 - 英語）可在教程中找到。 此外，本教程還展示了完全動態的seq2seq API（使用TensorFlow 1.2發布），旨在使建立seq2seq模型：

Github：https://github.com/tensorflow/nmt

參考文獻：

[1] Sequence to sequence learning with neural networks, Ilya Sutskever, Oriol Vinyals, and Quoc V. Le. NIPS, 2014.

[2] Learning phrase representations using RNN encoder-decoder for statistical machine translation, Kyunghyun Cho, Bart Van Merrienboer, Caglar Gulcehre, Dzmitry Bahdanau, Fethi Bougares, Holger Schwenk, and Yoshua Bengio. EMNLP 2014.

[3] Neural machine translation by jointly learning to align and translate, Dzmitry Bahdanau, Kyunghyun Cho, and Yoshua Bengio. ICLR, 2015.

[4] Effective approaches to attention-based neural machine translation, Minh-Thang Luong, Hieu Pham, and Christopher D Manning. EMNLP, 2015.

[5] Google』s Neural Machine Translation System: Bridging the Gap between Human and Machine Translation, Yonghui Wu, Mike Schuster, Zhifeng Chen, Quoc V. Le, Mohammad Norouzi, Wolfgang Macherey, Maxim Krikun, Yuan Cao, Qin Gao, Klaus Macherey, Jeff Klingner, Apurva Shah, Melvin Johnson, Xiaobing Liu, ?ukasz Kaiser, Stephan Gouws, Yoshikiyo Kato, Taku Kudo, Hideto Kazawa, Keith Stevens, George Kurian, Nishant Patil, Wei Wang, Cliff Young, Jason Smith, Jason Riesa, Alex Rudnick, Oriol Vinyals, Greg Corrado, Macduff Hughes, Jeffrey Dean. Technical Report, 2016.

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！