TensorFlow核心開發組的優先順序安排
TensorFlow 得到全球社區開發者的支持,正處於高速發展中。這篇文章旨在提供 TensorFlow 核心開發組的重點工作領域和優先順序安排,以及哪些功能將最有可能在即將發布的版本中呈現,其中大部分功能都是來自社區開發者們的實際用例,我們也歡迎大家進一步為 TensorFlow 做貢獻。
TensorFlow 1.6.0 已於 3 月 1 日發布,重大改變包括:
預構建的二進位文件現在是針對 CUDA 9.0 和 cuDNN 7 構建的。
預構建的二進位文件將使用 AVX 指令,可能在舊的 CPU 上使用是不兼容的。
主要特性和改進包括:
針對非插槽變數 (non-slot variables) 的新內部優化 API 。
tf.estimator. 現在可導出被剝離的 SavedModels 。這改進了 SavedModel 的向前兼容性。
FFT 支持添加到 XLA CPU/GPU 。
Android TF 現在可以在兼容的 Tegra 設備上使用 CUDA 加速來進行構建。
以下是最新的 TensorFlow 路線圖 (Roadmap):
APIs
高級 APIs:
使用 Estimators 提高多 GPU 協作的資源利用率;
更易用的預定義高層 Estimator,包括梯度提升樹(Gradient Boosted Trees)、時間序列(Time Series)和其它模型。
動態圖機制的即時執行(Eager Execution)
高效利用多 GPU 協同執行;
分散式(多機)訓練;
性能的提升;
更簡單方便地導出為 GraphDef/SavedModel。
Keras API:
與 tf.data 更好的集成,可以使用數據張量(data tensors)調用 model.fit;
全面支持動態圖機制的即時執行(兩種動態圖機制均支持常規的 Keras API,並可通過模型繼承來創建 Eager-Style 的 Keras 模型);
更好的分散式或多GPU 支持和 TPU 支持(包含一個更平滑的由模型到 Estimator 的工作流)。
官方模型:
一系列橫跨圖像識別、語音、目標檢測和翻譯的參考模型,它可以示範最佳實踐,並可作為開發高性能模型的一個起點。
Contrib:
把已經在 tf.contrib 外部實現的部分原有 API 標記為不推薦使用;
儘可能將 tf.contrib 中的大型項目移至獨立的代碼庫;
tf.contrib 模塊最終將暫停在當前狀態,在未來,實驗性開發將在獨立的代碼庫中進行。
概率推論與統計分析:
在 tf.distributions 和 tf.probability 中提供一套用於概率與統計分析的豐富工具。其中包含新的採樣器、層、優化器、損失函數和結構化模型;
用於假設檢驗、收斂診斷和樣本統計的工具;
Edward 2.0:用於概率編程的高級 API。
平台
TensorFlow Lite:
增加 TensorFlow Lite 中支持的運算元(Operations)覆蓋範圍;
更加輕鬆地將訓練後的 TensorFlow 計算圖轉化為在 TensorFlow Lite 上使用的版本;
在 TensorFlow Lite 中支持 GPU 加速 (iOS 和 Android);
使用 Android 神經網路 API (NN API)支持硬體加速器;
通過量化和其它網路優化來提升 CPU 性能,如:剪枝(pruning)、蒸餾(distillation);
增加對 Android 和 iOS 以外設備的支持(如樹莓派、Cortex-M)。
性能
分散式 TensorFlow:
針對各種 GPU 拓撲結構優化的多 GPU 支持;
改善分散式運算時的計算分配機制。
優化:
混合精度訓練的支持(包含初始示例模型以及指導);
原生支持 TensorRT;
通過 Intel 數學函數庫(MKL)支持 SkyLake 架構上的 Int8 類型;
動態載入 SIMD 優化的內核。
文件和易用性
更新了文檔、教程和入門指南;
完善外部開發者對文檔、教程、博文等貢獻的流程,為優秀的 TensorFlow 應用和使用案例撰寫博文。
社區與合作夥伴
專項小組:
動員社區在重點領域共同合作;
tf-distribute :圍繞 TensorFlow 打包和部署主題的討論組;
將籌備和啟動更多專項小組。
社區:
通過徵求意見稿(RFC)整合開發者對重大調整的反饋;
完善外部貢獻的流程並最終應用到 TensorFlow 及其相關項目中;
擴展全球 TensorFlow 社區和用戶組;
與合作夥伴共同開發和發表研究論文。
感謝來自社區的譯者 Term Wang, Xihan Li, Zhongdong Yang, Yuting Wang 對本文的中文翻譯做出的貢獻。
TAG:TensorFlow |