TensorFlow Lite 2019 年發展藍圖

雷鋒網 AI 科技評論按，本文原載於公眾號 「TensorFlow」，雷鋒網 AI 科技評論獲得授權轉載。

TensorFlow Lite 2019 年發展藍圖分為四個關鍵部分：易用性、性能、優化和可移植性。非常歡迎您在 TensorFlow Lite 論壇中評論我們的發展藍圖，並向我們提供反饋。

我們希望您了解一下 TensorFlow Lite 2019 年規劃的總體概覽，可能會因各種因素而隨時變化，並且下列內容的先後順序並不反映優先次序。從原則上說，我們通常優先解決大多數用戶提出的問題，所以此列表基本反映這一點。

易用性

支持更多 op

• 根據用戶反饋優先處理更多 op

op 版本控制和簽名

• op 內核將獲得版本號

• op 內核將可以通過簽名識別

新轉換器

• 實現新的 TensorFlow Lite 轉換器，該轉換器將能更好地處理圖形轉換（即控制流、條件語句等）並取代 TOCO

繼續改進 TF Select Op

• 支持更多使用 TF Select（例如哈希表、字元串等）的轉換類型

• 在通過 op 剝離使用 TF Select Op 時支持更小的二進位文件大小

支持長短期記憶 (LSTM) / 循環神經網路 (RNN)

• 增加對 LSTM 和 RNN 的完整轉換支持

圖形可視化工具

• 提供增強版圖形可視化工具

預處理和後處理支持

• 針對推理的預處理和後處理提供更多支持

控制流和設備端訓練

• 增加對控制流相關 op 的支持

• 增加對設備端訓練的支持

新 API

• 將新的 C API 作為語言綁定和大多數客戶端的核心

• iOS 版 Objective-C API

• iOS 版 SWIFT API

• 更新後的 Android 版 Java API

• C# Unity 語言綁定

添加更多模型

• 向網站的支持部分添加更多模型

性能

更多硬體委派

• 增加對更多硬體委派的支持

支持 NN API

• 持續支持並改進對 NN API 的支持

框架可擴展性

• 通過自定義優化版本支持簡便的 CPU 內核重寫

GPU 委派

• 繼續擴展對 OpenGL 和 Metal op 的總支持 op

• 開源

提升 TFLite CPU 的性能

• 優化浮動和量化模型

優化

模型優化工具組

• 訓練後量化 + 混合內核

• 訓練後量化 + 定點內核

• 訓練時量化

為更多技術提供更多支持

• RNN 支持

• 稀疏性 / 精簡

• 支持較低位寬

可移植性

微控制器支持

• 增加對一系列 8 位、16 位和 32 位微控制器 (MCU) 架構語音和圖像分類用例的支持

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！