DNNDK首次版本升級 1.10正式發布
升級背景
DPU(Deep-learning Processor Unit,深度學習專用處理器)是深鑒科技為解決深度學習類應用重計算負載需求專門優化和設計的計算加速平台,支持圖像和視頻的分類 (Classification)、分割 (Segmentation)、檢測 (Detection)、跟蹤 (Tracking),以及語音識別 (Speech Recognition) 等各種AI場景類應用需求。DPU有一套專門針對DNN (深度神經網路) 演算法設計的優化指令集,可靈活高效地支持各種神經網路演算法。
DNNDK (Deep Neural NetworkDevelopment Kit) 是深鑒科技面向AI異構計算平台DPU自主研發的原創深度學習開發SDK,涵蓋了深度神經網路Inference階段的模型壓縮(包括剪枝和定點化)、編譯優化和高效運行時支持等各種功能需求,為DPU平台深度學習應用開發和部署提供高效全棧式解決方案,DNNDK具有以下特色:
- 國內首款公開發布的深度學習SDK、引領人工智慧技術研發趨勢
- 業界領先的原創深度學習全棧式解決方案
- 自動化神經網路模型壓縮、編譯和運行時完整優化工具鏈支持
- 基於標準C/C++高級語言的輕量級編程APIs
- 簡單易用、開發門檻低
DeePhi深度學習平台
DNNDK全球試用地區分布
DNNDK中國試用區域分布
更新內容
DNNDK本次版本升級的主要內容如下:
1. 改進了工具的易用性,實現對主流神經網路的一鍵式壓縮和編譯,避免了之前版本需要用戶冗餘的手動參與操作,極大地提高了用戶的研發效率;
2. 在SDK的完備性方面,我們引入了新的運行時管理工具DExplorer和可視化性能分析工具DSight,可幫助用戶便捷地管理DPU Runtime的運行模式,直觀地查看應用運行在DPU的性能Profile結果;
3. 對DNNDK進行了諸多的優化和改進,實現了更優的網路層融合策略、更有效的內存復用演算法、更低開銷的DPU運行時調度策略等;
4. 修復用戶在使用DNNDK過程中發現的一系列bug;
5. 版本升級過程中我們盡最大可能保持了版本向前兼容,用戶基於老版SDK開發的項目可以無縫地切換到新版本下。
DSight性能分析工具
TAG:深鑒科技 |