英偉達推出全新NVIDIA TensorRT 3 AI 推理軟體

PingWest品玩9月26日報道，NVIDIA公司今日推出全新NVIDIA TensorRT 3 AI 推理軟體，該軟體能夠大幅提升從雲端至終端設備（包括無人駕駛汽車和機器人）的推理性能並降低成本。

TensorRT 3 是一款針對人工智慧應用生產部署的高性能優化編譯器和運行時引擎，用於在生產環境中部署深度學習程序。它能夠快速優化、驗證並部署經過訓練的神經網路，從而在超大型數據中心、嵌入式 GPU 或車用 GPU 平台上開展推理工作。它能夠確保高度精確的INT8 和 FP16 網路執行，每年能為數據中心運營商節省數以百萬美元計的採購和用電成本。藉助它，開發者只需短短一天就能完成神經網路的訓練，打造一個比其訓練框架快3至5倍的可部署推理解決方案。

TensorRT 3 與NVIDIA GPU的結合能夠基於所有的框架、為諸如圖像和語音識別、自然語言處理、視覺搜索和個性化建議等人工智慧服務2提供超快速且高效的推理。此外，TensorRT 和NVIDIA Tesla GPU加速器的速度可達到CPU 的40倍，而相較於基於 CPU 的解決方案，成本僅為其十分之一。

目前，已經有超過 1200 家來自各行各業的公司開始採用 NVIDIA 推理平台，藉助此從數據中獲得全新洞察，並為企業和消費者部署智能服務。亞馬遜、微軟、Facebook和Google、以及阿里巴巴、百度、科大訊飛、京東、騰訊等中國領先企業均已開始採用 NVIDIA 推理平台。

更多精彩請關注我們的微信公眾號：PingWest品玩

新聞線索請投稿至：wire@pingwest.com

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！