深鑒科技語音識別加速系統上線AWS

成為首家上線基於FPGA平台加速方案的中國人工智慧公司

2018年3月5日，深鑒科技宣布在亞馬遜AWS正式上線基於深鑒Descartes稀疏神經網路處理架構的自動語音識別引擎DDESE (DeePhi Descartes Efficient Speech Recognition Engine)，開始面向全球用戶提供加速試用服務。DDESE自動語音識別加速引擎在AWS的發布，標誌著深鑒科技成為首個在AWS上線基於FPGA平台加速方案的中國人工智慧公司。

FPGA晶元可定製化和多功能的靈活特性，滿足了雲計算便捷經濟、易於擴展的需求。從2016年起，各大雲服務提供商就開始部署FPGA雲加速業務。全球最大的雲供應商亞馬遜網路服務(AWS)與FPGA龍頭廠商賽靈思 (Xilinx)達成合作，充分證明了雲計算數據中心將是FPGA應用釋放潛力的重要市場。同時,通過大型數據中心的影響力和服務能力，FPGA影響著數十萬應用開發商和企業用戶，快速成為公有雲服務青睞的應用趨勢。

深鑒所發布的DDESE聚焦語音識別場景，構建了以賽靈思FPGA為計算平台的自動語音識別系統加速引擎，可以為用戶提供在AWS上端到端的語音識別服務。基於FPGA平台，結合深鑒科技演算法、軟體和硬體協同設計的深度學習加速解決方案，目前DDESE初始版本在語音識別的計算環節是GPU計算速度的2倍。此次深鑒科技獲得AWS系統服務授權，在雲端部署FPGA語音識別加速方案，從而可以面向全球用戶提供加速服務，並支持其降低開發與部署成本，消除硬體壁壘，同時通過軟硬體的協同優化，取得更高效的雲運算能力。

深鑒的LSTM加速引擎能夠有效地縮短語音識別、機器翻譯等AI時序類應用的延時。深鑒CTO單羿表示：「我們在亞馬遜AWS上發布DDESE的目的，是通過基於Xilinx FPGA的ESE引擎來展示AI加速能力，並通過雲端推廣讓更多客戶了解深鑒的語音識別全流程解決方案。我們非常高興可以和Xilinx與AWS一起來構建AI雲端加速生態。」

技術測試階段，採用相同的網路和輸入數據，該款自動語音識別引擎端到端延遲相比GPU(Tesla P4 + cudnn6020)、CPU(Intel(R) Xeon(R) CPU E5-2686 v4 @ 2.30GHz, 8 processors)的加速比分別為2.06倍和6.59倍，其中LSTM部分的加速比分別為2.82倍和8.64倍。不久之後深鑒還將發布新版本的DDESE。未來FPGA與雲端業務結合還將不斷擴展及深入，深鑒科技將持續優化技術的功耗性能，擴大FPGA的加速特性，實現公有雲服務的提速。

關於深鑒科技

深鑒科技由美國斯坦福與中國清華大學的深度學習硬體加速研究者創立，在FPGA領域的技術潛能及深度學習AI專用晶元發展速度在行業內一直處於領先地位。與FPGA巨頭賽靈思保持長期深度合作，DDESE的核心技術ESE(高效的語音識別引擎)的研究早於2017年獲得FPGA晶元領域頂級會議FPGA2017最佳論文獎。深鑒科技期待通過與AWS的深度合作輸出更便捷、更高效、更經濟的AI雲加速服務。

關於賽靈思

賽靈思(Xilinx, Inc.，NASDAQ：XLNX)是All Programmable FPGA、SoC、MPSoC、RFSoC和3D IC的全球領先供應商，獨特地實現了既能軟體定義又能硬體優化的各種應用，推動了雲計算、5G無線、嵌入式視覺和工業物聯網等行業的發展。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！