深鑒科技語音識別加速系統上線AWS

開啟全球用戶云加速服務模式

成為首家上線基于FPGA平臺加速方案的中國人工智能公司

、 深鑒科技宣布在亞馬遜AWS正式上線基于深鑒Descartes稀疏神經網絡處理架構的自動語音識別引擎DDESE (DeePhi Descartes Efficient Speech Recognition Engine)， 開始面向全球用戶提供加速試用服務。DDESE自動語音識別加速引擎在AWS的發布，標志著深鑒科技成為首個在AWS上線基于FPGA平臺加速方案的中國人工智能公司。

FPGA芯片可定制化和多功能的靈活特性，滿足了云計算便捷經濟、易于擴展的需求。從2016年起，各大云服務提供商就開始部署FPGA云加速業務。全球最大的云供應商亞馬遜網絡服務(AWS)與FPGA龍頭廠商賽靈思 (Xilinx) 達成合作，充分證明了云計算數據中心將是FPGA應用釋放潛力的重要市場。同時,通過大型數據中心的影響力和服務能力，FPGA影響著數十萬應用開發商和企業用戶，快速成為公有云服務青睞的應用趨勢。

深鑒所發布的DDESE聚焦語音識別場景，構建了以賽靈思FPGA為計算平臺的自動語音識別系統加速引擎，可以為用戶提供在AWS上端到端的語音識別服務。基于FPGA平臺，結合深鑒科技算法、軟件和硬件協同設計的深度學習加速解決方案，目前DDESE初始版本在語音識別的計算環節是GPU計算速度的2倍。此次深鑒科技獲得AWS系統服務授權，在云端部署FPGA語音識別加速方案，從而可以面向全球用戶提供加速服務， 并支持其降低開發與部署成本，消除硬件壁壘， 同時通過軟硬件的協同優化，取得更高效的云運算能力。

深鑒的LSTM加速引擎能夠有效地縮短語音識別、機器翻譯等AI時序類應用的延時。

“我們在亞馬遜AWS上發布DDESE的目的，是通過基于Xilinx FPGA的ESE引擎來展示AI加速能力，并通過云端推廣讓更多客戶了解深鑒的語音識別全流程解決方案。我們非常高興可以和Xilinx與AWS一起來構建AI云端加速生態。”

——單羿，深鑒科技 CTO

技術測試階段，采用相同的網絡和輸入數據，該款自動語音識別引擎端到端延遲相比GPU（Tesla P4 + cudnn6020）、CPU（Intel(R) Xeon(R) CPU E5-2686 v4 @ 2.30GHz, 8 processors）的加速比分別為2.06倍和6.59倍，其中LSTM部分的加速比分別為2.82倍和8.64倍。不久之后深鑒還將發布新版本的DDESE。未來FPGA與云端業務結合還將不斷擴展及深入，深鑒科技將持續優化技術的功耗性能，擴大FPGA的加速特性，實現公有云服務的提速。

關于深鑒科技

深鑒科技由美國斯坦福與中國清華大學的深度學習硬件加速研究者創立，在FPGA領域的技術潛能及深度學習AI專用芯片發展速度在行業內一直處于領先地位。與FPGA巨頭賽靈思保持長期深度合作，DDESE的核心技術ESE（高效的語音識別引擎）的研究早于2017年獲得FPGA 芯片領域頂級會議 FPGA 2017最佳論文獎。深鑒科技期待通過與AWS的深度合作輸出更便捷、更高效、更經濟的AI云加速服務。