近日,在AI芯片的“寒地深”領域增加了一位新玩家,AGM(www.alta-gate.com)將推出一款基于ASIC的MCU算力加速芯片,主打高性價比的嵌入式MCU市場,用于物聯網邊緣AI推理的算力加速。
近幾年,深度神經網絡(DNN)在圖像識別、自然語言處理等方向上取得了前所未有的成功,并推動相關行業的快速發展。但是,這些應用中使用的深度神經網絡的參數量巨大,模型訓練(training)與推斷(inference)都需要大量的計算,傳統計算芯片的算力無法滿足DNN計算需求。具有高算力的AI芯片能夠滿足AI行業計算需求并得到了快速發展。
現階段,由于終端設備的計算力普遍有限,模型訓練與推斷大都在云端服務器上完成。在云端模型訓練中,NVIDIA的GPU占主導地位,多GPU并行架構是云端訓練常用的基礎架構方案。在云端識別中,基于功耗與運算速度的考量,單獨基于GPU的方式并非最優方案,利用CPU、GPU、FPGA、ASIC各自的優勢,采用異構計算(CPU+GPU+FPGA/ASIC)是目前主流方案。
在計算機視覺、語音識別等應用中,終端采集數據(特別是圖像數據),然后上傳到云端處理的云計算對網絡帶寬與數據中心存儲都帶來越來越大的挑戰。另外,無人駕駛等應用對實時性與安全性要求極高。網絡的時延與穩定性所帶來的安全隱患是無人駕駛等應用所無法忍受的。在終端采集數據,并完成數據處理,提供智能終端推斷的邊緣計算(Edge computing),因其能夠滿足實時性、安全性的需求,且能節約帶寬與存儲,得到越來越多的關注。業界判斷inference將越來越多的在終端設備上完成,即,智能將會下沉到終端設備,智能邊緣計算將會崛起。
實時性是選擇在終端完成推斷最主要的原因之一。但是,由于深度神經網絡參數量巨大,推斷過程需要完成大量的計算,其對終端硬件的計算力提出了很高的要求。另外,電池供電的終端設備對功耗也有極高的要求,且大多數的終端產品價格敏感。即,執行DNN推斷的終端芯片對算力、功耗、價格都有嚴格的限制。
AGM研發的嵌入式AI算力芯片,集成了多項在其FPGA+MCU現有產品中, 已使用并且大批量產驗證的技術:
超低成本和低功耗可重構邏輯定制ASIC
計算單元ASIC定制技術 – ASIC矩陣計算
嵌入式內存存讀ASIC技術–低延遲低功耗
融合以mcu 為主導的芯片架構和軟件生態
AGM此次推出的MCU算力芯片,成本類似ASIC,但是在架構上屬于可重構ASIC,適用于AI高算力需求和不斷演進的算法升級,例如CNN、RNN和矩陣運算。這款芯片滿足了低功耗,尤其是低延遲的內存存取的需求。
這款物聯網邊緣AI推理的算力芯片,主打超低價和高性價比,可以應用在以下應用場景的終端中:
邊緣攝像頭圖像AI分析;
智能音箱的聲音AI分析;
行車記錄的圖像AI分析;
工控的數據AI分析;
傳感器的數據AI分析
AI 高算力需求和不斷演進的算法CNN,RNN,和矩陣運算
例如在安防領域,相比于傳統視頻監控,AI+視頻監控,最主要的變化是把被動監控變為主動分析與預警,因而,解決了需要人工處理海量監控數據的問題。安防、無人機等終端設備對算力及成本有很高的要求。隨著圖像識別與硬件技術的發展,在終端完成智能安防的條件日益成熟。
而在汽車行業,高速駕駛情況下,實時性是保證安全性的首要前提,云端計算無法保證實時性。車載終端計算平臺是自動駕駛計算發展的未來。另外,隨著電動化的發展趨勢,對于汽車行業,低功耗變的越來越重要。天然能夠滿足實時性與低功耗的ASIC芯片將是車載計算平臺未來發展趨勢。
2016年AI芯片全球市場規模為23.88億美元,有機構預計到2020年AI芯片全球市場規模將達到146.16億美元(終端AI芯片的市場規模),發展空間巨大。在未來的“霧計算”終端產品中,相信未來低價低功耗的MCU算力加速SoC芯片將成為AI終端產品的主導,AGM應可占有一席之地。
-
芯片
+關注
關注
456文章
51018瀏覽量
425333 -
mcu
+關注
關注
146文章
17198瀏覽量
351906 -
asic
+關注
關注
34文章
1205瀏覽量
120600 -
物聯網
+關注
關注
2911文章
44824瀏覽量
375076 -
AI
+關注
關注
87文章
31259瀏覽量
269616
原文標題:AGM Micro涉足進入AI 終端芯片
文章出處:【微信號:gh_df5fc0fdf8be,微信公眾號:芯榜】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論