電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)根據(jù)《全球與中國邊緣AI芯片市場競爭建議及發(fā)展?fàn)顩r調(diào)研報(bào)告2024-2030》,2023年全球邊緣AI芯片市場規(guī)模大約為2563.6百萬美元,預(yù)計(jì)未來六年年復(fù)合增長率CAGR為17.4%,到2030年達(dá)到8004.3百萬美元。如果將范圍擴(kuò)大到整個(gè)邊緣AI市場,根據(jù)英特爾公司高級副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti在分享中提到的數(shù)據(jù),2030年全球邊緣AI市場將達(dá)到4450億美元的規(guī)模。
在構(gòu)建邊緣AI方案時(shí),計(jì)算、存儲、網(wǎng)絡(luò)和應(yīng)用等資源都被移到更靠近終端的位置,以提供更低的延遲和更高的性能。在此過程中,邊緣計(jì)算網(wǎng)關(guān)起到重要的作用:一方面作為邊緣和云端連接的重要樞紐,將邊端計(jì)算的數(shù)據(jù)傳回云端;另一方面邊緣計(jì)算網(wǎng)關(guān)也能夠協(xié)調(diào)邊緣端的多款設(shè)備,協(xié)調(diào)這些設(shè)備的計(jì)算資源和計(jì)算任務(wù)。
基于邊緣計(jì)算網(wǎng)關(guān)實(shí)現(xiàn)更好的終端智能
作為邊緣計(jì)算和網(wǎng)關(guān)的結(jié)合體,邊緣計(jì)算網(wǎng)關(guān)帶來了一種分布式計(jì)算范式,將計(jì)算任務(wù)和數(shù)據(jù)存儲從中心化的數(shù)據(jù)中心推向網(wǎng)絡(luò)的邊緣——終端設(shè)備。因而,邊緣計(jì)算網(wǎng)關(guān)通常部署在網(wǎng)絡(luò)的邊緣側(cè),提供數(shù)據(jù)采集、處理、存儲和通信等功能。
由于是部署在現(xiàn)場的終端,因此邊緣計(jì)算網(wǎng)關(guān)具有很多突出的優(yōu)勢:低延遲、高安全并降低云端的計(jì)算負(fù)載。
邊緣計(jì)算網(wǎng)關(guān)具有一定的計(jì)算能力,可以將數(shù)據(jù)處理在更靠近終端的場景下實(shí)現(xiàn),因此有明顯的低延遲特性。像工業(yè)自動化、智能交通和智能家居等對數(shù)據(jù)處理時(shí)效要求高的領(lǐng)域,邊緣計(jì)算網(wǎng)關(guān)能夠?qū)崟r(shí)采集來自各種傳感器和執(zhí)行器的數(shù)據(jù),并將這些數(shù)據(jù)進(jìn)行整合和標(biāo)準(zhǔn)化處理,這一低延遲特性被格外看重。
邊緣計(jì)算網(wǎng)關(guān)將數(shù)據(jù)采集和處理都在更靠近終端的場景下完成,減少了數(shù)據(jù)的傳輸,也就降低了數(shù)據(jù)在網(wǎng)絡(luò)傳輸中暴露的風(fēng)險(xiǎn)。在云AI場景里,敏感數(shù)據(jù)總是會在終端和云端之間反復(fù)地傳輸,有非常大的泄露風(fēng)險(xiǎn),而有了邊緣計(jì)算網(wǎng)關(guān),云端最終接收到的數(shù)據(jù)都是脫敏的結(jié)果數(shù)據(jù)。
同時(shí),我們也不難看出,邊緣計(jì)算網(wǎng)關(guān)將計(jì)算任務(wù)進(jìn)行了有效地分發(fā),而不是全部集中在云計(jì)算場景下,也能夠有效降低云計(jì)算的負(fù)載。當(dāng)然,市場需求在不斷變化,對于邊緣計(jì)算網(wǎng)關(guān)也提出了更高的要求,包括高算力、低功耗、智能化和靈活部署。
邊緣計(jì)算網(wǎng)關(guān)著力強(qiáng)化計(jì)算性能
在新的市場需求下,邊緣計(jì)算網(wǎng)關(guān)成為普惠算力的一類關(guān)鍵設(shè)備,相關(guān)設(shè)備的核心性能也變得越來越強(qiáng),產(chǎn)業(yè)界涌現(xiàn)出一系列具有競爭力的新品。
比如,聯(lián)想集團(tuán)打造了智能邊緣計(jì)算品牌“慧天”,包括智能邊緣網(wǎng)關(guān)、邊緣服務(wù)器、工業(yè)控制器、嵌入式計(jì)算機(jī)等硬件設(shè)備。這些設(shè)備可以讓相關(guān)應(yīng)用在邊緣硬件上處理AI算法,并且有5G的加持,和云端的互動也更加高效。
2024年初,TSINGSEE青犀視頻在年初推出了一款高性能、低功耗的軟硬一體AI邊緣計(jì)算硬件設(shè)備——智能分析網(wǎng)關(guān)V4,硬件采用BM1684芯片,集成高性能8核ARM A53,主頻高達(dá)2.3GHz。這款智能網(wǎng)關(guān)提供高達(dá)17.6/32 Tops的INT8峰值算力,2.2T的FB32高精度算力,支持高達(dá)16 TFLOPS的FP16/BF16半精度算力,以及支持高達(dá)16/32路1080P高清視頻全流程處理。在安全方面,支持高容量eMMC可開發(fā)支持主備分區(qū)和可編程加密分區(qū)等加密技術(shù)。
去年下半年,Dusun IoT基于Rockchip的RK3588芯片推出了DSGW-380邊緣人工智能網(wǎng)關(guān)。作為系統(tǒng)核心,RK3588芯片提供四核Arm Cortex A76和四核Arm Cortex A55架構(gòu),配備NEON協(xié)處理器,專用于低功耗控制的MCU,以及寬大的8GB 64位LPDDR4 RAM和128GB eMMC。RK3588讓DSGW-380邊緣人工智能網(wǎng)關(guān)提供6TOPS的計(jì)算算力,能夠無縫支持包括INT4、INT8、INT16和FP16混合操作等多種精確操作。
另外,前不久研揚(yáng)科技基于昇騰Atlas?200I?A2加速模組,打造了電力通信邊緣AI網(wǎng)關(guān)ARES-501AI?A2,使能客戶在Mega?OM平臺的基礎(chǔ)上快速對接管理自己的運(yùn)維平臺。ARES-501AI?A2智能網(wǎng)關(guān)能夠提供高達(dá)20TOPS?(INT8)的強(qiáng)勁算力,擁有豐富的工業(yè)級I/O接口,包括RS232/RS485、USB?3.0*4、GbE?LAN*2、CAN*2等。
通過上述案例不難看出,目前邊緣計(jì)算網(wǎng)關(guān)一個(gè)重要的升級方向就是提供高算力,并強(qiáng)化算法的承載能力。不過,這些性能的提升并不能犧牲系統(tǒng)功耗,因此在相關(guān)產(chǎn)品中,往往會配合低功耗的MCU,配合低功耗的外設(shè),以最低的系統(tǒng)功耗去運(yùn)行非計(jì)算的控制功能,并將系統(tǒng)運(yùn)行功耗進(jìn)行更細(xì)分的區(qū)分。
結(jié)語
在邊緣AI爆發(fā)的大潮下,邊緣計(jì)算網(wǎng)關(guān)也在朝著邊緣智能網(wǎng)關(guān)的方向發(fā)展,一個(gè)重要的標(biāo)志就是NPU逐漸成為網(wǎng)關(guān)內(nèi)核心的一部分,且系統(tǒng)算力得到了顯著提升。當(dāng)然,由于部署在邊緣端,且設(shè)備數(shù)量巨大,因此低功耗將一直都是邊緣計(jì)算網(wǎng)關(guān)更新過程中需要面對的挑戰(zhàn)。
-
算法
+關(guān)注
關(guān)注
23文章
4612瀏覽量
92885 -
網(wǎng)關(guān)
+關(guān)注
關(guān)注
9文章
4469瀏覽量
51103 -
邊緣計(jì)算
+關(guān)注
關(guān)注
22文章
3092瀏覽量
48955 -
邊緣AI
+關(guān)注
關(guān)注
0文章
94瀏覽量
4998
發(fā)布評論請先 登錄
相關(guān)推薦
評論