電子發燒友網報道(文/李彎彎)MCU即微控制單元,是把CPU的頻率與規格做適當縮減,并將內存、USB等周邊接口,甚至LCD驅動電路都整合在單一芯片上,形成芯片級的計算機。隨著MCU算力進一步提升,高頻MCU的主頻已經提升到GHz級別,可以滿足邊緣端低算力人工智能需求。將人工智能集成在MCU上,只用一顆芯片實現端側部署,正在成為新潮流。
MCU如何運行AI算法
這種集成了AI的MCU組成結構大概包括幾個部分:中央處理器,負責讀取、解碼和執行指令,進行算術、邏輯和數據傳輸操作;AI處理單元:它負責執行AI算法和機器學習任務,AI處理單元通常包括神經網絡處理器、加速器和其他專用硬件,用于高效地執行深度學習、卷積神經網絡等計算密集型任務。
存儲單元:包括程序存儲器和數據存儲器。程序存儲器用于存儲AI算法和程序代碼,而數據存儲器則用于存儲臨時數據和結果。輸入/輸出(I/O)端口:用于與外部傳感器、執行器和其他設備進行通信,這些端口可以是數字、模擬或串行端口。
其他組件:如定時器/計數器、串行通信接口(如SPI、UART等)、內存接口等,這些組件支持AI MCU與外部設備和系統進行通信和控制。此外,結構和組成可能會因不同的應用和需求而有所差異,一些高級的AI MCU可能還包含其他高級功能,如浮點運算單元(FPU)、硬件乘法器、數字信號處理器(DSP)等。
那么,MCU是如何運行AI算法的呢?從步驟上來看,首先需要模型轉換,即需要將訓練好的AI模型轉換為MCU可以理解的格式,這通常涉及到使用特定的工具和框架,如TensorFlow Lite或Caffe 2,將模型轉換為低功耗、可移植的格式。
其次是模型優化,在模型轉換后,為了提高在MCU上的運行效率,還需要對模型進行優化。這包括壓縮模型大小、降低計算復雜度、減少內存占用等。接著是模型部署,優化后的AI模型可以部署到MCU上,這通常涉及到將模型下載到MCU的存儲器中,并使用MCU的處理器進行推理。
然后是數據預處理,在模型推理之前,需要對輸入數據進行預處理,這包括數據清洗、歸一化、特征提取等步驟,以確保輸入數據的質量和有效性。最后便是推理執行,即MCU根據預處理后的輸入數據執行推理任務,推理結果可以用于控制MCU所連接的設備或系統,如智能家居設備、工業控制系統等。
MCU運行AI有它的優缺點,優點包括:1、MCU通常具有較低的功耗,適用于電池供電或功耗敏感的應用場景;2、MCU可以實時處理和響應數據,適用于需要快速響應的應用;3、MCU可以根據具體應用需求進行定制,靈活性較高;4、MCU通常成本較低,適合大規模生產;5、MCU具有較高的可靠性和穩定性,適用于對安全性和可靠性要求較高的應用。
缺點則有:1、MCU的存儲器、處理器速度等資源有限,可能無法處理大規模的AI算法和數據;2、MCU的計算能力相對較弱,可能無法與高性能的GPU和服務器相媲美;3、MCU在數據傳輸方面可能存在限制,例如有限的I/O端口和通信接口;4、由于MCU資源限制和計算能力有限,開發人員可能需要針對MCU進行特定的優化和裁剪工作,開發難度較大;5、由于MCU通常暴露在外部環境中,可能存在安全風險,需要進行安全保護和認證。
國內外廠商在邊緣AI市場尋找機會
目前國內外不少廠商都在探索通過MCU來實現AI在邊緣端的部署,歐美廠商包括ADI、ST、瑞薩電子、恩智浦、英飛凌等,國內廠商中穎電子、國民技術、納思達、兆易創新等。
歐美廠商在這方面布局較早,如ADI,該公司從2020年開始,在傳統MCU的基礎上開拓了邊緣AI MCU產品線,能夠幫助電池供電設備更輕松地實現人工智能及物聯網應用。
ADI的邊緣AI解決方案MAX7800X系列,由兩個微控制器內核(ARM Cortex M4F和RISC-V)與一個卷積神經網絡(CNN)加速器構成,該架構針對邊緣進行了高度優化,數據的加載和啟動由微控制器內核負責,而AI推理由卷積神經網絡加速器專門負責?;趦蓚€硬件的分工合作,MAX7800X系列既不需聯網,也支持電池供電,大大滿足了邊緣AI的要求。
如ST,該公司認為對于未來的MCU而言,最為重要的應用趨勢是來自AI在邊緣端的部署。于是它在2017年開始探索AI和MCU的結合。2023年ST發布的一款集成NPU的MCU——STM32N6,是布局邊緣AI的一個重要的產品方向。STM32N6采用了Arm Cortex-M55內核,內部集成了ISP和NPU,可以提供卓越的機器視覺處理能力和AI算法部署。
同時,ST認為,對于將MCU和AI的結合,軟件端的價值更大,于是他們開發了Cube.MX,它能夠打通AI算法和MCU應用之間的屏障,讓實際的AI邊緣端應用更加豐富。通過Cube.AI,開發者可以根據自己的需求來進行模型的搭建,將標準AI工具創建的深度神經網絡模型,優化到適合MCU資源級別的C代碼,使開發者的邊緣AI算法可以最終得以執行和落地。
在國內,多家廠商會有相關的研究計劃,國民技術此前在某平臺上透露,Cortex-M7內核MCU可支持高算力的機器學習方面的AI應用,未來將根據市場需求、研發計劃和技術情況合理布局。納思達稱,目前擁有面向深度學習應用的專用計算自研平臺,針對MCU芯片,負責輕量級深度學習模型推理加速。
中穎電子去年9月在接受調研時表示,公司現在所有產品在細分領域都在做進口替代。公司不會投入在AI的核心算力部件,但對AI邊緣計算的MCU會投入研發。恒爍股份稱,公司正在開展基于MCU的AI應用部署,推動超輕量AI算法模型在MCU芯片上運行,在離線終端設備上實現低功耗、低成本、實時的AI推理解決方案,盡快實現批量出貨。
寫在最后
未來,邊緣/終端設備的智能化滲透率將會不斷提升,而MCU作為各種電子產品重要的部件,在其中集成AI將會是非常適合的方式。從目前的情況來看,歐美不少廠商已經早早布局,如ADI、ST、瑞薩等,中國臺灣廠商也在積極尋找機會,中國大陸的一些廠商也透露出了研究計劃。不過,雖然MCU運行AI有它的優勢,同時它也面臨一些缺點和挑戰,MCU廠商想要入局也并不是一件容易的事。
-
mcu
+關注
關注
146文章
17172瀏覽量
351569
發布評論請先 登錄
相關推薦
評論