TinyML人工智能算法的運行離不開計算的硬件 - 微控制器（MCU），借助TinyML工具、NPU的硬件加速以及平臺化的部署，大大提升微控制器（MCU）產品的計算效能，為人工智能應用開辟了新的發展市場。眾多微控制器廠商的共同參與，也為市場提供了更多更具創新的產品或解決方案。這也將為“兼容機”時代的微控制器（MCU）帶來了新的發展機遇，必將會開啟新一個賽道。

AI正在推動邊緣更加智能化，而邊緣設備也讓AI無處不在。可以預見，未來十年，AI將成為推動MCU市場增長的主要力量。隨著AI深入到邊緣和終端裝置，邊緣計算的發展成為推動全球MCU市場增長的主要趨勢之一。以前的AI運算和機器學習主要在云端完成，但現在它們正在逐漸向邊緣端發展。而邊緣AI并不會止步于手機、電腦這些具備SoC級別算力的終端，而是會繼續向著MCU為主控的物聯網設備蔓延。隨著AI在邊緣的落地，硬件CNN在端側MCU的集成已經成為一種技術趨勢。

微控制器（MCU）廠商并購人工智能公司布局TinyML

• 2021年5月，意法半導體收購邊緣AI軟件專業開發公司Cartesiam
• 2022 年 7 月，瑞薩電子收購了嵌入式AI解決方案優秀供應商Reality Analytics, Inc.（Reality AI）
• 2023 年 5 月 ，英飛凌宣布已收購TinyML初創企業Imagimob公司
• 2023 年 8 月，Nordic公司宣布收購美國人工智能和機器學習公司Atlazo

BTW

ST將推出集成NPU的STM32N6，NXP推出了集成一個DSP協處理器和神經處理單元(NPU)的MCX產品組合，Microchip提供 MPLAB 機器學習開發套件來提升其產品的機器學習能力。

布局TinyML的路徑

從目前各微控制器（MCU）廠家和業界的應用情況來看，布局TinyML的路徑大致有以下三個：

TinyML工具

集成神經網絡處理器（Neural Processing Unit，NPU）協處理器

TinyML平臺

相對于大語言模型來說，TinyML 是一種小的或極小規模的機器學習。TinyML本身是一種軟件算法，是對數據分析和處理的一種計算處理方法，通過構建機器學習模型來進行推理，業界也有一些通用的TinyML機器學習模型。TinyML需要借助軟件和工具對采集來的數據進行分析和處理、推理和驗證等。在不斷地對模型進行優化處理后，還需要將將其轉換為微控制器（MCU）這類性能較弱、資源較少的微控制器（MCU）可以運行的固件。TinyML工具有助于人工智能的開發應用，讓復雜的人工智能軟件的開發變得簡單快捷。

NPU是一種神經網絡單元，專用于神經網絡的計算，隨著人工智能應用對計算資源的需求越來越高、任務越來越復雜，對神經網絡的計算需求要求也越來越高，微控制器（MCU）中的ALU（算術運算單元AU和邏輯運算單元LU）不足以支持復雜的神經網絡的計算需求，將NPU硬件化并集成在微控制器（MCU）內部作為協處理器，可以大大提升人工智能應用的計算效率。NPU實質上也是一種專用的硬件計算單元。

一般地，基于微控制器（MCU）設計開發的產品，其固件可以用幾年，甚至到其生命周期才結束。固件在其驗證穩定后一般不再需要更改。隨著產品部署規模的不斷擴大，產品不斷地迭代更新，需要對微控制器（MCU）中的固件進行更新，通過一個平臺可以對設備進行較好的管理和維護。而TinyML平臺不僅需要對固件進行迭代升級，還可以對數據進行收集、機器學習模型不斷地進行訓練，不斷地優化模型，使得模型的精度越來越高。另一方面，本地的微控制器（MCU）的計算資源，不足以支持大量數據的存儲和對模型訓練優化等任務。TinyML需要一個高性能的計算平臺來支撐人工智能產品的不斷迭代。

國內MCU廠商大部分仍處于模仿兼容傳統STM32的同質化水平，忙于內卷比拼價格，生存還是個問題，基本上還顧不上未來的布局。

下一個loT市場將重構

根據loTAnalytics的數據，2022年全球活躍的物聯網設備連接數達到了143億個，預計到2027年數量將達到297億個，年復合增長率達16%。

從通用MCU到IoT MCU，再到具備TinyML特質的IoT MCU，微控制器的發展與整個消費電子設備的演進浪潮緊密相連。單品MCU已經不足以滿足當下IoT開發者的需求，選擇一顆MCU即選擇了一個完整的開發生態。

在AIoT時代，MCU的變化需要兼顧硬件和軟件兩個方面。

• 在硬件層面，要求更高的處理能力、更多的安全組件、多種連接能力以及更低功耗；
• 在軟件層面，操作系統從任務調度發展為IoT OS平臺，軟件復雜度大幅增加，需要平臺級軟件及工具；
• 在生態系統層面，各種云服務公司進入嵌入式系統生態圈，并且與算法公司、純軟件公司合作增多。

此外，生態層面的變化也正在拉開大幕。在AIoT時代，眾多云服務公司進入到嵌入式領域，MCU需要開放API接口等；而且MCU需要與算法公司進行合作，以適配實現高效算力；操作系統層面云服務廠商的染指也將引發更多的爭斗。

而無線模組硬件成本的大幅縮減往往意味著，AIoT行業正在從拓荒期進入成長期，從小規模的摸索嘗試轉向大規模的經驗復制。這表明AIoT時代的嵌入式系統由功能型向體驗型方向轉型，保持高效就需要分工，并要產生聚集效應實現規模化。

結尾：

在人工智能時代，MCU這個芯片領域的資深前輩仍然能夠保持其領先地位，展現出歷久彌新的特質。在可以預見的未來，MCU將成為物聯網邊緣不可或缺的核心組件。我們正在邁入AIoT時代，AI深入到邊緣和終端裝置，已經是一個長期必然的大方向。做好技術準備國產廠商方能迎接未來轉折窗口的挑戰。

審核編輯 黃宇