電子發燒友網報道(文/李彎彎)十年前,深度神經網絡模型多還是在云端執行,而如今已經越來越多地向邊緣側轉移。從目前的趨勢來看,邊緣人工智能將成為主流,調研機構數據顯示,到2030年,深度端側AI設備的全球出貨量將達到25億臺。
意法半導體在邊緣人工智能領域耕耘多年,在5月12-13日舉辦的主題為“STM32 不止于芯”的第六屆STM32中國峰會上,意法半導體中國通用微控制器市場部丁曉磊主題演講中,詳細介紹了意法半導體在邊緣人工智能領域的軟硬件布局。
在邊緣AI領域,ST可以提供哪些軟硬件支持
由于具備超低時延、低數據帶寬、隱私性和安全性高等優點,邊緣人工智能可以為很多領域提供價值,比如:一、工業預測性維護,包括條件檢測、預測性維護等;二、控制系統,從家電到工業機器;三、物聯網,包括智慧城市、智慧樓宇、智慧家庭和工業自動化等。
那么,在邊緣人工智能領域,意法半導體可以提供哪些支持呢?據丁曉磊介紹,在硬件層面,首先是STM32 MCU,意法半導體所有MCU,都有工具能夠支持它跑所有主流的神經網絡模型,包括意法半導體最新發布的STM32N6,它是一顆帶有神經網絡硬件處理單元的MCU;其次提供開發板支持,包括意法半導體自己的開發板,以及很多第三方合作伙伴的開發板。
在軟件工具層面,意法半導體可以提供非常多、好用的開發工具,用來幫助開發者把人工智能模型部署到硬件端,包括NanoEdge AI和Cube.AI;除了這些開發工具之外,還有模型庫Model zoo,這里面有很多預訓練的模型,可以用來做進一步的人工智能開發;此外,還有各種軟件包,Function Packs,可以幫助開發者更好的做模型訓練、優化,進行整個流程的部署。
ST的產品目前已經有相當多的成功案例,在工業自動化、智能交通、智慧城市、可穿戴、智慧家庭等領域,都有很多邊緣人工智能的實際應用案例。
這個案例(上圖),最終產品形態是一個震動檢測的盒子,用于在工業領域做故障檢測,這里面有用到STM32的MCU,盒子里面還有震動傳感器。這個盒子,通過震動傳感器的數據,再通過NanoEdge AI這樣的邊緣AI算法,來實現整個設備的異常檢測。
這是電器解決方案中斷路器的預測性維護的案例,里面用到的是STM32G4,它用到電流、震動傳感器,做異常檢測和分類,能夠更好的做斷路器老化的預測。
丁曉磊強調,在這些NanoEdge AI的使用案例中,值得一提的是,并不需要海量的數據,對于使用的公司來說,也并不需要重新請一位AI算法工程師。NanoEdge AI是一個對嵌入式開發工程師非常友好,能夠很快上手的工具。
還有一個支流拉弧檢測的應用案例,用的是Cube.AI,這里面采用的是STM32U5。不過丁曉磊表示,很多STM32型號都可以勝任這個工作,做一些異常檢測。相比于傳統方案,它可以減少拉弧的誤報率,提高準確性,并且提升在噪聲環境下的適應性。
ST的軟件工具都可以應用在哪些芯片上呢?丁曉磊介紹,NanoEdge AI和Cube.AI是做全線支持的,可以用在ST整個的產品線上(如上圖)。開發者可以把所有主流框架的模型,只要能夠轉換出足夠小的代碼,就可以在任何STM32 MCU上部署。另外,ST還有一顆MPU,雙核,里面有一顆Cortex-M4內核,NanoEdge AI和Cube.AI兩個平臺同樣對這顆MPU支持。
Cube.AI和NanoEdge AI具備哪些優秀的功能
Cube.AI和NanoEdge AI這兩款軟件工具有哪些優秀的功能呢?Cube.AI,它是一個能夠很快評估、轉換、和部署機器學習或深度神經網絡在STM32 MCU上的工具。也就是,它的輸入是已經被訓練好的神經網絡模型或機器學習模型,它的輸出是可以運行在STM32上的代碼。
Cube.AI不僅僅是一個轉換工具,它里面有非常多、非常好的優化功能,能夠讓代碼量非常小,使其能夠更優化的部署在STM32上。據丁曉磊介紹,Cube.AI,能夠支持所有主流的AI框架,比如TensorFlow Lite、Carrots、Pytorch、ONNX等,還有一些Machine Learning算法。
Cube.AI工具有兩個版本:一個是STM32Cube.AI,是原本的PC版本,為STM32準備的AI轉換和優化,可以直接在自己的PC上使用;一個是STM32Cube.AI開發云,是最新的線上AI服務器,也就是ST在開發者云上部署好,只要用開發者云,就可以直接用這個工具。
STM32Cube.AI開發云版本,有一個工程師很歡迎的功能,就是它有一個在線的開發板推理時間的評估功能。丁曉磊表示,ST實際上有一個服務器,后面連了很多真實的STM32的開發板。使用者可以非常快知道,自己訓練好的模型,在這個開發板上內存占用夠不夠,評估推理時間。在很多應用里,對推理時間是有明確要求的。為了很快得到推理時間,使用者可以非常方便地用在線的開發者云很快評估一個訓練好的模型。
NanoEdge AI軟件工具,面向嵌入式開發者提供一體化的機器學習方案。從剛開始的數據收集、模型選擇、數據訓練,到生成模型、優化部署,它是一個從頭到尾整個支持機器學習優化部署的工具。它的優勢是,不需要非常大的數據量,又有比較高的內存占用效率。
有一個洗衣機應用案例,這個洗衣機的稱重精準度是100g,如果不用AI算法,業界普通的稱重精準度是300g到500g。這個100g的算法是如何實現的呢?它就是用了NanoEdge AI這個軟件工具來實現的,NanoEdge AI這個工具需要的數據信號,就是洗衣機本來電機里面的電流的特征信號,不需要再增加額外的傳感器去實現這個功能。
而且它的Flash和SRAM大概都只有10KB左右,意味著你可以在原有的MCU里面增加一點空間,就能實現非常好的精準度,非常高的稱重檢測。這就是這個工具比較好的優勢。
據丁曉磊介紹,客戶有越來越多的算法用例需求,用于創造更多智能產品。比如:1、希望設備能夠自主適應目標環境并檢測異常狀態;2、想檢測任何的異常值;3、想根據信號來檢測發生的問題的類型;4、想預測何時會達到特定的振動水平,以便在達到該極限之前有時間采取糾正措施。而NanoEdge AI就可以為客戶解決這些問題。
小結
憑借諸多優勢,如今邊緣人工智能逐漸在各個領域中得到應用,甚至說,具備AI能力會成為越來越多產品的標配。意法半導體的STM32 MCU,以及Cube.AI和NanoEdge AI軟件工具,可以幫助開發者方便快速地將訓練好的模型部署到終端設備上,實現所需要的智能化功能。
-
意法半導體
+關注
關注
31文章
3143瀏覽量
108731 -
AI
+關注
關注
87文章
31139瀏覽量
269477
發布評論請先 登錄
相關推薦
評論