物聯(lián)網(wǎng)（IoT）不僅改變我們的日常生活，還會影響我們?nèi)祟惿鐣狞c點滴滴。從智能家居到未來的工廠，聯(lián)網(wǎng)設(shè)備的數(shù)量持續(xù)快速增長。據(jù)IDC估計，到2025年將有超過557億的入網(wǎng)設(shè)備，其中75%將連接到物聯(lián)網(wǎng)平臺。這將導(dǎo)致這些設(shè)備生成的數(shù)據(jù)流，預(yù)估從2019年的18.3 ZB增長到2025年73.1 ZB。屆時，AI（人工智能）的高效算法將會在不同方面有效克服物聯(lián)網(wǎng)部署及應(yīng)用中的挑戰(zhàn)。人工智能和物聯(lián)網(wǎng)設(shè)備的優(yōu)勢能夠確保對數(shù)據(jù)的系統(tǒng)性計算分析，但也帶來延遲和安全漏洞等問題。現(xiàn)在技術(shù)已經(jīng)可以在成功創(chuàng)建分布式智能動態(tài)網(wǎng)絡(luò)的同時實現(xiàn)數(shù)據(jù)的實時處理。

什么是AIoT？

智能物聯(lián)網(wǎng)（AIoT）是一個相對較新的術(shù)語，但已風(fēng)靡全球。它是新興技術(shù)中的兩大巨頭——人工智能（AI）和物聯(lián)網(wǎng)（IoT）的結(jié)合，旨在實現(xiàn)更高效的物聯(lián)網(wǎng)運營、改善人機交互并增進數(shù)據(jù)管理和分析。物聯(lián)網(wǎng)是由相互連接的設(shè)備組成，由眾多的傳感器，生成并收集大量數(shù)據(jù)。人工智能能夠讓機器基于之前的經(jīng)驗來執(zhí)行任務(wù)。它也可以將物聯(lián)網(wǎng)數(shù)據(jù)轉(zhuǎn)換為有用的信息，然后適時有效地使用這些數(shù)據(jù)做適當(dāng)?shù)臎Q策。人工智能和物聯(lián)網(wǎng)具有互惠關(guān)系——人工智能得益于“大數(shù)據(jù)”的可用性，而物聯(lián)網(wǎng)則受益于機器學(xué)習(xí)的能力。

在AIoT中，AI可以嵌入到IoT基礎(chǔ)設(shè)施組件中，并使用API（應(yīng)用程序接口）來實現(xiàn)這些處于不同層級組件之間的操互性和可靠性。這種運行機制側(cè)重于改進系統(tǒng)以及網(wǎng)絡(luò)的功能性和可操作性，通過數(shù)據(jù)管理抽取背后的價值。由于人工智能、物聯(lián)網(wǎng)的系統(tǒng)結(jié)合，數(shù)據(jù)分析的價值隨著“智能”的介入而提升。例如，物聯(lián)網(wǎng)邊緣生成的數(shù)據(jù)，可以讓機器自主地在邊緣完成任務(wù)。為了更清楚地說明AI和IoT的互融，下圖顯示了數(shù)據(jù)的生命周期。物聯(lián)網(wǎng)負責(zé)使用感知層中的傳感器捕獲數(shù)據(jù)。然后在網(wǎng)絡(luò)層中進行數(shù)據(jù)傳輸，接著通過數(shù)據(jù)聚合把數(shù)據(jù)集成在一起。再通過物聯(lián)網(wǎng)平臺對集成數(shù)據(jù)跟進分析。最后，根據(jù)分析結(jié)果，在業(yè)務(wù)/應(yīng)用層做相應(yīng)操作。物聯(lián)網(wǎng)的本質(zhì)價值是由應(yīng)用層“決策”的價值決定的，這主要取決于上一步以人工智能為背景介入的“數(shù)據(jù)分析”的結(jié)果。

人工智能：為物聯(lián)網(wǎng)增值

將人工智能從云端集成到物聯(lián)網(wǎng)甚至到物聯(lián)網(wǎng)的節(jié)點端，可以進一步改善運營狀態(tài)和整體系統(tǒng)效率，支持物聯(lián)網(wǎng)可擴展性并通過有效的風(fēng)險管理降低風(fēng)險。盡最大可能減少緊急停機狀況，來幫助降低總運營成本，反過來意味著提高可用性。

要能在節(jié)點上做高效的AI推斷，需要一種革新性的方式來管理信息：積累相關(guān)數(shù)據(jù)，并在本地設(shè)備上做出決策。

為了在節(jié)點采用更有效的人工智能（AI）、機器學(xué)習(xí)（ML）或深度學(xué)習(xí)（DL），你需要好用的硬件來執(zhí)行核心系統(tǒng)任務(wù)以及相關(guān)算法，同時還要滿足對性能和功耗的需求。為物聯(lián)網(wǎng)IoT設(shè)計而生的微控制器，集成所需CPU性能、智能又省電的外設(shè)和強壯的硬件安全引擎，能有效幫助AIoT的應(yīng)用。然而，除了硬件本身，我們還需要經(jīng)過優(yōu)化的支持機器學(xué)習(xí)模型的中間件，才能確保AIoT應(yīng)用在這些資源受限設(shè)備上的順利運行。

基于物聯(lián)網(wǎng)微控制器單元組成的智能物聯(lián)網(wǎng)設(shè)備，它在物聯(lián)網(wǎng)邊緣負責(zé)收集和處理大量數(shù)據(jù)。從邊緣到云端的數(shù)據(jù)傳輸、數(shù)據(jù)處理需要更優(yōu)的性能、安全的通信，以及高能效。將能耗保持在非常低的水平是大規(guī)模部署物聯(lián)網(wǎng)設(shè)備的重要環(huán)節(jié)。微型機器學(xué)習(xí)TinyML可以在嵌入式節(jié)點設(shè)備上優(yōu)化并且高效運行復(fù)雜的AI/ML模型。

?

現(xiàn)在讓我們更深入地了解TinyML的演進和在節(jié)點設(shè)備上的應(yīng)用，以及AIoT在不同階段的應(yīng)用情況。

第1階段

人工智能和云端服務(wù)

起初，只在云端做神經(jīng)網(wǎng)絡(luò)訓(xùn)練和托管機器學(xué)習(xí)模型，這勢必需要強大的算力以及復(fù)雜的任務(wù)管理能力。微控制器單元在物聯(lián)網(wǎng)中負責(zé)管理傳感器和執(zhí)行器。如下圖所示，在云端運行的AI模型所需的數(shù)據(jù)，是源于物聯(lián)網(wǎng)，而將海量數(shù)據(jù)傳輸?shù)皆贫说倪^程中，會給網(wǎng)絡(luò)帶寬帶來很大壓力。導(dǎo)致的傳輸延遲和資源耗損，恰恰不適合實時控制和關(guān)鍵的安全應(yīng)用。

AI and the Cloud

第2階段

人工智能和邊緣計算

為了提高系統(tǒng)效率和決策能力，我們現(xiàn)在能夠在物聯(lián)網(wǎng)邊緣網(wǎng)關(guān)或終端節(jié)點本地運行AI模型。然而，對于資源受限的邊緣設(shè)備，機器學(xué)習(xí)模型的訓(xùn)練仍然需要在云端進行。經(jīng)過訓(xùn)練后的模型部署在邊緣設(shè)備中。這種方式得益于云端超強的算力（用于訓(xùn)練）和邊緣計算的低延遲性（更及時的執(zhí)行）。

AI and the Edge

第3階段

端點的智能嵌入

在這個階段，物聯(lián)網(wǎng)產(chǎn)品的設(shè)計人員將機器學(xué)習(xí)模塊直接嵌入到微控制器中；不再需要邊緣網(wǎng)關(guān)或者云端去做決策響應(yīng)。

Embedding intelligence at the Endpoint

但是，必須確保在微控制器單元MCU上運行的此類機器學(xué)習(xí)模型足夠的輕量化，以實現(xiàn)更快的執(zhí)行效果。這就是TinyML發(fā)揮作用的地方，因為它不需要很多資源即可工作，特別適合物聯(lián)網(wǎng)資源受限設(shè)備。簡而言之，TinyML有助于優(yōu)化資源、降低成本、提高能效和數(shù)據(jù)安全性，并最終降低系統(tǒng)延遲。這催生了分布式智能，并加速AIoT在各種應(yīng)用領(lǐng)域的擴展。

?

瑞薩可以幫助實現(xiàn)高效AIoT解決方案的一些例子：

• 工業(yè)領(lǐng)域中可預(yù)測維護：在設(shè)備中嵌入相關(guān)機器學(xué)習(xí)模型將有助于實時檢測問題并采取相應(yīng)措施。

• 模式識別：這是一種圖像或語音識別模型，可以在檢測到某些單詞或指令時讓系統(tǒng)做出改變。

• 智能醫(yī)療：智能預(yù)診、醫(yī)療狀況監(jiān)測和實時分析、高效圖像識別進行快速治療等等。

• 可穿戴智能設(shè)備：應(yīng)用種類繁多，從智能手表到運動追蹤器，以及各種監(jiān)控設(shè)備。

智能物聯(lián)網(wǎng)AIoT的出現(xiàn)跨越了許多新技術(shù)和應(yīng)用，為人類生活的各個領(lǐng)域開啟了前所未有的可能性。為更廣泛地采用AIoT，需要在連接性、安全性和先進技術(shù)開發(fā)方面進行協(xié)作和標(biāo)準化，以此來解決所面對的各種困難。

在廣泛開發(fā)數(shù)十億智能設(shè)備的過程中，它創(chuàng)造了前所未有的新業(yè)務(wù)流和新應(yīng)用。讓我們釋放創(chuàng)造力，因為它會給我們帶來超乎想象的未來。