作者 | Ari Kamlani

混合人工智能（AI）是數(shù)據(jù)驅(qū)動(dòng)機(jī)器智能方法的配套技術(shù)，可以促進(jìn)邊緣計(jì)算的發(fā)展。

諸多行業(yè)都在開(kāi)發(fā)和部署人工智能（AI）。它使許多公司能夠利用新的機(jī)會(huì)，創(chuàng)造新的商業(yè)模式并獲得競(jìng)爭(zhēng)優(yōu)勢(shì)。在工業(yè)、能源、國(guó)防、醫(yī)療保健和金融行業(yè)，AI正在成為企業(yè)在各自領(lǐng)域內(nèi)有效競(jìng)爭(zhēng)能力的核心差異化價(jià)值驅(qū)動(dòng)因素。

以物聯(lián)網(wǎng)（IoT）為例。相關(guān)預(yù)測(cè)顯示，到2025年物聯(lián)網(wǎng)連接的設(shè)備將超過(guò)750億臺(tái)，比2019年增長(zhǎng)近三倍。這一數(shù)字還在繼續(xù)呈現(xiàn)指數(shù)級(jí)的增長(zhǎng)，將所有這些設(shè)備與智能功能連接起來(lái)，是實(shí)現(xiàn)其全部物聯(lián)網(wǎng)潛力的最大挑戰(zhàn)之一。

隨著設(shè)備和系統(tǒng)的技術(shù)能力的不斷成熟，在物理世界中，幾乎所有物體都有連接性和計(jì)算能力，不管這些能力是生俱來(lái)的還是經(jīng)改造后獲得的。用戶的期望值也在不斷增長(zhǎng)。用戶對(duì)體驗(yàn)和交互的要求更高，希望獲得類(lèi)似于智能手機(jī)和筆記本電腦的用戶友好體驗(yàn)。機(jī)器學(xué)習(xí)用戶體驗(yàn)MLUX（ML+UX）需要精心設(shè)計(jì)，以最小的代價(jià)獲得積極、有影響力、情境和整體的用戶體驗(yàn)，以進(jìn)一步擴(kuò)大和提升對(duì)該技術(shù)的采用。

01

邊緣計(jì)算系統(tǒng)正在不斷發(fā)展

邊緣系統(tǒng)的設(shè)計(jì)，具有不同且通常有限的計(jì)算機(jī)處理、存儲(chǔ)和內(nèi)存、網(wǎng)絡(luò)連接和運(yùn)行等諸多限制。邊緣范式轉(zhuǎn)移到數(shù)據(jù)被感知、生成和執(zhí)行的地方進(jìn)行本地處理；盡管在某些情況下，它有點(diǎn)類(lèi)似于云功能，可以通過(guò)邊緣網(wǎng)關(guān)進(jìn)一步擴(kuò)展，以提供低延遲和高帶寬利用率。

在整個(gè)范圍中，硬件系列可以涵蓋從資源受限的超低功耗裸機(jī)設(shè)備、RTOS微控制器（例如，ARM Cortex-M）到SoC應(yīng)用微處理器（例如，ARM Cortex-A）配置文件功能。原始設(shè)計(jì)制造商/原始設(shè)備制造商（ODM/OEM）許可的應(yīng)用程序配置文件目標(biāo)，通常出現(xiàn)在智能手機(jī)和平板電腦中，或連接到外部的微控制器、傳感器和驅(qū)動(dòng)器或基帶處理器的應(yīng)用處理器中。

在此范圍內(nèi)，先進(jìn)的專(zhuān)用AI加速器ASIC設(shè)備已被設(shè)計(jì)為處理高性能的AI操作指令和支持最先進(jìn)的模型（SOTA）。盡管硅的應(yīng)用落后于AI研究，但它帶來(lái)的好處是性能提高，這間接地與最終用戶的體驗(yàn)聯(lián)系在一起。

在生命周期開(kāi)始之前，許多SoTA AI模型都需要進(jìn)一步優(yōu)化和壓縮，而不會(huì)降低目標(biāo)性能。隨著該領(lǐng)域的發(fā)展，將模型部署到嵌入式設(shè)備已轉(zhuǎn)向嵌入式系統(tǒng)范式，即在目標(biāo)主機(jī)上交叉編譯代碼。

用戶可以通過(guò)中間格式（MLIR）和Runtime執(zhí)行環(huán)境來(lái)編譯和優(yōu)化處理器目標(biāo)和設(shè)備執(zhí)行，而不是部署較小的參數(shù)化抽象模型，以換取目標(biāo)性能。這也與提供更低的延遲和改善的用戶體驗(yàn)有關(guān)。

在運(yùn)營(yíng)過(guò)程中，AI邊緣系統(tǒng)需要具有一定程度的獨(dú)立性，盡管具有局限性，但仍能做出高性能的決策，直到它們能夠利用更強(qiáng)大的資源以及來(lái)自所連接的云基礎(chǔ)設(shè)施的大量數(shù)據(jù)和知識(shí)。對(duì)于互連的設(shè)備，這種獨(dú)立狀態(tài)被稱(chēng)為緊急模式。

02

使用混合AI改善邊緣計(jì)算

使用混合AI（Hybrid AI）是推進(jìn)邊緣AI的潛在途徑。混合AI是一種將機(jī)器學(xué)習(xí)與符號(hào)AI（Symbolic AI）相結(jié)合的方法，前者使用統(tǒng)計(jì)模型來(lái)分析數(shù)據(jù)，后者基于語(yǔ)義并提供對(duì)意義的見(jiàn)解。通過(guò)利用每種技術(shù)的優(yōu)勢(shì)，可以實(shí)現(xiàn)比單獨(dú)使用任何一種技術(shù)更強(qiáng)大的結(jié)果。

混合AI作為數(shù)據(jù)驅(qū)動(dòng)機(jī)器智能方法的配套技術(shù)，補(bǔ)充了認(rèn)知符號(hào)AI能力，克服了推理、順序規(guī)劃、可操作反饋以及類(lèi)似人類(lèi)的可理解闡述和解釋方面的限制。核心關(guān)注點(diǎn)是與用戶的協(xié)作互動(dòng)，充當(dāng)情境決策支持顧問(wèn)和診斷系統(tǒng)，尤其是在與高風(fēng)險(xiǎn)、不確定性和未知相關(guān)的情況下更是如此。例如，NASA JPL為火星探測(cè)器著陸開(kāi)發(fā)了混合AI，增加了推理智能功能，以改善在不熟悉和傳統(tǒng)技術(shù)難以實(shí)現(xiàn)的困難地形下的導(dǎo)航。

利用混合AI，可以通過(guò)編碼的人類(lèi)專(zhuān)家知識(shí)和約束、行業(yè)指南和最佳實(shí)踐以及傳統(tǒng)的支持歷史庫(kù)和流式事件信息來(lái)豐富系統(tǒng)。這些認(rèn)知引擎和算法對(duì)假設(shè)的路徑和場(chǎng)景進(jìn)行建模，以提出行動(dòng)方案并制定智能的近實(shí)時(shí)決策，即使在那些在操作、獲取和訪問(wèn)質(zhì)量數(shù)據(jù)方面被認(rèn)為不太理想的邊緣環(huán)境下也是能完成任務(wù)。

考慮連接受限或不穩(wěn)定的邊緣設(shè)備的使用工況，這些設(shè)備在惡劣或遠(yuǎn)程環(huán)境中運(yùn)行，具有長(zhǎng)尾數(shù)據(jù)分布，數(shù)據(jù)采集和存儲(chǔ)受到限制。或者，當(dāng)設(shè)備故障，傳感器融合和機(jī)動(dòng)高風(fēng)險(xiǎn)錯(cuò)誤條件路徑的時(shí)間周期內(nèi)，發(fā)生數(shù)據(jù)沖突時(shí)所導(dǎo)致的不理想路徑。這些案例都是傳統(tǒng)大數(shù)據(jù)和微調(diào)方法不太適合的。混合AI可以直接將這些條件，作為推薦行動(dòng)計(jì)劃和用戶反饋回路的一部分，或利用知識(shí)和約束的基礎(chǔ)模型進(jìn)行校正，間接地促成這些條件。

在IoT和其它在邊緣運(yùn)行的系統(tǒng)中使用混合AI，為連接、用戶體驗(yàn)和運(yùn)營(yíng)決策帶來(lái)了新的潛力。AI未來(lái)的愿景，包括能在網(wǎng)絡(luò)邊緣和更大的生態(tài)系統(tǒng)和價(jià)值鏈之外，實(shí)現(xiàn)傳統(tǒng)機(jī)器學(xué)習(xí)系統(tǒng)無(wú)法完成的任務(wù)的認(rèn)知系統(tǒng)：智能和流暢地與人類(lèi)專(zhuān)家互動(dòng)，提供清晰可行的解釋?zhuān)⒃鰪?qiáng)用戶對(duì)決策的信任和信心。

編輯：黃飛

?