現(xiàn)在幾乎所有高端智能手機的圖像處理子系統(tǒng)都集成了神經(jīng)網(wǎng)絡。語音記錄和語音處理專家會爭辯說，我們現(xiàn)在所說的人工智能已經(jīng)在邊緣運行了多年。

　　然而，在大多數(shù)情況下，這些應用程序利用了并非為現(xiàn)代 AI 工作負載設計的 SoC 和 DSP。隨著人工智能技術和部署的進步，一些新的工程挑戰(zhàn)出現(xiàn)了：

　　需要始終在線的超低功耗系統(tǒng)，該系統(tǒng)可以長時間依靠電池供電并為推理提供快速響應時間

　　對保護機器學習圖免遭篡改或盜竊的集成安全性要求

　　對能夠適應 AI 模型和算法快速變化的靈活解決方案的需求

　　這些趨勢提高了 IP 和處理器供應商的風險，這些供應商希望為嵌入式 AI 市場提供服務，預計到 2024 年，該市場的價值將達到 46 億美元。這些公司現(xiàn)在正在提供高度集成的、專門構建的計算解決方案，以搶占該業(yè)務的份額。

　　拔掉電源

　　隨著人工智能被部署在像助聽器一樣受限的設備中，功耗已成為推理平臺的首要考慮因素。Eta Compute 已將獲得專利的動態(tài)電壓頻率縮放 （DVFS） 技術整合到其多核 SoC 中，以服務于這些用例。

　　為了節(jié)省電力，許多傳統(tǒng)處理器包括睡眠功能，當負載存在時喚醒內核。然而，這些設備中的大多數(shù)都以峰值速率運行內核，這當然需要額外的功率。

　　借助 DVFS，Eta Compute 設備會根據(jù)當前工作負載連續(xù)切換電壓供應，但僅切換到在足夠長的時間內執(zhí)行任務所需的最低功率。該公司的 ECM3531 基于 Arm Cortex-M3 和 NXP CoolFlux DSP，因此能夠以 1 μW 的功耗提供 200 kSps 的 12 位分辨率。

　　數(shù)據(jù)集鎖定

　　已發(fā)現(xiàn)在推理操作期間引用的片上訓練數(shù)據(jù)集是可利用的。對于大多數(shù)可能被盜的 AI 公司來說，這些數(shù)據(jù)集代表了極具價值的知識產(chǎn)權。但是更改圖像識別數(shù)據(jù)集中的像素可能會使推理引擎錯誤地識別對象或根本無法識別它們。

　　一個廣為人知的例子發(fā)生在研究人員欺騙谷歌人工智能相信步槍是一架直升機時，但想象一下自動駕駛汽車人工智能是否認為行人是一個垃圾袋？更可怕的是，試圖調試軟件的人類工程師通常無法檢測到像素變化。

　　Synopsys 的 DesignWare EV7x 處理器等 IP 模塊包括視覺引擎、DNN 加速器和緊密耦合的內存，可提供高達 35 TOPS 的節(jié)能性能。然而，EV7x 處理器的一個低調特性是可選的 AES-XTS 加密引擎，它有助于保護從片上存儲器傳遞到視覺引擎或 DNN 加速器的數(shù)據(jù)。

　　未來模型的靈活性

　　從 DNNs 到 RNNs 再到 LSTMs，在過去的幾年里出現(xiàn)了幾十種神經(jīng)網(wǎng)絡類型。雖然這些象征著人工智能軟件和算法領域令人興奮的創(chuàng)新，但它們也引發(fā)了針對特定類型工作負載進行優(yōu)化的計算設備的重大問題。

　　ASIC 從設計到流片可能需要六個月到兩年的時間，這可能會加速高度專業(yè)化解決方案的過時。正是由于這個原因，FPGA 在人工智能工程領域獲得了巨大的吸引力。

　　Xilinx 器件（如流行的 Zynq 和 MPSoC 平臺）可進行硬件和軟件重新編程。這意味著邏輯塊可以針對當今領先的神經(jīng)網(wǎng)絡進行優(yōu)化，然后在算法發(fā)展后的數(shù)月或數(shù)年內重新配置。

　　但是一個稱為動態(tài)功能交換 （DFX） 的功能允許系統(tǒng)下載部分位文件，這些文件可以動態(tài)修改邏輯塊。這可能在設備部署和運行時發(fā)生，本質上是添加、刪除或更改單個 Xilinx 設備的功能。

　　邊緣的生產(chǎn)就緒型 AI

　　現(xiàn)在對 AI 邊緣計算的期望與我們幾年前對物聯(lián)網(wǎng)的預測相似。就像數(shù)以萬億計的“事物”將被連接起來一樣，我們假設其中絕大多數(shù)將是（人工）智能的。

　　雖然上一代解決方案奠定了基礎，但下一代解決方案需要一套新功能來確保商業(yè)成功。處理器和 IP 供應商正在通過將越來越多的功能集成到 AI 邊緣計算設備中來做出回應。

　　審核編輯：郭婷