今天早上，Maxim Integrated發布了其最新產品，一種低功耗NN加速器芯片，希望將AI推向邊緣。我們采訪了Maxim Integrated Micros，安全和軟件業務部執行總監Kris Ardis，以獲取詳細信息。

人工智能和物聯網似乎是天造地設的一對，但要完美結合這兩種技術還需要克服許多障礙。通常，物聯網是一種低功耗，電池供電的技術。另一方面，人工智能，特別是卷積神經網絡（對于機器視覺來說是必不可少的），在計算上非常昂貴。

邊緣計算可提供實時數據處理。圖片由計算理論提供

為了克服這些挑戰，通常的做法是將計算卸載到云中。但是，這帶來了大量延遲和安全性問題。例如，無人駕駛汽車需要盡快做出實時決策。它根本承受不起等待數據發送到云，進行計算并返回的費用。

但是嵌入式設備呢？Maxim Integrated Micros，安全性和軟件業務部執行總監Kris Ardis認為，目前，小型嵌入式設備“沒有進行AI革命的其余部分”。

“他們看不到也聽不到，這比簡單的單詞要多得多，” Ardis解釋說。“這就是我們要填補的空白：我們如何才能將更多的AI承諾帶入嵌入式世界？”

一種新的解決方案：Maxim Integrated的NN加速器芯片

為了回答這個問題，Maxim Integrated轉向了用于人工智能的低功耗，高性能芯片。今天早上，該公司宣布了其最新產品：神經網絡加速器芯片，旨在在電池供電的IoT設備中實現AI。

新芯片MAX78000包括兩個超低功耗內核-ArmCortex-M4內核或RISC-V內核-一個基于FPU的微控制器和一個卷積神經網絡加速器。Ardis評論說：“ RISC-V在那里，因為它是一種在進入加速器之前必要時對數據進行按摩的低功耗方法?！?/span>

從性能的角度來看，Maxim聲稱具有一些令人印象深刻的規格，特別是在功耗和延遲方面。

MAX78000的簡化框圖。圖片由Maxim Integrated提供

關于能源，該公司表示MAX78000提供：

• 運行MNIST時的能耗降低1100倍

• MNIST的延遲提高了400倍

• 與低功耗Cortex M4F相比，關鍵字發現期間的能耗低600倍

• 與96 MHz Cortex M4F相比，關鍵字發現的效率提高了200倍

讓我們深入研究如何準確地達到這些規格。

MAX78000的核心：神經網絡加速器

此SoC中最獨特的功能是神經網絡加速器，它是專用硬件，旨在最大程度地減少卷積神經網絡（CNN）的能耗和等待時間。

根據Ardis的說法，所采用的體系結構是完全專有和新穎的。它的設計目標是最大程度地減少數據移動，眾所周知，這是對片上能量的巨大負擔，尤其是在處理CNN鏈中的復雜數學配置時。

此外，該加速器（支持TensorFlow和Pytorch等機器學習領域中的常用工具）旨在提高數學并行度，優化能源消耗并顯著減少推理時間。

重要功能塊概述。圖片由Maxim Integrated提供

系統操作的另一個特征是微控制器的介入最少。一般而言，此架構中的MCU用于配置網絡，加載數據并啟動它。MCU完成其最初的工作后，它基本上就擺脫了阻礙。事實證明，這對于提高能源效率也極為重要。

該設備還可以在執行之前加載數據，從而消除了在推理過程中訪問內存的需求，從而降低了能耗并改善了延遲。Ardis說：“不需要外部存儲器，這實際上是我們節省能源的方法之一。所有存儲器都在芯片上?！?/span>

物聯網的游戲規則改變者？

隨著對低功耗，高性能AI芯片的需求不斷增加，這一消息在IoT領域似乎極為重要。

新的NN加速器的描述。圖片由Maxim Integrated提供

根據Maxim Integrated的說法，該設備可能為系統提供了在邊緣執行實時決策的能力（比基于云的計算更快），并且無需擔心安全性。

通過將AI帶到邊緣設備，該設備可以啟用新的應用程序，例如毫秒之內的面部ID或數據處理助聽器。這樣，MAX78000可能是“切斷嵌入式設備電源線”的重要一步。

Ardis表示希望MAX78000能夠朝著“嵌入式革命”的道路邁進，類似于嵌入式旋轉微控制器的類型。他說：“在使用微控制器之前，沒有人考慮過微控制器的所有功能?，F在，我至少要戴兩個?！?/span>

“這就是我們認為邊緣技術的AI將會變成的東西，希望我們將成為引領潮流的人之一?！?/span>