Greenwaves 展示了其最新的人工智能芯片 GAP9。就像上一代一樣，它的目標是在網絡邊緣的系統中進行 AI 推理。

邊緣計算將越來越成為數字化轉型現象不可或缺的一部分。使用這些技術的主要好處是減少處理延遲，允許實時響應，以及節省帶寬，將已處理的信息發送到數據中心，因此，將更小的信息發送到數據中心。

與 GreenWaves Technologies 目前出貨的產品 GAP8 相比，最新的 GAP9 將能耗降低了 5 倍，同時在神經網絡上的推理能力提高了 10 倍。GAP9 建立在與 GAP8 相同的 GAP 架構布局之上。GreenWaves 的 GAP8 是業界首款超低功耗處理器，旨在以極低的成本和功耗傳輸高邊緣處理能力。它在物聯網 (IoT) 應用中啟用電池供電的人工智能 (AI)。

GreenWaves Technologies 營銷副總裁 Martin Croome 表示：“目前，人們對將 AI 處理轉移到 ADAS、安全攝像頭、機器人和手機等應用程序的邊緣產生了很大的興趣。” “我們專注于我們認為將成為下一波邊緣設備的產品，我們稱之為邊緣設備。這些設備的功率受到極大限制——例如，帶有非常小的可充電電池的可穿戴設備需要數周或數月的電池壽命，或者無法使用電源或安裝成本高昂的傳感器。如果您必須安裝電纜來為傳感器供電，這樣做的成本通常是傳感器本身成本的許多倍。然后一些傳感器可能離主電源很遠。他們可能在一個領域的中間或類似的地方，幾乎不可能給他們權力。

GAP8 是基于開源 RISC-V 和 PULP（并行超低功耗處理平臺）平臺的物聯網應用處理器。它為下一代連接設備開辟了新的可能性。GAP8 支持以具有成本效益的方式開發智能設備，這些設備可以捕獲、分析、分類和作用于圖像、聲音、雷達、紅外或振動等豐富數據源的融合。GAP8 的工作功率從活動模式下的幾十毫瓦到睡眠模式下的幾微瓦不等，因此設備可以使用電池使用數年。GAP8 經過優化，可以執行廣泛的圖像和音頻算法，包括具有極高能效的卷積神經網絡推理。

“在 GAP8 中，我們的第一款產品現已投入生產，我們使用 RISC-V 指令集架構的可擴展性來提高能源效率，”Croome 說。“GAP8 在一個集群中有八個 RISC-V 內核，然后是一個額外的第九個 RISC-V 內核，我們將其用作控制器，有點像芯片的 MCU。信號處理和機器學習算法是集群中并行化的良好目標。如果您在八個核心上并行計算，您希望盡可能接近完成工作的八倍。這個因素被稱為加速。我們專注于通過在硬件中實現所有任務分叉和同步原語以及許多其他優化來獲得非常好的加速。然后，我們使用我們實現的加速不是做更多的工作，而是在較低的時鐘速度下做同樣數量的工作。反過來，這使我們能夠降低芯片內部的電壓，從而為我們帶來二次功率優勢。該芯片集成了動態頻率和電壓控制，因此我們可以通過不斷調整時鐘速度和電壓來適應我們正在執行的任務來節省能源。”

分層架構通過組合一系列高度自主的智能 I/O 外設來連接外部設備，從而實現非常低的功耗操作。一個由八個內核組成的集群，其架構經過優化以執行向量和并行算法，并結合了專門的卷積神經網絡加速器 (HWCE)。所有內核和外圍設備都可以根據需要切換功率、電壓和頻率。集成了具有超快重新配置時間的 DC/DC 穩壓器和時鐘發生器，以優化電源管理。集群和 HWCE 內核共享對內存區域和指令緩存的訪問。多個 DMA 允許在內存區域之間進行快速、低功耗、獨立的傳輸。包含一個內存保護器以允許應用程序在 GAP8 上安全運行。

新的 GAP9增加了 AES128/256 加密的安全功能，并基于能夠處理 8、IEEE 16、BFloat16 和 IEEE 32 中浮點數的創新跨精度浮點單元，全面支持所有內核的浮點運算。支持矢量化的位精度。GAP9 可處理復雜的神經網絡，例如 MobileNet V1，在 12 毫秒內輕松處理 160 × 160 圖像，通道縮放為 0.25，功耗為 806 μW/fps。與 GAP8 相比，GAP9 的有效內存帶寬增加了 20 倍，通過同時分析來自多個不同傳感器（如圖像、聲音和雷達）的數據流，顯著提高了檢測精度（圖 1）。

?

GreenWaves Technologies 首席執行官 Loic Lietar 表示：“GAP9 將復雜的機器學習和信號處理功能的組合嵌入到消費、醫療和工業產品應用中，實現了新的功能水平。” “GAP 系列為產品設計人員提供了強大、靈活的解決方案，可將下一代智能設備推向市場。

“我們不會大量使用某種非常深奧的架構方法來加速卷積神經網絡 (CNN)，因為我們相信這個市場發展如此之快。每個月都有一千篇關于神經網絡空間的新論文。我們希望確保我們能夠加速今年和明年出現的所有新事物，而不是專注于去年的最佳創意。所以我們有一個卷積硬件加速器，它在某些情況下有助于降低能耗，但一般來說，架構是可編程的。”

人臉識別吸引了大量與安全應用相關的媒體報道，它是使用基于 SqueezeNet 的 CNN 實現的。CNN 是廣泛用于計算機視覺的神經網絡家族，更一般地說，用于處理具有空間關系的數據。CNN 遵循一定層次的架構，通常是非周期性的。

可以使用被動紅外 (PIR) 技術激活人臉檢測，以在沒有人臉時進一步降低功耗。一旦檢測到，該算法會在 128 × 128 像素的圖像中發出適當調整大小的檢測圖像的坐標。該圖像是人臉識別 CNN 的輸入。CNN 的輸出是檢測到的人臉的 512 個參數（16 位大小）的簽名。

為了加快上市時間，GreenWaves Technologies 設計了 GAPuino 板來促進 GAP8 的實施。GAPuino 可用作標準 Arduino Uno 板的替代品，并可連接到大多數 Arduino Uno 兼容的 3.3-V 或 5-V 屏蔽。通過添加 Arduino 通信屏蔽（藍牙、WiFi、LoRa 等），可以在電池供電的設備上使用 AI 快速構建完整的物聯網應用原型（圖 2）。

?

有多種配件可供選擇，例如帶有 B&W 低功耗 QVGA 攝像頭的模塊和一個傳感器板，該板增加了一組鉸接式傳感器，包括用于音頻應用的四個數字麥克風。對于 GAP8 處理器，還有一個完整的 SDK，其中包括一個 RISC-V GCC/GDB 鏈工具，帶有用于附加處理器指令的擴展，用于 MCU 端的工具，具有兩個操作系統（PULP OS 和 RISC-V 上的 Mbed OS 端口/GAP8)。