當今嵌入式世界 2021 的許多演講中明確涵蓋的一個關鍵主題是廣泛采用邊緣計算來實現邊緣智能。一些預測預計，到 2025 年，90% 的邊緣設備將使用某種形式的機器學習或人工智能。

圍繞啟用這種邊緣智能有哪些問題，您如何實現它？這是 NXP Semiconductors 高級副總裁兼邊緣處理業務總經理 Ron Martino 最近在播客中的話題。雖然您可以在此處收聽完整的播客，但我們提供了本文討論的一些摘錄。

定義邊緣計算

邊緣計算的核心是更接近用戶的高效處理能力。我們可以為數據帶來更快的洞察力。 你能在恩智浦如何解決邊緣計算的背景下定義它嗎？

羅恩·馬蒂諾

Martino：邊緣計算簡單來說就是分布式本地計算和感知能力。它有效地解釋、分析和作用于傳感器數據以執行一組有意義的功能。它不會試圖成為云的替代品或替代品，它變得免費。傳統上，例如在語音輔助中，大量數據被發送到云端，在那里使用更高的計算能力來增強體驗。邊緣計算正在演變為變得更智能，然后更智能。智能邊緣計算平衡了本地計算與中央或云計算的使用。隨著這種情況的進一步發展，我們希望終端設備有更多的能力來進行解釋、分析，然后在本地做出決策，從而變得更加智能。

您能否舉例說明如何使用邊緣計算來提高生產力和安全性？

Martino：在生產力方面，一個很好的例子是增強勞動力：利用邊緣處理或支持視覺和機器學習的可穿戴設備，工人可以診斷問題并更快地修復它，無論是在家里還是在工廠。

智能邊緣設備通過識別各種危險信號來提高安全性：通過識別警報、人員跌倒或玻璃破碎，然后通過使用額外的傳感器信息和計算來確定問題。無論是使用恩智浦正在開發的雷達傳感設備，還是使用視覺功能，或者只是將音頻輸入解釋到設備中。

如果我們轉向更環保和能源意識，一個需要解決的概念是吸血鬼的力量，你插入設備，他們什么都不做，但仍然在消耗能量。

我們也正在轉向“感知邊緣”的概念，其中設備以類似人類的行為做出更多反應。他們開始了解他們的環境，他們匯總輸入并與其他設備交互以收集信息并了解情況的背景，然后做出相應的決定。一個簡單的實際示例是具有本地能力的交通模式，它可以解釋人群和不同的擁堵點，并通過觀察和感知汽車數量和條件來優化本地情況，從而提高駕駛效率，從而避免浪費時間。

支持邊緣智能的技術

從技術的角度來看，構成智能邊緣和感知邊緣的部分是什么？

馬蒂諾：讓我們從基礎開始。您需要擁有計算平臺，并且它們需要擴展。他們需要節能。與過去不同，現在它實際上是關于多個獨立的異構計算子系統。這基本上是有一個 GPU、一個 CPU、一個神經網絡處理單元、一個視頻處理單元和一個 DSP。

您如何優化這些不同的硬件加速器和計算設備并針對給定的最終應用進行優化？這就是恩智浦真正擅長于擁有可擴展的計算范圍以及所有這些其他元素的地方。然后是針對語音應用、人機交互的優化硬件加速器或功能的集成，將視覺和語音結合在一起，然后以真正涉及超低泄漏的方式進行，操作模式可以調整到真正優化能源使用，即使使用這些大型片上存儲器，當您查看某些工作負載時也是必要的。

這繼續優化機器學習能力、與許多不同攻擊面的最高覆蓋范圍的安全集成、高效連接、高效能源使用以及開放標準。它還可以利用恩智浦提供的技術，例如高精度距離測量，無論是使用我們的 UWB 技術以非常準確的方式定位給定人員或跟蹤設備的物理位置。

最后一件事是將這一切包裝在無縫的用戶體驗中，因為如果它不易于使用，并且使用起來不自然，那么它就不會被使用。因此，獲得無縫、舒適的體驗絕對至關重要。

用戶如何構建這樣的解決方案？

Martino：我們提供一切，從處理器或微控制器的基本產品，一直到針對本地語音、視覺、檢測和推理能力或這些功能的組合預先優化的參考平臺。我們將客戶可以購買的參考平臺放在一起，例如我們的 RT 系列設備。我們有一個可以購買的人臉識別產品，這是一個完全啟用和設計的系統，客戶可以將其作為修改他們想要專業化或品牌化的需求的起點。

消費者和工業用例的技術差異

大多數業內人士都會同意，我們家庭和工作中的智能設備和系統正在獲得牽引力。正如您所說，普通的舊物聯網與工業市場之間有哪些技術差異？

Martino：與 [消費者] 物聯網世界相比，工業領域的連接標準、環境要求、壽命需求（可能超過 15 年）以及安全要求更加廣泛和苛刻。恩智浦投資的一個領域是時間敏感網絡 (TSN)，并將 Mac 和交換機集成到一整套設備中，這些設備可以支持多臺機器的菊花鏈設置、工作并支持端點功能，利用這種更具確定性TSN 骨干網，它還支持許多傳統標準正在融合的更高的數據速率和吞吐量。

將此與 [消費者] 物聯網市場進行比較。對于智能家居和可穿戴設備等應用而言，對極端能源效率、更高使用語音 HMI、無線連接和更短生命周期的需求更為廣泛。在可穿戴設備方面，您需要出色的用戶體驗，但您需要最長的電池壽命。優化這些邊緣設備以執行其功能，然后關閉并保持電池壽命非常重要，并且必須以最有效的方式完成真正豐富的用戶體驗，因為那是它消耗電池的時間。

互操作性挑戰

在智能家居領域，通常很難從一家公司獲取產品并使其與其他設備一起使用。恩智浦如何嘗試改變智能家居無線互操作性挑戰？

Martino：以智能家居設備為例，標準和互操作能力非常分散。我們有一個名為 CHIP 的項目，即“基于 IP 的互聯家庭”標準項目。它讓 NXP 以及許多其他行業領導者共同努力，試圖整合，而不是專有標準，而是整個行業通用的開放標準，并允許人們在這個開放標準上進行構建。

該項目的重點是在 NXP 和其他公司圍繞 ZigBee 和 Thread 以及 ZigBee 聯盟所做的多年工作的基礎上，然后利用亞馬遜、蘋果、谷歌已經推出建立這個我們稱之為 CHIP 的開放標準，并在設備之間建立這種通用鏈接。當您插入某些東西時，連接將非常簡單。

恩智浦的計劃是在今年晚些時候在市場上推出真正的產品，其中包含 CHIP 標準的第一個版本。

解決添加邊緣智能的復雜性和成本

轉向邊緣的機器學習和人工智能。這一切聽起來相當復雜和昂貴，對吧？

Martino：對于很多人來說，當你談論 AI 和 ML 時，它是一個非常復雜的抽象概念。據預測，到 2025 年，90% 的邊緣設備將使用某種形式的機器學習或人工智能。我們堅信確實如此，并且我們正在推出針對此進行優化的產品。這是我們為優化所使用的硬件、處理器和微控制器所做的工作以運行此功能的組合。對于最終用戶而言，更多的是部署對最終用例有意義的實用 ML 的復雜程度。

有許多公司想要收集數據并創建自己的模型。恩智浦關注的是，我們如何啟用與云無關的功能，從而在簡單的用戶界面或開發環境中實現靈活性？

這就是我們最近宣布的對 Au-Zone 的投資，并將在 2021 年推出增強的開發環境，您可以在其中選擇引入的內容類型。您自己的數據、您擁有的模型或您擁有的模型已選擇通過您最喜歡的來源或云提供商獲取，并帶來，然后對其進行優化，并將其部署到終端設備上。因為這是優化。

機器學習如何增加最終解決方案的成本？

Martino：如果你有一個非常復雜、繁重的機器學習模型或能力，那將需要更高的計算能力，而計算能力越高，它的成本就越高。您可以選擇在邊緣處理器上執行此操作，也可以選擇將其部署到云中。當我們嘗試為特定用例調整這些用例或這些模型時，您可以變得非常高效，然后您可以利用傳統的技術擴展和摩爾定律真正添加特定于 ML 的硬件加速，這不會占用硅面積很大。

它會增加少量成本，但卻是執行您想要的給定工作的最佳能力。舉個例子，無論是在本地檢測人員和識別他們是誰，您現在都可以在微控制器上非常有效地做到這一點，該微控制器通過非常非常高效的硅實現進行了優化。然后，您可以使用我們的一些處理器使其可擴展，您可以在其中擴展至外部更高性能的神經網絡處理器，或者以免費的方式與云一起工作。同樣，所有這些都需要付出代價，這取決于任務的復雜性，但是對于您可以推出的非常復雜的功能來說，它可能非常有效。

道德人工智能

人們越來越擔心機器學習模型和人工智能中的偏見。行業在幫助確保道德 AI 方面的作用是什么？

Martino：它需要清晰的操作透明性，無論是簡單的概念，“我想知道它是在聽我還是在看我”，但如何確定它的結論然后采取行動變得非常重要。安全標準，以確保系統是安全的，并且在其攻擊面方面沒有后門訪問或其他敏感性或漏洞，因此有人可以訪問人工智能系統，然后影響它做某些事情或做出某些決定可能對攻擊系統的人有利。

你如何實施沒有預設偏見的人工智能系統，從原則上看，這是錯誤的？在 NXP，我們推出了一項 AI 道德倡議，強調了我們對這一道德發展的承諾。其中，我們談論做善事，我們談論維護以人為本的人工智能，這實際上是圍繞避免從屬或被人工智能系統脅迫，以及這種透明度、對科學卓越的高標準以及信任在人工智能系統中。

您認為實施邊緣技術仍存在哪些挑戰？

Martino：這是一項持續的活動，有許多領域需要繼續優化。能源效率、驅動和利用能量收集概念以及設備的接近閾值操作是許多業內人士的持續投資。安全性和保護數據的需要并繼續推進這是一項持續的活動。

投資于特定于硅的簽名和不同類型的密碼學，以及以受保護的方式執行計算的方法，例如同態加密，在加密環境中執行計算并且從不解密。然后圍繞延遲要求中吞吐量的連接性以及功耗進行擴展。為了對此進行優化，我們將繼續優化連接，并以越來越有效的方式將其引入這些邊緣設備。

最后，關于感知終端智能的整個概念，我們正處于第三代開發和實施神經網絡處理器或進入我們處理器的子系統中。這正在推動效率和擴展性的提高，但在通過加速器以及圍繞脈沖神經網絡的不同技術以及量子人工智能推動更高水平的效率方面，該領域仍在繼續進行研究。顯然，在短期內，我們將看到圍繞更多傳統加速器的持續發展，并將這些加速器集成到恩智浦推向市場的這些可擴展處理器中。

審核編輯 黃昊宇