當(dāng)出現(xiàn)新的行業(yè)流行語(yǔ)或短語(yǔ)時(shí)，像我們這樣寫(xiě)這個(gè)話(huà)題的人們所面臨的挑戰(zhàn)是弄清楚一家公司的確切含義，尤其是當(dāng)該公司使用該短語(yǔ)滿(mǎn)足其自身的營(yíng)銷(xiāo)目標(biāo)時(shí)。最新的一種是邊緣人工智能或邊緣AI。

由于物聯(lián)網(wǎng)（IoT）的激增以及能夠添加相當(dāng)數(shù)量的計(jì)算能力或處理能力以在這些設(shè)備中實(shí)現(xiàn)智能的能力，因此“邊緣”可能相當(dāng)寬泛，并且可能意味著“網(wǎng)關(guān)”到“端點(diǎn)”。因此，我們決定確定業(yè)界在邊緣與端點(diǎn)的定義上是否達(dá)成共識(shí)，誰(shuí)愿意添加邊緣AI，以及可以為邊緣添加多少“智能”。

首先，邊緣和端點(diǎn)之間有什么區(qū)別？好吧，這取決于您的觀點(diǎn)-云中沒(méi)有的任何事物都可以定義為邊緣。

定義：邊緣可以是很多東西，端點(diǎn)實(shí)際上是端點(diǎn)

最清晰的定義可能來(lái)自英飛凌技術(shù)公司概念和系統(tǒng)工程的高級(jí)負(fù)責(zé)人沃爾夫?qū)じ惶丶{（Wolfgang Furtner）。他說(shuō)：““邊緣AI”一詞從“邊緣”本身繼承了模糊性。有些人將汽車(chē)稱(chēng)為邊緣設(shè)備，而其他人則將該術(shù)語(yǔ)用于具有低功率無(wú)線(xiàn)連接的小型能量收集傳感器。邊緣以相對(duì)方式使用，并且將局部性與中心性區(qū)分開(kāi)。但是確實(shí)，有必要區(qū)分您在邊緣發(fā)現(xiàn)的各種事物。有時(shí)您會(huì)聽(tīng)到諸如使用“邊緣”或“葉節(jié)點(diǎn)”之類(lèi)的術(shù)語(yǔ)。Edge AI可以包括很多東西，包括汽車(chē)中的計(jì)算服務(wù)器。”

但是他說(shuō)的關(guān)鍵是，“端點(diǎn)AI駐留在網(wǎng)絡(luò)的虛擬世界與現(xiàn)實(shí)世界相撞的位置，傳感器和執(zhí)行器都在附近。”

恩智浦半導(dǎo)體公司機(jī)器學(xué)習(xí)技術(shù)總監(jiān)Markus Levy說(shuō)，這全都與語(yǔ)義有關(guān)，在哪里劃定了界限。邊緣機(jī)器學(xué)習(xí)（ML）與“端點(diǎn)”機(jī)器相同，除了邊緣機(jī)器學(xué)習(xí)還可以包括發(fā)生在網(wǎng)關(guān)甚至是霧計(jì)算環(huán)境中的機(jī)器學(xué)習(xí)。端點(diǎn)ML通常與分布式系統(tǒng)有關(guān)，例如，我們的客戶(hù)甚至在傳感器級(jí)別上都在增加智能。另一個(gè)例子是家庭自動(dòng)化系統(tǒng)，其中有“衛(wèi)星”設(shè)備（例如恒溫器，門(mén)鈴攝像頭，安全攝像頭或其他類(lèi)型的連接設(shè)備），盡管它們可以獨(dú)立執(zhí)行機(jī)器學(xué)習(xí)功能，但它們也可能會(huì)饋入進(jìn)行更高級(jí)ML處理的網(wǎng)關(guān)。”

從Arm的角度來(lái)看，其基礎(chǔ)設(shè)施業(yè)務(wù)總經(jīng)理兼副總裁Chris Bergey的說(shuō)法略有不同，他評(píng)論了邊緣服務(wù)器和端點(diǎn)中智能水平的提高。他說(shuō)：“諸如網(wǎng)橋和交換機(jī)之類(lèi)的基本設(shè)備已被功能強(qiáng)大的邊緣服務(wù)器所取代，這些邊緣服務(wù)器將數(shù)據(jù)中心級(jí)的硬件添加到端點(diǎn)和云之間的網(wǎng)關(guān)中。那些進(jìn)入5G基站的功能強(qiáng)大的新型邊緣服務(wù)器足夠強(qiáng)大，可以執(zhí)行復(fù)雜的AI處理-不僅包括ML推理，而且還包括培訓(xùn)。”

這與端點(diǎn)AI有何不同？Bergey評(píng)論說(shuō)：“由于其強(qiáng)大的內(nèi)部硬件，智能手機(jī)長(zhǎng)期以來(lái)一直是端點(diǎn)AI的沃土測(cè)試平臺(tái)。隨著物聯(lián)網(wǎng)與AI的進(jìn)步和5G的推出相交，更多的設(shè)備上智能意味著更小的，對(duì)成本敏感的設(shè)備可以變得更智能，功能更強(qiáng)大，同時(shí)由于對(duì)云或互聯(lián)網(wǎng)的依賴(lài)程度降低而受益于更大的隱私和可靠性。隨著向端點(diǎn)提供更多智能的這種發(fā)展持續(xù)不斷，確切地發(fā)生智能的地方的邊界也將開(kāi)始從端點(diǎn)到邊緣融合在一起，從而強(qiáng)調(diào)了對(duì)異構(gòu)計(jì)算基礎(chǔ)架構(gòu)的需求。”

對(duì)于其他人來(lái)說(shuō)，優(yōu)勢(shì)就是云中沒(méi)有的一切。例如，Edge AI and Vision Alliance的創(chuàng)始人Jeff Bier說(shuō)：“我們將Edge AI定義為在數(shù)據(jù)中心外部全部或部分實(shí)現(xiàn)的任何AI。情報(bào)可能就在傳感器旁邊，例如在智能相機(jī)中，或者在更遠(yuǎn)的地方（例如雜貨店的設(shè)備間），甚至在更遠(yuǎn)的地方（例如在蜂窩基站中）。或這些的某種組合或變化。”

Xilinx采取了類(lèi)似的立場(chǎng)。該公司負(fù)責(zé)AI，軟件和生態(tài)系統(tǒng)的產(chǎn)品營(yíng)銷(xiāo)總監(jiān)Nick Ni表示：“ Edge AI基本上是一種自給自足的智能，可在現(xiàn)場(chǎng)部署，而無(wú)需依賴(lài)數(shù)據(jù)中心。對(duì)于需要實(shí)時(shí)響應(yīng)，安全性（例如，不向數(shù)據(jù)中心發(fā)送機(jī)密數(shù)據(jù)）和低功耗（這是大多數(shù)設(shè)備）的應(yīng)用程序而言，這是至關(guān)重要的。就像人類(lèi)不再依賴(lài)數(shù)據(jù)中心每天做出無(wú)數(shù)的決定一樣，在未來(lái)幾年中，邊緣人工智能將在半自動(dòng)汽車(chē)和智能零售系統(tǒng)等應(yīng)用程序中占據(jù)市場(chǎng)主導(dǎo)地位。”

Imagination Technologies的人工智能高級(jí)總監(jiān)Andrew Grant重申了這一點(diǎn)。“就我們而言，這都是邊緣。客戶(hù)決定它的去向。我們將看到非常多的混合方法，在這種情況下，云和數(shù)據(jù)中心也絕對(duì)有作用。”他補(bǔ)充說(shuō)：“市場(chǎng)[走向邊緣]的速度驚人。邊緣已經(jīng)出現(xiàn)了一波運(yùn)動(dòng)，但是對(duì)于許多應(yīng)用來(lái)說(shuō)，硅的實(shí)現(xiàn)需要時(shí)間。Grant解釋說(shuō)：“我們正在與一家中國(guó)的流量管理公司進(jìn)行交流，該公司正在從云中來(lái)回移動(dòng)數(shù)據(jù)。當(dāng)我向他們解釋我們的工作時(shí)，如果交通信號(hào)燈本身可以確定汽車(chē)是否在行駛，他們便立即看到不必將數(shù)據(jù)存儲(chǔ)到云端的好處。”

嵌入式系統(tǒng)提供商Adesto Technologies的CTO Gideon Intrater表示，它們不一定區(qū)分邊緣和端點(diǎn)，因?yàn)樵摴咎峁┯糜贗oT邊緣服務(wù)器的設(shè)備以及IoT邊緣設(shè)備。“雖然我們不傾向于在自己的通信中使用'端點(diǎn)'一詞，但也許'端點(diǎn)'在定義上與邊緣設(shè)備保持一致。這些設(shè)備中的AI通常是某種程度的本地推斷，通過(guò)專(zhuān)用的加速器，通過(guò)近內(nèi)存處理或內(nèi)存計(jì)算，算法可以作為程序在處理器上運(yùn)行。”

他補(bǔ)充說(shuō)：“幾乎所有應(yīng)用程序中的邊緣AI都已成為現(xiàn)實(shí)。我們看到了工業(yè)和建筑實(shí)施中的巨大機(jī)會(huì)，其中AI可以通過(guò)預(yù)測(cè)性和預(yù)防性維護(hù)，制造中的質(zhì)量控制以及許多其他領(lǐng)域來(lái)提供收益。該行業(yè)才剛剛起步，并且每天過(guò)去，我們都希望AI為我們做更多的事情。當(dāng)我們的沒(méi)有AI的舊設(shè)備無(wú)法直觀地了解我們的需求時(shí)，我們常常會(huì)感到沮喪，因?yàn)槲覀冞€有其他可以提供直觀功能的設(shè)備。最終用戶(hù)不知道如何使AI解決方案有效。他們只是期望它能工作。”

現(xiàn)在是技術(shù)采用周期的早期-那么誰(shuí)會(huì)想要呢？
因此，我們?cè)诙x上很清楚：要么坐在營(yíng)地中說(shuō)邊緣就是所有不在云中的事物，要么與其他人清楚地將端點(diǎn)標(biāo)識(shí)為物理世界與數(shù)字世界的交匯點(diǎn)，主要是傳感器。但是特定的應(yīng)用程序?qū)⒋_定可能需要添加智能的點(diǎn)，邊緣和端點(diǎn)之間的界限越來(lái)越模糊，并且計(jì)算基礎(chǔ)設(shè)施有些不同。

下一個(gè)問(wèn)題是誰(shuí)會(huì)想要它，對(duì)邊緣AI的市場(chǎng)期望是什么？恩智浦的Levy解釋說(shuō)：“這是我們所有人仍要解決的問(wèn)題。”“行業(yè)領(lǐng)導(dǎo)者積極參與實(shí)施；我不能說(shuō)出名字，但是我們有大量的客戶(hù)在邊緣進(jìn)行各種機(jī)器學(xué)習(xí)。但是，如果您看一下“技術(shù)采用周期”，我仍然相信該行業(yè)的大多數(shù)甚至還沒(méi)有處于“早期采用者階段”，而這實(shí)際上將在2020年中后期開(kāi)始顯現(xiàn)。

“客戶(hù)仍在理解機(jī)器學(xué)習(xí)可能帶來(lái)的很棒的事情。但我通常會(huì)提供一些指導(dǎo)：1）可以省錢(qián)嗎？例如，通過(guò)使工廠裝配線(xiàn)的運(yùn)行速度更快或更有效，例如替換以前進(jìn)行目視檢查的員工人數(shù)；2）它可以賺錢(qián)嗎？例如，通過(guò)向產(chǎn)品添加一個(gè)很酷的功能使其更有用。也許這是條形碼掃描儀，通過(guò)使用機(jī)器學(xué)習(xí)，它可以消除包裝中以前無(wú)法精確掃描的皺紋。”

英飛凌的Furtner表示，這實(shí)際上是一個(gè)問(wèn)題，即“邊緣AI的好處是什么？”他說(shuō)：“實(shí)際上，關(guān)于邊緣的好處是，我們可以將其在約束方面的“弱點(diǎn)”轉(zhuǎn)變?yōu)閮?yōu)勢(shì)。人們確實(shí)關(guān)心諸如易用性，功能，隱私，安全性，成本，氣候或資源的可持續(xù)利用之類(lèi)的事情。這些都是我們使用Edge AI可以實(shí)現(xiàn)的所有好處。我們堅(jiān)信，在正確的地方使用AI可以改善我們的生活，并且端點(diǎn)中有很多AI的用例。Edge AI用于預(yù)測(cè)性維護(hù)和進(jìn)一步的自動(dòng)化或機(jī)器人技術(shù)，家庭自動(dòng)化或智能農(nóng)業(yè)，僅舉幾個(gè)例子。通過(guò)我們?cè)诘凸模С諥I的傳感器上的工作，我們使直觀的傳感變得更加普遍，從而刺激了家庭或城市中的新應(yīng)用，使生活更輕松，更安全，更綠色。

他還說(shuō)，edge-AI提供了一種以更節(jié)省資源的方式，從而以可持續(xù)的方式從物聯(lián)網(wǎng)數(shù)據(jù)的爆炸式增長(zhǎng)中獲取價(jià)值的能力，這在氣候變化時(shí)期至關(guān)重要。

Jeff Bier表示，應(yīng)用程序需求將在五個(gè)關(guān)鍵領(lǐng)域推動(dòng)對(duì)邊緣AI的需求：

• 帶寬：即使使用5G，也可能沒(méi)有足夠的帶寬將所有原始數(shù)據(jù)發(fā)送到云端。

• 延遲：許多應(yīng)用程序需要比從云中獲得更快的響應(yīng)時(shí)間。

• 經(jīng)濟(jì)性：即使給定的應(yīng)用程序可以在帶寬和延遲方面從技術(shù)上使用云，在邊緣執(zhí)行AI可能更經(jīng)濟(jì)。

• 可靠性：即使給定的應(yīng)用程序在帶寬和延遲方面可以在技術(shù)上使用云，但與云的網(wǎng)絡(luò)連接并不總是可靠的，并且無(wú)論是否具有此連接，應(yīng)用程序都可能需要運(yùn)行。在這種情況下，需要邊緣AI。一個(gè)例子是面部識(shí)別門(mén)鎖。如果網(wǎng)絡(luò)連接斷開(kāi)，您仍然希望您的門(mén)鎖能夠正常工作。

• 隱私：即使給定的應(yīng)用程序可以在帶寬，延遲，可靠性和經(jīng)濟(jì)性方面在技術(shù)上使用云，也可能有許多應(yīng)用程序出于隱私原因需要本地處理。一個(gè)例子是嬰兒監(jiān)視器或臥室監(jiān)控?cái)z像頭。

邊緣應(yīng)該有多聰明？這取決于內(nèi)存容量
這似乎是一個(gè)顯而易見(jiàn)的問(wèn)題，但現(xiàn)實(shí)是您需要?jiǎng)?wù)實(shí)，每個(gè)應(yīng)用程序都不同。

Levy說(shuō)：“智能通常不是限制因素，限制是存儲(chǔ)容量。”“實(shí)際上，內(nèi)存限制了可以部署的機(jī)器學(xué)習(xí)模型的大小，尤其是在MCU域中。為了更深入一點(diǎn)，例如基于視覺(jué)的應(yīng)用程序的機(jī)器學(xué)習(xí)模型將需要更多的處理能力和更多的內(nèi)存。同樣，當(dāng)需要實(shí)時(shí)響應(yīng)時(shí)，處理能力更是一個(gè)因素。”

“我舉一個(gè)例子，就是一個(gè)帶有內(nèi)置攝像頭的微波爐來(lái)確定放入哪種食物-1或2秒的響應(yīng)時(shí)間就足夠了，從而可以使用NXP i.MX RT1050之類(lèi)的東西。內(nèi)存量將決定模型的大小，進(jìn)而決定機(jī)器可以識(shí)別的食物類(lèi)別的數(shù)量。但是，如果插入了無(wú)法識(shí)別的食物該怎么辦？現(xiàn)在轉(zhuǎn)到網(wǎng)關(guān)或云計(jì)算出它是什么，然后使用該信息來(lái)允許智能邊緣設(shè)備重新訓(xùn)練。為了直接回答有關(guān)要包含多少“智能”的問(wèn)題，所有這些都?xì)w結(jié)為性能，準(zhǔn)確性，成本和能耗之間的權(quán)衡。除此之外，我們還在開(kāi)發(fā)一個(gè)將自動(dòng)編碼器用于另一種形式的ML（異常檢測(cè)）的應(yīng)用程序。簡(jiǎn)而言之，

Furtner回應(yīng)了務(wù)實(shí)的態(tài)度。“ Edge AI在能耗，空間和成本方面受到嚴(yán)重限制。在這種情況下，問(wèn)題不是“我們應(yīng)該在邊緣上放多少智能”，而是“我們?cè)谶吘壣夏苜I(mǎi)多少智能？”接下來(lái)的問(wèn)題將是“哪些已知的AI技術(shù)可以以足夠“微小”的方式應(yīng)用于邊緣而被精簡(jiǎn)？因此，功耗肯定會(huì)限制端點(diǎn)智能的數(shù)量。這些端點(diǎn)通常由小型電池供電，甚至取決于能量收集。數(shù)據(jù)傳輸也消耗大量能量。”

他補(bǔ)充說(shuō)：“讓我們來(lái)一個(gè)智能傳感器。為了使本地AI在這些情況下正常運(yùn)行，必須針對(duì)其特定的屬性和行為進(jìn)行優(yōu)化。此外，只有通過(guò)嵌入式AI才有可能實(shí)現(xiàn)某些新傳感器。例如用于液體和氣體的環(huán)境傳感器。端點(diǎn)AI有很多原因。智能數(shù)據(jù)的使用和減少或快速的實(shí)時(shí)本地反應(yīng)是顯而易見(jiàn)的。數(shù)據(jù)隱私和安全性是其他。可以在生成原始數(shù)據(jù)的地方處理大量傳感器原始數(shù)據(jù)，而大量的計(jì)算任務(wù)仍保留在云中。最低功耗神經(jīng)計(jì)算的最新進(jìn)展（例如，邊緣TPU，神經(jīng)形態(tài)技術(shù)）使邊界變得偏向邊緣和端點(diǎn)節(jié)點(diǎn)。”

Imagination Technologies的Grant表示：“在我們看來(lái)，將盡可能多的智能置于邊緣是很明顯的，然后可以在設(shè)備的使用壽命內(nèi)使用軟件優(yōu)化。”他將其比作游戲機(jī)行業(yè)，在該行業(yè)中，供應(yīng)商發(fā)布了一個(gè)新的游戲機(jī)，但隨后在整個(gè)硬件壽命內(nèi)對(duì)其進(jìn)行了軟件更新進(jìn)行了優(yōu)化。他補(bǔ)充說(shuō)，從成本或尺寸的角度來(lái)看，將神經(jīng)網(wǎng)絡(luò)加速器添加到片上系統(tǒng)（SoC）并不重要。“因此，加速邊緣的機(jī)會(huì)確實(shí)是巨大的。”

Arm的Bergey說(shuō)：“隨著異構(gòu)計(jì)算在整個(gè)基礎(chǔ)架構(gòu)中無(wú)處不在，至關(guān)重要的是，我們能夠確定對(duì)數(shù)據(jù)進(jìn)行處理最有意義的地方，并且這會(huì)因應(yīng)用程序而異，甚至可能會(huì)根據(jù)一天中的時(shí)間而變化。市場(chǎng)需要能夠?qū)⒉煌巧平唤oAI的不同層的解決方案，以便獲得那種推動(dòng)真正業(yè)務(wù)轉(zhuǎn)型的整體見(jiàn)解。在邊緣，人工智能將扮演雙重角色。在網(wǎng)絡(luò)級(jí)別，它可以用于分析數(shù)據(jù)流以進(jìn)行網(wǎng)絡(luò)預(yù)測(cè)和網(wǎng)絡(luò)功能管理-將數(shù)據(jù)智能地分發(fā)到當(dāng)時(shí)最有意義的位置，無(wú)論是在云還是其他地方。”

Adesto的Intrater補(bǔ)充說(shuō)：“在邊緣放置多少“智能”的決定取決于特定的應(yīng)用程序，以及它可以處理多少延遲（對(duì)于實(shí)時(shí)任務(wù)關(guān)鍵型應(yīng)用程序而言不多），功率范圍是多少。 （對(duì)于電池供電的設(shè)備來(lái)說(shuō)很小），安全性和隱私問(wèn)題，以及是否有互聯(lián)網(wǎng)連接。即使有Internet連接，由于帶寬消耗，您也不想將所有內(nèi)容都發(fā)送到云中進(jìn)行分析。跨邊緣和云計(jì)算的明智之舉在于平衡所有這些問(wèn)題。”

他繼續(xù)說(shuō)：“您還可以在本地邊緣服務(wù)器上進(jìn)行AI，當(dāng)然培訓(xùn)和分析通常在云中完成。通常，這并不是一個(gè)簡(jiǎn)單的決定AI發(fā)生位置的決定–“智能”通常是分布式的，其中一些發(fā)生在云中，而某些發(fā)生在邊緣設(shè)備中。典型的AI系統(tǒng)在本地完成AI和遠(yuǎn)程完成AI之間有這樣的分歧。Alexa / Siri是一個(gè)很好的例子，其中設(shè)備中存在用于語(yǔ)音/關(guān)鍵字識(shí)別的算法，然后從那里進(jìn)行的交互在云中進(jìn)行。”

有哪些支持技術(shù)？
“邊緣AI有許多關(guān)鍵的使能技術(shù)。Edge AI和視覺(jué)聯(lián)盟的Bier說(shuō)：“也許最明顯的是高性能，高能效，廉價(jià)的處理器，它們善于運(yùn)行AI算法。”“但是還有很多其他的。其中最重要的一些是（1）軟件工具，用于有效使用這些處理器，以及（2）云平臺(tái)，以聚合來(lái)自邊緣設(shè)備的元數(shù)據(jù)，并管理邊緣設(shè)備的配置和維護(hù)。”

如您所料，我們與之交談的大多數(shù)公司都為邊緣AI提供了一系列設(shè)備和IP。英飛凌表示，它將為物聯(lián)網(wǎng)提供傳感器，執(zhí)行器，包括NN（神經(jīng)網(wǎng)絡(luò)）加速器在內(nèi)的微控制器以及硬件安全模塊。“電源效率，安全性和安全性是我們關(guān)鍵能力的一部分。通過(guò)我們的產(chǎn)品組合，我們幫助將真實(shí)世界與數(shù)字世界聯(lián)系起來(lái)，為邊緣提供安全，強(qiáng)大和節(jié)能的AI解決方案。” Wolfgang Furtner說(shuō)。

Xilinx的Nick Ni表示，將AI邊緣產(chǎn)品推向市場(chǎng)并非易事，因?yàn)?a target="_blank">工程師需要將機(jī)器學(xué)習(xí)技術(shù)與傳感器融合，計(jì)算機(jī)視覺(jué)和信號(hào)轉(zhuǎn)換等傳統(tǒng)算法融合在一起。“優(yōu)化所有工作負(fù)載以滿(mǎn)足端到端響應(yīng)能力，需要自適應(yīng)的域特定體系結(jié)構(gòu)（DSA），該體系結(jié)構(gòu)允許在硬件和軟件中進(jìn)行編程。Xilinx SoC，FPGA和ACAP提供了這樣的適應(yīng)性平臺(tái)，可以在滿(mǎn)足端到端產(chǎn)品要求的同時(shí)進(jìn)行持續(xù)創(chuàng)新。”

恩智浦表示，其支持技術(shù)包括硬件和軟件。Levy說(shuō)：“有些客戶(hù)使用我們的低端Kinetis或LPC MCU來(lái)實(shí)現(xiàn)某些智能功能。在我們的i.MX RT交叉處理器級(jí)別上，它的確開(kāi)始變得越來(lái)越有趣，我們?yōu)榧傻腗CU提供了Cortex M7，其工作頻率為600-1000MHz。我們的新型RT600包括M33和HiFi4 DSP，通過(guò)使用DSP在異構(gòu)模式下運(yùn)行以加速神經(jīng)網(wǎng)絡(luò)的各個(gè)組件，我們實(shí)現(xiàn)了中等性能的機(jī)器學(xué)習(xí)。最新的i.MX 8M Plus將4個(gè)A53與一個(gè)專(zhuān)用的神經(jīng)處理單元（NPU）相結(jié)合，可提供2.25 TOPS和2個(gè)數(shù)量級(jí)的推理性能（運(yùn)行功率低于3W）。高端NPU對(duì)于實(shí)時(shí)語(yǔ)音識(shí)別（即NLP），手勢(shì)識(shí)別，

從軟件角度來(lái)看，Levy表示，恩智浦提供了其eIQ機(jī)器學(xué)習(xí)軟件開(kāi)發(fā)環(huán)境，以支持從i.MX RT到i.MX 8應(yīng)用處理器等的整個(gè)恩智浦產(chǎn)品組合中的開(kāi)源ML技術(shù)。“借助eIQ，我們?yōu)榭蛻?hù)提供了在自己選擇的計(jì)算單元上部署ML的選項(xiàng)，包括CPU，GPU，DSP或NPU。您甚至還會(huì)看到運(yùn)行語(yǔ)音應(yīng)用程序（例如，DSP上的關(guān)鍵字檢測(cè)，GPU或CPU上的人臉識(shí)別，NPU上的高性能視頻應(yīng)用程序）的語(yǔ)音應(yīng)用程序的異構(gòu)實(shí)現(xiàn)，或其任意組合。”

Arm的Bergey說(shuō)：“隨著我們邁向一萬(wàn)億個(gè)IoT設(shè)備的世界，我們面臨著前所未有的基礎(chǔ)設(shè)施和架構(gòu)挑戰(zhàn)–因此，我們?yōu)閼?yīng)對(duì)這一巨大機(jī)遇而需要的技術(shù)也在不斷發(fā)展。在Arm，我們的重點(diǎn)是提供高度可配置，可擴(kuò)展的解決方案，以滿(mǎn)足性能和功耗要求，以實(shí)現(xiàn)無(wú)處不在的AI。”

對(duì)于邊緣的AI，Adesto提供了使能技術(shù)，包括具有AI加速器的ASIC，用于將權(quán)重存儲(chǔ)在用于語(yǔ)音和圖像識(shí)別的AI芯片中的NOR閃存以及將舊數(shù)據(jù)和新數(shù)據(jù)連接到云分析的智能邊緣服務(wù)器，例如IBM Watson。和Microsoft Azure。

Intrater補(bǔ)充說(shuō)：“我們還在通過(guò)RRAM技術(shù)探索內(nèi)存中AI計(jì)算，其中單個(gè)存儲(chǔ)單元既充當(dāng)存儲(chǔ)元素，又充當(dāng)計(jì)算資源。在這種范例中，深層神經(jīng)網(wǎng)絡(luò)（DNN）的矩陣成為NVM細(xì)胞的陣列，矩陣的權(quán)重成為NVM細(xì)胞的電導(dǎo)。點(diǎn)積運(yùn)算是通過(guò)對(duì)將輸入電壓施加到RRAM單元上而產(chǎn)生的電流求和來(lái)完成的。由于無(wú)需在計(jì)算資源和內(nèi)存之間移動(dòng)權(quán)重，因此該模型可以實(shí)現(xiàn)電源效率和可伸縮性的無(wú)與倫比的組合。”

我們的觀點(diǎn)
對(duì)我來(lái)說(shuō)，邊緣AI和端點(diǎn)AI之間有非常明顯的區(qū)別。端點(diǎn)是物理世界與數(shù)字世界交互的點(diǎn)。但是定義邊的方式非常有彈性。供應(yīng)商的不同之處在于，將數(shù)據(jù)中心中不存在的所有內(nèi)容都說(shuō)成是邊緣（包括網(wǎng)關(guān)，網(wǎng)絡(luò)邊緣，汽車(chē)），還是將端點(diǎn)定義為邊緣的子集的供應(yīng)商。

最終，該定義是不相關(guān)的。這取決于應(yīng)用程序，以及實(shí)際上可以在端點(diǎn)或邊緣放置多少智能。在內(nèi)存可用性，性能需求，成本和能耗之間進(jìn)行權(quán)衡。這將確定可以在邊緣進(jìn)行多少推理和分析，需要多少神經(jīng)網(wǎng)絡(luò)加速器，這是SoC的一部分，還是與CPU，GPU或DSP一起使用。這并不是要忘記使用內(nèi)存計(jì)算和AI等技術(shù)來(lái)解決挑戰(zhàn)的創(chuàng)新方法。

對(duì)此達(dá)成了廣泛共識(shí)：您投入多少智能取決于應(yīng)用程序，并且需要基于可用資源的務(wù)實(shí)方法。