公有云計算平臺使企業(yè)能夠使用全球服務(wù)器補充其私有數(shù)據(jù)中心，將基礎(chǔ)設(shè)施擴展到任何位置，并根據(jù)自身需求擴展和縮減計算資源。這些公私混合云為企業(yè)計算應(yīng)用提供了前所未有的靈活性、價值和安全性。

但在全球各地實時運行的AI應(yīng)用可能需要巨大的本地處理能力，而且往往是在遠離中央云服務(wù)器的偏遠地區(qū)。由于低時延或數(shù)據(jù)駐留要求，一些工作負載需要保留在本地或特定地點。

這就是為什么許多企業(yè)使用邊緣計算部署AI應(yīng)用，邊緣計算能夠在產(chǎn)生數(shù)據(jù)的地點處理數(shù)據(jù)，在本地邊緣設(shè)備中處理和存儲數(shù)據(jù)，而不是在遙遠的中央數(shù)據(jù)存儲庫中進行云處理。因此，此類設(shè)備無需聯(lián)網(wǎng)就能作為一個獨立的網(wǎng)絡(luò)節(jié)點運行。

云和邊緣計算有許多優(yōu)點和用例，并且可以一起使用。

什么是云計算

根據(jù)研究機構(gòu)Gartner的定義，“云計算是一種使用網(wǎng)絡(luò)技術(shù)以服務(wù)形式提供可擴展、彈性IT功能的計算方式。”

云計算有許多優(yōu)點。《哈佛商業(yè)評論》中的“云轉(zhuǎn)型狀況”報告，83%的受訪者表示，云對企業(yè)機構(gòu)的未來戰(zhàn)略和增長極其重要。

云計算必定會日益普及。企業(yè)采用云基礎(chǔ)設(shè)施并將繼續(xù)這樣做的原因包括：

更低的前期成本：省去了購買硬件、軟件、IT管理以及24小時供電和冷卻的資本支出。云計算使企業(yè)機構(gòu)能夠迅速將應(yīng)用推向市場并降低進入市場的財務(wù)門檻。

靈活的定價：企業(yè)只需為所使用的計算資源付費，因此可以更好地控制成本，減少意外情況。

無限的按需計算：云服務(wù)能夠通過自動配置和刪除資源來即時應(yīng)對和適應(yīng)不斷變化的需求，從而降低成本，提高企業(yè)機構(gòu)的整體效率。

簡化的IT管理：云供應(yīng)商為其客戶提供IT管理專家服務(wù)，使員工能夠?qū)Ｗ⒂谄髽I(yè)的核心需求。

易于更新：只需點擊一次就可以獲得最新的硬件、軟件和服務(wù)。

穩(wěn)定可靠：由于可以在云供應(yīng)商網(wǎng)絡(luò)上的多個冗余站點建立數(shù)據(jù)鏡像，因此能夠以更低的成本輕松地實現(xiàn)備份、災(zāi)難恢復(fù)和業(yè)務(wù)連續(xù)性。

節(jié)省時間：企業(yè)在配置私有服務(wù)器和網(wǎng)絡(luò)時會浪費時間。有了按需提供的云基礎(chǔ)設(shè)施，企業(yè)能夠在很短的時間內(nèi)部署應(yīng)用并更快進入市場。

什么是邊緣計算

邊緣計算將算力移動到產(chǎn)生數(shù)據(jù)的硬件附近(通常是物聯(lián)網(wǎng)設(shè)備或傳感器)，它因?qū)⑺懔σ苿拥骄W(wǎng)絡(luò)或設(shè)備邊緣而得名，能加快數(shù)據(jù)處理速度、增加帶寬并確保數(shù)據(jù)主權(quán)。

通過在網(wǎng)絡(luò)邊緣處理數(shù)據(jù)，邊緣計算減少了大量數(shù)據(jù)在服務(wù)器、云和設(shè)備或邊緣位置之間傳輸?shù)男枨蟆＿@對于數(shù)據(jù)科學(xué)和AI等現(xiàn)代化應(yīng)用尤為重要。

邊緣計算的優(yōu)點

Gartner預(yù)測：“在生產(chǎn)中部署邊緣用例的企業(yè)數(shù)量將從2019年的約5%增長至2024年的約40%。”許多高性能計算應(yīng)用已經(jīng)成為現(xiàn)代生活的支柱，例如深度學(xué)習(xí)和推理、數(shù)據(jù)處理和分析、模擬以及視頻流等。隨著企業(yè)逐漸意識到這些應(yīng)用由邊緣計算驅(qū)動，生產(chǎn)中的邊緣用例數(shù)量也將會增加。

投資于邊緣技術(shù)的企業(yè)可以獲得以下優(yōu)勢：

減少時延：邊緣數(shù)據(jù)處理避免或減少了數(shù)據(jù)的傳輸，因此可以更快洞悉具有低時延要求的復(fù)雜AI模型用例，例如全自動駕駛汽車和增強現(xiàn)實等。

降低成本：與云計算相比，使用局域網(wǎng)進行數(shù)據(jù)處理可以讓企業(yè)以更低的成本獲得更高的帶寬和存儲。此外，由于在邊緣進行處理，因此需要發(fā)送到云或數(shù)據(jù)中心進行進一步處理的數(shù)據(jù)變得更少，這減少了需要傳輸?shù)臄?shù)據(jù)量，同時也降低了成本。

模型精度：AI依賴高精度模型，尤其是對于需要實時響應(yīng)的邊緣用例。當(dāng)網(wǎng)絡(luò)帶寬過低時，一般會通過降低輸入模型的數(shù)據(jù)大小來緩解。這會導(dǎo)致圖像尺寸減少、視頻跳幀和音頻采樣率降低。當(dāng)部署在邊緣時，數(shù)據(jù)反饋回路可提高AI模型的精度，并且可以同時運行多個模型。

更廣泛的覆蓋范圍：互聯(lián)網(wǎng)接入是傳統(tǒng)云計算的必備條件。但邊緣計算可以在本地處理數(shù)據(jù)并且無需連接網(wǎng)絡(luò)，這將計算范圍擴大到了以前無法接入或遠程的位置。

數(shù)據(jù)主權(quán)：當(dāng)數(shù)據(jù)在采集地點得到處理時，企業(yè)機構(gòu)就可以通過邊緣計算將所有敏感數(shù)據(jù)和計算保留在局域網(wǎng)和公司防火墻內(nèi)。這能降低云端遭受網(wǎng)絡(luò)安全攻擊的風(fēng)險，并使企業(yè)能夠更好地遵守嚴格而不斷變化的數(shù)據(jù)法律。

云計算在邊緣AI中扮演什么角色

邊緣和云計算都可以充分使用容器化的應(yīng)用。容器是一種易于部署的軟件包，可以在任何操作系統(tǒng)上運行應(yīng)用。這些軟件包從主機操作系統(tǒng)中提取，因此它們可以在任何平臺或云端運行。

云和邊緣容器的主要區(qū)別在于位置。邊緣容器位于網(wǎng)絡(luò)的邊緣，更接近數(shù)據(jù)源，而云容器則在數(shù)據(jù)中心運行。

已實施容器化云解決方案的企業(yè)機構(gòu)可以十分輕松地將它們部署在邊緣。

企業(yè)機構(gòu)一般會使用云原生技術(shù)來管理他們的邊緣AI數(shù)據(jù)中心。這是因為邊緣AI數(shù)據(jù)中心的服務(wù)器常常分布在成千上萬個地點，而且這些地點無法既沒有物理安全保障也沒有受過培訓(xùn)的人員。因此邊緣AI服務(wù)器必須是安全、有彈性并且易于大規(guī)模管理的。

何時使用邊緣計算和云計算?

邊緣計算和云計算具有不同的特點，大多數(shù)企業(yè)機構(gòu)最終會同時使用這兩種計算。下面是您部署不同工作負載時需要考慮的一些因素。

云計算

非時延敏感型數(shù)據(jù)處理

可靠的網(wǎng)絡(luò)連接

動態(tài)工作負載

存儲在云端的數(shù)據(jù)

邊緣計算

實時數(shù)據(jù)處理

網(wǎng)絡(luò)連接受限或無網(wǎng)絡(luò)連接的遠程地點

大型數(shù)據(jù)集的成本太高，無法發(fā)送到云

高度敏感的數(shù)據(jù)和嚴格的數(shù)據(jù)法律

邊緣計算優(yōu)于云計算的應(yīng)用示例之一是醫(yī)療機器人。外科醫(yī)生需要訪問實時數(shù)據(jù)，而這些系統(tǒng)包含了大量可以在云中執(zhí)行的軟件，但手術(shù)室中日益增加的智能分析和機器人控制系統(tǒng)無法容忍時延、網(wǎng)絡(luò)可靠性問題或帶寬限制。在該應(yīng)用示例中，邊緣計算直接關(guān)乎病人的生死。

兩全其美的選擇：混合云架構(gòu)

許多企業(yè)機構(gòu)必須融合云和邊緣，他們會盡可能采取集中式管理并在必要時采取分散式管理。混合云架構(gòu)使企業(yè)能夠發(fā)揮本地系統(tǒng)的安全性和可管理性，同時充分運用服務(wù)供應(yīng)商的公有云資源。

不同的企業(yè)機構(gòu)所采用的混合云解決方案也有所不同，例如在云端訓(xùn)練+在邊緣部署、在數(shù)據(jù)中心訓(xùn)練+在邊緣使用云管理工具、在邊緣訓(xùn)練+將模型集中到云端進行聯(lián)合學(xué)習(xí)等。云與邊緣的結(jié)合可以創(chuàng)造無限的可能性。

原文標題：一文了解邊緣計算與云計算

文章出處：【微信公眾號：NVIDIA英偉達】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

審核編輯：湯梓紅