回顧2024年AI產業的發展,AI大模型依然在高歌猛進,不過將AI工作負載從云端卸載到終端的趨勢已經非常明顯,以邊緣計算為承載的邊緣AI潛力無限。根據STL Partners邊緣計算關鍵數據統計,全球邊緣計算市場規模預計將從2020年的90億美元,快速增長到2030年的4450億美元,其間年復合增長率為48%。AIGC時代的到來,加速了邊緣計算與AI的深度融合,邊緣AI的理念得到了各行業的廣泛認可。
在最新的2025年預測中,NVIDIA AI專家預測,智能商店、新型機器人將不斷崛起,并且醫療健康、制造業等領域將實現突破性發展。不斷涌現的行業經典案例顯示,邊緣AI讓終端數據體現出了更高的價值,從數據轉化為智能是當下各行業的重點工作。
NVIDIA 2025年預測解讀
NVIDIA 2025年預測的主題是《AI將深入挖掘行業數據湖》,在這份預測里,NVIDIA的AI專家談到了很多行業應用——手術機器人、AI藥廠、移動機器人(AMR)、智慧金融、AI工廠、智能電網、AI智能體、智慧零售等。這些極具創新潛能的應用表明,全球各個行業都在積極構建和定制大語言模型(LLM),AI大模型下沉至終端讓“AI+”從理念走進現實,進而促成了這些典型應用。
圖源:NVIDIA
正如NVIDIA醫療健康副總裁Kimberly Powell在談到手術機器人時所說,數字孿生、模擬和AI讓手術機器人變得更加強大,使其能夠以各種方式協助人類臨床醫生,從理解和響應人類指令,到執行和協助復雜的手術。Kimberly Powell強調,用于訓練機器人執行復雜任務的新型虛擬世界將會使自主手術機器人成為現實。這些手術機器人將能夠精確地執行復雜手術任務,縮短患者的康復時間,并減少外科醫生的認知工作量。
NVIDIA Omniverse和仿真技術副總裁Rev Lebaredian則提議,“讓我們擁抱物理AI,為能夠感知、理解物理世界并與之互動的AI模型做好準備,這是企業將要競相應對的一項挑戰?!笨赡芎芏嗳藢τ谖锢鞟I這個概念還有一些陌生,簡單理解,物理AI就是在數字世界里通過3D重構的方式模擬物理世界,可以讓算法模型更好地理解物理世界,適應物理世界的約束。物理AI需要根據真實場景完成基于物理學的大規模仿真,可以讓機器人等智能體在虛擬世界中快速完成各種訓練,訓練的成本和效率都得到了顯著優化。
其他NVIDIA AI專家的預測就不在此一一展開,但這些預測實際上更多是應用領域的差異,在實現邏輯上有很大的共性,基本是圍繞智能體、AI大模型下沉、虛擬現實、物理AI、物理仿真等理念展開,完成細分領域的“AI+”。所實現的成果就是,基于細分領域的數據構建AI模型或仿真,然后用模型和仿真結果賦能終端實現更好的智能化。
因而,透過NVIDIA AI專家的預測不難看出,從數據轉化為具體的AI應用將為終端行業帶來巨大的價值空間。數據價值挖掘是一種通過數據分析、機器學習、統計方法等技術手段,從大量數據中提取有用信息和知識的過程。隨著AI大模型、物理AI和智能體等概念的強化,數據挖掘和轉化的目標變得更加清晰,數據的增長也不再局限于云端或數據中心里,終端設備成為源源不斷的數據源。然后基于數據的算法、模型和智能體將具備更強大的智能化能力,能夠以更快的速度、更低的成本和更低的功耗提供實時分析和反饋。這種相互促進讓終端應用得以快速迭代,不僅高效、低功耗、安全,并具有很強的垂直屬性,包括個性化定制的屬性。
綜上所述,邊緣AI在2025年將發生一些顯著的變化,不再只是簡單地基于通用算法和基礎算力,而是基于行業數據打造專屬的大模型和智能體,能夠根據實時的數據采集給出及時的反饋和策略調整,已經具備具身智能的雛形。這種趨勢將受到各個終端行業的歡迎,正如分析機構Gartner在報告中提到的,到2025年將有75%的數據產生在數據中心和云之外,并在邊緣側進行處理;到2026年,86%的邊緣開發者在項目開發時會將目標鎖定在AI方向。
邊緣AI部署的現狀、挑戰和應對之策
NVIDIA AI專家的預測告訴我們,2025年邊緣AI是大有可為的,且對創新有非常大的包容性。當然,現階段各行業所面臨的市場情況并不一致,且有明顯的地域差異。簡單看一下AI在一些典型領域的普及情況:
·自動駕駛:乘聯會數據顯示,2023年中國市場乘用車L2級自動駕駛的滲透率達到了47.3%,明顯領先于全球(高盛數據稱約為20%);
·智能機器人:I-AIIG的數據指出,美國機器人市場中AI驅動的高端機器人系統占比為30%,遠高于全球平均水平。
·人形機器人:Omdia最新報告指出,2027年全球人形機器人銷量破萬,當前處于行業爆發的前夜。
隨著各行業對于邊緣AI的認可度越來越高,參與度越來越深,邊緣AI的部署開始出現既定的方案,比如NVIDIA全球副總裁、汽車事業部負責人吳新宙在分享自動駕駛預測時談到的,支撐自動駕駛車輛開發有三臺關鍵計算機——一臺用于在數據中心訓練基于AI的堆棧,另一臺用于模擬和驗證,第三臺車載計算機用于處理實時傳感器數據以實現安全駕駛。
更前沿的人形機器人也是如此,目前人形機器人主要由感知系統、動力系統、控制系統、能源系統和通信模塊等幾個關鍵部分組成,其中感知系統和控制系統主要的職責就是實現智能化??刂葡到y是人形機器人的大腦,包含了主控芯片、子系統控制器和各種控制組件,主控芯片上運轉著最核心的算法模型。
雖然經過一段時間的發展,邊緣AI的部署不再是摸著石頭過河,但仍有一些挑戰需要去克服。邊緣AI系統主要包括硅芯片層、硬件系統層、AI和應用層、垂直解決方案層。相較于云端AI,邊緣AI在能效、實時性和數據安全方面展現出明顯優勢,然而,部署邊緣AI方案的硬件資源是非常有限的,包括計算資源、存儲資源和網絡帶寬資源皆是如此,如何基于有限的硬件資源構建強大的智能應用是所有行業共同研究的課題。為構建更好的邊緣AI,開發者需要更強大的計算芯片,也需要通過量化技術、權重剪枝、低秩分解等技術盡可能去壓縮AI模型,全面推動軟硬件協同優化。
另外,在軟硬件協同優化方面還會有一些額外的挑戰,比如軟硬件協同優化往往是基于訓練數據,而忽視了最終的部署場景,上述內容已經提到,現階段的邊緣AI并不是簡單的部署通用算法,而是需要模型根據實時數據進行反饋和臨時決策,這就導致很多優化之后的方案在現場部署時還需要進行重新優化,有時候方案可能需要回溯到設計之初的階段,這對開發者而言是很大的打擊。
為了幫助各行業應對新時期邊緣AI的部署挑戰,讓NVIDIA AI專家的預測更好地從理念照進現實,NVIDIA提供了豐富的解決方案。NVIDIA Blackwell架構和基于該架構的計算平臺也為邊緣AI提供了充足的算力保障,克服邊緣AI的“算力不足恐懼癥”,為生成式AI和加速計算帶來突破性的進步。
Blackwell架構的技術突破,圖源:NVIDIA
NVIDIA為各行業的邊緣AI開發提供了豐富的開發資源、服務。面向智能機器人,基于NVIDIA Omniverse構建的Isaac Sim是一款參考應用,允許開發者在基于物理的虛擬環境中設計、模擬、測試和訓練基于AI的機器人和自主機器,在此過程中開發者可以選擇自定義模擬器,也可以選擇基于Isaac Sim現有技術構建方案。
NVIDIA Isaac Sim應用框圖,圖源:NVIDIA
面向物理AI,NVIDIA Omniverse平臺提供了各種API、SDK和服務,可幫助開發者輕松將通用場景描述 (OpenUSD) 和RTX渲染技術集成到現有軟件工具和仿真工作流中,以構建這些3D環境。NVIDIA Omniverse是西門子、富士康等行業龍頭的共同選擇,可以幫助完成工廠的數字孿生,機器人的虛擬訓練空間搭建,以及幫助生產線進行自動光學檢測、物體識別、缺陷檢測和軌跡規劃等。
面向汽車自動駕駛技術開發,NVIDIA DRIVE Orin系統級芯片已經在各品牌車輛上廣泛搭載,同時基于NVIDIA Blackwell GPU架構的NVIDIA DRIVE Thor車載計算平臺已經成為車企更新下一代自動駕駛技術的首選平臺,賦能當前和未來主流的“AI定義汽車”。
NVIDIA DRIVE Thor車載計算平臺,圖源:NVIDIA
實際上,不僅是NVIDIA AI專家預測的這些應用,各種邊緣AI的實現都可以在NVIDIA找到合適的方案,包括計算平臺、虛擬空間、參考示例和核心技術等。同時,開發者也可以從云端獲取NVIDIA先進的AI技術,目前NVIDIA NIM微服務已經擴展到各項關鍵的亞馬遜云科技AI服務中,包括NVIDIA Nemotron-4(先進的 LLM)、Llama 3.1 8B-Instruct(8B大語言模型)、Llama 3.1 70B-Instruct(70B大語言模型)和Mixtral 8x7B Instruct v0.1(專家模型)等。
結語
隨著AI大模型和算力逐漸下沉,2025年邊緣AI可謂是前景無限。正如NVIDIA機器人與邊緣計算副總裁Deepu Talla預測的那樣:在不久的將來,從手術室、數據中心到倉庫和工廠,機器人將無處不在。甚至交通控制系統,又或整個城市,也將從靜態、人工操作的系統轉變為基于物理AI的自主交互式系統。
但是需要注意到的是,邊緣AI的核心要義正在發生變化,已經初具具身智能的能力,可以和環境進行交互,這對整個邊緣系統提出了更高的要求。在應對這些設計挑戰時,NVIDIA的硬件和方案是開發者的得力幫手,推動邊緣AI方案的升級迭代。
-
AI
+關注
關注
87文章
31241瀏覽量
269605
發布評論請先 登錄
相關推薦
評論