從ChatGPT引發(fā)的廣泛關(guān)注,再到大量的云端AI服務(wù)上線,利用人工智能提升效率、優(yōu)化流程正在變得唾手可得。但在大多數(shù)人印象中,AI應(yīng)用意味著背后龐大的服務(wù)器集群夜以繼日的運算,需要將自己的信息共享至云端,這與人們關(guān)心的隱私與信息安全背道而馳。
就在COMPUTEX 2023期間,英特爾提出了一種全新的可能性,它可以讓未來每一臺筆記本、臺式機或者其他終端設(shè)備,在低功耗的前提下也能擁有不錯的AI算力,而這個算力模塊稱為英特爾VPU。
與CPU、GPU不同,英特爾VPU將更專注于AI加速,特別是稀疏化處理的運算,并且具有低功耗、低延遲的諸多特點,不僅可以輕松處理視頻背景虛化、智能語音降噪等判定式AI,加速StableDiffusion這樣生成式AI也沒有問題。
重點是,英特爾已經(jīng)確認下一代處理器MeteorLake將集成VPU,這意味著未來的輕薄本也同樣具備一定的AI算力,實現(xiàn)不曾想象的AI操作。那么究竟是什么樣動力,讓英特爾如此積極的駛向終端AI的新賽道?
AI的質(zhì)變
盡管英特爾以CPU和IDM模式而聞名,但在AI硬件領(lǐng)域英特爾也同樣進行了長時間的積累,例如在CPU中添加AI加速的相關(guān)指令集,并在架構(gòu)上針對AI不斷進行優(yōu)化,已經(jīng)發(fā)展到第四代的英特爾至強可擴展處理器就是其中很好的例子,從2017年開始,至強可擴展處理器就不斷增加了深度學(xué)習(xí)加速、矩陣計算擴展AMX等功能。
而今,英特爾在AI領(lǐng)域即擁有負責(zé)高端深度學(xué)習(xí)加速器Gaudi系列的Habana Labs,也擁有可以制造低功耗視覺處理單元的Movidius。在大量的AI經(jīng)驗積累下,英特爾開始嘗試讓消費產(chǎn)品涉及AI加速功能。也正是從IceLake架構(gòu)第10代酷睿開始,CPU開始搭載AI加速單元GNA,用于處理神經(jīng)噪聲抑制、背景模糊等功能判定式AI加速,讓筆記本開始走向智能化。
同時AI需求在近2年內(nèi)變化非常明顯。以降噪功能為例,2年前降噪計算復(fù)雜度與現(xiàn)在相比,相差將近50倍。類似StableDiffusion這樣的生成式AI加入,對PC性能需求提升了一個唯獨。如何在不插電的筆記本中流暢運行更高負荷的AI應(yīng)用成了新問題,VPU正是為了填補這個空白而誕生。
即將實裝MeteorLake的英特爾VPU其實已經(jīng)進階到了第三代,這款源自于英特爾全資子公司Movidius的處理模塊最早計劃應(yīng)用于無人機、相機、VR設(shè)備等基于視覺深度學(xué)習(xí)和AI加速。在2017年,VPU的前身Myriad X就能實現(xiàn)1TOPS的吞吐量,這無疑讓人們對全新的VPU性能表現(xiàn)抱有更多期待。
同時,VPU不是旗艦處理器的獨占功能,它將出現(xiàn)在Meteor Lake的所有SKU中。這意味著VPU帶來的AI加速功能將是處理器一項基礎(chǔ)功能,與集顯、Thunderbolt4等一樣,成為CPU中不可缺少的一部分。
但VPU的加入不代表著之前集成在CPU上的AI技術(shù)會劃上句號。恰恰相反,由于AI應(yīng)用場景的復(fù)雜性,英特爾將AI使用場景分成了三個部分,其中CPU負責(zé)處理諸如語音降噪、變聲這樣的輕負載、低延遲、高響應(yīng)的AI加速,GPU負責(zé)重負載且對響應(yīng)需求不高的AI模型加速。VPU正好介于CPU和GPU之間,即擁有低功耗、快速響應(yīng)的特點,也可以負責(zé)基礎(chǔ)的視覺處理,比如流媒體中的手勢識別,背景虛化等等。
在Meteor Lake中,VPU和CPU、GPU將相輔相成,不同的AI應(yīng)用場景會指派不同的處理單元應(yīng)對,確保AI加速效率最大化。同時從功耗上來看,VPU則是要求最低的,次之是CPU,再次之是GPU。VPU的加入能給注重續(xù)航的筆記本在獲得新功能的同時,保證筆記本的續(xù)航和體驗順暢。
為此英特爾也特意準備了一個DEMO演示。一款只有集顯的MeteorLake開發(fā)筆記本,在StableDiffusion的文字生成圖片模型內(nèi),僅使用了20秒就完成了工作。這個過程中,MeteorLake的VPU主要承載了VNET模塊的運行,GPU則負責(zé)Encoder模塊運行,CPU則負責(zé)軟件運行的其他部分,整個系統(tǒng)被得到充分利用,實現(xiàn)了在當(dāng)下只有依靠高性能獨立顯卡PC才能完成的工作。
軟硬件相輔相成
生成式AI的快速成長自然也會帶來不少問題,比如的AI開發(fā)界面,AI庫以及AI模型標準化或者統(tǒng)一化上需要時間,不同軟件、模型、開源項目之間各自為戰(zhàn),雖然百花齊放,但很難形成統(tǒng)一管理,會影響資源調(diào)用的效率。比如時下熱門的Stable Diffusion也僅誕生于2022年,作為一個開源項目,還有大量的工作需要適配。
在行業(yè)內(nèi)擁有龐大影響力的英特爾深刻了解軟硬件結(jié)合的重要性,在宣布VPU進駐MeteorLake的同時,英特爾也已經(jīng)緊鑼密鼓的在軟件層面、軟件合作伙伴方面展開行動。
從軟件層面來看,VPU身后已經(jīng)具備了整套軟件基礎(chǔ),英特爾OpenVINO工具可以幫助VPU在應(yīng)對不同領(lǐng)域的AI網(wǎng)絡(luò)模型時,進需要通過統(tǒng)一的軟件接口實現(xiàn)。OpenVINO相當(dāng)于一個包裹,可以幫助應(yīng)用把底層不同架構(gòu)之間的異構(gòu)計算的差異統(tǒng)一封裝,以實現(xiàn)更廣泛的應(yīng)用適配。
同時英特爾也提供了對目前主流標準的支持,比如通用的網(wǎng)絡(luò)視頻格式ONNX,W3C允許通過瀏覽器進行神經(jīng)網(wǎng)絡(luò)推理硬件加速的WebNN API,微軟基于DirectX12的機器學(xué)習(xí)底層推理接口DirectML等等。
同時英特爾也已經(jīng)與軟件開發(fā)商展開緊密合作,包括Adobe、微軟、字節(jié)跳動、騰訊在內(nèi)的100多家軟件開發(fā)商已經(jīng)開始進行AI相關(guān)方面的合作。
得益于VPU非常省電的特性,使得許多終端可以在僅使用電池續(xù)航的狀態(tài)下,也能擁有高效的表現(xiàn),原本需要CPU、GPU高功耗合力進行的AI任務(wù),現(xiàn)在僅使用VPU即可完成。比如在執(zhí)行GPU渲染的過程中接通會議電話,通過VPU介入流暢的實現(xiàn)降噪、背景替換等工作。
再比如Adobe上的自動摳圖、濾鏡、文字生成圖片等最新功能,通過VPU運行也已經(jīng)可以獲得很好的效果。另外,Blender、虛幻引擎等軟件也已經(jīng)對VPU展開了適配。
在龐大的安裝量推動下,英特爾在產(chǎn)品投向市場之前已經(jīng)做足了軟件層面適配的鋪墊。筆記本VPU與CPU、GPU以及其他功能模塊一起,成為下一代PC的標準配置,也進而推動了整個AI生態(tài)的普及與標準化,從而推動AI應(yīng)用的持續(xù)發(fā)展,最終實現(xiàn)了良性循環(huán)的局面。
開創(chuàng)AI體驗新局面
在過去兩年中,英特爾進步非常顯著,通過12、13代酷睿的兩代高性能混合架構(gòu)設(shè)計,英特爾已經(jīng)與OEM合作完成了超過700個系統(tǒng)設(shè)計,交付了1.2億個高性能混合架構(gòu)處理芯片,使之在短時間內(nèi)快速普及。
但對于英特爾而言這還遠遠不夠,按照英特爾CEO帕特·基辛格提出的IDM2.0戰(zhàn)略,英特爾還會在四年里跨越5個制程工藝節(jié)點,從現(xiàn)在的Intel7邁進MeteorLake開始使用的Intel4,緊接著Intel20A和Intel18A也會相繼到來。
不僅如此,英特爾也將使用第三方代工的制造工藝來完善處理器產(chǎn)品,從MeteorLake開始使用的分離式模塊架構(gòu),讓處理器設(shè)計不再一體化,而是不同單元會成為不同的獨立設(shè)計模塊、不同的制造工藝和升級策略,實現(xiàn)效率的最大化,英特爾VPU的加入就很好的印證了這一點。
在即將到來的MeteorLake上,英特爾將從另一個維度提升處理器的每瓦性能表現(xiàn),讓處理器獲得表現(xiàn)更好的CPU、GPU,并加入獨立的VPU單元提升PC整體對AI性能優(yōu)化,從而帶動PC體驗的又一輪升級。
在過去幾年中,我們經(jīng)歷了Wi-Fi6、處理器混合架構(gòu)、Thunderbolt4接口的快速普及,均得益于英特爾將新技術(shù)無保留的放入主流的處理器設(shè)計中。英特爾VPU則成為下一個增長點,憑借著新一輪處理器升級帶來的龐大體量,不插電、低功耗環(huán)境下使用流暢的AI加速體驗,無疑會給現(xiàn)有的AI軟件生態(tài)、AI標準制定帶來全新的變化。英特爾也將再次成為整個PC軟硬件生態(tài)升級的重要推手。
審核編輯黃宇
-
英特爾
+關(guān)注
關(guān)注
61文章
9985瀏覽量
171957 -
cpu
+關(guān)注
關(guān)注
68文章
10880瀏覽量
212212 -
AI
+關(guān)注
關(guān)注
87文章
31141瀏覽量
269478 -
vpu
+關(guān)注
關(guān)注
0文章
15瀏覽量
11790
發(fā)布評論請先 登錄
相關(guān)推薦
評論