在日前舉行的線上媒體會(huì)上，NVIDIA 網(wǎng)絡(luò)市場(chǎng)總監(jiān)孟慶和網(wǎng)絡(luò)技術(shù)專家崔巖向媒體介紹了最新公布的project Monterey以及DPU開發(fā)者們非常關(guān)注的即將在10月下旬舉行的黑客松競(jìng)賽的情況。以下是電子發(fā)燒友網(wǎng)的記者的獨(dú)家報(bào)道。

DPU、AI發(fā)展迅猛，網(wǎng)絡(luò)算力從CPU卸載到DPU

NVIDIA 網(wǎng)絡(luò)市場(chǎng)總監(jiān)孟慶在開場(chǎng)表示，在GTC之前舉辦的VMware Explore大會(huì)上，NVIDIA CEO黃仁勛先生和Vmware CEO一起發(fā)布了重要的網(wǎng)絡(luò)相關(guān)產(chǎn)品和技術(shù)以及Monterey解決方案。DPU已經(jīng)從英偉達(dá)的產(chǎn)品名稱，變成了一個(gè)行業(yè)事實(shí)上的通用術(shù)語，“最近，在國內(nèi)市場(chǎng)上發(fā)現(xiàn)有很多聲音討論DPU，討論2019年我們提出的概念，大家逐漸接受，并且把它變成行業(yè)術(shù)語繼續(xù)去使用。”

黃仁勛先生曾多次提到過CPU發(fā)展逐漸放緩，摩爾定律似乎已經(jīng)失效。以前老的DIY從業(yè)者會(huì)感受到CPU包括至強(qiáng)、包括PC每一代性能、晶體管數(shù)量日新月異，上一代比下一代高一倍以上的性能。再看今天一代代新的CPU，不管是消費(fèi)級(jí)還是企業(yè)級(jí)能高出30-40%已經(jīng)算非常高的一個(gè)成績(jī)了。多數(shù)情況下更新一代只高出百分之十幾，這和制程、架構(gòu)設(shè)計(jì)有關(guān)、也和應(yīng)用有關(guān)。

反觀數(shù)據(jù)中心，在火熱的人工智能市場(chǎng)、云計(jì)算市場(chǎng)，行業(yè)把更多的算力卸載到GPU，卸載到相應(yīng)的各種各樣的協(xié)處理器上。最多的GPU用在像人工智能、推理訓(xùn)練，包括一些企業(yè)用它做更復(fù)雜的通用計(jì)算，這就產(chǎn)生了非常多的數(shù)據(jù)流量。而數(shù)據(jù)中心越來越演變成人工智能的中心，不管在后臺(tái)的訓(xùn)練，在前臺(tái)，大家打開購物軟件搜索關(guān)鍵詞，立刻告訴你這是什么，搜出相關(guān)的產(chǎn)品，所有的圖形識(shí)別、所有的語義分析、推薦購物全部把數(shù)據(jù)導(dǎo)流到后臺(tái)，在數(shù)據(jù)中心里推演。

“所以，我們認(rèn)為數(shù)據(jù)中心正在演化為一個(gè)AI工廠，很多AI應(yīng)用經(jīng)常打開幾秒就關(guān)了，這樣每一次激活A(yù)PP誕生多個(gè)容器，瞬間打開關(guān)閉，對(duì)數(shù)據(jù)中心和后臺(tái)就是一個(gè)個(gè)突發(fā)的小峰值，如果大家上下班坐地鐵會(huì)形成更大的峰值。這對(duì)數(shù)據(jù)中心來說都是前所未有的挑戰(zhàn)，而在里面負(fù)責(zé)網(wǎng)絡(luò)流量的，不管是交換機(jī)、智能網(wǎng)卡，他們也面臨很大的負(fù)荷。”孟慶解釋道。

“我們發(fā)現(xiàn)很多CPU的處理工作、擁塞都發(fā)生在了數(shù)據(jù)搬運(yùn)、發(fā)生在流量分發(fā)、發(fā)生在云里、在AI的過程中。DPU（數(shù)據(jù)處理器）應(yīng)運(yùn)而生，它處理的就是數(shù)據(jù)，數(shù)據(jù)流量越大越需要DPU。最先部署DPU的可能是一些云服務(wù)商，包括BAT、京東、字節(jié)等等公司，海外有微軟這種大型企業(yè)，他們面臨大量的數(shù)據(jù)，他們需要用像DPU這樣的東西幫助他們做預(yù)處理，幫助他們區(qū)分每一個(gè)用戶做的信息隔離，還有一些安全問題，這就是DPU誕生的環(huán)境。”

從推出DPU到今天，可能到明年初NVIDIA BlueField-3 DPU將更多的被各個(gè)企業(yè)所應(yīng)用，這里也和生態(tài)環(huán)境，軟件和相關(guān)解決方案有關(guān)。

關(guān)于VMware Explore上的Project Monterey補(bǔ)充說明

在不久前的VMware Explore大會(huì)上，NVIDIA、VMware和戴爾聯(lián)合發(fā)布Project Monterey的平臺(tái)。英傳達(dá)技術(shù)專家崔巖也對(duì)此作了補(bǔ)充和細(xì)節(jié)的說明。


目前Project Monterey的三大應(yīng)用，包括簡(jiǎn)化基礎(chǔ)設(shè)施和工作負(fù)載管理、提高基礎(chǔ)設(shè)施效率（性能和功能）、借助零信任模式加強(qiáng)基礎(chǔ)設(shè)施安全。

Project Monterey是將vSphere 8企業(yè)工作負(fù)載平臺(tái)，把它和NVIDIA BlueField DPU進(jìn)行結(jié)合，在戴爾Power Edge服務(wù)器或VxRail超融合架構(gòu)一體機(jī)上做運(yùn)行，這樣就可以有效的把NVIDIA BlueField DPU、GPU和NVIDIA Enterprise AI軟件，針對(duì)vSphere 8做負(fù)載優(yōu)化，在運(yùn)行一些AI軟件時(shí)，也可以把vSphere 8的一些功能，卸載、加速和隔離到NVIDIA BlueField DPU，這就是Project Monterey為未來的AI和現(xiàn)代應(yīng)用程序工作負(fù)載重新構(gòu)建一個(gè)現(xiàn)代的數(shù)據(jù)中心。既包括用于GPU的vSphere 8上的新功能來支持更強(qiáng)大的AI和機(jī)器學(xué)習(xí)的模型，更快的訓(xùn)練速度，同時(shí)也簡(jiǎn)化云和邊緣環(huán)境上的管理。

上面是比較完整的Project Monterey的架構(gòu)。在VMware vSphere 8里有一個(gè)叫做Cloud Foundation云基礎(chǔ)架構(gòu)組件，這個(gè)組件和NVIDIA BlueField DPU進(jìn)行比較好的結(jié)合，這張圖上都是相當(dāng)于跑在虛擬機(jī)上的這些應(yīng)用，可以有不同的應(yīng)用在系統(tǒng)平臺(tái)上跑。



如果大家經(jīng)常看DPU的介紹會(huì)看過這張圖。這是NVIDIA BlueField DPU在vSphere體系中主要卸載的作用。在基礎(chǔ)設(shè)施方面主要有四大架構(gòu)：對(duì)基礎(chǔ)設(shè)施管理、存儲(chǔ)、安全、網(wǎng)絡(luò)。在傳統(tǒng)的服務(wù)器中，CPU要做這四個(gè)方面的工作，管理基礎(chǔ)設(shè)施，整個(gè)基礎(chǔ)設(shè)施管理、軟件定義的安全、軟件定義的存儲(chǔ)、軟件定義的網(wǎng)絡(luò)都是由CPU承擔(dān)工作負(fù)載的，所以它在上面分出相應(yīng)計(jì)算資源放到基礎(chǔ)設(shè)施的操作上來，所以它在虛擬機(jī)和容器支持的數(shù)量和能力上就會(huì)受到一定性能上的限制。下面也是采用英偉達(dá)的智能網(wǎng)卡和加速引擎提供網(wǎng)絡(luò)上的服務(wù)。

當(dāng)采用了NVIDIA BlueField DPU之后，CPU可以零介入基礎(chǔ)設(shè)施的部分，上述講的四大功能就卸載到了DPU。這里主要和vSphere配合的是有軟件定義的安全、軟件定義的網(wǎng)絡(luò)和整體性能加速的部分，將給上層應(yīng)用提供更好的基礎(chǔ)設(shè)施的支撐。CPU資源會(huì)更好的支撐客戶業(yè)務(wù)應(yīng)用，有更多支持虛機(jī)和容器的能力，這是整個(gè)NVIDIA BlueField DPU的作用。


加速下一代防火墻。這張圖強(qiáng)調(diào)除了很好的支持vSphere8之外，在NSX網(wǎng)絡(luò)和安全的組件上也有很好的支撐，現(xiàn)在已經(jīng)實(shí)現(xiàn)了NSX下一代防火墻功能，已經(jīng)卸載到了DPU之上，后續(xù)的入侵檢測(cè)、入侵防御等安全策略功能也會(huì)逐漸在DPU上實(shí)現(xiàn)，這將和VMware整個(gè)多云架構(gòu)、企業(yè)應(yīng)用有更加緊密的解決方案，能夠讓企業(yè)用戶直接采用，享受NVIDIA BlueField DPU帶來的性能上的回報(bào)。

關(guān)于Project Monterey主要的收益，總結(jié)下來主要體現(xiàn)在以下幾點(diǎn)：通過 NVIDIA BlueField DPU 來節(jié)省主機(jī) CPU 內(nèi)核，等同于節(jié)省了 22% 的主機(jī) CPU 內(nèi)核消耗，使服務(wù)器性能效率得到了提升，可將釋放出來的 CPU 內(nèi)核來運(yùn)行應(yīng)用程序，并在三年的生命周期中提供 5倍的投資回報(bào)。

DPU好處這么多，除BAT等互聯(lián)網(wǎng)巨頭外，還適合什么樣的企業(yè)去部署？

DPU對(duì)于BAT、頭條這樣的企業(yè)和開發(fā)者已經(jīng)不是新鮮名詞，但它具體能給企業(yè)帶來什么樣的好處，除互聯(lián)網(wǎng)巨頭外，還有哪些企業(yè)適合采用或?qū)碛袡C(jī)會(huì)采用到DPU呢？成本是不是可以接受？開發(fā)者社群有沒有培育起來？電子發(fā)燒友網(wǎng)記者在會(huì)議中向英偉達(dá)的專家提出來這個(gè)問題，英偉達(dá)網(wǎng)絡(luò)技術(shù)專家崔巖對(duì)此作了回應(yīng)和解答。

崔巖表示，在前面講到的像BAT或字節(jié)這樣的公司，在數(shù)據(jù)中心里面大批量采用DPU主要還是在做公有云相應(yīng)的云服務(wù)上面，他們的規(guī)模相對(duì)比較大，去通過DPU提升他們數(shù)據(jù)中心基礎(chǔ)設(shè)施上的性能，能夠更好的釋放CPU的資源，能夠給客戶提供更好的公有云服務(wù)。

其他互聯(lián)網(wǎng)類型的公司，像現(xiàn)在看到的做元宇宙類的公司，或者提供相應(yīng)應(yīng)用平臺(tái)的公司，有AI識(shí)別，不管是語音、視頻或者圖像的都會(huì)需要在數(shù)據(jù)中心中產(chǎn)生或者處理大量的數(shù)據(jù)。所以它就會(huì)需要DPU從基礎(chǔ)設(shè)施的角度做卸載、隔離和加速。除了大規(guī)模的應(yīng)用之外，其他類型的互聯(lián)網(wǎng)公司也會(huì)在數(shù)據(jù)中心中去部署。再往其他行業(yè)里看，日后企業(yè)在多云環(huán)境下，其自身的私有云和混合云體系下也要部署和采用DPU，這是整個(gè)大勢(shì)所趨。


關(guān)于2022年第二屆英偉達(dá)DPU黑客松大賽

和上一屆的安排一樣，2022英偉達(dá)DPU黑客松大賽，仍然會(huì)有一個(gè)開幕式和訓(xùn)練營的活動(dòng)，之后會(huì)進(jìn)入到24小時(shí)的比賽環(huán)節(jié)，比賽中各個(gè)團(tuán)隊(duì)將投入到創(chuàng)新應(yīng)用的開發(fā)之中，到第二天10月23日上午，是每個(gè)團(tuán)隊(duì)現(xiàn)場(chǎng)比賽的演示，他們將對(duì)自己做的課題做一個(gè)整體展示，后面會(huì)有中國的本地評(píng)委和國際評(píng)委對(duì)他們的比賽結(jié)果進(jìn)行評(píng)分，在10月24日周一公布比賽結(jié)果。

組委會(huì)將邀請(qǐng)到本地5位評(píng)委，從基礎(chǔ)架構(gòu)、軟件開發(fā)、行業(yè)應(yīng)用角度來看待這些開發(fā)團(tuán)隊(duì)所做的項(xiàng)目和呈現(xiàn)的結(jié)果。整個(gè)結(jié)果最后會(huì)提交給國際評(píng)委，他們從創(chuàng)新角度和其他應(yīng)用的角度做一個(gè)評(píng)分， 從五個(gè)方面，訓(xùn)練營參與度、項(xiàng)目完成度、項(xiàng)目創(chuàng)新價(jià)值及題目匹配度，最后是現(xiàn)場(chǎng)演示的效果。

對(duì)于這場(chǎng)DPU開發(fā)者們的年度大賽，崔巖認(rèn)為NVIDIA DPU 中國黑客松最大的價(jià)值就是讓開發(fā)者有機(jī)會(huì)深入了解 NVIDIA BlueField DPU 和 NVIDIA DOCA 軟件框架，并構(gòu)建創(chuàng)新的加速應(yīng)用程序，實(shí)現(xiàn) NVIDIA BlueField DPU 在人工智能、網(wǎng)絡(luò)、存儲(chǔ)和安全方面的獨(dú)特功能，驅(qū)動(dòng) NVIDIA BlueField DPU 在各行業(yè)應(yīng)用場(chǎng)景中的廣泛應(yīng)用。參與活動(dòng)的團(tuán)隊(duì)和開發(fā)者不但可以學(xué)習(xí)到相關(guān)的知識(shí)和技能，還可以構(gòu)建以 DPU 技術(shù)應(yīng)用為核心的人際網(wǎng)絡(luò)，并與 NVIDIA 專家進(jìn)行交流，更有助于將創(chuàng)新想法變成現(xiàn)實(shí)。

談到今年秋季的DPU黑客松對(duì)比上一屆的亮點(diǎn)，他表示2022 秋季 NVIDIA DPU 中國黑客松以 RDMA 技術(shù)為核心題目，基于 InfiniBand 網(wǎng)絡(luò)來實(shí)現(xiàn)對(duì)存儲(chǔ)和人工智能應(yīng)用的加速，同時(shí)將這種低延遲、高性能的IO 能力聚焦到一些行業(yè)應(yīng)用場(chǎng)景中，比如金融的高頻交易等。

每次參加英偉達(dá)AI和DPU相關(guān)的媒體活動(dòng)，都讓我們感受到了最前沿的技術(shù)的迅猛變化，電子發(fā)燒友網(wǎng)記者也認(rèn)為，這個(gè)技術(shù)不會(huì)僅影響到頭部互聯(lián)網(wǎng)公司巨頭，一定會(huì)對(duì)其他的網(wǎng)絡(luò)公司，或者是使用到網(wǎng)絡(luò)的公司開發(fā)者有幫助。對(duì)于DPU未來將會(huì)給網(wǎng)絡(luò)技術(shù)帶來的影響，您怎么看？
（全文完）