最近,有消息傳出英偉達(dá)正在建立一個(gè)新的業(yè)務(wù)部門(mén),這個(gè)部門(mén)專(zhuān)注為云計(jì)算公司和其他公司設(shè)計(jì)定制芯片(ASIC)。
這個(gè)新的部門(mén)將由半導(dǎo)體資深人士Dina McKinney領(lǐng)導(dǎo)。McKinney曾擔(dān)任負(fù)責(zé) AMD CPU 設(shè)計(jì)和Marvell基礎(chǔ)設(shè)施處理器的副總裁,他將負(fù)責(zé)監(jiān)督為云計(jì)算、5G 電信、游戲、汽車(chē)等領(lǐng)域構(gòu)建定制芯片的團(tuán)隊(duì)。
那么,英偉達(dá)為什么要下場(chǎng)定制芯片(ASIC芯片),英偉達(dá)下場(chǎng)后能夠在ASIC市場(chǎng)中稱(chēng)王稱(chēng)霸嗎?
01 為什么英偉達(dá)選擇ASIC?
英偉達(dá)選擇ASIC的原因,其實(shí)從其新部門(mén)面向客戶(hù)中可以窺見(jiàn)一二。新部門(mén)面向的主要是云計(jì)算公司,這和英偉達(dá)目前在主要的北美CSP(云計(jì)算供應(yīng)商)企業(yè)重疊,包括Google Cloud、AWS、Microsoft Azure和Meta等企業(yè)。
這些企業(yè)都已經(jīng)開(kāi)始進(jìn)行自家芯片的開(kāi)發(fā),例如Google的TPU和微軟的AI加速器Maia及專(zhuān)為Azure設(shè)計(jì)的CPU “Cobalt”。
因此英偉達(dá)進(jìn)軍ASIC的原因有二:第一,占領(lǐng)新的市場(chǎng)。第二,保護(hù)自己免受替代。
先來(lái)看占領(lǐng)新的市場(chǎng)。數(shù)據(jù)中心定制芯片的蛋糕并不小,據(jù)研究公司650 Group估計(jì),數(shù)據(jù)中心定制芯片市場(chǎng)今年將增長(zhǎng)至100億美元,到2025年將翻一番。
Needham分析師Charles Shi表示,2023年更廣泛的定制芯片市場(chǎng)價(jià)值約為300億美元,約占全球芯片年銷(xiāo)售額的5%。
數(shù)據(jù)中心的定制芯片的市場(chǎng)中有兩大巨頭:博通和Marvell。在高端ASIC市場(chǎng),博通以35%的市占率,穩(wěn)坐龍頭寶座,Marvel以12%的市占率居次。博通和Marvell其實(shí)都認(rèn)為隨著數(shù)據(jù)中心處理器變的多樣,會(huì)讓定制芯片的模式重新煥發(fā)生機(jī)。
原因在于,AI時(shí)代中,ASIC芯片也能撐起一片天。
這就談回了一個(gè)老問(wèn)題:ASIC、GPU,誰(shuí)是最合適的AI芯片?其實(shí)這兩類(lèi)芯片有各自的特點(diǎn),但在滿足算力需求上是相互競(jìng)爭(zhēng)的。簡(jiǎn)單來(lái)說(shuō),GPU有先發(fā)優(yōu)勢(shì),技術(shù)發(fā)展時(shí)間長(zhǎng),使用成本較低,但是功耗高。ASIC面向特定用戶(hù)需求設(shè)計(jì)的定制芯片,在吞吐量、功耗、算力水平等方面都有優(yōu)勢(shì)。
在20世紀(jì)90年代時(shí),很多大型企業(yè)都渴望設(shè)計(jì)和提供針對(duì)特定應(yīng)用的定制ASIC設(shè)備,同時(shí)提供更好的性能。Sony、Toshiba和IBM最初設(shè)計(jì)的用于Sony Playstation 3的Cell Processor就是一個(gè)例子。不過(guò),由于ASIC的成本高,隨著為特定產(chǎn)品設(shè)計(jì)ASIC變得越來(lái)越難以合理規(guī)模,ASIC的歲月似乎過(guò)去。
ASIC和GPU的分歧就在這:成本。
因?yàn)閺男阅軄?lái)看,針對(duì)特定場(chǎng)景或應(yīng)用所設(shè)計(jì)的ASIC芯片,會(huì)比英偉達(dá)所賣(mài)的通用GPU更有優(yōu)勢(shì)。以前一直使用GPU,也帶火了英偉達(dá)等廠商的業(yè)績(jī)和股價(jià),但后來(lái)大家發(fā)現(xiàn),隨著機(jī)器學(xué)習(xí)、邊緣計(jì)算發(fā)展,算法更加成熟和穩(wěn)定,自己完全有足夠的計(jì)算需求去分?jǐn)侫SIC的成本。
尤其ChatGPT爆火以后,英偉達(dá)GPU產(chǎn)品掉隊(duì),很多企業(yè)都是靠著服務(wù)器CPU+ASIC的形式,來(lái)滿足用戶(hù)對(duì)于AI訓(xùn)練和推理的算力需求。
這就展示出ASIC在AI時(shí)代的作用。Marvell的計(jì)算與定制集團(tuán)技術(shù)副總裁Mark Kuemerle觀察到:“關(guān)于這些數(shù)據(jù)中心客戶(hù)的有趣事實(shí)是,如果他們的系統(tǒng)中出現(xiàn)輕微的瓶頸點(diǎn),問(wèn)題會(huì)被放大1000倍甚至更多(因?yàn)樗鼈儾渴鹪诔笠?guī)模中)。”這樣的瓶頸點(diǎn)可能導(dǎo)致NIC卡住。現(xiàn)成的機(jī)器學(xué)習(xí)設(shè)備可能無(wú)法匹配工作負(fù)載或滿足靈活性或可編程性的需求。
Kuemerle說(shuō):“這些超大規(guī)模數(shù)據(jù)中心真的必須將一切精確調(diào)整到他們的工作負(fù)載。那么,他們投資建設(shè)定制芯片絕對(duì)是值得的。”
ASIC早已成為GPU面臨的強(qiáng)大競(jìng)爭(zhēng)者。
雖說(shuō)各大廠商購(gòu)買(mǎi)英偉達(dá)GPU,花錢(qián)如流水,既然都是流水,為什么不定制更適合自家應(yīng)用場(chǎng)景的芯片呢?要定制就要花錢(qián),英偉達(dá)同樣想把大廠定制芯片的錢(qián),納入自己的錢(qián)包。
再來(lái)看“免受替代”是怎么回事。目前,谷歌、亞馬遜、特斯拉和Meta都推出了ASIC芯片。
谷歌2015年發(fā)布首款A(yù)SIC芯片TPU v1,去年已經(jīng)迭代到了v5。根據(jù)官方提供的數(shù)據(jù),每個(gè) TPU v5p pod 在三維環(huán)形拓?fù)浣Y(jié)構(gòu)中,通過(guò)最高帶寬的芯片間互聯(lián)(ICI),以 4,800 Gbps/chip 的速度將 8,960 個(gè)芯片組合在一起,與 TPU v4 相比,TPU v5p 的 FLOPS 和高帶寬內(nèi)存(HBM)分別提高了 2 倍和 3 倍。
谷歌使用TPU v5p壘起一道抵御英偉達(dá)GPU的高墻。
對(duì)于谷歌來(lái)說(shuō),要錢(qián)有錢(qián),要技術(shù)有技術(shù),要應(yīng)用場(chǎng)景有應(yīng)用場(chǎng)景,可以說(shuō)是各大科技巨頭中在自研AI芯片這條路上走得最遠(yuǎn)的,其他廠商目前還在源源不斷地給英偉達(dá)賬戶(hù)打錢(qián),但谷歌卻早已做好了兩手準(zhǔn)備。
微軟則也是打響了“逃離英偉達(dá)”的信號(hào)槍。最新的消息,微軟正在開(kāi)發(fā)一款新的網(wǎng)卡,可以提高其Maia AI 服務(wù)器芯片的性能,并有可能減少該公司對(duì)芯片設(shè)計(jì)商N(yùn)vidia的依賴(lài)。
有知情人士表示,微軟首席執(zhí)行官薩蒂亞·納德拉(Satya Nadella ) 已任命網(wǎng)絡(luò)設(shè)備開(kāi)發(fā)商瞻博網(wǎng)絡(luò) (Juniper Networks) 聯(lián)合創(chuàng)始人普拉迪普·辛杜 (Pradeep Sindhu) 來(lái)領(lǐng)導(dǎo)網(wǎng)卡工作。
看來(lái)出于成本和自主率考慮,大廠還是更愿意使用自家的ASIC。買(mǎi)英偉達(dá)的GPU不但價(jià)格高昂,并且受制于人。不過(guò),使用自家芯片多一些,那就用英偉達(dá)GPU少一些。
02 英偉達(dá)能稱(chēng)霸嗎?
谷歌推出自家ASIC的背后,與博通有很大關(guān)系。去年說(shuō)到最紅火的企業(yè)是英偉達(dá),而背后還有一個(gè)賣(mài)鏟人也在悶聲發(fā)財(cái)——博通。目前博通的市值已經(jīng)達(dá)到了5741.98億美元,已經(jīng)超過(guò)了臺(tái)積電的市值。
其實(shí)從收入來(lái)看,博通是全球第二大人工智能芯片公司,僅次于英偉達(dá)。博通加速器的銷(xiāo)售額往往高達(dá)數(shù)十億美元。
谷歌與博通合作,負(fù)責(zé)谷歌TPU的物理設(shè)計(jì),本質(zhì)上是基于谷歌的設(shè)計(jì)圖紙開(kāi)發(fā)芯片。此外,博通還負(fù)責(zé)監(jiān)督臺(tái)積電的芯片代工業(yè)務(wù)。自谷歌和博通開(kāi)始合作以來(lái),谷歌每?jī)赡曜笥野l(fā)布新一代TPU。知情人士稱(chēng),谷歌和博通把每一代TPU的性?xún)r(jià)比提高了至少50%。
博通與各大巨頭公司合作定制芯片。不但參與了谷歌每一代TPU處理器的設(shè)計(jì),還與Meta、蘋(píng)果等公司達(dá)成合作,共同設(shè)計(jì)生產(chǎn)芯片。
研究機(jī)構(gòu)SemiAnalysis創(chuàng)始人表示,博通定制芯片業(yè)務(wù)規(guī)模達(dá)100億美元,美滿電子規(guī)模達(dá)20億美元,英偉達(dá)的參與確實(shí)是一個(gè)威脅。
英偉達(dá)能否稱(chēng)霸ASIC市場(chǎng)關(guān)鍵也是看兩點(diǎn)能力:設(shè)計(jì)和議價(jià)能力。
先來(lái)看設(shè)計(jì)能力。作為定制芯片,芯片設(shè)計(jì)的好壞肯定直接會(huì)影響到CSP大廠數(shù)據(jù)中心的運(yùn)行能力,以及成本高低。對(duì)于大廠來(lái)說(shuō),只要能夠提供強(qiáng)大的性能,即使芯片的價(jià)格偏高,也會(huì)愿意買(mǎi)單。
我們先來(lái)看看一臺(tái)AI服務(wù)器究竟需要哪些芯片?如果拆開(kāi)一臺(tái)AI服務(wù)器內(nèi)部,以HGX H100 8-GPU為例,8 塊 H100 GPU在全新的 FP8 精度下 AI 性能比上一代高 6 倍,可提供 900GB/s 的帶寬,該服務(wù)器內(nèi)部包含NVLink、PCIe和QPI等主板總線。GPU之間的互聯(lián)通過(guò)NVSwitch 芯片來(lái)實(shí)現(xiàn),CPU與GPU之間的互聯(lián)則通過(guò)PCIe 5.0總線實(shí)現(xiàn)。
英偉達(dá)自家的高速傳輸NV Link、開(kāi)發(fā)者軟件CUDA和Omniverse等軟件套件,這些帶了極大優(yōu)勢(shì)。
但是PCle Switch也很重要,而這個(gè)領(lǐng)域是博通的天下。全球PCle Switch三大供應(yīng)商,博通、微芯、祥碩科技三家,共占有全球約58%的份額。博通作為PCI Express交換領(lǐng)域的領(lǐng)導(dǎo)者,出貨量超過(guò)10 億個(gè)。
前文我們提到博通參與了很多公司的定制芯片,為什么各大公司都看中博通呢?不僅僅是芯片設(shè)計(jì)的能力,博通有自己的“護(hù)城河”芯片間的通信。
博通是SerDes(串行器/解串器)的通信技術(shù)無(wú)可爭(zhēng)議的壟斷巨頭。SerDes接口通過(guò)在傳輸之前將低速并行數(shù)據(jù)轉(zhuǎn)換為高速串行數(shù)據(jù),然后在接收端轉(zhuǎn)換回并行數(shù)據(jù),目的在于允許數(shù)據(jù)從一個(gè)TPU高速移動(dòng)到另一個(gè)TPU,提升信號(hào)傳輸效率。在全球50GB/S的SerDes市場(chǎng)中,博通占據(jù)了76%的市場(chǎng)份額。
這么來(lái)看,英偉達(dá)、博通在芯片設(shè)計(jì)方面,都有自己的“護(hù)城河”。
從芯片議價(jià)能力來(lái)說(shuō),英偉達(dá)在晶圓的采購(gòu)量上要比博通、邁威爾大得多。在這樣的狀況下,議價(jià)能力也相對(duì)較高。沿用此邏輯來(lái)看,即使CSP廠擁有強(qiáng)大的IC設(shè)計(jì)團(tuán)隊(duì),也不見(jiàn)得可取得最佳價(jià)格。
如果CSP能與臺(tái)積電簽訂具價(jià)格競(jìng)爭(zhēng)力的長(zhǎng)約,有機(jī)會(huì)在價(jià)格上獲得優(yōu)勢(shì),打破英偉達(dá)的壟斷局面。
03 結(jié)語(yǔ)
總的來(lái)說(shuō),由于仍有許多存在于云端大廠外的語(yǔ)言模型,因此通用型GPU仍有生存空間。
目前英偉達(dá)是否會(huì)成立ASIC部門(mén)還未確認(rèn)。一名IC設(shè)計(jì)代工管理層透露,英偉達(dá)一直都有在看ASIC市場(chǎng),曾經(jīng)找上門(mén)希望能外包部分ASIC方案。換句話說(shuō),當(dāng)時(shí)的英偉達(dá)即使正生產(chǎn)通用型芯片,仍一面通過(guò)外包的方式,吃下ASIC市場(chǎng)。
如今,ASIC的市場(chǎng)需求日益壯大,作為AI霸主英偉達(dá)自然不會(huì)視而不見(jiàn),加上還擁有如高速傳輸NV Link、開(kāi)發(fā)者軟件CUDA等技術(shù)優(yōu)勢(shì)。目前ASIC競(jìng)爭(zhēng)對(duì)手如博通(Broadcom)、Marvell亦多有布局,博通執(zhí)行長(zhǎng)更在傳出加入Meta董事會(huì),英偉達(dá)的新策略是否沖擊市場(chǎng),值得持續(xù)關(guān)注。
審核編輯:劉清
-
gpu
+關(guān)注
關(guān)注
28文章
4739瀏覽量
128941 -
ASIC芯片
+關(guān)注
關(guān)注
2文章
91瀏覽量
23770 -
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3776瀏覽量
91081 -
HBM
+關(guān)注
關(guān)注
0文章
380瀏覽量
14757 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1560瀏覽量
7666
原文標(biāo)題:定制芯片市場(chǎng),被巨頭瞄準(zhǔn)了
文章出處:【微信號(hào):ICViews,微信公眾號(hào):半導(dǎo)體產(chǎn)業(yè)縱橫】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論