AI服務(wù)器出貨動能強勁帶動HBM(high bandwidth memory高頻寬存儲器)需求提升,預(yù)計2023年AI服務(wù)器出貨量年增15.4%。
據(jù)TrendForce研究顯示,2022年三大原廠HBM市占率分別為SK海力士(SK hynix)50%、三星電子(Samsung)約40%、美光科技(Micron)約10%。此外,高級深度學(xué)習(xí)AI GPU的規(guī)格也刺激HBM產(chǎn)品更迭,2023下半年伴隨NVIDIA H100與AMD MI300的搭載,三大原廠也已規(guī)劃相對應(yīng)規(guī)格HBM3的量產(chǎn)。因此,在今年有更多客戶將導(dǎo)入HBM3的預(yù)期下,SK海力士作為目前唯一量產(chǎn)新世代HBM3產(chǎn)品的供應(yīng)商,其整體HBM市占率可望借此提升至53%,而三星、美光則預(yù)計陸續(xù)在今年年底至明年初量產(chǎn),HBM市占率分別為38%及9%。
目前英偉達(dá)NVIDIA所定義的DL/ ML型AI服務(wù)器平均每臺均搭載4張或8張高級顯卡,搭配兩顆主流型號的x86服務(wù)器CPU,而主要拉貨力道來自于美系云端業(yè)者Google、AWS、Meta與Microsoft。據(jù)TrendForce統(tǒng)計,2022年高級搭載GPGPU的服務(wù)器出貨量年增約9%,其中近80%的出貨量均集中在中、美系八大云端業(yè)者。展望2023年,微軟Microsoft、臉書Meta、百度與字節(jié)跳動相繼推出基于生成式AI衍生的產(chǎn)品服務(wù)而積極加單,預(yù)估今年AI服務(wù)器出貨量年增率可望達(dá)15.4%,2023~2027年AI服務(wù)器出貨量年復(fù)合成長率約12.2%。
根據(jù)TrendForce調(diào)查,AI服務(wù)器可望帶存儲器需求成長,以現(xiàn)階段而言,Server DRAM普遍配置約為500至600GB左右,而AI服務(wù)器在單條模組上則多采64至128GB,平均容量可達(dá)1.2~1.7TB之間。以Enterprise SSD而言,由于AI服務(wù)器追求的速度更高,其要求往往優(yōu)先于DRAM或HBM滿足,在SSD固態(tài)硬盤的容量提升上則呈現(xiàn)非必要擴大容量的態(tài)勢,但在傳輸界面上,則會為了高速運算的需求而優(yōu)先采用PCIe 5.0。而相較于一般服務(wù)器而言,AI服務(wù)器多增加GPGPU的使用,因此以英偉達(dá)NVIDIA A100 80GB配置4或8張采計,HBM用量約為320至640GB。未來在AI模型逐漸復(fù)雜化的趨勢下,將刺激更多的存儲器用量,并同步帶動Server DRAM、SSD以及HBM的需求成長。
審核編輯 黃宇
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
相關(guān)推薦
近日,據(jù)媒體援引鴻海集團董事長劉揚偉的言論報道稱,鴻海集團對未來人工智能(AI)服務(wù)器市場充滿信心,并預(yù)測2025年的AI服務(wù)器出貨量將超過
發(fā)表于 12-30 14:13
?126次閱讀
海外輕量云服務(wù)器是指位于海外數(shù)據(jù)中心內(nèi),采用虛擬化技術(shù)構(gòu)建的輕量級云服務(wù)器實例。海外輕量云服務(wù)器是專為輕量級應(yīng)用或小型網(wǎng)站設(shè)計的,旨在以較低
發(fā)表于 10-30 09:48
?176次閱讀
10月8日資訊,據(jù)媒體透露,由于內(nèi)部策略變動及終端市場需求變化,Intel已顯著削減其AI服務(wù)器芯片Gaudi 3的預(yù)計出貨量,下調(diào)幅度超過三成。
發(fā)表于 10-08 15:36
?489次閱讀
超微電腦(Super Micro Computer)周一公布的出貨數(shù)據(jù),揭示了客戶對AI服務(wù)器的巨大需求。據(jù)超微透露,公司近期為多個大型AI工廠及云
發(fā)表于 10-08 14:54
?396次閱讀
海外輕量云服務(wù)器是指位于海外數(shù)據(jù)中心內(nèi),采用虛擬化技術(shù)構(gòu)建的輕量級云服務(wù)器實例。與傳統(tǒng)的物理服務(wù)器或國內(nèi)云服務(wù)器相比,海外輕
發(fā)表于 09-25 10:09
?265次閱讀
AI服務(wù)器是一種專門為人工智能應(yīng)用設(shè)計的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯(lián)的需求,為自然語言處
發(fā)表于 09-21 11:43
?948次閱讀
隨著云計算、人工智能的興起和數(shù)字化轉(zhuǎn)型推動,AI服務(wù)器出貨量快速增長,預(yù)計到2026年,AI服務(wù)器出貨量
發(fā)表于 07-16 15:59
?719次閱讀
AI服務(wù)器,即人工智能服務(wù)器,是專門為人工智能應(yīng)用設(shè)計的高性能計算服務(wù)器。AI服務(wù)器的架構(gòu)類型有
發(fā)表于 07-02 09:51
?1153次閱讀
云存儲服務(wù)器是現(xiàn)代信息技術(shù)的重要組成部分,它們?yōu)楦鞣N規(guī)模的企業(yè)和個人提供了靈活、可擴展和成本效益高的存儲解決方案。在本文中,我們將詳細(xì)介紹云存儲服務(wù)
發(fā)表于 07-02 09:17
?691次閱讀
云存儲服務(wù)器配置是一個復(fù)雜的過程,涉及到硬件、軟件、網(wǎng)絡(luò)等多個方面。 云存儲服務(wù)器配置概述 云存儲是一種基于互聯(lián)網(wǎng)的
發(fā)表于 07-02 09:15
?944次閱讀
隨著ChatGPT技術(shù)不斷發(fā)展和應(yīng)用,我國AI服務(wù)器市場保持較快增速(預(yù)計 2023年我國服務(wù)器市場規(guī)模將增至308億美元),而AI服務(wù)器
發(fā)表于 06-17 15:15
?1次下載
TrendForce集邦咨詢發(fā)布報告稱,預(yù)計2024年第一季度MLCC(多層陶瓷電容器)出貨量將跌至近期三季之低。進入第二季度,ODM(原始設(shè)計制造商)手中的訂單呈現(xiàn)分化趨勢。AI服務(wù)器需求
發(fā)表于 05-29 11:02
?716次閱讀
,整體需求尚未恢復(fù)至疫情前成長幅度,預(yù)估2024年全球服務(wù)器整機出貨量約1,365.4萬臺,同比增約2.05%。 ? 同時,市場仍聚焦部署AI服務(wù)器,
發(fā)表于 03-08 01:25
?4056次閱讀
針對蘋果是否新增下達(dá)AI服務(wù)器訂單的問題,鴻海表示不會對外公開評論單個客戶和產(chǎn)品情況。商城披露的信息顯示,蘋果之前對大量AI功能做過深入的測試,這是企業(yè)內(nèi)部的高度保密機密,蘋果與鴻海之間一直都有許多復(fù)雜的項目和測試進行。
發(fā)表于 03-04 10:31
?748次閱讀
在2023年第四季度,全球服務(wù)器出貨環(huán)比增長了3.1%,雖然低于預(yù)期。該季度,一些品牌廠商如戴爾和慧與推出了新的x86平臺產(chǎn)品,但其出貨量并未持續(xù)上升。相反,云
發(fā)表于 02-19 15:18
?746次閱讀
評論