微軟明年減少H100 訂單至8 萬臺,大摩指出,但這是因為要改單拿B100,價格雖較H100 貴5 成,但算力是HBM 的2 倍,并會拿些許AMD MI300,而英偉達可能會延遲對臺積電明年下半年CoWoS 產能的預付款,但這不是砍單,主要是B100 芯片產能需要2 倍的CoWoS 產能。
大摩表示,微軟可能會將2024 年H100 AI 伺服器的訂單,從12 萬臺減少至8 萬臺,并將部分訂單轉移到B100,預計2024 年第四季出貨,因為B100 的運算能力至少是H100 的2 倍,但價格僅高出 50~60%。
大摩指出,微軟從2024 年第二季開始將透過英業達將部分訂單轉移到MI300X,而且NVIDIA 在2024 年第二季對臺積電CoWoS 產能的預付款可能會有所延遲,但這并不意味著NVIDIA 在2024 年對臺積電CoWoS 的需求減少,反而是B100 需要2 倍的CoWoS 產能。
中國GPU 方面,大摩指出,美國商務部長提出警告,華盛頓將「改變」出口管制措施,以阻止NVIDIA 專門針對中國市場進行芯片改良,而L20S 的云端推理似乎符合效能密度規則,并沒有使用高效能的HBM,并預計年底前就準備好出貨,至于華為910B 需求暢旺,但代工能力卻不足。
散熱方面,大摩指出, 散熱解決方案供應商預計AWS AI AISC 伺服器的出貨量將在2023 年第四季成長,而AI AISC 的3D VC 售價接近100 美元,預計微軟Maia 的水冷板出貨量最快要到2024 年第一季增加。
2023年Q3,英偉達AI GPU銷量達50萬塊
據市場跟蹤公司 Omdia 的統計分析,英偉達在 2023 年第三季度大約賣出了 50 萬臺 H100 和 A100 GPU,此前,Omdia 通過英偉達第二季度的銷售額,估計其大概賣出了 900 噸 GPU。據英偉達財報顯示,在本財年第三季度,Nvidia 在數據中心硬件上獲得了 145 億美元的收入,比去年同期幾乎翻了兩番。這顯然得益于隨著人工智能和高性能計算(HPC)的發展而變得炙手可熱的 H100 GPU。
市場跟蹤公司 Omdia 表示,Nvidia 售出了近 50 萬個 A100 和 H100 GPU,龐大的需求量也導致了,基于 H100 的服務器需要 36~52 周的時間才能交付。
Meta 和微軟是最大買家。它們各自采購了多達 15 萬個 H100 GPU,大大超過了谷歌、亞馬遜、甲骨文和騰訊采購的數量(各 5 萬個)。
英偉達明年推新AI芯片,加速CoWoS封裝需求
人工智能(AI)芯片帶動先進封裝需求,市場預期AI芯片大廠英偉達(Nvidia)明年將推出新一代繪圖芯片架構,加速CoWoS封裝需求,臺灣,韓國、美國、日本、甚至中國等半導體大廠,積極布局2.5D先進封裝。
AI芯片帶動先進封裝需求,加速AI芯片效能,CoWoS先進封裝扮演關鍵角色,不過CoWoS產能仍短缺,影響包括英偉達在內的大廠AI芯片出貨進度。
天風國際證券分析師郭明錤預期,先進封裝CoWoS供應在第4季可顯著改善,有利未來生產能見度。美系外資法人表示,隨著CoWoS產能擴充,英偉達AI芯片出貨量看增,這也反向帶動CoWoS產能需求成長。
外資評估,英偉達H100繪圖芯片(GPU)模組第4季供應量可到80萬至90萬個,較第3季約50萬個增加,預估明年第1季供應量可到100萬個,主要是CoWoS產能持續提升。
至于CoWoS產能配置,外資法人評估,英偉達可從臺積電取得5000至6000片CoWoS晶圓產量,也將從后段專業委外封測代工(OSAT)廠取得2000至3000片CoWoS產量。
市場預期,英偉達明年將推出新一代B100繪圖芯片架構,外資和本土投顧評估,B100架構可能采用臺積電的4納米制程,推估采用結合2顆GPU晶粒和8顆高頻寬記憶體(HBM ),因此也將帶動CoWoS先進封裝需求。
本土期貨法人分析,CoWoS先進封裝主要有3種技術架構,其中矽中介層(CoWoS-S)封裝是目前主流,包括英偉達H100芯片和超微(AMD)MI300芯片均采用CoWoS-S封裝,效能佳不過成本較高。
至于導入重布線層(RDL)的有機中介層(CoWoS-R)封裝可降低成本,另外CoWoS-L封裝在矽中介層加進主動元件LSI層提升芯片設計及封裝彈性,可支援更多顆高頻寬記憶體堆疊,預期明年CoWoS-R與CoWoS-L封裝應用將明顯增加。
臺積電已卡位CoWoS先進封裝3種技術架構,后段封測廠日月光半導體也布局扇出型FOCoS-Bridge(Fan-Out-Chip-on-Substrate-Bridge)封裝技術,并推出跨平臺整合的先進封裝設計平臺工具。
亞系外資和本土投顧指出,包括英特爾(Intel)、韓國三星(Samsung)、艾克爾(Amkor)、聯電、中國江蘇長電、通富微電等也布局2.5D先進封裝,此外,日本索尼(Sony)、力成、美國德州儀器(TI)、韓國SK海力士(SK Hynix)等也急起直追。
值得注意的是,大多數服務器 GPU 都供應給了超大規模云服務提供商。而服務器原始設備制造商(如戴爾、聯想、HPE)目前還無法獲得足夠的 AI 和 HPC GPU。
Omdia 預計,到 2023 年第四季度,Nvidia 的 H100 和 A100 GPU 的銷量將超過 50 萬臺。
不過,幾乎所有大量采購 Nvidia H100 GPU 的公司都在為人工智能、HPC 和視頻工作負載開發定制自己的芯片。
因此,隨著他們轉向使用自己的芯片,對 Nvidia 硬件的采購量可能會逐漸減少。
審核編輯:黃飛
-
微軟
+關注
關注
4文章
6619瀏覽量
104235 -
gpu
+關注
關注
28文章
4761瀏覽量
129136 -
服務器
+關注
關注
12文章
9256瀏覽量
85755 -
英偉達
+關注
關注
22文章
3821瀏覽量
91508
原文標題:傳微軟砍單英偉達H100
文章出處:【微信號:晶揚電子,微信公眾號:晶揚電子】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論