近日,英偉達(dá)推出了一款用于人工智能工作的頂級(jí)芯片HGX H200。新的GPU升級(jí)了需求巨大的H100,內(nèi)存帶寬增加了1.4倍,內(nèi)存容量增加了1.8倍,提高了其處理密集生成人工智能工作的能力。
在備受矚目的人工智能領(lǐng)域,英偉達(dá)提到,H200將帶來(lái)進(jìn)一步的性能飛躍。在Llama 2(700億參數(shù)的LLM)上的推理速度比H100快了一倍。未來(lái)的軟件更新預(yù)計(jì)會(huì)給H200帶來(lái)額外的性能領(lǐng)先優(yōu)勢(shì)和改進(jìn)。
H200將在具有四路和八路配置的英偉達(dá)HGX H200服務(wù)器主板中提供,并與HGX H100系統(tǒng)的硬件和軟件兼容。
大型計(jì)算機(jī)制造商和云服務(wù)提供商預(yù)計(jì)將于明年第二季度開(kāi)始使用H200。亞馬遜的AWS、Alphabet公司的谷歌云、微軟Azure和甲骨文的云基礎(chǔ)設(shè)施,都承諾從明年開(kāi)始使用這款新芯片。
英偉達(dá)高性能計(jì)算產(chǎn)品副總裁Ian Buck在近日的視頻演示中表示:“更快、更廣泛的HBM內(nèi)存集成有助于提高計(jì)算需求任務(wù)的性能,包括生成人工智能模型和[高性能計(jì)算]應(yīng)用程序,同時(shí)優(yōu)化GPU利用率和效率。”
H200還與已經(jīng)支持H100的相同系統(tǒng)兼容。英偉達(dá)表示,云提供商在將H200添加到混合中時(shí)不需要做出任何更改。亞馬遜、谷歌、微軟和甲骨文的云計(jì)算部門(mén)將在明年率先提供新的GPU。
一旦推出,新芯片肯定會(huì)很貴。英偉達(dá)沒(méi)有列出它們的價(jià)格,但據(jù)美國(guó)消費(fèi)者新聞與商業(yè)頻道報(bào)道,上一代H100的售價(jià)估計(jì)在25000至40000美元之間,其中數(shù)千臺(tái)需要在最高水平上運(yùn)行。并且,價(jià)格由英偉達(dá)的合作伙伴決定。
伴隨著人工智能的火爆,英偉達(dá)的高端GPU需求量極大。這也令其他芯片制造商瞄準(zhǔn)這一利潤(rùn)豐厚的市場(chǎng),加快推出高品質(zhì)的AI芯片,整個(gè)AI芯片市場(chǎng)競(jìng)爭(zhēng)相當(dāng)激烈。英偉達(dá)此舉旨在鞏固其在AI計(jì)算市場(chǎng)的主導(dǎo)地位。
審核編輯:彭菁
-
芯片
+關(guān)注
關(guān)注
456文章
50938瀏覽量
424685 -
谷歌
+關(guān)注
關(guān)注
27文章
6172瀏覽量
105625 -
人工智能
+關(guān)注
關(guān)注
1792文章
47410瀏覽量
238925 -
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3791瀏覽量
91313
原文標(biāo)題:英偉達(dá)推出新款必備人工智能芯片 性能再飛躍
文章出處:【微信號(hào):IEEE_China,微信公眾號(hào):IEEE電氣電子工程師】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論