英偉達GTC:ChatGPT專用Hopper GPU H100 NVL來了
ChatGPT 一經推出火爆程度讓人咋舌,似乎一夜之間就將生成式 AI、大語言模型推到了風口浪尖。英偉達估計也要笑出聲來,黃仁勛預計英偉達2023年的生成式人工智能的收入將相當大,人工智能及其基礎設施即服務(infrastructure as-a-service)產品將拓展其商業模式。
要之前此前NVIDIA就已經入局,在2016年,NVIDIA就向OpenAI交付了第一臺NVIDIA DGX AI超級計算機——支持 ChatGPT 的大型語言模型突破背后的引擎。現在GPT-4需要的算力更大,對速度需求更強烈。
現在英偉達面向人工智能及其基礎設施強發力,GPU提速,ChatGPT專用Hopper GPU H100 NVL性能強大,ChatGPT專用GPU可提速10倍,H100 NVL是專門為LLM設計的GPU,采用了Transformer加速解決方案,可用于處理ChatGPT。相比于英偉達HGX A100,一臺搭載四對H100和雙NVLINK的標準服務器速度能快10倍,可以將大語言模型的處理成本降低一個數量級。
-
gpu
+關注
關注
28文章
4740瀏覽量
128951 -
AI
+關注
關注
87文章
30896瀏覽量
269110 -
英偉達
+關注
關注
22文章
3776瀏覽量
91111 -
gtc
+關注
關注
0文章
73瀏覽量
4427 -
ChatGPT
+關注
關注
29文章
1561瀏覽量
7674 -
H100
+關注
關注
0文章
31瀏覽量
289
發布評論請先 登錄
相關推薦
評論