HBX-G500是一款為AI、計算和網絡領域設計的高性能可編程加速器卡。它配備了多通道的高帶寬存儲和高效能計算能力,以及先進的高速接口解決方案,特別適用于運行大型模型。即便在小批量數據處理時,它的性能也能媲美A100和H100。
該加速器卡搭載了兩組PCIe GEN5接口,并配備了兩個400GbE和一個200Gbe網絡接口,以及32GB的GDDR6存儲單元。
它還具備一個包含超過80個節點的2DNOC網絡和2560個高度可配置的MLP計算核心,以支持密集型計算任務。2DNOC不僅連接了高速接口和存儲單元,而且還連接了Fabric的80個節點,使得用戶可以更專注于功能開發。總線路由問題可以簡單地通過NOC連接來解決。
板卡功能:
兩路PCIe Gen5 ,其中PCIe Gen5X16支持系統接口,PCIeGen5X4可同時支持RC/EP
兩路網口,速率可達400Gbe以及200Gbe,且支持向下速率兼容
32GBGDDR6,市面上為數不多的支持GDDR6的FPGA板卡,支持16通路訪問,內存帶寬可達3.5Tbps
FPGA可支持達1500K LE
FPGA支持2560高性能計算核心(MLP)
每個MLP最大支持32個乘法器,可根據數據位寬的變化做調整
專屬內嵌的LRAM/BRAM可緩存數據或者快速反饋結
支持整型(INT16/INT8/INT4)、浮點(FP24/FP16)、BFP
INT8總算力約61Tops
支持通用串行總線(USB)JTAG配置、PCIe加載
支持上電自加載,1GB QSPI閃存 板卡規格:
尺寸:高度:111.15mm 長度:275mm
工作電壓:外部兩路+12VDC
適用AI應用的架構特性:
2D NOC的高效路由架構讓用戶可以集中精力于開發:
它支持廣泛采用的AXI4標準接口。
NOC的工作頻率可達2Ghz,數據傳輸寬度為256位。
主機通過PCIe接口,可以直接通過NOC的黃色區域訪問16條通道的GDDR6存儲。
主機通過PCIe,同樣可以通過NOC的黃色區域直接訪問連接在NAP上的任意功能單元。
功能單元能夠通過NOC直接訪問存儲資源(GDDR6或DDR)。
不同功能單元之間可以通過NOC進行高效互聯。
審核編輯:劉清
-
FPGA
+關注
關注
1629文章
21736瀏覽量
603384 -
JTAG
+關注
關注
6文章
400瀏覽量
71687 -
QSPI
+關注
關注
0文章
41瀏覽量
12205 -
PCIe接口
+關注
關注
0文章
120瀏覽量
9706 -
GDDR6
+關注
關注
0文章
52瀏覽量
11316
原文標題:HPC領域的一款大殺器---HBX-G500大帶寬加速卡
文章出處:【微信號:傅里葉的貓,微信公眾號:傅里葉的貓】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論