據外電報道,美國ai芯片初創企業d-matrix最近宣布,將推出jayhawk ii芯片,用于其獨創的數字memory computing引擎,通過chiplet結構進行生成宏觀推理。
公司方面表示,該引擎的內存帶寬比nvidia的h100a100等高端的gpu大40倍。此外,d-matrix還主張,jayhawk ii對30億至400億大型語言模型(llm)的每秒生成推理能力增加10至20倍。公司方面表示,與gpu解決方案相比,生成推理的總擁有費用從10倍減少了20倍。
在物理設計方面,該芯片由6納米工程制成,核心之間通過bow接口實現相互連接,支持各種精度的浮點數據型。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
芯片
+關注
關注
456文章
50873瀏覽量
424087 -
NVIDIA
+關注
關注
14文章
4991瀏覽量
103138 -
語言模型
+關注
關注
0文章
527瀏覽量
10281 -
chiplet
+關注
關注
6文章
433瀏覽量
12600
發布評論請先 登錄
相關推薦
“端到端”智駕芯片,英偉達DRIVE Thor接棒,車企自研芯片對標行業領先
。 ? 在智駕芯片層面,不少廠商采用了英偉達的DRIVE Orin芯片,以及下一代智能駕駛計算平臺Thor進行開發,MDC610、地平線征程5、征程6
UCIe規范引領Chiplet技術革新,新思科技發布40G UCIe IP解決方案
隨著大型SoC(系統級芯片)的設計復雜度和制造難度不斷攀升,芯片行業正面臨前所未有的挑戰。英偉達公司的Blackwell芯片B200,作為業
英偉達帶領芯片股飆升 英偉達大漲4.76%
1.08%,道指漲0.32%。 AI浪潮之下,業界預期正不斷加強,在AI算力需求的邊際拉動下、疊加消費電子復蘇,新一輪終端AI上新,相關行業正迎來具備較強持續性的上行周期;英偉達在生成
英偉達在AI芯片市場還能領先多久?
7月22日,國際媒體傳來消息,英偉達在近年來興起的生成式人工智能浪潮中脫穎而出,其高性能計算芯片如H100等廣受業界青睞,推動了公司營收與利
進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片
新的標準。Blackwell架構和GB200 超級芯片有望推動英偉達在人工智能領域更進一步,鞏固其在高性能計算和人工智能技術領域的領先地位。
發表于 05-13 17:16
英特爾的最強AI芯片要來了,聲稱性能完勝英偉達H100
增加了近1.5倍。 與競爭對手的正面對標也不落下風。英特爾聲稱Gaudi3已全面超越英偉達去年發布的H100芯片:運行
英偉達H200帶寬狂飆
英偉達H200帶寬的顯著提升主要得益于其強大的硬件配置和先進的技術創新。H200配備了高達141GB的HBM3e顯存,與前代產品H100相比
英偉達:預計下一代AI芯片B100短缺,計劃擴產并采用新架構
近期熱門的 H100 芯片運期短縮數天后,英偉達新型 AI 旗艦芯片 B100搭載全新的 Bla
英偉達縮短AI GPU交付周期,持續推進算力產業鏈發展
與此同時,隨著人工智能的迅猛發展及其廣泛應用,對像H100和A100這類專為數據中心設計的高性能GPU的需求也大幅增長。而包括Yotta在內的多家公司因此紛紛加大向
評論