近日,沐曦集成電路(上海)有限公司(下稱“沐曦”)曦云C500千億參數(shù)AI大模型訓練及通用計算GPU與北京智譜華章科技有限公司(下稱“智譜AI”)開源的中英雙語對話語言模型ChatGLM2-6B完成適配。測試結果顯示,曦云C500在智譜AI的升級版大模型上充分兼容、高效穩(wěn)定運行。
沐曦旗艦產(chǎn)品曦云C500基于自主研發(fā)的高性能GPU IP,特別適合千億參數(shù)AI大模型的訓練和推理;基于全自研 GPU 指令集打造的MXMACA軟件棧,全面兼容主流GPU生態(tài),實現(xiàn)用戶零成本遷移;通過自主知識產(chǎn)權的MetaXLink實現(xiàn)單機8卡GPU全互聯(lián),提供構建高密度算力和云計算部署的優(yōu)秀國產(chǎn)GPU解決方案;可廣泛應用于千億參數(shù)AI大模型訓練與推理、AIGC內(nèi)容生成、推薦系統(tǒng)、自動語音識別、語音合成、圖像分割檢測,以及科學計算、數(shù)據(jù)庫加速等多種場景。
由清華技術成果轉化的智譜AI推出的雙語對話模型ChatGLM2-6B在初代模型ChatGLM-6B基礎上做了升級,采用監(jiān)督微調、反饋自助和人類反饋強化學習等方式,能夠生成符合人類偏好的答案。通過此次聯(lián)合適配測試,依托曦云C500運行的ChatGLM2-6B可節(jié)省大量時間成本和運營成本,降低硬件接入AI模型訓練和推理的門檻,為國產(chǎn)大模型提供強大的算力支撐。未來雙方將共同探索國產(chǎn)GPU大模型訓推一體機在各個行業(yè)的應用,攜手打造軟硬件一體化解決方案,讓企業(yè)可以在國產(chǎn)自主創(chuàng)新的平臺上實現(xiàn)自主、安全、可控的大模型應用和迭代。
關于沐曦
沐曦致力于為異構計算提供安全可靠的GPU芯片及解決方案,打造全棧GPU芯片產(chǎn)品,推出曦思N系列GPU用于AI推理,曦云C系列GPU用于千億參數(shù)AI大模型訓練及通用計算,以及曦彩G系列GPU用于圖形渲染,滿足數(shù)據(jù)中心對“高能效”及“高通用性”的算力需求。沐曦產(chǎn)品均采用完全自主研發(fā)的GPU IP,擁有完全自主的指令集和架構,配以兼容主流GPU生態(tài)的完整軟件棧(MXMACA),具備高能效和高通用性的天然優(yōu)勢,能夠為客戶構建軟硬件一體的全面生態(tài)解決方案,是“雙碳”背景下推動數(shù)據(jù)中心建設和產(chǎn)業(yè)數(shù)字化、智能化轉型升級的算力基石。
審核編輯:彭菁
-
gpu
+關注
關注
28文章
4847瀏覽量
129963 -
AI
+關注
關注
87文章
32905瀏覽量
272522 -
語言模型
+關注
關注
0文章
550瀏覽量
10492 -
沐曦
+關注
關注
0文章
30瀏覽量
1271 -
大模型
+關注
關注
2文章
2845瀏覽量
3500
原文標題:沐曦與智譜AI完成兼容性測試 共建軟硬件一體化解決方案
文章出處:【微信號:沐曦MetaX,微信公眾號:沐曦MetaX】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
沐曦曦云C550通用計算GPU完成DeepSeek R1-671B大模型適配
沐曦加速DeepSeek滿血版單卡C500異構推理
嘉為藍鯨OpsPilot與華為昇思完成兼容性認證,共筑運維AI融合新生態(tài)

百度智能云四款大模型應用完成DeepSeek適配
Gitee AI 聯(lián)合沐曦首發(fā)全套 DeepSeek R1 千問蒸餾模型,全免費體驗!

海光信息技術團隊成功適配DeepSeek大模型
中軟國際推出升級版一站式AI解決方案服務
鯤云科技AI芯片CAISA 430成功適配DeepSeek R1模型

評論