DeepSeek 的國內(nèi)算力支持隊伍進一步壯大:來自上海的壁仞科技順利部署DeepSeek-R1-Distill千問蒸餾模型(1.5B/7B/14B/32B),并已上線 Gitee AI 免費使用。
蒸餾小模型超越 OpenAI o1-mini
通過 DeepSeek-R1 的輸出,DeepSeek 團隊蒸餾并開源了 6 個小模型,其中 32B 和 70B 參數(shù)的模型在多項能力上實現(xiàn)了對標 OpenAI o1-mini 的效果。
本次壁仞科技共部署了1.5B/7B/14B/32B四個不同參數(shù)的千問蒸餾模型,其中 32B 參數(shù)模型在輸出質(zhì)量和資源占用中取得了較好的平衡,更推薦開發(fā)者們使用。
32B參數(shù)模型使用壁仞算力的推理速度
壁仞科技聯(lián)合科華數(shù)據(jù),加速國產(chǎn)算力再升級
壁仞科技成立于 2019 年,致力于開發(fā)原創(chuàng)性的通用計算體系,建立高效的軟硬件平臺,同時在智能計算領(lǐng)域提供一體化的解決方案。從發(fā)展路徑上,壁仞科技將首先聚焦云端通用智能計算,逐步在人工智能訓(xùn)練和推理等多個領(lǐng)域趕超現(xiàn)有解決方案,實現(xiàn)國產(chǎn)高端通用智能計算芯片的突破。
基于壁礪TM系列訓(xùn)推產(chǎn)品 106M、106B、106E、110E,憑借先進的芯片架構(gòu)、高效的多模型適配能力、廣泛的數(shù)據(jù)精度支持以及強大的解碼能力,配合算力集群供應(yīng)商科華數(shù)據(jù)的強力支撐,僅用數(shù)小時即完成對 DeepSeek R1 全系列蒸餾模型的支持。
科華數(shù)據(jù)全國智算中心具備極致可靠、超高密度、彈性預(yù)制、綠色低碳、多樣算力等特性。在智算中心的發(fā)展中融合「算網(wǎng)」、「算液」、「算效」,讓算力從「用得了」、「用得起」到「用的好」。始終堅守以客戶需求為導(dǎo)向,融合多行業(yè)場景解決方案和科華數(shù)據(jù)豐富的產(chǎn)品矩陣及技術(shù)底蘊來幫助客戶實現(xiàn)價值。
100%國內(nèi)AI新添強援
壁仞科技的加入,為 DeepSeek R1 千問蒸餾模型帶來了又一個國內(nèi)算力強援,也為開發(fā)者提供了新的國內(nèi)算力選擇。
同樣,Gitee AI 壁仞科技算力資源包中的DeepSeek-R1-Distill-Qwen系列模型依然面向全體開發(fā)者免費使用!
點擊文末閱讀原文,免費使用壁仞算力感受DeepSeek-R1-Distill-Qwen系列模型的出色表現(xiàn)吧!
更多國產(chǎn)算力與 DeepSeek 和 Gitee AI 的對接工作也正在緊鑼密鼓進行中,努力為開發(fā)者提供更高效、更靈活的 AI 應(yīng)用解決方案。
除了國產(chǎn) GPU 芯片外,Gitee AI 也正在聯(lián)合國產(chǎn)生態(tài)廠商探索更多形態(tài)、更多平臺的 AI 模型適配,并將于近期正式上線,各位開發(fā)者敬請期待。
Gitee AI 的 Serverless API 提供了文本生成、視覺模型、圖像處理、語音識別、語音生成、向量與重排模型、代碼生成等 9 種類型共 54 個大模型的 API 使用。通過購買模型資源包,即可通過極低的價格即可盡享眾多主流模型。
-
算力
+關(guān)注
關(guān)注
1文章
1046瀏覽量
15121 -
壁仞科技
+關(guān)注
關(guān)注
1文章
61瀏覽量
2917 -
DeepSeek
+關(guān)注
關(guān)注
1文章
638瀏覽量
431
原文標題:100%國產(chǎn)AI新成員:壁仞科技成功適配DeepSeek R1千問蒸餾模型
文章出處:【微信號:OSC開源社區(qū),微信公眾號:OSC開源社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
顯存也能疊疊樂,雙 Intel Arc A770 顯卡低成本部署 DeepSeek R1 32B 蒸餾模型體驗

如何使用OpenVINO運行DeepSeek-R1蒸餾模型

RK3588開發(fā)板上部署DeepSeek-R1大模型的完整指南
香橙派發(fā)布OrangePi 5Plus本地部署Deepseek-R1蒸餾模型指南

研華發(fā)布昇騰AI Box及Deepseek R1模型部署流程
研華邊緣AI Box MIC-ATL3S部署Deepseek R1模型

IBM在watsonx.ai平臺推出DeepSeek R1蒸餾模型
了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應(yīng)用選擇
DeepSeek模型成功部署,物通博聯(lián)在 AI 賦能工業(yè)上持續(xù)探索、不斷前行
Deepseek R1大模型離線部署教程

Gitee AI 聯(lián)合沐曦首發(fā)全套 DeepSeek R1 千問蒸餾模型,全免費體驗!

部署DeepSeek R1于AX650N與AX630C平臺

鯤云科技AI芯片CAISA 430成功適配DeepSeek R1模型

摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務(wù)
云天勵飛上線DeepSeek R1系列模型

評論