DeepSeek-R1 模型自發布以來吸引了眾多用戶關注,為了讓 deepin 用戶更好地體驗這一前沿技術,UOS AI 現已適配接入 DeepSeek-R1 端側模型!無需忍受服務器崩潰,兩步即可在本地獨享 DeepSeek-R1 模型帶來的震撼體驗。
本次,我們為大家提供了「離線部署」和「在線接入」兩種方式在 UOS AI 中使用 DeepSeek-R1 模型,大家可根據自身設備及網絡環境等情況自行選擇:
方法一:使用 deepin 官方適配的 UOS AI DeepSeek-R1 1.5B 模型離線部署
方法二:使用 UOS AI 的自定義模型接口在線接入 DeepSeek-R1 API
注:離線部署方式支持 deepin 23、deepin 25 Preview 系統使用;在線接入方式支持 UOS V20、deepin 20.9、deepin 23、deepin 25 Preview 系統使用。
方法一
UOS AI 離線部署 DeepSeek-R1 1.5B 模型
Step 1:更新 UOS AI 及向量化模型插件
若您正在使用 deepin 23,可從應用商店更新 UOS AI 至最新版。
注:若您是首次在 deepin 中下載使用 UOS AI,根據界面提示「勾選用戶使用協議-免費領取試用賬號」后即可直接進入 UOS AI 全新版本。
若您正在使用 deepin 25 Preview,請通過以下命令升級 UOS AI 至最新版。
sudo apt update sudo apt install uos-ai deepin-modelhub uos-ai-rag
更新完成后,打開 UOS AI 的「設置」選項,在「模型配置-本地模型」中選擇「向量化模型插件-安裝/更新」,隨后將自動跳轉至應用商店界面,點擊安裝/更新即可。
Step 2:安裝 DeepSeek-R1 模型 GGUF 版本
UOS AI 的模型后端驅動框架是基于 llama.cpp,大家可直接在魔搭社區找到 DeepSeek-R1 的 GGUF 版本。
此處我們將以最通用且便捷的1.5B 模型為例,其模型大小適中,對硬件配置要求不高,僅需 CPU 即可實現流暢推理。(若您正在使用 CUDA推理,可以等后續 deepin 系統更新 CUDA 版本的推理后端框架)。
已適配 UOS AI 的 DeepSeek-R1 1.5B 模型的下載地址如下:
百度網盤:https://pan.baidu.com/s/1-786vFU4dunpdproiOHdbQ?pwd=zxxw
123網盤:https://www.123865.com/s/XXsfjv-Jjcph
123網盤(備用):https://www.123684.com/s/XXsfjv-Jjcph
夸克網盤:https://pan.quark.cn/s/edbf721fefaf
將模型文件下載完成后,打開文件管理器,直接進入如下目錄:
/home/用戶名/.local/share/deepin-modelhub/models #其中用戶名替換為自己的計算機用戶名
注:若沒有 deepin-modelhub 文件夾以及下面的 models 文件夾,可以自己手動創建該文件夾。
進入 models 文件夾,將下載完成的模型文件夾解壓后,直接復制到剛剛創建的文件夾路徑中,注意檢查路徑不要有多的名稱。模型完整路徑如下:
/home/用戶名/.local/share/deepin-modelhub/models/DeepSeek-R1-1.5B/gguf #其中用戶名替換為自己的計算機用戶名
經過上述步驟,再次打開 UOS AI 界面,即可手動切換使用 DeepSeek-R1-1.5B 模型。
以下是一個簡單的 DeepSeek-R1 運行示例:
方法二
UOS AI 在線接入 DeepSeek-R1 API
Step 1:獲取 API key
訪問 DeepSeek 官網,注冊/登錄賬號后,創建并獲取API key。若由于服務器壓力等問題無法訪問以上頁面,也可以使用其他訪問渠道獲取 API key。
本文將以硅基流動為例,在注冊/登錄賬號后,前往 API 密鑰管理頁面,創建并獲取 API key。
Step 2:在 UOS AI 中接入 DeepSeek-R1 在線模型
打開 UOS AI 的「設置」選項,在「模型配置」中選擇「在線模型-添加」,進入UOS AI的添加模型界面。
完成添加窗口中的內容填寫,并點擊確定即可,本例中使用到的信息參考如下:
賬號名稱:自定義
模型類型:自定義
API key:粘貼 Step 1 中所復制的 API 密鑰
模型名:deepseek-ai/DeepSeek-R1
請求地址:https://api.siliconflow.cn/v1/chat/completions
填寫完畢并提交確認后,即可在 UOS A I中選擇 DeepSeek-R1 模型進行使用。
理論上只要您硅基流動賬戶中的余額夠用,其模型倉庫的所有模型都可以通過上述方法在 UOS AI 中配置調用,只需在上述配置方法中的模型名處填寫對應的完整模型名稱即可,其它不變。
需要注意的是,在線大模型受網絡及用戶訪問量影響,偶爾可能會出現訪問慢、超時或無法訪問的情況,建議多次嘗試即可。
在線模型由于當前適配問題,DeepSeek 深度思考的內容與對話內容尚未分開,但這并不影響正常使用,UOS AI 團隊會在后續更新中盡快優化體驗。
最后感謝社區用戶「陳正勇」提供的在線配置方案參考~體驗過程中有任何建議或問題,歡迎大家在評論區留言,或前往deepin 社區論壇討論交流,優質反饋將有機會獲得 deepin 官方周邊禮品噢!
-
AI
+關注
關注
87文章
32513瀏覽量
271805 -
模型
+關注
關注
1文章
3419瀏覽量
49497 -
DeepSeek
+關注
關注
1文章
633瀏覽量
413
原文標題:deepin UOS AI 無縫接入 DeepSeek-R1 模型!離線、在線都支持!
文章出處:【微信號:linux_deepin,微信公眾號:深度操作系統】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
如何使用OpenVINO運行DeepSeek-R1蒸餾模型

軟通動力天能云平臺接入DeepSeek-R1模型
RK3588開發板上部署DeepSeek-R1大模型的完整指南
Infinix AI接入DeepSeek-R1滿血版
聯想moto AI手機接入DeepSeek-R1
了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應用選擇
超星未來驚蟄R1芯片適配DeepSeek-R1模型
在龍芯3a6000上部署DeepSeek 和 Gemma2大模型
芯動力神速適配DeepSeek-R1大模型,AI芯片設計邁入“快車道”!

網易有道全面接入DeepSeek-R1大模型
行業首家!數勢科技SwiftAgent全面接入DeepSeek-R1

評論