日前，香橙派官方發(fā)布OrangePi AI Stuido、OrangePi AIpro（20T）本地部署Deepseek-R1蒸餾模型指南，通過在邊緣進(jìn)行離線部署，幫助用戶實(shí)現(xiàn)高效端側(cè)智能，確保數(shù)據(jù)處理的安全性和可控性。

據(jù)了解，DeepSeek-R1專為數(shù)學(xué)、代碼生成和復(fù)雜邏輯推理任務(wù)設(shè)計(jì)，通過大規(guī)模強(qiáng)化學(xué)習(xí)（RL）提升推理能力，還摒棄監(jiān)督微調(diào)（SFT），采用純強(qiáng)化學(xué)習(xí)（GRPO算法）訓(xùn)練基座模型。同時(shí)，DeepSeek-R1提供了高效模型蒸餾技術(shù)，可將大規(guī)模模型能力遷移至更小、更高效的版本，優(yōu)化模型性能、開源應(yīng)用。經(jīng)蒸餾后的DeepSeek-R1模型支持部署于端側(cè)，大幅降低計(jì)算資源需求，顯著提升端側(cè)設(shè)備的AI推理效率。

目前，香橙派已經(jīng)發(fā)布在OrangePi AI Stuido、OrangePi AIpro（20T）上運(yùn)行Deepseek-R1蒸餾模型的操作指南，香橙派表示，未來將加大研發(fā)投入，攜手昇騰推動不同算力等級的產(chǎn)品與DeepSeek等優(yōu)質(zhì)模型相結(jié)合，進(jìn)一步降低端側(cè)AI的門檻，為客戶創(chuàng)造更大的AI價(jià)值。

據(jù)了解，OrangePi AIpro（20T）是香橙派聯(lián)合昇騰AI打造的高算力開發(fā)板，根植于昇騰AI技術(shù)，集AI計(jì)算、ISP、圖形輸出等功能于一體，釋放高達(dá)20 TOPS的AI算力?？膳?2/24GB運(yùn)行內(nèi)存，匯聚了MIPI DSI、雙MIPI CSI、USB3.0、Type-C、雙HDMI2.0、雙2.5G以太網(wǎng)、支持SATA/NVMe SSD 2280的M.2插槽等各類流行的接口。OrangePi AIpro（20T）依托昇騰AI基礎(chǔ)軟硬件能力的基礎(chǔ)，融合大模型與訓(xùn)推一體化優(yōu)勢，實(shí)現(xiàn)端邊云全場景無縫部署，是構(gòu)建昇騰計(jì)算產(chǎn)品、使能上層軟件和應(yīng)用的底座，有高算力、高能效等特性。

OrangePi AI Studio采用昇騰AI技術(shù)路線，融合“ARM core，AI core，Vector core，Image core”于一體，提供“基礎(chǔ)通用算力+超強(qiáng)AI算力+編解碼核心”，充分滿足推訓(xùn)一體AI任務(wù)需求，擁有48GB /96GB LPDDR4X，速率高達(dá)4266Mbps。

OrangePi AI Studio匯聚了Type-C(USB4.0)、電源接口、電源按鍵、LED指示燈等，可廣泛應(yīng)用于OCR識別、目標(biāo)識別、人臉識別、搜索推薦、大模型多模態(tài)、內(nèi)容審核、VR智能、數(shù)字醫(yī)療、物聯(lián)網(wǎng)等諸多AI應(yīng)用場景。