日前,香橙派官方發(fā)布OrangePi AI Stuido、OrangePi AIpro(20T)本地部署Deepseek-R1蒸餾模型指南,通過在邊緣進行離線部署,幫助用戶實現(xiàn)高效端側智能,確保數(shù)據(jù)處理的安全性和可控性。
據(jù)了解,DeepSeek-R1專為數(shù)學、代碼生成和復雜邏輯推理任務設計,通過大規(guī)模強化學習(RL)提升推理能力,還摒棄監(jiān)督微調(SFT),采用純強化學習(GRPO算法)訓練基座模型。同時,DeepSeek-R1提供了高效模型蒸餾技術,可將大規(guī)模模型能力遷移至更小、更高效的版本,優(yōu)化模型性能、開源應用。經(jīng)蒸餾后的DeepSeek-R1模型支持部署于端側,大幅降低計算資源需求,顯著提升端側設備的AI推理效率。
目前,香橙派已經(jīng)發(fā)布在OrangePi AI Stuido、OrangePi AIpro(20T)上運行Deepseek-R1蒸餾模型的操作指南,香橙派表示,未來將加大研發(fā)投入,攜手昇騰推動不同算力等級的產品與DeepSeek等優(yōu)質模型相結合,進一步降低端側AI的門檻,為客戶創(chuàng)造更大的AI價值。


據(jù)了解,OrangePi AIpro(20T)是香橙派聯(lián)合昇騰AI打造的高算力開發(fā)板,根植于昇騰AI技術,集AI計算、ISP、圖形輸出等功能于一體,釋放高達20 TOPS的AI算力。可配12/24GB運行內存,匯聚了MIPI DSI、雙MIPI CSI、USB3.0、Type-C、雙HDMI2.0、雙2.5G以太網(wǎng)、支持SATA/NVMe SSD 2280的M.2插槽等各類流行的接口。OrangePi AIpro(20T)依托昇騰AI基礎軟硬件能力的基礎,融合大模型與訓推一體化優(yōu)勢,實現(xiàn)端邊云全場景無縫部署,是構建昇騰計算產品、使能上層軟件和應用的底座,有高算力、高能效等特性。

OrangePi AI Studio采用昇騰AI技術路線,融合“ARM core,AI core,Vector core,Image core”于一體,提供“基礎通用算力+超強AI算力+編解碼核心”,充分滿足推訓一體AI任務需求,擁有48GB /96GB LPDDR4X,速率高達4266Mbps。
OrangePi AI Studio匯聚了Type-C(USB4.0)、電源接口、電源按鍵、LED指示燈等,可廣泛應用于OCR識別、目標識別、人臉識別、搜索推薦、大模型多模態(tài)、內容審核、VR智能、數(shù)字醫(yī)療、物聯(lián)網(wǎng)等諸多AI應用場景。
-
開發(fā)板
+關注
關注
26文章
6433瀏覽量
121217 -
香橙派
+關注
關注
2文章
52瀏覽量
12518 -
大模型
+關注
關注
2文章
3797瀏覽量
5279 -
DeepSeek
+關注
關注
2文章
855瀏覽量
3414
發(fā)布評論請先 登錄
云天勵飛完成DeepSeek-V4系列模型關鍵機制適配驗證
開放原子AtomGit平臺首發(fā)適配DeepSeek-V4系列模型
寒武紀Day 0適配DeepSeek-V4模型
華為昇騰超節(jié)點系列產品全面支持DeepSeek V4模型
軟通華方超節(jié)點服務器產品全面適配DeepSeek V4模型
壁仞科技壁礪166系列GPU產品率先支持DeepSeek-V4模型
國產AI算力:從DeepSeek V4與華為昇騰協(xié)同看全棧自主之路
壁仞科技壁礪166系列產品Day 0適配智譜GLM-5.1旗艦模型
香橙派全志系列開發(fā)板適配OpenClaw教程
華為昇騰深度適配智譜AI全新開源模型GLM-5
香橙派昇騰系列產品深度適配Deepseek系列大模型
評論