國產(chǎn) AI 大模型 DeepSeek 以出色的性價比和高效的模型技術,迅速成為全球 AI 關注的焦點。Firefly 開源團隊率先實現(xiàn) AIBOX 系列產(chǎn)品對 DeepSeek-R1 的全面適配。

R1 模型性能數(shù)據(jù)
DeepSeek-R1 在后訓練階段大規(guī)模使用了強化學習技術,在僅有極少標注數(shù)據(jù)的情況下,極大提升了模型推理能力,目前基于開源的 R1 模型具有 1.5B-70B 可選,這些蒸餾模型更合適進行本地部署在端側(cè)使用,用于各行各業(yè)的項目落地。

AIBOX 實機演示
Firefly 開源團隊對 DeepSeek-R1 系列的蒸餾模型進行移植,完成 AIBOX 系列產(chǎn)品對 DeepSeek-R1 的全面適配,以下是實機演示:
通過視頻可以看出 DeepSeek-R1-Distill-Qwen-1.5B 在深度思考階段思路清晰,并給出準確回答。同時,從硬件性能方面看,AIBOX在推理階段高達到29.187 token/s,能夠?qū)崿F(xiàn)準確、快速的 AI 對話。
模型實測情況
以下是 AIBOX 產(chǎn)品的實測結(jié)果:

DeepSeek-R1 產(chǎn)品體驗
AIBOX 系列產(chǎn)品具備高性能、低功耗、環(huán)境適應性強等特點,算力覆蓋 6-157 TOPS,通過搭配多樣化深度學習算法,為多個智慧行業(yè)進行數(shù)字化賦能,AIBOX 全系列產(chǎn)品已在 Firefly 官方平臺上線,立即體驗屬于自己的本地化 DeepSeek!
-
AI
+關注
關注
91文章
41315瀏覽量
302694 -
大模型
+關注
關注
2文章
3797瀏覽量
5279 -
DeepSeek
+關注
關注
2文章
855瀏覽量
3414
發(fā)布評論請先 登錄
百度騰訊搶灘布局!DeepSeek-R1升級和開源背后,國產(chǎn)AI的逆襲之路
軟通華方超節(jié)點服務器產(chǎn)品全面適配DeepSeek V4模型
燧原科技L600 FP8原生適配DeepSeek-V4-Pro/Flash模型
中科創(chuàng)達完成魔方派3與AIBOX全棧深度適配及規(guī)?;渴?/a>
中科曙光AI超集群系統(tǒng)和scaleX640超節(jié)點等產(chǎn)品全面適配DeepSeek V3.2
DeepSeek R1 MTP在TensorRT-LLM中的實現(xiàn)與優(yōu)化
速看!EASY-EAI教你離線部署Deepseek R1大模型
【「DeepSeek 核心技術揭秘」閱讀體驗】+混合專家
【「DeepSeek 核心技術揭秘」閱讀體驗】--全書概覽
【「DeepSeek 核心技術揭秘」閱讀體驗】書籍介紹+第一章讀后心得
信而泰×DeepSeek:AI推理引擎驅(qū)動網(wǎng)絡智能診斷邁向 “自愈”時代
Arm Neoverse N2平臺實現(xiàn)DeepSeek-R1滿血版部署
NVIDIA Blackwell GPU優(yōu)化DeepSeek-R1性能 打破DeepSeek-R1在最小延遲場景中的性能紀錄
AIBOX 全系產(chǎn)品已適配 DeepSeek-R1
評論