2月21日,思必馳DFM-2東風中樞大模型已完成671B滿血版的 DeepSeek-R1部署,在穩(wěn)定性和可靠性方面凸顯優(yōu)勢,用戶不掉線,使用體驗更優(yōu)質(zhì),當前已在智能汽車和智慧辦公場景實現(xiàn)落地應用,進一步激發(fā)垂域應用的智能化潛力。
用戶可以通過以下網(wǎng)址登錄和使用:
思必馳對話通用基礎大模型DFM-2
架構革新:構建穩(wěn)定可靠的分布式系統(tǒng)
思必馳依托國家重大AI任務專項,構建了基于DFM-2東風中樞大模型的1+N分布式大模型智能體系統(tǒng),具備“理解可靠、決策可靠”的特性,通過模塊化拆卸、不同大模型/智能體熱插拔與定向更新技術,實現(xiàn)多垂域大模型的靈活調(diào)度與高效協(xié)同。相較于集中式大模型,DFM在綜合成本、響應速度及垂域精度上優(yōu)勢顯著。
此次深度融合的核心在于思必馳1+N分布式智能體架構的靈活性與高效性。該架構能夠快速接入DeepSeek,并能在資源受限的場景下實現(xiàn)可靠的任務執(zhí)行。通過這種架構,思必馳DFM不僅能夠充分利用DeepSeek的深度推理能力,還能有效避免因延時較高而帶來的不利影響,優(yōu)化資源使用,動態(tài)分布流量,進一步提升系統(tǒng)的實時性與穩(wěn)定性。
架構革新:分布式架構設計
針對傳統(tǒng)系統(tǒng)的單點故障問題,思必馳DFM通過分布式架構設計,打造高可靠性的系統(tǒng)基礎。
· 模塊化微服務:
將業(yè)務拆分為獨立部署的微服務,實現(xiàn)故障自動隔離,避免局部問題影響全局;
· 分布式計算框架:
Spark/Flink集群化部署,算力指數(shù)級提升;
· 異地多活部署:
跨地域部署數(shù)據(jù)中心,確保單一機房故障時服務不會中斷。
智能資源調(diào)度:動態(tài)平衡與彈性伸縮
系統(tǒng)通過實時監(jiān)控服務器健康狀態(tài),結合多層負載均衡實現(xiàn)流量智能分配,優(yōu)化資源使用,避免單點過載,動態(tài)分配流量,確保高性能和高可用性,保障運行穩(wěn)定性。
· 動態(tài)負載平衡:
實時監(jiān)測每臺服務器"健康狀態(tài)";
· 四層/七層負載均衡:
Nginx+HAProxy的組合實現(xiàn)流量智能分配;
· 動態(tài)擴縮容策略:
支持CPU/內(nèi)存/QPS多維指標觸發(fā)的彈性擴縮容策略。
全鏈路壓力測試:模擬真實極限場景
為確保系統(tǒng)在高并發(fā)、復雜故障場景下的穩(wěn)定性,系統(tǒng)采用全鏈路壓測方案:
· 真實流量建模:
基于歷史數(shù)據(jù)生成流量模型,精準模擬業(yè)務高峰;
· 混沌工程演練:
隨機注入節(jié)點故障、網(wǎng)絡延遲等異常,驗證系統(tǒng)容錯能力;
· 全鏈路監(jiān)控優(yōu)化:
通過APM系統(tǒng)實時追蹤性能瓶頸,快速定位并優(yōu)化響應延遲、資源競爭等問題。
場景賦能:從智能汽車到高效辦公,
DFM釋放垂域價值
思必馳DFM-2東風中樞大模型憑借垂域理解精準、系統(tǒng)協(xié)作架構清晰的特征,能夠快速實現(xiàn)場景落地。通過深度集成DeepSeek,DFM進一步提升了在復雜場景下的智能化服務能力,尤其是在智能汽車和AI辦公本等垂域應用中展現(xiàn)了顯著的技術優(yōu)勢,為用戶帶來更高效、更可靠的體驗。
智能汽車:
以思必馳助力五菱接入DeepSeek為例,深度融合后的DFM大模型和以此為基礎的思必馳天琴語音助手在車載場景中表現(xiàn)出色。借助DeepSeek的深度推理能力,車載系統(tǒng)能夠更好地理解用戶的語音指令,并在復雜的駕駛環(huán)境中提供精準的服務。后續(xù),思必馳還將與更多合作車企共同推進在其他車型中的應用。
思必馳AI辦公本:
為效率而生的強勢生產(chǎn)力工具思必馳 AI 辦公本已正式接入DeepSeek-R1模型,用戶可通過「AI 助手」語音喚醒或輸入文字指令直接調(diào)用其功能。接入DeepSeek-R1后,思必馳 AI 辦公本也將為用戶帶來更強大的深度思考與推理能力,信息獲取更高效;生成內(nèi)容支持本地導出,內(nèi)容管理更便捷;同時支持文字或語音指令,創(chuàng)意操控更輕松。思必馳自研專業(yè)會議大模型結合強大智能的創(chuàng)新 AI 工具,幫助用戶提升創(chuàng)意表達和工作效率。
思必馳DFM與DeepSeek的深度融合不僅為當前的應用場景帶來了深度思考能力的提升,也凸顯其卓越的技術性能與場景適配能力。未來,思必馳還將聚焦于進一步推動端側(cè)大模型、多模態(tài)大模型以及推理模型的落地應用,依托分布式架構的靈活性與高可靠性,為用戶提供更加豐富和高效的應用體驗。
-
智能汽車
+關注
關注
30文章
3341瀏覽量
109693 -
思必馳
+關注
關注
4文章
418瀏覽量
16056 -
DeepSeek
+關注
關注
2文章
857瀏覽量
3417
原文標題:穩(wěn)定,可靠,不掉線!思必馳正式接入DeepSeek-R1 671B模型
文章出處:【微信號:思必馳,微信公眾號:思必馳】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
百度騰訊搶灘布局!DeepSeek-R1升級和開源背后,國產(chǎn)AI的逆襲之路
美國硅谷20余家人工智能企業(yè)蒞臨思必馳參觀調(diào)研
昆山數(shù)科集團與思必馳達成戰(zhàn)略合作
思必馳聲音轉(zhuǎn)換算法通過國家備案
思必馳一鳴智能客服大模型通過生成式人工智能服務備案
DeepSeek R1 MTP在TensorRT-LLM中的實現(xiàn)與優(yōu)化
思必馳空調(diào)大模型解決方案
思必馳7月份大事件回顧
速看!EASY-EAI教你離線部署Deepseek R1大模型
【「DeepSeek 核心技術揭秘」閱讀體驗】書籍介紹+第一章讀后心得
Arm Neoverse N2平臺實現(xiàn)DeepSeek-R1滿血版部署
NVIDIA Blackwell GPU優(yōu)化DeepSeek-R1性能 打破DeepSeek-R1在最小延遲場景中的性能紀錄
思必馳接入DeepSeek-R1滿血版大模型
評論