英偉達發(fā)布DeepSeek R1于NIM平臺
英偉達近日宣布，其DeepSeek R1 671b版本已正式上線英偉達NIM(NVIDIA Inference Microservices)平臺，并以預覽版的形式在build.nvidia.com網(wǎng)站上發(fā)布。
據(jù)悉，DeepSeek R1 NIM微服務是英偉達在人工智能領域的一項重要創(chuàng)新，旨在為用戶提供高效、精準的推理服務。在單個英偉達HGX H200系統(tǒng)上，該微服務每秒最多可處理3872個token，展現(xiàn)出強大的處理能力和高效性。
此次上線的DeepSeek R1 NIM微服務預覽版，允許開發(fā)人員對其進行測試和實驗，以更好地了解其性能和功能。英偉達表示，未來該API將作為英偉達AI Enterprise軟件平臺的一部分，以可下載的NIM微服務形式正式推出，為用戶提供更加便捷、高效的使用體驗。
英偉達一直致力于推動人工智能技術的發(fā)展和應用，此次發(fā)布的DeepSeek R1 NIM微服務預覽版，不僅展示了英偉達在人工智能領域的強大技術實力，也為用戶提供了更加高效、精準的推理服務。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
軟件
+關注
關注
69文章
5364瀏覽量
91943 -
NIM
+關注
關注
0文章
10瀏覽量
8260 -
人工智能
+關注
關注
1821文章
50366瀏覽量
267046 -
英偉達
+關注
關注
23文章
4116瀏覽量
99650 -
DeepSeek
+關注
關注
2文章
855瀏覽量
3413
發(fā)布評論請先 登錄
相關推薦
熱點推薦
百度騰訊搶灘布局！DeepSeek-R1升級和開源背后，國產(chǎn)AI的逆襲之路
Hugging Face平臺開源。用戶可通過官方網(wǎng)頁、App、小程序進入對話界面后，開啟“深度思考”功能體驗最新版本。API也已同步更新，調(diào)用方式不變。 ? DeepSeek-R1-0528編程能力提升
豪恩汽電發(fā)布基于英偉達平臺的機器人域控與多維感知產(chǎn)品
3月26日下午，豪恩汽電舉行豪恩機器人域控與多維感知產(chǎn)品發(fā)布暨投資者交流會，現(xiàn)場座無虛席，線上線下合計超過250名機構投資者與個人投資者，共同見證公司首款基于英偉達Jetson Thor平臺
DeepSeek爆火一周年的寂靜
，爭先恐后地展示技術進步。而另一邊，則是DeepSeek新模型缺席春節(jié)假期，與一年前R1橫空出世、引爆全球關注的高光姿態(tài)，形成了鮮明對比。 ? 恰逢R1爆火一周年的時刻，我們回溯了過去一年De
麥格納宣布擴大與英偉達的戰(zhàn)略合作
麥格納宣布擴大與英偉達的戰(zhàn)略合作，為整車廠基于英偉達DRIVE Hyperion平臺的項目落地提供支持。
黃仁勛新年第一場演講提了DeepSeek 黃仁勛:機器人領域迎來ChatGPT時刻
我們來看看英偉達首席執(zhí)行官黃仁勛在CES 2026上發(fā)表的主題演講。 黃仁勛新年第一場演講提了DeepSeek? 在當?shù)貢r間1月5日黃仁勛在CES 2026上發(fā)表主題演講，黃仁勛的新年
英偉達發(fā)布 NVQLink 開放系統(tǒng)架構；國內(nèi)首個汽車芯片標準驗證平臺投入使用
英偉達發(fā)布 NVQLink 開放系統(tǒng)架構 在華盛頓特區(qū)舉行的英偉達全球技術大會上，英偉
發(fā)表于 10-29 10:33
?1353次閱讀
DeepSeek R1 MTP在TensorRT-LLM中的實現(xiàn)與優(yōu)化
TensorRT-LLM 在 NVIDIA Blackwell GPU 上創(chuàng)下了 DeepSeek-R1 推理性能的世界紀錄，Multi-Token Prediction (MTP) 實現(xiàn)了大幅提速
如何在NVIDIA Blackwell GPU上優(yōu)化DeepSeek R1吞吐量
開源 DeepSeek R1 模型的創(chuàng)新架構包含多頭潛在注意力機制 (MLA) 和大型稀疏混合專家模型 (MoE)，其顯著提升了大語言模型 (LLM) 的推理效率。
速看！EASY-EAI教你離線部署Deepseek R1大模型
1.Deepseek簡介DeepSeek-R1，是幻方量化旗下AI公司深度求索（DeepSeek）研發(fā)的推理模型。DeepSeek-R1采用強化學習進行后訓練，旨在提升推理能力，尤其擅
【「DeepSeek 核心技術揭秘」閱讀體驗】--全書概覽
講解Deepseek的使用方法
第三章 深入剖析Deepseek-V3的模型架構、訓練框架、推理階段優(yōu)化、后訓練優(yōu)化等關鍵技術
第四章關于DeepSeek-R1的技術剖析
第五章 從宏觀角度分析
發(fā)表于 07-21 00:04
【「DeepSeek 核心技術揭秘」閱讀體驗】書籍介紹+第一章讀后心得
的展望，大模型的訓練方法、推理部署，到 GPU 硬件及推理模型的發(fā)展趨勢，以前瞻性的視角為讀者描繪了大模型的發(fā)展藍圖。
技驚四座的DeepSeek -R1模型發(fā)布歷程
2025年年初，全球人工智能領域
發(fā)表于 07-17 11:59
Arm Neoverse N2平臺實現(xiàn)DeepSeek-R1滿血版部署
頗具優(yōu)勢。Arm 攜手合作伙伴，在 Arm Neoverse N2 平臺上使用開源推理框架 llama.cpp 實現(xiàn) DeepSeek-R1 滿血版的部署，目前已可提供線上服務。
DeepSeek開源新版R1 媲美OpenAI o3
DeepSeek“悄悄”地又放了一個大招，DeepSeek開源了R1最新0528版本。盡管DeepSeek目前還沒有對該版本進行任何說明，但是根據(jù)著名代碼測試
評論