AMD近日宣布了一項(xiàng)重要進(jìn)展,成功將全新的DeepSeek-V3模型集成到其Instinct MI300X GPU上。這一舉措標(biāo)志著AMD在AI推理優(yōu)化方面邁出了重要一步。
據(jù)了解,DeepSeek-V3模型經(jīng)過(guò)了SGLang的強(qiáng)化,專門針對(duì)AI推理進(jìn)行了深度優(yōu)化。這意味著,當(dāng)該模型運(yùn)行在Instinct MI300X GPU上時(shí),將能夠提供更高效、更快速的AI推理能力。這對(duì)于需要高性能AI計(jì)算的應(yīng)用場(chǎng)景來(lái)說(shuō),無(wú)疑是一個(gè)巨大的福音。
值得一提的是,AMD早在去年12月26日就已經(jīng)在Github上公布了支持DeepSeek-V3模型的SGLang v0.4.1版本。這一提前的布局顯示了AMD在技術(shù)研發(fā)上的前瞻性和執(zhí)行力。通過(guò)不斷地更新和優(yōu)化,AMD成功地將這一先進(jìn)技術(shù)集成到了其最新的GPU產(chǎn)品中。
此次DeepSeek-V3模型與Instinct MI300X GPU的結(jié)合,不僅提升了AMD在AI計(jì)算領(lǐng)域的競(jìng)爭(zhēng)力,也為用戶帶來(lái)了更加出色的使用體驗(yàn)。未來(lái),隨著AI技術(shù)的不斷發(fā)展,AMD有望在這一領(lǐng)域取得更多的突破和創(chuàng)新。
-
amd
+關(guān)注
關(guān)注
25文章
5708瀏覽量
140452 -
gpu
+關(guān)注
關(guān)注
28文章
5283瀏覽量
136101 -
模型
+關(guān)注
關(guān)注
1文章
3831瀏覽量
52287 -
DeepSeek
+關(guān)注
關(guān)注
2文章
855瀏覽量
3414
發(fā)布評(píng)論請(qǐng)先 登錄
登臨科技GPU+架構(gòu)深度適配DeepSeek-V4大模型
華為云首發(fā)適配DeepSeek-V4模型
燧原科技L600 FP8原生適配DeepSeek-V4-Pro/Flash模型
壁仞科技壁礪166系列GPU產(chǎn)品率先支持DeepSeek-V4模型
如何在 VisionFive v2 上使用外部 GPU?
偉創(chuàng)力與AMD進(jìn)一步深化戰(zhàn)略合作
大模型實(shí)戰(zhàn)(SC171開(kāi)發(fā)套件V3)2026版
如何在ZYNQ本地部署DeepSeek模型
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】+混合專家
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】--全書概覽
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】第三章:探索 DeepSeek - V3 技術(shù)架構(gòu)的奧秘
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】書籍介紹+第一章讀后心得
重磅!AMD將恢復(fù)向中國(guó)出口MI308芯片!
【書籍評(píng)測(cè)活動(dòng)NO.62】一本書讀懂 DeepSeek 全家桶核心技術(shù):DeepSeek 核心技術(shù)揭秘
低電壓大電流時(shí)代:AI服務(wù)器XPU電源國(guó)產(chǎn)方案來(lái)了
AMD將DeepSeek-V3模型集成至Instinct MI300X GPU
評(píng)論