2026年4月24日，DeepSeek V4-Pro和DeepSeek V4-Flash正式發(fā)布并開源，模型上下文處理長(zhǎng)度由原有的128K顯著擴(kuò)展至1M，實(shí)現(xiàn)近10倍的容量提升，首次增加了KV Cache滑窗和壓縮算法，大幅減少Attention計(jì)算和訪存開銷，并通過模型架構(gòu)創(chuàng)新更好地支持了Agent和Coding場(chǎng)景。昇騰一直同步支持DeepSeek系列模型，本次通過雙方芯模技術(shù)緊密協(xié)同，實(shí)現(xiàn)昇騰超節(jié)點(diǎn)全系列產(chǎn)品支持DeepSeek V4系列模型。昇騰950通過融合kernel和多流并行技術(shù)降低Attention計(jì)算和訪存開銷，大幅提升推理性能，結(jié)合多種量化算法，實(shí)現(xiàn)了高吞吐、低時(shí)延的DeepSeek V4模型推理部署。昇騰A3超節(jié)點(diǎn)系列產(chǎn)品也全面適配，同時(shí)為便于用戶快速微調(diào)，提供了基于昇騰A3超節(jié)點(diǎn)的訓(xùn)練參考實(shí)現(xiàn)。

昇騰950超節(jié)點(diǎn)重新定義長(zhǎng)文本推理的性能天花板，實(shí)現(xiàn)DeepSeek V4-Pro 20ms 和DeepSeek V4-Flash 10ms低時(shí)延推理

基于DeepSeek V4-Pro模型，在8K輸入場(chǎng)景，昇騰950超節(jié)點(diǎn)可實(shí)現(xiàn)TPOT約20ms時(shí)單卡Decode 吞吐4700TPS。DeepSeek V4-Flash模型，8K長(zhǎng)序列輸入場(chǎng)景下可實(shí)現(xiàn)TPOT約10ms時(shí)單卡Decode 吞吐1600TPS（注：上述Benchmark數(shù)據(jù)均基于Offine推理模式采集，不包含Serving調(diào)度和框架負(fù)載均衡影響）。極低時(shí)延的實(shí)現(xiàn)源于昇騰950代際底層架構(gòu)的三大升級(jí)：

原生精度加速：全面支持FP8、MXFP8、MXFP4等數(shù)據(jù)格式，在保證模型精度的同時(shí)，可實(shí)現(xiàn)內(nèi)存占用降低50%+，計(jì)算能力翻倍。

稀疏訪存優(yōu)化：針對(duì)MoE模型的離散訪存特征，通過大幅提升硬件級(jí)稀疏訪存能力，有效解決了專家路由過程中的帶寬瓶頸。

Vector與Cube共享Memory：創(chuàng)新的存儲(chǔ)架構(gòu)設(shè)計(jì)，實(shí)現(xiàn)了向量單元（Vector）與矩陣單元（Cube）的Memory共享，消除了大量片上數(shù)據(jù)搬運(yùn)開銷，極大地降低了端到端推理時(shí)延。

同時(shí)我們聯(lián)合定義昇騰超節(jié)點(diǎn)，進(jìn)一步大幅提升延遲和吞吐，同時(shí)實(shí)現(xiàn)低成本，且兼顧萬卡級(jí)別的Scale out 集群規(guī)模。解決了長(zhǎng)序列4K到1M 序列長(zhǎng)度范圍內(nèi)都有低延遲和高吞吐。此架構(gòu)支持基于NAND SSU的超低成本、超大容量、高性能KV Cache有效支撐支持長(zhǎng)序列應(yīng)用。

昇騰A3超節(jié)點(diǎn)系列產(chǎn)品，DeepSeek V4-Flash模型單卡Decode吞吐2000+TPS

Atlas 900 A3 SuperPoD液冷超節(jié)點(diǎn)及Atlas 800 A3風(fēng)冷超節(jié)點(diǎn)采用平等架構(gòu)、全局內(nèi)存統(tǒng)一編址、點(diǎn)對(duì)點(diǎn)互聯(lián)帶寬達(dá)784GB/s。提供32到384多種規(guī)格滿足不同業(yè)務(wù)需求，昇騰超節(jié)點(diǎn)是國(guó)內(nèi)唯一成熟規(guī)模商用的超節(jié)點(diǎn)產(chǎn)品，滿足互聯(lián)網(wǎng)、運(yùn)營(yíng)商、金融等行業(yè)對(duì)大模型推理超高吞吐、超大并發(fā)的極致性能需求。

基于昇騰A3 64卡超節(jié)點(diǎn)結(jié)合大EP模式部署，DeepSeek V4-Flash模型，8K/1K輸入輸出場(chǎng)景，基于vLLM推理引擎可實(shí)現(xiàn)2000+TPS的單卡Decode吞吐，單卡吞吐持續(xù)提升。針對(duì)DeepSeek V4-Pro模型，昇騰A3同步支持推理部署，性能持續(xù)優(yōu)化中。

PyPTO編程新范式與TileLang方案同步開源

為了解決自定義算子開發(fā)門檻高、周期長(zhǎng)的痛點(diǎn)，昇騰CANN推出了PyPTO編程范式。PyPTO提供完善的Python API，使開發(fā)者能夠以符合Python習(xí)慣的語法進(jìn)行算子開發(fā)。

高效的算子開發(fā)：PyPTO依托內(nèi)置高級(jí)編譯優(yōu)化，可自動(dòng)完成流水編排與內(nèi)存管理，使開發(fā)者無需關(guān)注硬件細(xì)節(jié)而專注于計(jì)算流表達(dá)，實(shí)現(xiàn)DeepSeek V4新一代模型算子開發(fā)周期可縮短至天級(jí)。

高性能Kernel自動(dòng)生成：針對(duì)Attention、Compressor、mHC等復(fù)雜邏輯算子，PyPTO可自動(dòng)生成高度優(yōu)化的Kernel，避免開發(fā)者手動(dòng)處理繁瑣的同步與數(shù)據(jù)搬運(yùn)，顯著縮短從算法驗(yàn)證到部署落地的開發(fā)周期。

PTO ISA虛擬指令集跨代兼容：PyPTO基于PTO虛擬指令集（PTO ISA），實(shí)現(xiàn)了對(duì)硬件新特性的“零感適配”，針對(duì)不同代際芯片統(tǒng)一指令接口，實(shí)現(xiàn)了同一套算子代碼，在不同代際芯片上的兼容實(shí)現(xiàn)。借助畢昇編譯器的VF（Vector Fusion）自動(dòng)融合能力，可在micro kernel級(jí)別實(shí)現(xiàn)更優(yōu)融合。

TileLang社區(qū)生態(tài)：TileLang-Ascend是TileLang針對(duì)華為昇騰平臺(tái)深度優(yōu)化的實(shí)現(xiàn)，分別對(duì)應(yīng)Tilelang-Ascend的Expert和Developer開發(fā)模式，提供AscendC基礎(chǔ)指令和PTO AS兩種對(duì)接層次，為各種編程前端語言和編譯器提供多層開放接口。DeepSeek V4模型相關(guān)實(shí)現(xiàn)已在TileAI開源社區(qū)正式發(fā)布，后續(xù)將持續(xù)推進(jìn)性能優(yōu)化與功能迭代。

昇騰A2、A3及950全系列產(chǎn)品適配DeepSeek V4-Flash、DeepSeek V4-Pro。昇騰始終致力于為世界提供新選擇，以極致的算力與開放的生態(tài)，加速AI產(chǎn)業(yè)的繁榮。我們期待與廣大客戶及開發(fā)者攜手共進(jìn)，在DeepSeek V4的新紀(jì)元中探索無限可能。