DeepSeek開源周正式收官，作為國內率先原生支持FP8計算精度的國產GPU企業(yè)，摩爾線程迅速響應，并在短時間內，成功實現(xiàn)對DeepSeek各個開源項目的全面支持，涵蓋FlashMLA、DeepEP、DeepGEMM、DualPipe 以及 Fire-Flyer文件系統(tǒng)（3FS）。這一成果充分驗證了MUSA架構和全功能GPU在生態(tài)兼容與快速適配方面的強大優(yōu)勢。

以下是摩爾線程支持DeepSeek開源周“全家桶”代碼合集：

FlashMLA

FlashMLA是一款高效的MLA（Multi-Head Latent Attention）推理內核開源倉庫，旨在加速MLA機制的計算，特別適用于DeepSeek系列模型（如DeepSeek-V2、V3和R1）。

摩爾線程基于全新MUSA Compute Capability 3.1計算架構，可提供原生FP8計算能力，同時升級了高性能線性代數(shù)模板庫MUTLASS，快速支持了FlashMLA。借助MUTLASS 0.2.0，摩爾線程發(fā)布開源倉庫MT-FlashMLA，能夠快速對DeepSeek FlashMLA進行兼容部署。

MT-FlashMLA開源地址：

https://github.com/MooreThreads/MT-flashMLA

MUTLASS FlashAttention3地址：

https://github.com/MooreThreads/mutlass/tree/main/experimental/mp31_flash_attention_fwd

DeepEP

DeepEP是一個用于MoE（混合專家）模型訓練和推理的開源EP（expert parallelism，專家并行）通信庫，主要適用于大模型訓練，特別是需要EP的集群訓練。它通過優(yōu)化通信信道的使用率，顯著提升了訓練效率。摩爾線程基于MUSA Compute Capability 3.1全功能GPU，第一時間適配了DeepEP，支持以下特性：

高效優(yōu)化的 All-to-All 通信，支持 dispatch & combine

支持 MTLink + GPU（MUSA Compute Capability 3.1）節(jié)點內通信

訓練及推理預填充階段的高吞吐量計算核心

推理解碼階段的低延遲計算核心

原生支持 FP8 數(shù)據分發(fā)

靈活控制 GPU 資源，實現(xiàn)計算與通信的高效重疊

MT-DeepEP開源地址：

https://github.com/MooreThreads/MT-DeepEP

DeepGEMM

DeepGEMM是一個支持密集矩陣與混合專家（MoE）矩陣乘法的FP8 GEMM庫，為V3/R1的訓練與推理提供強大動力。這個開源倉庫基于高性能通用矩陣乘法（GEMM）的C++模板庫進行開發(fā)。摩爾線程基于MUTLASS在全新GPU架構上優(yōu)化實現(xiàn)了FP8矩陣乘法，支持DeepGEMM的相應功能。

MUTLASS FP8 GEMM地址：

https://github.com/MooreThreads/mutlass/tree/main/examples/02_mp31_fp8_gemm_with_collective_builder

https://github.com/MooreThreads/mutlass/tree/main/examples/03_mp31_fp8_scaling_gemm

DualPipe

DualPipe是DeepSeek-V3提出的雙向流水線并行算法，通過前向計算與后向計算階段的計算與通信完全重疊，顯著減少了“流水線氣泡”（設備空閑等待）。與傳統(tǒng)流水線并行相比，DualPipe 采用雙向數(shù)據流設計，使數(shù)據從兩端相向處理，大幅提升了資源利用率與訓練效率。

摩爾線程依托深度學習框架Torch-MUSA（已開源）和MUSA軟件棧全方位的兼容性，實現(xiàn)了對DualPipe這一算法的高效支持。MT-DualPipe可以完整接入摩爾線程 MT-Megatron框架和MT-TransformerEngine框架（即將開源），實現(xiàn)DeepSeek V3訓練流程的完整復現(xiàn)。

MT-DualPipe開源地址：

https://github.com/MooreThreads/MT-DualPipe

Torch-MUSA開源地址：

https://github.com/MooreThreads/Torch_MUSA

3FS

Fire-Flyer文件系統(tǒng)（3FS）是一種利用現(xiàn)代SSD和RDMA網絡的全部帶寬的并行文件系統(tǒng)，可以把固態(tài)硬盤的帶寬性能利用到極致，在V3和R1的訓練與推理過程中，3FS成為關鍵支撐，以應對AI訓練和推理工作負載的挑戰(zhàn)。

摩爾線程在一天內迅速完成了高性能分布式文件系統(tǒng)3FS的搭建，并高效開發(fā)了存儲插件，成功實現(xiàn)與夸娥智算集群的無縫集成，為AI訓練、AI推理、科學計算等場景提供全棧存儲加速方案。

3FS CSI Driver地址：

https://github.com/MooreThreads/csi-driver-3fs

關于摩爾線程

摩爾線程成立于2020年10月，以全功能GPU為核心，致力于向全球提供加速計算的基礎設施和一站式解決方案，為各行各業(yè)的數(shù)智化轉型提供強大的AI計算支持。

我們的目標是成為具備國際競爭力的GPU領軍企業(yè)，為融合人工智能和數(shù)字孿生的數(shù)智世界打造先進的加速計算平臺。我們的愿景是為美好世界加速。