在中國科學(xué)院軟件研究所智能軟件研究中心與如意 RISC-V 軟件生態(tài)的持續(xù)推動下，Triton-RISCV項目正式開源。該項目基于主流 AI 算子編譯框架 Triton，首次實現(xiàn)了在 RISC-V 平臺上的原生編譯與 RVV 向量加速，并在算能第二代服務(wù)器級 RISC-V 處理器 SG2044 平臺上完成了系統(tǒng)性性能驗證。

Triton-RISCV 項目已在如意社區(qū) GitHub 倉庫開源。這一成果標(biāo)志著 Triton 編譯生態(tài)正式延伸至 RISC-V 平臺，為 AI 算子開發(fā)、深度學(xué)習(xí)編譯優(yōu)化、大模型推理等關(guān)鍵應(yīng)用場景在 RISC-V 上的落地提供了堅實的軟件基礎(chǔ)。

這一進(jìn)展不僅是 RISC-V AI 編譯生態(tài)的重要里程碑，也充分驗證了算能 SG2044 在服務(wù)器級 AI 編譯與高性能向量計算場景下的平臺能力。

在 SG2044 單線程評測中，相比官方 triton-cpu 基線，Triton-RISCV 整體平均性能提升達(dá) 1.57x，峰值提升達(dá) 4.16x。

打通 Triton 到 RVV 的端到端編譯路徑

本次適配工作的核心，在于圍繞 triton-shared 與 buddy-mlir 兩大開源基礎(chǔ)設(shè)施，構(gòu)建了一條從 Triton 前端算子到 RISC-V 向量指令的完整編譯鏈路。

1. 首先將Triton算子轉(zhuǎn)換成Triton官方的TTIR層中間表示；

2. 然后通過triton-shared轉(zhuǎn)換到Linalg層中間表示；

3. 接下來在核心優(yōu)化階段接入buddy-mlir，基于自定義的VIR方言完成向量化；

4. 最后逐步下降到LLVM IR，最終完成RVV指令的代碼生成

該方案在保持 Triton 編程模型可移植性的同時，使 RISC-V 平臺能夠充分利用 RVV 的并行計算能力，為深度學(xué)習(xí)算子開發(fā)與大模型推理等典型負(fù)載提供穩(wěn)定且可持續(xù)的性能基礎(chǔ)。

與現(xiàn)有方案相比，Triton-RISCV 具備兩個核心特點:

原生支持 RVV 架構(gòu)。Triton-RISCV 可在 SG2044 平臺上直接完成原生構(gòu)建與原生運行，無需交叉編譯，顯著簡化了開發(fā)與調(diào)試流程，使 RISC-V 服務(wù)器具備作為完整 AI 算子開發(fā)平臺的工程能力。

復(fù)用 buddy-mlir 向量化能力。在 SG2044 單線程評測中，相比官方 triton-cpu 基線，Triton-RISCV 整體平均性能提升達(dá) 1.57x，峰值提升達(dá) 4.16x。

適配思路:面向 AI 編譯生態(tài)的分層遞進(jìn)

本次適配工作圍繞 Triton 編譯流程進(jìn)行了分層優(yōu)化，重點突破兩個關(guān)鍵層級，使 RISC-V 平臺對 Triton 算子的支持從"可運行"邁向"可向量化、可優(yōu)化、可工程化"的階段。

1. Triton → Linalg:訪存路徑優(yōu)化

針對原有 triton-shared 實現(xiàn)中存在的臨時數(shù)據(jù)搬運冗余(如 memref.copy、tensor.extract_slice、bufferization.materialize_in_destination 等)，項目在該層級對訪存鏈路進(jìn)行了系統(tǒng)性精簡:輸入拷貝改為顯式向量循環(huán)并配合尾部標(biāo)量循環(huán)處理剩余元素;輸出寫回采用 vector.transfer_read 與 vector.store 組合，輔以尾部標(biāo)量處理。訪存路徑的簡化為后續(xù)向量化階段釋放出更大的優(yōu)化空間。

2. Linalg → VIR → LLVM IR:向量化覆蓋率提升

該階段復(fù)用 buddy-mlir 的向量化能力，針對兩類 Linalg 算子開展專項優(yōu)化。一類是 matmul、conv、reduce 等粗粒度算子;另一類是基于 linalg.generic 的細(xì)粒度算子，覆蓋 arith、cmp/select、min/max、位運算與移位等常見操作。上述算子在 VIR 中間表示層完成向量化改寫后，進(jìn)一步下降至 LLVM IR 并最終映射為 RVV 指令，整體向量化覆蓋率顯著提升。

系統(tǒng)性覆蓋率與性能驗證

為系統(tǒng)性驗證適配成果，項目從功能覆蓋率與性能兩個維度對 Triton-RISCV 進(jìn)行了評估。

在功能覆蓋率層面，triton-shared 官方提供的 25 個 Triton 測例已在 SG2044 平臺上全部跑通，覆蓋矩陣計算、規(guī)約、索引、掩碼、訪存等典型場景。同時，項目從大模型算子庫 FlagGems 中挑選并改寫了 12 個代表性測例，涵蓋 attention、blas、norm 與 distributed 四類核心負(fù)載，亦全部驗證通過，具體如下表所示。

在性能評估層面，以官方 triton-cpu為基線，在 SG2044 平臺單線程下采用 warmup=5、repeat=20 的標(biāo)準(zhǔn)化方法測量 Wall time。測試結(jié)果顯示，在納入統(tǒng)計的 15 個算子中，Triton-RISCV 整體平均加速達(dá)到 1.57x，峰值加速達(dá)到 4.16x(matmul 算子);mask、scalar_store、layernorm、tensor_index_iterargs 等典型算子均實現(xiàn)穩(wěn)定的性能提升。

測試結(jié)果表明，在 RVV 1.0 原生執(zhí)行環(huán)境下，Triton-RISCV 能夠?qū)⑸蠈泳幾g優(yōu)化與底層硬件向量化能力有效銜接，為 RISC-V AI 編譯棧在服務(wù)器級場景下的性能潛力提供了實證依據(jù)。

SG2044：服務(wù)器級 RVV 1.0 的關(guān)鍵載體

Triton-RISCV 端到端優(yōu)化路徑的性能落地，最終依賴于 RVV 1.0 指令在硬件平臺上的高效執(zhí)行。算能 SG2044 作為面向 AI 與高性能計算場景的 64 核服務(wù)器級 RISC-V 處理器，原生支持 RVV 1.0 擴展，并具備完整的 Linux 工具鏈與軟件支持，能夠原生承載大型基礎(chǔ)軟件項目的構(gòu)建與運行。

正是基于上述硬件與軟件基礎(chǔ)能力，本次 Triton-RISCV 適配工作選擇 SG2044 作為評測與開發(fā)平臺，并在該平臺上完成了從 Triton 前端到 RVV 指令的完整編譯路徑性能驗證。這一實踐也進(jìn)一步印證了 SG2044 在 AI 編譯、科研計算與服務(wù)器級智能計算等場景下的適用性。

SG2044 RISC-V 服務(wù)器處理器

●64 核 RISC-V，最高主頻 2.6GHz，支持 RVV 1.0 向量擴展

●片內(nèi)集成自研 TPU，支持 FP8 / BF16 / FP16 / FP32 等多精度計算

●128GB LPDDR5X，最高 8533 MT/s，帶寬最高 546GB/s

●40 lane PCIe 5.0，支持高性能外設(shè)擴展

●支持 8K 視頻編解碼（最高 128 路 1080P 解碼 / 64 路編碼）

●支持 AES、SM 系列加密算法與硬件安全模塊

●支持 SV48 大地址空間，滿足大規(guī)模應(yīng)用需求

SRA3-40 RISC-V 計算服務(wù)器

●基于算能第二代RISC-V服務(wù)器級處理器SG2044

●64核RISC-V核心，支持RVV1.0向量擴展

●片內(nèi)融合異構(gòu)TPU，內(nèi)置原生FP8算力

●128GB LPDDR5X統(tǒng)一高速內(nèi)存

●支持 4U 8 卡配置，可搭載多張智算加速卡

●支持 12 塊 SAS / SATA 硬盤 + NVMe SSD

●支持 openEuler / Ubuntu / deepin 等主流操作系統(tǒng)

持續(xù)推進(jìn) RISC-V 生態(tài)建設(shè)

未來算能將持續(xù)攜手如意社區(qū)與生態(tài)伙伴，以 SG2044 為核心平臺載體，共同推動 RISC-V AI 編譯生態(tài)、高性能基礎(chǔ)軟件生態(tài)與服務(wù)器級智能計算生態(tài)的完善與成熟，加速 RISC-V 在 AI、科研計算與國產(chǎn)化替代等關(guān)鍵領(lǐng)域的規(guī)?；涞嘏c應(yīng)用。

Triton-RISCV 項目倉庫:

https://github.com/RuyiAI-Stack/triton-riscv

如果對 Triton-RISCV 項目、SG2044 服務(wù)器平臺、或如意 RISC-V 軟件生態(tài)感興趣，歡迎交流聯(lián)系，我們期待與您共同探討 RISC-V 在 AI 編譯、科研計算與服務(wù)器級智能計算場景的軟件適配、性能優(yōu)化與應(yīng)用解決方案。