電子發(fā)燒友App
5月10日，由摩爾線程與SGLang社區(qū)聯(lián)合主辦的“MUSA開(kāi)源技術(shù)沙龍｜SGLang × MUSA Meetup”在北京成功舉行。
本次Meetup不僅集結(jié)了SGLang核心開(kāi)發(fā)成員，并邀請(qǐng)到TileLang、Triton、Mooncake等開(kāi)源社區(qū)的頂尖技術(shù)專家，吸引了近百位前沿開(kāi)發(fā)者到場(chǎng)參與。各方圍繞大模型推理引擎、算子編譯、工程優(yōu)化與生態(tài)共建等核心議題，展開(kāi)了一場(chǎng)高密度、深層次的技術(shù)交流。
作為MUSA后端正式合入SGLang主線后的首場(chǎng)線下技術(shù)活動(dòng)，此次Meetup集中展現(xiàn)了摩爾線程在推動(dòng)國(guó)產(chǎn)GPU深度融入全球主流開(kāi)源框架、加速AI軟件棧生態(tài)共建方面取得的里程碑成果。基于這一官方支持體系，開(kāi)發(fā)者在使用SGLang運(yùn)行大語(yǔ)言模型及多模態(tài)推理任務(wù)時(shí)，已可直接調(diào)用摩爾線程全功能GPU，無(wú)需依賴第三方適配層，國(guó)產(chǎn)算力與國(guó)際主流推理框架的協(xié)同由此邁入“原生支持”的新階段。
立足通用計(jì)算，以MUSA開(kāi)放架構(gòu)擁抱開(kāi)源生態(tài)
摩爾線程CTO張鈺勃在開(kāi)場(chǎng)致辭中，深度闡釋了MUSA（Meta-computing Unified System Architecture）統(tǒng)一系統(tǒng)架構(gòu)的核心設(shè)計(jì)理念。他強(qiáng)調(diào)，摩爾線程始終堅(jiān)持“通用計(jì)算”的初衷，以真正通用及高度統(tǒng)一的底層計(jì)算平臺(tái)，支撐從物理世界仿真、數(shù)字孿生到具身智能的未來(lái)技術(shù)演進(jìn)，不為創(chuàng)新設(shè)限；同時(shí)，通過(guò)全產(chǎn)品線“統(tǒng)一”的指令集與架構(gòu)標(biāo)準(zhǔn)，確保軟件生態(tài)能夠持續(xù)沉淀與積累。
針對(duì)開(kāi)發(fā)者最為關(guān)心的生態(tài)遷移體驗(yàn)，張鈺勃表示：“摩爾線程秉持開(kāi)放的態(tài)度，MUSA在接口設(shè)計(jì)上最大程度復(fù)用了開(kāi)發(fā)者熟悉的GPU編程習(xí)慣。我們不希望獨(dú)立創(chuàng)造一套封閉的生態(tài)，而是以零學(xué)習(xí)成本，全面融入現(xiàn)有的繁榮生態(tài)。”基于這一開(kāi)放理念，他指出，此次MUSA獲得SGLang官方支持，正是摩爾線程擁抱開(kāi)源社區(qū)的關(guān)鍵一步。未來(lái)，摩爾線程將與廣大開(kāi)發(fā)者并肩前行，持續(xù)在框架底層創(chuàng)新上貢獻(xiàn)更多核心力量。
技術(shù)分享：從推理框架到算子內(nèi)核，共探國(guó)產(chǎn)GPU落地路徑技術(shù)
分享環(huán)節(jié)，SGLang、Triton、TileLang及Mooncake社區(qū)的核心專家圍繞推理框架、算子編譯與訓(xùn)推系統(tǒng)等議題，帶來(lái)了五場(chǎng)深度技術(shù)分享。
解析演進(jìn)路線，SGLang以創(chuàng)新架構(gòu)挑戰(zhàn)大模型推理極限
SGLang核心開(kāi)發(fā)成員Xiaoyu Zhang（BBuf）重點(diǎn)解析了框架的關(guān)鍵演進(jìn)：支撐DeepSeek-V4等模型的Prefill-Decode分離架構(gòu)與分層緩存機(jī)制，以及Zero?overhead Speculative Decoding帶來(lái)的推測(cè)解碼效率躍升。在算子層，原有的sgl?kernel包因體積膨脹（超1.5GB）已逐步遷移至全新的Jit?kernel體系，基于TVM?FFI實(shí)現(xiàn)按需編譯，大幅提升開(kāi)發(fā)與發(fā)版效率。同時(shí)，SGLang積極引入Vibe Coding實(shí)踐，利用AI Agent自動(dòng)完成了超60項(xiàng)性能分析與調(diào)優(yōu)任務(wù)。發(fā)布2026年Q2 Roadmap時(shí)，他明確表示摩爾線程MUSA已正式納入SGLang硬件適配核心陣列，未來(lái)雙方將深化原生算子支持，共同推動(dòng)頂級(jí)推理框架與國(guó)產(chǎn)算力底座的“原生”級(jí)融合。
打通原生生態(tài)，MUSA釋放主流模型“開(kāi)箱即用”算力
摩爾線程Contributor ROCKSTAR分享了SGLang在MUSA平臺(tái)上的優(yōu)化與工程落地實(shí)踐。他重點(diǎn)介紹了實(shí)現(xiàn)快速兼容的關(guān)鍵——torchada適配層，通過(guò)一次import torchada即可讓開(kāi)發(fā)者現(xiàn)有CUDA代碼無(wú)縫運(yùn)行在摩爾線程GPU上，大幅降低適配與維護(hù)成本。在算子層面，摩爾線程開(kāi)源的 MATE（MUSA AI Tensor Engine）算子庫(kù)提供了高性能Attention與GEMM算子，已對(duì)接 FlashAttention、FlashMLA、DeepGEMM等主流接口。目前，基于MUSA的SGLang已支持DeepSeek、Qwen、GLM等主流大模型及Wan、LTX等視頻生成模型，在MTT S5000等硬件上實(shí)現(xiàn)真正的“開(kāi)箱即用”與無(wú)縫加速，顯著降低了開(kāi)發(fā)者的算力遷移門(mén)檻。截至5月12日，摩爾線程在SGLang主線累計(jì)提交47個(gè)PR，其中41個(gè)已合入，完成了從環(huán)境構(gòu)建到分布式推理的全鏈路打通，為開(kāi)源生態(tài)持續(xù)貢獻(xiàn)了扎實(shí)的工程能力。
SGLang × MUSA Roadmap地址：https://github.com/sgl-project/sglang/issues/16565
SGLang安裝文檔：https://docs.sglang.io/docs/hardware-platforms/mthreads_gpu
攻克關(guān)鍵算子優(yōu)化，Triton助力構(gòu)建跨芯片統(tǒng)一軟件棧
北京智源人工智能研究院AI編譯器研究員肖航的演講聚焦于大模型Triton關(guān)鍵算子的優(yōu)化及其在MUSA平臺(tái)上的深度適配。他介紹了旨在打通多種AI芯片的統(tǒng)一開(kāi)源軟件棧FlagOS，其FlagGEMs算子庫(kù)已涵蓋超497個(gè)算子，并依托FlagTree編譯器與Triton-TLE語(yǔ)言擴(kuò)展，實(shí)現(xiàn)了跨芯片的高性能算子生成。通過(guò)融化、量化等方式加速Fused MoE和FP8 GEMM等算子性能4倍以上。在DeepSeek-V4的Day0適配中，通過(guò)摩爾線程專用的張量加速引擎與FlagOSTune調(diào)優(yōu)方案，TTFT時(shí)延降低56.7%，吞吐量提升65.7%。這種跨芯片的統(tǒng)一抽象與優(yōu)化機(jī)制，正為摩爾線程等國(guó)產(chǎn)GPU構(gòu)建起更加豐富、高效的算力應(yīng)用生態(tài)。
破解硬件依賴，TileLang以極簡(jiǎn)抽象重塑算子開(kāi)發(fā)范式
TileLang Maintainer唐正舉深入探討了作為T(mén)ile級(jí)領(lǐng)域特定編程語(yǔ)言（DSL），TileLang在化解算子硬件依賴與性能調(diào)優(yōu)上的核心優(yōu)勢(shì)。通過(guò)對(duì)計(jì)算與數(shù)據(jù)搬運(yùn)基本單元（Tile）的顯式控制，開(kāi)發(fā)者能以極簡(jiǎn)代碼實(shí)現(xiàn)極致性能——例如用約50行代碼寫(xiě)出比肩FlashAttention專家?guī)斓膋ernel，在Attention?Sinks等算子上更獲得20倍以上加速。TileLang提供Beginner、Developer、Expert三種編程模式，兼顧上手簡(jiǎn)易與深度調(diào)優(yōu)；DeepSeek-V4已在訓(xùn)練中原生采用其編寫(xiě)核心kernel，達(dá)到硬件峰值性能。作為開(kāi)源近一年即斬獲超6000星的熱門(mén)社區(qū)，TileLang正與MUSA生態(tài)深度聯(lián)調(diào)，共同構(gòu)建適配摩爾線程全功能GPU的高性能算子庫(kù)。未來(lái)，Tile?AI社區(qū)還將圍繞分布式算子編程、自動(dòng)調(diào)度等新項(xiàng)目發(fā)力，持續(xù)賦能AI算力演進(jìn)。
TileLang-MUSA開(kāi)源地址：https://github.com/tile-ai/tilelang-musa
TileKernels算子庫(kù)開(kāi)源地址：https://github.com/tile-ai/tilelang-musa/tree/main/tilekernels
踐行極致解耦，Mooncake訓(xùn)推一體系統(tǒng)在國(guó)產(chǎn)GPU的高效實(shí)踐
Mooncake Contributor馬騰分享了Mooncake與SGLang深度結(jié)合的技術(shù)演進(jìn)。其核心傳輸引擎（Transfer Engine）充分利用零拷貝RDMA與多協(xié)議支持，實(shí)現(xiàn)高吞吐與超低延遲；KV Cache Store將GPU顯存、DRAM、SSD等異構(gòu)存儲(chǔ)統(tǒng)一池化，顯著降低長(zhǎng)上下文推理成本。在彈性EP架構(gòu)中，Mooncake支持故障節(jié)點(diǎn)動(dòng)態(tài)摘除與Expert映射調(diào)整，大幅提升集群容錯(cuò)能力；在RL權(quán)重更新場(chǎng)景，通過(guò)P2P傳輸將同步時(shí)間從53秒壓縮至7.2秒。目前，摩爾線程已作為Mooncake項(xiàng)目的核心Maintainer之一，深度參與多節(jié)點(diǎn)通信協(xié)議等關(guān)鍵特性共建。這一系列工程創(chuàng)新，正將Mooncake打造為現(xiàn)代AI生產(chǎn)與部署軟件棧的關(guān)鍵一環(huán)。
圓桌討論：SGLang+MUSA 生態(tài)共建與工程化破局
在圓桌對(duì)話環(huán)節(jié)，摩爾線程軟件副總裁楊上山擔(dān)任主持人，與Xiaoyu Zhang（BBuf）、ROCKSTAR、肖航、唐正舉及馬騰五位技術(shù)專家同臺(tái)，圍繞“SGLang + MUSA生態(tài)共建與工程化破局”展開(kāi)深度探討。
面對(duì)開(kāi)源技術(shù)創(chuàng)新提速與國(guó)產(chǎn)多硬件生態(tài)復(fù)雜度加劇的雙重挑戰(zhàn)，嘉賓們從框架、算子、通信到系統(tǒng)架構(gòu)逐一破題：BBuf呼吁框架層建立更干凈的硬件抽象，避免侵入式修改；R0CKSTAR分享了MUSA在兼容CUDA生態(tài)過(guò)程中“接口兼容、底層創(chuàng)新”的關(guān)鍵路徑；肖航結(jié)合Triton及TLE擴(kuò)展，探討了可編程性與極致性能之間的再平衡策略；唐正舉強(qiáng)調(diào)TileLang的Tile抽象可作為連接模型、算子和硬件的統(tǒng)一紐帶，助力國(guó)產(chǎn)芯片全鏈路形成合力；馬騰則從系統(tǒng)視角指出，最佳實(shí)踐的沉淀與端到端場(chǎng)景驗(yàn)證是生態(tài)繁榮的關(guān)鍵。嘉賓們一致認(rèn)為，未來(lái)12個(gè)月應(yīng)優(yōu)先建立跨層級(jí)的統(tǒng)一抽象邊界、標(biāo)準(zhǔn)化適配接口與共享的基準(zhǔn)測(cè)試體系，以開(kāi)放協(xié)作替代重復(fù)適配，共同推動(dòng)國(guó)產(chǎn)AI軟硬件生態(tài)的協(xié)同突破。
結(jié)語(yǔ)
此次“SGLang × MUSA Meetup”的成功舉辦，標(biāo)志著MUSA后端合入SGLang主線后，國(guó)產(chǎn)GPU與全球頂級(jí)推理框架的協(xié)同從“代碼共建”邁向“生態(tài)共聚”。
通過(guò)與SGLang、TileLang、Triton、Mooncake等開(kāi)源社區(qū)的緊密協(xié)作，摩爾線程不僅推動(dòng)了MUSA平臺(tái)與主流AI框架的深度適配，更以實(shí)際行動(dòng)賦能開(kāi)發(fā)者，持續(xù)助力國(guó)產(chǎn)算力與全球開(kāi)源生態(tài)的深度融合，加速AI應(yīng)用的創(chuàng)新與落地。從一行行代碼的提交合入，到如今線下社區(qū)的深度共聚，摩爾線程正攜手頂尖開(kāi)源力量，持續(xù)夯實(shí)國(guó)產(chǎn)GPU軟件棧底座，與廣大開(kāi)發(fā)者并肩前行。
關(guān)于摩爾線程
摩爾線程以全功能GPU為核心，致力于向全球提供加速計(jì)算的基礎(chǔ)設(shè)施和一站式解決方案，為各行各業(yè)的數(shù)智化轉(zhuǎn)型提供強(qiáng)大的AI計(jì)算支持。我們的目標(biāo)是成為具備國(guó)際競(jìng)爭(zhēng)力的GPU領(lǐng)軍企業(yè)，為融合人工智能和數(shù)字孿生的數(shù)智世界打造先進(jìn)的加速計(jì)算平臺(tái)。我們的愿景是為美好世界加速。
本次Meetup不僅集結(jié)了SGLang核心開(kāi)發(fā)成員，并邀請(qǐng)到TileLang、Triton、Mooncake等開(kāi)源社區(qū)的頂尖技術(shù)專家，吸引了近百位前沿開(kāi)發(fā)者到場(chǎng)參與。各方圍繞大模型推理引擎、算子編譯、工程優(yōu)化與生態(tài)共建等核心議題，展開(kāi)了一場(chǎng)高密度、深層次的技術(shù)交流。
作為MUSA后端正式合入SGLang主線后的首場(chǎng)線下技術(shù)活動(dòng)，此次Meetup集中展現(xiàn)了摩爾線程在推動(dòng)國(guó)產(chǎn)GPU深度融入全球主流開(kāi)源框架、加速AI軟件棧生態(tài)共建方面取得的里程碑成果。基于這一官方支持體系，開(kāi)發(fā)者在使用SGLang運(yùn)行大語(yǔ)言模型及多模態(tài)推理任務(wù)時(shí)，已可直接調(diào)用摩爾線程全功能GPU，無(wú)需依賴第三方適配層，國(guó)產(chǎn)算力與國(guó)際主流推理框架的協(xié)同由此邁入“原生支持”的新階段。
立足通用計(jì)算，以MUSA開(kāi)放架構(gòu)擁抱開(kāi)源生態(tài)
摩爾線程CTO張鈺勃在開(kāi)場(chǎng)致辭中，深度闡釋了MUSA（Meta-computing Unified System Architecture）統(tǒng)一系統(tǒng)架構(gòu)的核心設(shè)計(jì)理念。他強(qiáng)調(diào)，摩爾線程始終堅(jiān)持“通用計(jì)算”的初衷，以真正通用及高度統(tǒng)一的底層計(jì)算平臺(tái)，支撐從物理世界仿真、數(shù)字孿生到具身智能的未來(lái)技術(shù)演進(jìn)，不為創(chuàng)新設(shè)限；同時(shí)，通過(guò)全產(chǎn)品線“統(tǒng)一”的指令集與架構(gòu)標(biāo)準(zhǔn)，確保軟件生態(tài)能夠持續(xù)沉淀與積累。
針對(duì)開(kāi)發(fā)者最為關(guān)心的生態(tài)遷移體驗(yàn)，張鈺勃表示：“摩爾線程秉持開(kāi)放的態(tài)度，MUSA在接口設(shè)計(jì)上最大程度復(fù)用了開(kāi)發(fā)者熟悉的GPU編程習(xí)慣。我們不希望獨(dú)立創(chuàng)造一套封閉的生態(tài)，而是以零學(xué)習(xí)成本，全面融入現(xiàn)有的繁榮生態(tài)。”基于這一開(kāi)放理念，他指出，此次MUSA獲得SGLang官方支持，正是摩爾線程擁抱開(kāi)源社區(qū)的關(guān)鍵一步。未來(lái)，摩爾線程將與廣大開(kāi)發(fā)者并肩前行，持續(xù)在框架底層創(chuàng)新上貢獻(xiàn)更多核心力量。
技術(shù)分享：從推理框架到算子內(nèi)核，共探國(guó)產(chǎn)GPU落地路徑技術(shù)
分享環(huán)節(jié)，SGLang、Triton、TileLang及Mooncake社區(qū)的核心專家圍繞推理框架、算子編譯與訓(xùn)推系統(tǒng)等議題，帶來(lái)了五場(chǎng)深度技術(shù)分享。
解析演進(jìn)路線，SGLang以創(chuàng)新架構(gòu)挑戰(zhàn)大模型推理極限
SGLang核心開(kāi)發(fā)成員Xiaoyu Zhang（BBuf）重點(diǎn)解析了框架的關(guān)鍵演進(jìn)：支撐DeepSeek-V4等模型的Prefill-Decode分離架構(gòu)與分層緩存機(jī)制，以及Zero?overhead Speculative Decoding帶來(lái)的推測(cè)解碼效率躍升。在算子層，原有的sgl?kernel包因體積膨脹（超1.5GB）已逐步遷移至全新的Jit?kernel體系，基于TVM?FFI實(shí)現(xiàn)按需編譯，大幅提升開(kāi)發(fā)與發(fā)版效率。同時(shí)，SGLang積極引入Vibe Coding實(shí)踐，利用AI Agent自動(dòng)完成了超60項(xiàng)性能分析與調(diào)優(yōu)任務(wù)。發(fā)布2026年Q2 Roadmap時(shí)，他明確表示摩爾線程MUSA已正式納入SGLang硬件適配核心陣列，未來(lái)雙方將深化原生算子支持，共同推動(dòng)頂級(jí)推理框架與國(guó)產(chǎn)算力底座的“原生”級(jí)融合。
摩爾線程Contributor ROCKSTAR分享了SGLang在MUSA平臺(tái)上的優(yōu)化與工程落地實(shí)踐。他重點(diǎn)介紹了實(shí)現(xiàn)快速兼容的關(guān)鍵——torchada適配層，通過(guò)一次import torchada即可讓開(kāi)發(fā)者現(xiàn)有CUDA代碼無(wú)縫運(yùn)行在摩爾線程GPU上，大幅降低適配與維護(hù)成本。在算子層面，摩爾線程開(kāi)源的 MATE（MUSA AI Tensor Engine）算子庫(kù)提供了高性能Attention與GEMM算子，已對(duì)接 FlashAttention、FlashMLA、DeepGEMM等主流接口。目前，基于MUSA的SGLang已支持DeepSeek、Qwen、GLM等主流大模型及Wan、LTX等視頻生成模型，在MTT S5000等硬件上實(shí)現(xiàn)真正的“開(kāi)箱即用”與無(wú)縫加速，顯著降低了開(kāi)發(fā)者的算力遷移門(mén)檻。截至5月12日，摩爾線程在SGLang主線累計(jì)提交47個(gè)PR，其中41個(gè)已合入，完成了從環(huán)境構(gòu)建到分布式推理的全鏈路打通，為開(kāi)源生態(tài)持續(xù)貢獻(xiàn)了扎實(shí)的工程能力。
SGLang × MUSA Roadmap地址：https://github.com/sgl-project/sglang/issues/16565
SGLang安裝文檔：https://docs.sglang.io/docs/hardware-platforms/mthreads_gpu
攻克關(guān)鍵算子優(yōu)化，Triton助力構(gòu)建跨芯片統(tǒng)一軟件棧
北京智源人工智能研究院AI編譯器研究員肖航的演講聚焦于大模型Triton關(guān)鍵算子的優(yōu)化及其在MUSA平臺(tái)上的深度適配。他介紹了旨在打通多種AI芯片的統(tǒng)一開(kāi)源軟件棧FlagOS，其FlagGEMs算子庫(kù)已涵蓋超497個(gè)算子，并依托FlagTree編譯器與Triton-TLE語(yǔ)言擴(kuò)展，實(shí)現(xiàn)了跨芯片的高性能算子生成。通過(guò)融化、量化等方式加速Fused MoE和FP8 GEMM等算子性能4倍以上。在DeepSeek-V4的Day0適配中，通過(guò)摩爾線程專用的張量加速引擎與FlagOSTune調(diào)優(yōu)方案，TTFT時(shí)延降低56.7%，吞吐量提升65.7%。這種跨芯片的統(tǒng)一抽象與優(yōu)化機(jī)制，正為摩爾線程等國(guó)產(chǎn)GPU構(gòu)建起更加豐富、高效的算力應(yīng)用生態(tài)。
破解硬件依賴，TileLang以極簡(jiǎn)抽象重塑算子開(kāi)發(fā)范式
TileLang Maintainer唐正舉深入探討了作為T(mén)ile級(jí)領(lǐng)域特定編程語(yǔ)言（DSL），TileLang在化解算子硬件依賴與性能調(diào)優(yōu)上的核心優(yōu)勢(shì)。通過(guò)對(duì)計(jì)算與數(shù)據(jù)搬運(yùn)基本單元（Tile）的顯式控制，開(kāi)發(fā)者能以極簡(jiǎn)代碼實(shí)現(xiàn)極致性能——例如用約50行代碼寫(xiě)出比肩FlashAttention專家?guī)斓膋ernel，在Attention?Sinks等算子上更獲得20倍以上加速。TileLang提供Beginner、Developer、Expert三種編程模式，兼顧上手簡(jiǎn)易與深度調(diào)優(yōu)；DeepSeek-V4已在訓(xùn)練中原生采用其編寫(xiě)核心kernel，達(dá)到硬件峰值性能。作為開(kāi)源近一年即斬獲超6000星的熱門(mén)社區(qū)，TileLang正與MUSA生態(tài)深度聯(lián)調(diào)，共同構(gòu)建適配摩爾線程全功能GPU的高性能算子庫(kù)。未來(lái)，Tile?AI社區(qū)還將圍繞分布式算子編程、自動(dòng)調(diào)度等新項(xiàng)目發(fā)力，持續(xù)賦能AI算力演進(jìn)。
TileLang-MUSA開(kāi)源地址：https://github.com/tile-ai/tilelang-musa
TileKernels算子庫(kù)開(kāi)源地址：https://github.com/tile-ai/tilelang-musa/tree/main/tilekernels
踐行極致解耦，Mooncake訓(xùn)推一體系統(tǒng)在國(guó)產(chǎn)GPU的高效實(shí)踐
Mooncake Contributor馬騰分享了Mooncake與SGLang深度結(jié)合的技術(shù)演進(jìn)。其核心傳輸引擎（Transfer Engine）充分利用零拷貝RDMA與多協(xié)議支持，實(shí)現(xiàn)高吞吐與超低延遲；KV Cache Store將GPU顯存、DRAM、SSD等異構(gòu)存儲(chǔ)統(tǒng)一池化，顯著降低長(zhǎng)上下文推理成本。在彈性EP架構(gòu)中，Mooncake支持故障節(jié)點(diǎn)動(dòng)態(tài)摘除與Expert映射調(diào)整，大幅提升集群容錯(cuò)能力；在RL權(quán)重更新場(chǎng)景，通過(guò)P2P傳輸將同步時(shí)間從53秒壓縮至7.2秒。目前，摩爾線程已作為Mooncake項(xiàng)目的核心Maintainer之一，深度參與多節(jié)點(diǎn)通信協(xié)議等關(guān)鍵特性共建。這一系列工程創(chuàng)新，正將Mooncake打造為現(xiàn)代AI生產(chǎn)與部署軟件棧的關(guān)鍵一環(huán)。
圓桌討論：SGLang+MUSA 生態(tài)共建與工程化破局
在圓桌對(duì)話環(huán)節(jié)，摩爾線程軟件副總裁楊上山擔(dān)任主持人，與Xiaoyu Zhang（BBuf）、ROCKSTAR、肖航、唐正舉及馬騰五位技術(shù)專家同臺(tái)，圍繞“SGLang + MUSA生態(tài)共建與工程化破局”展開(kāi)深度探討。
面對(duì)開(kāi)源技術(shù)創(chuàng)新提速與國(guó)產(chǎn)多硬件生態(tài)復(fù)雜度加劇的雙重挑戰(zhàn)，嘉賓們從框架、算子、通信到系統(tǒng)架構(gòu)逐一破題：BBuf呼吁框架層建立更干凈的硬件抽象，避免侵入式修改；R0CKSTAR分享了MUSA在兼容CUDA生態(tài)過(guò)程中“接口兼容、底層創(chuàng)新”的關(guān)鍵路徑；肖航結(jié)合Triton及TLE擴(kuò)展，探討了可編程性與極致性能之間的再平衡策略；唐正舉強(qiáng)調(diào)TileLang的Tile抽象可作為連接模型、算子和硬件的統(tǒng)一紐帶，助力國(guó)產(chǎn)芯片全鏈路形成合力；馬騰則從系統(tǒng)視角指出，最佳實(shí)踐的沉淀與端到端場(chǎng)景驗(yàn)證是生態(tài)繁榮的關(guān)鍵。嘉賓們一致認(rèn)為，未來(lái)12個(gè)月應(yīng)優(yōu)先建立跨層級(jí)的統(tǒng)一抽象邊界、標(biāo)準(zhǔn)化適配接口與共享的基準(zhǔn)測(cè)試體系，以開(kāi)放協(xié)作替代重復(fù)適配，共同推動(dòng)國(guó)產(chǎn)AI軟硬件生態(tài)的協(xié)同突破。
結(jié)語(yǔ)
此次“SGLang × MUSA Meetup”的成功舉辦，標(biāo)志著MUSA后端合入SGLang主線后，國(guó)產(chǎn)GPU與全球頂級(jí)推理框架的協(xié)同從“代碼共建”邁向“生態(tài)共聚”。
通過(guò)與SGLang、TileLang、Triton、Mooncake等開(kāi)源社區(qū)的緊密協(xié)作，摩爾線程不僅推動(dòng)了MUSA平臺(tái)與主流AI框架的深度適配，更以實(shí)際行動(dòng)賦能開(kāi)發(fā)者，持續(xù)助力國(guó)產(chǎn)算力與全球開(kāi)源生態(tài)的深度融合，加速AI應(yīng)用的創(chuàng)新與落地。從一行行代碼的提交合入，到如今線下社區(qū)的深度共聚，摩爾線程正攜手頂尖開(kāi)源力量，持續(xù)夯實(shí)國(guó)產(chǎn)GPU軟件棧底座，與廣大開(kāi)發(fā)者并肩前行。
關(guān)于摩爾線程
摩爾線程以全功能GPU為核心，致力于向全球提供加速計(jì)算的基礎(chǔ)設(shè)施和一站式解決方案，為各行各業(yè)的數(shù)智化轉(zhuǎn)型提供強(qiáng)大的AI計(jì)算支持。我們的目標(biāo)是成為具備國(guó)際競(jìng)爭(zhēng)力的GPU領(lǐng)軍企業(yè)，為融合人工智能和數(shù)字孿生的數(shù)智世界打造先進(jìn)的加速計(jì)算平臺(tái)。我們的愿景是為美好世界加速。
評(píng)論