近日，海光DCU完成Qwen3.5-397B MoE旗艦多模態(tài)模型、Qwen3.5-35B-A3B MoE多模態(tài)模型全量適配、精度對(duì)齊與推理部署驗(yàn)證。本次適配依托FlagOS專屬vLLM-plugin-FL多芯片插件實(shí)現(xiàn)落地。

FlagOS是一款專為異構(gòu)AI芯片打造的開源、統(tǒng)一系統(tǒng)軟件棧，支持AI模型一次開發(fā)即可無縫移植至各類硬件平臺(tái)，大幅降低遷移與適配成本。FlagOS專屬vLLM-plugin-FL多芯片插件完美兼容海光DCU芯片，全程無需修改模型接口、推理引擎邏輯與開發(fā)者調(diào)用代碼，通過底層插件和算子替換實(shí)現(xiàn)無縫適配，大幅降低遷移成本，真正做到開箱即用。

目前兩大版本模型在海光DCU算力平臺(tái)實(shí)現(xiàn)無縫穩(wěn)定運(yùn)行，進(jìn)一步夯實(shí)國(guó)產(chǎn)算力支撐大模型落地的核心能力，為行業(yè)提供開箱即用的國(guó)產(chǎn)化部署方案。

高效攻克適配瓶頸，多模態(tài)能力完整落地

Qwen3.5-35B-A3B參數(shù)350億、激活參數(shù)30億，原生支持262144 tokens超長(zhǎng)上下文，采用門控Delta網(wǎng)絡(luò)融合MoE架構(gòu)，具備統(tǒng)一視覺/語言理解能力，覆蓋圖像、視頻多模態(tài)輸入，在推理、編碼、Agent及視覺理解等核心場(chǎng)景實(shí)現(xiàn)全面躍升。

面對(duì)如此復(fù)雜的模型架構(gòu)與多模態(tài)能力，精度對(duì)齊等技術(shù)挑戰(zhàn)尤為突出。海光DCU依托底層軟硬件優(yōu)化實(shí)力，基于眾智FlagOS全棧技術(shù)支撐，高效攻克適配瓶頸。經(jīng)驗(yàn)證，Qwen3.5模型在海光DCU上推理穩(wěn)定。

零改造部署，降低落地門檻

FlagOS將核心算子、編譯器等組件內(nèi)置模型框架，加載時(shí)自動(dòng)生效，配合標(biāo)準(zhǔn)化Docker鏡像與一鍵命令，徹底解決環(huán)境配置、性能優(yōu)化等痛點(diǎn)。

開發(fā)者可通過官方文檔獲取部署源碼，也可直接拉取魔搭、HuggingFace等社區(qū)的海光專屬模型鏡像、文件，無需額外遷移即可快速啟用。遷移版Qwen3.5-FlagOS模型文件、代碼和鏡像，可一鍵直達(dá)部署資源：

HuggingFace平臺(tái)：

https://huggingface.co/FlagRelease/Qwen3.5-35B-A3B-hygon-FlagOS

魔搭平臺(tái)：

https://modelscope.cn/models/FlagRelease/Qwen3.5-35B-A3B-hygon-FlagOS

全棧技術(shù)協(xié)同，精度性能雙達(dá)標(biāo)

眾智FlagOS構(gòu)建的統(tǒng)一AI系統(tǒng)軟件棧，為海光DCU提供全鏈路支撐，F(xiàn)lagRelease工具可半自動(dòng)支撐實(shí)現(xiàn)適配、評(píng)測(cè)、打包全流程，極速推進(jìn)適配落地，將傳統(tǒng)數(shù)周周期壓縮至數(shù)天。

經(jīng)ERQA、AIME、GPQA Diamond等權(quán)威評(píng)測(cè)集驗(yàn)證，海光DCU適配后的Qwen3.5系列模型，在視覺理解、復(fù)雜推理、語言編碼等核心能力上，與原生版本精度完全對(duì)齊，無業(yè)務(wù)效果折損，適配質(zhì)量達(dá)到行業(yè)頂尖水平。

此次適配實(shí)現(xiàn)“一次開發(fā)、多芯復(fù)用”，凸顯出國(guó)產(chǎn)算力承接高端大模型任務(wù)的常態(tài)化。海光DCU將持續(xù)深耕AI算力軟硬件優(yōu)化，聯(lián)合FlagOS等生態(tài)伙伴，拓展更多主流大模型適配場(chǎng)景，打造穩(wěn)定高效的國(guó)產(chǎn)算力底座，助力AI技術(shù)規(guī)?；?、普惠化落地。