4月23日，騰訊混元Hy3 preview語言模型發(fā)布并開源。依托全棧自研技術(shù)優(yōu)勢，壁仞科技基于vLLM主流開源框架實(shí)現(xiàn)Hy3 preview模型的Day0適配及推理驗(yàn)證。Hy3 preview與壁礪166系列GPU產(chǎn)品的“國模+國芯”聯(lián)合，將充分釋放大模型落地效能，全面賦能多元真實(shí)業(yè)務(wù)場景，為開發(fā)者和行業(yè)用戶帶來更高效、更穩(wěn)定的部署體驗(yàn)。

Hy3 preview的官方介紹

Hy3 preview是一個(gè)快慢思考融合的混合專家模型，總參數(shù)295B，激活參數(shù)21B，最大支持256K上下文長度。這是混元重建后訓(xùn)練的第一個(gè)模型，在復(fù)雜推理、指令遵循、上下文學(xué)習(xí)、代碼、智能體等能力及推理性能上實(shí)現(xiàn)了大幅的提升。

Hy3 preview可以視為混元快速探索實(shí)用性大模型、解決真實(shí)世界問題的一個(gè)開端。目前，Hy3 preview已在騰訊云、元寶、ima、CodeBuddy、WorkBuddy、QQ等首發(fā)上線，微信公眾號(hào)、和平精英、騰訊新聞等多個(gè)主線產(chǎn)品也在陸續(xù)上線。另外，Hy3 preview支持接入流行的開源智能體產(chǎn)品，如OpenClaw、OpenCode、KiloCode等，并已上架騰訊云大模型服務(wù)平臺(tái)TokenHub。

全棧技術(shù)優(yōu)勢實(shí)現(xiàn)Day0適配

得益于成熟的BIRENSUPA軟件生態(tài)以及軟硬協(xié)同能力，壁仞科技實(shí)現(xiàn)Hy3 preview模型Day0適配，快速貫通推理全鏈路。一方面，壁仞科技自研底層算子庫覆蓋全面、框架兼容性優(yōu)異，可高效支撐Hy3 preview在注意力計(jì)算、MoE專家路由、長序列推理等關(guān)鍵鏈路上快速完成遷移與優(yōu)化；另一方面，壁仞科技多機(jī)多卡推理部署能力出色，可穩(wěn)定支持Tensor Parallel與Pipeline Parallel等并行方案，保障Hy3 preview在大參數(shù)、多卡協(xié)同場景下的運(yùn)行效率。

Hy3 preview基于壁礪166系列產(chǎn)品完成推理任務(wù)

針對Hy3 preview的192 Expert稀疏激活、Shared Expert共享專家、QK Norm注意力機(jī)制、GQA以及128K長上下文等核心特性，壁仞科技圍繞專家調(diào)度、算子融合、KV Cache管理和執(zhí)行鏈路開展深度優(yōu)化，充分釋放模型推理性能；通過自動(dòng)化分析、算子調(diào)優(yōu)和關(guān)鍵路徑優(yōu)化，顯著縮短模型適配與性能優(yōu)化周期，進(jìn)一步提升Hy3 preview的推理效率與部署可用性。

“Day0 適配”陣營持續(xù)擴(kuò)容

作為國產(chǎn)大模型生態(tài)的重要算力支撐，壁仞科技持續(xù)擴(kuò)容“Day0 適配”陣營，領(lǐng)跑國產(chǎn)GPU生態(tài)建設(shè)。

近期，依托壁礪166系列產(chǎn)品的高通用性與全自研BIRENSUPA軟件棧的成熟度，壁仞科技已完成騰訊混元系列、月之暗面Kimi系列、阿里巴巴千問Qwen系列、MiniMax M2系列、智譜GLM系列、階躍星辰Step系列、OpenMOSS MOVA系列等領(lǐng)先大模型的全面適配，覆蓋語言、多模態(tài)、AIGC全品類矩陣。未來，壁仞科技將以全?；芰χa(chǎn)SOTA大模型規(guī)模化落地，降低開發(fā)者的模型部署與應(yīng)用門檻，全面加速AI應(yīng)用普惠進(jìn)程。