智譜AI正式上線并開源全新一代大模型GLM-5。作為面向復(fù)雜系統(tǒng)工程與長程Agent任務(wù)打造的新一代模型，GLM-5在Coding與Agent能力上實(shí)現(xiàn)開源SOTA表現(xiàn)，在真實(shí)編程場景中的使用體驗(yàn)已逼近Claude Opus 4.5。當(dāng)前，昆侖芯完成Day 0深度推理適配。通過底層算子優(yōu)化與硬件加速能力，GLM-5已在昆侖芯產(chǎn)品上實(shí)現(xiàn)高吞吐、低延遲的穩(wěn)定運(yùn)行。

Day 0適配落地，軟硬協(xié)同助推高效部署

在本次Day 0適配合作中，昆侖芯團(tuán)隊(duì)深度協(xié)同智譜AI，依托在底層算子優(yōu)化與工具鏈建設(shè)方面的長期技術(shù)積累，圍繞GLM-5的模型結(jié)構(gòu)與推理特性開展了針對性的聯(lián)合優(yōu)化。雙方在模型正式上線前，即完成適配與性能調(diào)優(yōu)，確保發(fā)布當(dāng)日實(shí)現(xiàn)穩(wěn)定、高效運(yùn)行。本次適配不僅實(shí)現(xiàn)Day 0支持，更在兩大主流開源推理框架vLLM與SGLang上完成驗(yàn)證落地。在算力層面，昆侖芯高性能算子快速完成對GLM-5的DSA與MoE架構(gòu)適配，并結(jié)合INT8量化、MTP優(yōu)化及雙機(jī)PP并行等技術(shù)手段，顯著提升GLM-5在昆侖芯集群環(huán)境下的推理吞吐與整體運(yùn)行效率。

昆侖芯軟件負(fù)責(zé)人王勇表示：“GLM-5的Day 0深度推理適配，是昆侖芯軟件生態(tài)能力和軟硬件協(xié)同能力的一次集中體現(xiàn)。通過底層算子重構(gòu)與推理框架協(xié)同優(yōu)化，我們實(shí)現(xiàn)了模型結(jié)構(gòu)特性與硬件架構(gòu)能力的深度匹配，確保模型在上線首日即可穩(wěn)定釋放高性能算力?！?/p>

此次高效適配，得益于昆侖芯自研軟件棧的出色兼容性和高效適配能力。昆侖芯提供從驅(qū)動到專用庫的完備軟件棧，全面覆蓋模型開發(fā)與部署關(guān)鍵環(huán)節(jié)。該軟件棧高度兼容主流AI開發(fā)生態(tài)，在保障計(jì)算性能充分釋放的同時(shí)，有效降低開發(fā)門檻與模型遷移成本，使客戶能夠以更低的適應(yīng)成本與更短的部署周期完成AI模型開發(fā)與部署落地。

堅(jiān)實(shí)算力底座，萬卡集群支撐大規(guī)模應(yīng)用

截至目前，昆侖芯已與國內(nèi)外多款主流大模型完成適配，其中多個(gè)模型更實(shí)現(xiàn)“發(fā)布即適配、上線即可用”。面向企業(yè)及開發(fā)者，昆侖芯正持續(xù)完善模型適配與部署能力，全面支持各類模型架構(gòu)與算法創(chuàng)新，助力開發(fā)者獲得更流暢、高效的開發(fā)與部署體驗(yàn)。

在集群建設(shè)方面，2025年2月，昆侖芯成功點(diǎn)亮昆侖芯P800萬卡集群，這是國內(nèi)首個(gè)正式點(diǎn)亮的自研萬卡AI集群。同年4月，該集群規(guī)模進(jìn)一步擴(kuò)展至3.2萬卡。未來，昆侖芯還將不斷支持國產(chǎn)算力集群建設(shè)，推動模型在真實(shí)場景中的規(guī)?；瘧?yīng)用，助力國產(chǎn)模型的創(chuàng)新發(fā)展。

軟硬協(xié)同創(chuàng)新，共建國產(chǎn)AI開放生態(tài)

未來，昆侖芯將持續(xù)深耕全棧技術(shù)研發(fā)，強(qiáng)化軟硬協(xié)同與生態(tài)共建能力，為國產(chǎn)算力高質(zhì)量發(fā)展提供強(qiáng)勁動能。昆侖芯將攜手生態(tài)伙伴與開發(fā)者深化國產(chǎn)模型與國產(chǎn)算力融合創(chuàng)新，共建開放共贏的大模型生態(tài)，加速AI技術(shù)在更多真實(shí)產(chǎn)業(yè)場景中的規(guī)?；涞貞?yīng)用，推動國產(chǎn)算力高質(zhì)量發(fā)展。