隨著大模型參數(shù)量指數(shù)級增長,傳統(tǒng)以CPU為核心的計算架構(gòu)在處理高密度并行計算時,逐漸暴露出數(shù)據(jù)調(diào)度延遲突出、GPU間通信效率低下及內(nèi)存一致性難以保障等核心瓶頸。這些挑戰(zhàn)直接導(dǎo)致算力資源利用率不足,成為制約AI技術(shù)規(guī)?;涞氐摹凹軜?gòu)桎梏”。
為破解行業(yè)痛點,算力基礎(chǔ)設(shè)施領(lǐng)域先鋒企業(yè)燧弘華創(chuàng)與容芯致遠持續(xù)深化產(chǎn)品合作?;趯τ贏GC(以GPU為核心的AI計算體系)架構(gòu)技術(shù)路線的認可,5月9日,在國產(chǎn)AI智算生態(tài)創(chuàng)新突破交流會上,燧弘華創(chuàng)正式加入AGC聯(lián)盟。雙方將發(fā)揮各自核心優(yōu)勢,聯(lián)合研發(fā)新一代智算服務(wù)器,從架構(gòu)層面重構(gòu)算力調(diào)度邏輯,旨在打破傳統(tǒng)架構(gòu)的“內(nèi)存墻”與“通信墻”,為行業(yè)產(chǎn)出更綠色、更高效的Token服務(wù)。
破局:
錨定AGC 架構(gòu),落地算力降本實踐
長期以來,AI服務(wù)器設(shè)計延續(xù)通用計算機范式,由CPU主導(dǎo)任務(wù)調(diào)度,這在AI大模型訓(xùn)練與推理場景下已難以適配。容芯致遠是清華大學(xué)電子系技術(shù)背景的高科技企業(yè),在AGC架構(gòu)研發(fā)與產(chǎn)業(yè)化領(lǐng)域具備深厚的技術(shù)積淀和領(lǐng)先的行業(yè)優(yōu)勢,其首創(chuàng)的AGC架構(gòu)重新定義AI智算服務(wù)器的設(shè)計標準。
AGC架構(gòu)從根本上打破傳統(tǒng)架構(gòu)的桎梏,將GPU確立為系統(tǒng)的核心計算單元,CPU則轉(zhuǎn)型為外圍控制組件,專注于輔助調(diào)度與管理,實現(xiàn)計算資源的最優(yōu)配置。這一架構(gòu)革新帶來算力效能的突破性提升。
作為中國算力基礎(chǔ)設(shè)施領(lǐng)域的先鋒企業(yè),燧弘華創(chuàng)依托“能源—芯片—算力—模型—應(yīng)用”全棧AI生態(tài)布局優(yōu)勢,致力于打造高效、穩(wěn)定、低成本的“Token工廠”,為各行業(yè)提供全流程算力支撐服務(wù)。通過引入并深度融合AGC架構(gòu),燧弘華創(chuàng)正推動公司在算力基礎(chǔ)設(shè)施領(lǐng)域的核心競爭力實現(xiàn)跨越式提升:
·算力密度實現(xiàn)量級跳躍:系統(tǒng)中GPU與CPU的配比(G:C)從傳統(tǒng)架構(gòu)的2:1大幅提升至20:1乃至32:1,徹底釋放GPU的并行計算潛能,讓每一份算力資源都能在燧弘華創(chuàng)的調(diào)度下得到都得到高效利用。
·全局內(nèi)存統(tǒng)一共享:AGC架構(gòu)從底層解決內(nèi)存一致性難題,支持單一操作系統(tǒng)統(tǒng)一管理多達64個GPU,實現(xiàn)全局內(nèi)存共享。在大模型訓(xùn)練與推理過程中,數(shù)據(jù)無需在節(jié)點間重復(fù)拷貝,極大降低傳輸延遲,顯著提升算力吞吐量,有效解決大模型訓(xùn)練中的“數(shù)據(jù)瓶頸”。
革新:微秒級響應(yīng)與“任務(wù)不中斷”的運維體驗
對于運營大規(guī)模智算中心的燧弘華創(chuàng)而言,系統(tǒng)的穩(wěn)定性與運維效率直接決定算力服務(wù)的質(zhì)量與成本。傳統(tǒng)智算服務(wù)器在單張GPU出現(xiàn)故障時往往需要整機停機維護,不僅故障恢復(fù)周期長,更會造成大量算力資源浪費,增加運營成本。雙方聯(lián)合研發(fā)的新一代智算服務(wù)器將在系統(tǒng)可靠性與運維效率上實現(xiàn)質(zhì)的飛躍,徹底解決傳統(tǒng)服務(wù)器的運維痛點:
·AI BMC智能監(jiān)控系統(tǒng):搭載自研AI BMC智能監(jiān)控系統(tǒng),將硬件監(jiān)控響應(yīng)速度從秒級提升至微秒級。系統(tǒng)可實時監(jiān)測GPU的溫度、電壓、負載等核心參數(shù),一旦檢測到異常波動,將即時觸發(fā)降頻、休眠等應(yīng)急策略,提前規(guī)避硬件故障風(fēng)險,保障系統(tǒng)穩(wěn)定運行。
·GPU RAID與熱插拔技術(shù):配合容芯致遠自研的約10TB混存技術(shù),系統(tǒng)可對健康GPU的KV Cache進行實時緩存。當某張GPU發(fā)生故障時,冗余GPU可無縫接管任務(wù),通過統(tǒng)一內(nèi)存地址空間直接讀取緩存數(shù)據(jù)。這一機制將故障維護時間從傳統(tǒng)的小時級壓縮至分鐘級,真正實現(xiàn)“任務(wù)不中斷熱插拔”的高效運維體驗。
針對下一代高密度算力集群的通信瓶頸,雙方正積極探索Blue Link光互連方案。該方案利用Mini LED/MICRO LED技術(shù)替代傳統(tǒng)光模塊與銅纜,旨在突破傳統(tǒng)銅纜在信號帶寬與傳輸距離上的物理局限。在智算中心嚴苛的高溫運行環(huán)境下,該技術(shù)憑借卓越的穩(wěn)定性與低能耗特性,能夠有效解決超大規(guī)模集群部署中的信號衰減與散熱難題,為未來萬卡級乃至更大規(guī)模算力集群的彈性擴展提供技術(shù)支撐。
愿景:
共建AGC生態(tài),打造綠色普惠的Token工廠
燧弘華創(chuàng)高度看好AGC架構(gòu)技術(shù)路線價值,攜手容芯致遠深化產(chǎn)品合作并正式加入AGC聯(lián)盟,這是公司深耕技術(shù)研發(fā)、優(yōu)化產(chǎn)品布局、拓展生態(tài)邊界的關(guān)鍵一步。聯(lián)盟將匯聚產(chǎn)業(yè)鏈上下游核心力量,合力推動 AGC 架構(gòu)成為國產(chǎn)智算領(lǐng)域的事實標準,加速推進自主可控算力基礎(chǔ)設(shè)施的建設(shè)落地。
通過深入整合“底層架構(gòu)重構(gòu)—精密硬件代工—算力場景賦能”的商業(yè)閉環(huán),燧弘華創(chuàng)正致力于將AGC架構(gòu)的技術(shù)先進性轉(zhuǎn)化為實實在在的產(chǎn)業(yè)價值:
·極致能效比下的綠色發(fā)展:通過底層架構(gòu)的重定義與全棧技術(shù)優(yōu)化,充分釋放算力潛能,大幅降低單位Token產(chǎn)出能耗,以技術(shù)踐行綠色低碳的發(fā)展理念。
·普惠算力服務(wù):依托AGC架構(gòu)帶來的成本優(yōu)勢,進一步降低用戶的用算門檻,提供高性價比的Token服務(wù),讓千行百業(yè)都能能在數(shù)智化轉(zhuǎn)型進程中“用得起、用得好”高端算力。
未來,燧弘華創(chuàng)將繼續(xù)秉持開放合作的發(fā)展理念,聯(lián)合AGC聯(lián)盟及產(chǎn)業(yè)鏈上下游伙伴,持續(xù)推動計算機體系結(jié)構(gòu)的創(chuàng)新落地。通過全棧技術(shù)優(yōu)化、算電協(xié)同調(diào)度、國產(chǎn)算力替代等核心舉措,持續(xù)完善高效“Token工廠”建設(shè),以更低成本、更高效率穩(wěn)定產(chǎn)出高質(zhì)量Token,筑牢數(shù)字經(jīng)濟發(fā)展的算力底座,賦能千行百業(yè)實現(xiàn)數(shù)智化轉(zhuǎn)型,為國產(chǎn)AI算力生態(tài)的自主可控與高質(zhì)量發(fā)展注入強勁動力。
-
cpu
+關(guān)注
關(guān)注
68文章
11354瀏覽量
226188 -
內(nèi)存
+關(guān)注
關(guān)注
9文章
3247瀏覽量
76549 -
算力
+關(guān)注
關(guān)注
2文章
1729瀏覽量
16848
原文標題:燧弘華創(chuàng)×容芯致遠:以架構(gòu)革新驅(qū)動“Token工廠”能效躍遷,共筑綠色普惠智算底座
文章出處:【微信號:hon-flex,微信公眾號:弘信電子集團】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
弘信電子旗下燧弘華創(chuàng)發(fā)布OpenClaw一體機全家桶
燧弘華創(chuàng)HonMaaS平臺深度適配DeepSeek-V4大模型
兆芯攜手軟通華方共筑智算時代新生態(tài)
燧弘華創(chuàng)攜手英特爾共建聯(lián)合實驗室
地平線攜手合作伙伴共筑智駕普惠新生態(tài)
普華基礎(chǔ)軟件亮相2025世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會
燧弘華創(chuàng)與銳捷網(wǎng)絡(luò)簽署戰(zhàn)略合作協(xié)議
弘信電子旗下燧弘華創(chuàng)亮相2025云棲大會
燧弘華創(chuàng)與泰達生物簽署AI醫(yī)療健康領(lǐng)域戰(zhàn)略合作協(xié)議
成都華微與燧原科技達成戰(zhàn)略合作
弘信電子攜手百川智能推動醫(yī)療AI技術(shù)落地應(yīng)用
燧弘華創(chuàng)攜手容芯致遠共筑綠色普惠智算底座
評論