AMD首席執(zhí)行官蘇姿豐出席imec ITF World 2024大會并榮獲創(chuàng)新獎,此項榮譽旨在肯定其卓越創(chuàng)新及引領(lǐng)行業(yè)發(fā)展之貢獻。先前同樣獲得該獎項的還有戈登·摩爾和比爾·蓋茨。
會議期間,蘇姿豐談?wù)摿薃MD如何通過實施30x25戰(zhàn)略推動2025年計算節(jié)點能效提升30倍的目標(biāo)。她進一步透露,AMD已找到2026年至2027年間將能效提升100倍以上的解決方案。
隨著生成式AI LLM如ChatGPT的崛起,AI功耗問題日益凸顯。AMD早在2021年便洞察到AI龐大功耗需求所引發(fā)的挑戰(zhàn),并以此為契機啟動30x25戰(zhàn)略,致力于提升數(shù)據(jù)中心計算節(jié)點能效,尤其針對AI和HPC的高能耗問題。
隨著訓(xùn)練模型所需算力不斷攀升,AI功耗問題愈發(fā)嚴(yán)峻。蘇姿豐指出,早期圖像和語音識別AI模型體積每兩年翻番,與過去十年計算能力提升速度相當(dāng)。然而,生成式AI模型規(guī)?,F(xiàn)今正以每年20倍的速度擴張,遠(yuǎn)超計算和存儲進步速度。盡管當(dāng)前最大模型需借助數(shù)萬個GPU進行訓(xùn)練,耗費數(shù)萬兆瓦時電力,但未來模型規(guī)模迅速擴大后,或需動用數(shù)十萬個GPU,甚至數(shù)吉瓦時電力進行訓(xùn)練。
為了提升能效,AMD采取了全方位策略,涵蓋硅架構(gòu)升級、先進封裝策略、AI專用架構(gòu)設(shè)計、系統(tǒng)及數(shù)據(jù)中心級調(diào)整,以及軟硬件協(xié)同設(shè)計等多個層面。
硅材料無疑是基礎(chǔ)。蘇姿豐強調(diào),AMD正在推進3nm GAA晶體管研發(fā),旨在提升功率效率和性能,同時持續(xù)關(guān)注先進封裝和互聯(lián)技術(shù),以實現(xiàn)更高效、經(jīng)濟的模塊化設(shè)計。先進封裝在突破單芯片封裝性能瓶頸方面具有重要意義,AMD采用2.5D和3D封裝混合技術(shù),最大化每平方毫米數(shù)據(jù)中心硅片的計算能力。
在服務(wù)器節(jié)點與服務(wù)器機架間傳輸數(shù)據(jù)因距離過長導(dǎo)致額外電力消耗,優(yōu)化數(shù)據(jù)局部性可大幅節(jié)約能源。AMD MI300X展示了大規(guī)模芯片封裝所帶來的效率優(yōu)勢——該芯片包含1530億個晶體管,分布在12個芯片上,配備24個HBM3芯片,提供192GB存儲容量,均可作為本地內(nèi)存供GPU使用。此外,封裝內(nèi)單元間經(jīng)功率和性能優(yōu)化的Infinity Fabric互連,使得極高的計算和存儲密度能夠?qū)⒏鄶?shù)據(jù)保存在接近處理核心的位置,從而降低數(shù)據(jù)傳輸所需能量。
-
amd
+關(guān)注
關(guān)注
25文章
5708瀏覽量
140450 -
gpu
+關(guān)注
關(guān)注
28文章
5283瀏覽量
136097 -
HPC
+關(guān)注
關(guān)注
0文章
350瀏覽量
25082 -
生成式AI
+關(guān)注
關(guān)注
0文章
538瀏覽量
1133
發(fā)布評論請先 登錄
曦智科技探討AI數(shù)據(jù)中心三大擴展策略
斯丹電子 | 數(shù)據(jù)中心傳感器應(yīng)用工程指南
跳線架在數(shù)據(jù)中心的應(yīng)用與優(yōu)化策略
解讀面向未來的數(shù)據(jù)中心智能策略
安科瑞多回路電表對工業(yè)能效提升的計劃與數(shù)據(jù)中心分級計量指南
數(shù)據(jù)中心液冷監(jiān)測解決方案:驅(qū)動高效冷卻,護航綠色算力
北大團隊最新研究:AI芯片算力提升數(shù)倍,能效提升超90倍
人工智能數(shù)據(jù)中心的光纖布線策略
睿海光電以高效交付與廣泛兼容助力AI數(shù)據(jù)中心800G光模塊升級
施耐德電氣助力百年學(xué)府數(shù)據(jù)中心改造升級
加速AI未來,睿海光電800G OSFP光模塊重構(gòu)數(shù)據(jù)中心互聯(lián)標(biāo)準(zhǔn)
FLOW Digital Infrastructure宣布在東京市中心新建數(shù)據(jù)中心
西門子G120XA變頻器:數(shù)據(jù)中心能效革命的核心引擎
小型數(shù)據(jù)中心晶振選型關(guān)鍵參數(shù)全解
流量與壓力傳感:數(shù)據(jù)中心液冷的″智慧之眼″
AMD披露高效數(shù)據(jù)中心策略,預(yù)計至2027年能效提升超百倍
評論