2006 年，一項(xiàng)大膽的并行計(jì)算構(gòu)想悄然啟程。如今，它已成為現(xiàn)代科學(xué)與 AI 發(fā)展的基礎(chǔ)脈動(dòng)。

NVIDIA 在 GTC 大會(huì)慶祝 CUDA 發(fā)明二十周年——這項(xiàng)成就凝聚了全球超過 600 萬(wàn)開發(fā)者在計(jì)算棧各層持續(xù)創(chuàng)新的成果。如今，CUDA 依然是一座跨時(shí)代的橋梁，連接著首批編寫內(nèi)核的先驅(qū)與下一波部署萬(wàn)億參數(shù) AI 模型的建設(shè)者。

在 GTC，由 NVIDIA CUDA 架構(gòu)師 Stephen Jones 主持的專題會(huì)議上，來自 Jump Trading、Meta Superintelligence Labs 和 NVIDIA 的研究人員與工程師共同回顧了 CUDA 二十年來的創(chuàng)新歷程，探討它如何幫助開發(fā)者攻克全球最復(fù)雜的難題，以及 NVIDIA DGX Spark 桌面 AI 超級(jí)計(jì)算機(jī)等系統(tǒng)將如何賦能下一代 CUDA 開發(fā)者。

參會(huì)嘉賓分享了關(guān)于 CUDA 的早期記憶。Meta Superintelligence Labs 軟件工程師 Paulius Micikevicius 表示：“那時(shí)候沒有人愿意使用 GPU，我們不得不去懇求別人考慮使用 GPU?！?/p>

當(dāng)時(shí)，NVIDIA 現(xiàn)任資深杰出研究科學(xué)家兼高級(jí)研究總監(jiān)、時(shí)任伊利諾伊大學(xué)厄巴納-香檳分校教授 Wen-Mei Hwu，決定帶領(lǐng)一群研究生在兩個(gè)月內(nèi)搭建一個(gè)由 200 塊 GPU 組成的系統(tǒng)。

Hwu 表示：“幾周后，200 塊 GPU 主板、電源和所有配件都到了，但沒有機(jī)箱。我們只好給每塊主板做了木制框架，隨后我們運(yùn)行了 Green500 基準(zhǔn)測(cè)試，拿到了第三名。那一刻我意識(shí)到 GPU 蘊(yùn)藏著巨大的能效潛力?！?/p>

隨著加速計(jì)算規(guī)模已轉(zhuǎn)向機(jī)架級(jí)擴(kuò)展系統(tǒng)和 AI 工廠，參會(huì)嘉賓認(rèn)為，像 DGX Spark 這樣的桌面 AI 系統(tǒng)將為原型設(shè)計(jì)和早期開發(fā)提供全新路徑。

NVIDIA 杰出 DevTech 工程師 Kate Clark 表示：“關(guān)鍵在于你要具備進(jìn)行初步探索的能力，并且有一臺(tái)桌面計(jì)算機(jī)或者筆記本電腦這樣的便攜設(shè)備。我認(rèn)為這一趨勢(shì)在短期內(nèi)不會(huì)改變，CUDA 將無處不在?！?/p>