在過(guò)去十年中，云計(jì)算每年增長(zhǎng)20%，成為了價(jià)值1萬(wàn)億美元的巨大行業(yè)大約3000萬(wàn)臺(tái)CPU服務(wù)器完成大部分處理工作，另外，減少碳排放這任務(wù)從根本上與增加數(shù)據(jù)中心的需求相悖，未經(jīng)過(guò)加速的工作負(fù)載都將會(huì)在CPU上進(jìn)行處理在AI和云服務(wù)中。

在GTC 2023開(kāi)發(fā)者大會(huì)上，英偉達(dá)向我們介紹了關(guān)于他在云計(jì)算領(lǐng)域的三個(gè)大動(dòng)作。

首先，英偉達(dá)與微軟Azure、Google GCP和Oracle OCI三家云廠商合作推出了NVIDIA DGX Cloud。NVIDIA DGX Cloud是一項(xiàng)人工智能超級(jí)計(jì)算服務(wù)，它可以讓企業(yè)快速訪問(wèn)為生成式人工智能和其他開(kāi)創(chuàng)性應(yīng)用訓(xùn)練高級(jí)模型所需的基礎(chǔ)設(shè)施和軟件。通過(guò)一個(gè)瀏覽器，客戶(hù)就可以將英偉達(dá)DGX AI超級(jí)計(jì)算機(jī)實(shí)時(shí)接入公司。

其次，面向具有構(gòu)建、優(yōu)化和運(yùn)營(yíng)定制大語(yǔ)言模型和生成式AI需求的客戶(hù)，英偉達(dá)推出云服務(wù)NVIDIA AI Foundations，提供語(yǔ)言、數(shù)據(jù)和生物學(xué)模型的定制服務(wù)。

同時(shí)，針對(duì)ChatGPT等大語(yǔ)言模型的推理訓(xùn)練，英偉達(dá)推出了新的GPU H100。H100配備有94GB HBM3的顯存，可以支持參數(shù)規(guī)模達(dá)到1750億的GPT-3，并將大語(yǔ)言模型的處理成本降低一個(gè)數(shù)量級(jí)。

NVIDIA DGX Cloud將透過(guò)多個(gè)云端服務(wù)供應(yīng)商提供，微軟Azure預(yù)計(jì)于下一季起托管DGX Cloud服務(wù)，包括Google Cloud等業(yè)者也將陸續(xù)開(kāi)始供應(yīng)服務(wù)，DGX Cloud執(zhí)行個(gè)體價(jià)格為每個(gè)執(zhí)行個(gè)體每月36，999美金起。

每個(gè)DGX Cloud執(zhí)行個(gè)體皆有8個(gè)NVIDIA H100或NVIDIA A100 80GB Tensor GPU，單一節(jié)點(diǎn)具備640GB 的GPU記憶體，并透過(guò)NVIDIA Networking技術(shù)提供高效能、低延遲網(wǎng)路，使多個(gè)執(zhí)行個(gè)體等同一個(gè)超大型GPU。

文章綜合和訊 、格隆匯APP、CNMO手機(jī)中國(guó)