近日，橡樹(shù)嶺國(guó)家實(shí)驗(yàn)室的Summit系統(tǒng)呈獻(xiàn)了又一場(chǎng)超級(jí)計(jì)算盛宴，創(chuàng)造了又一項(xiàng)性能記錄，該系統(tǒng)首次突破了每秒100千萬(wàn)億次浮點(diǎn)運(yùn)算性能的壁壘。

在最新發(fā)布的Top500榜單中，大部分系統(tǒng)的新處理能力均來(lái)自GPU。目前世界七大超級(jí)計(jì)算機(jī)中有五款都在采用GPU，包括美國(guó)、歐洲和日本的頂尖系統(tǒng)。

而對(duì)于Summit，GPU滿足了其95%的浮點(diǎn)運(yùn)算性能要求。隨著摩爾定律的不斷放緩，加速計(jì)算顯然已經(jīng)成為助推器，將很快推動(dòng)我們進(jìn)入百億億次級(jí)計(jì)算時(shí)代。

這樣的計(jì)算性能由NVIDIA Volta Tensor Core GPU提供，其多精度計(jì)算能力將能同時(shí)應(yīng)對(duì)高性能計(jì)算所需的高精度計(jì)算挑戰(zhàn)，以及深度學(xué)習(xí)所需的高效處理的要求。

加速計(jì)算登峰造極

每年兩次的超級(jí)計(jì)算展見(jiàn)證了加速計(jì)算近年來(lái)的飛速發(fā)展。在ISC 2018上，這一領(lǐng)域再次實(shí)現(xiàn)了突破。

Summit顯然是最有力的證據(jù)。該系統(tǒng)采用27648塊Volta Tensor Core GPU，其測(cè)得的雙精度性能達(dá)到每秒122千萬(wàn)億次浮點(diǎn)運(yùn)算。它每秒的性能相當(dāng)于地球上所有人以每秒執(zhí)行一次計(jì)算的速度執(zhí)行一整年的任務(wù)。

其AI性能更加令人矚目，運(yùn)算速度可達(dá)到300億億次。這相當(dāng)于整個(gè)地球上的人在15年內(nèi)每秒進(jìn)行一次計(jì)算。

至省與至簡(jiǎn)

多精度計(jì)算開(kāi)辟了新的可能性。但是，如果GPU無(wú)法提供非凡的效率，相應(yīng)的效用將受限。

在最新的Green500榜單，GPU為全球20個(gè)最具環(huán)保效益的系統(tǒng)中的17個(gè)提供支持。Summit不僅是世界上速度最快的系統(tǒng)，而且在新確立的“三級(jí)”類(lèi)別（Green500 榜單中最嚴(yán)格的級(jí)別）中是世界上最高效的系統(tǒng)。

在過(guò)去10年中，GPU已經(jīng)幫助美國(guó)橡樹(shù)嶺國(guó)家實(shí)驗(yàn)室將其超級(jí)計(jì)算機(jī)的能源效率提高了50倍，這些計(jì)算機(jī)包括僅支持CPU的Jaguar及由GPU加速的Titan和Summit。

而所有這些僅僅是一個(gè)開(kāi)始。實(shí)現(xiàn)百億億次級(jí)計(jì)算需要在能源效率方面實(shí)現(xiàn)更大突破。以Green500榜單中系統(tǒng)的平均效率計(jì)算，為百億億次級(jí)計(jì)算提供動(dòng)力將需要超過(guò)3億瓦的電能，這相當(dāng)于25萬(wàn)個(gè)美國(guó)家庭的電力需求。需要將能效提高10倍才能使百億億次級(jí)計(jì)算在3千萬(wàn)瓦條件下運(yùn)行。

GPU正在幫助Summit實(shí)現(xiàn)這一目標(biāo)。

破解難題

最新頂尖系統(tǒng)具備的處理能力曾經(jīng)令人無(wú)法想象，但現(xiàn)在的研究人員將能夠借助這些系統(tǒng)解決一些科學(xué)上最棘手的難題。

比如，遺傳學(xué)。帕金森癥和阿爾茨海默癥等可以稱(chēng)得上是“毀滅性”疾病，而GPU的計(jì)算能力將可以破解這樣的難題，找出人類(lèi)基因組的數(shù)十億個(gè)AGCT DNA對(duì)與諸如此類(lèi)疾病之間的聯(lián)系。Summit已在梳理個(gè)人基因，以實(shí)現(xiàn)在阿片成癮（美國(guó)人的主要致死原因之一）研究方面的進(jìn)展。

又如，材料。超導(dǎo)材料可用于為MRI設(shè)備、粒子加速器或磁聚變裝置開(kāi)發(fā)功能強(qiáng)大的科學(xué)磁體。然而，目前的材料十分易碎、難以制造，并且只能在非常低的溫度下工作。Summit正在幫助模擬和發(fā)現(xiàn)具有類(lèi)金屬特性且可在室溫下工作的新型超導(dǎo)材料。

再如，癌癥研究。對(duì)抗癌癥的關(guān)鍵在于開(kāi)發(fā)可以自動(dòng)提取、分析和分類(lèi)健康數(shù)據(jù)的工具，以便揭示各種疾病因素（例如基因、生物學(xué)標(biāo)記和環(huán)境）之間隱藏的關(guān)系。通過(guò)與基于文本的報(bào)告和醫(yī)學(xué)影像等非結(jié)構(gòu)化數(shù)據(jù)配合使用，在Summit上擴(kuò)展的深度學(xué)習(xí)算法將有助于醫(yī)學(xué)研究人員全面了解美國(guó)癌癥患者的整體情況。

繼續(xù)前進(jìn)

每個(gè)國(guó)家/地區(qū)都在競(jìng)相構(gòu)建百億億次級(jí)計(jì)算系統(tǒng)。2025年的Top500榜單可能會(huì)看到十多款這樣的系統(tǒng)，而且多精度加速計(jì)算成為平臺(tái)首選。相比之下，本次Top500榜單上的所有系統(tǒng)加在一起才勉強(qiáng)實(shí)現(xiàn)一百億億次級(jí)的總計(jì)算能力。這足以說(shuō)明未來(lái)蘊(yùn)藏著巨大機(jī)遇。

加速計(jì)算的一大吸引力在于它屬于全棧創(chuàng)新：從架構(gòu)一直到系統(tǒng)、加速堆棧、開(kāi)發(fā)人員和半導(dǎo)體工藝，無(wú)一不體現(xiàn)著創(chuàng)新精神。

NVIDIA已經(jīng)投入了超過(guò)10年的時(shí)間來(lái)加速整個(gè)HPC堆棧的開(kāi)發(fā)。

當(dāng)我們發(fā)布第一款支持CUDA的GPU時(shí)，它無(wú)法運(yùn)行任何應(yīng)用程序。我們需要為全新的加速環(huán)境重新設(shè)計(jì)所有的應(yīng)用程序、算法、庫(kù)、工具、編譯器、操作系統(tǒng)和系統(tǒng)設(shè)計(jì)。打造一種能夠處理數(shù)學(xué)處理器的芯片很容易，而要使全球高性能計(jì)算開(kāi)發(fā)人員可以使用和編程這些處理器，則需要在整個(gè)堆棧上實(shí)現(xiàn)非凡的創(chuàng)新。

結(jié)果，550多款高性能計(jì)算和AI應(yīng)用程序都由GPU加速，其中包括排名靠前的15種應(yīng)用程序和所有AI框架。致力于此領(lǐng)域的開(kāi)發(fā)人員數(shù)量在過(guò)去的五年里增加了10倍，現(xiàn)已接近一百萬(wàn)。而且，利用我們NGC容器注冊(cè)上的最新高性能計(jì)算容器，高性能計(jì)算用戶(hù)現(xiàn)在可以在他們的系統(tǒng)或Tensor Core GPU驅(qū)動(dòng)的云上輕松點(diǎn)擊、下載并運(yùn)行最新的GPU加速應(yīng)用程序。

轉(zhuǎn)折與展望

在我們快速發(fā)展加速計(jì)算的同時(shí)，一些人也正在尋找量子計(jì)算的下一個(gè)轉(zhuǎn)折點(diǎn)，量子計(jì)算使用量子位元（“qubits”）而不是1和0來(lái)處理信息。

這些理論十分具有吸引力。在未來(lái)的某個(gè)時(shí)候，可能會(huì)出現(xiàn)一些在量子計(jì)算機(jī)上運(yùn)行的殺手級(jí)應(yīng)用程序（特別是在密碼學(xué)或量子化學(xué)領(lǐng)域），只需極小的功率即可利用超強(qiáng)的處理能力。

但在可預(yù)見(jiàn)的未來(lái)，加速計(jì)算的勢(shì)頭似乎不可阻擋。NVIDIA會(huì)繼續(xù)致力于在高性能計(jì)算領(lǐng)域的創(chuàng)新，將實(shí)現(xiàn)百億億次級(jí)計(jì)算以及其為科學(xué)領(lǐng)域帶來(lái)的突破。