今天想跟大家一起學(xué)習(xí)下GPU之間是怎么通信互聯(lián)的。

自從GPU出現(xiàn)后，計(jì)算機(jī)愛好者和發(fā)燒友們就一直尋找新的方法來(lái)進(jìn)一步提高系統(tǒng)GPU性能。

在單個(gè)GPU性能有限的情況下，將兩個(gè)或多個(gè)GPU連接起來(lái)這種在當(dāng)時(shí)看起來(lái)非?；闹嚨南敕ň谷粷u漸成為提升系統(tǒng)GPU性能的主流方法。

特別是隨著游戲、圖形應(yīng)用的發(fā)展，以及AI、HPC等新興應(yīng)用的助推，多個(gè)GPU之間的互聯(lián)技術(shù)得到了快速迭代和發(fā)展，如今的GPU互聯(lián)已經(jīng)成為系統(tǒng)內(nèi)非常常見的一種技術(shù)。今天我們就來(lái)聊聊這些GPU互聯(lián)的那些技術(shù)。

第一個(gè)連接多個(gè)GPU解決方案：SLI

SLI，全稱為 " 可擴(kuò)展的鏈接接口 "（ Scalable Link Interface），最早是由 3DFx Interactive 開發(fā)。

然而，3DFx Interactive這家公司在2000年破產(chǎn)，NVIDIA公司收購(gòu)了這家公司并獲得了多GPU技術(shù)的權(quán)利。

于是，在2004年，NVIDIA首次推出了SLI技術(shù)版本，同時(shí)發(fā)布了GeForce 6800 Ultra GPU。該技術(shù)允許兩個(gè)GeForce 6800 Ultra GPU一起工作，以增強(qiáng)游戲時(shí)的圖形性能**。**因此，SLI技術(shù)迅速在游戲玩家和愛好者中流行起來(lái)。

SLI采用主從配置方式在系統(tǒng)中實(shí)現(xiàn)使用多個(gè)GPU，這種配置的重點(diǎn)是使用一個(gè)GPU作為主車，其他GPU作為從卡，SLI能夠同時(shí)連接4個(gè)GPU。

**SLI是第一個(gè)連接多個(gè)GPU的解決方案。**但是與所有技術(shù)一樣，SLI也有各種優(yōu)點(diǎn)和局限性。SLI配置必須選擇相同型號(hào)的兼容GPU。同時(shí)還需要分配一個(gè)單獨(dú)的PSU來(lái)滿足多個(gè)GPU的協(xié)調(diào)要求，導(dǎo)致GPU之間的通信延遲較高，且GPU之間的數(shù)據(jù)共享缺乏靈活性。

另外，NVIDIA大約在兩年前停止了對(duì)該技術(shù)的支持，為開發(fā)NVLink等新技術(shù)讓路。

SLI與CrossFire：多GPU解決方案之爭(zhēng)

雖然NVIDIA的SLI走在了多GPU互聯(lián)的前面，但也并非沒有競(jìng)爭(zhēng)。

作為NVIDIA GPU市場(chǎng)上多年的老對(duì)手，AMD也推出了CrossFire這個(gè)技術(shù)來(lái)參與競(jìng)爭(zhēng)。

與SLI技術(shù)類似，使用CrossFire技術(shù)時(shí)，用戶可選擇使用兩個(gè)或更多顯卡進(jìn)行渲染，從而增加幀數(shù)和提高游戲運(yùn)行效率。

CrossFire技術(shù)的一大優(yōu)點(diǎn)是用戶可以使用不同型號(hào)的AMD顯卡，從而節(jié)省成本。

然而，CrossFire也有其自身的優(yōu)勢(shì)和挑戰(zhàn)，CrossFire經(jīng)常因其軟件堆棧而受到批評(píng)，一些用戶發(fā)現(xiàn)該軟件堆棧不如NVIDIA SLI可靠且配置更復(fù)雜。

盡管存在這些差異，但這兩種技術(shù)都致力于實(shí)現(xiàn)相同的目標(biāo)：增強(qiáng)游戲和消費(fèi)者圖形體驗(yàn)。它們?cè)谔幚砀呒?jí)、數(shù)據(jù)密集型任務(wù)方面的局限性最終將為 NVLink等下一代解決方案鋪平道路。

隨著2010年代的到來(lái)，計(jì)算領(lǐng)域開始發(fā)生巨大變化。人工智能 (AI)、高性能計(jì)算(HPC)和大數(shù)據(jù)分析的興起需要更強(qiáng)大的多GPU解決方案。很明顯，最初設(shè)計(jì)時(shí)考慮到游戲和消費(fèi)者工作負(fù)載的SLI不足以滿足這些計(jì)算密集型任務(wù)。NVIDIA需要一個(gè)新的GPU互聯(lián)技術(shù)。

雙GPU卡：多GPU計(jì)算的獨(dú)特存在

雖然SLI和CrossFire等技術(shù)專注于連接多個(gè)獨(dú)立GPU，但還有另一種不太常見或者可以說(shuō)是奇葩的多 GPU配置方法：雙GPU卡。

這些專用顯卡在單個(gè)PCB（印刷電路板）上安裝了兩個(gè)GPU核心，有效地充當(dāng)單張卡上的SLI或CrossFire 設(shè)置。NVIDIA GeForce GTX 690和AMD Radeon HD 6990等卡是這種方法的流行示例。

雙GPU卡具有多種優(yōu)勢(shì)， 他們通過將兩個(gè)GPU壓縮到一個(gè)卡槽中來(lái)節(jié)省空間，這使得它們對(duì)小型PC很有吸引力。同時(shí)他們還無(wú)需將單獨(dú)的卡與外部連接器連接起來(lái)，從而簡(jiǎn)化了設(shè)置。

然而，這些雙GPU卡散熱是一個(gè)重大問題，可以說(shuō)每一個(gè)卡都是一個(gè)**"小火爐"****。**通常這種配置方式需要先進(jìn)的冷卻解決方案。同時(shí)功耗也很高，需要強(qiáng)大的電源來(lái)提供穩(wěn)定的電流。

雙GPU卡的方式看起來(lái)是一種"兩全其美"的解決方案，將多GPU設(shè)置的原始功能與單卡的簡(jiǎn)單性結(jié)合在一起。然而，由于其高成本和相關(guān)的技術(shù)挑戰(zhàn)，雙GPU卡經(jīng)常被視為雞肋產(chǎn)品。

隨著NVLink等多GPU技術(shù)不斷發(fā)展以提供更高的帶寬和更低的延遲，對(duì)雙 GPU卡的需求已經(jīng)減少。盡管如此，它仍然是GPU發(fā)展史上一個(gè)獨(dú)特的存在。

****** NVLink 的誕生******

NVLink是2017年隨NVIDIA Volta架構(gòu)推出的技術(shù)。這項(xiàng)技術(shù)不僅僅是SLI技術(shù)的升級(jí)，而且是對(duì)GPU如何互連的根本性重新思考。

NVLink提供了更高的帶寬（最新版本高達(dá)900 GB/s）、更低的延遲以及允許GPU之間更復(fù)雜和大量互連的網(wǎng)狀拓?fù)?。此外，NVLink引入了統(tǒng)一內(nèi)存的概念，支持連接的 GPU 之間的內(nèi)存池，這對(duì)于需要大型數(shù)據(jù)集的任務(wù)來(lái)說(shuō)是一個(gè)至關(guān)重要的功能。

SLI與NVLink有何區(qū)別？

乍一看，人們可能會(huì)認(rèn)為NVLink是SLI的簡(jiǎn)單升級(jí)，但這過于武斷了。雖然這兩種技術(shù)都旨在連接多個(gè)GPU，但NVLink的設(shè)計(jì)考慮了不同的受眾。它專為科學(xué)研究、數(shù)據(jù)分析，尤其是人工智能和機(jī)器學(xué)習(xí)應(yīng)用而設(shè)計(jì)。更高的帶寬、更低的延遲和統(tǒng)一的內(nèi)存使NVLink成為應(yīng)對(duì)當(dāng)今計(jì)算挑戰(zhàn)的更加靈活和強(qiáng)大的解決方案。

雖然NVLink和SLI兩者均由Nvidia開發(fā)，但存在一些差異。S****LI按照主從關(guān)系原理運(yùn)行，而NVLink通過網(wǎng)狀網(wǎng)絡(luò)運(yùn)行。結(jié)果，SLI中形成了NVLink中不存在的數(shù)據(jù)瓶頸。

采用網(wǎng)狀網(wǎng)絡(luò)開發(fā)的并行連接可增強(qiáng)GPU的性能。因此，多個(gè)GPU作為一個(gè)單元，有助于提供增強(qiáng)的處理能力。連接的GPU擁有自己的內(nèi)存，從而增加了系統(tǒng)的總可用內(nèi)存。NVLink橋還支持20至30 GB/s 的帶寬，為4個(gè)GPU 的設(shè)置提供超過100GB/s 的速度。

網(wǎng)狀網(wǎng)絡(luò)消除 GPU之間的層級(jí)關(guān)系。計(jì)算數(shù)據(jù)因此連接到每個(gè)GPU的節(jié)點(diǎn)，從而提高了整體渲染速度。因此，150至200GB/s的帶寬也可以實(shí)現(xiàn)。與SLI 相比，NVLink的延遲非常低。

****** NVLink的技術(shù)原理******

NVLink代表了多GPU互聯(lián)技術(shù)的邏輯演變，不僅在速度方面，而且在架構(gòu)設(shè)計(jì)方面。NVLink的結(jié)構(gòu)由可以雙向傳輸數(shù)據(jù)的高速數(shù)據(jù)通道組成。與傳統(tǒng)的基于總線的系統(tǒng)不同，NVLink采用點(diǎn)對(duì)點(diǎn)連接，有效減少瓶頸并提高數(shù)據(jù)吞吐量。最新的迭代提供高達(dá)900GB/s的帶寬，比SLI的功能有了顯著增強(qiáng)。

NVLink與眾不同的關(guān)鍵功能之一是它支持網(wǎng)狀拓?fù)涞哪芰Α?/strong>與舊技術(shù)的菊花鏈或中心輻射型拓?fù)湎啾龋W(wǎng)格設(shè)置允許GPU之間實(shí)現(xiàn)更通用且數(shù)量更多的連接。這在數(shù)據(jù)中心和高性能計(jì)算應(yīng)用程序中特別有用，在這些應(yīng)用程序中，復(fù)雜的數(shù)據(jù)路由是常態(tài)。