HBX-G500是一款為AI、計算和網(wǎng)絡(luò)領(lǐng)域設(shè)計的高性能可編程加速器卡。它配備了多通道的高帶寬存儲和高效能計算能力，以及先進(jìn)的高速接口解決方案，特別適用于運(yùn)行大型模型。即便在小批量數(shù)據(jù)處理時，它的性能也能媲美A100和H100。

該加速器卡搭載了兩組PCIe GEN5接口，并配備了兩個400GbE和一個200Gbe網(wǎng)絡(luò)接口，以及32GB的GDDR6存儲單元。

它還具備一個包含超過80個節(jié)點(diǎn)的2DNOC網(wǎng)絡(luò)和2560個高度可配置的MLP計算核心，以支持密集型計算任務(wù)。2DNOC不僅連接了高速接口和存儲單元，而且還連接了Fabric的80個節(jié)點(diǎn)，使得用戶可以更專注于功能開發(fā)。總線路由問題可以簡單地通過NOC連接來解決。

板卡功能：

兩路PCIe Gen5 ，其中PCIe Gen5X16支持系統(tǒng)接口，PCIeGen5X4可同時支持RC/EP

兩路網(wǎng)口，速率可達(dá)400Gbe以及200Gbe，且支持向下速率兼容

32GBGDDR6，市面上為數(shù)不多的支持GDDR6的FPGA板卡，支持16通路訪問，內(nèi)存帶寬可達(dá)3.5Tbps

FPGA可支持達(dá)1500K LE

FPGA支持2560高性能計算核心（MLP）

每個MLP最大支持32個乘法器，可根據(jù)數(shù)據(jù)位寬的變化做調(diào)整

專屬內(nèi)嵌的LRAM/BRAM可緩存數(shù)據(jù)或者快速反饋結(jié)

支持整型（INT16/INT8/INT4）、浮點(diǎn)(FP24/FP16)、BFP

INT8總算力約61Tops

支持通用串行總線（USB）JTAG配置、PCIe加載

支持上電自加載，1GB QSPI閃存 板卡規(guī)格:

尺寸：高度：111.15mm 長度：275mm

工作電壓：外部兩路+12VDC

適用AI應(yīng)用的架構(gòu)特性：

2D NOC的高效路由架構(gòu)讓用戶可以集中精力于開發(fā)：

它支持廣泛采用的AXI4標(biāo)準(zhǔn)接口。

NOC的工作頻率可達(dá)2Ghz，數(shù)據(jù)傳輸寬度為256位。

主機(jī)通過PCIe接口，可以直接通過NOC的黃色區(qū)域訪問16條通道的GDDR6存儲。

主機(jī)通過PCIe，同樣可以通過NOC的黃色區(qū)域直接訪問連接在NAP上的任意功能單元。

功能單元能夠通過NOC直接訪問存儲資源（GDDR6或DDR）。

不同功能單元之間可以通過NOC進(jìn)行高效互聯(lián)。

審核編輯：劉清