智算網(wǎng)絡(luò)對(duì)端到端路徑質(zhì)量監(jiān)控的需求

隨著人工智能大模型訓(xùn)練和分布式計(jì)算等高性能應(yīng)用的快速發(fā)展，智算網(wǎng)絡(luò)對(duì)端到端路徑質(zhì)量的監(jiān)控需求日益提升。為了應(yīng)對(duì)網(wǎng)絡(luò)擁塞和時(shí)延異常等問(wèn)題，INT（In-band Network Telemetry，帶內(nèi)網(wǎng)絡(luò)遙測(cè)）作為新一代網(wǎng)絡(luò)質(zhì)量分析技術(shù)，已從學(xué)術(shù)研究走向真實(shí)網(wǎng)絡(luò)環(huán)境。其中，作為INT技術(shù)的標(biāo)準(zhǔn)方案之一，IPT（In-band Path Telemetry，帶內(nèi)路徑遙測(cè)）在路徑質(zhì)量監(jiān)控中發(fā)揮著重要作用。

什么是IPT技術(shù)？

IPT的核心定義

IPT，全稱 In-band Path Telemetry，即帶內(nèi)路徑遙測(cè)。它側(cè)重于實(shí)現(xiàn)端到端路徑質(zhì)量的精準(zhǔn)監(jiān)控，通過(guò)在遙測(cè)域內(nèi)配置入口節(jié)點(diǎn)、出口節(jié)點(diǎn)及傳輸節(jié)點(diǎn)，利用探針標(biāo)記（Probe Marker）唯一標(biāo)識(shí)遙測(cè)域，沿原始路徑生成探測(cè)數(shù)據(jù)包并收集各節(jié)點(diǎn)統(tǒng)計(jì)信息，最終為網(wǎng)絡(luò)運(yùn)維提供整網(wǎng)路徑質(zhì)量的多維分析能力。

工作流程拆解

IPT的工作流程主要分為以下三個(gè)核心環(huán)節(jié)：

入口節(jié)點(diǎn)（Ingress Node）：

• 識(shí)別與采樣： 通過(guò)采樣或配置DSCP指定隊(duì)列的方式識(shí)別目標(biāo)流量，而非復(fù)制所有流量。
• 復(fù)制與截?cái)啵?克隆原始業(yè)務(wù)報(bào)文，保留二三層首部，并截?cái)郟ayload，以降低遙測(cè)流量對(duì)帶寬的占用。
• 探測(cè)包封裝： 在UDP或TCP首部前16字節(jié)后插入IPT專有字段（包括探針標(biāo)記、Base Header及入口節(jié)點(diǎn)統(tǒng)計(jì)信息）。

傳輸節(jié)點(diǎn)（Transit Node）：

• 精準(zhǔn)識(shí)別： 通過(guò)識(shí)別特定偏移位置的Probe Marker，迅速判定該報(bào)文為IPT探測(cè)包。
• 元數(shù)據(jù)追加： 將本節(jié)點(diǎn)的路徑統(tǒng)計(jì)信息（如設(shè)備ID、入/出接口、實(shí)時(shí)時(shí)延等）追加到IPT數(shù)據(jù)段中，且不改變?cè)薪Y(jié)構(gòu)。
• 硬件透?jìng)鳎?確保探測(cè)包的累加處理不會(huì)引入額外的計(jì)算開(kāi)銷。

出口節(jié)點(diǎn)（Egress Node）：

• 信息補(bǔ)全： 寫(xiě)入最后一個(gè)節(jié)點(diǎn)的元數(shù)據(jù)，形成完整的端到端路徑視圖。
• 探測(cè)包終結(jié)和封裝： 將探測(cè)包從業(yè)務(wù)轉(zhuǎn)發(fā)路徑中摘除，將收集到的全路徑元數(shù)據(jù)封裝并發(fā)送給采集器（Collector）。

IPT與BDC/HDC的技術(shù)對(duì)比

為了更好地選擇適合的遙測(cè)方案，我們可以通過(guò)以下表格對(duì)比BDC、HDC以及IPT技術(shù)的差異：

IPT的突出優(yōu)勢(shì)與典型應(yīng)用場(chǎng)景

核心方案優(yōu)勢(shì)

與直接修改業(yè)務(wù)報(bào)文的“染色”方式相比，基于采樣和生成獨(dú)立探測(cè)報(bào)文的遙測(cè)方式具有以下優(yōu)勢(shì)：

• 業(yè)務(wù)零干擾： 由于修改的是復(fù)制出的探測(cè)包，即便遙測(cè)邏輯出現(xiàn)異常，也不會(huì)影響原始業(yè)務(wù)數(shù)據(jù)的完整傳輸。
• 低帶寬壓力： 通過(guò)截?cái)郟ayload，極大地減小了探測(cè)包的體積，非常適合大規(guī)模部署。
• 部署靈活性： 在不支持IPT的設(shè)備上，探測(cè)包可作為普通報(bào)文透?jìng)?；而在支持?jié)點(diǎn)上則進(jìn)行數(shù)據(jù)采集，具備良好的兼容性。

典型應(yīng)用場(chǎng)景：大模型訓(xùn)練集群的路徑優(yōu)化

在超千卡GPU集群的大模型訓(xùn)練場(chǎng)景中，集群依賴高性能網(wǎng)絡(luò)實(shí)現(xiàn)節(jié)點(diǎn)間數(shù)據(jù)同步，路徑質(zhì)量直接影響訓(xùn)練效率。IPT技術(shù)可在以下環(huán)節(jié)優(yōu)化路徑性能：

端到端路徑時(shí)延監(jiān)控： IPT通過(guò)探測(cè)數(shù)據(jù)包采集各節(jié)點(diǎn)轉(zhuǎn)發(fā)時(shí)延，結(jié)合入口到出口的總時(shí)延，可快速定位高延遲節(jié)點(diǎn)，輔助調(diào)整流量轉(zhuǎn)發(fā)路徑。

隊(duì)列狀態(tài)動(dòng)態(tài)感知： IPT探測(cè)數(shù)據(jù)包攜帶隊(duì)列占用大小及QP等信息，幫助運(yùn)維人員快速識(shí)別擁塞隊(duì)列，調(diào)整緩沖區(qū)分配策略。

隨著智算網(wǎng)絡(luò)的發(fā)展，星融元基于INT技術(shù)的IPT方案為端到端網(wǎng)絡(luò)路徑質(zhì)量提供了強(qiáng)有力的監(jiān)控手段。了解并應(yīng)用IPT技術(shù)能夠幫助企業(yè)構(gòu)建高效、穩(wěn)定的網(wǎng)絡(luò)基礎(chǔ)設(shè)施。
想要了解更多關(guān)于智算網(wǎng)絡(luò)優(yōu)化的前沿信息？ 歡迎持續(xù)關(guān)注基于IPT技術(shù)的EasyRoCE小工具的最新發(fā)布！