2023年6月，第三屆網(wǎng)絡(luò)開(kāi)源技術(shù)生態(tài)峰會(huì)在北京成功召開(kāi)。中科馭數(shù)高級(jí)副總裁、CTO盧文巖博士受邀出席本屆峰會(huì)，并在活動(dòng)主論壇分享題為《P4可編程的DPU 讓算網(wǎng)生態(tài)更加開(kāi)放融合》的主題演講。

■數(shù)據(jù)中心“稅”與異網(wǎng)融合“稅”是當(dāng)前算網(wǎng)生態(tài)的兩大痛點(diǎn)

算力，毫無(wú)疑問(wèn)是當(dāng)前數(shù)字經(jīng)濟(jì)發(fā)展的核心增長(zhǎng)力，已經(jīng)成為像水、電、網(wǎng)一樣的基礎(chǔ)性生產(chǎn)要素，事關(guān)到整個(gè)核心要素的升級(jí)，是驅(qū)動(dòng)經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型的新引擎。 演講伊始，盧文巖博士簡(jiǎn)要介紹了針對(duì)當(dāng)前業(yè)界普遍達(dá)成共識(shí)的分層算力網(wǎng)絡(luò)結(jié)構(gòu)，并表示統(tǒng)籌云、網(wǎng)、邊、端于一體的新一代計(jì)算技術(shù)已成為算力網(wǎng)絡(luò)的發(fā)展方向。 最上層的云層是各類云計(jì)算平臺(tái)和云服務(wù)提供商，提供大規(guī)模的計(jì)算和存儲(chǔ)資源；網(wǎng)層提供云之間的高速連接；邊層位于離用戶和數(shù)據(jù)源更近的位置，提供低延遲、高可用性的計(jì)算和存儲(chǔ)服務(wù)；端層是接入側(cè)的設(shè)備，是數(shù)據(jù)的產(chǎn)生和接入點(diǎn)。這一分層結(jié)構(gòu)使得算力網(wǎng)絡(luò)能夠滿足不同應(yīng)用場(chǎng)景的需求，實(shí)現(xiàn)云、網(wǎng)、邊、端的協(xié)同工作。 這一算力網(wǎng)絡(luò)架構(gòu)，在發(fā)展過(guò)程中面臨著數(shù)據(jù)中心“稅”與異網(wǎng)融合“稅”兩大痛點(diǎn)。前者是指在現(xiàn)在的基礎(chǔ)設(shè)施架構(gòu)中，虛擬化管理和網(wǎng)絡(luò)需要占據(jù)很多CPU資源。以某公有云廠商網(wǎng)絡(luò)增強(qiáng)型云主機(jī)為例，基于2x25G普通網(wǎng)卡，24核CPU中4核用于虛擬網(wǎng)絡(luò)功能，1核用于虛擬化管理功能，可用CPU資源不足80%。 而后者的痛點(diǎn)則在于異網(wǎng)融合的過(guò)程中，往往需要解決沉重的歷史包袱，不同網(wǎng)絡(luò)協(xié)議之間的通信需要大量專用的網(wǎng)絡(luò)設(shè)備完成相應(yīng)的轉(zhuǎn)換，隨著算網(wǎng)規(guī)模的擴(kuò)大，不僅增加了網(wǎng)絡(luò)管理的復(fù)雜性，還限制了算力網(wǎng)絡(luò)的靈活性和可擴(kuò)展性。

這些挑戰(zhàn)和限制，在來(lái)自云廠商和芯片廠商的行業(yè)專家的演講中也得到了回應(yīng)，他們結(jié)合各家實(shí)踐經(jīng)驗(yàn)，給出了更為具體的闡述。 中國(guó)移動(dòng)研究院副院長(zhǎng)段曉東指出，智算中心的發(fā)展是整個(gè)算力網(wǎng)絡(luò)體系架構(gòu)發(fā)展的重中之重，如何構(gòu)筑一個(gè)區(qū)別于傳統(tǒng)運(yùn)營(yíng)中心的新型智算中心，在算、存、網(wǎng)、管、效五個(gè)方面都有很大的提升和不同。傳統(tǒng)的數(shù)據(jù)中心以CPU為核心的單機(jī)雙路到GPU為核心的八卡互聯(lián)，總線結(jié)構(gòu)發(fā)生了飛躍變化。存儲(chǔ)也從結(jié)構(gòu)化單一到混合協(xié)議存儲(chǔ)大量非結(jié)構(gòu)數(shù)據(jù)。網(wǎng)絡(luò)技術(shù)更重要，從普通以太網(wǎng)以10G、20G為核心，現(xiàn)在躍遷到200-400G。異構(gòu)算力、算力原生，已經(jīng)成為非常重要的訴求。 騰訊云與邊緣網(wǎng)絡(luò)技術(shù)總監(jiān)陳煒先生在談到騰訊云在算力網(wǎng)絡(luò)方面的實(shí)踐時(shí)提及，進(jìn)入大AI模型時(shí)代，整個(gè)機(jī)房對(duì)電和算力的基礎(chǔ)設(shè)施包括網(wǎng)絡(luò)帶來(lái)了新的挑戰(zhàn)。堆砌GPU集群，已不再意味著能充分釋放算力。極端情況下，網(wǎng)絡(luò)通信時(shí)延會(huì)占據(jù)整個(gè)一次模型訓(xùn)練50%的時(shí)間，是非常驚人的數(shù)字。同時(shí)丟包給整個(gè)的網(wǎng)絡(luò)的吞吐，也會(huì)帶來(lái)50%的下降。 英特爾資深云網(wǎng)絡(luò)技術(shù)專家丁曉艷也表示當(dāng)前最大的瓶頸在于，隨著算網(wǎng)融合、算力運(yùn)算等各種云網(wǎng)絡(luò)、邊緣網(wǎng)絡(luò)新應(yīng)用的發(fā)展，以Tofino為代表的P4交換機(jī)無(wú)法應(yīng)對(duì)隨之而來(lái)的帶寬需求，對(duì)于延時(shí)和抖動(dòng)也無(wú)法得到保證。


■DPU是下一代“算力網(wǎng)絡(luò)”的核心算力芯片

為了解決當(dāng)前算網(wǎng)生態(tài)面臨的問(wèn)題，靈活可編程的網(wǎng)絡(luò)接入設(shè)備是解決此類問(wèn)題的一個(gè)最優(yōu)解。因此，DPU（Data Processing Unit）作為下一代"算力網(wǎng)絡(luò)"的核心算力芯片應(yīng)運(yùn)而生，能夠從硬件層面直接解決底層基礎(chǔ)設(shè)施層面臨的關(guān)鍵問(wèn)題。 盧文巖博士指出，DPU本質(zhì)上是一個(gè)可編程的Switch，中科馭數(shù)在兩年前就發(fā)現(xiàn)了P4的魅力所在，并在DPU芯片功能定義的研發(fā)階段布局了P4技術(shù)。到現(xiàn)在為止，中科馭數(shù)DPU芯片已全面支持P4編程，能夠在數(shù)據(jù)中心、網(wǎng)絡(luò)邊緣和終端設(shè)備上提供了更大的靈活性和可擴(kuò)展性；圍繞DPU構(gòu)建的軟件開(kāi)發(fā)平臺(tái)HADOS，也可以為P4提供完善的技術(shù)支撐，加速P4技術(shù)在SDN網(wǎng)絡(luò)中的研發(fā)落地應(yīng)用。

P4可編程的DPU優(yōu)勢(shì)，首先在于高性能，整個(gè)執(zhí)行下沉到專用硬件邏輯之中，可以有效提升系統(tǒng)的執(zhí)行效率和處理能力；其次是高度可編程，當(dāng)前算網(wǎng)融合過(guò)程中需要解決各類網(wǎng)絡(luò)協(xié)議的轉(zhuǎn)化和融合問(wèn)題，DPU具備可編程能力可支撐自定義的場(chǎng)景、支持自定義協(xié)議棧快速開(kāi)發(fā)；第三是低數(shù)據(jù)中心“稅”，網(wǎng)絡(luò)數(shù)據(jù)面處理完全下沉后可以大幅度降低現(xiàn)有數(shù)據(jù)中心的數(shù)據(jù)“稅”，P4 runtime管控面也可以下沉到DPU，進(jìn)一步釋放服務(wù)器算力。 針對(duì)傳統(tǒng)P4技術(shù)在有狀態(tài)卸載、多功能核融合兩方面存在的缺陷，盧文巖博士著重介紹了中科馭數(shù)第三代DPU芯片K2 Pro，并對(duì)其中網(wǎng)絡(luò)架構(gòu)的處理核展開(kāi)詳細(xì)展開(kāi)說(shuō)明——K2 Pro在芯片內(nèi)部專門(mén)集成了可編程網(wǎng)絡(luò)處理引擎以及專用數(shù)據(jù)分析引擎，不僅可以高效地完成數(shù)據(jù)增刪改查、甚至更復(fù)雜的操作，更主要的目的——支持有狀態(tài)的信息存儲(chǔ)和查詢，有效提升DPU芯片的性能、靈活性和資源利用效率。

■DPU P4技術(shù)將為算力網(wǎng)絡(luò)提供堅(jiān)實(shí)的可編程底座 對(duì)于DPU P4技術(shù)在算網(wǎng)領(lǐng)域的落地場(chǎng)景，盧文巖博士也作了進(jìn)一步闡述。DPU P4技術(shù)的可編程性和靈活性，使得其在網(wǎng)關(guān)、服務(wù)器端、防火墻和比較協(xié)議等場(chǎng)景的應(yīng)用中具備更大的優(yōu)勢(shì)，網(wǎng)絡(luò)設(shè)備能夠根據(jù)實(shí)際需求動(dòng)態(tài)調(diào)整和配置網(wǎng)絡(luò)協(xié)議，實(shí)現(xiàn)更高效、智能的數(shù)據(jù)處理和網(wǎng)絡(luò)管理。這一特點(diǎn)將為這些應(yīng)用場(chǎng)景帶來(lái)更好的性能、安全性和可靠性。 以分布式NAT網(wǎng)關(guān)為例，當(dāng)前公有云/混合云/私有云在與邊緣云對(duì)接的場(chǎng)景中，受限于各地不同接入條件，存在大量需要NAT轉(zhuǎn)換場(chǎng)景。傳統(tǒng)方案中往往使用專有網(wǎng)關(guān)設(shè)備實(shí)現(xiàn)，成本高、性能差。DPU P4解決方案能夠靈活支持各種動(dòng)態(tài)與靜態(tài)地址轉(zhuǎn)換需求?；诟咝阅苡布阅芴嵘?倍以上；支持分布式網(wǎng)關(guān)部署，可以根據(jù)業(yè)務(wù)情況動(dòng)態(tài)調(diào)整；網(wǎng)關(guān)DPU與服務(wù)器DPU采用相同硬件，可以更好的保護(hù)硬件投資。

本屆網(wǎng)絡(luò)開(kāi)源技術(shù)生態(tài)峰會(huì)由中國(guó)通信學(xué)會(huì)指導(dǎo)，中國(guó)通信學(xué)會(huì)開(kāi)源技術(shù)委員會(huì)、江蘇省未來(lái)網(wǎng)絡(luò)創(chuàng)新研究院主辦，SDNLAB社區(qū)、阿里云計(jì)算有限公司協(xié)辦。主論壇深入探討了網(wǎng)絡(luò)開(kāi)源技術(shù)的發(fā)展趨勢(shì)和未來(lái)的挑戰(zhàn)，激發(fā)了新的思考和創(chuàng)新。相信通過(guò)共同努力，DPU P4技術(shù)將為算網(wǎng)生態(tài)的開(kāi)放融合帶來(lái)新的可能性，推動(dòng)算力網(wǎng)絡(luò)的發(fā)展和創(chuàng)新，為未來(lái)的數(shù)字化社會(huì)提供更強(qiáng)大、更可靠的算力支持。
責(zé)任編輯：彭菁