4月19日，在以“重構(gòu)世界 奔赴未來(lái)”為主題的2024中國(guó)生成式AI大會(huì)上，中科馭數(shù)作為DPU新型算力基礎(chǔ)設(shè)施代表，受邀出席了中國(guó)智算中心創(chuàng)新論壇，發(fā)表了題為《以網(wǎng)絡(luò)為中心的AI算力底座構(gòu)建之路》主題演講，勾勒出在通往AGI之路上，DPU技術(shù)賦能下一代AI算力基礎(chǔ)設(shè)施中的關(guān)鍵作用。

算力是當(dāng)前人工智能領(lǐng)域發(fā)展的關(guān)鍵，是AI時(shí)代的“面包”。要訓(xùn)練百萬(wàn)億參數(shù)超大預(yù)訓(xùn)練模型，算力基礎(chǔ)設(shè)施架構(gòu)優(yōu)化是提升算力的首要步驟。當(dāng)前，DPU算力基礎(chǔ)已經(jīng)發(fā)展迭代了4到5年，算力領(lǐng)域?qū)PU的期望和需求已經(jīng)涵蓋計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)、安全等多個(gè)領(lǐng)域。

中科馭數(shù)旨在通過(guò)DPU將計(jì)算加速、存儲(chǔ)加速、網(wǎng)絡(luò)加速、安全加速及云原生加速等基礎(chǔ)設(shè)施層深度整合，構(gòu)建高性能、高集成的AI服務(wù)基礎(chǔ)架構(gòu)。公司已基于此打造出涵蓋云原生DPU軟硬一體加速、RDMA/RoCE AI計(jì)算網(wǎng)絡(luò)、NVMe-oF高性能存儲(chǔ)、靈活存算分離架構(gòu)、DPU硬件級(jí)安全隔離以及數(shù)據(jù)中心資源池化與統(tǒng)一調(diào)度的豐富產(chǎn)品矩陣與解決方案，不僅僅能夠助力AI算力底座的整體性能提升，也為用戶(hù)提供了更高效更完整的基礎(chǔ)設(shè)施解決方案，有力支撐各類(lèi)AI應(yīng)用的快速發(fā)展。

以中科馭數(shù)自研FLEXFLOW-2100R RDMA加速DPU卡為例，該加速卡產(chǎn)品能夠?qū)⒏咝阅?、穩(wěn)定性、便捷性和通用性融為一體，提供2x100GbE網(wǎng)口的連接能力，支持RoCEv2的硬件卸載能力以及無(wú)損網(wǎng)絡(luò)能力，為國(guó)產(chǎn)化業(yè)務(wù)場(chǎng)景提供微秒級(jí)時(shí)延和百G帶寬的RDMA網(wǎng)絡(luò)環(huán)境，為用戶(hù)提供靈活和高性能的網(wǎng)絡(luò)解決方案。同時(shí)，適配市面上所有主流支持無(wú)損網(wǎng)絡(luò)的交換機(jī)，以及國(guó)內(nèi)外主流服務(wù)器和操作系統(tǒng)，可以快速接入現(xiàn)有RDMA網(wǎng)絡(luò)環(huán)境。經(jīng)實(shí)測(cè)，KPU FLEXFLOW-2100R在4K以下小文件send、read、write測(cè)試場(chǎng)景中，時(shí)延數(shù)據(jù)均在5us以下，最低可達(dá)3us，優(yōu)于國(guó)內(nèi)外主流RDMA智能網(wǎng)卡性能水準(zhǔn)。

需要看到的是，隨著AI向更多領(lǐng)域滲透，對(duì)基礎(chǔ)設(shè)施的需求將更加多元化、智能化。同樣，DPU的成功落地和使用需要經(jīng)過(guò)精心設(shè)計(jì)和打磨，以滿(mǎn)足整個(gè)基礎(chǔ)設(shè)施領(lǐng)域的多樣需求。中科馭數(shù)將繼續(xù)秉持著技術(shù)創(chuàng)新和開(kāi)放合作的理念，歡迎服務(wù)器廠商、CPU/GPU廠商、操作系統(tǒng)廠商等上下游合作伙伴加入馭數(shù)DPU生態(tài)，共同推動(dòng)AI算力底座的發(fā)展。

審核編輯：劉清