在華為全聯(lián)接2021上,鯤鵬應(yīng)用使能套件BoostKit(以下簡稱“鯤鵬BoostKit”)正式升級為2.0,提供 “數(shù)據(jù)親和”加速組件,對數(shù)據(jù)全處理流程進行負載優(yōu)化,從而大幅提升應(yīng)用性能。本期由華為計算產(chǎn)品線算法專家陳澤暉和何智文向大家展示鯤鵬BoostKit 2.0分布式存儲全局緩存(Global Cache)特性如何做到數(shù)據(jù)存儲和處理的倍數(shù)級加速能力。
在摩爾定律的驅(qū)使下,計算能力倍數(shù)級增長,但數(shù)據(jù)傳輸速度過慢導(dǎo)致大量計算資源浪費,也限制了系統(tǒng)性能發(fā)揮。例如,在金融行業(yè),銀行逐步采用AI技術(shù)對客戶信息、遠程開戶錄像、客服中心語音、企業(yè)資料等數(shù)據(jù)進行挖掘與利用,對海量文件的讀寫會占用大量計算資源,導(dǎo)致業(yè)務(wù)處理效率降低。
原生Ceph IO請求的處理路徑長,導(dǎo)致IO時延高,用戶數(shù)據(jù)讀寫時間長
鯤鵬BoostKit分布式存儲全局緩存應(yīng)運而生,通過緩存前后臺分離、IO聚合、智能預(yù)取三大創(chuàng)新技術(shù)實現(xiàn)典型讀寫場景IOPS提升10倍,IO時延降低90%,意味著同樣時間內(nèi)銀行處理的交易筆數(shù)提升10倍,而且每筆交易處理時長降低90%!
測試模型:4K IO,7:3混合隨機讀寫;硬件配置:256GB內(nèi)存,25GE網(wǎng)絡(luò),每節(jié)點12 * 8TB SATA HDD,2 * 3.2TB NVMe SSD
下面帶你1分鐘get三大創(chuàng)新技術(shù):
1. 緩存前后臺分離——縮短數(shù)據(jù)處理路徑:降低IO請求的線程數(shù)量,上層應(yīng)用只需要將數(shù)據(jù)寫入到緩存池或從緩存池中讀取即可響應(yīng)用戶請求。
在數(shù)據(jù)寫入場景,數(shù)據(jù)到寫緩存后就可以給上層應(yīng)用返回數(shù)據(jù)寫入成功,無需與后臺Ceph存儲集群等分布式存儲軟件交互,用戶業(yè)務(wù)應(yīng)用無感知
2. 智能預(yù)取——讀加速:將數(shù)據(jù)提前加載至讀緩存,實現(xiàn)80%以上緩存命中率和2倍以上讀性能加速。
基于IO數(shù)據(jù)統(tǒng)計,智能分析IO模型特征,實現(xiàn)緩存命中率大幅提升
3. IO聚合——寫加速:技術(shù)通過批量數(shù)據(jù)聚合,實現(xiàn)全周期隨機寫入轉(zhuǎn)順序?qū)懭?,實現(xiàn)滿帶寬性能。
在緩存中把各種大小的數(shù)據(jù)塊聚合成以8M為單位的大數(shù)據(jù)塊,從隨機小IO轉(zhuǎn)變成順序大IO寫入后端Ceph等分布式存儲集群
此外,BoostKit全局緩存面向鯤鵬生態(tài),結(jié)合硬件特點開展軟硬協(xié)同優(yōu)化,如CPU親和、NUMA親和等,進一步達到“數(shù)據(jù)親和”,在不增加硬件成本的前提下,全局緩存面向全命中和真實業(yè)務(wù)負載提供2~10倍端到端讀寫性能加速能力。
原文標(biāo)題:BoostKit干貨店|同樣硬件,Ceph存儲性能提升10倍
文章出處:【微信公眾號:華為計算】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
-
華為
+關(guān)注
關(guān)注
218文章
36218瀏覽量
262763 -
數(shù)據(jù)存儲
+關(guān)注
關(guān)注
5文章
1038瀏覽量
53026 -
ai技術(shù)
+關(guān)注
關(guān)注
1文章
1315瀏覽量
25810
原文標(biāo)題:BoostKit干貨店|同樣硬件,Ceph存儲性能提升10倍
文章出處:【微信號:gh_3a181fa836b6,微信公眾號:華為計算】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
AI Ceph 分布式存儲教程資料大模型學(xué)習(xí)資料2026
2022全新版!Java分布式架構(gòu)設(shè)計與開發(fā)實戰(zhàn)(完結(jié))
TiDB分布式數(shù)據(jù)庫運維實踐
分布式數(shù)據(jù)恢復(fù)—Ceph+TiDB數(shù)據(jù)恢復(fù)報告
國內(nèi)分布式AI存儲方案商港股IPO!
MR30分布式I/O助力物流分揀系統(tǒng)智能化升級
MR30分布式IO在自動上料機的應(yīng)用
MR30分布式IO在噴繪機器人的應(yīng)用
一鍵部署無損網(wǎng)絡(luò):EasyRoCE助力分布式存儲效能革命
明達MR30分布式IO在紡織行業(yè)穿經(jīng)機的應(yīng)用
Ceph分布式存儲系統(tǒng)解析
分布式IO選型指南:2025年分布式無線遠程IO品牌及采集控制方案詳解
華為分布式存儲榮膺2025年Gartner“客戶之選”
曙光存儲領(lǐng)跑中國分布式存儲市場
Vsan數(shù)據(jù)恢復(fù)——Vsan分布式文件系統(tǒng)上虛擬機不可用的數(shù)據(jù)恢復(fù)
鯤鵬BoostKit 2.0分布式存儲全局緩存如何加速數(shù)據(jù)存儲倍數(shù)級
評論