近期，鄢貴海團(tuán)隊(duì)研究成果在計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域國(guó)際頂級(jí)期刊《IEEE Transactions on Computers》中發(fā)表。該研究主要圍繞KPU敏捷計(jì)算架構(gòu)展開(kāi)，KPU具有超強(qiáng)異構(gòu)核集成和調(diào)度能力，在降低了規(guī)模限制的硬件成本和設(shè)計(jì)周期的同時(shí)，又可通過(guò)軟件編程實(shí)現(xiàn)不同功能的計(jì)算，具有較高的可擴(kuò)展性和靈活性。中科馭數(shù)DPU芯片基于自研KPU架構(gòu)設(shè)計(jì)。以下是部分研究?jī)?nèi)容：

————————

領(lǐng)域特定架構(gòu)技術(shù)顯著提升了計(jì)算性能。然而，隨著數(shù)據(jù)量呈指數(shù)增長(zhǎng)以及應(yīng)用類(lèi)型的豐富，面向某一特定計(jì)算操作的加速器難以處理復(fù)雜的工作負(fù)載和應(yīng)用需求，現(xiàn)有的加速器設(shè)計(jì)也難以滿(mǎn)足大規(guī)模數(shù)據(jù)計(jì)算需求。主要挑戰(zhàn)在于建立一個(gè)靈活的框架，能夠充分利用這些粗粒度的特定計(jì)算加速單元執(zhí)行復(fù)雜計(jì)算，同時(shí)避免硬件集成、編程、系統(tǒng)編譯和運(yùn)行等引入的額外開(kāi)銷(xiāo)。

核處理單元（Kernel Processing Unit, KPU）架構(gòu)基于“軟件定義加速器”方法實(shí)現(xiàn)，是一種為加速特定領(lǐng)域核心功能計(jì)算而設(shè)計(jì)的協(xié)處理器架構(gòu)，能夠有效解決“專(zhuān)用”的困境。KPU以功能核作為基本單元，直接對(duì)應(yīng)用中計(jì)算密集型應(yīng)用進(jìn)行抽象核和高層綜合，實(shí)現(xiàn)以數(shù)據(jù)為中心的架構(gòu)“定制”。KPU具有超強(qiáng)異構(gòu)核集成和調(diào)度能力，一顆 KPU根據(jù)需求可以集成數(shù)十至數(shù)百個(gè)功能核。在運(yùn)行機(jī)制上，KPU采用“數(shù)據(jù)驅(qū)動(dòng)并行計(jì)算”的方式，運(yùn)行過(guò)程中通過(guò)數(shù)據(jù)流來(lái)激活不同的功能核進(jìn)行相應(yīng)計(jì)算。通過(guò)高層次綜合，既實(shí)現(xiàn)了領(lǐng)域內(nèi)硬件的統(tǒng)一，降低了規(guī)模限制的硬件成本和設(shè)計(jì)周期，又能通過(guò)軟件編程實(shí)現(xiàn)不同功能的計(jì)算；特定需求只需要增刪功能核的種類(lèi)和數(shù)量即可。在整體計(jì)算效率提升百倍的前提下，仍然具有非常高的可擴(kuò)展性和靈活性。

基于KPU架構(gòu)的思想，面向數(shù)據(jù)庫(kù)的KPU-SQL架構(gòu)的核心是設(shè)計(jì)統(tǒng)一的接口以整合所有數(shù)據(jù)查詢(xún)操作。在硬件架構(gòu)方面，KPU-SQL集成了多個(gè)獨(dú)立設(shè)計(jì)的查詢(xún)操作計(jì)算單元，通過(guò)對(duì)這些特定功能計(jì)算核的充分優(yōu)化，最大程度上提升數(shù)據(jù)查詢(xún)性能。在數(shù)據(jù)管理方面，KPU-SQL集成一種高效數(shù)據(jù)管理系統(tǒng)（DMS）充分優(yōu)化數(shù)據(jù)流，利用流式計(jì)算方法最大化片上內(nèi)存帶寬的利用率。面向數(shù)據(jù)庫(kù)查詢(xún)這一典型的應(yīng)用場(chǎng)景，設(shè)計(jì)KPU指令集架構(gòu)KISA，從查詢(xún)關(guān)鍵操作的層次抽象關(guān)鍵算子，實(shí)現(xiàn)KPU-SQL的并行編程。在上層軟件的支持方面，KPU-SQL提供了一個(gè)完整的軟件編程工具并充分優(yōu)化數(shù)據(jù)庫(kù)查詢(xún)操作執(zhí)行。設(shè)計(jì)了一種自適應(yīng)卸載機(jī)制，充分協(xié)同CPU和加速器的計(jì)算能力，優(yōu)化執(zhí)行中的計(jì)算和數(shù)據(jù)傳輸開(kāi)銷(xiāo)。在數(shù)據(jù)查詢(xún)標(biāo)準(zhǔn)測(cè)試集TPC的典型實(shí)驗(yàn)中，KPU-SQL比通用CPU和GPU取得24.5倍和8.75倍性能提升。

審核編輯 黃宇