在2018年云棲大會(huì)新一代異構(gòu)計(jì)算專場的論壇上，阿里巴巴資深架構(gòu)師徐凌杰發(fā)布了AI Matrix——AI Benchmark 基準(zhǔn)測試平臺，可以幫助開發(fā)者解決四大關(guān)鍵問題：真實(shí)反應(yīng)AI應(yīng)用和模型使用的現(xiàn)實(shí)情況，對包括GPU在內(nèi)的AI加速器解決方案的引入評估和選型制定一個(gè)標(biāo)準(zhǔn)，提高硬件的利用率，以及對AI芯片的架構(gòu)定義設(shè)計(jì)以及優(yōu)化提供指引。

所謂 “沒有規(guī)矩，不成方圓”，縱觀計(jì)算機(jī)體系結(jié)構(gòu)的發(fā)展史，Benchmark一直在幕后擔(dān)任著指揮棒的角色，深刻地影響、甚至左右著芯片行業(yè)的發(fā)展。遠(yuǎn)到超算領(lǐng)域的Linpack，CPU界的SPEC，近到GPU世界的3DMark以及智能手機(jī)的AnTuTu，不知道有多少公司多少工程師為此而“分”狂。AI 領(lǐng)域的benchmark卻一直缺乏有領(lǐng)導(dǎo)性地位的公司帶領(lǐng)。

在2018年云棲大會(huì)新一代異構(gòu)計(jì)算專場的論壇上，阿里巴巴資深架構(gòu)師徐凌杰發(fā)布了AI Matrix——AI Benchmark基準(zhǔn)測試平臺（https://aimatrix.ai），結(jié)合阿里在芯片領(lǐng)域的布局以及在AI方面的投入，重磅推出阿里的Benchmarks。

阿里的愿景是“讓天下沒有難做的生意”，AI Matrix定位則是“讓天下沒有難測的AI加速器”。

“我們不僅會(huì)將這套平臺用于阿里內(nèi)部的芯片設(shè)計(jì)和技術(shù)選型，同時(shí)也會(huì)把一部分的能力，通過（https://aimatrix.ai）網(wǎng)站以及相應(yīng)的代碼庫開放，讓所有有需要或者有志于為AI軟硬件做出貢獻(xiàn)的人，都可以從中獲益?！?/p>

“阿里是一家技術(shù)公司，但也是一家平臺型的公司，平臺型的公司特點(diǎn)就是要有開放性和包容性，我們希望通過自身經(jīng)驗(yàn)?zāi)軌驇偷礁嗟娜?。一起共同來繁榮AI芯片、AI加速器這個(gè)市場，這是我們做AI Matrix的使命?！?/p>

芯片是AI發(fā)展的核心技術(shù)

根據(jù)權(quán)威的行業(yè)分析報(bào)告，AI芯片的市場將會(huì)從今年的70億美金增長到2025年600億美金的市場。在AI的三要素中，數(shù)據(jù)和算法都是阿里優(yōu)勢比較明顯的地方，同時(shí)在算力上阿里也在大力推進(jìn)芯片方面的布局。

“萬事俱備，只欠東風(fēng)。我們做芯片和造房子有點(diǎn)像，工程復(fù)雜度高，周期長，其中的核心人物在英文里都叫Architect，架構(gòu)定的好不好是項(xiàng)目成敗的根本。我們必須要從應(yīng)用的需求出發(fā)，要做到Domain Specific軟硬件的完美結(jié)合，就要定出一套合理的評估衡量標(biāo)準(zhǔn)，Benchmark就是一個(gè)硬需求，我們不僅要做，而且要花心思去做，把它給做好，這就是我們要借的東風(fēng)?！?/p>

AI時(shí)代需要不一樣的Benchmark

Benchmark可以幫助阿里以及開發(fā)者解決以下四個(gè)關(guān)鍵性問題：

通過調(diào)研和集群信息收集，真實(shí)反應(yīng)AI應(yīng)用和模型使用的現(xiàn)實(shí)情況

基于現(xiàn)有信息，對包括GPU在內(nèi)的AI加速器解決方案的引入評估和選型制定一個(gè)標(biāo)準(zhǔn)

利用這些頭部用例進(jìn)一步推進(jìn)軟硬件融合，提高硬件的利用率

結(jié)合行業(yè)前沿的算法，對AI芯片的架構(gòu)定義設(shè)計(jì)以及優(yōu)化提供指引

“所以，在開始Benchmark的項(xiàng)目之初，我們就定好了平臺化，靈活性，專業(yè)性以及可移植性四個(gè)主要方向，并創(chuàng)新性地提出了合成模型StatsNet來幫助我們實(shí)現(xiàn)信息及時(shí)靈活以及輕量級地落地，來促進(jìn)AI加速器及時(shí)準(zhǔn)確的迭代。”

“我們初期的研發(fā)工作也得到了外界的認(rèn)同，關(guān)于合成模型的方法論的論文也已經(jīng)被今年即將在達(dá)拉斯舉行的SC超算會(huì)議錄用?！?/p>

AI = Architecture Intelligence

AI Matrix的定位將不僅僅是一個(gè)簡單的測試集，而是希望能夠在將來提供完整的工具鏈以及解決方案。在定位上，除了在做好Benchmark本身最基本的評測功能之外，阿里巴巴也會(huì)把它拓展到應(yīng)用和資源優(yōu)化的領(lǐng)域，不僅做到Domain Specific軟硬件結(jié)合，同時(shí)也能做到Agile Design架構(gòu)的快速迭代。

“我們誠摯感謝合作伙伴對于阿里巴巴在人工智能發(fā)展推進(jìn)上的支持和反饋，也希望有更多的公司組織甚至個(gè)人都能夠參與到我們的項(xiàng)目中來，一起來攜手共建更強(qiáng)大的AI 芯片架構(gòu)的基礎(chǔ)設(shè)施?！?/p>

希望AI Matrix成為AI芯片設(shè)計(jì)的征程上最好的指南針，不僅能夠陪你走到目的地，而且能夠讓你看到最好的風(fēng)景。