(電子發(fā)燒友網(wǎng)報(bào)道 文/章鷹）2020年，疫情過后，我們看到隨著AI芯片的發(fā)展，智慧醫(yī)療、智能工廠、智能5G網(wǎng)絡(luò)優(yōu)化都已經(jīng)成為可能。AI是新基建里的重要部分，而芯片則是AI新基建發(fā)力的重中之重。在AI應(yīng)用的第一階段，應(yīng)用場景主要為訓(xùn)練和推理，在模型訓(xùn)練方面，算法模型需要對海量數(shù)據(jù)進(jìn)行處理；隨著算法模型應(yīng)用趨于成熟，AI應(yīng)用步入第二階段，AI算力基建偏向于推理芯片的建設(shè)。AI芯片作為AI應(yīng)用落地重要支撐，出貨量與日俱增，但是對于行業(yè)的一些性能標(biāo)準(zhǔn)也急需要規(guī)范化。

8月8日，在2020全球人工智能和機(jī)器人峰會(huì)AI芯片專場上，地平線的聯(lián)合創(chuàng)始人兼技術(shù)副總裁黃暢博士，正式提出了面向芯片AI性能的MAPS測試方法。針對AI芯片落地應(yīng)用，黃暢也給出了前沿思考。

“縱觀深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)模型的發(fā)展演進(jìn)，我們發(fā)現(xiàn)AI芯片面臨的一大挑戰(zhàn)，是算法演進(jìn)速度遠(yuǎn)超硬件改進(jìn)速度，致使評估芯片AI性能的方法與算法發(fā)展之間存在脫節(jié)的現(xiàn)象“，黃暢在演講中表示。

黃暢指出，最近四年間AI算法精度和效率持續(xù)提升，2016年，語音合成革命性突破，機(jī)器和人聲難以分辨計(jì)算量巨大，無法實(shí)時(shí)完成計(jì)算；2017年，WaveNet到Parallel WaveNet，計(jì)算效率提升1000倍，GPU可以20倍實(shí)時(shí)運(yùn)行計(jì)算方式改變，RNN到Dilated CNN 產(chǎn)品化。2018年，計(jì)算方式變化，Dilated CNN到Sparse RNN，手機(jī)CPU（驍龍808）可用。

黃暢分享說，從2016年到2018年，ImageNet精度趨近飽和，2017年最后一屆競賽計(jì)算效率優(yōu)化得到重視，在圖像識(shí)別領(lǐng)域，出現(xiàn)新卷積Depthwise convolution, 該結(jié)構(gòu)和常規(guī)卷積操作類似，可用來提取特征，但相比于常規(guī)卷積操作，其參數(shù)量和運(yùn)算成本較低。業(yè)界推出SENet、DenseNet等輕量級(jí)網(wǎng)絡(luò)，而且還出現(xiàn)了NASNet，網(wǎng)絡(luò)結(jié)構(gòu)自動(dòng)搜索。這種技術(shù)導(dǎo)致第一次算法超越算法專家。2019年，EfficientNet（谷歌大腦）出世，震驚整個(gè)行業(yè)，其基準(zhǔn)網(wǎng)絡(luò)限定計(jì)算量，0.4GFLOPS，EfficientNet B0相對VGG19提升100%，每9個(gè)月翻番。

目前，業(yè)界尚缺乏一個(gè)與時(shí)俱進(jìn)的，能夠有效評估芯片AI性能的標(biāo)準(zhǔn)。業(yè)界慣常使用的芯片評測標(biāo)準(zhǔn)有兩種，一是峰值算力，但峰值算力只反映AI芯片理論上的最大計(jì)算能力，而非在實(shí)際AI應(yīng)用場景中的處理能力，具有很大的局限性；二是目前行業(yè)較為知名的基準(zhǔn)測試組織MLPerf，其采用的模型少且更新速度滯后于算法演進(jìn)的速度，無法及時(shí)反映算法效率的提升以及各種精度下芯片能夠達(dá)到的計(jì)算速度，因而無法描述芯片AI性能的全貌。

為了推動(dòng)芯片AI性能評估方式與時(shí)俱進(jìn)，地平線提出MAPS評測方法，為行業(yè)提供一個(gè)評估芯片AI性能的視角?！霸u估芯片AI性能，本質(zhì)上應(yīng)該關(guān)注做AI任務(wù)的速度和精度，即‘多快’和‘多準(zhǔn)’?！秉S暢介紹說：“MAPS評測方法，關(guān)注真實(shí)的用戶價(jià)值，將每顆芯片在‘快’和‘準(zhǔn)’這兩個(gè)關(guān)鍵維度上的取舍變化直觀地展現(xiàn)出來，并在合理的精度范圍內(nèi)，評估芯片的平均處理速度。這個(gè)方法具有可視化和可量化的特點(diǎn)?！?/p>

作為 AI 領(lǐng)域的奧林匹克競賽，ImageNet 比賽產(chǎn)生了幾乎所有機(jī)器視覺中最重要的模型，它們在 ImageNet 上的精度可充分遷移到其他機(jī)器視覺任務(wù)（如物體檢測、語義分割等）。在 ImageNet 的主流精度范圍（75~80%）下，速度最快的模型所代表的點(diǎn)（由精度和幀率確定）所圍多邊形面積大小即為芯片處理ImageNet AI任務(wù)的能力大小，其公式為MAPS = 所圍面積 /（最高精度-最低精度）。在演講現(xiàn)場，黃暢還展示了MAPS評估方式在在ImageNet上的定義與主流芯片測試結(jié)果。

上圖為MAPS評估方式下主流芯片測試結(jié)果，右一折線為地平線最新一代芯片測試結(jié)果

黃暢指出，芯片AI效能三要素，主要是峰值算力、有效利潤率和AI算法效率的結(jié)合。算力部署在AI芯片上，根據(jù)架構(gòu)特點(diǎn)，解決一個(gè)復(fù)雜的問題，得到算法在芯片上的實(shí)際利用率，整體軟硬件架構(gòu)的整體功耗，2019年，AI算法在新卷積神經(jīng)網(wǎng)絡(luò)技術(shù)推動(dòng)下，效率得到明顯提升。

黃暢舉例分析，他說：“自動(dòng)駕駛或者機(jī)器人領(lǐng)域的話，輸入的數(shù)據(jù)是連續(xù)視頻，連續(xù)視頻之間有巨大冗余。那如何去利用這個(gè)冗余呢？算法就應(yīng)該做相應(yīng)的迭代，地平線采取的方法是把視頻序列當(dāng)成是一個(gè)流，然后用更高效的算法去有針對性的處理真正在這個(gè)視頻中有變化的，有價(jià)值的信息，面對越來越復(fù)雜的場景的時(shí)候，算法還有持續(xù)的巨大的提升空間?！?/strong>