（文章來源：電子工程世界）

在今天的大數(shù)據(jù)時代，企業(yè)和消費者被各種來源的海量數(shù)據(jù)淹沒，包括商業(yè)交易、社交媒體以及傳感器或機器對機器數(shù)據(jù)的信息。這些數(shù)據(jù)有多種格式，從傳統(tǒng)數(shù)據(jù)庫中的結構化數(shù)字數(shù)據(jù)到非結構化文本文檔、電子郵件、視頻、音頻和金融交易。

對這些數(shù)據(jù)的有效分析是產(chǎn)生洞察力和驅(qū)動更好的決策制定和機器學習(ML)算法的關鍵，這些算法在現(xiàn)代數(shù)據(jù)分析中被廣泛使用。深度卷積網(wǎng)絡(DNN)作為一種特殊的ML算法，在圖像分類中得到了廣泛的應用。當前的一代DNN，如ALEXNET和VGG，依賴于密集浮點矩陣乘法(GEMM)，這種算法具有規(guī)則的并行性和較高的TFLOPS（每秒浮點運算次數(shù)），能夠很好地映射到GPU功能。

雖然FPGA比GPU更節(jié)能(在今天的物聯(lián)網(wǎng)市場很重要)，但它們在DNN上的性能與GPU并不匹配。英特爾進行的一系列測試評估了兩種最新一代FPGA(英特爾的Arria TM10和statix TM10)與最新的高性能GPU (Titan X Pascal)在DNN計算上的性能。

由于數(shù)據(jù)并行計算具有規(guī)則的并行性和高浮點計算吞吐量，傳統(tǒng)上DNN都使用GPU。每一代GPU都加入了更多的浮點單元、片上RAM和更高的內(nèi)存帶寬，以提供更多的浮點運算次數(shù)。然而，由于發(fā)散等問題，具有不規(guī)則并行性的計算可能會對GPU造成挑戰(zhàn)。此外，由于GPU只支持一組固定的本地數(shù)據(jù)類型，定制定義的數(shù)據(jù)類型可能無法有效地處理，從而導致硬件資源利用率不足和性能不理想。

首先，下一代FPGA集成了更多的片上RAM。其次，像HYPERFLEX這樣的技術可以顯著提高頻率。第三，還有更多的DSP可用。第四，HBM內(nèi)存技術的集成導致芯片外帶寬增加，最后，下一代FPGA將使用更先進的工藝技術，如14nm CMOS。

英特爾Stratix 10 FPGA芯片擁有5000多個硬化浮點數(shù)單元(dsp)，超過28MB的片上RAM (M20Ks)，與高帶寬內(nèi)存(高達4x250GB/s/stack或1TB/s)集成，并改進了新HyperFlex技術頻率，使得FP32吞吐量峰值9.2 Tflops。此外，F(xiàn)PGA開發(fā)環(huán)境和工具集也在不斷發(fā)展，支持更高抽象級別的編程，開發(fā)人員更容易訪問FPGA編程。

英特爾最近在研究下一代DNN的各種GEMM操作。開發(fā)了用于FPGA的DNN硬件加速模板，為開發(fā)稀疏矩陣算法和自定義數(shù)據(jù)類型提供了一流的硬件支持。該模板是為了支持各種下一代DNN而開發(fā)，并且可以定制，為用戶給定的DNN變體生成優(yōu)化的FPGA硬件實例。

該模板被用于運行和評估下一代DNN的各種關鍵矩陣乘法操作，當前和下一代FPGA (Arria 10, Stratix 10)以及最新的高性能Titan X Pascal GPU.本研究結果發(fā)現(xiàn)，與Titan X Pascal GPU相比，在pruned, Int6和二值網(wǎng)絡學習上（pruned, Int6, and binarized）DNNs的GEMM操作上，Stratix 10 FPGA的性能分別是Titan X Pascal GPU的1.1倍、1.5倍和5.4倍。

這些測試還表明，Arria 10和Stratix 10 FPGA相對于Titan X GPU提供了令人滿意的能源效率(TOP/sec/watt)，與Titan X相比，這兩種設備的能源效率都提高了3到10倍。雖然GPU一直是支持DNN的無可爭議的選擇，但最近對兩代Intel FPGA (Arria 10和Stratix 10)和最新的Titan X GPU的性能比較表明，當前DNN算法的趨勢有利于FPGA，甚至FPGA可能提供更好的性能。
? ? ? ?（責任編輯：fqj）