AI芯片也被稱為AI加速器或計算卡，即專門用于處理人工智能應(yīng)用中的大量計算任務(wù)的模塊（其他非計算任務(wù)仍由CPU負(fù)責(zé)）。當(dāng)前，AI芯片主要分為 GPU 、FPGA 、ASIC 。

人工智能大勢之下，芯片市場的蛋糕越做越大。有分析認(rèn)為，到2020年AI芯片市場規(guī)模將達(dá)到146.16億美元，約占全球人工智能市場規(guī)模12.18%。

本期的智能內(nèi)參，我們推薦來自天風(fēng)證券的AI芯片市場報告，結(jié)合市場觀察，從市場和流派出發(fā)盤點AI芯片的發(fā)展現(xiàn)狀，分析四大藍(lán)海的未來格局。

以下為智能內(nèi)參整理呈現(xiàn)的干貨：

一、AI "腦力" 之源

▲深度學(xué)習(xí)在神經(jīng)網(wǎng)絡(luò)模型的應(yīng)用中主要分為上游訓(xùn)練端和下游推理端

互聯(lián)網(wǎng)大數(shù)據(jù)的興起對超算芯片提出了新的需求，人工智能（AI）亦如是。AI的“腦力”核心在于芯片和算法。

其中，AI算法的目前的主流方案是深度學(xué)習(xí)/強(qiáng)化學(xué)習(xí)，并已經(jīng)被AlphaGo Master 和Zero成功驗證可行性。深度學(xué)習(xí)即通過構(gòu)建一種深層非線性網(wǎng)絡(luò)結(jié)構(gòu)，來實現(xiàn)復(fù)雜函數(shù)逼近及自動特征提取，具有強(qiáng)大的從少數(shù)樣本集中挖掘數(shù)據(jù)統(tǒng)計規(guī)律的能力。

▲典型AI芯片商一覽

另一方面，芯片，則為復(fù)雜的計算任務(wù)提供支撐（隨著模型的逐漸復(fù)雜化，浮點運算的數(shù)量也呈指數(shù)級增長至 ExaFLOPS）。

2015 年微軟ResNet 含有 6000 萬個參數(shù)，運算量為 7 ExaFLOPS（百億億次浮點運算）。2016 年百度語音識別系統(tǒng) Deep Speech 2 的參數(shù)量上升到 3 億個，運算量提升至 20 ExaFLOPS。而今年Google 的 NMT 神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯系統(tǒng)，參數(shù)量達(dá) 87 億個，需要 105 ExaFLOPS 的運算量。

因此，本質(zhì)上，是摩爾定律的突破和并行計算以及云計算的發(fā)展，讓人工智能開始得以普及。沒有 GPU，人們就無法快速的處理海量數(shù)據(jù)，而數(shù)據(jù)訓(xùn)練的匱乏，會讓深度學(xué)習(xí)的效率還不如人類工程算法(human engineering algorithm)。

二、GPU稱雄ASIC割據(jù)

▲四大芯片的 “通用性和功耗的平衡”

▲目前深度學(xué)習(xí)領(lǐng)域常用的四大芯片類型

2011年，吳恩達(dá)率先將GPU用于谷歌大腦，發(fā)現(xiàn)12顆GPU可提供約2000顆CPU的深度學(xué)習(xí)性能，之后紐約大學(xué)、多倫多大學(xué)及瑞士人工智能實驗室紛紛在GPU上加速其深度神經(jīng)網(wǎng)絡(luò)。

可以說，在過去的幾年，尤其是2015年以來，人工智能大爆發(fā)就是由于英偉達(dá)公司的GPU得到廣泛應(yīng)用，使得并行計算變得更快、更便宜、更有效。

▲GPU和CPU結(jié)構(gòu)上的區(qū)別

GPU比CPU擁有更多的運算器(Arithmetic Logical Unit)，只需要進(jìn)行高速運算而不需要邏輯判斷，其海量數(shù)據(jù)并行運算的能力與深度學(xué)習(xí)需求不謀而合。因此，在深度學(xué)習(xí)上游訓(xùn)練端（主要用在云計算數(shù)據(jù)中心里），GPU 是當(dāng)仁不讓的第一選擇。目前GPU的市場格局以英偉達(dá)為主（超過70%），AMD 為輔，預(yù)計 3-5 年內(nèi) GPU 仍然是深度學(xué)習(xí)市場的第一選擇。

下游推理端更接近終端應(yīng)用，更關(guān)注響應(yīng)時間而不是吞吐率，需求更加細(xì)分，除了主流的GPU芯片之外，還包括CPU、FPGA（ Xilinx、英特爾Altera、Lattice 及 Microsemi等）、ASIC （英特爾Nervana Engine、Wave Computing 的數(shù)據(jù)流處理單元、英偉達(dá)的DLA、谷歌 TPU、寒武紀(jì) NPU等）也會在這個領(lǐng)域發(fā)揮各自的優(yōu)勢特點。

▲FPGA：現(xiàn)場可編程門陣列

目前來看，下游推理端雖可容納 CPU、FPGA、ASIC 等芯片，競爭態(tài)勢中英偉達(dá)依然占大頭，但隨著AI的發(fā)展，F(xiàn)PGA的低延遲、低功耗、可編程性（適用于傳感器數(shù)據(jù)預(yù)處理工作以及小型開發(fā)試錯升級迭代階段）和ASIC的特定優(yōu)化和效能優(yōu)勢（適用于在確定性執(zhí)行模型）將凸顯出來。

▲賽靈思提供的 FPGA 與 CPU 性能對比優(yōu)勢

Grand View Research 分析，2015年全球FPGA總市場規(guī)模達(dá) 63.6 億美元，預(yù)計到2024年FPGA市場規(guī)模將達(dá)到142億美元。

其中，Xilinx 的市場份額為 49%，主要應(yīng)用到工業(yè)和通訊領(lǐng)域，但近年亦致力于在云計算數(shù)據(jù)中心的服務(wù)器以及無人駕駛的應(yīng)用；Altera（已被英特爾收購）的市場份額約為 40%，定位跟 Xilinx 類似；萊迪斯半導(dǎo)體(Lattice Semiconductor)的市場份額約為 6%，主要市場為消費電子產(chǎn)品和移動傳輸，以降低耗電量、縮小體積及縮減成本為主；Microsemi (Actel)的市場份額約為 4%，瞄準(zhǔn)通信、國防與安全、航天與工業(yè)等市場。目前 Altera 的 FPGA 產(chǎn)品被用于微軟 Azure 云服務(wù)中包括必應(yīng)搜索、機(jī)器翻譯等應(yīng)用中。

各家芯片商打法上，除了力推自家芯片，還會在整個AI生態(tài)上進(jìn)行布局：

▲英偉達(dá)人工智能布局平臺

英偉達(dá)擁有目前最為成熟的開發(fā)生態(tài)環(huán)境（CUDA 因統(tǒng)一而完整的開發(fā)套件，豐富的庫以及對英偉達(dá) GPU 的原生支持而成為開發(fā)主流，目前已開發(fā)至第 9 代，開發(fā)者人數(shù)超過 51萬）；

▲皮查伊在 2016 I/O 大會上介紹 TensorFlow

Google 的 TPU 也結(jié)合 TensorFlow 開源開發(fā)環(huán)境，并公布了 TensorFlow Research Cloud 云開發(fā)平臺；

▲AMD GPU規(guī)劃路進(jìn)

AMD 通過CPU（EPYC）+GPU（Vega）+ROCm的開源生態(tài)，打造GPU計算最通用開源平臺，并合作谷歌云進(jìn)軍云計算打開高端市場，合作THATIC（天津海光先進(jìn)技術(shù)投資有限公司，是中科曙光的控股子公司）打開國內(nèi)數(shù)據(jù)中心CPU服務(wù)器市場。

開源時代生態(tài)為天，硬件廠商以開源之態(tài)，本質(zhì)上是搶奪業(yè)界事實標(biāo)準(zhǔn)的控制權(quán)，但隨之而來的也是整個芯片行業(yè)設(shè)計門檻和研發(fā)成本的不斷降低。

三、四大場景的芯片賽道

數(shù)據(jù)中心藍(lán)海正當(dāng)時

▲當(dāng)前英偉達(dá)GPU在數(shù)據(jù)中心的使用情況

在數(shù)據(jù)中心搶灘戰(zhàn)中，英偉達(dá)可謂拔得頭籌：2016年公司數(shù)據(jù)中心業(yè)務(wù)帶來8.3 億美元收入，同比增長145%；今年的增長的動力落在了Volta架構(gòu)V100（訓(xùn)練吞吐量提高至上代Pascal的12倍）的身上，前9個月收入已達(dá) 13.26 億美元，同比增長148%。

▲英偉達(dá)基本壟斷數(shù)據(jù)中心GPU

從市場占有率來看，目前全球云計算巨頭基本使用英偉達(dá)GPU進(jìn)行深度學(xué)習(xí)與算法加速，且相對于AMD，英偉達(dá)先發(fā)的構(gòu)架升級以及廣泛成熟的開發(fā)生態(tài)環(huán)境優(yōu)勢明顯。不過，AMD或?qū)⒔又献靼俣取⒅锌剖锕獾臋C(jī)會依靠GPU的捆綁銷售，加速切入國內(nèi)數(shù)據(jù)中心和AI發(fā)展快車道。

▲英特爾計劃在數(shù)據(jù)中心里提供 FPGA 加速

值得注意的是，自2015年6月167億美元收購FPGA芯片廠Altera后，英特爾也宣布計劃在數(shù)據(jù)中心里提供 FPGA 加速；與此同時，TensorFlow團(tuán)隊公布了 TensorFlow Research Cloud 云開發(fā)平臺，向研究人員提供一個具有 1000 個云TPU 的服務(wù)器集群，用來服務(wù)各種計算密集的研究項目，第二代TPU也可用于深度學(xué)習(xí)上游訓(xùn)練環(huán)節(jié)，并將部署在谷歌云計算引擎平臺上，真正帶入云端。

▲TPU Pod，由64臺二代TPU 組成，算力達(dá) 11.5 petaflops

從市場容量/前景來看，云計算數(shù)據(jù)中心成為不可逆轉(zhuǎn)的趨勢，超級數(shù)據(jù)中心也越來越依賴GPU來更快地處理高要求的工作負(fù)載。目前，全球服務(wù)器中GPU的滲透率僅有 0.24%并基本被英偉達(dá)壟斷，天風(fēng)證券預(yù)計英偉達(dá)數(shù)據(jù)中心業(yè)務(wù)在2020年前將達(dá)40億美元，對應(yīng)全球服務(wù)器GPU 滲透率也將達(dá) 4 倍以上增長。

▲全球服務(wù)器 GPU 市場估計

自動駕駛開啟黃金十年

▲全球自動駕駛 L1-L5 滲透率預(yù)測

天風(fēng)證券認(rèn)為，以 2020 年為界，全球?qū)㈤_啟無人駕駛“黃金十年”。L3 半自動駕駛水平以上的行業(yè)發(fā)展，需要整個汽車行業(yè)供應(yīng)商關(guān)系的重組和整合。包括：

▲“車企+ 供應(yīng)商+ 芯片巨頭+ 打車軟件+ 物流公司”新格局

1、形成“車企+供應(yīng)商+芯片巨頭+打車軟件+物流公司”的格局；

2、共享經(jīng)濟(jì)下的租車、打車以及商業(yè)貨運物流領(lǐng)域會最快落地得到應(yīng)用；

3、L4 相對比 L1、L2，單車系統(tǒng)零部件支出會增長 470%，從 545 美元升至 3100 美元/車。

▲L1 到 L4 單車零部件成本變化

英偉達(dá)指出，從 ADAS 提升到 L3 半自動駕駛所需的計算難度會提升 5 倍，而關(guān)鍵的L3向L4提升需要 50 倍，從 L4 提升到 L5 則需要 2 倍。因此，汽車電子化和智能化的方向?qū)⒊掷m(xù)提高科技類公司在汽車產(chǎn)業(yè)鏈內(nèi)的重要程度（三星收購哈曼，高通收購 NXP，英特爾收購Mobileye），營造了“車企+ 供應(yīng)商+ 芯片巨頭+ 打車軟件+ 物流公司”的新格局。

目前，無人駕駛上游系統(tǒng)解決方案逐漸形成英偉達(dá)與英特爾-Mobileye 聯(lián)盟兩大競爭者。

▲英偉達(dá)Drive PX車載計算平臺情況

▲英偉達(dá)三代自動駕駛平臺性能比較

英偉達(dá)在硬件層面算力和研發(fā)節(jié)奏上成為當(dāng)仁不讓的先行軍：此前，公司的汽車業(yè)務(wù)主要集中在汽車顯示屏和影音系統(tǒng)（Drive PX），今年1月的 CES 大會上發(fā)布無人駕駛的整體布局（從車載超級電腦平臺以及人工智能駕駛系統(tǒng)， Xavier），10 月英偉達(dá)在德國慕尼黑的 GTC Europe 大會上，發(fā)布了面向完全自動駕駛 L5 級別的新一代 Drive PX 人工智能車載計算平臺 Pegasus。英偉達(dá)智能汽車合作方有大眾（優(yōu)化城市交通）、奧迪（聯(lián)合Mobileye、Delphi 等設(shè)計的全球首款搭載 L3 級自動駕駛的量產(chǎn)車，新一代A8）等。

▲英特爾給出的市場空間指引：汽車電子化和智能化整個市場空間，包括廣告系統(tǒng)、數(shù)據(jù)和服務(wù)將從2020年的200億美元提升到2030年的700億美元。

▲EyeQ系列芯片參數(shù)介紹

英偉達(dá)的競爭對手，也就是被英特爾以每股 63.54 美元價格收購的 Mobileye。天風(fēng)證券指出，Mobileye的機(jī)器視覺算法將與英特爾的芯片、數(shù)據(jù)中心、AI、傳感器融合，以及地圖服務(wù)等方面產(chǎn)生強(qiáng)大的協(xié)同合作效應(yīng)，聯(lián)手打造“軟硬兼施”的全新無人駕駛供應(yīng)商。目前，英特爾-Mobileye聯(lián)盟擁有全行業(yè)最廣泛的車企合作關(guān)系，且商業(yè)路徑十分明晰：從 ADAS 出發(fā)，逐步完善功能模塊，提高自動化程度，進(jìn)化到EyeQ5（預(yù)計2020年推出，算力15萬億次）將會成為一個開源性、定制化、可升級的標(biāo)準(zhǔn)解決方案，打造成為無人駕駛界的Android。

除了上述兩大主力汽車芯片競爭方，百度雖然與英偉達(dá)合作密切（Apollo開放平臺從數(shù)據(jù)中心到自動駕駛都將使用英偉達(dá)技術(shù)，包括Tesla GPU和DRIVE PX 2，以及CUDA和TensorRT在內(nèi)的英偉達(dá)軟件），卻也采用Xilinx的FPGA芯片加速機(jī)器學(xué)習(xí)，用于語音識別和汽車自動駕駛。

虛擬貨幣小蛋糕

▲GPU 礦機(jī)盈利估計

2017 年以來，數(shù)字虛擬貨幣連創(chuàng)新高，以太坊(Ethereum)技術(shù)下的以太幣(ETH)漲逾30倍，比特幣(BTC)也漲逾 7 倍突破 8000 美元。全球數(shù)字貨幣市值也從 180 億美元增長至逾 2300億美元。受益于數(shù)字貨幣的持續(xù)高度關(guān)注，通過顯卡“挖礦”而獲取貨幣的熱潮，也發(fā)掘了對 AMD 和英偉達(dá)顯卡的需求。

根據(jù) cryptocompare 網(wǎng)站數(shù)據(jù)，AMD RX 470 GPU的礦機(jī)有明顯優(yōu)于英偉達(dá) GTX 970 GPU 的經(jīng)濟(jì)回報，為了有效消弭挖礦和游戲需求沖突，并避免二手卡問題，英偉達(dá)針對虛擬數(shù)字貨幣挖礦熱潮推出專門挖礦顯卡（基于 GTX 1060 6GB 產(chǎn)品，完全取消顯示輸出接口，僅提供 90 天的質(zhì)保）；AMD 則發(fā)布了專門的挖礦驅(qū)動 Radeon Software Crimson ReLive Edition Beta for BlockchainCompute，為區(qū)塊鏈計算工作負(fù)荷優(yōu)化性能。

英偉達(dá) CEO Jensen 在 Q3 季報會議上屢次被問及數(shù)字貨幣挖礦對公司業(yè)務(wù)的影響，他5次強(qiáng)調(diào)：挖礦市場對英偉達(dá)長期來說將會是“微小但不是零的”。數(shù)字貨幣挖礦對 GPU 巨頭的影響整體空間有限，目前挖礦對顯卡需求的驅(qū)動雖會持續(xù)存在但將進(jìn)一步趨平。這主要是因為：

1、遵循比特幣挖礦路徑，挖礦需求會向?qū)ｉT芯片礦機(jī)轉(zhuǎn)移；

2、以太幣正在進(jìn)行“工作量證明”向“權(quán)益證明”的升級，算力需求將會下降；

3、挖礦市場的狂熱需求也會影響正常游戲顯卡市場的需求并帶來二手卡問題，也不是英偉達(dá)和 AMD 所想見。

終端AI的抬頭

AI 芯片的計算場景可分為云端AI 和終端 AI。NVIDIA首席科學(xué)家William Dally將深度學(xué)習(xí)的計算場景分為三類，分別是數(shù)據(jù)中心的訓(xùn)練、數(shù)據(jù)中心的推斷和嵌入式設(shè)備的推斷。前兩者可以總結(jié)為云端的應(yīng)用，后者可以概括為終端的應(yīng)用。

終端設(shè)備的模型推斷方面，由于低功耗、便攜等要求，F(xiàn)PGA和ASIC的機(jī)會優(yōu)于GPU 。而提到終端智能，不得不談蘋果的A11神經(jīng)引擎和華為的麒麟970 NPU。

▲蘋果A11搭載神經(jīng)處理引擎，采用雙核設(shè)計，每秒運算次數(shù)最高可達(dá) 6000 億次

2017年9月，蘋果發(fā)布了iPhone X，搭載64位架構(gòu)A11神經(jīng)處理引擎。為實現(xiàn)基于深度學(xué)習(xí)的高準(zhǔn)確性面部識別解鎖方式（Face ID），并解決云接口（Cloud-Based API）帶來的延時和隱私問題，以及龐大的訓(xùn)練數(shù)據(jù)和計算量與終端硬件限制的矛盾，iPhone X采用了“師生”培訓(xùn)、中間層、聯(lián)合圖、分割GPU工作項、匹配框架的神經(jīng)引擎等方案解決（詳細(xì)方案參見第206期智能內(nèi)參）。

▲華為海思麒麟 970 架構(gòu)搭載寒武紀(jì)IP的NPU

另一個吃螃蟹的企業(yè)就是咱們的華為——麒麟 970。麒麟 970 采用 10nm 制程，搭載 Cortex-A73（CPU）、Mali-G72（GPU）和麒麟 NPU（神經(jīng)網(wǎng)絡(luò)處理單元）。其中，麒麟 NPU 采用了寒武紀(jì)的IP（1A芯片），目的是解決端側(cè)AI（On-Device AI）。

▲寒武紀(jì)產(chǎn)品研發(fā)發(fā)展

寒武紀(jì)作為背靠中科院計算所和中科曙光的 AI 芯片獨家首公司，既具有開發(fā)實力，又能夠與中科曙光進(jìn)行產(chǎn)業(yè)鏈互補(bǔ)，先后獲得中科院1000萬元專項資金支持和1億美元的A輪融資，目前估值已接近 10 億美元。

▲寒武紀(jì) DianNao 系列主要產(chǎn)品與性能

寒武紀(jì)自下而上的策略，從提供低功耗嵌入式終端的本地智能處理芯片解決方案入手，計劃逐步向服務(wù)器云端的訓(xùn)練處理芯片去布局，有望構(gòu)建強(qiáng)大的用戶生態(tài)圈。目前寒武紀(jì)主要有三條產(chǎn)品線：

1、IP 授權(quán)：智能 IP 指令集可授權(quán)集成到手機(jī)、安防、可穿戴設(shè)備等終端芯片中，2016 年全年拿到 1 億元訂單；

2、在智能云服務(wù)器芯片領(lǐng)域：作為 PCIe 加速卡插在云服務(wù)器上，希望能布局進(jìn)入人工智能訓(xùn)練和推理市場；

3、開發(fā)面向家用智能服務(wù)機(jī)器人、智能駕駛、智能安防等領(lǐng)域的應(yīng)用芯片。

筆者認(rèn)為，AI芯片，或者說AI加速器目前有三個明確的技術(shù)路徑，更為通用的GPU（既能作為圖形處理器引爆游戲業(yè)務(wù)，又能滲透數(shù)據(jù)中心橫掃訓(xùn)練端）、更可編程的FPGA（適用于迭代升級，各類場景化應(yīng)用前景超大），以及更專業(yè)的ASIC（叩開終端AI的大門）。

其中，英偉達(dá)、英特爾兩大傳統(tǒng)芯片巨頭在三大路徑，特別是通用芯片和半定制芯片都有布局，掌握強(qiáng)大的先發(fā)優(yōu)勢，在數(shù)據(jù)中心、汽車等重要藍(lán)海布局扎實；AMD和Xilinx則各自找盟友，特別是中國盟友，求突圍；ASIC方面，谷歌從TPU出發(fā)開源生態(tài)進(jìn)行布局，且二代TPU展露了訓(xùn)練端芯片市場的野心，寒武紀(jì)則坐擁國內(nèi)半導(dǎo)體、芯片、智能終端等行業(yè)之勢，且ASIC定制化的特點有效規(guī)避了傳統(tǒng)巨頭的壟斷局面，有著可靠健康的發(fā)展路線。