隨著聯(lián)發(fā)科在MWC推出首款導(dǎo)入人工智能技術(shù)的中階旗艦處理器Helio P60，智能手機(jī)市場競爭焦點(diǎn)開始轉(zhuǎn)向移動AI。各家芯片供應(yīng)商競相將神經(jīng)網(wǎng)絡(luò)引擎用于手持設(shè)備，以啟動語音UI、人臉辨識解鎖與AR等人工智能體驗(yàn)…

盡管蘋果(Apple)和三星(Samsung)都擁有自主開發(fā)的應(yīng)用處理器，在高端的智能手機(jī)市場形成一定的門坎；但是，聯(lián)發(fā)科技(MediaTek)最近在全球移動通信大會(MWC)上推出最新的曦力(Helio) P60芯片組，期望藉由移動AI應(yīng)用重振其智能手機(jī)市場。

聯(lián)發(fā)科的計劃是重新進(jìn)軍直接與高通展開競爭的中、高階智能手機(jī)市場。聯(lián)發(fā)科將Helio P60視為“首款內(nèi)建多核心人工智能(AI)處理器(移動APU)和聯(lián)發(fā)科NeuroPilot AI技術(shù)的新一代智能手機(jī)SoC平臺?！?/span>

此舉突顯了智能手機(jī)市場競爭焦點(diǎn)的重大轉(zhuǎn)變——開始轉(zhuǎn)移至移動AI。各家芯片供應(yīng)商正競相將神經(jīng)網(wǎng)絡(luò)引擎用于手持設(shè)備上。他們的目標(biāo)很簡單，希望啟用人工智能體驗(yàn)——語音用戶接口(UI)、人臉解鎖、增強(qiáng)現(xiàn)實(shí)(AR)等——在客戶端設(shè)備上處理得更快、更好，無論有沒有網(wǎng)絡(luò)連接。

The Linley Group資深分析師Mike Demler說：“光是去年我們就看到第一批搭載嵌入式神經(jīng)引擎的智能手機(jī)處理器，這些幾乎都是旗艦級的處理器，例如Apple All、華為麒麟(Huawei) Kirin 970、高通(Qualcomm)驍龍(Snapdragon) 835以及聯(lián)發(fā)科的Helio X30等?！?span style="text-indent: 2em;">Demler表示：“聯(lián)發(fā)科將在更低層添加神經(jīng)引擎的作法并不令人意外，但有意思的是，他們打算采用較其旗艦產(chǎn)品X30更強(qiáng)大的核心來實(shí)現(xiàn)。”

換句話說，一個主要由中國手機(jī)制造商推動的中階智能手機(jī)供應(yīng)商社群，開始顯得蠢蠢欲動。他們盡快出擊移動AI市場。

聯(lián)發(fā)科將其所謂的“新高階”(new premium)定義為“以中等價格提供優(yōu)質(zhì)性能與特性的設(shè)備”。聯(lián)發(fā)科全球銷售總經(jīng)理Finbarr Moynihan解釋：“這是當(dāng)今智能手機(jī)的動向，包括Oppo、Vivo與聯(lián)想(Lenovo)等中到高階業(yè)者都渴望能地縮小其與頂級競爭對手的差距，希望在應(yīng)用程序(app)、特性與AI方面取得重大進(jìn)展?！?/p>

聯(lián)發(fā)科指出，2017年全球智能手機(jī)出貨量的48%來自中國OEM，主要針對新興市場。聯(lián)發(fā)科引用TrendForce的報告指出，2017年中階消費(fèi)品牌大幅成長，小米(Xiaomi)智能手機(jī)的產(chǎn)量增幅高達(dá)76%，而Transsion、OPPO和Vivo也有顯著的成長。Helio P60在八核心CPU中配備4個Arm A73處理器和4個Arm A53處理器。聯(lián)發(fā)科聲稱，由于采用big.LITTLE八核心設(shè)計，Helio P60的CPU性能較其前代產(chǎn)品Helio P23和Hleio P30提升了70%。藉由使用最高800MHz的新型Mali G72 GPU，P60還可將GPU性能提高70%。

神經(jīng)網(wǎng)絡(luò)引擎

然而，Helio P60之所以特別之處在于其內(nèi)建NeuroPilot AI平臺，橋接CPU、GPU與板載AI加速器。聯(lián)發(fā)科的AI架構(gòu)藉由在SoC中協(xié)調(diào)CPU、GPU與AI加速器之間的運(yùn)算負(fù)載，以管理異質(zhì)的AI運(yùn)算架構(gòu)，并使得性能與能效最大化。

聯(lián)發(fā)科并證實(shí)，P60的AI加速器中整合了Cadence Vision P6核心。

Cadence Vision P6（來源：Cadence）

相較于聯(lián)發(fā)科技旗艦級Helio X30——采用Cadence Vision P5實(shí)現(xiàn)每秒70 GMAC的高性能，Helio P60每秒可處理280 GMAC。Demler表示：“因此，P60的整體處理器性能僅降低一個等級，神經(jīng)引擎性能則提高了4倍。”相較于Helio P60神經(jīng)網(wǎng)絡(luò)引擎的性能，Demler說：“華為麒麟970可達(dá)到?1 TMAC/s(FP16)，因而能以更高分辨率實(shí)現(xiàn)較P60更高4倍的神經(jīng)網(wǎng)絡(luò)性能。在280 GMAC/s時，P60可媲美Apple A11的300GMAC/s性能?！?/span>

缺乏AI基準(zhǔn)

然而，我們所咨詢的大多數(shù)分析師都同意，由于缺乏深度學(xué)習(xí)加速器的基準(zhǔn)，在進(jìn)行比較時幾乎沒有什么意義。Demler稱此為“一個重大的開放問題”，并指稱這一移動AI的困境讓我們很容易就陷入“GOPS/TOPS的市場炒作之戰(zhàn)”。Tirias Research首席分析師Jim McGregor表示贊同。他說：“這是一個令人困惑的話題，因?yàn)槟壳安]有什么細(xì)節(jié)和基準(zhǔn)可參考。聯(lián)發(fā)科和其他公司使得這些AI解決方案聽起來就像可以完成任何事情一樣，但這一切通常并不真實(shí)?！?/span>

例如，Demler說，聯(lián)發(fā)科P60中使用的Cadence Vision P6核心的優(yōu)化主要針對計算機(jī)視覺應(yīng)用，而非通用神經(jīng)網(wǎng)絡(luò)。

McGregor解釋，“首先，你必須了解大多數(shù)的AI處理器，例如聯(lián)發(fā)科、Apple和華為稱其解決方案為'專用'的意思——這意味著他們使用單個IP區(qū)塊進(jìn)行AI加速。在大多數(shù)情況下，這表示從Cadence或Ceva等其他業(yè)者取得授權(quán)的IP區(qū)塊?！?McGregor指出，這種IP區(qū)塊“支持有限的可配置神經(jīng)網(wǎng)絡(luò)”，但是“沒人會確切地說出這些限制是什么?！?span style="text-indent: 2em;">因此，很顯然地，在應(yīng)用處理器內(nèi)部放置神經(jīng)網(wǎng)絡(luò)引擎并不是最后的任務(wù)。McGregor指出，開發(fā)和訓(xùn)練新的神經(jīng)網(wǎng)絡(luò)，仍然需要在數(shù)據(jù)中心進(jìn)行，他們必須依賴更多高精確度、強(qiáng)大的訓(xùn)練處理器。

如果應(yīng)用開發(fā)人員和OEM要利用智能手機(jī)應(yīng)用程序處理器內(nèi)部的神經(jīng)引擎，他們就需要一個連接至底層硬件的軟件架構(gòu)。根據(jù)Demler的觀察，“所有主要的移動處理器設(shè)計商(高通、聯(lián)發(fā)科、華為、Apple)都提供神經(jīng)網(wǎng)絡(luò)SDK?！钡麄兌夹枰С窒馛affe和Torch這樣的廣泛訓(xùn)練架構(gòu)。

以聯(lián)發(fā)科而言，Moynihan指出，該公司提供了NeuroPilot AI SDK架構(gòu)，能讓App開發(fā)人員和OEM“直接下探至硬件，看看AI軟件如何在CPU、GPU和專用AI加速器上運(yùn)行”。同時，隨著Google為Android機(jī)器學(xué)習(xí)開發(fā)了Android NNAPI和運(yùn)行引擎，App開發(fā)人員和OEM也需要能夠“查找并察看Android Networks API (Android NNAPI)所說的內(nèi)容，”Moynihan補(bǔ)充說，“聯(lián)發(fā)科的NeuroPilot SDK完全符合Android NNAPI?！?/span>

Android Neural Networks API系統(tǒng)架構(gòu)（來源：Google）

在部署讓智能手機(jī)處理器執(zhí)行AI應(yīng)用程序的各種方法中，高通似乎采取了一個稍微不同的方法。McGregor說，高通的解決方案很不一樣，因?yàn)椤八麄儾捎靡呀?jīng)用于芯片上的多種資源，包括Hexagon DSP、Adreno GPU和Kryo CPU核心?！?/span>不過他也補(bǔ)充說：“由于沒有可用的基準(zhǔn)，就很難確定哪一種方法比較好，但高通的架構(gòu)模式確實(shí)提供了更大的靈活性。”

AI軟件之爭

無論底層硬件如何，這些軟件最終都能真正區(qū)分在任何智能手機(jī)上的AI體驗(yàn)。

McGregor說：“現(xiàn)在，這些應(yīng)用針對的是手機(jī)上的常見功能，例如攝影和數(shù)字助理。然而，通常由第三方軟件開發(fā)人員來開發(fā)和訓(xùn)練模型供設(shè)備使用。”他指出，“在有限的情況下，有些模型或工具庫可用。高通以影像辨識為基礎(chǔ)，開發(fā)了一些工具庫，三星則著重于攝影技術(shù)，Apple預(yù)計也在開發(fā)自家的模型?！?/span>

其他情況則取決于應(yīng)用程序開發(fā)人員，但這存在明顯的限制，McGregor說：“許多應(yīng)用開發(fā)人員并不習(xí)慣深度學(xué)習(xí)，或者無法存取深度學(xué)習(xí)所需的大型數(shù)據(jù)中心?！?span style="text-indent: 2em;">The Linley Group的Demler則在最近的《微處理器報告》(Microprocessor Report)中對于AI軟件的開發(fā)提出了警告?！疤幚砥骷軜?gòu)的多樣性為Android App開發(fā)人員帶來了挑戰(zhàn)，因?yàn)榧词故窃谌狈Ｓ蒙疃葘W(xué)習(xí)加速器的設(shè)備上，這些App也必須能夠工作?！绷硪环矫?，他指出iOS App的開發(fā)人員只需要支持一些專為Apple設(shè)計的處理器。

同樣地，Tirias Research首席分析師Kevin Krewell警告道：“我看到最大的問題是每家芯片和IP供應(yīng)商都以不同的方式耕耘機(jī)器學(xué)習(xí)領(lǐng)域。但Arm可能擁有最佳機(jī)會，能在一個IP上為多家供應(yīng)商提供標(biāo)準(zhǔn)化。”