Pete Wardan任谷歌TensorFlow移動(dòng)和嵌入式團(tuán)隊(duì)的leader，在O'Reilly AI Conference 2019的Keynote演講環(huán)節(jié)，他對機(jī)器學(xué)習(xí)的未來進(jìn)行了深度剖析。他認(rèn)為機(jī)器學(xué)習(xí)的未來就是以小為美。未來，微處理器將如何與機(jī)器學(xué)習(xí)共同合作？能否在技術(shù)上取得突破？這些問題值得深思。

想象一下這樣一個(gè)世界：數(shù)千億臺設(shè)備不僅收集數(shù)據(jù)，而且會(huì)將數(shù)據(jù)轉(zhuǎn)化為可操作的意見，而這些意見可以改善數(shù)十億人的生活。

而要做到這一點(diǎn)，我們需要機(jī)器學(xué)習(xí)。但是一般來說，機(jī)器學(xué)習(xí)會(huì)消耗大量的系統(tǒng)資源。因此，低功耗，低成本的機(jī)器學(xué)習(xí)是目前需要探索并尋求突破的。

與此同時(shí)，深度神經(jīng)網(wǎng)絡(luò)也越來越多地被應(yīng)用于改進(jìn)很多東西，從廣告系統(tǒng)到自動(dòng)駕駛汽車原型，因此，它們也注定要改造微型計(jì)算機(jī)（即微控制器）。

因此，Pete在演講中指出，微型處理器、內(nèi)嵌處理器是機(jī)器學(xué)習(xí)的未來。

微處理器已無處不在

Pete首先用Alexa做了一個(gè)小演示，展示了基于網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)模型如何在小型的、內(nèi)嵌式的處理器上去運(yùn)行的，以及它可以持續(xù)幾周的時(shí)間。

之所以選擇用Alexa演示，是因?yàn)檫@臺設(shè)備沒有聯(lián)網(wǎng)，也沒有Wi-Fi和藍(lán)牙，它只是在20KB的模型上運(yùn)行，這個(gè)微型處理器也只有幾百KB的內(nèi)存。而這個(gè)模型僅僅靠鈕扣電池供電，就能獨(dú)立運(yùn)行數(shù)周的時(shí)間。

這一點(diǎn)非常重要。因?yàn)槿澜缬?500億個(gè)微處理器，每年出貨量達(dá)到了 400億，每年都有20%的增幅，平均成本不到50美分。這樣的產(chǎn)品已經(jīng)非常便宜而且無處不在。

此外，CPU如今也已經(jīng)很便宜了，幾乎都是免費(fèi)的。但是我們把處理器安裝到設(shè)備上之后，卻要專門接電線為其供電，比如在機(jī)場，這個(gè)供電系統(tǒng)可能就要花幾千美金。

除了布線問題，還在于，某些場合，比如手術(shù)室、工廠車間，可能并沒有合適的地方去增加電源插座等設(shè)備。所以說，這非常不合理。能源供應(yīng)問題成了很多設(shè)備的限制因素。

手機(jī)需頻繁充電的首要原因——高能耗

以我們現(xiàn)在每天都離不開的手機(jī)為例。雖然手機(jī)不需要連接外部的電源，但它每天都需要充電。如果你有幾十個(gè)甚至幾百個(gè)電子設(shè)備需要進(jìn)行打理的話，那可能你所有的時(shí)間都花在充電上了。所以很多設(shè)備，我們只好采取即插即用的辦法來供電。

智能手機(jī)的能耗情況如何，為什么總要頻繁充電？請參考以下數(shù)據(jù)：

顯示器大約使用400毫瓦

有源蜂窩無線電大約使用800毫瓦

藍(lán)牙大約使用100毫瓦

加速度計(jì)使用21毫瓦

陀螺儀消耗130毫瓦

GPS消耗176毫瓦

如果我們把手機(jī)的能耗降到1毫瓦以下，那么僅僅一枚鈕扣電池就能支持手機(jī)運(yùn)行一個(gè)月。我們需要在這樣的能耗限制下進(jìn)行設(shè)計(jì)，才能保證無所不在的微處理計(jì)算和人工智能技術(shù)相得益彰。

傳感器數(shù)據(jù)被浪費(fèi)的原因——傳輸能耗太大

現(xiàn)有的CPU做計(jì)算本身是基本沒有功耗的，它可以把功耗降到幾百微瓦的水平，傳感器也是如此。比如，麥克風(fēng)的功耗也非常低，還有圖形傳感器。麥克風(fēng)可能是幾百微瓦的水平，傳感器也是可以降到1毫瓦的水平。

因此，微處理器和傳感器可以把功耗降到非常低的程度。低功耗的解決方案大大提升了傳感器收集數(shù)據(jù)的能力，它們能夠更頻繁地查看需要的信息。

然而，雖然傳感器能夠以很低的功耗獲得巨量的數(shù)據(jù)，但是這些卻沒有得到充分的應(yīng)用。

比如，幾年前，一家衛(wèi)星公司，能夠拍攝很多高清晰度的圖片。但是因?yàn)閹挼膯栴}，每個(gè)小時(shí)只能下載幾百M(fèi)B的數(shù)據(jù)，所以衛(wèi)星和地面的通訊成本太高了，最終我們能得到的圖片只是很少的一部分。

此外，比如在工廠里面的溫度計(jì)，它們可以獲取很多的數(shù)據(jù)。但是工廠并沒有那么多的電力把這些數(shù)據(jù)上傳到云端，所以很多數(shù)據(jù)也都被浪費(fèi)了。

深度學(xué)習(xí)與微處理器的完美配合

對于現(xiàn)有的這些問題，技術(shù)應(yīng)該發(fā)揮什么樣的作用？如何能夠把大量的傳感器的數(shù)據(jù)利用起來，把它的價(jià)值發(fā)揮出來？能否降低設(shè)備能耗？

Pete認(rèn)為還有很大的市場等待科技去解鎖

機(jī)器學(xué)習(xí)在這方面就可以發(fā)揮非常重要的作用，具體來說，是深度學(xué)習(xí)。因?yàn)樯疃葘W(xué)習(xí)才能夠最有效地把這些混沌的、非結(jié)構(gòu)性質(zhì)的數(shù)據(jù)利用起來。

深度學(xué)習(xí)可以處理大量未標(biāo)記的數(shù)據(jù)

很少有人意識到深度學(xué)習(xí)和微處理器（MCU）的匹配程度。深度學(xué)習(xí)實(shí)際上是基于計(jì)算，而不是依靠通訊或者數(shù)據(jù)讀取來運(yùn)行的。因此，我們不需要很大的內(nèi)存，也不需要大量訪問內(nèi)存。這恰好也符合微處理器的設(shè)計(jì)，它只有幾百KB的內(nèi)存，同時(shí)每秒可以運(yùn)行幾千萬甚至上億次的指令。

所以我們可以用很低的功耗來滿足它的學(xué)習(xí)或者訓(xùn)練目的。如果我們知道對于一個(gè)給定的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，它需要5皮焦（pJ）的能耗來執(zhí)行一個(gè)操作，如果用最小的圖象識別，它需要2200萬的浮點(diǎn)計(jì)算，那么它將共需要5皮焦*22,000,000=110微焦（μJ）的能量來執(zhí)行這個(gè)操作。如果每秒分析一幀，那只需要110微瓦，如此，用鈕扣電池就能供一年的電量，而且不需要對現(xiàn)有的硬件改進(jìn)。

谷歌的團(tuán)隊(duì)曾在2014年開發(fā)了一個(gè)13KB的模型來進(jìn)行語音識別，而蘋果也在做類似的研發(fā)工作。所以這些語音識別團(tuán)隊(duì)，就可以在非聯(lián)網(wǎng)的微型處理器上來進(jìn)行機(jī)器學(xué)習(xí)和訓(xùn)練。

TensorFlow Lite——賦予移動(dòng)終端機(jī)器學(xué)習(xí)的能力

2017年，谷歌在Google I/O大會(huì)推出TensorFlow Lite，是專門針對移動(dòng)設(shè)備上可運(yùn)行的深度網(wǎng)絡(luò)模型簡單版。但當(dāng)時(shí)只是開發(fā)者預(yù)覽版，未推出正式版。

2019年3月，TensorFlow Lite嵌入式平臺發(fā)布了第一個(gè)實(shí)驗(yàn)原型。這是由SparkFun構(gòu)建的開發(fā)板的原型，它有一個(gè)Cortex M4處理器，具有384KB的RAM和1MB的閃存存儲(chǔ)。該處理器功率極低，在許多情況下功耗不到1毫瓦，因此它可以僅憑小型紐扣電池運(yùn)行很多天。

Pete在安卓開發(fā)峰會(huì)上介紹TensorFlow Lite

它完全在本地嵌入式芯片上運(yùn)行，無需任何互聯(lián)網(wǎng)連接，因此最好將其作為語音接口系統(tǒng)的一部分。該模型本身占用的存儲(chǔ)空間不到20KB，TensorFlow Lite代碼的占用空間僅為25KB的Flash，而且只需要 30KB的RAM即可運(yùn)行。

TensorFlow Lite 的目標(biāo)便是移動(dòng)和嵌入式設(shè)備，它賦予了這些設(shè)備在終端本地運(yùn)行機(jī)器學(xué)習(xí)模型的能力，從而不再需要向云端服務(wù)器發(fā)送數(shù)據(jù)。這樣一來，不但節(jié)省了網(wǎng)絡(luò)流量、減少了時(shí)間開銷，而且還充分幫助用戶保護(hù)自己的隱私和敏感信息。

TensorFlow Lite被用來解決了移動(dòng)設(shè)備的圖像分類、物體檢測、智能聊天的問題。

深度學(xué)習(xí)未來的應(yīng)用

深度學(xué)習(xí)最關(guān)鍵的在于，它特別適合把傳感器的數(shù)據(jù)轉(zhuǎn)化為非常有價(jià)值的資產(chǎn)。

全語音界面

深度學(xué)習(xí)的一個(gè)「殺手」應(yīng)用，也許在不久的將來就會(huì)實(shí)現(xiàn)，那便是：全語音的界面。這樣的界面用50美分的芯片就可以實(shí)現(xiàn)，同時(shí)，用一個(gè)鈕扣電池就可以維持一年的運(yùn)行。如此一來，我們可以只用語音操控，而不再需要開關(guān)或者是按紐了。所有的機(jī)器、設(shè)備都可以使用語音通訊的界面。

這種便宜的芯片還可以用于農(nóng)業(yè)的用途，比如通過圖形識別可以用很低的成本來識別有害雜草，農(nóng)業(yè)工作者便可以精準(zhǔn)地施用農(nóng)藥。

預(yù)維護(hù)模式

另外，還有預(yù)測式維護(hù)。我們可以預(yù)先知道哪些機(jī)器可以出故障。比如針對汽車故障，人不可能到汽車?yán)锩嫒タ窗l(fā)動(dòng)機(jī)哪出了什么問題，或者聽出馬達(dá)的聲音出現(xiàn)了問題，但是我們可以對模型進(jìn)行訓(xùn)練，把這些設(shè)備直接插到系統(tǒng)里面，不需要做新的布線或聯(lián)網(wǎng)，這個(gè)設(shè)備就可以直接告訴你：系統(tǒng)好像出問題了，設(shè)備需要及時(shí)維護(hù)、維修。當(dāng)然，這個(gè)模型并不需要持續(xù)上網(wǎng)發(fā)出設(shè)備信息，只是當(dāng)要發(fā)生重大事故或者隱患的時(shí)候才會(huì)發(fā)出通訊。

深度學(xué)習(xí)未來的應(yīng)用

未來的世界有更多的可能性，現(xiàn)在人工智能對于我們，就像八十年代的電腦一樣。我們不知道它會(huì)發(fā)展成什么樣子，但是我們可以想象一下我們目前面對的各種問題和挑戰(zhàn)，在工作中面臨的困難。如何用小小的芯片進(jìn)行機(jī)器學(xué)習(xí)？這方面我們可以有新的角度去探索，也有新的研究成果去發(fā)揮作用。