（文章來(lái)源：EEWORLD）

如果你把人工智能和物聯(lián)網(wǎng)相結(jié)合，你會(huì)得到什么?AIoT是一個(gè)簡(jiǎn)單的答案，但你也得到了一個(gè)巨大的微控制器的應(yīng)用新領(lǐng)域，這得益于神經(jīng)網(wǎng)絡(luò)技術(shù)的進(jìn)步，意味著機(jī)器學(xué)習(xí)不再局限于超級(jí)計(jì)算機(jī)的世界。如今，智能手機(jī)應(yīng)用程序處理器可以執(zhí)行圖像處理、推薦引擎和其他復(fù)雜功能的人工智能推理。

我們將這種能力應(yīng)用到不起眼的微控制器中是一個(gè)巨大的機(jī)會(huì)。想象一下，我們可以使用人工智能過(guò)濾對(duì)話中的背景噪音的助聽(tīng)器，也會(huì)有識(shí)別用戶(hù)面部并切換到其個(gè)性化設(shè)置的智能家電，這些以AI驅(qū)動(dòng)的傳感器節(jié)點(diǎn)可以用最小的電池運(yùn)行數(shù)年。這也在端點(diǎn)處理數(shù)據(jù)提供了不可忽視的延遲、安全和隱私優(yōu)勢(shì)。

然而，利用微控制器設(shè)備實(shí)現(xiàn)有意義的機(jī)器學(xué)習(xí)并非易事。例如，人工智能計(jì)算的一個(gè)關(guān)鍵標(biāo)準(zhǔn)——內(nèi)存，它經(jīng)常受到嚴(yán)重限制。但數(shù)據(jù)科學(xué)正在迅速發(fā)展，以縮小模型的尺寸，設(shè)備和IP供應(yīng)商正通過(guò)開(kāi)發(fā)工具和整合為現(xiàn)代機(jī)器學(xué)習(xí)需求量身定制的功能來(lái)應(yīng)對(duì)。

作為該行業(yè)快速增長(zhǎng)的一個(gè)標(biāo)志，TinyML峰會(huì)正變得越來(lái)越強(qiáng)大。據(jù)組織者說(shuō)，去年舉辦的首屆峰會(huì)有11家贊助公司，而今年的活動(dòng)有27家，而且門(mén)票銷(xiāo)售時(shí)間也早得多。他們的全球設(shè)計(jì)師月度聚會(huì)的會(huì)員人數(shù)大幅增加。一批企業(yè)正在利用TinyML相關(guān)的技術(shù)與產(chǎn)品，探索如何在這些無(wú)處不在的小型設(shè)備上，更好的搭載機(jī)器學(xué)習(xí)，以便提高設(shè)備的分析能力和運(yùn)行效率。

TinyML是不同技術(shù)領(lǐng)域和推動(dòng)因素的交集，它位于物聯(lián)網(wǎng)設(shè)備、機(jī)器學(xué)習(xí)和邊緣計(jì)算之間的結(jié)合部，并因?yàn)槎喾N驅(qū)動(dòng)力的綜合作用，進(jìn)展很快。

在TinyML 2020峰會(huì)上，英偉達(dá)、ARM、高通、谷歌、微軟、三星等公司紛紛展示了微型機(jī)器學(xué)習(xí)的最新成果。這是TinyML峰會(huì)的第二屆，這次他們得出了一些重要的結(jié)論：對(duì)于很多應(yīng)用場(chǎng)景，TinyML技術(shù)和硬件已經(jīng)進(jìn)化到實(shí)用性較強(qiáng)的階段；無(wú)論是算法、網(wǎng)絡(luò)，還是低于100KB的ML模型，都取得了重大突破；視覺(jué)和音頻領(lǐng)域的低功耗需求快速增長(zhǎng)。

何為T(mén)inyML？分布最廣的物聯(lián)網(wǎng)設(shè)備往往體積很小、電量有限。它們被作為終端硬件，通過(guò)嵌入式傳感器采集各種數(shù)據(jù)；計(jì)算能力有限，對(duì)功耗極為敏感。這類(lèi)設(shè)備也能實(shí)現(xiàn)機(jī)器學(xué)習(xí)嗎？一個(gè)趨勢(shì)是，人工智能AI正在加快速度從“云端”走向“邊緣”，進(jìn)入到越來(lái)越小的物聯(lián)網(wǎng)設(shè)備中。

在終端和邊緣側(cè)的微處理器上，實(shí)現(xiàn)的機(jī)器學(xué)習(xí)過(guò)程，被稱(chēng)為微型機(jī)器學(xué)習(xí)，即TinyML。更準(zhǔn)確的說(shuō)，TinyML是指工程師們?cè)趍W功率范圍以下的設(shè)備上，實(shí)現(xiàn)機(jī)器學(xué)習(xí)的方法、工具和技術(shù)。

TinyML委員會(huì)聯(lián)合主席、高通的Evgeni Gousev在展會(huì)上表示：“我們看到了一個(gè)新世界，TinyML技術(shù)帶來(lái)了數(shù)以萬(wàn)億計(jì)的智能設(shè)備，它們可以感知、分析和自主行動(dòng)，為所有人創(chuàng)造一個(gè)更健康、更可持續(xù)的環(huán)境?！?Gousev將這種增長(zhǎng)歸因于更節(jié)能的硬件和算法的發(fā)展，以及更成熟的軟件工具的結(jié)合。他指出，企業(yè)和VC的投資正在增加，初創(chuàng)企業(yè)和并購(gòu)活動(dòng)也在增加。

如今，TinyML委員會(huì)相信這項(xiàng)技術(shù)已經(jīng)得到驗(yàn)證，在微控制器中使用機(jī)器學(xué)習(xí)的初始產(chǎn)品將在2-3年內(nèi)上市?！皻⑹旨?jí)應(yīng)用”預(yù)計(jì)將在3-5年內(nèi)問(wèn)世。

去年春天，當(dāng)Google首次演示了用于微控制器的TensorFlow框架版本時(shí)，技術(shù)驗(yàn)證的一個(gè)重要象征。微控制器的TensorFlow Lite被設(shè)計(jì)為在只有千字節(jié)內(nèi)存設(shè)備上運(yùn)行(核心運(yùn)行時(shí)在Arm Cortex M3上只有16 KB，并且有足夠的操作員運(yùn)行語(yǔ)音關(guān)鍵字檢測(cè)模型，總共需要22 KB)。它只支持推理(不支持訓(xùn)練)。

大型微控制器制造商當(dāng)然正饒有興趣地關(guān)注著TinyML社區(qū)的發(fā)展。隨著研究使得神經(jīng)網(wǎng)絡(luò)模型越來(lái)越小，它們的機(jī)會(huì)也越來(lái)越大。大多數(shù)都支持機(jī)器學(xué)習(xí)應(yīng)用程序。例如，意法半導(dǎo)體有一個(gè)STM32Cube擴(kuò)展包。是一個(gè)人工智能，使映射和運(yùn)行神經(jīng)網(wǎng)絡(luò)在其STM32系列的Arm Cortex-M為基礎(chǔ)的微控制器。

瑞薩有自己的e-AI開(kāi)發(fā)環(huán)境，允許在微控制器上實(shí)現(xiàn)AI推理。它有效地將模型轉(zhuǎn)換為一種在e2 studio中可用的形式，并與C/ c++項(xiàng)目兼容。e2 studio ISDE專(zhuān)為Synergy平臺(tái)而設(shè)計(jì)，并提供相關(guān)工具以用于軟件設(shè)計(jì)流程的三個(gè)階段：準(zhǔn)備階段、構(gòu)建階段和調(diào)試階段。

對(duì)于準(zhǔn)備階段，e2 studio配備用于硬件選項(xiàng)（包括MCU引腳分配）和軟件選項(xiàng)（如RTOS線程分配）的圖形配置器。內(nèi)置錯(cuò)誤檢查功能可確保做出有效選擇，并在出現(xiàn)任何沖突或違規(guī)時(shí)通知用戶(hù)。e2 studio還提供設(shè)計(jì)用于簡(jiǎn)化構(gòu)建階段的功能，如自動(dòng)代碼生成、內(nèi)置代碼模板和自動(dòng)代碼構(gòu)造。借助關(guān)鍵字彩色編碼、跳轉(zhuǎn)聲明、變量自動(dòng)完成和上下文感知手冊(cè)，開(kāi)發(fā)人員可以節(jié)省大量時(shí)間和投入。

對(duì)于調(diào)試階段，e2 studio提供多種方法來(lái)深入顯示代碼執(zhí)行情況。調(diào)試工具支持動(dòng)態(tài)跟蹤線程執(zhí)行時(shí)間和中斷服務(wù)例程，并支持對(duì)整體系統(tǒng)行為進(jìn)行可視化。全面調(diào)試和分析功能將簡(jiǎn)化實(shí)時(shí)系統(tǒng)事件的故障診斷流程。NXP表示，有客戶(hù)使用其低端Kinetis和LPC MCU進(jìn)行機(jī)器學(xué)習(xí)應(yīng)用。NXP盡管目前主要是圍繞其更大的應(yīng)用處理器和交叉處理器(在應(yīng)用處理器和微控制器之間)。但他們正在硬件和軟件解決方案上實(shí)現(xiàn)人工智能化。
（責(zé)任編輯：fqj）