人工智能(AI)和機(jī)器學(xué)習(xí)(ML)是使系統(tǒng)能夠從數(shù)據(jù)中學(xué)習(xí)，進(jìn)行推斷并隨著時(shí)間的推移提高其性能的關(guān)鍵技術(shù)。這些技術(shù)通常用于大型數(shù)據(jù)中心和功能強(qiáng)大的GPU，但是將它們部署在資源有限的設(shè)備（如微控制器MCU）上的需求越來(lái)越大。

在本博客中，Silicon Labs（亦稱“芯科科技”）產(chǎn)品營(yíng)銷高級(jí)經(jīng)理Gopinath Krishniah先生將帶您探究MCU技術(shù)和AI/ML的交叉與匯合，以及它如何影響低功耗邊緣設(shè)備的發(fā)展；同時(shí)將討論在電池供電設(shè)備的MCU上運(yùn)行AI的困難、創(chuàng)新和實(shí)際用例，并進(jìn)一步介紹芯科科技專為邊緣智能開發(fā)所提供全套MCU+AI/ML工具的解決方案。

AI/ML和MCU概述

人工智能創(chuàng)造的計(jì)算機(jī)系統(tǒng)可以完成類似人類的任務(wù)，比如理解語(yǔ)言、尋找模式和做決定。機(jī)器學(xué)習(xí)是人工智能的一個(gè)子集，涉及使用算法，讓計(jì)算機(jī)從數(shù)據(jù)中學(xué)習(xí)，并隨著時(shí)間的推移變得更好。機(jī)器學(xué)習(xí)模型可以找到模式，排序?qū)ο螅氖纠蓄A(yù)測(cè)結(jié)果。

mcu在使AI和ML在邊緣設(shè)備上成為可能方面發(fā)揮著重要作用。

基于MCU運(yùn)行的邊緣AI/ML用例包括:

關(guān)鍵字識(shí)別：識(shí)別特定的單詞或短語(yǔ)(例如，語(yǔ)音命令)，而不需要云連接。

傳感器融合：結(jié)合來(lái)自多個(gè)傳感器的數(shù)據(jù)，做出比單一傳感器解決方案更明智的決策。

異常檢測(cè)：檢測(cè)傳感器數(shù)據(jù)中的異常值或異常模式，可能表明故障，錯(cuò)誤或威脅，用于預(yù)測(cè)性維護(hù)或質(zhì)量控制。

目標(biāo)檢測(cè)：在攝像機(jī)或其他傳感器捕獲的圖像或視頻中識(shí)別和定位感興趣的對(duì)象(例如，人臉、行人、車輛)。

手勢(shì)識(shí)別：在攝像機(jī)或其他傳感器捕獲的圖像或視頻中解釋人類手勢(shì)(如手部動(dòng)作、面部表情、身體姿勢(shì))，以改善人機(jī)交互。

AI/ML在MCU上的挑戰(zhàn)

深度學(xué)習(xí)模型，特別是深度神經(jīng)網(wǎng)絡(luò)（DNN），已經(jīng)成為計(jì)算機(jī)視覺和自然語(yǔ)言處理等復(fù)雜任務(wù)中不可或缺的一部分。然而，它們的計(jì)算需求是巨大的。這種資源密集型模型對(duì)于日常設(shè)備來(lái)說是不切實(shí)際的，尤其是那些由邊緣設(shè)備中的低功耗MCU供電的設(shè)備。深度學(xué)習(xí)模型復(fù)雜性的增長(zhǎng)是必然的，隨著深度神經(jīng)網(wǎng)絡(luò)變得越來(lái)越復(fù)雜，它們的尺寸會(huì)膨脹，使它們與MCU上有限的可用計(jì)算資源不兼容。

什么是TinyML?

TinyML指的是為在資源受限的設(shè)備上部署而優(yōu)化的機(jī)器學(xué)習(xí)模型和技術(shù)。這些設(shè)備在邊緣運(yùn)行，在那里生成數(shù)據(jù)，并在本地執(zhí)行推理。TinyML系統(tǒng)通常運(yùn)行在低功耗MCU上，對(duì)節(jié)點(diǎn)本地收集的數(shù)據(jù)執(zhí)行推斷。推理是人工智能模型的關(guān)鍵時(shí)刻，測(cè)試它在訓(xùn)練中所學(xué)知識(shí)的應(yīng)用能力。本地推理使MCU能夠直接執(zhí)行AI模型，在不依賴外部服務(wù)器或云服務(wù)的情況下做出實(shí)時(shí)決策。

在AI/ML環(huán)境中，局部推理至關(guān)重要，原因如下:

資源限制：許多嵌入式設(shè)備，特別是那些使用電池供電的設(shè)備，資源有限，例如內(nèi)存、處理能力和能源效率。傳統(tǒng)的通用微控制器由于其有限的處理能力和內(nèi)存、有限的能源資源或缺乏片上加速而難以有效地執(zhí)行人工智能任務(wù)。本地推理允許這些資源受限的設(shè)備在不消耗過多功率的情況下執(zhí)行AI工作負(fù)載，以提高效率和性能。

用戶體驗(yàn)增強(qiáng)：考慮一個(gè)例子－支持人工智能的電子Cat Flap。通過訓(xùn)練它區(qū)分貓和其他物體，它可以只為被授權(quán)的貓開門。在這里，本地推理通過確保安全性和便利性來(lái)改善用戶體驗(yàn)，而不需要諸如RFID項(xiàng)圈之類的額外硬件。

效率和性能：GPU通常用于大規(guī)模人工智能部署，因?yàn)樗鼈兛梢圆⑿袌?zhí)行許多流程，這對(duì)于有效的人工智能訓(xùn)練至關(guān)重要。然而，對(duì)于小型嵌入式應(yīng)用來(lái)說，GPU的成本很高，并且超出了功率預(yù)算。AI優(yōu)化的MCU具有專門的架構(gòu)，通過為AI工作負(fù)載提供更好的性能和功率效率來(lái)實(shí)現(xiàn)平衡。芯科科技提供的新型無(wú)線SoC和MCU中已包括一個(gè)矩陣矢量處理器，作為其AI/ML支持的一部分。這種專門的硬件加速器旨在增強(qiáng)AI/ML算法或矢量數(shù)學(xué)運(yùn)算的性能，以縮短推理時(shí)間并以更低的功耗執(zhí)行這些關(guān)鍵任務(wù)。

總之，邊緣的本地推理可以實(shí)現(xiàn)實(shí)時(shí)決策，減少延遲，增強(qiáng)安全性，使電池供電的設(shè)備具有人工智能功能，并增強(qiáng)用戶體驗(yàn)，使其成為現(xiàn)代計(jì)算系統(tǒng)的關(guān)鍵組成部分，同時(shí)滿足資源限制。

芯科科技前沿的AI/ML解決方案

芯科科技作為智能、安全物聯(lián)網(wǎng)無(wú)線連接領(lǐng)域的開拓者，正在致力于將AI/ML帶到邊緣。我們對(duì)創(chuàng)新的承諾導(dǎo)致了開創(chuàng)性的解決方案，它賦予資源受限的設(shè)備如MCU具備更豐富的智能功能。

針對(duì)TinyML進(jìn)行優(yōu)化的設(shè)備

EFR32xG24、EFR32xG28和EFR32xG26等無(wú)線MCU系列產(chǎn)品均結(jié)合了78 MHz的ARM-M33處理器、高性能無(wú)線電、精密模擬性能，以及一個(gè)AI/ML硬件加速器，給開發(fā)人員一個(gè)靈活的平臺(tái)，用于部署邊緣智能。同時(shí)，這些產(chǎn)品還支持廣泛的物聯(lián)網(wǎng)無(wú)線協(xié)議，提供最高的安全性與最佳的RF性能/能效比的組合。

現(xiàn)今的開發(fā)人員經(jīng)常被迫為在邊緣部署人工智能/ ML而付出許多精力。xG24、xG28和xG26使用專用的AI/ML加速器，可以大幅降低整體設(shè)計(jì)復(fù)雜性，助力開發(fā)人員更快實(shí)現(xiàn)產(chǎn)品原型。專門的硬件設(shè)計(jì)對(duì)于處理復(fù)雜的計(jì)算可提高8倍的推理速度，以及在能源效率上改進(jìn)了6倍；這與基于固件和云計(jì)算的解決方案相比，可提供更高的性能和效益。硬件加速器的使用將從主應(yīng)用程序MCU中觸發(fā)的負(fù)擔(dān)卸下了更多的時(shí)鐘周期，從而服務(wù)您的應(yīng)用程序。

簡(jiǎn)化AI/ML開發(fā)的工具

構(gòu)建、測(cè)試和部署機(jī)器學(xué)習(xí)所需算法的工具與運(yùn)行這些算法的MCU一樣重要。通過與TensorFlow、SensiML和EdgeImpulse等TinyML領(lǐng)域的領(lǐng)導(dǎo)者合作，芯科科技為初學(xué)者和專家提供了多種開發(fā)工具的選擇。使用這個(gè)新的AI/ML工具鏈和芯科科技的SimplicityStudio開發(fā)環(huán)境，開發(fā)人員可以創(chuàng)建應(yīng)用程序，從各種連接的設(shè)備中提取信息，以做出智能的機(jī)器學(xué)習(xí)驅(qū)動(dòng)的決策。

芯科科技提供各種工具和資源來(lái)支持ML應(yīng)用程序：

ML應(yīng)用：開發(fā)平臺(tái)支持TinyML模型推理，由TensorFlow Lite forMicrocontrollers （TFLM）框架支持。存儲(chǔ)庫(kù)包含一組利用ML的嵌入式應(yīng)用程序。

機(jī)器學(xué)習(xí)工具包（MLTK）：這是一個(gè)帶有命令行實(shí)用程序和腳本的Python包，可幫助為芯科科技的嵌入式平臺(tái)開發(fā)機(jī)器學(xué)習(xí)模型。它包括從命令行界面或Python腳本執(zhí)行機(jī)器學(xué)習(xí)操作的功能，確定機(jī)器學(xué)習(xí)模型在嵌入式平臺(tái)上的執(zhí)行效率，以及使用Google TensorFlow訓(xùn)練機(jī)器學(xué)習(xí)模型。

芯科科技還提供一個(gè)TinyML解決方案，作為機(jī)器學(xué)習(xí)工具包的一部分。該工具包包括TinyML基準(zhǔn)測(cè)試使用的幾個(gè)模型。這些模型可以在芯科科技GitHub上找到，包括異常檢測(cè)、圖像分類和關(guān)鍵字識(shí)別。

AI/ML驅(qū)動(dòng)的邊緣設(shè)備為我們與周圍環(huán)境的互動(dòng)開辟了新的視野，它們將很快以驚人的方式改變我們的生活。芯科科技處于TinyML創(chuàng)新的最前沿，使其能夠?qū)⑦@些功能以前所未有的方式帶入低功耗，連接的邊緣設(shè)備。