2月27日消息，電氣和電子工程師協(xié)會(huì)（IEEE）在其官網(wǎng)分享了一家名為Cartesiam的法國B2B軟件開發(fā)公司的研發(fā)成果，該公司創(chuàng)立于2016年，主要面向人工智能（AI）研發(fā)嵌入式系統(tǒng)，讓普通的Arm微控制器都能運(yùn)行無監(jiān)督學(xué)習(xí)AI。

在幾年前，隨著物聯(lián)網(wǎng)傳感器和產(chǎn)品的泛濫，人們曾認(rèn)為這些數(shù)據(jù)將通過數(shù)百億個(gè)智能傳感器傳遞到云端，接著云端的AI和其他軟件系統(tǒng)將對數(shù)據(jù)進(jìn)行理解并處理。

但這在Cartesiam聯(lián)合創(chuàng)始人兼總經(jīng)理Marc Dupaquier看來，這個(gè)數(shù)據(jù)處理方案并不可行。

“從能源和成本的角度來看，傳輸所有的數(shù)據(jù)將耗費(fèi)較高的成本，同時(shí)還增加了事件和系統(tǒng)反饋之間的等待時(shí)間，危及數(shù)據(jù)的隱私和使用，因此它也并不安全。“Marc Dupaquier說到。

而這，也成為了Cartesiam成立的緣由。2017年，該公司成立研發(fā)團(tuán)隊(duì)，計(jì)劃重寫所有機(jī)器學(xué)習(xí)和信號處理算法，以便用戶可以在任何Arm Cortex M微控制器中去執(zhí)行AI算法。

▲Cartesiam公司的四位合作伙伴

一、無需專業(yè)知識就可實(shí)現(xiàn)機(jī)器學(xué)習(xí)推理和預(yù)測

Marc Dupaquier認(rèn)為，將AI放在邊緣端進(jìn)行處理，是Cartesiam等一些創(chuàng)企和大公司長期以來的目標(biāo)之一。

“但就工具、數(shù)據(jù)和專業(yè)知識而言，實(shí)際構(gòu)建嵌入式系統(tǒng)和程序微控制器的研發(fā)人員，卻無法很好地利用它?！盡arc Dupaquier談到。

因此，Cartesiam研發(fā)了一個(gè)名為NanoEdge AI Studio的軟件系統(tǒng)，該系統(tǒng)能夠安全地生成AI算法，并且生成的算法只需兩分鐘就可在Arm微處理器上運(yùn)行，容量大小僅為4～16KB RAM。

具體來說，NanoEdge AI Studio軟件解決方案能夠在Windows 10或Linux Ubuntu系統(tǒng)上運(yùn)行，幫助開發(fā)人員輕松地生成機(jī)器學(xué)習(xí)靜態(tài)庫，以嵌入在任何Arm微控制器上運(yùn)行的主程序中，并直接在微控制器內(nèi)部進(jìn)行機(jī)器學(xué)習(xí)、推理和預(yù)測。

實(shí)際上，整個(gè)使用過程，幾乎都無需研發(fā)人員具備數(shù)學(xué)、機(jī)器學(xué)習(xí)、數(shù)據(jù)科學(xué)等其他神經(jīng)網(wǎng)絡(luò)知識。其中，系統(tǒng)生成的機(jī)器學(xué)習(xí)靜態(tài)庫包含一個(gè)AI模型，該模型能夠在學(xué)習(xí)階段逐步收集信息，從而能夠檢測到潛在的異常及其行為，并對其進(jìn)行預(yù)測。

▲NanoEdge AI Studio軟件解決方案操作示例

二、深度學(xué)習(xí)需求數(shù)據(jù)量大，專業(yè)開發(fā)人員短缺

Marc Dupaquier表示，NanoEdge AI Studio能夠讓任何嵌入式設(shè)計(jì)人員，都能快速開發(fā)特定應(yīng)用程序的機(jī)器學(xué)習(xí)庫，并在微控制器內(nèi)部運(yùn)行程序。

“其中涉及到的機(jī)器學(xué)習(xí)類型就是無監(jiān)督學(xué)習(xí)，實(shí)際上它是我們公司取得成功的關(guān)鍵?！盡arc Dupaquier說。

無監(jiān)督學(xué)習(xí)屬于機(jī)器學(xué)習(xí)的子類，通常用于大量無標(biāo)簽的數(shù)據(jù)挖掘，其訓(xùn)練數(shù)據(jù)沒有人工提前去進(jìn)行標(biāo)注，需要機(jī)器自己通過某一特征去尋找海量數(shù)據(jù)中的相關(guān)結(jié)構(gòu)。

而現(xiàn)在大部分人臉識別或路標(biāo)識別的機(jī)器學(xué)習(xí)，都屬于卷積神經(jīng)網(wǎng)絡(luò)，即深度學(xué)習(xí)。深度學(xué)習(xí)需要通過數(shù)據(jù)集進(jìn)行成百上千次訓(xùn)練，并在訓(xùn)練完成后被移植到功能較弱的計(jì)算機(jī)中。

但Marc Dupaquier認(rèn)為，在微控制器控制的傳感器領(lǐng)域中，深度學(xué)習(xí)所需要的大量被標(biāo)注數(shù)據(jù)集很難生成，同時(shí)數(shù)據(jù)科學(xué)領(lǐng)域的AI專業(yè)人才又十分稀少。

根據(jù)市場研究機(jī)構(gòu)IDC數(shù)據(jù)，即使生成的數(shù)據(jù)能夠使用，但只有不到1%的嵌入式開發(fā)人員擁有AI技能。與此同時(shí)，Marc Dupaquier透露公司的大多數(shù)客戶也并不了解AI。

因此，Cartesiam研發(fā)的NanoEdge AI Studio軟件系統(tǒng)，則嘗試通過利用無監(jiān)督學(xué)習(xí)技術(shù)，來解決研究人員在以往深度學(xué)習(xí)訓(xùn)練過程中所面臨的標(biāo)記數(shù)據(jù)集問題。

三、無監(jiān)督學(xué)習(xí)的數(shù)字孿生樣本應(yīng)用

基于深度學(xué)習(xí)的大量數(shù)據(jù)需求，以及具備專業(yè)AI技能的嵌入式開發(fā)人員短缺，Cartesiam的NanoEdge AI Studio軟件系統(tǒng)采用的無監(jiān)督學(xué)習(xí)方案，則很好地解決了這一困境。

據(jù)了解，NanoEdge AI Studio的無監(jiān)督學(xué)習(xí)能夠?yàn)閭鞲衅魈峁?shù)字孿生樣本，分別為兩分鐘的正常操作樣本和異常操作樣本。同時(shí)，該系統(tǒng)還能幫助用戶選擇最佳的AI算法來構(gòu)建網(wǎng)絡(luò)，并將這些算法移植到嵌入式控制器的內(nèi)存中。

當(dāng)傳感器在環(huán)境中運(yùn)行時(shí)，它會(huì)同時(shí)檢測正常情況，并觀察數(shù)據(jù)中是有存在有意義的偏差。最終，它還能夠在問題出現(xiàn)之前進(jìn)行預(yù)測。

值得一提的是，Cartesiam已經(jīng)與許多利用Arm Cortex-M來制造設(shè)備公司建立了合作關(guān)系，其中就包括法國專業(yè)級工業(yè)電子制造商Eolane。

Eolane與Cartesiam合作推出了一款名為Bob Assistant的溫度/振動(dòng)傳感器，主要用于預(yù)測工業(yè)維修。目前，該解決方案已經(jīng)被許多歐洲客戶所采用，成為首個(gè)大規(guī)模部署的工業(yè)4.0預(yù)測性維護(hù)解決方案。

▲Bob Assistant

Marc Dupaquier談到，由于周圍環(huán)境的特殊性，每個(gè)傳感器的微處理器上的神經(jīng)網(wǎng)絡(luò)可能會(huì)有所不同?！耙?yàn)閷W(xué)習(xí)是在設(shè)備上進(jìn)行的，所以它將學(xué)習(xí)該機(jī)器的運(yùn)作模式。同時(shí)，AI也正在將機(jī)器的數(shù)字孿生植入到微控制器中。”他談到。

結(jié)語：助力低功耗芯片的機(jī)器學(xué)習(xí)應(yīng)用

將機(jī)器學(xué)習(xí)嵌入低功耗、低資源處理器中，是許多創(chuàng)企和半導(dǎo)體公司的一直以來不斷精進(jìn)研發(fā)和創(chuàng)新的動(dòng)力之一。

實(shí)際上，很多公司也正在使用專門的計(jì)算機(jī)架構(gòu)、內(nèi)存計(jì)算方案和其他硬件技術(shù)，以生產(chǎn)運(yùn)行深度學(xué)習(xí)和其他網(wǎng)絡(luò)的低功耗芯片。

今年2月初，Arm也推出了一款機(jī)器學(xué)習(xí)加速處理器Cortex-M5，其數(shù)字信號處理器性能提升了5倍，機(jī)器學(xué)習(xí)性能提升至15倍。同時(shí)，它與微神經(jīng)網(wǎng)絡(luò)處理器Ethos U55配合使用，還能將機(jī)器學(xué)習(xí)性能提高480倍。

值得一提的是，Arm透露Cartesiam已經(jīng)獲得了測試新硬件的機(jī)會(huì)。屆時(shí)，Arm的新款機(jī)器學(xué)習(xí)處理器與Cartesiam的NanoEdge AI Studio軟件系統(tǒng)，又將擦出什么火花？我們拭目以待。