數(shù)據(jù)處理當(dāng)然不是一個(gè)新概念,算法也不是。然而,算法被訓(xùn)練和運(yùn)行的地方正在迅速發(fā)展。近年來(lái),機(jī)器學(xué)習(xí)(ML)算法的訓(xùn)練基本上是在云環(huán)境中進(jìn)行的,因?yàn)槟軌蚶门R時(shí)計(jì)算資源來(lái)執(zhí)行這些數(shù)據(jù)密集型任務(wù)。
如今,人們大力推動(dòng)盡可能靠近源頭處理數(shù)據(jù)。這是由于物聯(lián)網(wǎng)(IoT)和現(xiàn)在正在生成大量數(shù)據(jù)的各種技術(shù)的出現(xiàn)。所有這些數(shù)據(jù)都讓組織爭(zhēng)先恐后地以經(jīng)濟(jì)高效的方式充分利用它。組織需要考慮從原始源到處理位置的數(shù)據(jù)傳輸成本,以及存儲(chǔ)和處理數(shù)據(jù)的成本,這通常是在資源密集型服務(wù)器/云環(huán)境中。
人工智能 (AI) 技術(shù)開(kāi)始出現(xiàn),可以在低計(jì)算功率設(shè)備(如基于 ESP32 和 Cortex M4 的微控制器單元 (MCU))上實(shí)現(xiàn) ML 模型訓(xùn)練和執(zhí)行,而不是更大的微處理器單元 (MPU)。這允許數(shù)據(jù)保持本地,并且僅在必要時(shí)在云中傳輸已處理的數(shù)據(jù)。
通過(guò)將訓(xùn)練和運(yùn)行 ML 模型的總體占用空間要求降低到 100kb 以下,嵌入式計(jì)算中的 AI 正在進(jìn)入一個(gè)新的領(lǐng)域。例如,與合并排序算法相比,嵌入式算法工程師更歡迎氣泡排序算法,因?yàn)榍罢呤褂矛F(xiàn)有內(nèi)存。盡管已經(jīng)存在許多算法,但正在針對(duì)嵌入式環(huán)境開(kāi)發(fā)和優(yōu)化新的基于AI的時(shí)間序列預(yù)測(cè)算法。通過(guò)這種新方法,AI/ML模型在嵌入式板上進(jìn)行訓(xùn)練。然后,這些模型用于在執(zhí)行期間執(zhí)行多變量統(tǒng)計(jì)推斷。
這些新的基于AI的時(shí)間序列預(yù)測(cè)算法有三個(gè)優(yōu)點(diǎn):
該解決方案與網(wǎng)絡(luò)延遲無(wú)關(guān),因?yàn)橛?jì)算是在本地板上進(jìn)行的,因此性能得到了提高。
原始數(shù)據(jù)的安全/隱私得到保證,因?yàn)樵?a target="_blank">信號(hào)/數(shù)據(jù)只出現(xiàn)在本地。
對(duì)于每個(gè)嵌入式板,都會(huì)訓(xùn)練一個(gè)新的 ML/AI 模型。這可能是這種方法的核心優(yōu)勢(shì),因?yàn)樵诘湫偷墓I(yè)案例中,由于環(huán)境變體、傳感器的缺陷和機(jī)器變體,不可能使用單個(gè) ML/AI 模型來(lái)覆蓋機(jī)器特征集群。使用云服務(wù)器為每個(gè)嵌入式板訓(xùn)練模型也不是負(fù)擔(dān)得起的。
技術(shù)突破
算法在嵌入式計(jì)算中發(fā)揮著重要作用。通常,嵌入式設(shè)備執(zhí)行的算法任務(wù)包括傳感器數(shù)據(jù)清理/過(guò)濾、數(shù)據(jù)編碼/解碼和控制信號(hào)生成。由于內(nèi)存容量、CPU 功率和架構(gòu)不同,嵌入式計(jì)算環(huán)境中“最佳算法”的定義可能與 PC 和云服務(wù)器中“最佳算法”的定義大不相同。
在過(guò)去的幾年里,AI/ML算法取得了突破和非常迅速的進(jìn)步。許多努力都集中在將AI / ML模型(這些模型在其他地方訓(xùn)練)引入嵌入式上下文。換句話說(shuō),要成功部署 AI/ML 模型,需要優(yōu)化算法的內(nèi)存/CPU 使用率和功耗。
人工智能正在縮小,可以運(yùn)行這些高級(jí)算法。技術(shù)進(jìn)步現(xiàn)在允許人工智能和預(yù)測(cè)性維護(hù)從基于 MPU 的設(shè)備轉(zhuǎn)向基于 MCU 的設(shè)備,占用空間小,價(jià)格顯著降低?;?MCU 的設(shè)備現(xiàn)在可以在網(wǎng)絡(luò)邊緣執(zhí)行以前僅在 MPU 上提供的任務(wù)(例如預(yù)測(cè)性維護(hù))。這一新功能使芯片制造商、原始設(shè)備制造商 (OEM) 和智能設(shè)備制造商能夠降低成本并提供差異化的產(chǎn)品。
審核編輯:郭婷
-
處理器
+關(guān)注
關(guān)注
68文章
20339瀏覽量
255354 -
mcu
+關(guān)注
關(guān)注
147文章
19160瀏覽量
404830 -
物聯(lián)網(wǎng)
+關(guān)注
關(guān)注
2950文章
48147瀏覽量
418866
發(fā)布評(píng)論請(qǐng)先 登錄
AI Ceph 分布式存儲(chǔ)教程資料大模型學(xué)習(xí)資料2026
論馬斯克的預(yù)言:AI使人類(lèi)邊緣化
邊緣AI算力臨界點(diǎn):深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價(jià)值
在Ubuntu20.04系統(tǒng)中訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的一些經(jīng)驗(yàn)
工業(yè)視覺(jué)網(wǎng)關(guān):RK3576賦能多路檢測(cè)與邊緣AI
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片到AGI芯片
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI的未來(lái):提升算力還是智力
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+第二章 實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)
模板驅(qū)動(dòng) 無(wú)需訓(xùn)練數(shù)據(jù) SmartDP解決小樣本AI算法模型開(kāi)發(fā)難題
最大限度地減少算法占用空間并在AI網(wǎng)絡(luò)邊緣進(jìn)行訓(xùn)練
評(píng)論