今天，人工智能 (AI) 正在以超乎想象的速度迅猛發(fā)展，在這一大背景下，有兩大趨勢特別值得關注：一個趨勢是近兩年基于大模型的生成式AI的狂飆突進，向我們展示著AI的無限可能；另一趨勢則是AI技術不斷“下沉”，轉向網絡的“邊緣”，邊緣AI的興起正在將AI帶入更多的應用場景，讓AI變得觸手可及。

所謂邊緣AI，顧名思義就是基于邊緣計算的AI技術。眾所周知，在AI發(fā)展早期，由于需要大量的算力支撐，因此使用云端集中式的數(shù)據(jù)處理能力進行AI數(shù)據(jù)的訓練和推理，是很自然的選擇。不過，隨著技術和市場的發(fā)展，這種云計算型AI的局限性也逐漸顯現(xiàn)出來。

首先，云計算型AI對網絡的依賴性太強，大量原始數(shù)據(jù)需要上傳至云端處理，這不僅需要占有更多的帶寬資源，在斷網時還會直接導致AI應用停擺；其次，云計算型AI的延遲較高，這使其難于勝任需要實時響應的應用；再有，在數(shù)據(jù)傳輸?shù)倪^程中，還會存在信息安全和隱私泄露的風險。這些弱點在普通的消費級應用中也許并不明顯，但在工業(yè)、自動駕駛、醫(yī)療等對實時處理、數(shù)據(jù)安全和低延遲特性更為敏感的領域，則是致命的短板。

而這種短板，恰恰為邊緣AI的發(fā)展帶來了契機——邊緣AI無需依賴云端服務器或網絡，即可在獨立的邊緣設備上執(zhí)行實時訓練和推理任務，將大大擴展AI的應用領域；同時，由于AI的生成和部署、數(shù)據(jù)處理都在網絡邊緣端的本地設備上進行，可以極大地降低延遲，并從源頭上保障數(shù)據(jù)的隱私安全。

正是由于具有這樣獨特的優(yōu)勢，如今邊緣AI已成為一個極具潛力的市場。國際數(shù)據(jù)公司 (IDC) 的研究顯示，2025年全球邊緣計算解決方案支出將接近2,610億美元，預計未來將以13.8%的年復合增長率快速增長，到2028年達到3,800億美元，其中邊緣AI的發(fā)展將是核心的推動力。

創(chuàng)新的端點AI技術

在開發(fā)者的心目中，一個理想的邊緣AI解決方案，應該具備以下幾個特點：

1無需網絡連接即可獨立工作，在本地設備上完成推理，更大限度地縮短通信延遲。

2能夠進行現(xiàn)場訓練，可基于設備的安裝環(huán)境和運行狀況（如噪音、振動和溫濕度）等信息進行高速現(xiàn)場學習，生成定制化的模型。

3可同時執(zhí)行Al以外計算處理任務，以完成其他設備控制工作。

不過，理想雖然豐滿，現(xiàn)實卻很骨感：在海量的邊緣計算場景中，開發(fā)者面對的是算力有限的設備，它們大都采用嵌入式MPU或MCU作為主控芯片，想要在這些器件上面跑AI，并不容易，需要從軟件到硬件、從芯片到系統(tǒng)進行全面地優(yōu)化，這樣才能為邊緣AI的落地提供一片技術沃土。

為此，ROHM Semiconductor(以下簡稱ROHM) 推出了一個創(chuàng)新的端點AI技術——Solist-AI，專為邊緣計算領域提供端側AI解決方案。

Solist-AI的名稱源自音樂術語“獨奏者”，這意味著其無需依賴云端服務器，即可在獨立的邊緣設備上執(zhí)行實時訓練和推理處理，且具有體積小、功耗低等特點，與云計算型AI和傳統(tǒng)的基于邊緣AI計算機的方案相比，優(yōu)勢十分明顯。

圖1：Solist-AI端點AI技術優(yōu)勢（圖源：ROHM Semiconductor）

上述這些特點，使得Solist-AI技術非常適合于兩類典型應用：

預測性維護：基于正常數(shù)據(jù)進行訓練以構建AI模型，并基于該AI模型檢測出設備或系統(tǒng)運行異常的征兆，及時進行維護。

劣化預測：通過對預先訓練好的AI模型進行增量訓練，將其升級為與現(xiàn)場適配的“定制”AI模型，并基于該定制模型對設備壽命或工作完成時間進行預測。

由此不難看出，在電機軸承損傷檢測、電池老化和剩余電量預測、服務器異常發(fā)熱檢測、缺陷產品篩選、基礎設施的維護，以及獨居老人和臥床患者的看護等領域，Solist-AI技術都可大展身手！

獨特的Solist-AI微控制器

如果你覺得以上的介紹還有點抽象，下面我們就來詳細解析“創(chuàng)新的端點AI技術，Solist-AI是如何做到的”。

圖2：Solist-AI系統(tǒng)示意圖（圖源：ROHM Semiconductor）

從上圖可以看出，基于Solist-AI的端點AI系統(tǒng)的核心，是一款“Solist-AI微控制器”(如ML63Q25x-NNNx系列微控制器)，它具有軟、硬件兩大“法寶”，使其能夠在設備端絲滑地實現(xiàn)AI訓練和推理功能。

硬件層面，Solist-AI微控制器除了常規(guī)的嵌入式處理功能（包括Arm Cortex-M0+處理器、外設功能、片上存儲等），還特別集成了一個AI硬件加速器AxlCORE-ODL，它能夠高速實現(xiàn)神經網絡處理及FFT等數(shù)據(jù)的預處理，與基于軟件的傳統(tǒng)MCU相比，AI處理速度提高約1,000倍（12MHz運行時的理論值），從而大幅減輕AI處理時MCU的負載，使得MCU有“余力”去完成AI之外的計算處理任務。

圖3：Solist-AI微控制器中集成了AxlCORE-ODL AI硬件加速器（圖源：ROHM Semiconductor）

軟件方面，Solist-AI微處理器采用了一種基于三層神經網絡的極限學習機（Extreme learning machine, ELM）的優(yōu)化AI算法，該算法特別適合于基于硬件的運算架構，并能有效減少AI處理時的內存消耗，其與AxlCORE-ODL硬件加速器相配合，提供了一種高能效的邊緣計算解決方案。

圖4：Solist-AI技術采用三層神經網絡算法（圖源：ROHM Semiconductor）

總之，在AxlCORE-ODL硬件加速器和專門優(yōu)化的神經網絡算法的加持下，Solist-AI微控制器具有獨立AI工作、設備端學習和增量訓練，以及同時執(zhí)行AI以外處理任務等特點，與傳統(tǒng)的基于軟件的邊緣AI解決方案相比，優(yōu)勢盡顯。

圖5：Solist-AI技術與軟件解決方案比較（圖源：ROHM Semiconductor）

以ML63Q25x-NNNx MCU為例，該Solist-AI微控制器支持基于AI的實時運行狀態(tài)監(jiān)控，在AI處理期間功耗低至40mW，同時可避免網絡延遲問題和安全風險，是工業(yè)應用中異常檢測和預測性維護的理想選擇。

全面的開發(fā)生態(tài)支持

值得一提的是，Solist-AI微控制器是Solist-AI技術的核心，但并非是其全部。ROHM正在努力打造一個完整的Solist-AI技術生態(tài)，為邊緣AI應用的開發(fā)提供全方位的支撐。

圖6：Solist-AI微控制器開發(fā)支持系統(tǒng)（圖源：ROHM Semiconductor）

在這個生態(tài)系統(tǒng)中，為了創(chuàng)建更高精度的AI模型，整合了一些開發(fā)利器，比如：

Solist-AISim

一款可在PC端驗證Solist-AI功能的仿真工具，可以輕松確認AI訓練和推理結果，在短時間內驗證AI的應用效果，單次仿真僅需數(shù)秒。目前，ROHM已公開發(fā)布用于異常檢測（無監(jiān)督訓練）和預測或參數(shù)推測（監(jiān)督訓練）的仿真工具。

Solist-AIScope

一款用于確認實機工作情況的實用工具，能夠將Solist-AI微控制器內部處理的數(shù)據(jù)以波形形式進行顯示，便于實時查看輸入到AI的傳感器數(shù)據(jù)和從AI輸出的異常程度指標，從而輕松驗證AI是否按預期工作。

圖7：利用Solist-AISim和Solist-AIScope創(chuàng)建高精度的AI模型（圖源：ROHM Semiconductor）

此外，ROHM還提供與Solist-AI微控制器配套的參考板和評估板，以及用于嵌入式開發(fā)的LEXIDE-Ω集成開發(fā)環(huán)境，加上第三方Flash編程器等開發(fā)工具，營造起了一個完整的開發(fā)生態(tài)。這些舉措的核心目的都是一個——幫助開發(fā)者在MCU上玩轉AI，讓邊緣AI能夠擴展到越來越多的應用場景。

本文小結

邊緣AI正在快速發(fā)展，目前正在從最初的“云端訓練、邊緣推理”的模式，向更少云端資源依賴，模型訓練、迭代、部署全流程邊緣化的“邊緣訓練”模式升級，同時也在向更高層次的具備自主感知、自適應調整學習能力的“自主機器學習”模式邁進。

ROHM的Solist-AI技術，及其衍生出的新一代的邊緣AI微處理器和軟件開發(fā)工具，正是這樣的趨勢之選，助力工程師在邊緣AI的世界自由馳騁！

說明：文中“Solist-AI”是ROHM Co.，Ltd.的商標或注冊商標。