邊緣智能是自問世以來最具顛覆性的創(chuàng)新之一 的物聯(lián)網(wǎng) （IoT）。雖然物聯(lián)網(wǎng)產(chǎn)生了數(shù)十億的智能， 連接設備為基于 AI 傳輸無數(shù) TB 的傳感器數(shù)據(jù) 云計算，另一場革命正在進行中：機器學習（ML） 邊緣設備。隨著越來越多的智能遷移到網(wǎng)絡邊緣，恩智浦 通過提供成本、性能和功耗優(yōu)化來擁抱這一趨勢 處理解決方案，推動 ML 技術跨多個市場 應用程序，為最終用戶提供增強安全性的好處， 更好的隱私和更低的延遲。

開發(fā) ML、深度學習和神經(jīng)網(wǎng)絡應用程序傳統(tǒng)上具有 是數(shù)據(jù)科學家和人工智能專家的領域。但這種情況正在改變 更多的 ML 工具和技術已經(jīng)可用于抽象出一些 開發(fā)機器學習應用程序的復雜性。一個恰當?shù)睦邮?恩智浦的eIQ（“邊緣智能”）ML開發(fā)環(huán)境。eIQ 提供 全面的工作流工具集、推理引擎、神經(jīng)網(wǎng)絡 （NN） 編譯器、優(yōu)化的庫和技術，可簡化和加速 ML 面向所有技能水平的用戶進行開發(fā)，從嵌入式開發(fā)人員開始 在他們的第一個深度學習項目中，向?qū)Ｗ⒂诟呒墝ο蟮膶＜医榻B 檢測、分類、異常檢測或語音識別解決方案。

eIQ ML 軟件于 2018 年推出，現(xiàn)已發(fā)展到支持系統(tǒng)級 面向恩智浦 i.MX 系列的應用和ML算法支持，來自 低功耗 i.MX RT交叉微控制器（MCU）到多核 i.MX 8和 i.MX 基于 Arm Cortex-M 和 Cortex-A 內(nèi)核的 8M 應用處理器。

幫助ML開發(fā)人員提高工作效率，更熟練地掌握恩智浦 i.MX 8個處理平臺，我們顯著擴展了eIQ軟件 環(huán)境，包括新的 eIQ 工具包工作流工具、基于 GUI 的 eIQ 門戶 開發(fā)環(huán)境和 DeepViewRT?推理引擎 針對 i.MX 和 i.MX RT 設備進行了優(yōu)化。

圖1.eIQ 工具包和 eIQ 門戶功能的高級演示 和工作流程。

讓我們仔細看看這些強大的 eIQ 新增功能如何 軟件環(huán)境可以幫助簡化 ML 開發(fā)，提高生產(chǎn)力， 并為開發(fā)人員提供更多選擇和更大的靈活性。

eIQ 工具包：為每個人啟用“ML”

考慮到機器學習、神經(jīng)網(wǎng)絡和深度的潛在復雜性 學習應用程序 - 以及 ML 開發(fā)人員的不同需求 - 一個簡單的 “一刀切”工具不是答案。更好的方法是提供 全面而靈活的工具包，可擴展以滿足技能和需求 ML 開發(fā)人員的經(jīng)驗水平。為此，我們添加了強大的 易于使用的 eIQ 工具包適用于 eIQ ML 開發(fā)環(huán)境，支持 開發(fā)人員導入數(shù)據(jù)集和模型以及訓練、修剪、量化、驗證 并在恩智浦 i.MX 8M系列中部署神經(jīng)網(wǎng)絡模型和ML工作負載 的應用處理器和 i.MX RT 分頻 MCU 產(chǎn)品組合。是否 是開始您的第一個 ML 項目的嵌入式開發(fā)人員，精通 數(shù)據(jù)科學家或 AI 專家，您將找到合適的工具包功能 匹配您的技能水平并簡化您的 ML 項目。

圖2.eIQ 門戶提供了一個數(shù)據(jù)集策展人來幫助您注釋和 組織所有訓練數(shù)據(jù)。

eIQ 工具包提供簡單的工作流程和 ML 應用程序 例子。該工具包還提供了一個直觀的、基于 GUI 的開發(fā)選項 使用 eIQ 門戶和使用命令行主機工具的選項，如果 你更喜歡。如果您想利用現(xiàn)成的開發(fā)解決方案或 需要恩智浦或我們值得信賴的專業(yè)服務和支持 合作伙伴，該工具包可讓您輕松訪問我們不斷增長的選項列表 來自Au-Zone Technologies等公司的eIQ Marketplace。

圖3.eIQ 門戶提供了一種方便的模型驗證方法和 測量精度。

使用 eIQ 門戶，您可以輕松創(chuàng)建、優(yōu)化、調(diào)試、轉換和 導出ML模型，以及從TensorFlow，ONNX導入數(shù)據(jù)集和模型 和 PyTorch ML 框架。您可以使用您的數(shù)據(jù)訓練模型 “自帶數(shù)據(jù)”（BYOD） 流程，從預訓練數(shù)據(jù)庫中進行選擇 模型或使用“自帶模型”（BYOM） 導入預訓練模型 流，例如Au-Zone技術的高級檢測模型。通過遵循簡單的 BYOM 過程，您可以使用 基于公共或私有云的工具，然后將模型傳輸?shù)絜IQ 在適當?shù)墓鑳?yōu)化推理引擎上運行的工具包。

圖4.eIQ 門戶為 BYOM 和 BYOD 提供了一種靈活的方法。

目標圖形級分析功能為開發(fā)人員提供運行時 微調(diào)和優(yōu)化系統(tǒng)參數(shù)、運行時性能、 用于在 i.MX 設備上執(zhí)行的內(nèi)存使用情況和神經(jīng)網(wǎng)絡架構。

加速恩智浦最新的eIQ推理引擎

機器學習開發(fā)項目的核心是推理引擎 – ML 應用程序的運行時組件。除了支持 使用各種基于社區(qū)的開源推理引擎進行推理 針對 Glow、ONNX 和 TensorFlow Lite 等 i.MX 設備和 MCU 進行了優(yōu)化，我們 已將 DeepViewRT 推理引擎添加到我們的 eIQ ML 軟件開發(fā)中 環(huán)境。

DeepViewRT與我們的合作伙伴Au-Zone Technologies合作開發(fā)，是一種專有的推理引擎，可提供穩(wěn)定，更長的時間 術語供應商維護的解決方案，補充了基于社區(qū)的開放解決方案 推理引擎。

圖5.DeepViewRT 為 ML 應用程序提供了穩(wěn)定、生產(chǎn)就緒且靈活的推理引擎。

DeepViewRT推理引擎可作為恩智浦MCUXpresso的中間件提供。 適用于Linux的SDK和Yocto BSP發(fā)布?基于操作系統(tǒng)的開發(fā)。

審核編輯：郭婷