一種新的數(shù)據(jù)處理方法

人工智能和物聯(lián)網(wǎng)的融合將數(shù)據(jù)重心從云轉(zhuǎn)移到了網(wǎng)絡(luò)邊緣。在零售店、工廠、履行中心和其他分布式位置，數(shù)千個傳感器正在收集數(shù) PB 的數(shù)據(jù)，為創(chuàng)新人工智能用例的洞察提供動力。因為最有價值的見解是在邊緣產(chǎn)生的，所以組織很快采用了新技術(shù)和流程，以更好地利用這一新的重心。

采用的主要技術(shù)之一是 邊緣計算 ，即將應(yīng)用程序的計算能力帶到傳感器收集信息的同一物理位置的過程。當這種計算方法用于在邊緣為人工智能應(yīng)用程序供電時，它被稱為 edge AI 。

為了確保這些獲取有價值見解的邊緣位置不存在于孤立的筒倉中，各組織正越來越多地將其邊緣計算解決方案集成到其現(xiàn)有工作流中，以開發(fā)、測試和優(yōu)化應(yīng)用程序。通過從開發(fā)過程到部署過程的無縫路徑，團隊能夠同時對應(yīng)用程序在生產(chǎn)環(huán)境中的運行方式有很強的可見性，同時還可以利用應(yīng)用程序在邊緣位置收集的數(shù)據(jù)和見解。

隨著人工智能模型根據(jù)在邊緣位置收集的新數(shù)據(jù)快速、不斷地重新訓(xùn)練和迭代，這個過程只會變得更加重要。

機器學(xué)習操作和邊緣人工智能

機器學(xué)習操作 （ MLOps ）是一個過程系統(tǒng) 簡化了機器學(xué)習模型的開發(fā)、部署、監(jiān)控和日常管理。它允許組織快速擴展應(yīng)用程序的開發(fā)過程，并支持數(shù)據(jù)科學(xué)和 It 團隊之間的快速迭代。 MLOps 平臺將這一理念組織成一套工具，可在組織中跨職能使用，以加快創(chuàng)新速度。

集成 MLOps 平臺和邊緣計算解決方案可以為數(shù)據(jù)科學(xué)家和 IT 團隊在生產(chǎn)環(huán)境中協(xié)作開發(fā)和部署應(yīng)用程序提供無縫、快速的工作流。有了完整的工作流程，團隊可以顯著提高創(chuàng)新率，因為他們可以根據(jù)在邊緣站點收集的見解和信息不斷迭代、測試、部署和保留。對于努力利用新數(shù)據(jù)范式的組織來說，創(chuàng)新至關(guān)重要。

集成 Domino Data Lab 和 NVIDIA Fleet Command

Domino Data Lab Enterprise MLOps 平臺和 NVIDIA Fleet Command 現(xiàn)在已集成 為數(shù)據(jù)科學(xué)家和 IT 團隊提供了從模型開發(fā)到部署的一致、簡化的流程。

Domino Data Lab 提供了一個企業(yè) MLOps 平臺，支持模型驅(qū)動的業(yè)務(wù)，以加快數(shù)據(jù)科學(xué)工作的開發(fā)和部署，同時增強協(xié)作和治理。它允許數(shù)據(jù)科學(xué)家在將人工智能模型部署到生產(chǎn)中之前進行實驗、研究、測試和驗證。

NVIDIA Fleet Command 是一個用于容器編排的托管平臺，可在邊緣優(yōu)化系統(tǒng)和人工智能應(yīng)用程序的供應(yīng)和部署。它利用云的規(guī)模和彈性簡化了分布式計算環(huán)境的管理，將每個站點變成了一個安全、智能的位置。

從開發(fā)到部署

與 NVIDIA Fleet Command 的集成為 Domino Data Lab 用戶提供了一個將他們正在研究的模型部署到邊緣位置的簡單途徑。該集成彌合了開發(fā)應(yīng)用程序的數(shù)據(jù)科學(xué)家團隊和部署應(yīng)用程序的 IT 團隊之間的差距，允許兩個團隊訪問整個應(yīng)用程序生命周期。

Thomas Robinson 說：“與 NVIDIA Fleet Command 的集成是難題中的最后一塊，讓數(shù)據(jù)科學(xué)家能夠訪問開發(fā)和部署人工智能應(yīng)用程序的完整工作流?！保?Domino Data Lab 戰(zhàn)略合作伙伴關(guān)系和公司開發(fā)副總裁?！叭媪私馍a(chǎn)部署對于團隊利用在邊緣生成的數(shù)據(jù)和見解，最終更快地生成更好的應(yīng)用程序至關(guān)重要?！?/p>

數(shù)據(jù)科學(xué)家可以使用 Domino 數(shù)據(jù) MLOps 平臺快速迭代他們正在研究的模型。通過相同的界面，用戶可以將其新模型加載到 Fleet Command 上，使其可以部署到任何連接的位置。部署后，管理員可以遠程訪問應(yīng)用程序以進行監(jiān)視和故障排除，提供關(guān)鍵反饋，可用于模型的下一次迭代。

一位數(shù)據(jù)科學(xué)家正在為飲料制造廠開發(fā)質(zhì)量檢查應(yīng)用程序，這就是在生產(chǎn)環(huán)境中使用這種集成的一個例子。該應(yīng)用程序用于視覺捕捉罐頭上的凹痕和缺陷，以防止它們接觸到消費者。面臨的挑戰(zhàn)是，隨著新設(shè)計的測試、季節(jié)性產(chǎn)品的發(fā)布以及基于事件的包裝推向市場，罐頭上的包裝會頻繁變化。應(yīng)用程序需要能夠快速、頻繁地學(xué)習新設(shè)計，同時保持精確的成功水平。這需要高創(chuàng)新率，以跟上包裝的頻繁變化。為了實現(xiàn)這一點，數(shù)據(jù)科學(xué)家使用 Domino data Lab Enterprise MLOps 平臺和 NVIDIA Fleet Command 創(chuàng)建從開發(fā)和迭代到部署和監(jiān)控的快速無縫流程。通過這樣做，他們可以輕松部署新模型，并隨著產(chǎn)品的變化對服務(wù)的中斷有限，從而提高創(chuàng)新速度。此外，模型監(jiān)控確保數(shù)據(jù)科學(xué)家能夠發(fā)現(xiàn)其模型的質(zhì)量或預(yù)測能力方面的任何問題。

關(guān)于作者

Troy Estes 是 NVIDIA Edge 和企業(yè)計算解決方案的產(chǎn)品營銷經(jīng)理。在加入 Edge & Enterprise 業(yè)務(wù)部門之前，特洛伊曾在自主汽車業(yè)務(wù)部門和 NVIDIA 電網(wǎng)產(chǎn)品集團從事營銷活動和支持產(chǎn)品 GTM 。

審核編輯：郭婷