借助Cloud Ai和Edge AI，該架構(gòu)可以按其使用目的發(fā)揮作用。設(shè)計(jì)新的智能服務(wù)的人員必須知道如何充分利用兩種技術(shù)，既可以改善服務(wù)的固有性能，又可以確保創(chuàng)新的軟件解決方案具有越來(lái)越好的用戶體驗(yàn)。

當(dāng)我們談?wù)?a href="http://m.sdkjxy.cn/v/tag/150/" target="_blank">人工智能時(shí)，本質(zhì)上是在談?wù)撘环N方法，如果以有意識(shí)的方式將其應(yīng)用于公司數(shù)據(jù)（數(shù)字，圖像，聲音，文本），則可以肯定地加快流程，使其自動(dòng)化，直接影響收入，成本和風(fēng)險(xiǎn)。商業(yè)。此外，人工智能和機(jī)器學(xué)習(xí)的認(rèn)知工具日益民主化甚至最小的公司也可以踏上這一激動(dòng)人心的旅程。今天，我們比以往任何時(shí)候都可以依靠可以整合傳統(tǒng)業(yè)務(wù)平臺(tái)并使其朝著更高績(jī)效水平發(fā)展的具體硬件和軟件工具，引入預(yù)測(cè)技術(shù)統(tǒng)計(jì)數(shù)據(jù)是除常規(guī)描述性統(tǒng)計(jì)數(shù)據(jù)之外的日常工具，預(yù)測(cè)并不意味著猜測(cè)。這意味著相對(duì)于對(duì)事件的觀察，應(yīng)使用合理且數(shù)學(xué)上使事件發(fā)生或基準(zhǔn)發(fā)生概率估計(jì)之間的誤差最小化的方法。如果誤差很小，那么這意味著您將能夠以很高的精度預(yù)測(cè)下一個(gè)，因?yàn)槲业脑O(shè)備將給我，或者圖像或聲音所屬的類別，或我很可能在本文中寫的字眼。這是AI的“魔力”。除了執(zhí)行這些操作外，計(jì)算機(jī)還需要進(jìn)行大量復(fù)雜的計(jì)算，因此需要大量的硬件資源，尤其是如果這些計(jì)算是在我們的筆記本電腦或臺(tái)式機(jī)上進(jìn)行的。實(shí)際上，當(dāng)我們談?wù)撊斯ぶ悄軙r(shí)，實(shí)際上是在談?wù)摼仃囉?jì)算，即數(shù)學(xué)運(yùn)算，加法，乘法，數(shù)值矩陣的轉(zhuǎn)置。普通的CPU，盡管是最新一代的，但其計(jì)算能力始終受其固有的計(jì)算能力以及CPU必須同時(shí)管理多個(gè)進(jìn)程（必須使整個(gè)機(jī)器正常工作）的限制。它不能太飽和。在標(biāo)準(zhǔn)架構(gòu)中也無(wú)法并行處理許多CPU。顯然，這成為一個(gè)限制。然后是云計(jì)算技術(shù)。

GPU的重要性

為了完成這項(xiàng)重要任務(wù)，提供了GPU（即圖形處理單元）：它們是處理器（如NVIDIA制造的處理器），旨在管理視頻游戲中的典型復(fù)雜處理（最終，它們始終是用于確定游戲機(jī)位置的矩陣計(jì)算）。 3D空間中多邊形的點(diǎn)和面）。通過(guò)擴(kuò)展，如果GPU可以進(jìn)行3D計(jì)算，則它可以輕松地用于涉及連續(xù)處理數(shù)字?jǐn)?shù)據(jù)的任何其他任務(wù)。

此外，還應(yīng)當(dāng)指出的是，作為陳述Nvidia首席執(zhí)行官黃仁勛（Jensen Huang）認(rèn)為，圖形處理器的計(jì)算能力增長(zhǎng)比摩爾定律規(guī)定的增長(zhǎng)幅度更大。實(shí)際上，這項(xiàng)法律以1965年宣布英特爾聯(lián)合創(chuàng)始人戈登·摩爾（Gordon Moore）的名字命名，它指出CPU芯片的計(jì)算能力每?jī)赡攴环?。另一方面，黃仁勛強(qiáng)調(diào)了當(dāng)今摩爾定律如何被每年僅幾個(gè)百分點(diǎn)的CPU功率增長(zhǎng)所否定，而GPU的增長(zhǎng)卻遠(yuǎn)不止于此。實(shí)際上，在五年的時(shí)間里，GPU的能力增長(zhǎng)了25倍以上，而按照摩爾定律，CPU的增長(zhǎng)應(yīng)該只有10倍。

此外，可以并行化多個(gè)CPU，從而確保為我們的AI或3D工程保證正確的計(jì)算能力。

該序言是必要的，以了解擁有足夠的硬件設(shè)備不僅涉及巨額投資，而且還需要占用機(jī)器24/7來(lái)收回投資成本。并非所有公司都有能力和技能來(lái)?yè)碛袑Ｓ糜谶@些目的的服務(wù)器場(chǎng)。

此外，必須說(shuō)AI在兩個(gè)不同的時(shí)刻占據(jù)了機(jī)器：訓(xùn)練（即我們教機(jī)器執(zhí)行特定任務(wù)的那一刻）和推理的時(shí)刻，即當(dāng)機(jī)器使用預(yù)測(cè)模型以預(yù)測(cè)未來(lái)數(shù)據(jù)。實(shí)際上，第一階段的培訓(xùn)會(huì)大量消耗機(jī)器的資源，進(jìn)行有時(shí)甚至長(zhǎng)達(dá)數(shù)天的計(jì)算，然后返回一個(gè)統(tǒng)計(jì)模型，該模型代表對(duì)我們要處理的機(jī)器的任務(wù)的數(shù)學(xué)解釋。隨后，此模型用于所謂的推理，即用于執(zhí)行與訓(xùn)練相同但針對(duì)算法從未見(jiàn)過(guò)的數(shù)據(jù)的新任務(wù)的實(shí)際預(yù)測(cè)活動(dòng)。例如，

該預(yù)測(cè)階段對(duì)于機(jī)器而言不那么繁重，但是在任何情況下它都將更頻繁地執(zhí)行，因此就時(shí)間而言將占用大量機(jī)器。

云計(jì)算

正是由于以下原因，云才為公司提供了幫助：減輕了對(duì)機(jī)器的多年投資的一部分，通過(guò)將所有處理負(fù)載轉(zhuǎn)移到遠(yuǎn)程機(jī)器來(lái)優(yōu)化硬件結(jié)構(gòu)的TCO總擁有成本。這些機(jī)器可以根據(jù)需要進(jìn)行適當(dāng)激活或停用，因此需要付費(fèi)使用，而不是為設(shè)備付費(fèi)。然后，公司產(chǎn)生的使用成本也包括一系列服務(wù)，其中包括一些必不可少的服務(wù)，例如網(wǎng)絡(luò)安全，災(zāi)難恢復(fù)，符合GDPR等。其他可選模型，例如按需機(jī)器學(xué)習(xí)模型已經(jīng)可用并準(zhǔn)備用于一般用途。

對(duì)于供應(yīng)商和客戶而言，云計(jì)算絕對(duì)是一個(gè)巨大的機(jī)會(huì)。以亞馬遜為例，其收入的50％以上來(lái)自AWS平臺(tái)。通過(guò)諸如AWS或Microsoft的Azure或Google Cloud之類的服務(wù)，公司可以將其軟件產(chǎn)品轉(zhuǎn)換為真正的平臺(tái)即服務(wù)（PaaS /平臺(tái)即服務(wù)），公司為此需要支付經(jīng)常性費(fèi)用。這樣做的好處是，即使在初步設(shè)計(jì)階段并沒(méi)有立即意識(shí)到這些需求，也可以遠(yuǎn)程執(zhí)行甚至復(fù)雜的功能，也可以根據(jù)您的需求擴(kuò)展機(jī)器的配置。通過(guò)單擊的簡(jiǎn)單性，添加了視頻卡，增加了Ram，并在新計(jì)算機(jī)上安裝了節(jié)點(diǎn)。如果您需要支持更大的請(qǐng)求負(fù)載，則可以大大減少服務(wù)設(shè)置或升級(jí)時(shí)間。

此外，一些提供商在其云服務(wù)中還提供特殊卡TPU（張量處理單元），這是專門設(shè)計(jì)用于處理數(shù)據(jù)多維矩陣（張量事實(shí)）的處理器，這些數(shù)據(jù)多維矩陣是AI的更復(fù)雜算法的典型特征。這樣一來(lái)，您就可以在云中執(zhí)行非常復(fù)雜的計(jì)算，而所需時(shí)間僅為本地計(jì)算機(jī)可以執(zhí)行的時(shí)間的一小部分。

代替看云的局限性，必須說(shuō)，管理往返于遠(yuǎn)程服務(wù)器的數(shù)據(jù)需要大量使用網(wǎng)絡(luò)帶寬，以及與API（應(yīng)用程序接口）微服務(wù)的連續(xù)客戶端/服務(wù)器通信。這是因?yàn)橥评砘顒?dòng)實(shí)際上已轉(zhuǎn)換為遠(yuǎn)程設(shè)備。

因此，根據(jù)我們將要?jiǎng)?chuàng)建的服務(wù)類型，服務(wù)器將或多或少地加載操作。例如，對(duì)象（例如面部）的連續(xù)識(shí)別將需要結(jié)構(gòu)化的后端，以便支持對(duì)將在流傳輸中發(fā)送的幀進(jìn)行分段的需求。

Edge AI的作用

為了優(yōu)化其中一些活動(dòng)，存在Edge AI，即可以在用戶附近使用設(shè)備以在現(xiàn)場(chǎng)執(zhí)行相同的推理操作而無(wú)需將信息傳輸?shù)骄W(wǎng)絡(luò)的可能性。

簡(jiǎn)而言之，Edge Ai意味著為電子設(shè)備配備具有AI的自身智能，并可能還為其提供與網(wǎng)絡(luò)以及設(shè)備之間的連接性。Edge AI有什么好處？

優(yōu)點(diǎn)很多，僅考慮此體系結(jié)構(gòu)方法可以在延遲方面為服務(wù)的有效性帶來(lái)巨大的效用。例如。在物聯(lián)網(wǎng)設(shè)備（相機(jī)/傳感器等）上，可以使用AI專用芯片（例如Movidius或OpenVino等）增強(qiáng)的面部識(shí)別或異常預(yù)測(cè)更加有效。

這也降低了隱私風(fēng)險(xiǎn)。如果數(shù)據(jù)在網(wǎng)絡(luò)上傳輸，可能會(huì)被攔截或破壞。但是，通過(guò)在本地處理預(yù)測(cè)，數(shù)據(jù)將保留在設(shè)備中，無(wú)需傳輸?shù)狡渌胤健?/p>

那么，與在云中為來(lái)自多個(gè)設(shè)備的數(shù)據(jù)管理多個(gè)推理處理線程相比，在單個(gè)設(shè)備上進(jìn)行單個(gè)推理無(wú)疑是一項(xiàng)成本較低的任務(wù)。

最后，很明顯，占用帶寬的數(shù)據(jù)較少，可以使用普通的連接基礎(chǔ)結(jié)構(gòu)來(lái)構(gòu)建智能服務(wù)，而不會(huì)為特定的連接產(chǎn)生額外的費(fèi)用。

首先，由于這些智能設(shè)備允許對(duì)AI模型進(jìn)行幾乎實(shí)時(shí)的處理，因此打開了一個(gè)巨大潛力的場(chǎng)景。

借助這項(xiàng)技術(shù)，可以想象沒(méi)有排隊(duì)的自由流動(dòng)結(jié)賬服務(wù)，因?yàn)橄鄼C(jī)可以識(shí)別出托盤中的食物?；虬踩O(shè)備的自動(dòng)檢測(cè)服務(wù)（例如COVID面罩），入侵的檢測(cè)以及能耗的監(jiān)視和預(yù)測(cè)或機(jī)械的自動(dòng)預(yù)測(cè)管理等。

在特定的用例中，將人工智能的力量傳遞到最后一英里可以使它成為力量的乘數(shù)，從而導(dǎo)致計(jì)算工作的細(xì)分，并提高了設(shè)計(jì)服務(wù)的有效性和效率。

結(jié)論

我們的結(jié)論是，盡管沒(méi)有明確的選擇，但對(duì)于Cloud Ai和Edge AI，架構(gòu)已可以用于其用途，而設(shè)計(jì)新的智能服務(wù)的人將必須能夠充分利用這兩種技術(shù)不僅可以改善服務(wù)的固有性能，還可以確保創(chuàng)新的軟件解決方案具有更好的用戶體驗(yàn)。
責(zé)任編輯:tzh