日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

實(shí)測(cè)NPU“空轉(zhuǎn)”,AI PC首個(gè)落地應(yīng)用只調(diào)用GPU?

Hobby觀察 ? 來(lái)源:電子發(fā)燒友 ? 作者:梁浩斌 ? 2024-05-22 00:16 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/梁浩斌)去年開(kāi)始,整個(gè)PC產(chǎn)業(yè)鏈,自上而下地都在為AI PC造勢(shì)。從處理器端的英特爾、AMD、高通等開(kāi)始,到下游終端廠商,宣傳上清一色的AI PC概念。

從概念上看,硬件上AI PC的一大特征是在傳統(tǒng)PC的CPU+GPU基礎(chǔ)上,增加NPU加強(qiáng)AI 算力。不過(guò)有意思的是,最近某品牌PC機(jī)型上的AI助手率先落地,支持云端和本地運(yùn)算兩種模式,確實(shí)能夠完成宣傳上的很多功能。然而在實(shí)測(cè)本地大模型時(shí),卻沒(méi)有調(diào)用NPU算力,完全是使用GPU進(jìn)行運(yùn)算。

所以實(shí)際上,NPU目前為止依然是“空轉(zhuǎn)”的狀態(tài),過(guò)去的“傳統(tǒng)”P(pán)C,理論上似乎也能夠使用“AI PC”上的最新功能。那么AI PC中NPU還是一個(gè)必要存在嗎?

AI PC發(fā)展的三個(gè)階段

確實(shí),GPU在AI大模型上有很強(qiáng)的適配性,一直以來(lái),很多開(kāi)源大模型都能夠在家用電腦上部署,利用GPU的算力進(jìn)行推理。在AI PC的大模型剛剛落地時(shí),使用GPU算力是最為穩(wěn)妥以及最快的方式。

此前聯(lián)想集團(tuán)副總裁張華在發(fā)布會(huì)上提到,成熟的AI PC需要包括五大條件。其中包括標(biāo)配CPU+GPU+NPU的本地混合AI算力;內(nèi)嵌由本地大模型和個(gè)性化本地知識(shí)庫(kù)構(gòu)成的個(gè)人大模型;配備本地化個(gè)人數(shù)據(jù)和隱私保護(hù)方案;開(kāi)放的AI 應(yīng)用生態(tài);內(nèi)嵌個(gè)人Agent(模擬人類(lèi)行為或指揮的AI程序),多模態(tài)自然語(yǔ)言成為主要的交互方式。

他還認(rèn)為AI PC會(huì)有三個(gè)發(fā)展階段,第一階段是從2023年12月到2024年4月,這個(gè)階段被稱(chēng)為“AI Ready”階段,這個(gè)階段特點(diǎn)是硬件平臺(tái)的支持CPU+GPU+NPU的混合AI算力,滿(mǎn)足終端廠商和第三方應(yīng)用開(kāi)發(fā)者進(jìn)行終端AI體驗(yàn)創(chuàng)新。說(shuō)白了,就是硬件要滿(mǎn)足AI需求,軟件先畫(huà)餅。

第二階段是2024年4月到2024年9月的AI Explore階段。在這個(gè)階段中,AI Ready的硬件,能夠用上個(gè)人Agent、個(gè)人大模型嵌入AIPC、首批第三方AI應(yīng)用接入AI小程序平臺(tái)等,并能夠運(yùn)用CPU+GPU+NPU的混合AI算力,提供基于自然語(yǔ)言交互的個(gè)人AI助理服務(wù)。

第三階段是24年9月之后的AI Master/AI Advanced階段。在這個(gè)階段,首先硬件的混合AI算力持續(xù)提升,同時(shí)個(gè)人大模型的能力進(jìn)一步提升,AI應(yīng)用生態(tài)大為豐富、商業(yè)模式進(jìn)一步多樣化,個(gè)人Agent的場(chǎng)景服務(wù)范圍進(jìn)一步擴(kuò)大、服務(wù)體驗(yàn)進(jìn)一步升級(jí),個(gè)人AI助理進(jìn)入隨用戶(hù)使用和體驗(yàn)反饋而快速進(jìn)階之路。

所以,AI PC新增的NPU,只是混合算力中的一部分。從算力來(lái)看,NPU可以算得上是“戰(zhàn)未來(lái)”的硬件,而實(shí)際AI能夠帶來(lái)哪些顛覆性的體驗(yàn),才是AI PC的關(guān)鍵。

AI PC有哪些應(yīng)用了?

目前的AI大模型,普遍是采用云端推理,這很大程度上是由于大模型數(shù)據(jù)體量巨大,無(wú)法部署在本地。而AI PC的概念中,本地大模型就是與目前常見(jiàn)的云端大模型有很大差異的地方。

從個(gè)人隱私的角度來(lái)看,本地大模型由于數(shù)據(jù)不上云,所以數(shù)據(jù)安全性更高,對(duì)于一些有保密需求的工作來(lái)說(shuō)可以說(shuō)是提高工作效率的剛需。

比如用戶(hù)可以通過(guò)本地大模型,讀取本地文檔,并使用自然語(yǔ)言交互來(lái)快速找到文檔中所需的信息。還可以通過(guò)自然語(yǔ)言交互,來(lái)完成修改電腦設(shè)置等操作,降低Windows操作系統(tǒng)使用門(mén)檻,畢竟很多選項(xiàng)都藏得比較深。

另外,還可以通過(guò)上傳足夠多的文檔,構(gòu)建一個(gè)自己的數(shù)據(jù)庫(kù),需要搜索資料或數(shù)據(jù)時(shí),就可以通過(guò)本地的AI助手快速搜索到目標(biāo)。

最近微軟的發(fā)布會(huì)上,又推出了一個(gè)“Copilot+ PC”概念,核心是AI算力+AI Agent( Copilot )。

在微軟的展示中,任何東西都能夠往Copilot上拖動(dòng),并讓其分析、總結(jié)。當(dāng)然,AI圖片編輯、生成等功能已經(jīng)是AI大模型的標(biāo)配了,而微軟為windows加入的AI賦能功能中,還有可以稱(chēng)之為“殺手锏”的。

比如AI能夠?qū)崟r(shí)讀取屏幕顯示的所有信息,比如在玩游戲時(shí),可以直接詢(xún)問(wèn)AI來(lái)獲得攻略,AI甚至能理解游戲中的參數(shù)、物品等,從而給出相應(yīng)的策略。

Recall則是令電腦擁有了類(lèi)似于“時(shí)光機(jī)”的能力,AI能力的幫助下,Copilot+ PC可以訪問(wèn)電腦上任何看過(guò)或者運(yùn)行過(guò)的操作,甚至可以憑借記憶,描述在某個(gè)網(wǎng)站上見(jiàn)過(guò)圖片,AI就能夠幫助找出相應(yīng)的頁(yè)面截圖。而這是基于本地算力以及存儲(chǔ)所實(shí)現(xiàn)的,能夠保障用戶(hù)隱私。

小結(jié):

AI PC的概念雖然值得考究,但AI的應(yīng)用要落地在PC上,硬件和軟件都無(wú)法單獨(dú)拿出來(lái)討論,AI應(yīng)用與硬件的結(jié)合隨著需求提高只會(huì)越來(lái)越緊密。這樣的情況下,NPU的存在形式,發(fā)展方向,以及應(yīng)用的適配,未來(lái)將會(huì)有更多的可能性。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5283

    瀏覽量

    136095
  • NPU
    NPU
    +關(guān)注

    關(guān)注

    2

    文章

    387

    瀏覽量

    21367
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    410

    瀏覽量

    1045
  • AI PC
    +關(guān)注

    關(guān)注

    0

    文章

    142

    瀏覽量

    746
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    南芯科技助力AI PC CPU/GPU提高效能

    的數(shù)字執(zhí)行者。在這場(chǎng)由端側(cè) AI Agent 驅(qū)動(dòng)的交互變革中,AI PC 被普遍視為最先落地的核心場(chǎng)景之一。當(dāng) AI
    的頭像 發(fā)表于 04-22 16:54 ?2122次閱讀

    邊緣AI算力臨界點(diǎn):深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價(jià)值

    Orin 200-275 TOPS 32-64GB LPDDR5 強(qiáng)(PCIE, 萬(wàn)兆網(wǎng)) 高階機(jī)器人、工業(yè)AI Intel Core Ultra (AI PC) ~120 TOPS (NP
    發(fā)表于 03-10 14:19

    使用NORDIC AI的好處

    ,時(shí)延更低,系統(tǒng)在網(wǎng)絡(luò)不穩(wěn)定甚至離線(xiàn)時(shí)也能繼續(xù)工作。[Edge AI 概述] 提升隱私與可靠性 原始傳感器數(shù)據(jù)(如運(yùn)動(dòng)、生理信號(hào)等)可以留在本地,上傳推理結(jié)果,有利于隱私與數(shù)據(jù)安全。 本地決策
    發(fā)表于 01-31 23:16

    GPU 利用率<30%?這款開(kāi)源智算云平臺(tái)讓算力不浪費(fèi) 1%

    作為 AI 開(kāi)發(fā)者,你是否早已受夠這些困境:花數(shù)百萬(wàn)采購(gòu)的 GPU 集群,利用率常年低于 30%,算力閑置如同燒錢(qián);跨 CPU/GPU/NPU 異構(gòu)資源調(diào)度難如登天,模型訓(xùn)練卡在資源分
    的頭像 發(fā)表于 01-26 14:20 ?293次閱讀

    AI PC芯片三強(qiáng)爭(zhēng)霸:NPU算力狂飆、1.8nm工藝時(shí)代降臨

    電子發(fā)燒友網(wǎng)報(bào)道(文/莫婷婷)在生成式人工智能(AIGC)浪潮席卷全球的背景下,個(gè)人計(jì)算設(shè)備正經(jīng)歷一場(chǎng)深刻變革,“AI PC”應(yīng)運(yùn)而生。這一趨勢(shì)在中國(guó)大陸消費(fèi)與商用市場(chǎng)加速落地。據(jù)Omdia預(yù)測(cè)
    的頭像 發(fā)表于 01-12 09:17 ?2478次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>芯片三強(qiáng)爭(zhēng)霸:<b class='flag-5'>NPU</b>算力狂飆、1.8nm工藝時(shí)代降臨

    別再用舊款了!RV1126B NPU實(shí)測(cè)2.6倍提速,YOLO算法絲滑運(yùn)行

    AI視覺(jué)芯片的核心競(jìng)爭(zhēng)力,NPU性能尤為關(guān)鍵。瑞芯微RV1126B作為RV1126迭代款,性能提升有多少?繼上集CPU性能實(shí)測(cè),今天為您帶來(lái)NPU性能
    的頭像 發(fā)表于 12-22 12:11 ?1261次閱讀
    別再用舊款了!RV1126B <b class='flag-5'>NPU</b><b class='flag-5'>實(shí)測(cè)</b>2.6倍提速,YOLO算法絲滑運(yùn)行

    瑞芯微SOC智能視覺(jué)AI處理器

    。B2版本通常在功耗、穩(wěn)定性和部分外圍接口支持上有所優(yōu)化。NPU: 集成0.8 TOPS的NPU,支持INT8/INT16混合運(yùn)算,能滿(mǎn)足大多數(shù)邊緣側(cè)的輕量級(jí)AI推理需求(如分類(lèi)、檢測(cè)、識(shí)別)。多媒體
    發(fā)表于 12-19 13:44

    AI硬件全景解析:CPU、GPUNPU、TPU的差異化之路,一文看懂!?

    CPU作為“通用基石”,支撐所有設(shè)備的基礎(chǔ)運(yùn)行;GPU憑借并行算力,成為AI訓(xùn)練與圖形處理的“主力”;TPU在Google生態(tài)中深耕云端大模型訓(xùn)練;NPU則讓AI從“云端”走向“身邊”
    的頭像 發(fā)表于 12-17 17:13 ?2356次閱讀
    <b class='flag-5'>AI</b>硬件全景解析:CPU、<b class='flag-5'>GPU</b>、<b class='flag-5'>NPU</b>、TPU的差異化之路,一文看懂!?

    安謀科技:端側(cè)NPU技術(shù)創(chuàng)新,拉動(dòng)AI算力落地引擎

    X3 NPU IP以及生態(tài)建設(shè)、NPU發(fā)展趨勢(shì)等話(huà)題。 ? 圖:安謀科技產(chǎn)品總監(jiān)鮑敏祺 ? 周易X3 NPU IP正當(dāng)時(shí) ? 安謀科技周易X3 NPU IP面向端側(cè)
    的頭像 發(fā)表于 12-09 16:44 ?6144次閱讀
    安謀科技:端側(cè)<b class='flag-5'>NPU</b>技術(shù)創(chuàng)新,拉動(dòng)<b class='flag-5'>AI</b>算力<b class='flag-5'>落地</b>引擎

    悟空?qǐng)D像與華為CANN正式落地PCAI閃繪功能

    近日,基于華為CANN(Compute Architecture for Neural Networks)端云協(xié)同架構(gòu)打造的華為PCAI閃繪功能正式落地,標(biāo)志著端側(cè)AI大模型應(yīng)用邁入
    的頭像 發(fā)表于 11-10 14:43 ?1048次閱讀

    巡檢機(jī)器人落地攻略:RK3576驅(qū)動(dòng)12路低延遲視覺(jué)

    穩(wěn)定在120~150ms。周五,聯(lián)調(diào) AI:靠 6TOPS NPU 做行人/闖入/火花異亮檢測(cè),異常幀打標(biāo)簽并切片保存;遠(yuǎn)端中控屏秒開(kāi)回看。12路1080P@30fps H.264/H.265 硬編硬
    發(fā)表于 10-24 16:53

    AI體驗(yàn)躍遷,天璣9500用雙NPU開(kāi)創(chuàng)端側(cè)AI新時(shí)代

    架構(gòu),從底層解決性能與功耗的矛盾:超性能 NPU 990 性能大幅提升,生成式 AI 引擎 2.0 深度加速 Transformer 與大模型;行業(yè)首個(gè)超能效 NPU以存算一體實(shí)現(xiàn)
    的頭像 發(fā)表于 09-24 14:47 ?906次閱讀
    <b class='flag-5'>AI</b>體驗(yàn)躍遷,天璣9500用雙<b class='flag-5'>NPU</b>開(kāi)創(chuàng)端側(cè)<b class='flag-5'>AI</b>新時(shí)代

    AI的未來(lái),屬于那些既能寫(xiě)代碼,又能焊電路的“雙棲人才”

    ”,再聰明的模型也只能停留在實(shí)驗(yàn)室。典型的場(chǎng)景有:場(chǎng)景需要的“雙棲能力”將YOLOv8部署到邊緣盒子算法裁剪 + NPU指令調(diào)優(yōu) + 電源與內(nèi)存優(yōu)化AI PC系統(tǒng)集成AI協(xié)處理器驅(qū)動(dòng)
    發(fā)表于 07-30 16:15

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】+NVlink技術(shù)從應(yīng)用到原理

    前言 【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」書(shū)中的芯片知識(shí)是比較接近當(dāng)前的頂尖芯片水平的,同時(shí)包含了芯片架構(gòu)的基礎(chǔ)知識(shí),但該部分知識(shí)比較晦澀難懂,或許是由于我一直從事的事芯片
    發(fā)表于 06-18 19:31

    iTOP-3588S開(kāi)發(fā)板四核心架構(gòu)GPU內(nèi)置GPU可以完全兼容0penGLES1.1、2.0和3.2。

    ,8GB內(nèi)存,32GBEMMC。 四核心架構(gòu)GPU內(nèi)置GPU可以完全兼容0penGLES1.1、2.0和3.2。 內(nèi)置NPU RK3588S內(nèi)置NPU,支持INT4/INT8/INT1
    發(fā)表于 05-15 10:36
    甘孜县| 化隆| 揭东县| 肇州县| 宁波市| 通道| 昌黎县| 托里县| 小金县| 苍山县| 兴安盟| 新竹市| 夹江县| 泰宁县| 枞阳县| 广河县| 华宁县| 安平县| 祁东县| 临邑县| 子长县| 寿阳县| 靖州| 翁源县| 大姚县| 达尔| 张家川| 白山市| 金坛市| 禹州市| 收藏| 英山县| 临海市| 大英县| 庄浪县| 康定县| 恩施市| 治多县| 万源市| 丰镇市| 都江堰市|