日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

從訓(xùn)練到推理,AI 大模型發(fā)展有哪五大趨勢(shì)?IDC專(zhuān)家最新解讀

章鷹觀察 ? 來(lái)源:電子發(fā)燒友原創(chuàng) ? 作者:章鷹 ? 2024-04-17 16:07 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

2024年兩會(huì)召開(kāi)后,兩會(huì)報(bào)告把加快發(fā)展新質(zhì)生產(chǎn)力列為十大任務(wù)舉措之首。新質(zhì)生產(chǎn)力的核心是用新技術(shù)促進(jìn)產(chǎn)業(yè)高端化、智能化和綠色化。ICT產(chǎn)業(yè)是發(fā)展新質(zhì)生產(chǎn)力的核心支撐要求,ICT產(chǎn)業(yè)正在進(jìn)入AI無(wú)處不在的大轉(zhuǎn)型階段。

縱觀全球,2024年中國(guó)GDP增長(zhǎng)預(yù)期5%,全球平均增長(zhǎng)率達(dá)到2.6%,美國(guó)預(yù)期增長(zhǎng)2%,印度最為樂(lè)觀預(yù)期今年的GDP增長(zhǎng)達(dá)到6.2%。從科教興國(guó)的戰(zhàn)略看,新質(zhì)生產(chǎn)力主要涉及的是數(shù)字中國(guó)的底層基礎(chǔ)技術(shù),AI 無(wú)處不在,從2022年,ChateGPT3.5發(fā)布以來(lái),全球掀起了生成式AI 的熱潮。到了2024年,大家都在考慮生成式AI到底給企業(yè)帶來(lái)了哪些價(jià)值。

IDC最新的調(diào)研顯示,28%的受訪者標(biāo)識(shí)在過(guò)去投資了生成是AI不到一年時(shí)間就看到了投資回報(bào),每投資1美元,平均可以獲得3.5倍的投資回報(bào),投資回報(bào)率最高的用例是自動(dòng)化IT任務(wù),達(dá)到46.5%,也有高達(dá)27.1%受訪者選擇產(chǎn)品與服務(wù)創(chuàng)新。AI大模型在使用當(dāng)中,實(shí)際應(yīng)用開(kāi)發(fā)過(guò)程中,開(kāi)源大模型和商業(yè)化模型同時(shí)并存,開(kāi)發(fā)者更加傾向于使用開(kāi)源模型。而且IDC調(diào)研顯示,數(shù)據(jù)倉(cāng)庫(kù)作為生成是AI 的數(shù)據(jù)平臺(tái)發(fā)揮著主導(dǎo)作用。

生成式AI支出在全球和中國(guó)有什么差異?2024年AI大模型將呈現(xiàn)哪些新的發(fā)展趨勢(shì)?全球AI基礎(chǔ)設(shè)施市場(chǎng)規(guī)模預(yù)測(cè)?4月16日,在IDC的ICT產(chǎn)業(yè)趨勢(shì)峰會(huì)上,來(lái)自IDC中國(guó)區(qū)副總裁兼首席分析師武連和IDC中國(guó)區(qū)副總裁鐘振山做了詳細(xì)的解讀。

生成式AI在全球和中國(guó)高速增長(zhǎng)

IDC中國(guó)區(qū)副總裁兼首席分析師武連峰表示,IDC預(yù)測(cè),2024年全球生成式AI支出將會(huì)達(dá)到387.9億美元,占整體AI比例為16.7%,未來(lái)到2027年,生成式AI的全球支持將達(dá)到1454.2億美元,年復(fù)合增長(zhǎng)率會(huì)達(dá)到55.3%。2024年,中國(guó)生成式AI支出將達(dá)到35.3億美元,占整體AI比例達(dá)到16%,未來(lái)到2027年中國(guó)生成式AI支出預(yù)測(cè)將達(dá)到129.3億美元。



武連峰指出,整體ICT市場(chǎng)從以增量市場(chǎng)為主轉(zhuǎn)向以存量市場(chǎng)為主,存量市場(chǎng)是小幅度增長(zhǎng)的特征,其中企業(yè)移動(dòng)軟件、IoT連接、可穿戴設(shè)備、移動(dòng)數(shù)據(jù)服務(wù)增長(zhǎng)率在10%以下,增量市場(chǎng)主要包括AI平臺(tái)、機(jī)器人相關(guān)的OT服務(wù)、AI相關(guān)的商業(yè)服務(wù)等,增長(zhǎng)率達(dá)到18%到40%之間。

AI大模型未來(lái)發(fā)展五大趨勢(shì)


IDC中國(guó)區(qū)副總裁鐘振山表示,2024年AI大模型發(fā)展呈現(xiàn)五大趨勢(shì)。一、中國(guó)基礎(chǔ)大模型數(shù)量趨于收斂,2024年將卷向產(chǎn)業(yè)。去年發(fā)布的國(guó)內(nèi)大通用大模型發(fā)布達(dá)到百款,今年我們調(diào)研發(fā)現(xiàn)更多面向行業(yè)或者場(chǎng)景的大模型出現(xiàn),關(guān)注大模型在行業(yè)或者企業(yè)應(yīng)用場(chǎng)景的落地,比如網(wǎng)易有道的子曰、好未來(lái)的MathGPT、孩子王的KidsGPT面向教育行業(yè),螞蟻集團(tuán)推出貞儀、百靈面向金融,還有中科聞歌的雅意大模型面向媒體行業(yè),京東的言犀ChatJD模型面向商業(yè)應(yīng)用場(chǎng)景,加速AI大模型在行業(yè)場(chǎng)景的落地。

AI大模型趨勢(shì)二、開(kāi)源和閉源共存,共同促進(jìn)大模型應(yīng)用生態(tài)走向繁榮。鐘振山表示,更多企業(yè)選擇開(kāi)源的AI大模型來(lái)構(gòu)建自身的應(yīng)用,現(xiàn)有的開(kāi)源模型參數(shù)大多數(shù)是十億到千億之間,基于MoE架構(gòu)的稀疏大模型參數(shù)可以達(dá)到萬(wàn)億參數(shù),微調(diào)和多種計(jì)算資源并行技術(shù)變得十分重要。他強(qiáng)調(diào),AI 進(jìn)入一個(gè)變革期,大家關(guān)注三個(gè)方向:第一、如何快速部署和開(kāi)發(fā)模型;第二、大模型的壓縮量化蒸餾;第三、如何搭建一套有效的開(kāi)源生態(tài),以及不同CPU、GPU和XPU的分配。

AI大模型趨勢(shì)三、大模型向端側(cè)轉(zhuǎn)移,AI推理引起廣泛關(guān)注。蘋(píng)果計(jì)劃推出更智能的Siri, 為端側(cè)大模型生態(tài)做積極準(zhǔn)備,國(guó)內(nèi)手機(jī)廠商華為、小米、Vivo、OPPO和榮耀都推出了手機(jī)端大模型,華為手機(jī)適配盤(pán)古大模型,小米推出MiLM大模型,Vivo適配藍(lán)心大模型,OPPO和榮耀分別推出了安第斯大模型和魔方大模型。AI推理將在手機(jī)、PC、耳機(jī)、音箱、XR、汽車(chē),以及其他可穿戴新型終端上運(yùn)行。

鐘振山分析說(shuō),端側(cè)大模型帶來(lái)三大優(yōu)勢(shì):1、本地?cái)?shù)據(jù)處理效率更高,節(jié)省云端服務(wù)器帶寬和算力成本;2、對(duì)用戶數(shù)據(jù)可以形成更好的隱私保護(hù);3、端側(cè)大模型可以帶來(lái)更多交互方式和新體驗(yàn)。

AI大模型趨勢(shì)四、多模態(tài)發(fā)展可能會(huì)促進(jìn)市場(chǎng)出現(xiàn)殺手級(jí)應(yīng)用?,F(xiàn)在生成式AI 主要在文本、視頻、圖像、音頻領(lǐng)域應(yīng)用。GPT是基于自然語(yǔ)言技術(shù),對(duì)話聊天機(jī)器人已經(jīng)普遍出現(xiàn),現(xiàn)場(chǎng)他也介紹一家公司通過(guò)訓(xùn)練AI垂類(lèi)模型,初步實(shí)現(xiàn)文字生成劇本+漫畫(huà)+動(dòng)態(tài)視頻。

AI大模型趨勢(shì)五、新一代AI基礎(chǔ)設(shè)施可能成為下一個(gè)戰(zhàn)場(chǎng)。新架構(gòu)主要指靈活調(diào)配CPU和GPU資源,邊緣計(jì)算將云服務(wù)擴(kuò)展到遠(yuǎn)程,私有云解決數(shù)據(jù)和運(yùn)營(yíng)的合規(guī)性問(wèn)題,高性能主要針對(duì)高性能計(jì)算和人工智能優(yōu)化的計(jì)算和存儲(chǔ)服務(wù),多云集成促進(jìn)管理和安全的工具,深化合作伙伴關(guān)系,主要與行業(yè)用戶、基礎(chǔ)設(shè)施提供商和ISV搭建橋梁。

鐘振山指出,AI主要用于訓(xùn)練和推理,從訓(xùn)練看,還是云上和本地部署為主的投資方式,推理市場(chǎng)主要是云上算力為主,但是本地、邊緣層面都有大量推理算力的需求。推理市場(chǎng)需要一種面向AI工作負(fù)載的混合架構(gòu)模式。

未來(lái)隨著生成式AI和大模型在企業(yè)內(nèi)部落地之后,在推理方面的需求會(huì)大于訓(xùn)練的需求。面向AI的基礎(chǔ)架構(gòu),包括高性能處理器、下一代存儲(chǔ)、超融合系統(tǒng)、高性能AI網(wǎng)絡(luò),甚至精密計(jì)算、數(shù)據(jù)中心技術(shù),未來(lái)的量子計(jì)算都可能成為AI基礎(chǔ)架構(gòu)市場(chǎng)的基石。IDC預(yù)測(cè),到2027年,用于邊緣推理的AI服務(wù)器價(jià)值將超過(guò)用于本地推理的服務(wù)器價(jià)值。

本文由電子發(fā)燒友原創(chuàng),轉(zhuǎn)載請(qǐng)注明以上來(lái)源。微信號(hào)zy1052625525。需入群交流,請(qǐng)?zhí)砑游⑿舉lecfans999,投稿爆料采訪需求,請(qǐng)發(fā)郵箱zhangying@huaqiu.com。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • IDC
    IDC
    +關(guān)注

    關(guān)注

    4

    文章

    425

    瀏覽量

    38484
  • 文心一言
    +關(guān)注

    關(guān)注

    0

    文章

    134

    瀏覽量

    2226
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3797

    瀏覽量

    5280
  • 生成式AI
    +關(guān)注

    關(guān)注

    0

    文章

    538

    瀏覽量

    1135
  • 新質(zhì)生產(chǎn)力

    關(guān)注

    0

    文章

    100

    瀏覽量

    536
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI Ceph 分布式存儲(chǔ)教程資料大模型學(xué)習(xí)資料2026

    瓶頸:傳統(tǒng)存儲(chǔ)向 AI 專(zhuān)用架構(gòu)演進(jìn) 在大模型訓(xùn)練場(chǎng)景下,計(jì)算節(jié)點(diǎn)(GPU)的運(yùn)算速度極快,往往在毫秒級(jí)就能完成一輪數(shù)據(jù)的處理。如果后端存儲(chǔ)無(wú)法跟上這一速度,GPU 就會(huì)處于空轉(zhuǎn)等
    發(fā)表于 05-01 17:35

    HM博學(xué)谷狂野AI模型第四期

    ,雖然能快速構(gòu)建原型,卻難以觸及智能的邊界。面對(duì)模型的幻覺(jué)、推理能力的瓶頸以及定制化需求的落空,單純的應(yīng)用層知識(shí)顯得蒼白無(wú)力。博學(xué)谷“狂野 AI模型第四期”正是為了打破這一層技術(shù)天
    發(fā)表于 05-01 17:30

    [完結(jié)15章]Java轉(zhuǎn) AI高薪領(lǐng)域必備-0到1打通生產(chǎn)級(jí)AI Agent開(kāi)發(fā)

    編寫(xiě)的推理引擎(如TensorRT、ONNX Runtime)進(jìn)行無(wú)縫對(duì)接。將訓(xùn)練好的模型封裝為標(biāo)準(zhǔn)的Java微服務(wù),利用JVM的內(nèi)存管理與線程池技術(shù),去承載企業(yè)級(jí)高吞吐的AI
    發(fā)表于 04-30 13:46

    AI模型訓(xùn)練與部署實(shí)戰(zhàn) | 線下免費(fèi)培訓(xùn)

    流程與部署實(shí)戰(zhàn)”免費(fèi)培訓(xùn)!以人形檢測(cè)模型部署與優(yōu)化實(shí)戰(zhàn)為基礎(chǔ),聚焦嵌入式AI落地的核心環(huán)節(jié),提供硬件,動(dòng)手實(shí)操,帶你在半天時(shí)間內(nèi),走通模型訓(xùn)練到
    的頭像 發(fā)表于 04-07 13:08 ?696次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>模型</b><b class='flag-5'>訓(xùn)練</b>與部署實(shí)戰(zhàn) | 線下免費(fèi)培訓(xùn)

    Transformer 入門(mén):零理解 AI模型的核心原理

    ,模型更容易學(xué)習(xí) 直觀理解 css 體驗(yàn)AI代碼助手 代碼解讀 復(fù)制代碼 ?? 溫度計(jì)類(lèi)比: 原始點(diǎn)積就像測(cè)量火山溫度,數(shù)值太極端 縮放后就像測(cè)量室溫,數(shù)值更合理 ? 考試分?jǐn)?shù)類(lèi)比: 原始:[0
    發(fā)表于 02-10 16:33

    如何訓(xùn)練自己的AI模型——RT-Thread×富瀚微FH8626V300L模型訓(xùn)練部署教程 | 技術(shù)集結(jié)

    面對(duì)消費(fèi)電子中紛繁的智能檢測(cè)需求,如何讓算法持續(xù)進(jìn)化?富瀚微最新發(fā)布的FH86X6V300芯片AI訓(xùn)練教程,以FH8626V300L為硬件核心,手把手帶您走通模型
    的頭像 發(fā)表于 02-09 11:51 ?661次閱讀
    如何<b class='flag-5'>訓(xùn)練</b>自己的<b class='flag-5'>AI</b><b class='flag-5'>模型</b>——RT-Thread×富瀚微FH8626V300L<b class='flag-5'>模型</b><b class='flag-5'>訓(xùn)練</b>部署教程 | 技術(shù)集結(jié)

    訓(xùn)練到推理:大模型算力需求的新拐點(diǎn)已至

    在大模型產(chǎn)業(yè)發(fā)展的早期階段,行業(yè)焦點(diǎn)主要集中在大模型訓(xùn)練所需的算力投入。一個(gè)萬(wàn)億參數(shù)大模型訓(xùn)練
    的頭像 發(fā)表于 02-05 16:07 ?1057次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>訓(xùn)練到</b><b class='flag-5'>推理</b>:大<b class='flag-5'>模型</b>算力需求的新拐點(diǎn)已至

    AI推理芯片需求爆發(fā),OpenAI欲尋求新合作伙伴

    電子發(fā)燒友網(wǎng)綜合報(bào)道,在人工智能迅猛發(fā)展的當(dāng)下,AI推理芯片需求正呈爆發(fā)式增長(zhǎng)。 ? AI推理,即支撐如ChatGPT這類(lèi)
    的頭像 發(fā)表于 02-03 17:15 ?3306次閱讀

    AI算力正在以肉眼可見(jiàn)的速度不斷攀升

    模型訓(xùn)練到推理部署,單卡性能比拼到整機(jī)柜、整集群的系統(tǒng)能力競(jìng)爭(zhēng),AI 基礎(chǔ)設(shè)施的演進(jìn),早已
    的頭像 發(fā)表于 12-24 14:21 ?682次閱讀

    一文淺談2026年五大趨勢(shì)

    ? -?????? IBM 商業(yè)價(jià)值研究院發(fā)布商業(yè)領(lǐng)袖需要關(guān)注的五大趨勢(shì) 北京, Dec. 15, 2025 /PRNewswire/ -- 近日,IBM商業(yè)價(jià)值研究院發(fā)布 《2026年五大趨勢(shì)
    的頭像 發(fā)表于 12-15 17:09 ?1000次閱讀
    一文淺談2026年<b class='flag-5'>五大趨勢(shì)</b>

    什么是AI模型推理能力

    NVIDIA 的數(shù)據(jù)工廠團(tuán)隊(duì)為 NVIDIA Cosmos Reason 等 AI 模型奠定了基礎(chǔ),該模型近日在 Hugging Face 的物理推理模型排行榜中位列榜首。
    的頭像 發(fā)表于 09-23 15:19 ?1517次閱讀

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片到AGI芯片

    、分布式群體智能 1)物聯(lián)網(wǎng)AGI系統(tǒng) 優(yōu)勢(shì): 組成部分: 2)分布式AI訓(xùn)練 7、發(fā)展重點(diǎn):基于強(qiáng)化學(xué)習(xí)的后訓(xùn)練推理 8、超越大
    發(fā)表于 09-18 15:31

    摩爾線程“AI工廠”:五大核心技術(shù)支撐,打造大模型訓(xùn)練超級(jí)工廠

    演講中表示,為應(yīng)對(duì)生成式AI爆發(fā)式增長(zhǎng)下的大模型訓(xùn)練效率瓶頸,摩爾線程將通過(guò)系統(tǒng)級(jí)工程創(chuàng)新,構(gòu)建新一代AI訓(xùn)練基礎(chǔ)設(shè)施,致力于為AGI時(shí)代打
    的頭像 發(fā)表于 07-28 11:28 ?4870次閱讀
    摩爾線程“<b class='flag-5'>AI</b>工廠”:<b class='flag-5'>五大</b>核心技術(shù)支撐,打造大<b class='flag-5'>模型</b><b class='flag-5'>訓(xùn)練</b>超級(jí)工廠

    【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】書(shū)籍介紹+第一章讀后心得

    剖析 DeepSeek-V3 的模型架構(gòu)、訓(xùn)練框架、推理階段優(yōu)化、后訓(xùn)練優(yōu)化等關(guān)鍵技術(shù)。混合專(zhuān)家
    發(fā)表于 07-17 11:59

    信而泰×DeepSeek:AI推理引擎驅(qū)動(dòng)網(wǎng)絡(luò)智能診斷邁向 “自愈”時(shí)代

    網(wǎng)絡(luò)智能診斷平臺(tái)。通過(guò)對(duì)私有化網(wǎng)絡(luò)數(shù)據(jù)的定向訓(xùn)練,信而泰打造了高性能、高可靠性的網(wǎng)絡(luò)診斷模型,顯著提升了AI輔助診斷的精準(zhǔn)度與實(shí)用性。該方案實(shí)現(xiàn)了網(wǎng)絡(luò)全流量深度解析能力與AI智能
    發(fā)表于 07-16 15:29
    本溪| 奎屯市| 凌云县| 留坝县| 红安县| 峨眉山市| 吉木萨尔县| 时尚| 兴城市| 慈溪市| 无锡市| 武邑县| 芷江| 化德县| 即墨市| 宝坻区| 巴塘县| 丰宁| 青铜峡市| 永福县| 南郑县| 葵青区| 乌苏市| 清涧县| 同心县| 织金县| 柳州市| 濮阳县| 富锦市| 江门市| 政和县| 怀化市| 封丘县| 海宁市| 临洮县| 湖北省| 海兴县| 常州市| 建始县| 临汾市| 淄博市|