日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

閃存破局“內(nèi)存焦慮”,AI微調(diào)訓(xùn)練增加閃存消耗

晶芯觀察 ? 來(lái)源:電子發(fā)燒友 ? 作者:黃晶晶 ? 2025-03-26 09:28 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)面對(duì)蓬勃發(fā)展的AI,在MemoryS 2025上,群聯(lián)電子執(zhí)行長(zhǎng)潘健成表示,面對(duì)AI服務(wù)器成本太高、數(shù)據(jù)上云端不安全等挑戰(zhàn),在地端的AI微調(diào)訓(xùn)練對(duì)于解決問題而言是必須的。若一味增加GPU和內(nèi)存數(shù)量,無(wú)疑將導(dǎo)致本地AI訓(xùn)練的成本奇高,無(wú)法獲得普及效應(yīng)。

wKgZO2fiDHGASBv9AAJO4VKl5Gc569.jpg
圖:群聯(lián)電子執(zhí)行長(zhǎng)潘健成


群聯(lián)電子推出了獨(dú)家發(fā)明且也是全球第一家將NAND應(yīng)用于AI服務(wù)器中的滿血版AI訓(xùn)推一體機(jī)平價(jià)方案aiDAPTIV+。通過(guò)aiDAPTIV+,企業(yè)可以在本地邊緣環(huán)境中執(zhí)行AI模型后微調(diào)訓(xùn)練,確保數(shù)據(jù)安全的同時(shí)顯著降低AI訓(xùn)練成本。

群聯(lián)電子aiDAPTIV+ 技術(shù)通過(guò)動(dòng)態(tài)緩存,結(jié)合基于NAND 閃存“aiDAPTIVCache”緩存技術(shù),擴(kuò)展 HBM 和 GDDR 內(nèi)存,顯著提升性能。據(jù)悉,在 GTC 2025 大會(huì)上,群聯(lián)攜手 Maingear 公司推出了搭載 aiDAPTIV+ 技術(shù)的全球首款支援 LLMOps (Large Language Model Operations; 大型語(yǔ)言模型運(yùn)作) 的消費(fèi)級(jí)筆電,用戶將可使用自身企業(yè)或個(gè)人資料來(lái)微調(diào)(Post-training/Fine-tuning) 最多 80億 (8B) 參數(shù)的大型語(yǔ)言模型 (LLM),讓預(yù)訓(xùn)練 (Pre-trained) 的AI模型能依據(jù)邊緣應(yīng)用場(chǎng)景與使用者需求進(jìn)行客制化 (Post-training),以達(dá)到真正的AI落地普及化;此外,通過(guò) aiDAPTIVLink 3.0 新版中間件 (Middleware),負(fù)責(zé) SSD 的 NAND 和 GPU 之間的數(shù)據(jù)傳輸,提供更快的首個(gè) Token 時(shí)間(TTFT)回調(diào)響應(yīng),并支持更大的 LLM(大型語(yǔ)言模型)提示上下文。

“我們的地端AI模型微調(diào)方案aiDAPTIV+,與NVIDIA創(chuàng)辦人黃仁勛于CES演講中提及的地端推論 (Inference) 機(jī)器設(shè)備策略相呼應(yīng),將為AI應(yīng)用的地端模型微調(diào)訓(xùn)練以及推論帶來(lái)更廣泛的應(yīng)用場(chǎng)景及SSD有很大幫助?!迸私〕烧f(shuō)道,本地AI微調(diào)訓(xùn)練將進(jìn)一步增加英偉達(dá)GPU的銷量,也將為閃存產(chǎn)業(yè)鏈打開新的市場(chǎng)空間,尤其是企業(yè)級(jí)SSD需求將從云端下沉到邊緣端市場(chǎng)。

群聯(lián)電子2024年業(yè)績(jī)表現(xiàn)亮眼,總營(yíng)收金額達(dá)新臺(tái)幣589.36億元,較2023年增長(zhǎng)達(dá)22%,創(chuàng)下歷史第三高紀(jì)錄。潘健成表示,2024年雖然面臨全球消費(fèi)市場(chǎng)疲軟的挑戰(zhàn),但群聯(lián)憑借堅(jiān)強(qiáng)的技術(shù)實(shí)力與多樣的產(chǎn)品布局,依舊在業(yè)界交出亮眼成績(jī)。我們的存儲(chǔ)解決方案在各大應(yīng)用領(lǐng)域持續(xù)受到市場(chǎng)肯定,展現(xiàn)出群聯(lián)的靈活應(yīng)對(duì)能力與市場(chǎng)競(jìng)爭(zhēng)力。

潘健成在演講中指出,2024年群聯(lián)電子研發(fā)支出近30億元人民幣,巨額研發(fā)支出帶來(lái)了巨大壓力,同樣的,盈利難也導(dǎo)致NAND原廠資本支出開始放緩。

在他看來(lái),若談NAND產(chǎn)業(yè)未來(lái)路在何方,如何協(xié)助NAND原廠創(chuàng)造價(jià)值是重要課題之一。渠道市場(chǎng)存儲(chǔ)產(chǎn)品需求快速下滑,“要能夠生存就要長(zhǎng)進(jìn)”,系統(tǒng)整合廠要做NAND存儲(chǔ)差異化、要?jiǎng)?chuàng)造價(jià)值。如在PC應(yīng)用上,群聯(lián)開發(fā)了PQC防偽方案,安裝于PC的存儲(chǔ),可辨識(shí)AI合成圖片、視頻、文件,強(qiáng)化PC資料防護(hù),價(jià)值是原來(lái)SSD的3倍。

他進(jìn)一步認(rèn)為,電子產(chǎn)業(yè)經(jīng)歷三大周期,從90年代的PC、到2000年左右的智能手機(jī),再到現(xiàn)在的AI走入端側(cè),回看過(guò)去每一次的產(chǎn)業(yè)大爆發(fā)都帶動(dòng)半導(dǎo)體產(chǎn)業(yè)鏈10多年的成長(zhǎng)動(dòng)能。而這一次AI的到來(lái)也將產(chǎn)生新的長(zhǎng)周期的半導(dǎo)體繁榮。毋庸置疑,端側(cè)AI將帶給存儲(chǔ)巨大的機(jī)會(huì)。




聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 閃存
    +關(guān)注

    關(guān)注

    16

    文章

    1918

    瀏覽量

    117480
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    41326

    瀏覽量

    302722
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    如何檢查 MCXA CPU 中的內(nèi)存閃存扇區(qū)?

    flash memory. I have developed a procedure based on [i]romapi_flashiap示例,但在 SDK 示例中,我找不到任何過(guò)程來(lái)驗(yàn)證閃存
    發(fā)表于 04-30 06:53

    如何使用 SPI NOR 閃存啟動(dòng)電路板?

    嘗試從 SPI NOR 閃存啟動(dòng)自定義 T2080 板 我能夠使用 CW IDE 中的閃存編程器將自定義 RCW bin 文件加載到串行 NOR 閃存中,但在使用 SPI 啟動(dòng)模式打開電路板電源后
    發(fā)表于 04-21 09:07

    AI大模型微調(diào)企業(yè)項(xiàng)目實(shí)戰(zhàn)課

    業(yè)、守規(guī)矩、可完全掌控的專屬 AI 底座,已經(jīng)成為頭部企業(yè)的隱性共識(shí)。 二、 核心微調(diào)——用極低成本撬動(dòng)專業(yè)能力 很多企業(yè)對(duì)“自主訓(xùn)練
    發(fā)表于 04-16 18:48

    如何為 S32DS 中的特定變量(RAM、閃存、數(shù)據(jù)閃存)強(qiáng)制使用特定內(nèi)存區(qū)域?

    remain 不受固件重新編程的影響或部分重新定位——功能類似于 EEPROM。 My Questions 如何配置S32DS 中的項(xiàng)目設(shè)置為變量(RAM、閃存或數(shù)據(jù)閃存)保留和分配特定內(nèi)存地址? 我該
    發(fā)表于 04-16 06:52

    S32DS 3.5 內(nèi)存映射視圖在閃存擦除/寫入后不更新問題怎么解決

    我將 S32 Design Studio 3.5 與 RDT 環(huán)境和 GHS 工具鏈一起使用,但我遇到了內(nèi)存映射視圖的問題。 當(dāng)我在從 RAM 運(yùn)行時(shí)執(zhí)行閃存擦除和寫入作時(shí),實(shí)際內(nèi)存內(nèi)容會(huì)正確更新
    發(fā)表于 04-15 08:26

    深入剖析RX64M/RX71M組閃存內(nèi)存:特性、配置與操作指南

    深入剖析RX64M/RX71M組閃存內(nèi)存:特性、配置與操作指南 在電子工程領(lǐng)域,微控制器(MCU)的閃存內(nèi)存是關(guān)鍵組件之一,它直接影響著設(shè)備的存儲(chǔ)能力、數(shù)據(jù)安全性和操作效率。本文將詳細(xì)
    的頭像 發(fā)表于 03-31 17:15 ?390次閱讀

    Renesas RX64M/RX71M 系列閃存內(nèi)存硬件接口深度解析

    Renesas RX64M/RX71M 系列閃存內(nèi)存硬件接口深度解析 引言 在嵌入式系統(tǒng)設(shè)計(jì)中,閃存內(nèi)存的高效使用和管理至關(guān)重要。Renesas 的 RX64M 和 RX71M 系列微
    的頭像 發(fā)表于 03-02 16:50 ?419次閱讀

    深入解析RX64M/RX71M組閃存內(nèi)存:特性、操作與安全保障

    深入解析RX64M/RX71M組閃存內(nèi)存:特性、操作與安全保障 引言 在嵌入式系統(tǒng)設(shè)計(jì)中,閃存內(nèi)存是關(guān)鍵的存儲(chǔ)組件,其性能和可靠性直接影響著整個(gè)系統(tǒng)的運(yùn)行。Renesas的RX64M和
    的頭像 發(fā)表于 02-10 10:50 ?567次閱讀

    閃存新標(biāo)桿

    增加。芯天下技術(shù)股份有限公司憑借領(lǐng)先的存儲(chǔ)技術(shù)和豐富的應(yīng)用經(jīng)驗(yàn),傾力推出了 XT25F64F 3.3V Quad I/O 串行閃存產(chǎn)品。本文將詳細(xì)介紹該產(chǎn)品的核心技術(shù)、優(yōu)勢(shì)特點(diǎn)、應(yīng)用場(chǎng)景以及未來(lái)的發(fā)展趨勢(shì),幫助工程師和決策者全面了解這一高性能存儲(chǔ)器件。 一、產(chǎn)品概述與背景
    的頭像 發(fā)表于 10-15 10:40 ?717次閱讀

    請(qǐng)問在單個(gè)DAVE?項(xiàng)目中是否支持16kb閃存大小的 MCU 和 32kb 閃存大小的 MCU?

    我有一個(gè)應(yīng)用程序,有時(shí)為 14KB,有時(shí)為 18KB,這取決于我們是否啟用或禁用某些功能。18KB 應(yīng)用程序應(yīng)加載到 XMC1302t028x0032(32KB 閃存 MCU),14KB 應(yīng)用程序
    發(fā)表于 07-30 08:02

    紫光閃芯亮相2025全球閃存峰會(huì)

    近日,由DOIT傳媒主辦的“存力覺醒 AI未來(lái)——2025全球閃存峰會(huì)”在南京盛大召開。此次峰會(huì)匯聚了全球存儲(chǔ)領(lǐng)域精英,深入探討在人工智能浪潮中,閃存技術(shù)如何賦能數(shù)字化轉(zhuǎn)型,推動(dòng)產(chǎn)業(yè)發(fā)展邁向新高度。
    的頭像 發(fā)表于 07-15 13:55 ?1997次閱讀

    紫光國(guó)芯亮相2025全球閃存峰會(huì)

    近日,由DOIT傳媒主辦的2025全球閃存峰會(huì)(FMW 2025) 在南京盛大開幕。本屆峰會(huì)以“存力覺醒 AI未來(lái)”為主題,聚焦以閃存內(nèi)存芯片為核心的存儲(chǔ)器產(chǎn)業(yè)生態(tài)創(chuàng)新與變革。作為國(guó)
    的頭像 發(fā)表于 07-11 16:12 ?1779次閱讀

    什么是Flash閃存以及STM32使用NAND Flash

    NAND 文章目錄 NAND 一、FLASH閃存是什么? 二、SD NAND Flash 三、STM32例程 一、FLASH閃存是什么? 簡(jiǎn)介 FLASH閃存是屬于內(nèi)存器件的一種,“F
    發(fā)表于 07-03 14:33

    15%成本撬動(dòng)100%體驗(yàn)!國(guó)產(chǎn)閃存如何改寫AI玩具競(jìng)爭(zhēng)規(guī)則

    AI玩具還被應(yīng)用于早教、學(xué)習(xí)等領(lǐng)域,例如AI智能早教機(jī)等產(chǎn)品,這些應(yīng)用場(chǎng)景需要存儲(chǔ)大量的教育資源和數(shù)據(jù),進(jìn)一步增加了對(duì)閃存的需求。 ? 并且不同類型的
    的頭像 發(fā)表于 06-25 00:22 ?7451次閱讀
    明光市| 广南县| 宣汉县| 玛多县| 海门市| 鹿邑县| 砀山县| 靖远县| 正蓝旗| 施甸县| 连云港市| 垦利县| 永济市| 南江县| 隆化县| 瑞丽市| 吉林市| 盐源县| 陇西县| 布尔津县| 化隆| 德钦县| 神木县| 平塘县| 洛隆县| 道孚县| 修水县| 高平市| 改则县| 唐河县| 康平县| 新民市| 河津市| 财经| 深水埗区| 永昌县| 江永县| 涡阳县| 弥渡县| 崇义县| 许昌市|