動態(tài)

• 發(fā)布了文章 2025-07-28 09:36

  利用自壓縮實(shí)現(xiàn)大型語言模型高效縮減

  

  隨著語言模型規(guī)模日益龐大，設(shè)備端推理變得越來越緩慢且耗能巨大。一個(gè)直接且效果出人意料的解決方案是剪除那些對任務(wù)貢獻(xiàn)甚微的完整通道（channel）。我們早期的研究提出了一種訓(xùn)練階段的方法——自壓縮（Self-Compression）[1,4]，它通過反向傳播自動決定每個(gè)通道的比特寬度，從而逐步“淡化”那些無用的通道。這種方法可同時(shí)減少模型參數(shù)、數(shù)值精度，甚至

  LLM 語言模型

  688瀏覽量

• 發(fā)布了文章 2025-07-24 12:03

  終于有人把端側(cè)大模型說清楚了

  

  最近總聽到"端側(cè)大模型"這個(gè)詞，感覺很高大上，但到底是什么意思？和我們平時(shí)用的ChatGPT、DeepSeek各種大模型有什么區(qū)別？今天就來徹底搞清楚這件事。1、為什么叫"端側(cè)"大模型？在聊具體內(nèi)容之前，先解釋一下這個(gè)名字的由來。在計(jì)算機(jī)和通信領(lǐng)域，我們通常把整個(gè)系統(tǒng)分為幾個(gè)層次：云端（Cloud）：遠(yuǎn)程的數(shù)據(jù)中心和服務(wù)器邊緣（Edge）：靠近用戶的邊緣服務(wù)

  AI 大模型 語言模型

  2.7k瀏覽量

• 發(fā)布了文章 2025-07-23 12:18

  一文看懂AI算力集群

  

  最近這幾年，AI浪潮席卷全球，成為整個(gè)社會的關(guān)注焦點(diǎn)。大家在討論AI的時(shí)候，經(jīng)常會提到AI算力集群。AI的三要素，是算力、算法和數(shù)據(jù)。而AI算力集群，就是目前最主要的算力來源。它就像一個(gè)超級發(fā)電廠，可以給AI浪潮提供源源不斷的動力。那么，AI算力集群，到底是由哪些東西組成的呢？它為什么能夠提供澎湃的算力？它的內(nèi)部結(jié)構(gòu)又是怎樣的呢？包括了哪些關(guān)鍵技術(shù)？接下來，

  AI算力 高速網(wǎng)絡(luò)

  2k瀏覽量

• 發(fā)布了文章 2025-07-21 09:53

  萬字全文科普：什么是IP？

  

  半導(dǎo)體行業(yè)在一個(gè)復(fù)雜且快速發(fā)展的生態(tài)系統(tǒng)中運(yùn)作，并由持續(xù)創(chuàng)新驅(qū)動。該生態(tài)系統(tǒng)的核心是半導(dǎo)體價(jià)值鏈，它包含幾個(gè)關(guān)鍵階段：芯片設(shè)計(jì)、晶圓制造、最終組裝和原材料采購。每個(gè)階段對于半導(dǎo)體器件的生產(chǎn)和功能都至關(guān)重要。IP提供商在這一框架中發(fā)揮著關(guān)鍵作用，尤其是在芯片設(shè)計(jì)階段，該階段是整個(gè)價(jià)值鏈的基礎(chǔ)。他們提供專業(yè)的尖端技術(shù)，以增強(qiáng)創(chuàng)新、促進(jìn)無縫集成、確保合規(guī)性并加快產(chǎn)

  IP 半導(dǎo)體 晶圓制造

  1.4k瀏覽量

• 發(fā)布了文章 2025-07-18 16:47

  Imagination亮相2025RISC-V中國峰會，GPU 與 RISC-V 協(xié)同賦能汽車智能化

  

  本周，第五屆RISC-V中國峰會在上海張江科學(xué)會堂如期舉辦，眾多RISV-V生態(tài)企業(yè)齊聚一堂，共探RISC-V技術(shù)的創(chuàng)新與應(yīng)用。在7月18日的論壇上，ImaginationGPU高級首席解決方案架構(gòu)師章政分享了當(dāng)前RISC-V在圖形處理方面面臨的挑戰(zhàn)，并介紹了Imagination在構(gòu)建開源GPU軟件棧上的新進(jìn)展；同時(shí)，Imagination市場拓展資深經(jīng)理

  gpu imagination RISC-V

  1.4k瀏覽量

• 發(fā)布了文章 2025-07-17 11:04

  數(shù)據(jù)驅(qū)動自動駕駛：核心要素與發(fā)展全景解析

  

  在汽車工業(yè)向智能化、網(wǎng)聯(lián)化轉(zhuǎn)型的浪潮中，自動駕駛技術(shù)作為人工智能與交通領(lǐng)域深度融合的標(biāo)志性成果，正重塑全球交通運(yùn)輸格局。數(shù)據(jù)作為數(shù)字經(jīng)濟(jì)時(shí)代的核心生產(chǎn)要素，已成為自動駕駛系統(tǒng)從理論研發(fā)到商業(yè)化落地的核心支撐，其價(jià)值貫穿感知、決策、控制等全鏈路技術(shù)環(huán)節(jié)。本文將從技術(shù)應(yīng)用、政策導(dǎo)向、發(fā)展趨勢等維度，系統(tǒng)剖析數(shù)據(jù)在自動駕駛領(lǐng)域的關(guān)鍵作用與演進(jìn)方向。一、數(shù)據(jù)驅(qū)動自動

  人工智能 數(shù)據(jù)驅(qū)動 自動駕駛

  2.1k瀏覽量

• 發(fā)布了文章 2025-07-15 14:22

  通道渲染：釋放渲染的全部潛能！通道渲染的作用、類型、技巧

  

  在3D圖形創(chuàng)作中，渲染通道（RenderPasses）是一項(xiàng)至關(guān)重要的技術(shù)，它通過將復(fù)雜的渲染圖像拆分為多個(gè)圖層，如陰影、光照、法線等，使藝術(shù)家能夠在后期制作中更精準(zhǔn)地控制和調(diào)整畫面。我們常常驚嘆于電影級別的3D圖像中每一個(gè)光點(diǎn)、陰影、反射的精準(zhǔn)布局，事實(shí)上，這些效果很大程度上得益于渲染通道的運(yùn)用。以下內(nèi)容將帶你深入了解渲染通道的定義、作用以及如何將其高效應(yīng)

  3D圖形 渲染

  902瀏覽量

• 發(fā)布了文章 2025-07-11 14:06

  “算存平衡”有多重要？

  

  本文轉(zhuǎn)自：未來網(wǎng)絡(luò)集團(tuán)當(dāng)你用手機(jī)刷短視頻時(shí)，AI算法需要快速分析畫面內(nèi)容；當(dāng)你喊‘小愛同學(xué)’喚醒語音助手時(shí)，設(shè)備需要在毫秒內(nèi)處理語音指令——這些看似簡單的操作背后，是一場“計(jì)算”與“存儲”的默契配合。而決定這種配合效率的關(guān)鍵指標(biāo)，正是我們今天要聊的“算存比”。什么是算存比？算存比=計(jì)算能力（如每秒浮點(diǎn)運(yùn)算次數(shù)）÷存儲容量（如GB/TB），但更核心的是計(jì)算與存

  AI算法 大模型 算力

  910瀏覽量

• 發(fā)布了文章 2025-07-10 11:17

  手機(jī)芯片：從SoC到Multi Die

  

  來源：內(nèi)容由半導(dǎo)體行業(yè)觀察編譯自semiengineering。先進(jìn)封裝正在成為高端手機(jī)市場的關(guān)鍵差異化因素，與片上系統(tǒng)相比，它能夠?qū)崿F(xiàn)更高的性能、更大的靈活性和更快的上市時(shí)間。單片SoC憑借其外形尺寸、成熟的經(jīng)驗(yàn)和較低的成本，很可能仍將是中低端移動設(shè)備的首選技術(shù)。但多芯片組件提供了更大的靈活性，這對于AI推理以及跟上AI模型和通信標(biāo)準(zhǔn)的快速變化至關(guān)重要。最

  soc 手機(jī)芯片 移動設(shè)備

  1.3k瀏覽量

• 發(fā)布了文章 2025-07-09 12:16

  從“三共計(jì)算”到生態(tài)重塑，艙駕融合開啟智駕新范式

  

  在汽車智能化浪潮下，傳統(tǒng)智能座艙與智能駕駛分離的電子電氣架構(gòu)，因硬件冗余、成本高、信號穩(wěn)定性差等弊端，難以滿足用戶需求和技術(shù)發(fā)展，使得“艙駕融合”概念應(yīng)運(yùn)而生。通過將智能座艙域與智能駕駛域整合到一個(gè)高性能計(jì)算單元，艙駕融合實(shí)現(xiàn)了硬件共用、功能協(xié)同，以及降本增效。本文將聚焦這一話題，深度探討艙駕融合過程中面臨的機(jī)遇與挑戰(zhàn)。從分布式到“三共計(jì)算”第三方數(shù)據(jù)顯示，

  智能座艙 智能駕駛 汽車

  1.6k瀏覽量