動態(tài)

• 發(fā)布了文章 2025-09-19 11:58

  一文看懂AI訓(xùn)練、推理與訓(xùn)推一體的底層關(guān)系

  

  我們正在參加全球電子成就獎的評選，歡迎大家?guī)臀覀兺镀薄x謝支持很多人聽過“大模型”，但沒搞懂兩件事。我們總說AI有多強，但真正決定AI能否落地的，是它的兩個階段：訓(xùn)練（Training）和推理（Inference）。它們就像“學(xué)霸的高考備考”和“考試當(dāng)天的答題表現(xiàn)”，缺一不可。1、什么是AI訓(xùn)練（Training）？通過大量數(shù)據(jù)訓(xùn)練模型參數(shù)，使其具備特定

  AI 人工智能 大模型

  2.9k瀏覽量

• 發(fā)布了文章 2025-09-18 12:15

  芯粒技術(shù)的專利保護挑戰(zhàn)與應(yīng)對策略

  

  本文由TechSugar編譯自SemiWiki在半導(dǎo)體行業(yè)中，許多產(chǎn)品由獨立制造和分銷的組件組裝而成，這一特點為商業(yè)專利保護帶來了特殊考量。而芯粒（Chiplet）的出現(xiàn)，則打破了這種傳統(tǒng)模式，它所涉及的專利保護問題多樣且復(fù)雜。芯粒技術(shù)：后摩爾時代的創(chuàng)新突破系統(tǒng)級芯片（System-on-a-Chip，簡稱SoC）作為集成電路領(lǐng)域的核心產(chǎn)品，能夠在單一封裝內(nèi)

  chiplet 半導(dǎo)體 芯粒 集成電路

  1.2k瀏覽量

• 發(fā)布了文章 2025-09-17 13:31

  神經(jīng)網(wǎng)絡(luò)的并行計算與加速技術(shù)

  

  隨著人工智能技術(shù)的飛速發(fā)展，神經(jīng)網(wǎng)絡(luò)在眾多領(lǐng)域展現(xiàn)出了巨大的潛力和廣泛的應(yīng)用前景。然而，神經(jīng)網(wǎng)絡(luò)模型的復(fù)雜度和規(guī)模也在不斷增加，這使得傳統(tǒng)的串行計算方式面臨著巨大的挑戰(zhàn)，如計算速度慢、訓(xùn)練時間長等問題。因此，并行計算與加速技術(shù)在神經(jīng)網(wǎng)絡(luò)研究和應(yīng)用中變得至關(guān)重要，它們能夠顯著提升神經(jīng)網(wǎng)絡(luò)的性能和效率，滿足實際應(yīng)用中對快速響應(yīng)和大規(guī)模數(shù)據(jù)處理的需求。神經(jīng)網(wǎng)絡(luò)并行

  AI 人工智能 神經(jīng)網(wǎng)絡(luò)

  1.3k瀏覽量

• 發(fā)布了文章 2025-09-16 11:40

  算力賦能未來：自動駕駛?cè)绾螐目苹民側(cè)氍F(xiàn)實？

  

  當(dāng)一輛汽車以120km/h飛馳時，每0.1秒的決策延遲就意味著3.3米的“生死距離”。而現(xiàn)在，自動駕駛車輛能在毫秒間完成剎車、變道甚至緊急避障——這背后，是算力在無聲地重塑人類出行方式。感知系統(tǒng)自動駕駛汽車依賴激光雷達、攝像頭等多源傳感器實時采集周圍環(huán)境數(shù)據(jù)。這些數(shù)據(jù)需要強大的算力來快速處理和分析，以識別道路、車輛、行人、交通標(biāo)志等

  汽車 算力 自動駕駛

  861瀏覽量

• 發(fā)布了文章 2025-09-15 10:27

  量子機器學(xué)習(xí)入門：三種數(shù)據(jù)編碼方法對比與應(yīng)用

  

  在傳統(tǒng)機器學(xué)習(xí)中數(shù)據(jù)編碼確實相對直觀：獨熱編碼處理類別變量，標(biāo)準化調(diào)整數(shù)值范圍，然后直接輸入模型訓(xùn)練。整個過程更像是數(shù)據(jù)清洗，而非核心算法組件。量子機器學(xué)習(xí)的編碼完全是另一回事。傳統(tǒng)算法可以直接消化特征向量[0.7,1.2,-0.3]，但量子電路運行在概率幅和量子態(tài)的數(shù)學(xué)空間里。你的每個編碼決策——是用角度旋轉(zhuǎn)、振幅映射還是基態(tài)表示——都在重新定義信息在量子

  機器學(xué)習(xí) 量子 量子電路

  997瀏覽量

• 發(fā)布了文章 2025-09-12 18:10

  Imagination亮相汽車芯片產(chǎn)業(yè)大會 深入解讀高安全GPU+AI融合計算架構(gòu)

  

  9月12日，由蓋世汽車主辦的2025第五屆全球汽車芯片產(chǎn)業(yè)大會在上海啟幕。本次大會以“芯”動汽車智引未來為主題，圍繞車規(guī)級芯片標(biāo)準與安全認證、車企自研芯片、智能輔助駕駛芯片、高算力智能座艙SoC等熱門話題展開深度交流與探討。Imagination技術(shù)總監(jiān)艾克出席活動，發(fā)表了《驅(qū)動未來：面向智能駕艙的高安全GPU+AI融合計算架構(gòu)》的主題演講。艾克首先介紹了目

  AI gpu imagination 汽車芯片

  1.2k瀏覽量

• 發(fā)布了文章 2025-09-10 09:28

  小白學(xué)大模型：大模型加速的秘密 FlashAttention 1/2/3

  

  在Transformer架構(gòu)中，注意力機制的計算復(fù)雜度與序列長度（即文本長度）呈平方關(guān)系()。這意味著，當(dāng)模型需要處理更長的文本時（比如從幾千個詞到幾萬個詞），計算時間和所需的內(nèi)存會急劇增加。最開始的標(biāo)準注意力機制存在兩個主要問題：內(nèi)存占用高：模型需要生成一個巨大的注意力矩陣(N×N)。這個矩陣需要被保存在高帶寬內(nèi)存(HBM)中。對于長序列，這很快就會超出G

  人工智能 內(nèi)存 大模型

  5k瀏覽量

• 發(fā)布了文章 2025-09-04 11:51

  手把手教你設(shè)計Chiplet

  

  我們正在參加全球電子成就獎的評選，歡迎大家?guī)臀覀兺镀薄x謝支持來源：內(nèi)容由半導(dǎo)體行業(yè)觀察編譯自semiengineeringChiplet是一種滿足持續(xù)增長的計算能力和I/O帶寬需求的方法，它將SoC功能拆分成更小的異構(gòu)或同構(gòu)芯片（稱為芯片集），并將這些Chiplet集成到單個系統(tǒng)級封裝(SIP)中，其中總硅片尺寸可能超過單個SoC的光罩尺寸。SIP不僅

  chiplet 系統(tǒng)設(shè)計 芯片

  962瀏覽量

• 發(fā)布了文章 2025-09-03 10:32

  從自然仿真到智能調(diào)度——GPU并行計算的多場景突破

  

  我們正在參加全球電子成就獎的評選，歡迎大家?guī)臀覀兺镀薄x謝支持隨著復(fù)雜計算問題的不斷涌現(xiàn)，傳統(tǒng)的CPU串行計算在處理大規(guī)模數(shù)據(jù)與高并發(fā)任務(wù)時逐漸顯露瓶頸。GPU（圖形處理單元）憑借其高度并行的體系結(jié)構(gòu)，成為科學(xué)仿真與智能調(diào)度的核心計算平臺。在自然現(xiàn)象模擬中，風(fēng)沙流、流體力學(xué)等問題往往涉及海量粒子間的相互作用，計算負擔(dān)極為沉重，而GPU的并行鄰居搜索與空間

  gpu 仿真 智能調(diào)度

  1k瀏覽量

• 發(fā)布了文章 2025-09-02 13:34

  3萬字長文！深度解析大語言模型LLM原理

  

  我們正在參加全球電子成就獎的評選，歡迎大家?guī)臀覀兺镀薄x謝支持本文轉(zhuǎn)自：騰訊技術(shù)工程作者：royceshao大語言模型LLM的精妙之處在于很好地利用數(shù)學(xué)解決了工業(yè)場景的問題，筆者基于過往工程經(jīng)驗繼續(xù)追本溯源，與騰訊學(xué)堂合作撰寫本文，嘗試讓人人都能懂大語言模型的基礎(chǔ)原理。1、大語言模型簡述截止到2025年“大模型”一般泛指“超大參數(shù)模型”，參數(shù)是指深度神經(jīng)

  LLM 人工智能 語言模型

  3.6k瀏覽量