【一文看懂】什么是端側(cè)算力？

隨著物聯(lián)網(wǎng)（IoT）、人工智能和5G技術(shù)的快速發(fā)展，端側(cè)算力正逐漸成為智能設(shè)備性能提升和智能化應(yīng)用實(shí)現(xiàn)的關(guān)鍵技術(shù)。什么是端側(cè)算力，它的應(yīng)用價(jià)值是什么，與...

2025-02-24 標(biāo)簽：智能設(shè)備深度神經(jīng)網(wǎng)絡(luò)算力 4.5k 0

智能座艙SoC算力評(píng)估及應(yīng)用總結(jié)

本文轉(zhuǎn)自：智能座艙產(chǎn)業(yè)聯(lián)盟精確評(píng)估SoC算力的必要性智能座艙的系統(tǒng)穩(wěn)定性、用戶體驗(yàn)和性能表現(xiàn)都依賴(lài)于SoC（系統(tǒng)級(jí)芯片）的計(jì)算能力。為了實(shí)現(xiàn)最佳性能，系...

2025-01-15 標(biāo)簽：soc算力智能座艙 2.2k 0

杰和課堂|帶你認(rèn)識(shí)算力

杰和課堂|帶你認(rèn)識(shí)算力人工智能浪潮洶涌的今天，算力一詞頻繁出現(xiàn)在各類(lèi)科技新聞、產(chǎn)業(yè)發(fā)展報(bào)告中。了解過(guò)杰和科技產(chǎn)品的讀者們，也會(huì)在杰和各產(chǎn)品參數(shù)中發(fā)現(xiàn)算力...

2024-12-06 標(biāo)簽：AI人工智能算力 4.5k 0

FP8數(shù)據(jù)格式在大型模型訓(xùn)練中的應(yīng)用

本文主要介紹了 FP8 數(shù)據(jù)格式在大型模型訓(xùn)練中的應(yīng)用、挑戰(zhàn)及最佳實(shí)踐，展示了 FP8 在提升訓(xùn)練速度和效率方面的潛力和實(shí)際效果。

2024-11-19 標(biāo)簽：NVIDIA數(shù)據(jù)格式模型 3.8k 0

存算一體技術(shù)的分類(lèi)

近年間，云計(jì)算與人工智能技術(shù)的蓬勃興起，計(jì)算中心面臨著數(shù)據(jù)效率低、能耗大等核心挑戰(zhàn)，這促使學(xué)術(shù)界和工業(yè)界重新聚焦。

2024-11-05 標(biāo)簽：處理器存儲(chǔ)器算力 2.7k 0

【一文看懂】大白話解釋“GPU與GPU算力”

隨著大模型的興起，“GPU算力”這個(gè)詞正頻繁出現(xiàn)在人工智能、游戲、圖形設(shè)計(jì)等工作場(chǎng)景中，什么是GPU，它與CPU的區(qū)別是什么？以及到底什么是GPU算力？...

2024-10-29 標(biāo)簽：cpugpu算力 5.1k 0

使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又發(fā)布了Llama3.2：一個(gè)多語(yǔ)言大型語(yǔ)言模型（LLM...

2024-10-12 標(biāo)簽：模型Meta算力 2.5k 0

算力服務(wù)器為什么選擇GPU

隨著人工智能技術(shù)的快速普及，算力需求日益增長(zhǎng)。智算中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計(jì)算的核心設(shè)備，其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務(wù)器也進(jìn)入了大眾...

2024-07-25 標(biāo)簽：cpugpu服務(wù)器 2.6k 0

中國(guó)AI長(zhǎng)卷（一）：大國(guó)重算

AI為沃土，智算是長(zhǎng)城

2024-07-23 標(biāo)簽：半導(dǎo)體AI人工智能 2.4k 0

OpenAI刺破了中國(guó)AI的幻想

不可逆的AI封鎖，還有哪些牌可出？

2024-06-28 標(biāo)簽：芯片APIAI 3.5k 0

存內(nèi)計(jì)算——助力實(shí)現(xiàn)28nm等效7nm功效

可重構(gòu)芯片嘗試在芯片內(nèi)布設(shè)可編程的計(jì)算資源，根據(jù)計(jì)算任務(wù)的數(shù)據(jù)流特點(diǎn)，動(dòng)態(tài)構(gòu)造出最適合的計(jì)算架構(gòu)，國(guó)內(nèi)團(tuán)隊(duì)設(shè)計(jì)并在12nm工藝下制造的CGRA芯片，已經(jīng)...

2024-05-17 標(biāo)簽：芯片AI芯片制程 3.9k 0

基于FPGA的網(wǎng)絡(luò)加速設(shè)計(jì)實(shí)現(xiàn)

首先是FPGA硬件的變化太多，各個(gè)模塊可配參數(shù)的變化（比如卷積模塊并行數(shù)的變化），另外一個(gè)是網(wǎng)絡(luò)模型多種多樣以及開(kāi)源的網(wǎng)絡(luò)模型平臺(tái)也很多（tensorf...

2024-04-08 標(biāo)簽：FPGA神經(jīng)網(wǎng)絡(luò)算力 2.3k 0

大算力時(shí)代，關(guān)于內(nèi)存墻的應(yīng)對(duì)方法

以Transformer架構(gòu)為基礎(chǔ)的AI大模型導(dǎo)致了模型參數(shù)量激增，短短兩年間模型大小擴(kuò)大了驚人的410倍，運(yùn)算量更是激增了高達(dá)750倍。

2024-03-14 標(biāo)簽：gpu內(nèi)存AI 1k 0

到底什么是算力？算力的價(jià)值在哪里？

算力的字面意思，大家都懂，就是計(jì)算能力（ComputingPower）。所謂“計(jì)算”，我們可以有多種定義。狹義的定義，是對(duì)數(shù)學(xué)問(wèn)題進(jìn)行運(yùn)算的過(guò)程，例如完...

2024-03-13 標(biāo)簽：算法算力存力 3.6k 0

AI新基建引領(lǐng)“三浪變革”，驅(qū)動(dòng)產(chǎn)業(yè)升級(jí)與創(chuàng)新

2023年迎來(lái)“知識(shí)生產(chǎn)力變革”第一浪，以大語(yǔ)言模型為核心，實(shí)現(xiàn)知識(shí)工程的生產(chǎn)力變革，類(lèi)似于中世紀(jì)的印刷革命。大語(yǔ)言模型具有超高速學(xué)習(xí)能力，可在人機(jī)協(xié)同...

2024-01-31 標(biāo)簽：gpuAI人工智能 2.9k 0

深入分析評(píng)估GPU算力需求

長(zhǎng)期來(lái)看，國(guó)產(chǎn)CPU、GPU、AI芯片廠商受益于龐大的國(guó)內(nèi)市場(chǎng)，疊加國(guó)內(nèi)信創(chuàng)市場(chǎng)帶來(lái)國(guó)產(chǎn)化需求增量，我們預(yù)期國(guó)內(nèi)AI芯片的國(guó)產(chǎn)化比例將顯著提升，借此機(jī)會(huì)...

2024-01-17 標(biāo)簽：cpuNVIDIAgpu 1.7k 0

2024 AI智算產(chǎn)業(yè)趨勢(shì)報(bào)告

當(dāng)下智算時(shí)代雖然在初級(jí)階段，依托AI大模型形成的新一代算力基礎(chǔ)設(shè)施和AI應(yīng)用已經(jīng)在諸多領(lǐng)域嶄露頭角。 數(shù)字中國(guó)愿景的實(shí)現(xiàn)，基石在于夯實(shí)數(shù)字化基礎(chǔ)設(shè)施建設(shè)。

2024-01-17 標(biāo)簽：AI智能制造算力 892 0

大模型智能的革命：如何打破算力瓶頸

大模型的參數(shù)量主要取決于隱藏層的維度和構(gòu)成模型的Block的數(shù)量，我們假定隱藏層的維度為 h，Block 的數(shù)量為 i，那么，大模型的參數(shù)量為 。

2024-01-16 標(biāo)簽：AIGPT算力 1.2k 0