完善資料讓更多小伙伴認(rèn)識你，還能領(lǐng)取20積分哦，立即完善>
標(biāo)簽 > gpu
圖形處理器（英語：Graphics Processing Unit，縮寫：GPU），又稱顯示核心、視覺處理器、顯示芯片，是一種專門在個人電腦、工作站、游戲機(jī)和一些移動設(shè)備（如平板電腦、智能手機(jī)等）上圖像運(yùn)算工作的微處理器。
文章：5033個 瀏覽：136130次 帖子：309個
FlashAttenion-V3: Flash Decoding詳解
因此，本文提出了Flash-Decoding，可以推理過程中顯著加速attention操作（例如長序列生成速度提高8倍）。其主要思想是最大化并行加載ke...
用于連接 GPU 服務(wù)器中的 8 個 GPU 的 NVLink 交換機(jī)也可以用于構(gòu)建連接 GPU 服務(wù)器之間的交換網(wǎng)絡(luò)。Nvidia 在 2022 年的...
2024-04-24 標(biāo)簽：gpu服務(wù)器InfiniBand 2.7k 0
GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)
眾所周知，在大型模型訓(xùn)練中，通常采用每臺服務(wù)器配備多個GPU的集群架構(gòu)。在上一篇文章《高性能GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)（上篇）》中，我們對GPU網(wǎng)絡(luò)中的核...
2024-04-02 標(biāo)簽：gpu芯片設(shè)計(jì)AI 2.7k 0
生成式ai會帶來怎樣的改變？生成式AI引領(lǐng)各行各業(yè)邁向高效新時代
2022 年 11 月 22 日是一個歷史性時刻，給各行各業(yè)帶來了震撼和影響。 那一天，OpenAI 發(fā)布了有史以來最先進(jìn)的 AI 聊天機(jī)器人 Chat...
什么是FPGA芯片 FPGA的基本結(jié)構(gòu)及市場現(xiàn)狀分析
FPGA是在PAL(可編程邏輯陣列)、GAL(通用陣列邏輯)、CPLD(復(fù)雜可編程邏輯器件)等傳統(tǒng)邏輯電路和門陣列的基礎(chǔ)上進(jìn)一步發(fā)展的產(chǎn)物。
英偉達(dá) DGX 服務(wù)器內(nèi)部細(xì)節(jié)詳解
在機(jī)架的最頂部，我們發(fā)現(xiàn)了幾個 52 端口 Spectrum 交換機(jī) — 48 個千兆位 RJ45 和四個 QSFP28 100Gbps 聚合端口。
GPU在深度學(xué)習(xí)中的應(yīng)用 GPUs在圖形設(shè)計(jì)中的作用
隨著人工智能技術(shù)的飛速發(fā)展，深度學(xué)習(xí)作為其核心部分，已經(jīng)成為推動技術(shù)進(jìn)步的重要力量。GPU（圖形處理單元）在深度學(xué)習(xí)中扮演著至關(guān)重要的角色，其強(qiáng)大的并行...
2024-11-19 標(biāo)簽：gpu人工智能深度學(xué)習(xí) 2.7k 0
本來今天想下載編譯openWRT，后來發(fā)現(xiàn)tf卡空間分配問題，明天再調(diào)整吧，看了看桌上的USB攝像頭，今天晚上就你出場了。
2023-09-11 標(biāo)簽：gpu操作系統(tǒng)OpenWrt 2.7k 0
踩坑實(shí)錄：RK3588單獨(dú)編譯boot.img無法啟動？這個GPU配置才是關(guān)鍵！
做 RK3588 嵌入式開發(fā)的同學(xué)，大概率都遇到過 “編譯成功卻啟動失敗” 的糟心場景 —— 明明按官方流程單獨(dú)編譯了 boot.img，燒錄后設(shè)備卻卡...
在過去的幾年里，我們看到了智能相機(jī)的兩大趨勢。第一個趨勢是智能相機(jī)越來越專注于特定應(yīng)用或單一功能，就像傳統(tǒng)的光學(xué)傳感器一樣。例如，以極低的成本，相機(jī)可能...
分布式通信的原理和實(shí)現(xiàn)高效分布式通信背后的技術(shù)NVLink的演進(jìn)
在進(jìn)入大模型時代后，大模型發(fā)展已是人工智能的核心，但訓(xùn)練大模型實(shí)際上是一項(xiàng)比較復(fù)雜的工作，因?yàn)樗枰罅康?GPU 資源和較長的訓(xùn)練時間。 此外，由于單...
今天我們看的這篇論文介紹了在多FPGA集群上實(shí)現(xiàn)高級并行編程的研究，其主要目標(biāo)是為非FPGA專家提供一個成熟且易于使用的環(huán)境，以便在多個并行運(yùn)行的設(shè)備上...
據(jù)科技部新一代人工智能發(fā)展研究中心發(fā)布的報(bào)告顯示，我國已發(fā)布79個參數(shù)規(guī)模超過10億的大模型，幾乎形成了百模大戰(zhàn)的局面。在大模型研發(fā)方面，中國14個省區(qū)...
協(xié)作組編程模型的特點(diǎn)及應(yīng)用
協(xié)作組編程模型描述了 CUDA 線程塊內(nèi)和跨線程塊的同步模式。 它為應(yīng)用程序提供了定義它們自己的線程組的方法，以及同步它們的接口。 它還提供了強(qiáng)制執(zhí)行某...
隨著人工智能技術(shù)的快速普及，算力需求日益增長。智算中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計(jì)算的核心設(shè)備，其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務(wù)器也進(jìn)入了大眾...
如何在Ray分布式計(jì)算框架下集成NVIDIA Nsight Systems進(jìn)行GPU性能分析
在大語言模型的強(qiáng)化學(xué)習(xí)訓(xùn)練過程中，GPU 性能優(yōu)化至關(guān)重要。隨著模型規(guī)模不斷擴(kuò)大，如何高效地分析和優(yōu)化 GPU 性能成為開發(fā)者面臨的主要挑戰(zhàn)之一。
測試緩存和內(nèi)存延遲讓我們可以很好地了解 RDNA 3 的緩存和內(nèi)存設(shè)置。延遲測試在后 GCN AMD 圖形架構(gòu)上也很復(fù)雜，因?yàn)槿謨?nèi)存層次結(jié)構(gòu)可以通過標(biāo)...
換一批
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
| 電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺 | 無人機(jī) | 三菱電機(jī) | ST |
| 伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
機(jī)器人發(fā)燒友
