簡單認識高級處理器

除了傳統(tǒng)的處理器 (CPU、MPU/MCU、DSP 和 GPU)，面向當代各種應用的高級處理器（Advanced Processors）層出不窮，例如加...

2023-12-07 標簽：處理器dspamd 2.3k 0

解讀AMD的“分布式幾何”新專利（GPU的完全小芯片方法）

AMD 的專利詳細介紹了一種方法，即放棄中央處理器，用多個小芯片取代單個硅塊，每個小芯片處理自己的任務。渲染指令以稱為命令列表的長序列發(fā)送到 GPU，其...

2023-12-06 標簽：處理器amdgpu 1.3k 0

下一代HBM技術路線選擇對行業(yè)有何影響？

HBM 存儲器堆棧通過微凸塊連接到 HBM 堆棧中的硅通孔（TSV 或連接孔），并與放置在基礎封裝層上的中間件相連，中間件上還安裝有處理器，提供 HBM...

2023-12-06 標簽：DRAM存儲器gpu 1.3k 0

理解KV cache的作用及優(yōu)化方法

MQA (Multi Query Attention，多查詢注意力) 是多頭注意力的一種變體。其主要區(qū)別在于，在 MQA 中不同的注意力頭共享一個K和V...

2023-12-04 標簽：gpuGPTLLM 1.2萬 0

Xen雙系統(tǒng)GPU資源分配過程

i.MX8 有兩個 GPU，型號為 GC7000，這兩個 GPU 可以同時分給 Kernel 系統(tǒng)，也可以同時分給 Android 系統(tǒng)，也可以一邊分配...

2023-12-04 標簽：NXPAndroidgpu 1.4k 0

盤點GPU Fabric典型拓撲結構

當前，許多超大規(guī)模廠商正在競相構建大型 GPU 集群，以適應GenAI訓練工作負載。本文探討了針對GenAI訓練工作負載進行優(yōu)化的各種網(wǎng)絡拓撲結構，如M...

2023-12-03 標簽：負載gpu拓撲結構 6.7k 0

從圖形到通用計算：GPGPU技術的進化之路

在當今的計算世界中，GPGPU（General-Purpose computing on Graphics Processing Units）已成為一種...

2023-12-01 標簽：gpu圖形處理GPGPU 3.9k 0

深入理解BigBird的塊稀疏高效實現(xiàn)方案

RoBERTa 架構的 BigBird 模型現(xiàn)已集成入 transformers 中。本文的目的是讓讀者 深入 了解 BigBird 的實現(xiàn)，并讓讀者能...

2023-11-29 標簽：gpu算法Transformer 1.4k 0

全球及中國Al服務器市場規(guī)模情況

未來全球服務器市場規(guī)模有望超萬億。長遠來看，在國內(nèi)外數(shù)據(jù)流量迅速增長以及公有云蓬勃發(fā)展的背景下，服務器作為云網(wǎng)體系中最重要的算力基礎設施，未來存在巨大的...

2023-11-29 標簽：gpu服務器AI 3.8k 0

光器件的最新研究和發(fā)展趨勢

此次，我們將報道旨在實現(xiàn)光互連的光器件的最新研究和發(fā)展趨勢。

2023-11-29 標簽：gpu人工智能光器件 2.3k 0

PyTorch使用高頻代碼段分享

在硬件設備（CPU、GPU）不同時，完全的可復現(xiàn)性無法保證，即使隨機種子相同。但是，在同一個設備上，應該保證可復現(xiàn)性。具體做法是，在程序開始的時候固定t...

2023-11-27 標簽：cpugpu函數(shù) 1.2k 0

雙目影像密集匹配算法的綜合分析

自適應權重法是推動局部密集匹配算法發(fā)展的關鍵。自2006年Yoon等[53]首次提出可以在匹配質(zhì)量與全局匹配算法相媲美的局部匹配方法后，局部匹配算法再次...

2023-11-27 標簽：fpgagpu計算機視覺 3.3k 0

如何利用3D點編碼提升PETRV1/V2及StreamPETR性能

由于3DPPE在構建圖像特征的位置編碼時引入了顯式的深度信息，使得對應的位置先驗與真實物理世界的分布更為一致，從而有效的減緩了沿射線方向的誤檢。

2023-11-24 標簽：cpugpu特斯拉 1.7k 0

馬斯克星鏈與芯事：30億炸出衛(wèi)星互聯(lián)網(wǎng)革命，GPU算力創(chuàng)無限可能

據(jù)最新消息，馬斯克“千人上火星計劃”又一次未能如愿。據(jù)不完全統(tǒng)計，他在星艦項目上投入至少30億美元，總投入超過200億人民幣。然而，盡管投入巨大，星艦研...

2023-11-24 標簽：gpu衛(wèi)星馬斯克 3.1k 0

AI芯片設計的模式和問題

　人工智能涵蓋了從訓練算法到推理的方方面面。它包括大量的訓練計劃，以及可以適應微型物聯(lián)網(wǎng)設備的tinyML算法。此外，它越來越多地用于芯片設計的許多方面...

2023-11-23 標簽：gpu芯片設計人工智能 817 0

如何選擇正確的AI？AI的類型有哪些？

‘我在哪里可以獲得數(shù)據(jù)來訓練我的人工智能和機器學習模型？第三方數(shù)據(jù)可能可用，但您必須對其進行驗證，以確保它是正確的數(shù)據(jù)，并且 AI/機器學習模型做出正確...

2023-11-22 標簽：傳感器云計算gpu 4.2k 0

真機實測，天璣9300真實表現(xiàn)如何？

我們來看下天璣9300的核心參數(shù)規(guī)格。CPU部分，天璣9300配備了8顆核心，由最高主頻達3.25GHz的4個Cortex-X4超大核+4個主頻2.0G...

2023-11-22 標簽：gpusocAI 5.3k 0

Rust目前在GPU編程生態(tài)方面的現(xiàn)狀和前景

各種 GL API 的純軟實現(xiàn)，當沒有可用的硬件時，它可以提供純軟件的 GL API 的實現(xiàn)； 它可以用于 Linux/Windows/Mac 等...

2023-11-21 標簽：gpu編譯器Rust 4.8k 0