NVIDIA 作為一家全棧式 AI 計(jì)算平臺(tái)的賦能者，致力于推動(dòng)全球性的人工智能和科學(xué)計(jì)算的發(fā)展，通過(guò)推廣高性能技術(shù)應(yīng)用為社會(huì)發(fā)展做出積極貢獻(xiàn)。尤其在國(guó)內(nèi)高等教育領(lǐng)域，十多年來(lái) NVIDIA 一直努力為眾多高校提供培養(yǎng)下一代加速計(jì)算技術(shù)人才的 CUDA 教學(xué)相關(guān)資源。CUDA 編程技術(shù)人員現(xiàn)在已經(jīng)成為業(yè)界在高性能計(jì)算及 AI 開發(fā)及應(yīng)用領(lǐng)域內(nèi)的主流技術(shù)支撐。

為了能夠讓與加速計(jì)算相關(guān)的高校學(xué)生能夠及時(shí)了解最新的 CUDA 編程技術(shù)的發(fā)展與變化，我們發(fā)起了 CUDA 線上訓(xùn)練營(yíng)公益活動(dòng)，以增加學(xué)生學(xué)習(xí)及體驗(yàn)最新技術(shù)的機(jī)會(huì)，同時(shí)拉近教學(xué)與市場(chǎng)應(yīng)用的距離。幾年來(lái)的活動(dòng)實(shí)施效果得到了業(yè)界的肯定與認(rèn)可，CUDA 線上訓(xùn)練營(yíng)的教材被應(yīng)用到了高校的教材里面，甚至被采納作為教學(xué)實(shí)驗(yàn)課。

2023 NVIDIA &創(chuàng)樂(lè)博 CUDA 線上訓(xùn)練營(yíng)由 NVIDIA 發(fā)起，由創(chuàng)樂(lè)博冠名贊助，旨在幫助初學(xué)者學(xué)習(xí)如何在 GPU 上快速加速代碼，掌握 CUDA 編程的基本概念和技能。

NVIDIA 工程師將通過(guò)為期 5 天的時(shí)間，系統(tǒng)性地介紹 ARM 嵌入式平臺(tái)的特色，以及在該平臺(tái)上如何實(shí)現(xiàn) CUDA 并行加速計(jì)算。通過(guò)四大模塊的學(xué)習(xí)，并搭配豐富的線上實(shí)驗(yàn)環(huán)節(jié)，讓學(xué)生們掌握基于Arm 的 Jetson 開發(fā)環(huán)境和 GPU 異構(gòu)計(jì)算原理，了解 CUDA 編程模型，包括線程組織和 CUDA 存儲(chǔ)單元，以及如何利用共享存儲(chǔ)單元優(yōu)化應(yīng)用等。每次課程介紹完，會(huì)提供相應(yīng)的編程實(shí)例，讓學(xué)生在實(shí)際操作中理解概念。

訓(xùn)練營(yíng)的最終目標(biāo)是幫助學(xué)習(xí)者建立對(duì) GPU 編程的信心，為此，還將建立專門的 CUDA 學(xué)習(xí)線上微信群。邀請(qǐng) CUDA 編程專家在線回答同學(xué)們的問(wèn)題，輔導(dǎo)同學(xué)們進(jìn)行線上實(shí)驗(yàn)。

高效學(xué)習(xí) GPU 編程

職業(yè)生涯快人一步！

?

報(bào)名須知

報(bào)名時(shí)間：即日起– 7月23日

訓(xùn)練營(yíng)時(shí)間：7月24日– 7月28日

線上結(jié)業(yè)考試時(shí)間：7月29日09:00 AM – 12:00 AM

報(bào)名鏈接：識(shí)別海報(bào)二維碼或點(diǎn)擊閱讀原文。

報(bào)名后請(qǐng)?zhí)砑游?a target="_blank">信號(hào)【社區(qū)助教】：gpusupport，確認(rèn)報(bào)名費(fèi)繳納事宜；同時(shí)助教會(huì)拉您進(jìn)入相應(yīng)的微信群。

?

招生要求

?本課程需要學(xué)員具備一定的 C/C++ 程序設(shè)計(jì)基礎(chǔ)。

?收費(fèi)班：

主辦方提供 Jetson 云平臺(tái)，參加者無(wú)需準(zhǔn)備開發(fā)環(huán)境，只需要通過(guò)自己普通電腦的瀏覽器遠(yuǎn)程訪問(wèn) Jetson 計(jì)算平臺(tái)進(jìn)行學(xué)習(xí)。為了確保學(xué)習(xí)效果，將對(duì)每位參加者收取 100 元的報(bào)名費(fèi)。完成了每日的學(xué)習(xí)打卡任務(wù)，將原路退回 100 元。

此班級(jí)只針對(duì)在校學(xué)生。

人數(shù)限制 100 名。

?旁聽班：自己準(zhǔn)備 GPU 電腦，自行安裝 CUDA 環(huán)境。

此班級(jí)面向所有開發(fā)者。

人數(shù)無(wú)上限。

?兩個(gè)班級(jí)都會(huì)安排上機(jī)考試，通過(guò)考試，可以獲得結(jié)業(yè)證書。

?

課程亮點(diǎn)

?介紹高性能計(jì)算基礎(chǔ)編程模型 CUDA 的基本編程原理。?在結(jié)合 Arm CPU 和 GPU 的實(shí)驗(yàn)平臺(tái)上完成動(dòng)手實(shí)踐。?內(nèi)容和應(yīng)用相結(jié)合，將介紹如何利用 CUDA 完成光影渲染、信號(hào)處理、深度學(xué)習(xí)的網(wǎng)絡(luò)搭建等熱門案例。?6次實(shí)驗(yàn)課, 幾千行實(shí)驗(yàn)代碼, 讓學(xué)生在動(dòng)手實(shí)驗(yàn)的過(guò)程中了解GPU加速的原理和方法。?完成課程結(jié)業(yè)測(cè)試，NVIDIA 企業(yè)開發(fā)者社區(qū)將頒發(fā)結(jié)業(yè)證書和紀(jì)念徽章。 ?

指導(dǎo)老師

何琨（Ken He）

NVIDIA 企業(yè)級(jí)開發(fā)者社區(qū)高級(jí)經(jīng)理，擁有多年的 GPU 和人工智能開發(fā)經(jīng)驗(yàn)。自 2017 年加入 NVIDIA 開發(fā)者社區(qū)以來(lái)，完成過(guò)上百場(chǎng)培訓(xùn)，幫助上萬(wàn)個(gè)開發(fā)者了解人工智能和 GPU 編程開發(fā)。在計(jì)算機(jī)視覺，高性能計(jì)算領(lǐng)域完成過(guò)多個(gè)獨(dú)立項(xiàng)目。并且，在機(jī)器人和無(wú)人機(jī)領(lǐng)域，有過(guò)豐富的研發(fā)經(jīng)驗(yàn)。對(duì)于圖像識(shí)別，目標(biāo)的檢測(cè)與跟蹤完成過(guò)多種解決方案。曾經(jīng)參與 GPU 版氣象模式 GRAPES，是其主要研發(fā)者。

李奕澎

NVIDIA 企業(yè)開發(fā)者社區(qū)經(jīng)理，擁有 4 年數(shù)據(jù)分析建模開發(fā)經(jīng)驗(yàn)，3 年人工智能自然語(yǔ)言處理開發(fā)經(jīng)驗(yàn)。在自動(dòng)語(yǔ)音識(shí)別、自然語(yǔ)言處理、自然語(yǔ)言理解等技術(shù)有著豐富的實(shí)戰(zhàn)經(jīng)驗(yàn)與見解。

?

訓(xùn)練營(yíng)日程安排

Day1 - 7月24日

910 開營(yíng)

NVIDIAGPU 應(yīng)用市場(chǎng)總監(jiān)侯宇濤致辭

創(chuàng)樂(lè)博 介紹

1.Jetson 開發(fā)環(huán)境介紹，Linux 系統(tǒng)簡(jiǎn)介（1.1 理論課+實(shí)驗(yàn)課）

介紹實(shí)驗(yàn)平臺(tái)，介紹 Linux 編譯的基本技巧，介紹基本的開發(fā)環(huán)境

實(shí)驗(yàn)課：Makefile 文件編寫規(guī)范

---

2. GPU 架構(gòu)及異構(gòu)計(jì)算

介紹 GPU 架構(gòu)以及異構(gòu)計(jì)算的基本原理

介紹 GPU 硬件平臺(tái)

介紹基于 Jetson的嵌入式平臺(tái) GPU 架構(gòu)和編程模型之間的關(guān)系

最新的 GPU 應(yīng)用領(lǐng)域，GPU 在現(xiàn)代計(jì)算機(jī)科學(xué)中的通用性

---

3. CUDA 編程模型 — 初識(shí) CUDA

CUDA 程序的編譯

GPU 線程的調(diào)用

GPU和 CPU 的通訊

使用多個(gè)線程的核函數(shù)

使用線程索引

多維網(wǎng)絡(luò)

網(wǎng)格與線程塊

利用 NVProf 查看程序執(zhí)行情況

實(shí)驗(yàn)課內(nèi)容：編寫程序 HelloCUDA，并且利用 NVCC 編譯。編寫 VectorAdd 多線程程序，和多維網(wǎng)絡(luò)線程程序，并用 nvprof 來(lái)測(cè)試不同設(shè)置情況下運(yùn)行速度。

Day2- 7月25日

930（1100 午休）

4. CUDA 編程模型 — CUDA 存儲(chǔ)單元的使用與錯(cuò)誤檢測(cè)

設(shè)備初始化

GPU 的存儲(chǔ)單元

GPU 存儲(chǔ)單元的分配與釋放

數(shù)據(jù)的傳輸

數(shù)據(jù)與線程之間的對(duì)應(yīng)關(guān)系

CUDA 應(yīng)用程序運(yùn)行時(shí)的錯(cuò)誤檢測(cè)

CUDA 中的事件

利用事件進(jìn)行計(jì)時(shí)

實(shí)驗(yàn)課內(nèi)容：編寫 MatrixMul 程序，體驗(yàn)線程和數(shù)據(jù)的對(duì)應(yīng)關(guān)系

留課后作業(yè)

---

5. 多種 CUDA 儲(chǔ)存單元詳解

CUDA 中的存儲(chǔ)單元種類

CUDA 中的各種存儲(chǔ)單元的使用方法

CUDA中的各種存儲(chǔ)單元的適用條件

---

6. 利用共享存儲(chǔ)單元優(yōu)化應(yīng)用

共享存儲(chǔ)單元詳解

共享內(nèi)存的 Bankconflict

利用共享存儲(chǔ)單元進(jìn)行矩陣轉(zhuǎn)置和矩陣乘積

實(shí)驗(yàn)課內(nèi)容：編寫 Shared Memory 優(yōu)化過(guò)的矩陣乘法

介紹 sharedmemory 原理，介紹利用 sharedmemory優(yōu)化的多種案例

矩陣轉(zhuǎn)置

Day3- 7月26日

930（1100 午休）

7. CUDA 編程模型 — 原子操作

CUDA 中的原子操作

原子操作的適用場(chǎng)景

利用原子操作優(yōu)化程序

規(guī)越算法的實(shí)驗(yàn)

---

8. 基于 ARM 平臺(tái)的 Jetson Nano存儲(chǔ)單元調(diào)用

基于 ARM 平臺(tái)的 Jetson Nano 的存儲(chǔ)單元特點(diǎn)

統(tǒng)一內(nèi)存的基本概念

如何更有效的利用 Jetson 的存儲(chǔ)單元

實(shí)驗(yàn)課內(nèi)容：編寫 MatrixMul 程序，體驗(yàn)統(tǒng)一內(nèi)存的使用方法

介紹基于 Jetson 平臺(tái)的共享存儲(chǔ)單元的特點(diǎn)，介紹 Jetson 平臺(tái) SoC DRAM memory 的應(yīng)用

Day4- 7月27日

930（1100 午休）

9. CUDAstream

CUDA 流的基本概念

默認(rèn)流與非默認(rèn)流

利用 CUDA 流重疊計(jì)算和數(shù)據(jù)傳輸

實(shí)驗(yàn)課內(nèi)容：體驗(yàn)利用流來(lái)減少運(yùn)行時(shí)間

介紹 CUDAstream，介紹利用 stream 分割處理的加速方案，介紹利用 stream 處理超大數(shù)據(jù)的加速方案

---

10. CUDA 加速庫(kù)介紹：Thrust，cuBLAS，cuFFT，CV-CUDA

cuBLAS 介紹

cuFFT 介紹

Thrust 介紹

CV-CUDA 介紹

完成多種庫(kù)（開源項(xiàng)目）的實(shí)例應(yīng)用

Day5 - 7月28日：線上答疑

Day6 - 7月29日：線上課程結(jié)業(yè)考試

?

關(guān)于考核

1. 完成所有的理論和上機(jī)實(shí)驗(yàn)，并完成小程序打卡。

2. 完成課后線上答題。

3. 所有課程結(jié)束后完成三個(gè)考題，每個(gè)考題為完成一段程序，由易到難。

三組都完成的視為合格

考試時(shí)間：7月29日 09:00 Am—12:00 Am

?

教材資源

訓(xùn)練營(yíng)教材：《CUDA ON ARM PLATFORM訓(xùn)練營(yíng)》自編教材

參考書目：樊哲勇《 CUDA 編程：基礎(chǔ)與實(shí)踐》清華大學(xué)出版社出版時(shí)間：2020-10-01

NVIDIA 官方文檔：CUDA C++ Best Practices Guide

（https://docs.nvidia.com/cuda/cuda-c-best-practices-guide/index.html#abstract）

NVIDIA 官方文檔：CUDA Programming Guide（https://docs.nvidia.com/cuda/#programming-guides）

立即掃描下方二維碼報(bào)名，學(xué)生報(bào)名僅限 100 席，先到先得！