面向TTA架構(gòu)ASIP設(shè)計的深度神經(jīng)網(wǎng)絡(luò)優(yōu)化論文免費下載
資料介紹
近年來,依托電子芯片技術(shù)的發(fā)展,神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)被設(shè)計得更深更大,以應(yīng)對更加復(fù)雜和抽象的場景。隨之而來的問題是深府神經(jīng)網(wǎng)絡(luò)在訓(xùn)練和推理都依托大規(guī)模的浮點運算實現(xiàn),對存儲資源的占用和設(shè)備功耗的需求產(chǎn)生了很高的需求?;趥鬏斢|發(fā)架構(gòu)(TransportTriggered Architecture,TTA)的專用指令集處理器(ApplicationSpecific Instruction Set Processor,ASIP)既能夠提供專用集成電路級別的高性能和低功耗,又能夠提供處理器級別的指令集靈活性,是解決該問題的途徑之一。
量化與加速是深度神經(jīng)網(wǎng)絡(luò)硬件實現(xiàn)時常用的兩項技術(shù),卷積神經(jīng)網(wǎng)絡(luò)是最有代表性和最通用的深度神經(jīng)網(wǎng)絡(luò)。本文的主要工作即圍繞這兩項技術(shù),進行面向TTA架構(gòu)ASIP設(shè)計的卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)化,具體內(nèi)容包含以下兩個部分:
其一,本文針對基于TTA架構(gòu)的神經(jīng)網(wǎng)絡(luò)ASIP的需求,提出了一套端到端完整的8比特量化方案。該方案結(jié)合權(quán)重、激活值和梯度的各自特點,為它們制定了相應(yīng)的量化策略,包括了對稱仿射的權(quán)重量化、帶動態(tài)上限的激活值量化、變精度的梯度量化以及一種近似的批量歸一化算法。在多數(shù)據(jù)集、多模型結(jié)構(gòu)的實驗中,該方案都取得了與全精度網(wǎng)絡(luò)相當(dāng)?shù)木龋I(lǐng)先于部分當(dāng)下常用的量化方案。
其二,本文將查找表資源融入到卷積運算中,提出了一種基于乘法結(jié)合律的卷積運算的加速方案。該方案針對面向TTA架構(gòu)的量化卷積功能單元,提供了符合量化卷積特性的卷積核分塊、循環(huán)展開、數(shù)據(jù)交換規(guī)則,并展示了基于TTA架構(gòu)的神經(jīng)網(wǎng)絡(luò)加速器的整體結(jié)構(gòu)。對比傳統(tǒng)卷積方案,該方案緩解了有限的乘法器資源對于神經(jīng)網(wǎng)絡(luò)并行計算的限制,在并行度與計算能效比兩方面都有所提升。
本文中,量化方案是加速方案的基礎(chǔ),加速方案是量化方案的補充,二者共同構(gòu)成了本文的優(yōu)化工作,為基于TTA架構(gòu)的深度神經(jīng)網(wǎng)絡(luò)的ASIP實現(xiàn)提供了支持。

- 基于BP神經(jīng)網(wǎng)絡(luò)優(yōu)化的光伏發(fā)電預(yù)測模型 35次下載
- 基于改進郊狼優(yōu)化算法的淺層神經(jīng)網(wǎng)絡(luò)進化 15次下載
- 基于神經(jīng)網(wǎng)絡(luò)的優(yōu)化計算實驗 43次下載
- 自構(gòu)造RBF神經(jīng)網(wǎng)絡(luò)及其參數(shù)優(yōu)化 9次下載
- 3小時學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)課件下載 0次下載
- 深度神經(jīng)網(wǎng)絡(luò)模型的壓縮和優(yōu)化綜述 20次下載
- 綜述深度神經(jīng)網(wǎng)絡(luò)的解釋方法及發(fā)展趨勢 19次下載
- 一種基于多視圖架構(gòu)的深度卷積神經(jīng)網(wǎng)絡(luò)模型 5次下載
- 神經(jīng)網(wǎng)絡(luò)的方法學(xué)習(xí)課件免費下載 18次下載
- 基于深度神經(jīng)網(wǎng)絡(luò)的文本分類分析 37次下載
- 神經(jīng)網(wǎng)絡(luò)與神經(jīng)網(wǎng)絡(luò)控制的學(xué)習(xí)課件免費下載 11次下載
- 神經(jīng)網(wǎng)絡(luò)的基本概念學(xué)習(xí)課件免費下載 5次下載
- 神經(jīng)網(wǎng)絡(luò)的復(fù)習(xí)資料免費下載 1次下載
- 快速了解神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)的教程資料免費下載 33次下載
- 《神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)》中文版電子教材免費下載 0次下載
- 殘差網(wǎng)絡(luò)是深度神經(jīng)網(wǎng)絡(luò)嗎 2.1k次閱讀
- 神經(jīng)網(wǎng)絡(luò)優(yōu)化器有哪些 1.6k次閱讀
- 什么是神經(jīng)網(wǎng)絡(luò)加速器?它有哪些特點? 1.7k次閱讀
- 簡單認識深度神經(jīng)網(wǎng)絡(luò) 2.8k次閱讀
- 深度神經(jīng)網(wǎng)絡(luò)(DNN)架構(gòu)解析與優(yōu)化策略 5.1k次閱讀
- 深度神經(jīng)網(wǎng)絡(luò)概述及其應(yīng)用 3.8k次閱讀
- 深度神經(jīng)網(wǎng)絡(luò)與基本神經(jīng)網(wǎng)絡(luò)的區(qū)別 2.6k次閱讀
- 深度神經(jīng)網(wǎng)絡(luò)的設(shè)計方法 1.5k次閱讀
- 神經(jīng)網(wǎng)絡(luò)優(yōu)化算法有哪些 1.9k次閱讀
- 神經(jīng)網(wǎng)絡(luò)架構(gòu)有哪些 2.3k次閱讀
- 如何訓(xùn)練和優(yōu)化神經(jīng)網(wǎng)絡(luò) 1.5k次閱讀
- 詳解深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用 3.5k次閱讀
- 深度神經(jīng)網(wǎng)絡(luò)的實現(xiàn)機理與決策邏輯難以理解 3.6k次閱讀
- 斯坦福探索深度神經(jīng)網(wǎng)絡(luò)可解釋性 決策樹是關(guān)鍵 6.4k次閱讀
- NVIDIA深度神經(jīng)網(wǎng)絡(luò)加速庫cuDNN軟件安裝教程 2.6k次閱讀
下載排行
本周
- 1新一代網(wǎng)絡(luò)可視化(NPB 2.0)
- 3.40 MB | 1次下載 | 免費
- 2MDD品牌三極管MMBT3906數(shù)據(jù)手冊
- 2.33 MB | 次下載 | 免費
- 3MDD品牌三極管S9012數(shù)據(jù)手冊
- 2.62 MB | 次下載 | 免費
- 4聯(lián)想flex2-14D/15D說明書
- 4.92 MB | 次下載 | 免費
- 5收音環(huán)繞擴音機 AVR-1507手冊
- 2.50 MB | 次下載 | 免費
- 624Pin Type-C連接器設(shè)計報告
- 1.06 MB | 次下載 | 免費
- 7MS1000TA 超聲波測量模擬前端芯片技術(shù)手冊
- 0.60 MB | 次下載 | 免費
- 8MS1022高精度時間測量(TDC)電路數(shù)據(jù)手冊
- 1.81 MB | 次下載 | 免費
本月
- 1愛華AIWA HS-J202維修手冊
- 3.34 MB | 37次下載 | 免費
- 2PC5502負載均流控制電路數(shù)據(jù)手冊
- 1.63 MB | 23次下載 | 免費
- 3NB-IoT芯片廠商的資料說明
- 0.31 MB | 22次下載 | 1 積分
- 4H110主板CPU PWM芯片ISL95858HRZ-T核心供電電路圖資料
- 0.63 MB | 6次下載 | 1 積分
- 5UWB653Pro USB口測距通信定位模塊規(guī)格書
- 838.47 KB | 5次下載 | 免費
- 6技嘉H110主板IT8628E_BX IO電路圖資料
- 2.61 MB | 4次下載 | 1 積分
- 7蘇泊爾DCL6907(即CHK-S007)單芯片電磁爐原理圖資料
- 0.04 MB | 4次下載 | 1 積分
- 8100W準(zhǔn)諧振反激式恒流電源電路圖資料
- 0.09 MB | 2次下載 | 1 積分
總榜
- 1matlab軟件下載入口
- 未知 | 935137次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設(shè)計
- 1.48MB | 420064次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233089次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費下載
- 340992 | 191439次下載 | 10 積分
- 5十天學(xué)會AVR單片機與C語言視頻教程 下載
- 158M | 183353次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81602次下載 | 10 積分
- 7Keil工具MDK-Arm免費下載
- 0.02 MB | 73822次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65991次下載 | 10 積分
電子發(fā)燒友App





創(chuàng)作
發(fā)文章
發(fā)帖
提問
發(fā)資料
發(fā)視頻
上傳資料賺積分
評論