日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

梯度的獨特分布給量化訓練帶來了極大挑戰(zhàn)

lhl545545 ? 來源:商湯科技 ? 作者:商湯科技 ? 2020-06-15 14:32 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

商湯科技CVPR 2020錄用論文在多個領域實現(xiàn)突破,包括:對抗式生成模型、三維點云理解與分析、訓練加速與模型量化、視頻理解與分析、網(wǎng)絡結構搜索等。以下為商湯及商湯聯(lián)合實驗室入選CVPR 2020的代表性論文。

▎研究方向:對抗式生成模型

代表性論文:《對人臉生成模型的隱空間可解釋性分析》鏈接:https://arxiv.org/abs/1907.10786

近年來,對抗生成網(wǎng)絡(GAN)的快速發(fā)展極大地增強了圖像生成的質量,也因此得到了越來越廣泛的應用。越來越多基于GAN的模型被提出來提高生成質量以及訓練穩(wěn)定性,但是對于生成模型的可解釋性還鮮有研究。

本文以人臉生成模型為例,對GAN的隱空間進行了深入分析,目標在于理解GAN是如何將一個隨機噪聲轉化為一張高質量圖片的。本文提出了一種簡單而通用的技術InterFaceGAN,用于在潛在空間中進行語義人臉編輯,可控制姿勢以及其他面部屬性,例如性別、年齡、眼鏡等,還能夠糾正GAN造成的偽影。

代表性論文:《ACGPN:基于圖像的自適應生成保留虛擬換裝》鏈接:https://arxiv.org/abs/2003.05863

本文關注基于圖像的虛擬換裝任務?,F(xiàn)有方法取得了很多突破但仍然存在很大問題:(1)人物的肢體仍然是模糊的;(2)對于下裝很難做到清楚的保留;(3)衣服的紋理容易產生過度形變。

為此本文利用一種語義敏感的方法,自適應的判斷哪部分圖像是應該保留的,解決了現(xiàn)有方法中無法對人物肢體與衣服有遮擋的情況的建模,極大程度地降低了生成結果中的偽影以及模糊細節(jié);并通過引入仿射變換的共線性等性質,對變形衣服中的薄板樣條插值變換起到約束,使得Logo和花紋不易扭曲變形。 ▎研究方向:三維點云理解與分析 代表性論文:《PV-RCNN: 基于Point-Voxel點云特征深度融合的3D物體檢測算法》鏈接:https://arxiv.org/abs/1912.13192

本文關注基于點云數(shù)據(jù)的三維物體檢測任務。文章提出了一個高性能的3D物體檢測框架PV-RCNN,其通過構造Set Abstraction特征抽象操作將基于Point與Voxel的點云特征提取算法分別在Voxel-to-Keypoint階段和Keypoint-to-RoIGrid 階段深度融合,使其同時擁有可變感受野、精確的點云位置信息以及高召回率,從而有效提升3D物體檢測的性能。

梯度的獨特分布給量化訓練帶來了極大挑戰(zhàn)

實驗部分,PV-RCNN分別在競爭激烈的自動駕駛數(shù)據(jù)集KITTI以及更大規(guī)模的Waymo數(shù)據(jù)集上得到了驗證。在KITTI數(shù)據(jù)集的3D物體檢測榜Car類別上,PV-RCNN大幅領先其他所有算法,在三個難度上均取得了第一名。在更大規(guī)模的Waymo數(shù)據(jù)集上,PV-RCNN同樣在所有難度以及不同距離上超越了現(xiàn)有算法,最高mAP增幅達近7個點。

▎研究方向:訓練加速與模型量化

代表性論文:《用于加速卷積神經網(wǎng)絡訓練過程INT8訓練技術》鏈接//arxiv.org/abs/1912.12607

卷積神經網(wǎng)絡訓練過程需要耗費大量的計算資源和時間,而各種深度學習硬件都提供非常高效的INT8計算支持。當把INT8計算應用到訓練中同時加速網(wǎng)絡的前傳和反傳過程時,梯度的獨特分布給量化訓練帶來了極大挑戰(zhàn)。

為了解決梯度量化帶來的精度損失,論文進行了量化訓練收斂穩(wěn)定性的理論分析并基于此提出了“誤差敏感的學習率調節(jié)”和“基于方向自適應的梯度截斷”方法,將兩個方法在圖像分類數(shù)據(jù)集ImageNet、CIFAR和目標檢測數(shù)據(jù)集PASCAL VOC、COCO上進行實驗,均取得了極少的精度損失。

梯度的獨特分布給量化訓練帶來了極大挑戰(zhàn)

實驗中也驗證了該方法對Inception、MobileNet等不同網(wǎng)絡結構的通用性。為了保證更高的加速比,論文還提出使用周期更新、量化卷積融合等技術來減少量化操作帶來的時間開銷。通過在GTX1080TI上實測,可以提升22%的訓練過程。

研究方向:視頻理解與分析 代表性論文:《TAPOS: 基于時序動作解析理解動作內部和不同動作間的語義》

動作理解是計算機視覺領域的核心問題之一,也是許多其他任務的基石,如智能視頻檢索,基于視覺的機器人學等。本文發(fā)現(xiàn),人本身對于動作序列中子動作模式的轉換是比較敏感的。

在這篇工作中,本文提出了一種時域解析器,可以挖掘人體動作中的子動作模式,并根據(jù)挖掘出的子動作模式對較復雜的動作序列進行時域上的解析。這種時域解析器不但能對一個給定的動作序列進行子動作邊界劃分,還可以找尋大量不同動作序列中相同的子動作模式。本文發(fā)現(xiàn),對較復雜動作序列良好的時域解析可以幫助提升一些較為高層的任務的準確率,如動作識別等。

梯度的獨特分布給量化訓練帶來了極大挑戰(zhàn)

▎研究方向:網(wǎng)絡結構搜索 代表性論文:《最高加速400倍,探索更好的網(wǎng)絡評價方法EcoNas》鏈接:https://arxiv.org/abs/2001.01233 許多網(wǎng)絡搜索算法需要耗費大量的算力,而這些算力絕大多數(shù)集中在候選網(wǎng)絡(Candidate)的評估上。同樣地,由于算力的限制,候選網(wǎng)絡的評估往往需要在代理環(huán)境(Proxy)下進行,如較短的訓練周期數(shù)。雖然每個NAS算法都要用到代理環(huán)境,但是代理環(huán)境對子網(wǎng)絡評估的影響仍然是未知的。 本文的工作首次系統(tǒng)研究了不同代理參數(shù)對網(wǎng)絡評估的影響。作者發(fā)現(xiàn),使用更可靠的代理環(huán)境不僅可以極大壓縮計算量,也有助于搜到更好的模型。基于對代理環(huán)境的研究,作者提出了一個層次化的搜索方法,EcoNAS在將進化算法加速400倍的同時,得到了更好的網(wǎng)絡結構。

梯度的獨特分布給量化訓練帶來了極大挑戰(zhàn)

同樣地,作者發(fā)現(xiàn)可靠的代理環(huán)境也可以被用于其他搜索算法中,例如權重共享算法,在不影響精度的同時,使得搜索效率進一步提升。
責任編輯:pj

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 3D
    3D
    +關注

    關注

    9

    文章

    3025

    瀏覽量

    115676
  • GaN
    GaN
    +關注

    關注

    21

    文章

    2388

    瀏覽量

    84755
  • 商湯科技
    +關注

    關注

    8

    文章

    623

    瀏覽量

    37693
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    零基礎手寫大模型資料2026

    (輸入與輸出相加)和層歸一化(對特征維度歸一化)。殘差連接允許梯度直接流向淺層,解決深層網(wǎng)絡訓練困難問題;層歸一化則消除不同樣本特征分布差異,加速收斂。例如在12層Transformer中,這種設計使
    發(fā)表于 05-01 17:44

    AI Ceph 分布式存儲教程資料大模型學習資料2026

    的混合策略,存儲系統(tǒng)既能保證在硬件故障(如硬盤損壞、節(jié)點宕機)下的數(shù)據(jù)高可靠性,又能提供比傳統(tǒng)多副本更高的存儲利用率。 在分布式環(huán)境下,數(shù)據(jù)一致性是另一個科技挑戰(zhàn)。在模型訓練的 Checkpoint
    發(fā)表于 05-01 17:35

    遼寧光伏發(fā)電專用穩(wěn)壓器,穩(wěn)定輸出380V,卓爾凡應對極寒氣候挑戰(zhàn)

    遼寧作為北方光伏產業(yè)的重要布局區(qū)域,光伏電站主要分布于遼東半島和遼西地區(qū),憑借充足的光照資源,實現(xiàn)了規(guī)?;l(fā)展。但遼寧冬季漫長寒冷、降雪頻繁,夏季短暫炎熱,獨特的氣候條件光伏發(fā)電帶來了
    的頭像 發(fā)表于 04-25 10:41 ?323次閱讀
    遼寧光伏發(fā)電專用穩(wěn)壓器,穩(wěn)定輸出380V,卓爾凡應對極寒氣候<b class='flag-5'>挑戰(zhàn)</b>

    量化模型在 iMX93 NPU 上運行,但輸出不正確怎么解決

    良好的精度,但 int8 輸出似乎完全隨機。在對一些訓練數(shù)據(jù)進行測試后,應該為正的幀的范圍是 -128 到 127,應該為負的幀也是如此。我是否誤解了輸出,或者在轉換或量化模型時出了問題?
    發(fā)表于 03-18 07:53

    【瑞薩AI挑戰(zhàn)賽】手寫數(shù)字識別模型在RA8P1 Titan Board上的部署

    輕量級深度學習模型端側部署的優(yōu)質硬件平臺。本文將基于RA8P1 Titan Board開發(fā)板,結合ruhmi、RT-Thread Studio等工具,從開發(fā)環(huán)境搭建、手寫數(shù)字識別模型訓練、模型轉換量化
    發(fā)表于 03-15 20:42

    農村分布式能源管理系統(tǒng):構建韌性鄉(xiāng)村能源網(wǎng)絡的技術路徑

    一、現(xiàn)狀 在我國鄉(xiāng)村振興戰(zhàn)略與“雙碳”目標的雙重驅動下,農村能源結構正經歷深刻變革。屋頂光伏、小型風電、生物質能等分布式能源的廣泛接入,在提升清潔能源占比的同時,也傳統(tǒng)相對薄弱的農村電網(wǎng)帶來了功率
    的頭像 發(fā)表于 02-25 13:30 ?286次閱讀
    農村<b class='flag-5'>分布</b>式能源管理系統(tǒng):構建韌性鄉(xiāng)村能源網(wǎng)絡的技術路徑

    一鍵部署無損網(wǎng)絡:EasyRoCE助力分布式存儲效能革命

    分布式存儲的性能瓶頸往往在于網(wǎng)絡。如何構建一個高帶寬、超低時延、零丟包的無損網(wǎng)絡,是釋放分布式存儲全部潛力、賦能企業(yè)關鍵業(yè)務(如實時數(shù)據(jù)庫、AI訓練、高性能計算)的關鍵挑戰(zhàn)。
    的頭像 發(fā)表于 08-04 11:34 ?1866次閱讀
    一鍵部署無損網(wǎng)絡:EasyRoCE助力<b class='flag-5'>分布</b>式存儲效能革命

    重新思考 AI 時代的分布式計算

    層次的關注點在于這一效率突破揭示了傳統(tǒng)分布式計算范式與AI工作負載獨特需求之間的根本不匹配。AI技術浪潮對基礎設施選型帶來了深層挑戰(zhàn):當前廣泛部署的
    的頭像 發(fā)表于 07-31 14:25 ?1385次閱讀
    重新思考 AI 時代的<b class='flag-5'>分布</b>式計算

    【「DeepSeek 核心技術揭秘」閱讀體驗】第三章:探索 DeepSeek - V3 技術架構的奧秘

    時間減少,數(shù)據(jù)處理更流暢。這讓我聯(lián)想到工業(yè)生產中的流水線,AI 訓練在此處借鑒類似思路,通過優(yōu)化任務分配和流程,突破硬件限制,追求更高效率,體現(xiàn)了技術發(fā)展中持續(xù)優(yōu)化、突破瓶頸的智慧。 三、細粒度量化
    發(fā)表于 07-20 15:07

    虛擬儲能 + 光伏儲能協(xié)同發(fā)力:安科瑞優(yōu)化策略破解能源管理難題

    在“雙碳”目標的推動下,可再生能源的快速發(fā)展為能源系統(tǒng)帶來了新的挑戰(zhàn)與機遇。分布式光伏的普及使得電力供應更加清潔,但其波動性和間歇性也電網(wǎng)穩(wěn)定運行
    的頭像 發(fā)表于 07-17 09:17 ?1218次閱讀
    虛擬儲能 + 光伏儲能協(xié)同發(fā)力:安科瑞優(yōu)化策略破解能源管理難題

    虛擬儲能系統(tǒng)與分布式光伏儲能協(xié)同優(yōu)化:開啟能源管理新篇章

    引言:能源轉型的新機遇 在“雙碳”目標的推動下,可再生能源的快速發(fā)展為能源系統(tǒng)帶來了新的挑戰(zhàn)與機遇。分布式光伏的普及使得電力供應更加清潔,但其波動性和間歇性也電網(wǎng)穩(wěn)定運行
    的頭像 發(fā)表于 07-10 13:38 ?1406次閱讀
    虛擬儲能系統(tǒng)與<b class='flag-5'>分布</b>式光伏儲能協(xié)同優(yōu)化:開啟能源管理新篇章

    瑞芯微模型量化文件構建

    模型是一張圖片輸入時,量化文件如上圖所示。但是我現(xiàn)在想量化deepprivacy人臉匿名模型,他的輸入是四個輸入。該模型訓練時數(shù)據(jù)集只標注了人臉框和關鍵點,該模型的預處理是放到模型外的,不在模型
    發(fā)表于 06-13 09:07

    分布式I/O在食品包裝行業(yè)中的應用

    備分散分布,距離遠近不一,這信號的采集和傳輸帶來了極大的困難。傳統(tǒng)的布線方式要求所有信號線都連接到主 CPU,導致布線復雜、成本高昂,且信號易受干擾。另一方面,食品包裝行業(yè)對生產過程
    的頭像 發(fā)表于 06-11 17:02 ?936次閱讀
    <b class='flag-5'>分布</b>式I/O在食品包裝行業(yè)中的應用

    算力網(wǎng)絡的“神經突觸”:AI互聯(lián)技術如何重構分布訓練范式

    ? 電子發(fā)燒友網(wǎng)綜合報道 隨著AI技術迅猛發(fā)展,尤其是大型語言模型的興起,對于算力的需求呈現(xiàn)出爆炸性增長。這不僅推動了智算中心的建設,還對網(wǎng)絡互聯(lián)技術提出了新的挑戰(zhàn)。 ? 在AI大模型訓練
    的頭像 發(fā)表于 06-08 08:11 ?7817次閱讀
    算力網(wǎng)絡的“神經突觸”:AI互聯(lián)技術如何重構<b class='flag-5'>分布</b>式<b class='flag-5'>訓練</b>范式

    OCR識別訓練完成后的是空壓縮包,為什么?

    OCR識別 一共弄了26張圖片,都標注好了,點擊開始訓練,顯示訓練成功了,也將壓縮包發(fā)到郵箱了,下載下來后,壓縮包里面是空的 OCR圖片20幾張圖太少了。麻煩您多添加點,參考我們的ocr識別訓練數(shù)據(jù)集 請問
    發(fā)表于 05-28 06:46
    温泉县| 绵阳市| 古交市| 教育| 嫩江县| 赤壁市| 庆阳市| 玉树县| 西盟| 皋兰县| 梨树县| 田东县| 萨嘎县| 青河县| 九台市| 桐城市| 福鼎市| 瓮安县| 建平县| 海安县| 腾冲县| 武定县| 通渭县| 锦屏县| 阿鲁科尔沁旗| 太康县| 古田县| 泽州县| 建始县| 吴江市| 和政县| 大同市| 扶沟县| 伊宁市| 阳东县| 靖州| 扬州市| 靖边县| 神木县| 成都市| 县级市|