日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何優(yōu)化AI SoC及其上面運行的軟件

半導體芯科技SiSC ? 來源:半導體芯科技SiSC ? 作者:半導體芯科技SiS ? 2022-06-15 14:35 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

人工智能機器學習應用數據處理的強勁需求下,大規(guī)模并行計算迅速興起,導致芯片復雜性呈現(xiàn)爆炸式增長。這種復雜性體現(xiàn)在 Cerebras 晶圓級引擎等設計中,該設計是一種平鋪多核、多晶片設計,將晶體管數量增加至數萬億個,擁有近百萬個計算內核。

人工智能 (AI) SoC 的市場持續(xù)增長,競爭也日趨激烈。半導體公司根據性能、成本和靈活性,來找到自己的定位,并不斷自我優(yōu)化,從而導致了新型多核架構的爆發(fā)式增長。系統(tǒng)架構師正在嘗試不同的方法,希望可以將這種復雜性轉化為競爭優(yōu)勢。

在所有復雜性來源中,有一個在多核 AI SoC 中非常重要的來源:即當有多個線程在共享數據上并行運行時,會出現(xiàn)功能錯誤和性能降低問題。過去,設計人員可以使用經典的 CPU 運行控制來調試問題,但這種方法對多核架構并無效果。導致軟件問題的根本原因錯綜復雜,包括往返時延、內核數量、控制和數據并行、多層層次結構和互相依賴的進程,設計人員從中找出真正根源的機會渺茫。

另外,設計人員還需要考慮軟硬件協(xié)同優(yōu)化,這需要大量的功能分析。為了在 SoC 上部署 AI 應用,設計人員必須編譯源代碼,以充分利用多核架構。這通常需要充分了解 SoC 架構的定制工具鏈。這個過程包括一個硬件和軟件優(yōu)化及測試周期,從 SOC 仿真開始,一直貫穿至第一次投片和后續(xù)器件迭代。

通過這一功能分析周期,團隊能夠了解以下內容:

· 數據共享的效率;

· 片上網絡 (NoC) 是否超載或不平衡;

· 如何在不影響代碼執(zhí)行的情況下評估應用性能;

· 如何優(yōu)化內存控制器配置文件以提升數據處理能力;

· 如何關聯(lián)整個 SoC 中的事件;

要做到這一點,我們需要一種全新的方法來優(yōu)化 AI SoC 及其上面運行的軟件。要將高質量的 AI SoC 及時推向市場并在完成部署后保持性能,必須要進行系統(tǒng)范圍的功能分析。系統(tǒng)范圍功能分析的部分功能包括:

· 深入洞察子系統(tǒng)或組件 ;

· 對整個系統(tǒng)從啟動開始的準確、連貫的全景圖;

· 事物感知(Transaction-aware) 的互連監(jiān)控和統(tǒng)計信息;

· 傳統(tǒng)的處理器運行控制和追蹤;

· 支持所有常見的指令集和互連協(xié)議;

· 提供選擇或更改重要子系統(tǒng)的靈活性;

· 用于產生數據可見性的靈活強大的工具;

用于監(jiān)控和分析 IP 的片上基礎架構和軟件提供了所有這些功能,覆蓋范圍可從仿真到部署。下圖即顯示了 SoC 功能監(jiān)控和分析的典型架構。

接下來的圖中展示的示例是一個多核芯片配備片上網絡 (NoC) 監(jiān)視器,可跟蹤所有 NoC 事務到循環(huán)緩沖器。由于 NoC 監(jiān)視器具有事務感知功能,可將其配置為檢測特定總線條件,例如導致事務持續(xù)時間超過特定閾值(按周期數計算)的死鎖。當超過閾值時,NoC 監(jiān)視器可以輸出死鎖事務以及之前事務的詳細信息,以便對問題進行診斷。

同一個 NoC 監(jiān)視器也可配置為在檢測到相同死鎖條件時——例如通過跟蹤硬件加速器行為的狀態(tài)監(jiān)視器模塊——使用嵌入式分析消息基礎設施的交叉觸發(fā)功能,在系統(tǒng)中的其他位置觸發(fā)跟蹤。

了解實施有效的系統(tǒng)驗證和優(yōu)化環(huán)境時涉及的問題,是成功交付多核 SoC 的關鍵,與該領域內的專業(yè)供應商合作可實現(xiàn)事半功倍的效果。

審核編輯:湯梓紅
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • soc
    soc
    +關注

    關注

    40

    文章

    4643

    瀏覽量

    230467
  • AI
    AI
    +關注

    關注

    91

    文章

    41689

    瀏覽量

    302924
  • 人工智能
    +關注

    關注

    1821

    文章

    50447

    瀏覽量

    267453
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    恩智浦全新i.MX 937應用處理器助力優(yōu)化邊緣AI設計

    i.MX 937片上系統(tǒng) (SoC) 在可靠且可擴展的平臺上平衡了高性能邊緣AI與成本及功耗優(yōu)化的設計。
    的頭像 發(fā)表于 05-11 10:39 ?721次閱讀
    恩智浦全新i.MX 937應用處理器助力<b class='flag-5'>優(yōu)化</b>邊緣<b class='flag-5'>AI</b>設計

    黑馬-Java+AI新版V16零基礎就業(yè)班百度云網盤下載+Java+AI全棧開發(fā)工程師

    差異。 二、Java 推理引擎選型與性能優(yōu)化AI 模型跑在 JVM 內,最大的技術挑戰(zhàn)是性能。傳統(tǒng) Python 生態(tài)依靠原生 C++ 后端與高效內存管理獲得推理速度,而 Java 需通過橋接技術
    發(fā)表于 05-01 11:29

    如何使用AI優(yōu)化PCBA熱源分布?

    通過AI技術優(yōu)化PCBA板上的熱源(各類元器件,如芯片、電阻、電容等)分布,核心目標是精準控制PCBA的最高溫度,同時降低熱應力(避免因溫度梯度、熱膨脹不均導致的焊點開裂、PCB變形等問題)。這是
    的頭像 發(fā)表于 04-01 09:20 ?201次閱讀
    如何使用<b class='flag-5'>AI</b><b class='flag-5'>優(yōu)化</b>PCBA熱源分布?

    邊緣AI算力臨界點:深度解析176TOPS香橙派AI Station的產業(yè)價值

    310P芯片的底層架構,深度剖析這款產品的技術細節(jié)、算力門檻及其在實際產業(yè)落地中的真實價值。 一、176TOPS的產業(yè)門檻:為何這是邊緣算力的新起點? AI硬件的核心指標始終是算力,但不同層級的算力決定
    發(fā)表于 03-10 14:19

    Danalto Cardina框架成功集成Qorvo UWB SoC及SDK

    定位智能軟件領域的先驅企業(yè)Danalto近日宣布,其Cardinal云定位引擎(CLE)已成功集成Qorvo最新推出的超寬帶(UWB)系統(tǒng)級芯片(SoC及其面向工業(yè)與企業(yè)應用的軟件
    的頭像 發(fā)表于 03-03 09:44 ?512次閱讀

    使用NORDIC AI的好處

    <5 KB),可在任何 Nordic SoC/SiP 的主 CPU 上運行,適合加速度計、IMU、PPG、溫度、電流等時序傳感器數據的 AI 任務。[Nordic Edge AI
    發(fā)表于 01-31 23:16

    瑞芯微SOC智能視覺AI處理器

    。B2版本通常在功耗、穩(wěn)定性和部分外圍接口支持上有所優(yōu)化。NPU: 集成0.8 TOPS的NPU,支持INT8/INT16混合運算,能滿足大多數邊緣側的輕量級AI推理需求(如分類、檢測、識別)。多媒體
    發(fā)表于 12-19 13:44

    融合AI的OpenHarmony應用軟件開發(fā):ai學習自律輔助軟件

    *附件:ai study.zip*附件:融合AI的OpenHarmony應用軟件開發(fā):ai學習自律輔助軟件.pdf 基于開源鴻蒙編寫的
    發(fā)表于 11-12 15:38

    2025年AI 智能終端和SoC芯片解讀

    電子發(fā)燒友網站提供《2025年AI 智能終端和SoC芯片解讀.pptx》資料免費下載
    發(fā)表于 09-15 16:38 ?623次下載

    使用Altera SoC FPGA提升AI信道估計效率

    開銷急劇擴大,導致上行帶寬的利用率出現(xiàn)瓶頸。 ? 為應對這一挑戰(zhàn),Altera 正依托?Agilex SoC FPGA,提供由 AI 驅動的 CSI 壓縮解決方案。結合 Altera 的?FPGA
    的頭像 發(fā)表于 08-26 16:27 ?3845次閱讀

    超小型Neuton機器學習模型, 在任何系統(tǒng)級芯片(SoC)上解鎖邊緣人工智能應用.

    個高度優(yōu)化、快速而準確的ML 模型,你所需要的只是一個數據集。Neuton 模型可以在任何Nordic SoC運行、Neuton 模型可以在任何Nordic SoC(如我們的旗艦產
    發(fā)表于 07-31 11:38

    大家都在用什么AI軟件?有沒有好用的免費的AI軟件推薦一下?

    大家都在用什么AI軟件?有沒有好用的免費的AI軟件推薦一下?直接發(fā)個安裝包,謝謝。比如deepseek、Chatgpt、豆包、阿里AI、百度
    發(fā)表于 07-09 18:30

    Nordic收購 Neuton.AI 關于產品技術的分析

    與 Nordic 的 nRF54 系列超低功耗無線 SoC 結合,使得即使是資源極為有限的設備也能高效運行邊緣 AI。Nordic 目前正在將 Neuton 深度集成到自身開發(fā)生態(tài)中,未來會提供更多工具、固件
    發(fā)表于 06-28 14:18

    AI SoC #BK7258 AI能力和技術參數深度解讀

    BK7258芯片AI能力深度解讀 BK7258是博通集成推出的一款高集成度Wi-Fi 6+藍牙5.4低功耗音視頻SoC芯片,其AI能力通過硬件加速、算法優(yōu)化及生態(tài)整合實現(xiàn),覆蓋邊緣計算
    的頭像 發(fā)表于 06-20 09:44 ?7712次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>SoC</b> #BK7258 <b class='flag-5'>AI</b>能力和技術參數深度解讀

    RISC-V架構下AI融合算力及其軟件棧實踐

    面對未來大模型(LLM)、AIGC等智能化浪潮的挑戰(zhàn),進迭時空在RISC-V方向全面布局,通過精心設計的RISC-VDSA架構以及軟硬一體的優(yōu)化策略,將全力為未來打造高效且易用的AI算力解決方案
    的頭像 發(fā)表于 06-06 17:04 ?1643次閱讀
    RISC-V架構下<b class='flag-5'>AI</b>融合算力<b class='flag-5'>及其</b><b class='flag-5'>軟件</b>棧實踐
    武鸣县| 南靖县| 贡觉县| 怀集县| 扬中市| 宾阳县| 隆化县| 延川县| 海淀区| 茂名市| 通许县| 环江| 阜新市| 神农架林区| 普兰县| 平和县| 星子县| 新密市| 蓬安县| 商南县| 云安县| 南通市| 保定市| 剑川县| 苍梧县| 安宁市| 新兴县| 隆德县| 南汇区| 巫溪县| 云南省| 永年县| 南陵县| 云安县| 道真| 孝义市| 东乡| 黄石市| 仙游县| 黔东| 项城市|