ONNX Runtime支持龍架構(gòu)，AI推理生態(tài)再添新翼
近日，備受矚目的AI推理框架開源社區(qū)ONNX Runtime宣布推出支持龍架構(gòu)的新版本1.17.0，這一里程碑式的更新意味著龍芯平臺上的AI推理應用開發(fā)與部署將更加便捷。
ONNX Runtime（ORT）作為近年來興起的AI推理框架軟件，已逐漸成為眾多AI應用的首選基礎推理引擎。此次更新不僅豐富了ORT的算力后端支持，更在軟件生態(tài)層面為龍架構(gòu)注入了新的活力。新版本將支持PyTorch、Tensorflow、TFLite等多種模型格式輸入，覆蓋CPU、GPU、IoT、NPU、FPGA等多樣化算力平臺，從而滿足各種復雜的AI推理需求。
此次ONNX Runtime對龍架構(gòu)的支持，無疑將進一步推動龍芯平臺在AI領(lǐng)域的應用和發(fā)展，為開發(fā)者提供更加廣闊的創(chuàng)新空間。同時，這也標志著龍架構(gòu)軟件生態(tài)正在不斷完善，為未來的AI技術(shù)革新奠定了堅實基礎。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
龍芯
+關(guān)注
關(guān)注
3文章
446瀏覽量
32966 -
AI
+關(guān)注
關(guān)注
91文章
41324瀏覽量
302703 -
開源
+關(guān)注
關(guān)注
3文章
4368瀏覽量
46467
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
黑馬-Java+AI新版V16零基礎就業(yè)班百度云網(wǎng)盤下載+Java+AI全棧開發(fā)工程師
的系統(tǒng)性能力升級。本文從技術(shù)實戰(zhàn)視角，拆解 Java 生態(tài)擁抱 AI 能力的核心路徑與工程要點。（搜星 課it。top）
一、融合架構(gòu)范式：從“調(diào)用式集成”到“嵌入式智能”
傳統(tǒng) Java 應用引入
發(fā)表于 05-01 11:29
[完結(jié)15章]Java轉(zhuǎn) AI高薪領(lǐng)域必備-從0到1打通生產(chǎn)級AI Agent開發(fā)
編寫的推理引擎（如TensorRT、ONNX Runtime）進行無縫對接。將訓練好的模型封裝為標準的Java微服務，利用JVM的內(nèi)存管理與線程池技術(shù)，去承載企業(yè)級高吞吐的AI
發(fā)表于 04-30 13:46
江波龍亮相2026 AMD渠道 新興伙伴生態(tài)大會，以集成存儲共建端側(cè)AI生態(tài)
近日，以“千幀聚勢競贏AI駿啟生態(tài)”為主題的2026AMD渠道&新興伙伴生態(tài)大會順利舉辦。作為AMD全球核心生態(tài)合作伙伴，江波龍攜端側(cè)
是德科技推出全新AI推理仿真平臺
是德科技（NYSE: KEYS）近日推出KAI推理構(gòu)建器（Keysight AI Inference Builder），這款仿真與分析平臺旨在大規(guī)模驗證針對推理進行優(yōu)化的AI基礎設施。
OrangePi RV2 深度技術(shù)評測：RISC-V AI融合架構(gòu)的先行者
2 TOPS 融合算力 ：在端側(cè)輕量模型（如MobileNet、DeepSeek-R1蒸餾版）上可流暢運行
框架支持 ：官方宣稱兼容主流AI生態(tài)（TensorFlow Lite、ONNX
發(fā)表于 03-03 20:19
水晶光電在ESG與AI領(lǐng)域再添殊榮
近日，水晶光電再添殊榮！憑借在可持續(xù)發(fā)展領(lǐng)域的扎實實踐與人工智能技術(shù)的前沿探索，公司接連榮獲三獎，這充分體現(xiàn)了其堅持雙軌發(fā)展所取得的堅實成就與強大實力。
算力積木+3D堆疊！GPNPU架構(gòu)創(chuàng)新，應對AI推理需求
落地的關(guān)鍵瓶頸。在此背景下，云天勵飛推出其第五代芯片架構(gòu)——GPNPU（General-Purpose Neural Processing Unit，通用神經(jīng)網(wǎng)絡處理單元），以一場底層架構(gòu)的革命，試圖重塑AI算力格局，推動大模型
AI共創(chuàng)，江波龍攜AI存儲創(chuàng)新方案亮相2025數(shù)智科技生態(tài)大會
12月5至7日，由中國電信主辦的“智能領(lǐng)航智惠共生”2025數(shù)智科技生態(tài)大會在廣州盛大啟幕。作為中國電信數(shù)智生態(tài)的參與者，江波龍受邀出席本次行業(yè)盛會，企業(yè)級存儲事業(yè)部市場總監(jiān)劉洋發(fā)表《AI
Alif Semiconductor的Ensemble MCU新增對ExecuTorch Runtime的支持，助力其推動邊緣生成式AI發(fā)展
·?Ensemble E4/E6/E8是業(yè)界首個為Transformer網(wǎng)絡提供硬件加速的MCU系列，可在邊緣設備及終端設備上實現(xiàn)本地生成式AI推理 ·?Alif與Arm合作，在PyTorch大會上
BPI-AIM7 RK3588 AI與 Nvidia Jetson Nano 生態(tài)系統(tǒng)兼容的低功耗 AI 模塊
。它是開源硬件，我們已在線發(fā)布設計文檔，包括原理圖和接口定義。其異構(gòu)計算架構(gòu)兼容 NVIDIA Jetson Nano 接口標準，非常適合邊緣計算、AI 推理、VR/AR、智能 NVR 系統(tǒng)以及通用
發(fā)表于 10-11 09:08
2025龍架構(gòu)教育生態(tài)大會圓滿收官
近日，2025龍架構(gòu)教育生態(tài)大會暨信息技術(shù)與自主創(chuàng)新產(chǎn)教融合共同體第三次全體大會暨寧夏AI教育生態(tài)大會成功舉辦。國內(nèi)教育領(lǐng)域權(quán)威專家、科研院
onnx模型轉(zhuǎn)換rknn模型出現(xiàn)問題
the inputs/outputs or the model.
我并沒有找到解決方案,我嘗試了直接使用onnxruntime進行onnx推理，可以完成，但是為什么onnx轉(zhuǎn)換為rknn時會報錯。這些事一些相關(guān)
發(fā)表于 08-11 11:25
請問如何在RK3588上使用npu，用onnx模型來推理
請問如何在瑞芯微 RK3588上使用npu，用onnx模型來推理。官網(wǎng)上介紹說要把ONNX模型轉(zhuǎn)換成RKNN模型。但是我并不想這么干，請問有什么辦法嗎？
發(fā)表于 08-09 00:51
信而泰×DeepSeek：AI推理引擎驅(qū)動網(wǎng)絡智能診斷邁向 “自愈”時代
DeepSeek-R1：強大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基礎技術(shù)研究有限公司開發(fā)的新一代AI大模型。其核心優(yōu)勢在于強大的推理引擎能力，融合了自然語言處理（
發(fā)表于 07-16 15:29
Nordic收購 Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析
與 Nordic 的 nRF54 系列超低功耗無線 SoC 結(jié)合，使得即使是資源極為有限的設備也能高效運行邊緣 AI。Nordic 目前正在將 Neuton 深度集成到自身開發(fā)生態(tài)中，未來會提供更多工具、固件
發(fā)表于 06-28 14:18
評論