電子發(fā)燒友網(wǎng)報(bào)道 近日云天勵(lì)飛表示,公司用DeepEdge10為深空探測(cè)實(shí)驗(yàn)室的自主可控星載計(jì)算提供支撐。DeepEdge10 基于自主可控的先進(jìn)國(guó)產(chǎn)工藝打造,搭載云天勵(lì)飛第四代自研神經(jīng)網(wǎng)絡(luò)處理器 NNP400T。憑借領(lǐng)先的技術(shù)實(shí)力,DeepEdge10 Max承擔(dān)國(guó)家科技部重大專項(xiàng)并通過(guò)驗(yàn)收。未來(lái),云天勵(lì)飛將繼續(xù)努力,用自主研發(fā)AI芯片服務(wù)好國(guó)家重大工程,為建設(shè)航天強(qiáng)國(guó)、科技強(qiáng)國(guó)貢獻(xiàn)力量。
DeepEdge10:里程碑式的國(guó)產(chǎn)邊緣計(jì)算推理芯片系列
DeepEdge10是專為邊緣大模型推理設(shè)計(jì)的SoC芯片。在國(guó)產(chǎn)工藝存在一定限制的背景下,它通過(guò)架構(gòu)創(chuàng)新實(shí)現(xiàn)了高性能算力,解決了這一關(guān)鍵難題。“算力積木”架構(gòu)是DeepEdge10的最大亮點(diǎn)。該芯片采用Chiplet(芯粒)技術(shù),如同搭積木一般,借助D2D(Die-to-Die)和C2C(Chip-to-Chip)互聯(lián)技術(shù),能夠靈活擴(kuò)展算力。此外,DeepEdge10采用國(guó)產(chǎn)14nm工藝制造,實(shí)現(xiàn)了從設(shè)計(jì)到生產(chǎn)的完全自主可控。
在核心IP方面,DeepEdge10搭載了云天勵(lì)飛自研的第四代神經(jīng)網(wǎng)絡(luò)處理器NNP400T,并集成了國(guó)產(chǎn)RISC-V CPU核,為芯片的強(qiáng)大性能提供了有力保障。算力表現(xiàn)上,單芯片算力根據(jù)型號(hào)不同有所差異,覆蓋8Tops到50Tops甚至更高(通過(guò)擴(kuò)展)。通過(guò)C2C Mesh互聯(lián)架構(gòu),算力可實(shí)現(xiàn)無(wú)極擴(kuò)展,統(tǒng)一內(nèi)存帶寬極高,能夠輕松支持百億級(jí)甚至千億級(jí)參數(shù)的大模型在邊緣端部署,滿足了復(fù)雜場(chǎng)景下對(duì)大模型推理的需求。
DeepEdge10對(duì)熱門(mén)大模型的支持方面表現(xiàn)出色。它已全面適配DeepSeek R1系列模型(包括1.5B、7B、32B、70B等參數(shù)規(guī)模),并完成了對(duì)DeepSeek-V3和R1 671B MoE大模型的適配工作。同時(shí),率先完成了對(duì)DeepSeek開(kāi)源的FlashMLA(高效注意力內(nèi)核)的適配,大幅提升了大模型解碼速度和硬件利用率。此外,DeepEdge10已完成對(duì)國(guó)產(chǎn)鴻蒙操作系統(tǒng)(HarmonyOS)的適配,還支持通義千問(wèn)、Llama、SAM等主流開(kāi)源模型,為用戶提供了豐富的選擇。
憑借靈活的算力和強(qiáng)大的大模型支持能力,DeepEdge10已在多個(gè)高精尖領(lǐng)域成功落地。在深空探測(cè)領(lǐng)域,它為星載計(jì)算設(shè)備提供自主可控的算力支撐,應(yīng)用于天都一號(hào)/二號(hào)等衛(wèi)星任務(wù);在機(jī)器人領(lǐng)域,為服務(wù)機(jī)器人、移動(dòng)機(jī)器人提供環(huán)境感知和決策能力;在智慧城市與安防領(lǐng)域,用于邊緣視頻分析、交通管理(如“深目”AI盒子);在智慧教育領(lǐng)域,應(yīng)用于AI學(xué)習(xí)機(jī)、拍學(xué)機(jī)等消費(fèi)級(jí)教育硬件中。
NNP400T:DeepEdge10的核心算力引擎
NNP400T(代號(hào)Nova 400)是云天勵(lì)飛第四代自研神經(jīng)網(wǎng)絡(luò)處理器(NPU),作為DeepEdge10系列芯片的核心算力引擎,它專為解決大模型在邊緣端的高效推理而設(shè)計(jì)。
NNP400T是云天勵(lì)飛歷經(jīng)10年、五代NPU研發(fā)的結(jié)晶,代表了其最新的指令集架構(gòu)和硬件設(shè)計(jì)思想。它采用第二代異構(gòu)多核架構(gòu),能夠更高效地協(xié)同處理復(fù)雜的AI計(jì)算任務(wù)和通用計(jì)算任務(wù)?!?a href="http://m.sdkjxy.cn/v/tag/2562/" target="_blank">算法芯片化”是云天勵(lì)飛的核心設(shè)計(jì)理念,NNP400T的硬件設(shè)計(jì)深度融合了對(duì)算法的理解,將算法的關(guān)鍵計(jì)算任務(wù)在硬件上進(jìn)行最優(yōu)化執(zhí)行,從而在實(shí)際應(yīng)用中發(fā)揮極致效能。
針對(duì)當(dāng)前主流的大模型架構(gòu)(如Transformer、BEV、LLM等),NNP400T在硬件層面進(jìn)行了原生支持和優(yōu)化,這是其能高效運(yùn)行大模型推理的關(guān)鍵所在。它成功適配了FlashMLA(Multi-Head Latte Attention)等針對(duì)大模型可變長(zhǎng)度序列優(yōu)化的算子,顯著提升了大模型推理時(shí)的解碼速度和硬件利用率,有效解決了長(zhǎng)序列處理中的效率瓶頸。憑借其架構(gòu)優(yōu)勢(shì),NNP400T能夠高效支持包括DeepSeek、通義千問(wèn)、Llama等在內(nèi)的多種主流大模型的推理需求。
作為DeepEdge10系列的心臟,NNP400T賦予了芯片系列強(qiáng)大的算力。例如,在旗艦型號(hào)DeepEdge10 Max上,單芯片即可提供高達(dá)50 Tops的算力,足以支撐百億級(jí)大模型在邊緣端的實(shí)時(shí)推理。搭載NNP400T的DeepEdge10系列芯片已在多個(gè)領(lǐng)域?qū)崿F(xiàn)商業(yè)化應(yīng)用。
總之,DeepEdge10不僅僅是一款芯片,它是一個(gè)全棧自主的邊緣AI計(jì)算平臺(tái)。它通過(guò)Chiplet架構(gòu)創(chuàng)新,證明了國(guó)產(chǎn)工藝芯片同樣能夠勝任大模型推理的重任,是目前國(guó)產(chǎn)邊緣AI芯片中的佼佼者。而NNP400T作為其核心算力引擎,是云天勵(lì)飛“算法芯片化”能力的集大成者,通過(guò)軟硬件的深度協(xié)同,成功地將大模型的推理能力帶到了資源受限的邊緣端。
DeepEdge10:里程碑式的國(guó)產(chǎn)邊緣計(jì)算推理芯片系列
DeepEdge10是專為邊緣大模型推理設(shè)計(jì)的SoC芯片。在國(guó)產(chǎn)工藝存在一定限制的背景下,它通過(guò)架構(gòu)創(chuàng)新實(shí)現(xiàn)了高性能算力,解決了這一關(guān)鍵難題。“算力積木”架構(gòu)是DeepEdge10的最大亮點(diǎn)。該芯片采用Chiplet(芯粒)技術(shù),如同搭積木一般,借助D2D(Die-to-Die)和C2C(Chip-to-Chip)互聯(lián)技術(shù),能夠靈活擴(kuò)展算力。此外,DeepEdge10采用國(guó)產(chǎn)14nm工藝制造,實(shí)現(xiàn)了從設(shè)計(jì)到生產(chǎn)的完全自主可控。
在核心IP方面,DeepEdge10搭載了云天勵(lì)飛自研的第四代神經(jīng)網(wǎng)絡(luò)處理器NNP400T,并集成了國(guó)產(chǎn)RISC-V CPU核,為芯片的強(qiáng)大性能提供了有力保障。算力表現(xiàn)上,單芯片算力根據(jù)型號(hào)不同有所差異,覆蓋8Tops到50Tops甚至更高(通過(guò)擴(kuò)展)。通過(guò)C2C Mesh互聯(lián)架構(gòu),算力可實(shí)現(xiàn)無(wú)極擴(kuò)展,統(tǒng)一內(nèi)存帶寬極高,能夠輕松支持百億級(jí)甚至千億級(jí)參數(shù)的大模型在邊緣端部署,滿足了復(fù)雜場(chǎng)景下對(duì)大模型推理的需求。
DeepEdge10對(duì)熱門(mén)大模型的支持方面表現(xiàn)出色。它已全面適配DeepSeek R1系列模型(包括1.5B、7B、32B、70B等參數(shù)規(guī)模),并完成了對(duì)DeepSeek-V3和R1 671B MoE大模型的適配工作。同時(shí),率先完成了對(duì)DeepSeek開(kāi)源的FlashMLA(高效注意力內(nèi)核)的適配,大幅提升了大模型解碼速度和硬件利用率。此外,DeepEdge10已完成對(duì)國(guó)產(chǎn)鴻蒙操作系統(tǒng)(HarmonyOS)的適配,還支持通義千問(wèn)、Llama、SAM等主流開(kāi)源模型,為用戶提供了豐富的選擇。
憑借靈活的算力和強(qiáng)大的大模型支持能力,DeepEdge10已在多個(gè)高精尖領(lǐng)域成功落地。在深空探測(cè)領(lǐng)域,它為星載計(jì)算設(shè)備提供自主可控的算力支撐,應(yīng)用于天都一號(hào)/二號(hào)等衛(wèi)星任務(wù);在機(jī)器人領(lǐng)域,為服務(wù)機(jī)器人、移動(dòng)機(jī)器人提供環(huán)境感知和決策能力;在智慧城市與安防領(lǐng)域,用于邊緣視頻分析、交通管理(如“深目”AI盒子);在智慧教育領(lǐng)域,應(yīng)用于AI學(xué)習(xí)機(jī)、拍學(xué)機(jī)等消費(fèi)級(jí)教育硬件中。
NNP400T:DeepEdge10的核心算力引擎
NNP400T(代號(hào)Nova 400)是云天勵(lì)飛第四代自研神經(jīng)網(wǎng)絡(luò)處理器(NPU),作為DeepEdge10系列芯片的核心算力引擎,它專為解決大模型在邊緣端的高效推理而設(shè)計(jì)。
NNP400T是云天勵(lì)飛歷經(jīng)10年、五代NPU研發(fā)的結(jié)晶,代表了其最新的指令集架構(gòu)和硬件設(shè)計(jì)思想。它采用第二代異構(gòu)多核架構(gòu),能夠更高效地協(xié)同處理復(fù)雜的AI計(jì)算任務(wù)和通用計(jì)算任務(wù)?!?a href="http://m.sdkjxy.cn/v/tag/2562/" target="_blank">算法芯片化”是云天勵(lì)飛的核心設(shè)計(jì)理念,NNP400T的硬件設(shè)計(jì)深度融合了對(duì)算法的理解,將算法的關(guān)鍵計(jì)算任務(wù)在硬件上進(jìn)行最優(yōu)化執(zhí)行,從而在實(shí)際應(yīng)用中發(fā)揮極致效能。
針對(duì)當(dāng)前主流的大模型架構(gòu)(如Transformer、BEV、LLM等),NNP400T在硬件層面進(jìn)行了原生支持和優(yōu)化,這是其能高效運(yùn)行大模型推理的關(guān)鍵所在。它成功適配了FlashMLA(Multi-Head Latte Attention)等針對(duì)大模型可變長(zhǎng)度序列優(yōu)化的算子,顯著提升了大模型推理時(shí)的解碼速度和硬件利用率,有效解決了長(zhǎng)序列處理中的效率瓶頸。憑借其架構(gòu)優(yōu)勢(shì),NNP400T能夠高效支持包括DeepSeek、通義千問(wèn)、Llama等在內(nèi)的多種主流大模型的推理需求。
作為DeepEdge10系列的心臟,NNP400T賦予了芯片系列強(qiáng)大的算力。例如,在旗艦型號(hào)DeepEdge10 Max上,單芯片即可提供高達(dá)50 Tops的算力,足以支撐百億級(jí)大模型在邊緣端的實(shí)時(shí)推理。搭載NNP400T的DeepEdge10系列芯片已在多個(gè)領(lǐng)域?qū)崿F(xiàn)商業(yè)化應(yīng)用。
總之,DeepEdge10不僅僅是一款芯片,它是一個(gè)全棧自主的邊緣AI計(jì)算平臺(tái)。它通過(guò)Chiplet架構(gòu)創(chuàng)新,證明了國(guó)產(chǎn)工藝芯片同樣能夠勝任大模型推理的重任,是目前國(guó)產(chǎn)邊緣AI芯片中的佼佼者。而NNP400T作為其核心算力引擎,是云天勵(lì)飛“算法芯片化”能力的集大成者,通過(guò)軟硬件的深度協(xié)同,成功地將大模型的推理能力帶到了資源受限的邊緣端。
聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
AI芯片
+關(guān)注
關(guān)注
17文章
2166瀏覽量
36869 -
云天勵(lì)飛
+關(guān)注
關(guān)注
0文章
186瀏覽量
12698 -
邊緣AI
+關(guān)注
關(guān)注
1文章
271瀏覽量
6219
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
云天勵(lì)飛完成DeepSeek-V4系列模型關(guān)鍵機(jī)制適配驗(yàn)證
4月24日,DeepSeek-V4 系列模型發(fā)布。圍繞該模型 CSA/HCA 混合注意力機(jī)制帶來(lái)的新型計(jì)算需求,云天勵(lì)飛依托自
云天勵(lì)飛中標(biāo)湛江市AI滲透支撐新質(zhì)生產(chǎn)力基礎(chǔ)設(shè)施建設(shè)項(xiàng)目
日前,云天勵(lì)飛中標(biāo)湛江市AI滲透支撐新質(zhì)生產(chǎn)力基礎(chǔ)設(shè)施建設(shè)項(xiàng)目。根據(jù)項(xiàng)目規(guī)劃,公司將基于自研國(guó)產(chǎn)
國(guó)內(nèi)首個(gè)國(guó)產(chǎn)AI推理千卡集群落地,采用云天勵(lì)飛全自研AI推理芯片
3 月 12 日,云天勵(lì)飛中標(biāo)湛江市AI滲透支撐新質(zhì)生產(chǎn)力基礎(chǔ)設(shè)施建設(shè)項(xiàng)目,中標(biāo)金額4.2億元。項(xiàng)目將基于云天
發(fā)表于 03-12 11:10
?1334次閱讀
云天勵(lì)飛正式舉辦大算力芯片戰(zhàn)略前瞻會(huì)
2月3日,云天勵(lì)飛正式舉辦“大算力芯片戰(zhàn)略前瞻會(huì)”,首次對(duì)外公布未來(lái)三年的大算力 AI 推理芯片戰(zhàn)略布局。
云天勵(lì)飛中標(biāo)AI龍崗一期1.22億元項(xiàng)目
日前,云天勵(lì)飛中標(biāo)AI龍崗一期1.22億元項(xiàng)目,將為龍崗區(qū)打造AI與機(jī)器人示范場(chǎng)景提供技術(shù)支撐,助力城市治理智能化水平持續(xù)提升。
AI教父Hinton對(duì)話云天勵(lì)飛陳寧
在大模型步入深水區(qū)的當(dāng)下,AI 的下一個(gè)臨界點(diǎn)究竟在哪里?在 2025 GIS 全球創(chuàng)新峰會(huì)現(xiàn)場(chǎng),深度學(xué)習(xí)奠基人、“AI 教父” Geoffrey Hinton 與云天勵(lì)飛董事長(zhǎng)兼 CEO 陳寧
云天勵(lì)飛AI推理芯片如何賦能千行百業(yè)
11月26日,云天會(huì)客廳第二期生態(tài)沙龍暨深商聯(lián)高科技高成長(zhǎng)創(chuàng)新?tīng)I(yíng)走進(jìn)上市公司活動(dòng)圓滿舉辦。來(lái)自深圳科技領(lǐng)域的多位企業(yè)負(fù)責(zé)人齊聚云天勵(lì)飛,共同探討AI推理時(shí)代的技術(shù)變革、產(chǎn)業(yè)機(jī)遇與落地挑
云天勵(lì)飛亮相2025中國(guó)具身智能機(jī)器人大會(huì)
近日,在 2025 中國(guó)具身智能機(jī)器人大會(huì)上,云天勵(lì)飛副總裁羅憶從芯片廠商的視角出發(fā),對(duì)具身智能產(chǎn)業(yè)的未來(lái)進(jìn)行了深入剖析,并分享了公司在 AI 推理芯片與機(jī)器人應(yīng)用場(chǎng)景方面的整體布局。
云天勵(lì)飛與金蝶達(dá)成戰(zhàn)略合作
11月4日,在2025金蝶全球創(chuàng)見(jiàn)者大會(huì)上,云天勵(lì)飛與金蝶簽署戰(zhàn)略合作協(xié)議。
云天勵(lì)飛攜手合作伙伴共探AI產(chǎn)業(yè)新拐點(diǎn)
10月17日,云天勵(lì)飛攜手深圳市人工智能產(chǎn)業(yè)協(xié)會(huì)舉辦“智見(jiàn)未來(lái)·Agent時(shí)代的產(chǎn)業(yè)機(jī)遇”主題沙龍,邀請(qǐng)來(lái)自全國(guó)50余家企業(yè)高管齊聚深圳,共同探討AI時(shí)代的新趨勢(shì)、新挑戰(zhàn)與新機(jī)遇。
云天勵(lì)飛亮相2025灣區(qū)半導(dǎo)體產(chǎn)業(yè)生態(tài)博覽會(huì)
在2025灣區(qū)半導(dǎo)體產(chǎn)業(yè)生態(tài)博覽會(huì)(灣芯展)上,云天勵(lì)飛以“算力積木”為核心理念,攜全棧AI推理產(chǎn)品體系重磅亮相,集中展示了從芯片到模組再到整機(jī)的完整布局,全面呈現(xiàn)在AI推理領(lǐng)域的最新
云天勵(lì)飛正式加入OISA生態(tài)
近日,云天勵(lì)飛正式加入 OISA 生態(tài),攜手產(chǎn)業(yè)伙伴共同推動(dòng)國(guó)產(chǎn) AI 芯片互聯(lián)體系建設(shè),為中國(guó)算力生態(tài)注入新的動(dòng)力。
云天勵(lì)飛亮相2025全球AI芯片峰會(huì)
9 月 17 日,全球 AI 芯片峰會(huì)在上海舉行,云天勵(lì)飛董事長(zhǎng)兼 CEO 陳寧出席并發(fā)表演講。
云天勵(lì)飛亮相SEMI-e 2025深圳國(guó)際半導(dǎo)體展
9月10日,SEMI-e深圳國(guó)際半導(dǎo)體展暨2025集成電路產(chǎn)業(yè)創(chuàng)新展在深圳舉行。云天勵(lì)飛受邀出席同期舉辦的“端側(cè)AI芯片新架構(gòu)與新應(yīng)用專題研討會(huì)”并發(fā)表主題演講。
云天勵(lì)飛出席2025亞布力論壇創(chuàng)新年會(huì)
近日,2025 亞布力論壇第十一屆創(chuàng)新年會(huì)在杭州開(kāi)幕,云天勵(lì)飛董事長(zhǎng)兼 CEO 陳寧博士受邀出席,分享了他對(duì)未來(lái) AI 產(chǎn)業(yè)化發(fā)展的趨勢(shì)研判。
云天勵(lì)飛DeepEdge10為星載計(jì)算提供支撐,搭載自研NNP400T
評(píng)論