日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

云天勵飛DeepEdge10適配DeepSeek開源周“首個大招”:FlashMLA

AI機械姬 ? 來源:AI機械姬 ? 作者:AI機械姬 ? 2025-02-27 11:06 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

2 月 24 日,DeepSeek"開源周"正式啟動,并發(fā)布首個代碼庫FlashMLA,引發(fā)全球關注。

FlashMLA是針對英偉達Hopper GPU優(yōu)化的高效MLA解碼內核,專為可變長度序列優(yōu)化設計,是DeepSeek高效使用算力的核心程序模塊。FlashMLA通過MLA解碼優(yōu)化與分頁KV緩存技術,顯著提升硬件利用率,加速大語言模型解碼過程,有效提高響應速度與吞吐量,適用于各種實時對話生成場景。

云天勵飛芯片團隊在FlashMLA開源后,迅速完成了DeepEdge10 平臺與FlashMLA的適配工作。在適配過程中,云天勵飛采用了Op fusion tiling、Online softmax、Double buffer、細粒度存算并行等先進技術,并基于自研的Triton-like編程語言快速開發(fā)驗證了高效的FlashMLA算子。通過一系列優(yōu)化,不僅顯著提升了計算效率,還大幅降低了顯存占用,充分展現(xiàn)了DeepEdge10 平臺“算力積木”芯片架構的卓越優(yōu)勢,以及其與DeepSeek生態(tài)的高度契合性。

今日,云天勵飛已將相關代碼提交至開源平臺Gitee,為開源AI貢獻了重要的技術力量。

算子的源碼地址為:

https://gitee.com/Intellifusion_2025/tyllm/blob/master/python/tylang/flash_mla.py

DeepEdge10 系列芯片是專門針對大模型時代打造的芯片,支持包括 Transformer 模型、BEV 模型、CV 大模型、LLM 大模型等各類不同架構的主流模型;基于自主可控的先進國產(chǎn)工藝打造,采用獨特的“算力積木”架構,可靈活滿足智慧城市、智慧交通、智能制造、智慧倉儲、機器人、邊緣智算中心等不同場景對算力的需求,為大模型推理提供強大動力。

wKgZPGe_1piAUBg0AAd-aDFnMzU838.png

目前,DeepEdge10 芯片平臺已成功適配DeepSeek R1 系列模型及國產(chǎn)鴻蒙操作系統(tǒng)。未來,云天勵飛將持續(xù)加大研發(fā)力度,推動芯片在國產(chǎn)化領域取得更大突破,為國產(chǎn)AI生態(tài)建設貢獻更多力量。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 云天勵飛
    +關注

    關注

    0

    文章

    186

    瀏覽量

    12700
  • DeepSeek
    +關注

    關注

    2

    文章

    857

    瀏覽量

    3418
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    云天完成DeepSeek-V4系列模型關鍵機制適配驗證

    4月24日,DeepSeek-V4 系列模型發(fā)布。圍繞該模型 CSA/HCA 混合注意力機制帶來的新型計算需求,云天依托自研 GPNPU 架構及 IFWA 智能融合軟件棧,通過 P
    的頭像 發(fā)表于 04-30 17:09 ?5132次閱讀

    云天中標湛江市AI滲透支撐新質生產(chǎn)力基礎設施建設項目

    日前,云天中標湛江市AI滲透支撐新質生產(chǎn)力基礎設施建設項目。根據(jù)項目規(guī)劃,公司將基于自研國產(chǎn)AI推理加速卡,參與建設AI推理算力集群,并推動DeepSeek等國產(chǎn)大模型在相關應用場
    的頭像 發(fā)表于 03-14 09:04 ?797次閱讀

    國內首個國產(chǎn)AI推理千卡集群落地,采用云天全自研AI推理芯片

    3 月 12 日,云天中標湛江市AI滲透支撐新質生產(chǎn)力基礎設施建設項目,中標金額4.2億元。項目將基于云天
    發(fā)表于 03-12 11:10 ?1335次閱讀

    云天正式舉辦大算力芯片戰(zhàn)略前瞻會

    2月3日,云天正式舉辦“大算力芯片戰(zhàn)略前瞻會”,首次對外公布未來三年的大算力 AI 推理芯片戰(zhàn)略布局。
    的頭像 發(fā)表于 02-06 17:23 ?3897次閱讀

    云天DeepEdge10為星載計算提供支撐,搭載自研NNP400T

    電子發(fā)燒友網(wǎng)報道 近日云天表示,公司用DeepEdge10為深空探測實驗室的自主可控星載計算提供支撐。DeepEdge10 基于自主可控
    的頭像 發(fā)表于 01-21 11:49 ?6799次閱讀

    云天中標AI龍崗一期1.22億元項目

    日前,云天中標AI龍崗一期1.22億元項目,將為龍崗區(qū)打造AI與機器人示范場景提供技術支撐,助力城市治理智能化水平持續(xù)提升。
    的頭像 發(fā)表于 12-22 09:34 ?568次閱讀

    AI教父Hinton對話云天陳寧

    在大模型步入深水區(qū)的當下,AI 的下一個臨界點究竟在哪里?在 2025 GIS 全球創(chuàng)新峰會現(xiàn)場,深度學習奠基人、“AI 教父” Geoffrey Hinton 與云天董事長兼 CEO 陳寧
    的頭像 發(fā)表于 12-03 14:04 ?871次閱讀

    云天AI推理芯片如何賦能千行百業(yè)

    11月26日,云天會客廳第二期生態(tài)沙龍暨深商聯(lián)高科技高成長創(chuàng)新營走進上市公司活動圓滿舉辦。來自深圳科技領域的多位企業(yè)負責人齊聚云天,共同探討AI推理時代的技術變革、產(chǎn)業(yè)機遇與落地挑
    的頭像 發(fā)表于 12-03 13:58 ?777次閱讀

    云天亮相2025中國具身智能機器人大會

    近日,在 2025 中國具身智能機器人大會上,云天副總裁羅憶從芯片廠商的視角出發(fā),對具身智能產(chǎn)業(yè)的未來進行了深入剖析,并分享了公司在 AI 推理芯片與機器人應用場景方面的整體布局。
    的頭像 發(fā)表于 11-25 11:26 ?1086次閱讀

    云天與金蝶達成戰(zhàn)略合作

    11月4日,在2025金蝶全球創(chuàng)見者大會上,云天與金蝶簽署戰(zhàn)略合作協(xié)議。
    的頭像 發(fā)表于 11-05 18:09 ?1832次閱讀

    云天攜手合作伙伴共探AI產(chǎn)業(yè)新拐點

    10月17日,云天攜手深圳市人工智能產(chǎn)業(yè)協(xié)會舉辦“智見未來·Agent時代的產(chǎn)業(yè)機遇”主題沙龍,邀請來自全國50余家企業(yè)高管齊聚深圳,共同探討AI時代的新趨勢、新挑戰(zhàn)與新機遇。
    的頭像 發(fā)表于 10-27 10:12 ?1075次閱讀

    云天正式加入OISA生態(tài)

    近日,云天正式加入 OISA 生態(tài),攜手產(chǎn)業(yè)伙伴共同推動國產(chǎn) AI 芯片互聯(lián)體系建設,為中國算力生態(tài)注入新的動力。
    的頭像 發(fā)表于 10-11 13:59 ?843次閱讀

    云天亮相2025全球AI芯片峰會

    9 月 17 日,全球 AI 芯片峰會在上海舉行,云天董事長兼 CEO 陳寧出席并發(fā)表演講。
    的頭像 發(fā)表于 09-17 17:56 ?1583次閱讀

    云天亮相SEMI-e 2025深圳國際半導體展

    9月10日,SEMI-e深圳國際半導體展暨2025集成電路產(chǎn)業(yè)創(chuàng)新展在深圳舉行。云天受邀出席同期舉辦的“端側AI芯片新架構與新應用專題研討會”并發(fā)表主題演講。
    的頭像 發(fā)表于 09-12 14:31 ?1867次閱讀

    云天飛出席2025亞布力論壇創(chuàng)新年會

    近日,2025 亞布力論壇第十一屆創(chuàng)新年會在杭州開幕,云天董事長兼 CEO 陳寧博士受邀出席,分享了他對未來 AI 產(chǎn)業(yè)化發(fā)展的趨勢研判。
    的頭像 發(fā)表于 07-10 11:36 ?1375次閱讀
    大港区| 澄城县| 开封县| 昌乐县| 车致| 香河县| 观塘区| 石屏县| 崇左市| 壤塘县| 宝坻区| 惠安县| 龙川县| 内江市| 彭山县| 左贡县| 堆龙德庆县| 蛟河市| 张家港市| 凌云县| 恭城| 竹山县| 馆陶县| 许昌县| 巧家县| 遂昌县| 博客| 安岳县| 黑山县| 阳信县| 衡阳县| 炎陵县| 页游| 都江堰市| 赤峰市| 重庆市| 公主岭市| 阳信县| 旬邑县| 安西县| 甘谷县|