重要消息
節(jié)后開(kāi)工第一天,靈汐科技團(tuán)隊(duì)聯(lián)合類(lèi)腦技術(shù)社區(qū)(“腦啟社區(qū)“)的開(kāi)發(fā)者,僅用半天時(shí)間就完成了DeepSeek-R1系列模型在靈汐KA200芯片及相關(guān)智算卡的適配,助力國(guó)產(chǎn)大模型與類(lèi)腦智能硬件系統(tǒng)的深度融合。據(jù)“腦啟社區(qū)“的開(kāi)發(fā)者反饋,在DeepSeek-R1-Distill-Qwen的1.5B、7B等系列模型測(cè)試中,模型在4K上下文情形下體驗(yàn)順暢,具備交付客戶使用的能力。后續(xù),靈汐科技也將聯(lián)合產(chǎn)業(yè)生態(tài)伙伴及腦啟社區(qū),適時(shí)發(fā)布云上服務(wù)。
靈汐科技的類(lèi)腦芯片領(lǐng)啟KA200(-S) 基于全新的存算一體、眾核并行、異構(gòu)融合架構(gòu),能高效支持深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)、生物神經(jīng)網(wǎng)絡(luò)和大規(guī)模腦仿真。單芯片集成 25 萬(wàn)神經(jīng)元和 2500 萬(wàn)突觸(稠密模式),可擴(kuò)展支持 200 萬(wàn)神經(jīng)元和 20 億突觸的集成計(jì)算(稀疏模式),支持混合精度計(jì)算(48TOPS@INT8 和 24TFLOPS@FP16)。不僅有強(qiáng)大的視頻圖像處理和算法支持能力,也具有對(duì)各類(lèi)LLM語(yǔ)言大模型及多模態(tài)模型的支撐能力?;陟`汐科技KA200的產(chǎn)品系列,已經(jīng)具備了“云、邊、端“全覆蓋的大模型部署和高性能、低功耗的推理部署能力。靈汐的相關(guān)產(chǎn)品已在電力能源、交通、城市治理、低空智能裝備等領(lǐng)域形成了規(guī)模化商用。
近期DeepSeek大模型引發(fā)了業(yè)界的廣泛討論,有相關(guān)評(píng)論方認(rèn)為DeepSeek的大模型技術(shù)路線創(chuàng)新有較大影響,而未來(lái)國(guó)產(chǎn)化、支撐大模型的新型架構(gòu)芯片則會(huì)對(duì)產(chǎn)業(yè)形成更具顛覆性的效應(yīng)。2024年初開(kāi)始,類(lèi)似存算一體架構(gòu)芯片及其對(duì)大模型推理的提升效果,也引發(fā)了眾多研究討論。靈汐科技“存算一體、眾核并行、 異構(gòu)融合”的芯片架構(gòu)及其應(yīng)用不斷迭代,將為業(yè)內(nèi)帶來(lái)新的潛在突破。
-
芯片
+關(guān)注
關(guān)注
463文章
54463瀏覽量
469640 -
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4844瀏覽量
108203 -
大模型
+關(guān)注
關(guān)注
2文章
3796瀏覽量
5276 -
DeepSeek
+關(guān)注
關(guān)注
2文章
855瀏覽量
3413
原文標(biāo)題:靈汐芯片快速實(shí)現(xiàn)DeepSeek 適配,助力國(guó)產(chǎn)大模型與類(lèi)腦智能硬件融合
文章出處:【微信號(hào):北京靈汐科技有限公司,微信公眾號(hào):北京靈汐科技有限公司】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
百度騰訊搶灘布局!DeepSeek-R1升級(jí)和開(kāi)源背后,國(guó)產(chǎn)AI的逆襲之路
云天勵(lì)飛完成DeepSeek-V4系列模型關(guān)鍵機(jī)制適配驗(yàn)證
開(kāi)放原子AtomGit平臺(tái)首發(fā)適配DeepSeek-V4系列模型
寒武紀(jì)Day 0適配DeepSeek-V4模型
海光信息DCU平臺(tái)完成對(duì)DeepSeek V4模型極速適配
靈汐杭州電信類(lèi)腦智算集群正式發(fā)布
DeepSeek R1 MTP在TensorRT-LLM中的實(shí)現(xiàn)與優(yōu)化
杭州靈汐類(lèi)腦智算集群實(shí)現(xiàn)大模型快速推理
速看!EASY-EAI教你離線部署Deepseek R1大模型
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】--全書(shū)概覽
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】書(shū)籍介紹+第一章讀后心得
Arm Neoverse N2平臺(tái)實(shí)現(xiàn)DeepSeek-R1滿血版部署
NVIDIA Blackwell GPU優(yōu)化DeepSeek-R1性能 打破DeepSeek-R1在最小延遲場(chǎng)景中的性能紀(jì)錄
靈汐KA200芯片完成DeepSeek-R1系列模型適配
評(píng)論