近日,中國(guó)電信人工智能研究院(TeleAI)攜手北京智源人工智能研究院,共同推出了全球首個(gè)單體稠密萬(wàn)億參數(shù)語(yǔ)義模型——Tele-FLM-1T,這一里程碑式的成就標(biāo)志著中國(guó)電信在人工智能領(lǐng)域取得了重大突破,并成為了國(guó)內(nèi)首批發(fā)布稠密萬(wàn)億參數(shù)大模型的機(jī)構(gòu)。
面對(duì)大模型訓(xùn)練過(guò)程中算力消耗巨大的挑戰(zhàn),TeleAI與智源研究院并未止步于傳統(tǒng)方法。他們基于模型生長(zhǎng)和損失預(yù)測(cè)等關(guān)鍵技術(shù),共同研發(fā)出了Tele-FLM系列模型。這一模型不僅實(shí)現(xiàn)了高效的訓(xùn)練過(guò)程,而且僅使用了業(yè)界普通訓(xùn)練方案9%的算力資源。這意味著,在相同的計(jì)算資源下,Tele-FLM系列模型能夠處理更多的數(shù)據(jù),完成更復(fù)雜的任務(wù),大大提高了算力的利用效率。
值得一提的是,Tele-FLM-1T模型的訓(xùn)練過(guò)程僅在112臺(tái)A800服務(wù)器上進(jìn)行了4個(gè)月的時(shí)間,就完成了總計(jì)2.3T tokens的訓(xùn)練。這一速度之快、效率之高,在業(yè)界堪稱(chēng)罕見(jiàn)。這一成果的取得,不僅得益于TeleAI與智源研究院的精湛技術(shù),更得益于他們對(duì)人工智能領(lǐng)域的深刻理解和不懈追求。
Tele-FLM-1T模型的發(fā)布,不僅展示了中國(guó)電信在人工智能領(lǐng)域的實(shí)力,也為整個(gè)行業(yè)帶來(lái)了新的啟示。未來(lái),隨著技術(shù)的不斷進(jìn)步和應(yīng)用的不斷拓展,我們有理由相信,中國(guó)電信將繼續(xù)在人工智能領(lǐng)域發(fā)揮更大的作用,為人類(lèi)社會(huì)的進(jìn)步和發(fā)展做出更大的貢獻(xiàn)。
-
中國(guó)電信
+關(guān)注
關(guān)注
22文章
3502瀏覽量
65256 -
人工智能
+關(guān)注
關(guān)注
1821文章
50366瀏覽量
267056 -
模型
+關(guān)注
關(guān)注
1文章
3831瀏覽量
52287
發(fā)布評(píng)論請(qǐng)先 登錄
中國(guó)電信與阿里云共建粵港澳大灣區(qū)首個(gè)真武萬(wàn)卡智算集群上線
兆芯受邀出席中國(guó)電信信創(chuàng)產(chǎn)業(yè)聯(lián)盟成立儀式
紫光同芯加入中國(guó)電信終端產(chǎn)業(yè)聯(lián)盟eSIM子聯(lián)盟
中國(guó)電信攜手華為與鼎橋成功試點(diǎn)機(jī)械導(dǎo)盲犬解決方案
紫光同芯eSIM產(chǎn)品TMC-E9系列成功入庫(kù)中國(guó)電信
今日看點(diǎn):中國(guó)電信成為業(yè)內(nèi)首家實(shí)現(xiàn)北斗語(yǔ)音消息的運(yùn)營(yíng)商;美創(chuàng)企Substrate研發(fā)新型光刻機(jī)
中國(guó)電信攜手華為榮獲ICT中國(guó)2025案例一等獎(jiǎng)
中國(guó)電信聯(lián)合華為發(fā)布邊云協(xié)同算網(wǎng)解決方案
中宇聯(lián)成功入圍中國(guó)電信廣東公司DICT項(xiàng)目合作伙伴
中國(guó)電信與阿里簽署戰(zhàn)略合作協(xié)議 發(fā)力云和AI基礎(chǔ)設(shè)施
聯(lián)想集團(tuán)與中國(guó)電信達(dá)成戰(zhàn)略合作
榮耀與中國(guó)電信達(dá)成戰(zhàn)略合作 共筑AI終端生態(tài)新格局
中國(guó)電信發(fā)布全球首個(gè)單體稠密萬(wàn)億參數(shù)語(yǔ)義模型
評(píng)論