青娱乐极品在线视频,一区二区二三区四区天

點擊藍字 ╳ 關(guān)注我們

開源項目 OpenHarmony是每個人的 OpenHarmony 11月4日，第二屆開放原子開源基金會OpenHarmony技術(shù)大會在北京圓滿舉辦。在下午舉辦的OS原生智能分論壇中，華為昇思MindSpore總架構(gòu)師金雪鋒擔(dān)任出品人，華為AI大模型應(yīng)用開發(fā)平臺架構(gòu)師王磊擔(dān)任主持人，與來自華為、中軟國際有限公司、深圳市若芯科技有限公司等企業(yè)界技術(shù)領(lǐng)袖和來自清華大學(xué)、上海交通大學(xué)等學(xué)術(shù)界專家學(xué)者分享了各自領(lǐng)域在OpenHarmony生態(tài)中結(jié)合AI大模型相關(guān)技術(shù)如何進行技術(shù)創(chuàng)新、突破技術(shù)難題，并共同探討了未來AI大模型與終端操作系統(tǒng)相結(jié)合的技術(shù)發(fā)展趨勢，為共建OpenHarmony繁榮生態(tài)貢獻力量。

?OS原生智能分論壇出品人華為昇思MindSpore總架構(gòu)師金雪鋒

?OS原生智能分論壇主持人華為AI大模型應(yīng)用開發(fā)平臺架構(gòu)師王磊 首先，來自清華大學(xué)的助理研究員李元春就《大模型驅(qū)動的終端智能代理》課題進行了報告分享，介紹了一種大模型驅(qū)動的智能個人代理系統(tǒng)的設(shè)計與實現(xiàn)，分享了如何通過對移動應(yīng)用的自動分析和大模型知識嵌入，將應(yīng)用內(nèi)部的領(lǐng)域知識與大模型的常識知識有機結(jié)合，實現(xiàn)更準(zhǔn)確高效的任務(wù)自動化。李元春指出，智能個人代理一直是終端系統(tǒng)研究人員和開發(fā)者關(guān)注的關(guān)鍵技術(shù)之一，然而由于用戶意圖理解、任務(wù)規(guī)劃、工具使用等能力的不足，目前智能個人代理的智能程度和可擴展性仍有較大缺陷。大語言模型的出現(xiàn)則解決了這些難點，李元春表示：“以大語言模型為代表的大模型的出現(xiàn)為該領(lǐng)域的發(fā)展帶來了嶄新的機遇，有望通過強大的語義理解和常識推理能力大大提升智能個人代理支持功能的廣度和深度?！?/span>

?清華大學(xué)助理研究員李元春主題分享 中軟國際有限公司智能物聯(lián)網(wǎng)軍團產(chǎn)品研發(fā)管理部總經(jīng)理、OpenHarmony項目群技術(shù)指導(dǎo)委員會委員張兆生基于自身在大模型及端邊協(xié)同領(lǐng)域的深厚洞察，帶來了題為《視覺大模型在OpenHarmony的端邊云側(cè)應(yīng)用》的報告。他指出，智能化時代，隨著大模型和算力底層技術(shù)的不斷完善，大模型部署在邊緣側(cè)與終端側(cè)成為必然趨勢。他高度肯定了OpenHarmony擔(dān)當(dāng)數(shù)字底座的價值與意義，“OpenHarmony作為萬物互聯(lián)時代的技術(shù)底座，可以廣泛應(yīng)用于多種算力場景，滿足了多連接、高實時和海量異構(gòu)數(shù)據(jù)的業(yè)務(wù)需求，起到了向下發(fā)揮硬件算力，向上使能海量應(yīng)用的作用?！痹趶堈咨磥恚設(shè)penHarmony為根基融合邊端大模型能力，構(gòu)建端邊協(xié)同業(yè)務(wù)場景，可以為行業(yè)提供更有競爭力的創(chuàng)新解決方案，加速拓展生態(tài)。

?中軟國際有限公司智能物聯(lián)網(wǎng)軍團產(chǎn)品研發(fā)管理部總經(jīng)理、OpenHarmony項目群技術(shù)指導(dǎo)委員會委員張兆生主題分享 華為小藝架構(gòu)師周劍輝基于華為小藝在終端產(chǎn)品的智能化服務(wù)技術(shù)思考，帶來了《基于意圖框架的端側(cè)原生智能大模型生態(tài)建設(shè)探索》主題報告。這篇報告中提到，意圖框架是系統(tǒng)級的意圖標(biāo)準(zhǔn)體系，通過多維系統(tǒng)感知、大模型等能力構(gòu)建全局意圖范式，實現(xiàn)對用戶顯性與潛在意圖的理解，并及時、準(zhǔn)確地將用戶需求傳遞給生態(tài)伙伴，匹配合時宜的服務(wù)，為用戶提供多模態(tài)、個性化的進階場景體驗。

?華為小藝架構(gòu)師周劍輝主題分享 上海交通大學(xué)計算機科學(xué)與工程系副教授鄭文立聚焦于機器學(xué)習(xí)方法，帶來《端邊云協(xié)同推理中的深度神經(jīng)網(wǎng)絡(luò)動態(tài)分割》的報告。在端邊云環(huán)境下，為了匹配網(wǎng)絡(luò)負載與服務(wù)器負載的動態(tài)變化，鄭文立教授提出了基于機器學(xué)習(xí)的DNN分割優(yōu)化算法，并將其實現(xiàn)在昇思MindSpore上，使之能在執(zhí)行多種常見的CNN、RNN時自動調(diào)整它們跨端、邊/云兩側(cè)的分布，從而保持最低的推理延遲。同時，他還指出，“資源限制是邊緣計算面臨的主要挑戰(zhàn)，設(shè)法突破資源限制才能最大化邊緣優(yōu)勢，使智能真正走進每個人的生活?！?/span>

?上海交通大學(xué)計算機科學(xué)與工程系副教授鄭文立主題分享 來自華為諾亞方舟實驗室的研究員侯璐則在現(xiàn)場分享了《大語言模型的壓縮加速和高效部署》，這一報告從架構(gòu)設(shè)計、成本、吞吐、時延、長序列等方面介紹大語言模型在推理階段面臨的內(nèi)存、訪存和計算的挑戰(zhàn)，以及模型和KV cache量化壓縮、融合大算子和投機式推理在大語言模型高效推理帶來的收益。

?華為諾亞方舟實驗室研究員侯璐主題分享 深圳市若芯科技有限公司CTO周芃帶來《無處不在的智能：端側(cè)類腦大模型的應(yīng)用與解決方案》的演講，面向參會者介紹了面對大語言模型的算力開銷問題，以及如何采用類人腦處理信息的方式對Transformer架構(gòu)進行改進。通過使用第三代神經(jīng)網(wǎng)絡(luò)SNN搭建神經(jīng)網(wǎng)絡(luò)，將網(wǎng)絡(luò)中的數(shù)據(jù)使用脈沖序列進行存儲和傳輸，在不影響網(wǎng)絡(luò)智能程度的同時，極大降低了推理開銷。周芃表示，“使用該項技術(shù)訓(xùn)練的大模型，不僅做到同參數(shù)級別能耗、延時、算力要求最優(yōu)，也成功具備了在消費級設(shè)備本地部署運行的能力。

?深圳市若芯科技有限公司CTO周芃主題分享 華為昇思MindSpore架構(gòu)師李政結(jié)合MindSpore框架技術(shù)探索及實踐經(jīng)驗，分享了《MindSpore端側(cè)大模型部署助力OS智能化》的報告，講解如何解決AI大模型的部署與應(yīng)用挑戰(zhàn)。李政提到，“生成式AI大模型正悄然改變?nèi)藗児ぷ骱蜕?，AI大模型與智能終端相結(jié)合勢必引發(fā)新的體驗。然而受終端設(shè)備算力和存儲制約，AI大模型端側(cè)部署面臨諸多挑戰(zhàn)”。他在報告中介紹了MindSpore在大模型端側(cè)部署及推理加速已展開的探索和相關(guān)技術(shù)思路，作為云端邊全場景訓(xùn)推一體開源AI框架，MindSpore深度參與HarmonyOS AI智能業(yè)務(wù)場景的性能優(yōu)化，大量落地華為手機、平板、手表、筆記本、智慧屏、智能車等終端產(chǎn)品。

?華為昇思MindSpore架構(gòu)師李政主題分享 在OS原生智能分論壇的最后環(huán)節(jié)，由論壇主持人華為AI大模型應(yīng)用開發(fā)平臺架構(gòu)師王磊、出品人華為昇思MindSpore總架構(gòu)師金雪鋒及演講嘉賓進行了主題為“端側(cè)大模型及應(yīng)用的技術(shù)前沿挑戰(zhàn)及解決方案思路”的圓桌討論，進一步深入探討了OS原生智能下的AI應(yīng)用架構(gòu)和框架、模型訓(xùn)推框架、模型架構(gòu)及算法方面的技術(shù)構(gòu)想和思路。

?OS原生智能分論壇圓桌討論：“端側(cè)大模型及應(yīng)用的技術(shù)前沿挑戰(zhàn)及解決方案思路” 至此，第二屆OpenHarmony技術(shù)大會OS原生智能分論壇圓滿落幕。各位技術(shù)專家與業(yè)界大咖的分享，展示了OpenHarmony在原生智能領(lǐng)域的技術(shù)潛力與應(yīng)用實踐，也展望了AI大模型與操作終端深度結(jié)合后，必將帶來大模型擴展能力邊界、終端設(shè)備更加智能的“雙贏”前景。而隨著越來越多原生智能領(lǐng)域的技術(shù)專家和行業(yè)精英加入OpenHarmony社區(qū)，也必將推動OpenHarmony生態(tài)枝繁葉茂。

原文標(biāo)題：探索終端操作系統(tǒng)領(lǐng)域AI大模型創(chuàng)新趨勢 OpenHarmony技術(shù)大會OS原生智能分論壇召開

文章出處：【微信公眾號：OpenAtom OpenHarmony】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。舉報投訴

鴻蒙

鴻蒙

+關(guān)注

關(guān)注
60

文章
3035

瀏覽量
46200
OpenHarmony

OpenHarmony

+關(guān)注

關(guān)注
33

文章
3979

瀏覽量
21388
AI大模型

AI大模型

+關(guān)注

關(guān)注
0

文章
412

瀏覽量
1047

原文標(biāo)題：探索終端操作系統(tǒng)領(lǐng)域AI大模型創(chuàng)新趨勢 OpenHarmony技術(shù)大會OS原生智能分論壇召開

文章出處：【微信號：gh_e4f28cfa3159，微信公眾號：OpenAtom OpenHarmony】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

日B视频亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

搜索歷史

探索終端操作系統(tǒng)領(lǐng)域AI大模型創(chuàng)新趨勢 OpenHarmony技術(shù)大會OS原生智能分論壇召開

評論