2024 AI大模型創(chuàng)新發(fā)展研討會暨清華上海自動化年會于2024年3月16日在上海楊浦區(qū)成功召開。活動內(nèi)容包括專家主旨演講、圓桌討論、校友企業(yè)路演等交流活動。蘋芯科技CEO楊越出席會議并進行項目分享。

本次會議得到了上海市楊浦區(qū)的大力支持，楊浦區(qū)委副書記、區(qū)長周海鷹，清華校友總會自動化系分會會長、清華大學自動化系主任張濤，清華校友總會自動化系分會秘書長、清華大學自動化系黨委書記古槿，清華大學上海校友會會長、華虹計通董事長秦偉芳，清華大學上海校友會監(jiān)事長、昕諾飛亞太區(qū)高級總監(jiān)宿為民，清華大學上海校友會副會長兼秘書長、啟迪控股副總裁韓威，清華大學上海校友會自動化專委會主任、軟銀中國創(chuàng)業(yè)投資有限公司合伙人宋安瀾，清華大學上海校友會自動化專委會副主任、上海交通大學計算機系教授、思必馳創(chuàng)始人俞凱，上海歐美同學會副會長張海曉，啟迪控股執(zhí)行總裁、啟迪之星董事長張金生，清華大學上海校友會自動化專委會秘書長、元鈦基金合伙人陳剛以及來自學術界、產(chǎn)業(yè)界的大模型領域?qū)＜覍W者、企業(yè)代表、清華校友悉數(shù)出席會議，共同探討AI大模型領域的發(fā)展趨勢、技術挑戰(zhàn)以及未來應用前景等業(yè)內(nèi)焦點問題。

蘋芯科技CEO楊越受邀出席本次會議并進行題為《從通用到專用 -- AI大模型推理專用加速芯片》的分享。

現(xiàn)階段，隨著大模型在人工智能領域快速發(fā)展，大模型的訓練和推理對計算資源提出了前所未有的挑戰(zhàn)。Groq TSP作為專門針對超低延遲應用而設計的確定性ML推理芯片，一經(jīng)推出便引起廣泛關注。但是，通過專業(yè)人士分析，其實際部署與應用仍然存在很大的成本問題，產(chǎn)品的應用前景依然在等待市場的反饋。

面對當前情況中的具體問題，蘋芯團隊提出了新思路，打造存算一體AI大模型端側推理專用加速芯片，通過三條路徑針對性解決難題：首先，利用存內(nèi)計算技術，降低數(shù)據(jù)搬運，大幅提升計算能效；其次，打造大模型專屬架構設計，完成高內(nèi)聚低耦合數(shù)據(jù)處理單元設計，切實降低總體設計制造成本；最后，融入大模型完整產(chǎn)業(yè)生態(tài)，滿足國產(chǎn)大模型對芯片設計需求，實現(xiàn)軟硬件一體設計，打通上下游合作鏈，實現(xiàn)算力算法架構融合。

作為專注于存算一體AI芯片的創(chuàng)新型企業(yè)，蘋芯科技將繼續(xù)加快深入探索端側大模型加速芯片的步伐，推出面向大模型應用場景的芯片產(chǎn)品與解決方案，為AI大模型時代提供強勁的“芯動力”。

審核編輯：劉清