4月19日，由清華大學校友會等聯合主辦的清華大學上海校友會AI大模型生態(tài)發(fā)展論壇成功舉辦。蘋芯科技CEO楊越博士受邀參加AI大模型生態(tài)發(fā)展論壇，與行業(yè)專家、學者及企業(yè)代表共同探討人工智能技術的最新發(fā)展及未來趨勢。論壇上，楊越博士重點介紹了蘋芯科技在存算一體芯片及端側大模型方向的研發(fā)成果和未來發(fā)展規(guī)劃，引發(fā)了與會者的廣泛關注。

作為專注于人工智能存算一體芯片的創(chuàng)新型企業(yè)，蘋芯科技一直致力于存算一體技術的研發(fā)與應用。楊越博士表示，存算一體技術作為當前高性能計算領域的重要突破路徑，具有低功耗、高效率、小面積等顯著優(yōu)勢，能夠從根本上解決傳統(tǒng)芯片架構面臨的“存儲墻”、“功耗墻”等問題。

論壇上，楊越博士重點闡述了蘋芯科技在端側大模型方向的研發(fā)進展。隨著人工智能技術的快速發(fā)展，端側計算成為實現AI大模型高效推理的關鍵環(huán)節(jié)。蘋芯科技致力于通過創(chuàng)新的端側計算技術，解決傳統(tǒng)計算方式在設備端對大模型處理的瓶頸問題。楊越博士表示“蘋芯已經開始規(guī)劃下一代專門面向對話大模型的LPU推理芯片，不同于傳統(tǒng)的GPU芯片，我們的設計會體現出更強的芯算一體的概念，也就是軟硬件協(xié)同設計訂制化ASIC的特點，提高算力單元的利用率；同時芯片成本是我們設計優(yōu)化的第一維度，這一點不同于gpu，或者GROQ 芯片以響應速度為第一維度的設計理念，我們相信這個考量是所有大模型公司或者算力設施公司目前最想解決的問題。我們的系統(tǒng)可以提供超越市面方案的超低成本算力?！毕嘈胚@不僅為AI大模型的實際部署提供了新的可能性，也為未來智能技術的應用開辟了新的路徑。

在論壇的交流環(huán)節(jié)，楊越博士與與會者就存算一體芯片及端側大模型的發(fā)展方向進行了深入探討。他認為，隨著大數據處理能力的提升、算法的創(chuàng)新以及算力的強大支撐，人工智能技術將迎來更加廣闊的發(fā)展前景，而其中對于大數據需求最為迫切的當屬教育及醫(yī)療行業(yè)等領域，這些垂類行業(yè)具備數據密集、高度依賴知識處理、用戶群體龐大且對個性化服務需求程度高等共性，是會優(yōu)先被AI大模型重新定義的目標行業(yè)。

展望未來，楊越博士表示，蘋芯科技將繼續(xù)加大研發(fā)投入，推動存算一體芯片及端側大模型技術的不斷創(chuàng)新與突破。同時，公司還將積極與國內外科研機構和產業(yè)合作伙伴開展深度合作，共同推進AI大模型技術的研發(fā)和應用。在未來，蘋芯科技將憑借其在存算一體芯片及端側大模型方向的持續(xù)創(chuàng)新，為全球AI技術的發(fā)展帶來更多驚喜與突破。