近日，瀚博半導(dǎo)體正式宣布深度參與百度飛槳主辦的黑客松生態(tài)活動(dòng)。面向全球開(kāi)發(fā)者開(kāi)放旗下載天系列加速卡開(kāi)發(fā)環(huán)境，支持部署百度文心ERNIE-4.5 系列開(kāi)源模型與PP-OCRv4 文檔理解模型，打造高性能應(yīng)用 Demo，全方位展示了國(guó)產(chǎn) AI 芯片與大模型的協(xié)同推理實(shí)力，共促國(guó)產(chǎn)化 AI 技術(shù)生態(tài)繁榮。

作為國(guó)產(chǎn)高性能全功能GPU代表，瀚博半導(dǎo)體載天系列加速卡搭載自研 SV 系列芯片，具備高能效、低時(shí)延、高吞吐核心優(yōu)勢(shì)，專為云端推理與視頻處理場(chǎng)景定制。其中，載天 VA16 加速卡原生支持FP8數(shù)據(jù)精度和128GB超大顯存，整體推理性能對(duì)標(biāo)同功耗主流 GPU，并支持高密度視頻編解碼，可完美適配大模型推理、多模態(tài)理解、文檔解析等復(fù)雜 AI 任務(wù)需求。

瀚博半導(dǎo)體與文心大模型

本次黑客松活動(dòng)中，開(kāi)發(fā)者可基于載天系列加速卡，快速完成 ERNIE-4.5 系列開(kāi)源模型的部署與優(yōu)化。文心 ERNIE-4.5 系列作為百度旗艦級(jí)開(kāi)源大模型，具備強(qiáng)大的文本生成、知識(shí)問(wèn)答、多模態(tài)理解能力，在主流基準(zhǔn)評(píng)測(cè)中表現(xiàn)優(yōu)異。通過(guò)瀚博完善的軟件棧與工具鏈，開(kāi)發(fā)者可實(shí)現(xiàn)模型高效遷移，充分釋放載天加速卡硬件算力，顯著提升模型推理速度與響應(yīng)效率，直觀體驗(yàn)國(guó)產(chǎn)芯片支撐頂尖大模型的卓越性能。

同時(shí)，載天系列加速卡全面支持PP-OCRv4文檔理解模型部署。該模型依托飛槳框架，融合視覺(jué)解析與語(yǔ)義理解能力，可精準(zhǔn)識(shí)別文本、表格、公式等復(fù)雜文檔元素，支持多種語(yǔ)言解析。結(jié)合載天加速卡的高并發(fā)處理能力，可實(shí)現(xiàn)文檔處理吞吐量的大幅提升，為金融、政務(wù)、法律等行業(yè)的智能文檔處理場(chǎng)景，提供高效、穩(wěn)定的國(guó)產(chǎn)化解決方案。

百度黑客松作為匯聚全球開(kāi)發(fā)者的創(chuàng)新平臺(tái)，持續(xù)推動(dòng) AI 技術(shù)開(kāi)源共享與生態(tài)共建。本次瀚博半導(dǎo)體的深度參與，將加速 "國(guó)產(chǎn)芯片 + 國(guó)產(chǎn)大模型" 全棧技術(shù)方案的普及。