近日，2025年國家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全企業(yè)家座談會在昆明滇池國際會展中心舉行。中央網(wǎng)信辦有關(guān)司局負(fù)責(zé)同志以及36家企業(yè)50余位代表參會。

會議由中央網(wǎng)信辦副主任、國家網(wǎng)信辦副主任楊建文主持，他指出，當(dāng)前，隨著數(shù)字經(jīng)濟與實體經(jīng)濟深度融合，網(wǎng)絡(luò)安全需求正從“合規(guī)驅(qū)動”向“風(fēng)險驅(qū)動”加速轉(zhuǎn)型，這不僅是產(chǎn)業(yè)發(fā)展的核心方向，更是應(yīng)對復(fù)雜網(wǎng)絡(luò)環(huán)境的必然選擇，需要“三方聯(lián)動、共同發(fā)力”。會上，商湯科技、百度、中國聯(lián)通、中電科、中電子等16家等各領(lǐng)域代表企業(yè)，圍繞“轉(zhuǎn)型關(guān)鍵要素”“破解行業(yè)內(nèi)卷”“助力企業(yè)出?！比笞h題，就網(wǎng)絡(luò)安全產(chǎn)業(yè)高質(zhì)量發(fā)展建言獻策。

作為人工智能企業(yè)代表，商湯科技聯(lián)合創(chuàng)始人、執(zhí)行董事、執(zhí)行副總裁楊帆結(jié)合AI技術(shù)現(xiàn)狀與企業(yè)實踐，圍繞人工智能帶來的新型安全挑戰(zhàn)，提出風(fēng)險驅(qū)動的治理思路與合作倡議。

楊帆表示，隨著人工智能、大數(shù)據(jù)等新技術(shù)快速發(fā)展，網(wǎng)絡(luò)安全工作已進入從"合規(guī)驅(qū)動"轉(zhuǎn)向"風(fēng)險驅(qū)動"的關(guān)鍵階段。以大模型為例，其生成內(nèi)容的價值對齊、輸出穩(wěn)定性等新型風(fēng)險，對傳統(tǒng)基于規(guī)則的安全治理體系提出了挑戰(zhàn)。他認(rèn)為，面對不斷演進的威脅形式，傳統(tǒng)技術(shù)、工具和標(biāo)準(zhǔn)難以對相關(guān)安全任務(wù)進行持續(xù)、動態(tài)的監(jiān)測與管控，必須持續(xù)更新迭代網(wǎng)絡(luò)安全工作的方式和機制。

在AI安全實踐方面，楊帆分享了商湯的多層次探索。例如，在模型訓(xùn)練階段從數(shù)據(jù)治理入手，訓(xùn)練初期進行數(shù)據(jù)層面的干預(yù)，并綜合運用多種手段形成協(xié)同機制；輸出端引入“小模型或人工二次核驗”進行迭代與調(diào)整。而面向全球的數(shù)據(jù)跨境流動問題，商湯針對不同合規(guī)要求、文化背景和價值體系，逐步在實操層面探索出高效、可落地的機制。

基于上述實踐，楊帆提出兩項具體建議：首先，針對新技術(shù)帶來的安全挑戰(zhàn)，建議推動建立持續(xù)迭代、動態(tài)更新的安全防護治理體系。無論是大模型治理還是數(shù)據(jù)跨境，均宜將復(fù)雜問題拆解為若干具體問題，優(yōu)先突破局部難點，形成標(biāo)桿案例，再逐步推廣實施。其次，建議由網(wǎng)信部門牽頭，推動建立行業(yè)共通機制，實現(xiàn)持續(xù)、快速的技術(shù)更新與驗證，以更好地應(yīng)對不斷演進的新技術(shù)挑戰(zhàn)。

隨著新一輪科技革命和產(chǎn)業(yè)變革加速演進，新一代信息技術(shù)加速迭代，數(shù)字經(jīng)濟和實體經(jīng)濟深度融合，網(wǎng)絡(luò)空間對國家經(jīng)濟發(fā)展和安全的戰(zhàn)略意義實現(xiàn)全局性提升，網(wǎng)絡(luò)安全全局性影響、基礎(chǔ)性支撐的關(guān)鍵地位和重要作用日益突出。

作為領(lǐng)先的人工智能企業(yè)，商湯科技將積極發(fā)揮帶動示范作用，深度推動AI技術(shù)創(chuàng)新與網(wǎng)絡(luò)安全保障深度融合，為數(shù)字中國建設(shè)筑牢安全底座，助力推進國家網(wǎng)絡(luò)安全體系和能力現(xiàn)代化，以高水平安全保障高質(zhì)量發(fā)展。