從防御視角探討ChatGPT對網(wǎng)絡安全的影響
專家介紹
ChatGPT的核心優(yōu)勢是通過基于自然語言處理技術(shù)模型、情景模型和語言模型來自動生成文章和代碼。在前面的文章中，我們從攻擊視角探討了ChatGPT對網(wǎng)絡安全的影響，本文將從防御視角來探討ChatGPT在網(wǎng)絡安全領域的作用，并進行能力評估。
ChatGPT在網(wǎng)絡安全領域的應用主要有以下幾個方面：1.威脅檢測：（1）提取簽名規(guī)則（2）識別惡意代碼2.代碼審計：分析代碼漏洞3.威脅情報：從文本中提取情報4.安全運營：生成安全運營報告
威脅檢測：提取簽名規(guī)則
能力指數(shù)：★★★☆☆
眾所周知，GitHub上有大量開源的簽名規(guī)則，例如Yara、Sigma、ES等，可以用于威脅檢測。由于ChatGPT訓練數(shù)據(jù)包含GitHub內(nèi)容，因此我們可以測試ChatGPT的規(guī)則提取能力。我們首先要求ChatGPT輸出檢測挖礦木馬的Sigma規(guī)則。
作為一位專注于威脅檢測的從業(yè)者，我認為上述答案缺乏細節(jié)，遠沒有涵蓋全面，尤其是沒有提及數(shù)據(jù)采集的類型。于是我追加了問題中的要求。
這次給出的答案十分全面，但是檢測規(guī)則仍然不夠完善，經(jīng)過多次詢問后，最終得出的檢測規(guī)則如下：
這些規(guī)則雖然不能直接應用于產(chǎn)品，但是對于威脅分析而言，能夠迅速掌握檢測規(guī)則的概貌，也算是一種很不錯的幫助。
結(jié)論：ChatGPT威脅檢測提取簽名規(guī)則的能力指數(shù)評分為★★★☆☆，勉強及格。
威脅檢測：識別惡意代碼
能力指數(shù)：★★★★☆
ChatGPT有能力理解和分析代碼，我們讓ChatGPT來分析下前一篇文章所生成的webshell后門。第一步，識別一句話木馬。
可以看到ChatGPT給出了正確回答，同時給出了非常不錯的判定理由。我們繼續(xù)使用base64解碼的webshell，讓ChatGPT進行識別，ChatGPT依然應對自如。
第二步，識別變種的webshell。接下來試試免殺的webshell。下面是一個利用在高版本php語法不換行，來執(zhí)行命令繞過常規(guī)檢測的webshell，我們讓ChatGPT來檢測。
ChatGPT給出的判定結(jié)果完全正確，并且其反引號可以用來執(zhí)行命令的理由也非常充分。前方高能！?。?/strong>下面是一個難度極高的檢測示例，使用字符串替換和函數(shù)方式運行webshell命令。
可以看到，ChatGPT給出的答案完全正確，其解釋更是令人驚嘆。要知道，人看這段代碼可能沒什么，要交給機器自動化判定，必須要通過對PHP腳本的詞法分析和語義分析才能獲得，但在ChatGPT看來，這似乎不算什么難事。
結(jié)論：綜上所述，ChatGPT 在惡意腳本類代碼識別方面表現(xiàn)出色，能力指數(shù)評分為★★★★☆。其 AI 所給出的結(jié)果令人驚嘆，這歸功于它出色的代碼分析能力。ChatGPT為何擅長代碼分析呢？●使用的文本生成模型GPT（Generative Pre-trained Transformer）能夠?qū)Υa進行分析，以確定其意圖。●訓練所使用的數(shù)據(jù)量巨大，ChatGPT從Stack Overflow、github等大量的語料里訓練模型。●ChatGPT可以學習特定的編程語言的語義，生成更加準確的語義分析結(jié)果。代碼審計：分析代碼漏洞
能力指數(shù)：★★☆☆☆
前面提到ChatGPT擅長代碼分析，接下來我們看看它在代碼審計方面的能力，是否可以幫助我們發(fā)現(xiàn)代碼中存在的問題。首先，我們以比較簡單的存在SQL注入的代碼審計為例：
ChatGPT的回答還算讓人滿意。不過，當我們嘗試一個不存在SQL注入的代碼時，ChatGPT就開始“一本正經(jīng)的胡說八道”了：
實際上，上面的代碼可以有效地防止SQL注入，原因如下：1.采用了預編譯，避免了拼接SQL語句，清晰地劃分了代碼與數(shù)據(jù)。2.檢測了數(shù)據(jù)類型是否僅為數(shù)字。3.判定結(jié)果是否僅為一條，有效防止“拖庫”攻擊。ChatGPT回答錯誤，進一步追問ChatGPT，讓其給出poc代碼。
果然，它給出的答案是錯的。
結(jié)論：ChatGPT 的代碼審計能力指數(shù)為★★☆☆☆?？傮w而言，ChatGPT 對代碼審計有一定的幫助，但是需要人工核實它回答的結(jié)果是否正確。威脅情報：從文本提取情報
能力指數(shù)：★★☆☆☆
從公開報道中摘取有關(guān)情報，是安全領域最為常見的自然語言處理應用場景之一。我們讓ChatGPT從CrowdStrike的“麻辣香鍋”惡意軟件公開報道中，提取出一份中文摘要。
看起來還不錯！我們再讓ChatGPT提取響尾蛇組織使用的TTP。
上述回答給出的鏈接已經(jīng)失效，無法證實其答案的正確性。
結(jié)論：ChatGPT從文本提取情報的能力指數(shù)為★★☆☆☆。綜合來看，ChatGPT 對于提取情報有一定的幫助，但還需要人工核實。安全運營：生成安全運營報告
能力指數(shù)：★★☆☆☆
ChatGPT可以提升安全運營效率，已有公開報道稱它可以解析安全日志，針對可能存在的威脅事件，提供詳細的處置建議，并發(fā)布相應的事件通告；還可以生成用戶報告，支持組織有效地管理安全風險。安全運營的最終目標是實現(xiàn)智能運營，而最具挑戰(zhàn)性的工作是在海量告警中發(fā)現(xiàn)有效攻擊。ChatGPT目前無法實現(xiàn)海量告警研判分析，仍然需要安全運營專家的參與，才能達到最佳效果。 結(jié)論：ChatGPT生成安全運營報告的能力指數(shù)為★★☆☆☆。基于ChatGPT構(gòu)建安全大模型
看到ChatGPT在網(wǎng)絡安全防御方面的諸多優(yōu)點，很多安全企業(yè)可能蠢蠢欲動，希望做自己的安全大模型。如何讓大模型適配安全場景呢？很多人可能都會想到在ChatGPT這樣的大模型基礎上，針對安全領域重新訓練一個增量模型。但是有幾個關(guān)鍵問題需要考慮：1.訓練成本：大模型訓練成本取決于訓練數(shù)據(jù)的大小和模型復雜性。當訓練數(shù)據(jù)更大和模型更復雜時，訓練成本會更高，因為需要更多的計算資源來處理更多的數(shù)據(jù)。2.模型調(diào)整：針對安全運營場景，需要調(diào)整大模型的數(shù)據(jù)輸入，用于海量安全事件的研判分析，這需要安全運營和AI專家投入。3.最終效果：由于安全事件本質(zhì)上是低概率事件，大規(guī)模對于少見的，甚至是新型的安全攻擊類型，當前還無法有效處理。結(jié)語
ChatGPT使AI在網(wǎng)絡安全防御中的應用更為廣泛，它是一種基于深度學習的自然語言生成技術(shù)，可以幫助網(wǎng)絡安全防御人員提取簽名規(guī)則，識別惡意代碼，提升代碼審計和情報提取的效率；幫助安全運營人員分析日志，生成安全運營報告，給出有效的防護措施建議。鑒于這些益處，許多企業(yè)希望構(gòu)建適配安全場景的大模型，這就必須考慮訓練成本、模型調(diào)整這些因素，并且大模型對于少見的、甚至是新型的安全攻擊類型，當前還無法有效處理。即便如此，我們?nèi)匀幌嘈?，ChatGPT等大模型的出現(xiàn)一定會對網(wǎng)絡安全領域帶來很大改變，實現(xiàn)智能分析和運營，只是一個時間問題。下期預告
下期我們將看看ChatGPT是不是無所不能，有沒有干不了的事情呢？敬請期待。
往期精彩推薦
點擊“閱讀原文”，了解更多華為數(shù)據(jù)通信資訊！
原文標題：從防御視角探討ChatGPT對網(wǎng)絡安全的影響
文章出處：【微信公眾號：華為數(shù)據(jù)通信】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
華為
+關(guān)注
關(guān)注
218文章
36212瀏覽量
262722
原文標題：從防御視角探討ChatGPT對網(wǎng)絡安全的影響
文章出處：【微信號：Huawei_Fixed，微信公眾號：華為數(shù)據(jù)通信】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
汽車網(wǎng)絡安全TARA分析全指南：從基礎原理到落地實操
，而是汽車網(wǎng)絡安全從被動補救到主動防御的核心基石。隨著汽車智能化程度的持續(xù)提升，車輛的網(wǎng)絡攻擊面將持續(xù)擴大，TARA 分析的價值也將愈發(fā)凸顯。
對于車企而言，只有建立完善的 TARA
發(fā)表于 04-27 15:32
汽車網(wǎng)絡安全合規(guī)全流程深度解析——從法規(guī)門檻到落地實踐
潛在網(wǎng)絡安全風險
主動防御機制：從技術(shù)與流程層面防范網(wǎng)絡攻擊
持續(xù)監(jiān)控與響應：在車輛全生命周期內(nèi)快速響應與處置安全事件
2.3 與功能
發(fā)表于 04-21 13:03
汽車網(wǎng)絡安全 ISO/SAE 21434是什么？（一）
ISO/SAE 21434全稱為《Road vehicles—Cybersecurity engineering》（道路車輛—網(wǎng)絡安全工程），是汽車行業(yè)首個全球統(tǒng)一的網(wǎng)絡安全工程國際標準，由
發(fā)表于 04-07 10:37
華為星河AI融合SASE解決方案如何重塑網(wǎng)絡安全新范式
智能化時代飛速發(fā)展，數(shù)字邊界不斷延伸。我們正處于網(wǎng)絡安全與智能技術(shù)相互交融的歷史時刻，網(wǎng)絡安全正迎來前所未有的機遇與挑戰(zhàn)。賦予安全以智能，已成為新時代安全建設的必然選擇。人工智能技術(shù)給
IDIADA將參加TAAS LABS 2026中國汽車網(wǎng)絡安全及數(shù)據(jù)安全合規(guī)峰會
我們很高興地宣布，Applus+ IDIADA將參加備受矚目的TAAS LABS 2026中國汽車網(wǎng)絡安全及數(shù)據(jù)安全合規(guī)峰會。這一行業(yè)盛會匯聚了業(yè)界領袖、技術(shù)專家和監(jiān)管機構(gòu)，共同探討網(wǎng)聯(lián)汽車時代汽車
國產(chǎn)網(wǎng)絡安全整機在工控網(wǎng)絡安全上的保護策略
網(wǎng)絡安全是指網(wǎng)絡系統(tǒng)的硬件、軟件及其系統(tǒng)中的數(shù)據(jù)受到保護，不因偶然的或者惡意的原因而遭受到破壞、更改、泄露，確保系統(tǒng)連續(xù)可靠正常地運行，網(wǎng)絡服務不中斷。
人工智能時代，如何打造網(wǎng)絡安全“新范式”
在當今信息化迅速發(fā)展的時代，5G、大數(shù)據(jù)、云計算、深度學習等新興技術(shù)的廣泛應用，帶來了前所未有的網(wǎng)絡安全挑戰(zhàn)。人工智能技術(shù)的崛起，為網(wǎng)絡安全領域提供了新的解決方案，尤其在威脅識別、告警分析、態(tài)勢感知
華為攜手重慶電信成功完成APT安全防御試點
“重慶電信”）進行聯(lián)合創(chuàng)新，在全球首次基于NetEngine 5000E AI集群路由器和威脅防護處理板，成功完成APT安全防御驗證，標志著APT攻擊防御技術(shù)已經(jīng)具備商用能力，網(wǎng)絡安全防御邁入智能化時代。
攻擊逃逸測試：深度驗證網(wǎng)絡安全設備的真實防護能力
攻擊逃逸測試通過主動模擬協(xié)議混淆、流量分割、時間延遲等高級規(guī)避技術(shù)，能夠深度驗證網(wǎng)絡安全設備的真實防護能力。這種測試方法不僅能精準暴露檢測引擎的解析盲區(qū)和策略缺陷，還能有效評估防御體系在面對隱蔽攻擊
發(fā)表于 11-17 16:17
陶氏化學借助AI技術(shù)重塑網(wǎng)絡安全
擁有125年歷史的陶氏化學，正借助AI技術(shù)重塑網(wǎng)絡安全。在與微軟的合作中，陶氏將其安全運營中心（CSOC）全面接入智能Microsoft Security Copilot副駕駛（國際版），實現(xiàn)了從
國產(chǎn)“芯”防線！工控機如何筑牢網(wǎng)絡安全屏障
在當今世界，信息化和數(shù)字化已經(jīng)成為全球發(fā)展的大趨勢，而網(wǎng)絡安全則是數(shù)字時代最重要的基石之一。在這個防護網(wǎng)絡安全的戰(zhàn)場上，國產(chǎn)工控機正以自主創(chuàng)新的實力捍衛(wèi)網(wǎng)絡安全屏障，在銀行、機關(guān)部門、工業(yè)互聯(lián)網(wǎng)等關(guān)鍵領域構(gòu)建起堅實的防護線，成為
華為亮相2025國家網(wǎng)絡安全宣傳周
2025國家網(wǎng)絡安全宣傳周（以下簡稱“網(wǎng)安周”）在昆明正式開幕。今年大會主題為“網(wǎng)絡安全為人民，網(wǎng)絡安全靠人民”，網(wǎng)安周以會議、論壇、競賽、展覽等多種形式著力展示創(chuàng)新成果。大會期間，華為眾多重磅
全賽道獲獎！聚銘網(wǎng)絡閃耀第二屆雄安未來之城場景匯網(wǎng)絡安全技術(shù)應用大賽
“網(wǎng)絡安全創(chuàng)新創(chuàng)意”、“網(wǎng)絡安全解決方案”、“網(wǎng)絡安全監(jiān)測防御產(chǎn)品” 三大核心賽道全部入圍并榮獲優(yōu)秀獎，實現(xiàn)全賽道上榜，充分彰顯了公司在網(wǎng)絡安全
中國聯(lián)通攜手華為完成全球首個AI集群路由器APT安全防御試點
，充分發(fā)揮網(wǎng)絡安全現(xiàn)代產(chǎn)業(yè)鏈鏈長引領作用，在湖北省公司完成全球首個基于華為AI集群路由器的APT安全防御試點。這一突破性成果標志著網(wǎng)絡安全防御進入智能化新階段，切實筑牢國家網(wǎng)絡安全屏障
芯盾時代連續(xù)十一次入選安全?！吨袊?b class='flag-5'>網(wǎng)絡安全行業(yè)全景圖》
近日，國內(nèi)知名網(wǎng)絡安全媒體安全牛正式發(fā)布《中國網(wǎng)絡安全行業(yè)全景圖(第十二版)》(以下簡稱“全景圖”)。芯盾時代連續(xù)十一次上榜全景圖，成功入選零信任、終端安全防護、身份認證、IDaaS、
評論