馬上就2026年了,不會還有人沒用AI輔助工作吧?
無論你是程序員、文案、財(cái)務(wù),無論你想擼代碼、出海報(bào)、做報(bào)表,各式各樣的AI總能滿足你的需求,讓你的工作更加輕松。
但對于企業(yè)而言,無孔不入的AI工具卻帶來了隱蔽且巨大的安全風(fēng)險(xiǎn)——影子AI(Shadow AI)。
半導(dǎo)體巨頭三星(Samsung)就是“影子AI”的受害者。2023年,三星剛剛開放員工ChatGPT的使用權(quán)限,不到20天就遭遇了“泄密三連”:一名工程師為了修復(fù)Bug將絕密的半導(dǎo)體設(shè)備源代碼復(fù)制進(jìn)對話框請求建議;另一名員工為了優(yōu)化代碼,輸入了涉及芯片良率的敏感程序;還有一名員工將內(nèi)部會議錄音上傳,要求 AI 生成會議紀(jì)要。
由于公共AI大模型通常會將用戶輸入的數(shù)據(jù)用于后續(xù)的算法迭代和訓(xùn)練,這些核心商業(yè)機(jī)密實(shí)際上已經(jīng)脫離了三星的掌控,進(jìn)入了公共模型庫。三星最終不得不緊急下發(fā)禁令,限制員工在工作電腦上使用生成式AI工具。
三星的“泄密三連”給所有企業(yè)提了醒。在AIGC時代,數(shù)據(jù)交互的門檻極低且具有不可逆性。一旦員工使用未經(jīng)公司IT或安全部門授權(quán)、審計(jì)的“影子AI”,上傳公司的機(jī)密數(shù)據(jù),將給公司造成巨大的危害。
“影子AI”的威脅“四重奏”
“影子AI”之所以成為當(dāng)前幾乎所有企業(yè)都必須面對的安全挑戰(zhàn),是因?yàn)樗跀?shù)據(jù)、決策、合規(guī)和防御四個維度上制造了巨大的“管理真空”。
1.數(shù)據(jù)資產(chǎn)的“泄密單行道”
企業(yè)的數(shù)據(jù)資產(chǎn)(如核心代碼、財(cái)務(wù)報(bào)表、戰(zhàn)略規(guī)劃)是其核心競爭力。在使用“影子AI”時,員工會頻繁地將敏感信息“喂”給第三方AI平臺。由于數(shù)據(jù)進(jìn)入第三方模型的訓(xùn)練集后具有不可撤回性,企業(yè)幾乎無法要求廠商將其物理刪除,導(dǎo)致數(shù)據(jù)資產(chǎn)面臨長期的外泄風(fēng)險(xiǎn)。
2.“AI幻覺”影響企業(yè)決策
生成式AI普遍存在“幻覺”問題,即可能編造看似合理但完全錯誤的數(shù)據(jù)或事實(shí)。如果員工私自使用未經(jīng)驗(yàn)證的“影子AI”工具進(jìn)行財(cái)務(wù)匯總、數(shù)據(jù)建?;驊?zhàn)略分析,并將其生成的錯誤結(jié)果提交給管理層,可能導(dǎo)致企業(yè)基于虛假信息做出錯誤的經(jīng)營決策,造成重大的經(jīng)濟(jì)損失。
3.法律合規(guī)的“雷區(qū)”
2025年,全球范圍內(nèi)針對AI數(shù)據(jù)的監(jiān)管愈發(fā)嚴(yán)格。若員工將包含個人身份信息(PII)的客戶資料投喂給AI,企業(yè)將直接面臨違反《個人信息保護(hù)法》(PIPL)或歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR)的風(fēng)險(xiǎn)。對于有跨國業(yè)務(wù)的企業(yè)而言,這可能引來天價罰單。此外,使用“影子AI”生成內(nèi)容的著作權(quán)歸屬問題,也可能讓公司在知識產(chǎn)權(quán)層面陷入法律糾紛。
4.安全防御的“盲區(qū)”
“影子AI”往往繞過了企業(yè)傳統(tǒng)的防御體系。許多打著“AI助手”旗號的瀏覽器插件或小程序,都可能含有惡意代碼,攻擊者可以利用員工對AI工具的信任和依賴,實(shí)施釣魚攻擊或利用插件后門滲透進(jìn)企業(yè)內(nèi)網(wǎng)。
芯盾時代 SDP,如何精準(zhǔn)拿捏“影子AI”
“影子AI”帶來的“數(shù)據(jù)裸奔”風(fēng)險(xiǎn),本質(zhì)上是企業(yè)對員工“過度信任”,放松了對員工行為的管控,最終失去了對數(shù)據(jù)流向的掌控。想要應(yīng)對“影子AI”帶來的安全威脅,企業(yè)必須破除對員工的“過度信任”,對員工的每一次行為進(jìn)行持續(xù)的驗(yàn)證與管控。強(qiáng)調(diào)“持續(xù)驗(yàn)證、永不信任”、以“身份”為核心實(shí)施動態(tài)訪問控制的零信任,成為了企業(yè)的理想選擇。
芯盾時代作為領(lǐng)先的零信任業(yè)務(wù)安全產(chǎn)品方案提供商,以零信任理念為指引,以軟件定義邊界為架構(gòu),以自主研發(fā)的核心技術(shù)為支撐,打造了零信任業(yè)務(wù)安全平臺(SDP),幫助企業(yè)從網(wǎng)絡(luò)、設(shè)備、身份、權(quán)限、數(shù)據(jù)五個維度,建立安全、便捷、合規(guī)的零信任網(wǎng)絡(luò)訪問系統(tǒng)。
使用芯盾時代SDP代理業(yè)務(wù)應(yīng)用的訪問流量后,企業(yè)能夠有效應(yīng)對“影子AI”帶來的安全威脅。
1.斬?cái)喾欠ń尤耄鹤尅坝白覣I”遠(yuǎn)離核心資產(chǎn)
“影子AI”的風(fēng)險(xiǎn)往往始于非受控設(shè)備或環(huán)境下的敏感數(shù)據(jù)訪問。芯盾時代SDP借助“多維身份認(rèn)證”和“終端安全管控”,能夠阻斷“影子AI”接觸企業(yè)核心資產(chǎn)。
多維身份認(rèn)證:通過設(shè)備指紋技術(shù),SDP能精準(zhǔn)標(biāo)識設(shè)備身份,實(shí)現(xiàn)員工賬戶與設(shè)備的強(qiáng)綁定,發(fā)現(xiàn)非常用設(shè)備登錄等風(fēng)險(xiǎn)行為。如果員工嘗試用未經(jīng)過公司審計(jì)的私人設(shè)備(BYOD)登錄系統(tǒng)并試圖導(dǎo)出數(shù)據(jù),SDP會直接進(jìn)行攔截,避免數(shù)據(jù)外泄。
終端安全管控:SDP客戶端集成了終端威脅態(tài)勢感知模塊,能夠核查終端安全基線、檢測終端安全態(tài)勢。當(dāng)員工下載、安裝了包含惡意程序的AI工具,SDP能夠及時識別、阻斷訪問,確保接入終端的合規(guī)性,防止惡意AI插件通過風(fēng)險(xiǎn)設(shè)備滲透。
2.數(shù)據(jù)沙箱:讓敏感數(shù)據(jù)“帶不走、喂不了”
數(shù)據(jù)沙箱是應(yīng)對“投喂式泄密”的有效技術(shù)手段,通過物理與邏輯的雙重隔離保障數(shù)據(jù)安全。
安全工作空間:借助數(shù)據(jù)沙箱技術(shù),SDP能夠在員工的終端設(shè)備中構(gòu)建與本地空間完全隔離的安全工作空間,實(shí)現(xiàn)“數(shù)據(jù)不落地”。員工在處理敏感業(yè)務(wù)時,數(shù)據(jù)被鎖在受控的沙箱內(nèi),系統(tǒng)可實(shí)施禁止復(fù)制、禁止截屏等行為管控,直接阻斷了將數(shù)據(jù)粘貼至公共AI的路徑。
動態(tài)脫敏與水印:在服務(wù)端,SDP通過動態(tài)數(shù)據(jù)脫敏技術(shù),可根據(jù)訪問者的權(quán)限對手機(jī)號、身份證號等敏感信息進(jìn)行掩碼處理。同時,無改造注入的Web水印功能不僅能起到安全震懾作用,在發(fā)生拍照泄密時也能進(jìn)行安全追溯,降低“影子AI”使用中的隱形外泄風(fēng)險(xiǎn)。
3.動態(tài)訪問控制:識別“異常投喂行為”
“影子AI”的使用行為具有動態(tài)性和隱蔽性,傳統(tǒng)的靜態(tài)授權(quán)難以應(yīng)對。芯盾時代SDP能夠?qū)γ恳淮卧L問實(shí)施動態(tài)訪問控制,阻斷異常行為。
動態(tài)訪問控制:SDP能夠智能感知身份、設(shè)備、網(wǎng)絡(luò)、行為、環(huán)境等多維因素,利用“AI+規(guī)則”雙模型對每一次訪問進(jìn)行全程、實(shí)時的風(fēng)險(xiǎn)評估,并根據(jù)風(fēng)險(xiǎn)評估結(jié)果進(jìn)行自適應(yīng)訪問控制。當(dāng)SDP監(jiān)測到某個賬號在非辦公時間進(jìn)行異常的大規(guī)模數(shù)據(jù)訪問或?qū)С觯ㄒ伤茷锳I訓(xùn)練采集素材)時,會自適應(yīng)執(zhí)行增強(qiáng)認(rèn)證或直接阻斷訪問,避免數(shù)據(jù)泄露。
4.切面安全:為舊系統(tǒng)注入“安全基因”
許多老舊業(yè)務(wù)系統(tǒng)本身不具備防范現(xiàn)代AI爬取或外泄的安全能力,重構(gòu)成本極高。芯盾時代SDP采用了切面安全技術(shù),能夠無改造為業(yè)務(wù)應(yīng)用注入安全能力。
切面安全技術(shù):芯盾時代首創(chuàng)的零信任“切面安全”技術(shù),能夠?qū)I(yè)務(wù)面和安全面解耦,無改造地為應(yīng)用注入安全能力,將權(quán)限管理能力細(xì)化至URL級。借助此技術(shù),企業(yè)能夠提升舊系統(tǒng)的安全能力,補(bǔ)齊安全短板,更好地應(yīng)對“影子AI”帶來的安全威脅。
網(wǎng)絡(luò)隱身與加密傳輸:芯盾時代SDP采用流量代理和SPA單包授權(quán)技術(shù),能夠?qū)崿F(xiàn)業(yè)務(wù)應(yīng)用和網(wǎng)關(guān)的雙重“隱身”,有效收斂應(yīng)用的互聯(lián)網(wǎng)暴露面,從源頭上減少了“影子AI”被外部攻擊者利用的可能性;同時,借助國密算法建立的加密隧道,能夠保證數(shù)據(jù)在網(wǎng)關(guān)與客戶端之間安全傳輸,保證數(shù)據(jù)在傳輸過程中不被攔截。
在AI驅(qū)動生產(chǎn)力變革的當(dāng)下,“影子AI”是每一家企業(yè)都必須面對的管理命題。企業(yè)不應(yīng)因噎廢食,禁止AI的應(yīng)用探索,而是應(yīng)該構(gòu)建零信任安全架構(gòu),構(gòu)建一套“可見、可控、合規(guī)”的訪問控制體系,讓AI成為生產(chǎn)力的助推器,而非企業(yè)安全的“后門”。
借助芯盾時代零信任安全網(wǎng)關(guān)(SDP),企業(yè)能夠以“身份”構(gòu)建新的安全邊界,結(jié)合數(shù)據(jù)沙箱的強(qiáng)隔離與持續(xù)的動態(tài)評估,不僅能夠封堵“影子AI”這一隱蔽的泄密通道,更能為數(shù)智化轉(zhuǎn)型鋪就新通途。
-
AI
+關(guān)注
關(guān)注
91文章
41315瀏覽量
302688 -
三星
+關(guān)注
關(guān)注
1文章
1782瀏覽量
34466 -
芯盾時代
+關(guān)注
關(guān)注
0文章
372瀏覽量
2713
原文標(biāo)題:“影子AI”席卷職場,企業(yè)如何走出核心機(jī)密泄露危機(jī)?
文章出處:【微信號:trusfort,微信公眾號:芯盾時代】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
芯盾時代入選2026全國企業(yè)“人工智能+”行動創(chuàng)新案例TOP100榜單
芯盾時代助力中國建筑構(gòu)建數(shù)字化轉(zhuǎn)型安全體系
芯盾時代助力江蘇長江商業(yè)銀行構(gòu)建身份安全防護(hù)體系
芯盾時代助力中科院蘇州納米所建立零信任安全架構(gòu)
芯盾時代如何應(yīng)對AI大模型的數(shù)據(jù)泄露危機(jī)
芯盾時代助力江蘇省電力設(shè)計(jì)院構(gòu)建統(tǒng)一身份認(rèn)證系統(tǒng)
芯盾時代中標(biāo)南光集團(tuán)身份管理與訪問控制系統(tǒng)項(xiàng)目
芯盾時代SDP助力企業(yè)應(yīng)對核心機(jī)密泄露危機(jī)
評論