機器學(xué)習(xí)算法能改進安全解決方案，幫助人類分析師更快地分類威脅和修補漏洞。但同時，黑客也能利用機器學(xué)習(xí)發(fā)起更大更復(fù)雜的攻擊。

機器學(xué)習(xí)被定義為“計算機未經(jīng)顯式編程情況下的學(xué)習(xí)能力”，是信息安全行業(yè)的一大福音。從惡意軟件到日志分析，再到早期漏洞發(fā)現(xiàn)與修復(fù)，安全分析師可從機器學(xué)習(xí)中獲益良多?；蛟S，該技術(shù)也能提升終端安全，自動化重復(fù)性任務(wù)，甚至降低數(shù)據(jù)泄露的發(fā)生率。

于是，人們很自然地認為，這些智能安全解決方案會比傳統(tǒng)遺留工具更快地發(fā)現(xiàn)并阻止下一波WannaCry攻擊。人工智能和機器學(xué)習(xí)尚屬新生領(lǐng)域，但無疑指明了未來的方向，將極大地改變安全運營方式。

現(xiàn)下數(shù)據(jù)和App爆炸式增長，除非運用建立在AI基礎(chǔ)上的自動化系統(tǒng)，否則我們將無法分析這海量的網(wǎng)絡(luò)流量和用戶交互活動，安全也就淪為空談了。

然而問題在于，黑客也知道這些技術(shù)，也想打造自己的AI和機器學(xué)習(xí)工具來發(fā)起攻擊。

網(wǎng)絡(luò)罪犯是怎么利用機器學(xué)習(xí)的？

有組織犯罪越來越多，暗網(wǎng)上也出現(xiàn)了各種各樣的黑客服務(wù)，網(wǎng)絡(luò)罪犯們的創(chuàng)新速度令安全防御追趕不及。于是，像機器學(xué)習(xí)和深度學(xué)習(xí)這樣的新興技術(shù)就頗為令人擔(dān)憂了，畢竟，技術(shù)就在那里，誰都能用。

盡管機器學(xué)習(xí)、深度學(xué)習(xí)和AI之類技術(shù)可能是未來網(wǎng)絡(luò)防御的基石，但網(wǎng)絡(luò)罪犯們圍繞這些技術(shù)的實現(xiàn)和創(chuàng)新可謂勁頭十足，絲毫不比安全界差。網(wǎng)絡(luò)安全領(lǐng)域中，經(jīng)技術(shù)放大的人類智慧，將成為攻防競賽中的制勝因素。

或許，未來真的會出現(xiàn) AI vs AI 的景象——《終結(jié)者》風(fēng)格的。在攻擊者越來越能有效探索被攻破網(wǎng)絡(luò)的大背景下，今年可能就是我們在網(wǎng)絡(luò)安全領(lǐng)域見證 AI vs AI 的第一年。安全提供商肩上的擔(dān)子更重了，他們必須要能打造出更自動化更智能的解決方案。

自治響應(yīng)是網(wǎng)絡(luò)安全的未來。算法應(yīng)能采取明智且有針對性的緩解動作，減緩甚或阻止正在進行中的攻擊，同時又不影響正常業(yè)務(wù)活動的開展。

當(dāng)前，野生的機器學(xué)習(xí)攻擊尚未見諸報端，但犯罪團伙已經(jīng)開始利用某些技術(shù)了。

1. 殺軟規(guī)避功能更強的惡意軟件

網(wǎng)絡(luò)罪犯們的惡意軟件創(chuàng)建工作很大程度上是手工作坊式的。他們編寫腳本制作計算機病毒和木馬，利用Rootkit、口令刮取器、鍵盤記錄器等工具輔助病毒和木馬的傳播與執(zhí)行。

如果他們能加速這一過程會有什么后果呢？機器學(xué)習(xí)可以用來輔助創(chuàng)建惡意軟件嗎？

用機器學(xué)習(xí)創(chuàng)建惡意軟件的首個例子出現(xiàn)在2017年，是在一篇題為《為基于GAN的黑盒測試產(chǎn)生敵對惡意軟件樣本》的報告中提出的。報告作者編寫了一個基于生成性敵對網(wǎng)絡(luò)(GAN)的算法來產(chǎn)生敵對惡意軟件樣本，這些樣本甚至能繞過基于機器學(xué)習(xí)的檢測系統(tǒng)。

同樣是在2017年，DEFCON大會上，安全公司Endgame利用馬斯克的OpenAI框架創(chuàng)建出定制惡意軟件，安全引擎對這些AI惡意軟件視而不見。Endgame是通過修改惡意二進制文件的某些部分來騙過殺毒引擎的，修改后的代碼看起來無害而可信。

其他研究人員則預(yù)測，機器學(xué)習(xí)最終將能基于實驗室檢測的方法和結(jié)果來實時修改代碼。這基本算是多態(tài)惡意軟件的擴展。

2. 智能僵尸網(wǎng)絡(luò)用于可擴展的攻擊

安全公司飛塔認為，2018年將是“蜂巢網(wǎng)絡(luò)”(hivenets)和“機器人集群”(swarmbots)之類自學(xué)習(xí)系統(tǒng)年，“智能”IoT設(shè)備可被用于發(fā)起大規(guī)模網(wǎng)絡(luò)攻擊。這些設(shè)備將能相互通信，并基于共享的本地情報采取行動。另外，僵尸主機也會變得更聰明，不用其控制者顯式干預(yù)即可自行執(zhí)行命令。因此，蜂巢網(wǎng)絡(luò)將會像蜂群一樣呈指數(shù)級增長，極大增強其同時攻擊多個受害者的能力，并大幅阻礙緩解及響應(yīng)措施。

有趣的是，這些攻擊并沒有利用集群技術(shù)，蜂巢網(wǎng)絡(luò)并沒有能夠從其以往行為中自行學(xué)習(xí)。作為AI的分支，集群技術(shù)被定義為“去中心化自組織系統(tǒng)的自然或人工的群體行為”，如今已經(jīng)應(yīng)用在無人機和新興機器人設(shè)備中。

3. 高級魚叉式網(wǎng)絡(luò)釣魚變得更聰明

機器學(xué)習(xí)的惡意用途中一個較為明顯的方面，是用語音朗讀、語音識別和自然語言處理(NLP)之類的算法進行更智能化的社會工程攻擊。畢竟，通過遞歸神經(jīng)網(wǎng)絡(luò)，人類已經(jīng)能教此類軟件寫文章了，所以在理論上，網(wǎng)絡(luò)釣魚郵件也是可以變得更復(fù)雜巧妙而可信的。

尤其是，機器學(xué)習(xí)能令高級魚叉式網(wǎng)絡(luò)釣魚郵件更針對那些位高權(quán)重的人士，而且能自動化整個釣魚過程?？梢杂谜鎸嵿]件來訓(xùn)練這些系統(tǒng)，讓它們學(xué)會產(chǎn)生看起來令人信服的郵件。

邁克菲實驗室的2017預(yù)測中曾說，網(wǎng)絡(luò)罪犯將會更多地利用機器學(xué)習(xí)來分析大量被盜數(shù)據(jù)記錄，識別出潛在受害者，編寫出語境豐富、說服力強的釣魚郵件。

另外，2016年的美國黑帽大會上，研究人員提交了一篇題為《武器化數(shù)據(jù)科學(xué)的社會工程應(yīng)用：在推特上自動化E2E魚叉式網(wǎng)絡(luò)釣魚》的論文，其中展示了一個可以學(xué)習(xí)向目標(biāo)用戶發(fā)送釣魚推文的回歸神經(jīng)網(wǎng)絡(luò)。論文中名為SNAP_R的神經(jīng)網(wǎng)絡(luò)經(jīng)魚叉式網(wǎng)絡(luò)釣魚滲透測試數(shù)據(jù)訓(xùn)練后，可動態(tài)運用從目標(biāo)用戶及其關(guān)注用戶處按時間軸抽取的推文主題，來構(gòu)造出更加可信的社會工程攻擊，增加惡意鏈接的被點擊率。

該系統(tǒng)相當(dāng)有效。在涉及90名用戶的測試中，此框架成功率在30%到60%之間，相比人工魚叉式網(wǎng)絡(luò)釣魚和群發(fā)網(wǎng)絡(luò)釣魚郵件可謂有了長足進步。

4. 威脅情報失去控制

涉及機器學(xué)習(xí)，威脅情報也算是禍福兼有的事物吧。一方面，在誤報橫行的時代，機器學(xué)習(xí)系統(tǒng)可幫助分析師識別出多個系統(tǒng)中的真正威脅。

機器學(xué)習(xí)帶給威脅情報的主要好處有二：

? 第一，海量數(shù)據(jù)的處理和結(jié)構(gòu)化，包括其間復(fù)雜關(guān)系的分析，是僅靠人力幾乎無法解決的問題，而給人輔以機器的處理能力，意味著分析師可以更有效地識別并響應(yīng)新興威脅；

? 第二，自動化可以將沒什么技術(shù)含量的瑣碎工作批量完成，極大增加分析師能處理的事務(wù)數(shù)量。

但是，網(wǎng)絡(luò)罪犯也會快速適應(yīng)，簡單地再次過載警報即可。邁克菲CTO格羅布曼曾指出過一種被稱為“提升噪音地板”的技術(shù)。黑客將使用該技術(shù)通過產(chǎn)生大量誤報來讓機器學(xué)習(xí)模型習(xí)以為常。而一旦目標(biāo)將自身系統(tǒng)重新調(diào)整到略過這些誤報，攻擊者就可發(fā)起能逃過該機器學(xué)習(xí)系統(tǒng)的真正攻擊。

5. 未授權(quán)訪問

早在2012年，就出現(xiàn)了在安全攻擊中應(yīng)用機器學(xué)習(xí)的案例。3名研究人員使用支持向量機(SVM)攻破了reCAPTCHA驗證碼系統(tǒng)，準確率高達82%。此后，所有驗證碼機制都經(jīng)過了改進，直到2016年，研究人員才用深度學(xué)習(xí)再次攻破此類系統(tǒng)。此時，用深度學(xué)習(xí)對簡單驗證碼取得的準確率升到了92%。

去年的黑帽大會上，“我是機器人”的研究項目揭示了研究人員如何攻破最新的語義圖像驗證碼，并比較了多種機器學(xué)習(xí)算法。該研究中的方法對谷歌的reCAPTCHA驗證碼取得了98%的準確率。

6. 機器學(xué)習(xí)引擎中毒

用于檢測惡意軟件的機器學(xué)習(xí)引擎也是可以被下毒致癱的，這種方法雖然簡單粗暴，但依然有效，就好像網(wǎng)絡(luò)罪犯以前對殺軟引擎所做的那樣。機器學(xué)習(xí)模型從輸入數(shù)據(jù)中學(xué)習(xí)，如果該數(shù)據(jù)池就是帶毒的，那么其輸出自然也免不了有毒。紐約大學(xué)的研究人員展示了卷積神經(jīng)網(wǎng)絡(luò)(CNNs)是怎么被安插后門以產(chǎn)出錯誤結(jié)果的，谷歌、微軟和AWS之類CNNs都沒逃過機器學(xué)習(xí)中毒的毒手。