英特爾公司與佐治亞理工學院將為美國國防部啟動一項為期4年的項目，以研發(fā)防御技術，防止AI和ML系統(tǒng)被攻擊、欺騙。

蓋世汽車訊 據(jù)外媒報道，當?shù)貢r間4月9日，英特爾公司（Intel Corp.）與佐治亞理工學院（Georgia Institute of Technology）宣布將為美國國防先進研究計劃署（U.S. Defense Advanced Research Projects Agency）領導一個項目團隊，研發(fā)防御技術，防止人工智能系統(tǒng)被攻擊和欺騙。

（圖片來源：英特爾）

該項目名為“確保人工智能足夠強大，以抵御欺騙”（Guaranteeing Artificial Intelligence Robustness against Deception，GARD），將持續(xù)4年，耗資數(shù)百萬美元，英特爾為主承包商，致力于改善網(wǎng)絡安全防御機制，防范會影響到機器學習模型的欺騙攻擊。

雖然針對機器學習（ML）系統(tǒng)的對抗性攻擊很少見，但是利用ML和AI進行操作的系統(tǒng)的數(shù)量在不斷增加。而此類技術是自動駕駛汽車等半自動和自動駕駛系統(tǒng)的重要部分，因此有必要繼續(xù)防止AI技術錯誤地對現(xiàn)實世界中的物體進行分類（例如，能夠區(qū)分停車標志與人類），因為在學習模型中插入有害信息或微微修改物體本身都會誤導物體識別。

GARD團隊的目標是為此類系統(tǒng)配備工具和增強性功能，更好地幫助其抵御此類攻擊。

其實，此類攻擊已經(jīng)出現(xiàn)多年。例如，2019年3月，騰訊科恩實驗室（Tencent’s Keen Security Lab）發(fā)布了一份報告，表示研究人員能夠利用貼在道路上的貼紙，誘使特斯拉Model S變道，并進入迎面而來的車流中。在2017年，研究人員3D打印了一種烏龜，而且配備了特別設計的外殼圖案，以欺騙谷歌的AI圖像識別算法，讓該算法誤認為烏龜是來復槍。

自此之后，研究人員一直在研究利用修改過的路標欺騙自動駕駛車輛的方法，例如，利用一塊黑色膠帶欺騙半自動駕駛汽車的攝像頭，讓其誤認為速度限制范圍比實際要更大。

因此，GARD的愿景是利用以前以及現(xiàn)在對影響計算機AI和ML視覺系統(tǒng)的缺陷和漏洞的研究，打造一個理論基礎，幫助識別系統(tǒng)的漏洞，并確定極端情況的特征，以增強此類系統(tǒng)面對錯誤和攻擊的應對能力。

在GARD項目的第一階段，英特爾和佐治亞理工學院將在靜態(tài)圖像和視頻中保持空間、時間和語義一致性，以提升物體識別能力，意味著AI和ML系統(tǒng)能夠在額外情境下得到訓練，了解到在任何給定情況下會發(fā)生什么，并經(jīng)過設計，以標記場景或駁回不太可能的圖像場景。該階段的理念是通過在環(huán)境中引入更多解釋圖像的因素，開發(fā)出具有更好“判斷力”的AI。

例如，一名攻擊者可以通過改變停車標志，讓其外觀有點走樣，以欺騙AI，讓AI認為該停車標志不是一個停車標志。對于人類而言，該停車標志還是紅色、還是八角形的形狀，即使“停下”這個詞被改變了或者消失了，因而，大多數(shù)人類駕駛員還是會停車。不過，AI可能會誤解該標志，并繼續(xù)行駛。不過，如果能夠額外感知情境，即讓AI在識別十字路口、標志形狀、標志顏色等方面接受訓練，就可以像人類駕駛員一樣，駁回錯誤的分類信息。

總而言之，英特爾和佐治亞理工學院的研究是為了實現(xiàn)更好的圖像識別系統(tǒng)，以提高自動駕駛車輛的安全性，并讓各行業(yè)內(nèi)的ML系統(tǒng)能夠更好地分類物體。