在阿里安全與清華大學(xué)聯(lián)合舉辦的AI與安全研討會上，阿里巴巴集團首席風(fēng)險官鄭俊芳判斷，安全成為數(shù)字經(jīng)濟時代的新基建，安全基建又必須靠AI（人工智能）來實現(xiàn)。

AI面臨算法安全問題

中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸認(rèn)為，人工智能將先在交通、醫(yī)療、金融、智能制造等領(lǐng)域產(chǎn)生革命性的變化。從長遠(yuǎn)來看，AI會根本性改變這些領(lǐng)域，從現(xiàn)實來看，還有許多困難要克服。

現(xiàn)在，已有廠商在國內(nèi)部分地區(qū)試點自動駕駛出租車服務(wù)，不過整體來看，現(xiàn)在所有的自動駕駛產(chǎn)品或者即將上市的產(chǎn)品都處于L4級以下。

西安交通大學(xué)人工智能與機器人研究所教授薛建儒認(rèn)為，無人駕駛的安全可信面臨的挑戰(zhàn)性在于，無人駕駛面臨動態(tài)決策，它固有的復(fù)雜性、不確定性和歧義性都是一些開放式問題。

薛建儒說，“當(dāng)前我們的無人駕駛在應(yīng)對復(fù)雜場景和人類駕駛員相比在適應(yīng)性上存在很大差距。在如何引入人類的駕駛知識，把人類的直覺推理和演繹推理這樣的認(rèn)知機理放到駕駛模型里，提高當(dāng)前模型表征能力，我們還有所欠缺?！?/p>

張鈸表示，AI面臨著算法安全的根本原因在于，神經(jīng)網(wǎng)絡(luò)只是進行函數(shù)映射，缺乏對任務(wù)的理解，算法的魯棒性（Robust的音譯，指在異常和危險情況下系統(tǒng)生存的能力）差，具體表現(xiàn)在“一是測試集的魯棒性差，當(dāng)測試集和訓(xùn)練數(shù)據(jù)有差別，推廣能力就會變差。二是對噪聲的魯棒性很差，導(dǎo)致AI算法容易被濫用、攻擊、誤用?！?/p>

安全能力提升需開放合作

正如鄭俊芳所說，安全基建必須靠AI來實現(xiàn)，安全的AI正在給多個領(lǐng)域帶來變化。

清華大學(xué)計算機系副主任朱文武介紹了其在多媒體與AI上的研究，希望人工智能給多媒體提供研究的新思想和范式，比如原來的語義處理通過特征提取進行分析，語義學(xué)習(xí)給多媒體提供了語義和多模態(tài)信息，這能幫助機器學(xué)習(xí)做得更好。多媒體和AI呈互相促進，互相幫助、互相指導(dǎo)的態(tài)勢發(fā)展。

阿里巴巴集團首席風(fēng)險官鄭俊芳在會上演講。中新網(wǎng)記者 張旭 攝

據(jù)阿里安全資深算法專家薛暉介紹，近五年來，阿里每萬筆交易的一次侵權(quán)商品量下降將近三分之二；近三年來，阿里平臺通過輸出線索協(xié)助公安打擊線下制售假窩點，拘捕嫌疑人近萬名，累計涉案金額超過200億元。

這兩個數(shù)字背后，是阿里建立的一套基于人工智能的復(fù)雜電商環(huán)境治理體系在發(fā)揮巨大作用。算法專家不僅要保障上述體系的兩大能力高速發(fā)揮其作用，還要十分關(guān)注電商關(guān)鍵節(jié)點模型自身的安全性，以保證模型不會出現(xiàn)漏洞，不被黑產(chǎn)所利用，保證模型的魯棒性。

鄭俊芳稱，阿里在安全領(lǐng)域投入非常大，技術(shù)人員在安全團隊中占比超過50%。“這幾年我們和頂級的團隊在不同領(lǐng)域進行合作，合作背后就是因為我們遇到了很多挑戰(zhàn)，所以說，安全必須要靠堅定的投入和更開放的合作，才能解決今天面臨的復(fù)雜挑戰(zhàn)?！?br /> 責(zé)任編輯:tzh