小學生用照片攻破豐巢人臉識別系統(tǒng)、自動駕駛汽車失控撞人、AI換臉讓你一秒成為黃片主角……隨著人工智能技術(shù)的快速發(fā)展、普及和應(yīng)用，隨之而來的安全、倫理等問題也引發(fā)普遍擔憂。

“人工智能安全作為人工智能研究和產(chǎn)業(yè)化應(yīng)用的重要組成部分，應(yīng)推動政府、學術(shù)界和產(chǎn)業(yè)界進行更加深度和廣泛的合作，對人工智能的安全進行系統(tǒng)布局，”12月8日，在清華大學舉辦的AI與安全研討會上，清華大學副校長、中科院院士薛其坤表示：“這一領(lǐng)域是快速發(fā)展的，要在關(guān)鍵時刻把握正確的方向，抓住關(guān)鍵的技術(shù)，“相信通過這次AI與安全會議，能取得新的進展和收獲?！?/p>

據(jù)悉，研討會由清華大學、阿里安全、北京智源人工智能研究院聯(lián)合舉辦，邀請高校、互聯(lián)網(wǎng)公司、政府部門等多方科研人員參與，旨在提升各界對于AI與安全的重視程度，合作產(chǎn)出更多安全AI成果。

“在2019年天貓雙11當天，我們的安全AI大腦完成風險防控388億次，99%的黃牛被系統(tǒng)準確攔截，”阿里巴巴集團安全技術(shù)總經(jīng)理錢磊指出，阿里具備當前產(chǎn)業(yè)界最復雜的商業(yè)場景，清華擁有極強的技術(shù)和研發(fā)能力，未來雙方通過人才、項目等方面加強產(chǎn)學研合作，將是一個非常好的探索和命題。

清華大學計算機系黨委書記劉奕群表示，阿里與清華一直合作密切，這次會議將促進各方更加深入的合作，推動我國人工智能領(lǐng)域的安全管理體系的建立，也將在國際人工智能的安全領(lǐng)域更好發(fā)出中國的聲音。

發(fā)展可信、可解釋的安全AI成共識

人工智能發(fā)展的快速和重要性已經(jīng)不言而喻。2019年，美國、歐洲、日本等各國均出臺各類促進人工智能發(fā)展的政策和國家戰(zhàn)略；公開數(shù)據(jù)顯示，2019年，中國人工智能相關(guān)公司總數(shù)超過2500家，到2020年，中國人工智能產(chǎn)業(yè)規(guī)模將接近500億元。

“各類場景中，安防、醫(yī)療應(yīng)用較為廣泛，最近上海地鐵一個攝像頭抓到了潛逃20年的殺人犯，就是典型應(yīng)用?！眹夜I(yè)信息安全發(fā)展中心副主任李新社在報告中指出，但人工智能當前面臨數(shù)據(jù)、算法、網(wǎng)絡(luò)、信息、倫理等多方面的安全問題，“建立可信的人工智能將成為發(fā)展的重要考量?！?/p>

早在1987年就帶領(lǐng)清華成立全國第一個以人工智能命名的國家重點實驗室，見證、參與中國第一代、第二代人工智能技術(shù)發(fā)展，清華大學人工智能研究院院長、中科院院士張鈸在主旨報告中強調(diào)，必須發(fā)展安全、可靠、可信的第三代人工智能，這樣才有可能使人工智能技術(shù)得到安全廣泛的應(yīng)用。而發(fā)展技術(shù)的關(guān)鍵在于基礎(chǔ)研究，必須在基礎(chǔ)研究上進行重點投入和突破。

（清華大學人工智能研究院院長、中科院院士張鈸在會議中做主旨報告）

“一張鳥的照片，加一點噪聲，就能讓AI識別為一只老虎，”張鈸院士表示，人工智能的安全問題源于深度學習技術(shù)的底層缺陷，采用非常簡單的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，用概率統(tǒng)計的方法來提取出低層次的特征，而正確的方法應(yīng)該是像人類一樣去提取高層次的語義特征，“我們正在往這個方向努力，但現(xiàn)實情況是，沒有永遠安全的系統(tǒng)，也不要指望有永遠安全的人工智能系統(tǒng)，只有加強基礎(chǔ)研究，才有前瞻性的判斷，及時采取措施?！?/p>

中國科學院院士、大數(shù)據(jù)算法與分析技術(shù)國家工程實驗室主任徐宗本在主旨報告中也重點強調(diào)：人工智能的未來發(fā)展，特別是在醫(yī)療等關(guān)鍵領(lǐng)域的應(yīng)用技術(shù)，需要充分利用數(shù)學等工具加強基礎(chǔ)研究，突破精確性瓶頸，打破數(shù)據(jù)孤島，實現(xiàn)小樣本和可解釋的深度學習。

AI與安全發(fā)展相輔相成

針對AI與安全的眾多技術(shù)領(lǐng)域問題，中國科學技術(shù)大學網(wǎng)絡(luò)空間安全學院副院長張衛(wèi)明、上海交通大學網(wǎng)絡(luò)空間安全技術(shù)研究院副院長伍軍、西安交通大學網(wǎng)絡(luò)空間安全副院長沈超、西交利物浦大學電氣與電子工程系教授黃開竹、清華大學副教授張超等人在會上做了精彩的發(fā)言，并從各個角度提供建議，比如防止AI的濫用和誤用、加強相關(guān)標準制定、加強人才培養(yǎng)、進一步深化人工智能與各個實體產(chǎn)業(yè)的融合等。

“當業(yè)界還在擔憂AI安全性的問題，我們已經(jīng)在阿里的安全場景中全面使用AI技術(shù)，安全本身的攻防對抗屬性下，AI也在進化，”錢磊表示，阿里安全通過在打擊假貨、營商環(huán)境治理、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、新零售安全等領(lǐng)域的AI應(yīng)用，希望打造出更安全、更可信、可解釋的安全AI。

（阿里巴巴集團安全技術(shù)總經(jīng)理錢磊在會議中分享阿里用AI解決安全問題的實踐）

錢磊在現(xiàn)場公布了一組安全AI的防控數(shù)據(jù)：在打擊假貨方面，96%的疑似侵權(quán)鏈接一上線就被封殺、96%的知識產(chǎn)權(quán)投訴在24小時內(nèi)被處理；在保障商家經(jīng)營方面，每天應(yīng)對千萬級風險訂單識別和判斷，累計攔截上百萬惡評攻擊。

徐宗本院士點評稱，AI打假提供了更多機器學習、大數(shù)據(jù)分析，對真假甄別意義重大，AI打假是數(shù)字技術(shù)、人工智能的應(yīng)用場景，“阿里在這方面做得不錯?！?/p>

冰凍三尺非一日之寒。阿里巴巴集團安全部成立于2009年，最早期為專家運營階段，即通過離線數(shù)據(jù)分析研判，修復產(chǎn)品漏洞，“一直到2013年，基本都是這種人肉模式，但隨著阿里業(yè)務(wù)體系不斷擴大，如果每個業(yè)務(wù)都要兩三個專家去分析，基本是不可能的，后面我們就進入數(shù)據(jù)智能時代?！卞X磊表示，這一時期的特點是通過大量的信息，建立完善的安全體系、指標體系，通過人去解讀指標變化，再變成規(guī)則落地、線上防控，“人依然是主導?！?/p>

“安全風控本質(zhì)是一個識別、判定和處置的過程，我們嘗試通過算法來提效，并在一些流量業(yè)務(wù)中使用，效果不錯，從2018年開始，全面轉(zhuǎn)向安全AI時代，”錢磊認為，安全能力的高低強弱和在場景中能使用多少數(shù)據(jù)，使用數(shù)據(jù)的水平，是正相關(guān)的，而AI技術(shù)在安全領(lǐng)域的大面積應(yīng)用，將大大提升安全業(yè)務(wù)使用數(shù)據(jù)的水平，“安全的對抗性，又為AI技術(shù)的發(fā)展提供了豐富的多變的場景，推動AI技術(shù)的快速發(fā)展，兩者相輔相成?！?/p>

2019年6月，阿里聯(lián)合清華大學發(fā)起安全AI挑戰(zhàn)者計劃，分別進行了人臉識別、圖像分類等場景的對抗樣本測試，共計2000多名隊伍報名，此次會議中也對前五名獲獎隊伍進行了現(xiàn)場頒獎。

“我們希望與更多方合作，在AI的可解釋性、安全性上，在更多應(yīng)用場景中，產(chǎn)出更多的成果，來推動人工智能和安全產(chǎn)業(yè)的發(fā)展。”錢磊表示。