兩款新平臺：數(shù)據(jù)安全與算法安全

RealAI在這次發(fā)布會上共發(fā)布了兩款新品，還是從數(shù)據(jù)安全和算法安全兩方面入手。 首先是，隱私保護機器學習平臺RealSecure。隱私保護機器學習平臺：從“雕版印刷”到“活字印刷”數(shù)據(jù)安全主要涉及兩方面：一是要解決隱私保護的問題，二是解決數(shù)據(jù)所有權的問題。 從實現(xiàn)第三代人工智能的思路出發(fā)，企業(yè)需要用更好的方法打通數(shù)據(jù)，保證數(shù)據(jù)隱私安全前提下最大化的挖掘數(shù)據(jù)價值。

這個過程中，受保護的、可用不可見的數(shù)據(jù)交互非常重要。 在很多高價值商業(yè)場景，如金融、醫(yī)療、交通場景中，有價值的數(shù)據(jù)常常分散在不同的機構和用戶手中，形成了大大小小的數(shù)據(jù)孤島，明顯制約了AI能力的提升。 早在2016年，谷歌就提出了聯(lián)邦學習的概念，可以實現(xiàn)“數(shù)據(jù)可用不可見”。 近幾年，在產(chǎn)學研的聯(lián)合推動下，國內(nèi)外諸多科技巨頭，均已開始搭建聯(lián)邦學習的研究與應用團隊。 國內(nèi)也出現(xiàn)聯(lián)邦學習、共享智能、知識聯(lián)邦、聯(lián)邦智能和異步聯(lián)邦學習等多個相關研究方向，RealAI所提出隱私保護機器學習與其同屬一類技術范疇，但更強調(diào)隱私保護屬性。

不同于傳統(tǒng)機器學習，隱私保護機器學習是分布式、密碼學、人工智能三個領域的結(jié)合，這就意味著，企業(yè)想要做隱私保護機器學習，之前搭建起來的人工智能團隊、經(jīng)驗等方法論不能直接拿來復用，需要重新搭建隱私保護機器學習體系下的團隊與方法論。田天表示，重新堆人力將原有機器學習代碼一點點的改寫成聯(lián)邦學習代碼，這種方式顯然并不落地，可落地的聯(lián)邦學習平臺，必須是與原有機器學習生態(tài)一脈相承的。 而“一脈相承”有兩層含義：一是算法的一脈相承，指機器學習算法與隱私保護機器學習算法應是繼承關系，而非完全重構的關系，原有的AI算法積累，可以通過平臺自動實現(xiàn)隱私保護化，實現(xiàn)兩大生態(tài)的統(tǒng)一。

二是應用的一脈相承，建模使用上需要符合原有數(shù)據(jù)科學家的建模流程，交互方式上既能支持UI的業(yè)務級一鍵建模，還可以支持以jupyter的形式建模，大幅度提高應用靈活度，讓數(shù)據(jù)科學家能夠以最熟悉的方式使用聯(lián)邦學習。 田天說到，數(shù)據(jù)科學家還是數(shù)據(jù)科學家，本地怎么建模、隱私保護就怎樣建模，分布式、加密的工作全部一鍵自動完成。

這也是RealAI推出隱私保護機器學習平臺RealSecure（RSC）的兩點考慮， 據(jù)《醫(yī)健AI掘金志》了解，這款平臺是業(yè)內(nèi)首款隱私保護AI編譯器。 以底層數(shù)據(jù)流圖的視角揭示機器學習算法與對應分布式隱私保護機器學習算法的聯(lián)系，通過“算子”組合將兩端的生態(tài)打通，解決企業(yè)搭建隱私保護生態(tài)面臨著的性能差、易用性差、黑盒協(xié)議等諸多難題。如何理解這里定位的“編譯器”？田天解釋道，在與傳統(tǒng)處理方式相比，RSC能夠?qū)C器學習算法一鍵編譯成隱私保護機器學習算法。

“如果說此前的改寫方式像‘雕版印刷’一樣，RSC則實現(xiàn)了‘活字印刷’，將模型代碼解構到‘算子’級別，通過算子的靈活組合來適配各種各樣的機器學習算法，擺脫重復改寫的繁瑣工作，實現(xiàn)靈活‘制版’?！?據(jù)《醫(yī)健AI掘金志》了解，在底層編譯的加持，以及融合密碼技術與算法的優(yōu)化，RSC能夠?qū)崿F(xiàn)性能的大幅提升。 比如，在某實際風控場景中，RSC模型訓練相比某主流國產(chǎn)開源框架性能提升40倍，耗時從4小時40分鐘縮減至6分鐘。

人工智能安全平臺：AI算法的“殺毒軟件”現(xiàn)在，AI應用隨處可見。目前市面上的手機均不同程度地配備了人臉識別方案；在公共場所，地方政府也已經(jīng)部署了人臉識別攝像頭，用于嫌疑犯追蹤。 最出名的莫過于“張學友的演唱會”，在2018年，張學友演唱會上就累計拿下了近80名違法犯罪分子。 但是，隨著人工智能規(guī)?；瘧眉铀伲涿媾R的安全風險也日益凸顯出來。

去年，RealAI就實現(xiàn)了通過一副印有特殊紋理圖案的眼鏡，解鎖了他人的手機；針對安防監(jiān)控的場景，通過穿上印有特殊紋理圖案的衣服，就能逃過人體檢測算法實現(xiàn)隱身。 田天表示，目前，最廣泛使用的深度學習技術，是通過查看數(shù)據(jù)集中許多的示例進行學習從而建立出模型的。與人類不同，深度學習模型沒有可以利用的基礎知識，它們的全部知識完全取決于訓練的數(shù)據(jù)。

當數(shù)據(jù)集中的數(shù)據(jù)被攻擊者有意的操縱，植入秘密的后門時，模型就會學習到后門中的特征，比如圖片中的向日葵。那么在實際運行中時，這個向日葵就會觸發(fā)模型出錯。 解決人工智能安全問題的核心，在于理解為什么人工智能模型學習的模式如此脆弱。 然而，對于廣泛使用的最新機器學習算法（例如深度神經(jīng)網(wǎng)絡）是如何學習和工作的，人們了解得很少，即使在今天，它們?nèi)匀辉谠S多方面仍是黑盒的。

因此，RealAI推出了首個針對人工智能模型的“殺毒軟件”和“防火墻”——RealSafe平臺，一方面能夠?qū)δＰ偷陌踩赃M行全面檢測，另一方面提供多種增強安全性的方案。在本次發(fā)布會上，RealSafe平臺迎來2.0升級，在模型安全性檢測方面，能針對對抗樣本攻擊，給出安全評分以及將檢測場景從人臉識別拓展到了目標檢測、圖像分類外。 此外，RealSafe 2.0還增加了模型后門檢測功能，能夠在不獲取模型結(jié)構及參數(shù)等具體信息的情況下，分辨出僅在特定輸入情況才會識別出錯平時表現(xiàn)正常的被植入后門的模型。 除了能夠?qū)Π踩詸z測以外，平臺也提供了安全性提升方案。

通過內(nèi)置的對抗樣本去噪方法，可以幫助用戶在人工智能應用中，破壞掉攻擊者惡意添加的圖像噪聲，使模型能夠正常運作。

通過內(nèi)置的對抗樣本檢測方法，可以幫助用戶檢測輸入數(shù)據(jù)是否存在惡意添加的圖像噪聲，避免其進入人工智能系統(tǒng)的業(yè)務流程。

通過提供平臺自動化生成的、能夠使被測模型出錯的對抗樣本，幫助用戶進行對抗訓練，訓練出更加魯棒的算法模型。

目前，RealSafe平臺已在工信部重大建設項目以及某電網(wǎng)公司落地應用。 RealAI產(chǎn)品副總裁唐家渝表示，未來還將在RealSafe平臺中集成更多安全風險的檢測能力，包括數(shù)據(jù)逆向還原風險、成員推理風險、模型竊取等安全風險。

雖然，AI算法界的“殺毒軟件”這一說法由RealAI最早提出，但滿足類似功能的產(chǎn)品在市面上也并非獨此一家。 比如，行業(yè)內(nèi)早有一些人工智能對抗技術的工具包，例如foolbox、IBM的ART以及谷歌的CleverHans。 田天認為，這些公司推出的技術，更多還是停留在學術研究階段，還沒有進入到商業(yè)應用的階段。 “很多學術機構發(fā)布的工具，是一種白盒的算法，如果要商用，要去檢測某款AI系統(tǒng)的安全性，我們不可能要求對方把所有的源代碼都給我們，他們會覺得更不安全?！?br />
因此，人工智能安全平臺在提供檢測方案的時候必須要具備“黑盒”的檢測能力。 據(jù)雷鋒網(wǎng)《醫(yī)健AI掘金志》了解，RealAI目前在金融、工業(yè)、公共服務三大領域中進行布局。田天也向我們表示，這幾大領域都有很好的機會，基本處于同步推進的狀態(tài)。但是在落地速度上，金融領域會相對快一些。 這也取決于金融業(yè)本身已有的信息化基礎、金融問題的定義更加清晰。

而在工業(yè)領域，由于這個行業(yè)的改造周期更長，項目推進的周期也更長。 以金融場景為例，風控場景中數(shù)據(jù)有偏問題尤其突出，如何評估沒有貸后表現(xiàn)的拒絕客群、挖掘其中的優(yōu)質(zhì)客戶一向是行業(yè)難題。 RealAI利用自研的半監(jiān)督回撈模型，提高對拒絕客群質(zhì)量的識別能力，實現(xiàn)撈回客群與原風控放款客群風險一致下，幫助金融機構無成本提升20%的資產(chǎn)規(guī)模。

劉荔園也向雷鋒網(wǎng)透露，很多金融機構已經(jīng)在使用黑盒模型，但是金融機構還是希望在可解釋性上更進一步。“這個機會不僅僅是留給第一波吃到螃蟹的人，而是讓更多的用戶能夠更安心、更大面積的使用這些模型。” 田天說到，“短期內(nèi)，我們需要做出一些效果突出的行業(yè)解決方案；長期來看，我們希望逐步把生態(tài)體系打造出來，對AI賦能所需要的各方面能力（算法、數(shù)據(jù)）進行集成，讓解決方案提供商完成一系列AI應用的搭建，這個能體現(xiàn)出我們作為一家平臺型公司的價值。”

責任編輯：xj

原文標題：瑞萊智慧的“長期主義”：走出清華，給AI產(chǎn)業(yè)畫一條新的“增長曲線”

文章出處：【微信公眾號：IoT科技評論】歡迎添加關注！文章轉(zhuǎn)載請注明出處。