毫無疑問，人工智能正在深刻改變著社會。如果我們談論未來，一定無法避免談論人工智能。

作為國家蓋戳認證的“新基建”之一，人工智能近幾年來進展飛速——從零售、出行、金融、到醫(yī)療、教育、農(nóng)業(yè)、工業(yè)。。.。。.基于人工智能技術(shù)的應用在各個領(lǐng)域中間鋪開，人工智能明星公司和獨角獸大量涌現(xiàn)。

“科技是把雙刃劍”，人工智能技術(shù)鋒芒畢露的另一面，一些始料未及的“副作用”隨之誕生，焦慮與恐懼隨著AI技術(shù)的進步而不斷被放大。

？

央視曝光“AI騷擾電話”

2019年，“315晚會”上揭露了從探針盒子截取用戶App隱私數(shù)據(jù)到AI騷擾電話這一完整的黑色產(chǎn)業(yè)鏈；然而早在2017年AI就曾被“315晚會”點名——通過自拍照3D建模后的“偽活人”可以輕松騙過人臉識別登錄系統(tǒng)，成功“黑”進個人賬戶。

AI技術(shù)圍獵個人基本權(quán)益是一個長久的命題，但回顧2019年我們就會發(fā)現(xiàn)，在一個又一個新聞熱點的背后，從肖像權(quán)到個人隱私權(quán)，個人信息的“裸奔”現(xiàn)狀并未得到有效改善——

不消停的“AI侵權(quán)”

8月底，一個名為“ZAO”的AI換臉app突然刷屏朋友圈，大眾又一次淪為現(xiàn)象級app的娛樂對象。在ZAO App中，用戶可上傳自己的頭像照片，App利用AI換臉技術(shù)將用戶肖像替換到各類影視劇中。

在一些論壇上，部分AI從業(yè)者對于“ZAO”的橫空出世頗感意外，畢竟“因為法律糾紛，現(xiàn)在地下色情產(chǎn)業(yè)都不敢輕易碰這塊兒，ZAO能過得了法律這一關(guān)嗎？”。

果不其然，“ZAO”面世兩天后，其用戶協(xié)議上的陷阱被網(wǎng)友扒出，最受抨擊的“使用者的肖像權(quán)為全球范圍內(nèi)免費、不可撤、永久可轉(zhuǎn)授權(quán)”，意味著用戶將自己的肖像權(quán)拱手讓人。此外，若被換臉明星因侵犯肖像權(quán)提起訴訟，則用戶承擔全部責任，而“ZAO”作為平臺方反而“置身事外”。

無論是“AI換臉”還是“人臉識別”，人臉作為每個人身上最直觀的唯一性生物特征，其使用暗藏著巨大的法律風險，強制收集、過度攫取人臉信息的爭議也因此一直不絕于耳。

19年10月，“中國人臉識別第一案”登上熱搜。浙江理工大學特聘副教授郭兵將杭州野生動物世界告上法庭，理由是動物園要把年卡用戶由之前的指紋認證入園改為人臉識別認證入園，未注冊人臉識別的用戶將無法正常入園，同時也無法辦理退費。

憑什么沒征求用戶的意見，就默認用戶有意愿將人臉信息放心交予園方？強制下達的新政策讓郭兵很是氣憤，“我覺得這顯然違法了《消費者權(quán)益保護法》，也不符合《網(wǎng)絡安全法》，更不符合目前正在制定的《個人信息保護法》。”

“人臉識別”成了AI技術(shù)侵權(quán)的“出頭鳥”，但反觀我們的日常生活，從手機APP開啟麥克風權(quán)限“偷聽”到監(jiān)控輸入法，精準推薦的“好意”與信息泄漏的邊界難以界定，這其中又有多少出自用戶的完全自愿？

小學生戴“頭環(huán)”上課

新技術(shù)造就新的應用場景，也帶了更多意想不到的法律難題——小學生頭戴“腦機接口”頭環(huán)上課，AI技術(shù)開始充當其老師和家長的“間諜”，人權(quán)與技術(shù)的沖突再一次被擺上臺面……

監(jiān)管的尷尬：立法滯后、訴訟難執(zhí)行

2019年11月底，國家網(wǎng)信辦、文旅部和廣電總局等三部門聯(lián)合發(fā)布了《網(wǎng)絡音視頻信息服務管理規(guī)定》，明確“利用基于深度學習、虛擬現(xiàn)實等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的……應當及時采取相應的辟謠措施”。 12月20日，全國人大常委會法工委宣布，中國2020年將制定個人信息保護法、數(shù)據(jù)安全法——從根本上解決問題的“元規(guī)則”正在路上。

但由于AI技術(shù)革新快、應用技術(shù)廣泛多變的特性，法律能否趕得上技術(shù)的日新月異？在公眾個人信息保護意識普遍淡漠的當下，又該如何做到“違法必糾？

中國互聯(lián)網(wǎng)協(xié)會法治工作委員會副秘書長、中國消費者協(xié)會律師團律師胡鋼跟蹤中國互聯(lián)網(wǎng)成長20年，他對搜狐科技表示，在立法之外，中國新版《個人信息安全規(guī)范》（以下簡稱《規(guī)范》）在幾天前的3月9日正式發(fā)布。作為國家性推薦標準，它具備約束行業(yè)的指導意義。

從《規(guī)范》來看，新版對于個人信息的主體告知收集、個人生物信息的存儲方面都有了細化和完善。

不過胡鋼指出，新版《規(guī)范》和老版一樣，其制定者大部分還是企業(yè)及相關(guān)技術(shù)負責人，因此還是存在很大局限性?！埃ㄖ贫ㄕ撸┢鸫a應該是三部分人，包括企業(yè)代表、消費者代表、然后是倫理、法律的相關(guān)專家。但事實上，后兩者的占比甚至連兩成都不到?！?/p>

自2017年，第一版《規(guī)范》發(fā)行以來，強制授權(quán)，過度索權(quán)，超范圍收集個人信息的情況仍然普遍存在，我們所了解的很多大型互聯(lián)網(wǎng)/科技公司都有被網(wǎng)信辦等部門點名的經(jīng)歷。

“刷臉”登陸/支付如今已成為移動App主流

胡鋼表示，以很多互聯(lián)網(wǎng)/科技公司都在推廣的“刷臉”功能為例，“正確的做法應該是用戶拍下的個人照片通過算法推演一套不可對人臉進行還原的單向數(shù)據(jù)，將純數(shù)據(jù)傳輸給公司，用戶的照片在本地短暫保存后應立刻銷毀。不過很可惜的是，基本全（互聯(lián)網(wǎng)）行業(yè)沒有這樣做的，都是在做整張臉（將用戶面部信息直接發(fā)送至企業(yè)后臺）?！?/p>

此外，《規(guī)范》并不具備和法律同等的震懾力。職能部門一直以來的處理方式大都集中在點名、約談、整改等方式上。兩年前，支付寶因個人信息保護不力，僅僅被央行罰款5萬元人民幣，引起輿論一片嘩然。

胡鋼告訴搜狐科技，像個人信息泄漏/買賣基本上都是大規(guī)模案件，“沒有人在乎什么50萬用戶數(shù)據(jù)，根本賣不了錢，要做都得1000萬（用戶信息）以上?！?/p>

這也意味著，即使立法出臺后，由于訴訟難以執(zhí)行，最后依然會重復沒人管也沒人改的惡性循環(huán)。

為了個人信息保護法出臺后能夠更好的落實，從源頭上預防此類事件的發(fā)生，胡鋼認為還需要做到三點，“首先必須要有專責機關(guān)，例如香港的隱私專員公署，或者純粹的公益組織，能夠代表廣大消費者在關(guān)鍵時刻提起訴訟；第二，明確民事賠償?shù)臄?shù)額標準，譬如一條信息具體賠多少錢；第三，行政處罰的力度要上去，像歐盟就會對一些公司開出上年全球收入的4%這種的巨額罰單?！?/p>

“反黑產(chǎn)AI”的前景與窘境

法律約束是整個行業(yè)行為規(guī)范的前提條件，但目前棘手的問題時，個人信息泄露/販賣/偽造等已經(jīng)形成了龐大且成熟的產(chǎn)業(yè)鏈。既然AI能夠?qū)Α昂诋a(chǎn)”推波助瀾，是否又能反過來“以其人之道還治其人之身”？

自2019年“AI撥打騷擾電話”的黑色產(chǎn)業(yè)鏈被曝光后，第二天，阿里巴巴人工智能實驗室的一項內(nèi)部代號名為“二哈”的智能防騷擾電話技術(shù)就被曝光。在一段演示視頻中，一名推銷貸款的推銷員與“二哈”對聊一分多鐘并未發(fā)現(xiàn)破綻， 甚至還遭到了“北京能不能貸款？”“最多能貸多少錢”這樣的主動提問。

同期，國外像谷歌等國外大公司都宣布推出了“AI反騷擾電話“的研究，雖然這一技術(shù)均處在早期研究階段，不過可以預見的是，未來的垃圾電話，很可能變成AI雙方的對壘。

而自誕生以來丑聞不斷的“AI換臉”技術(shù)，日前也等到了防偽“突破口”。今年2月，微軟亞洲研究院計算機視覺組的最新研究成果、可以進行鑒別人臉圖像、視頻的真假“Face X-Ray”技術(shù)，其相關(guān)論文已被CVPR 2020收錄。

微軟最新研究成果 給“假臉”照X光

微軟亞洲研究院高級研究員陳棟告訴搜狐科技，這一圖像鑒別技術(shù)技術(shù)在搜索引擎過濾、視頻網(wǎng)站審核、司法鑒定等場景里都有應用的前景，但目前Face X-Ray還處于基礎研究階段，基于現(xiàn)有的突破，算法上還需要不斷的提升和優(yōu)化，來解決一些已知的缺陷，例如鑒別全圖合成的圖片，此外對視頻現(xiàn)在也只能做到逐幀鑒別。

遺憾的是 ，道高一尺魔高一丈，目前來看，“AI反黑產(chǎn)”的技術(shù)成果仍落后于被應用于“黑產(chǎn)”的AI技術(shù)的腳步。一位人工智能行業(yè)從業(yè)者透露，“這也完全可以理解，畢竟（這些技術(shù)）的主要是公益性大于商業(yè)性”。

人工智能的發(fā)展，需要大量的數(shù)據(jù)。此前有媒體報道，一個魔幻的現(xiàn)實是，許多人臉識別公司為了度過缺乏數(shù)據(jù)的冷啟動期，甚至會去購買人臉數(shù)據(jù)，而中間商手里的人臉識別數(shù)據(jù)往往也是通過其他技術(shù)公司或數(shù)據(jù)標注公司幾經(jīng)倒手的獲得的。

技術(shù)是中立的，但使用技術(shù)的人并不是。

可以預見的是，AI技術(shù)發(fā)展與個人信息保護之間仍然會持續(xù)長久地爭議性對立，但通過法律的制定、技術(shù)的進步、市場的磨合，期望在未來能邁向更加平衡和穩(wěn)定的關(guān)系。