還記得去年在色情行業(yè)掀起一陣風(fēng)暴的 Deepfakes 嗎？通過 AI 神經(jīng)網(wǎng)絡(luò)和演員的照片，反復(fù)進(jìn)行機(jī)器學(xué)習(xí)之后，就能讓 AI 自動(dòng)識(shí)別和替換掉影片里某人的臉部數(shù)據(jù)。

后來 B 站也掀起了一陣「萬物皆可徐錦江」的熱潮，比如雷神和海王，乃至很多的經(jīng)典電影的片段都出現(xiàn)了徐錦江的臉，甚至其中還包括《新白娘子傳奇》里的白素貞。

這一次花式操作確實(shí)秀，也讓更多人了解了什么是 Deepfakes 和 AI 換臉。

現(xiàn)在，「Deepfakes」已經(jīng)泛指那些被人工智能改變過的媒體內(nèi)容，只要是某人沒有做過的事被 AI 做出來都可以認(rèn)為是 Deepfakes，而且不止是視頻，音頻同樣也可以通過 AI 來偽造。

但現(xiàn)在 Deepfakes 正在從過去的色情范圍進(jìn)一步擴(kuò)大到了犯罪的世界，現(xiàn)在有一些犯罪分子使用 Deepfakes 來冒充公司的高管進(jìn)行詐騙，目前他們使用的是 Deepfakes 的音頻而非視頻來進(jìn)行詐騙。

相關(guān)的技術(shù)其實(shí)早已經(jīng)有所應(yīng)用，比如網(wǎng)絡(luò)上那些偽造的 Trump 講話，這一段喬丹·皮爾「配音」的奧巴馬演講也堪稱經(jīng)典案例

而這種詐騙，要比「小 X，明天來我辦公室一趟」可要厲害不知多少倍，用被忽悠瘸的范偉老師的話說就是「哎呀，防不勝防！」

作為一家網(wǎng)絡(luò)安全公司，賽門鐵克表示已經(jīng)發(fā)生了至少三起對(duì)私營(yíng)企業(yè)成功的音頻詐騙，都是將自己偽裝成 CEO 的聲音要求財(cái)務(wù)進(jìn)行緊急匯款。

當(dāng)然，犯罪分子也為此做了很多訓(xùn)練，用人工智能偽裝聲音不必多說，他們還通過電話、Youtube 視頻和 TED 演講視頻來模仿該公司 CEO 說話習(xí)慣，在進(jìn)行數(shù)小時(shí)的演練和計(jì)劃之后才會(huì)實(shí)施。

這三起詐騙讓每家公司都損失了數(shù)百萬美元，但公司的名稱目前并沒有被披露出來，BBC 最先報(bào)道了這些攻擊事件。

顯然，Deepfakes 對(duì)企業(yè)的威脅是切實(shí)存在的，尤其是在已經(jīng)有三起成功案例之后。但目前這樣的運(yùn)用方法仍然只是「小兒科」的簡(jiǎn)單手法，真正令人膽寒的是這樣技術(shù)能用于更大的破壞。比如你想要拉低蘋果公司的股價(jià)怎么辦，只要一份刻意偽造的音頻剪輯，并放出一些類似庫(kù)克私人談話等不利信息，蘋果的股價(jià)恐怕很容易就能蒸發(fā)數(shù)十億美元。

然而目前并沒有非常好的方式去監(jiān)測(cè)這些造假音頻，因?yàn)榧夹g(shù)的越發(fā)成熟，這些Deepfakes 的音視頻制作正在變得越來越容易，同時(shí)破綻也越來越少。但絕大多數(shù)企業(yè)都對(duì)此沒有準(zhǔn)備。

更糟糕的是，從行業(yè)上說，對(duì)于 AI 造假的媒體來說，目前來看尚沒有高效的檢測(cè)和抵御解決方案。

技術(shù)方面，賽門鐵克表示他們正在開發(fā)檢測(cè)音頻造假的技術(shù)。購(gòu)買第三方公司服務(wù)的話也同樣不便宜，New Knowledge 是一家?guī)椭镜钟摷傩畔⒌墓?，但它們的服?wù)費(fèi)用可能從 5 萬到數(shù)百萬美元不等。

而最讓人頭疼的是，當(dāng)這些 AI 造假的音視頻被揭穿時(shí)，通常損失已經(jīng)造成了。