2019年11月29日，我國監(jiān)管機構宣布了在線管理視頻和音頻內(nèi)容的新規(guī)定，包括禁止發(fā)布和分發(fā)使用人工智能和虛擬現(xiàn)實等技術創(chuàng)建的“虛假新聞”。

中共中央網(wǎng)絡安全和信息化委員會辦公室（以下簡稱“網(wǎng)信辦”）在其網(wǎng)站上表示，對AI或虛擬現(xiàn)實的任何使用也必須以醒目的方式清楚標記，并且不遵守規(guī)則可能被視為刑事犯罪。

該規(guī)則于1月1日生效，于上周發(fā)布給在線視頻和音頻服務提供商后，于周五在其網(wǎng)站上公開發(fā)布。

網(wǎng)信辦特別強調了換臉視頻技術所引起的潛在問題，該技術使用AI來創(chuàng)建超逼真的視頻，它能夠改變用戶自拍照的年齡、外貌、發(fā)色和性別，甚至可以生成虛構的人物照片。

根據(jù)網(wǎng)信辦網(wǎng)站上發(fā)布的新聞發(fā)布會的筆錄，換臉視頻技術可能“危害國家安全，破壞社會穩(wěn)定，破壞社會秩序并侵犯他人的合法權益”。

中國最高立法機構今年早些時候表示，正在考慮將深造技術定為非法。

9月，一個名為Zao的新中文應用程序-允許用戶使用換臉視頻技術與名人，體育明星或視頻剪輯中的其他任何人交換面孔，發(fā)行后其下載量達到數(shù)百萬。

但是，它也迅速引起了隱私問題的注意。Zao對造成的擔憂表示歉意，但表示該應用程序不會收集用戶的生物特征信息。

在我國，頂級的視頻平臺包括騰訊視頻，阿里巴巴旗下的優(yōu)酷和愛奇藝等視頻流服務提供商，以及快手和字節(jié)跳動旗下的抖音等短視頻平臺。