隨著人工智能時(shí)代的到來(lái)，下一代媒體將由人工智能驅(qū)動(dòng)，人工智能可能給數(shù)字內(nèi)容領(lǐng)域帶來(lái)重塑。其中，可以實(shí)現(xiàn)換臉、人臉合成、語(yǔ)音合成、視頻生成甚至數(shù)字虛擬人等諸多應(yīng)用形式的“深度合成”技術(shù)，作為人工智能發(fā)展到一定階段的產(chǎn)物，逐步從deepfake、deepnude等***的陰影中走了出來(lái)，迎來(lái)了商業(yè)化時(shí)代。AI虛擬主播、電商平臺(tái)上的“數(shù)字試穿”、電影后期制作、社交產(chǎn)品中的人臉融合、合成人臉和合成虛擬形象用于在線營(yíng)銷、合成聲音用于失聲患者發(fā)聲，以及數(shù)字虛擬人等創(chuàng)新性的應(yīng)用持續(xù)涌現(xiàn)，“深度合成”技術(shù)的社會(huì)福祉日益彰顯。但由于對(duì)技術(shù)的不了解，人們對(duì)“深度合成”技術(shù)還存在諸多偏見(jiàn)和誤解，例如認(rèn)為“深度合成”就是“深度偽造”，認(rèn)為“深度合成”會(huì)徹底沖擊社會(huì)信任，等等。為此，騰訊研究院、騰訊優(yōu)圖實(shí)驗(yàn)室共同完成報(bào)告《AI生成內(nèi)容發(fā)展報(bào)告2020——“深度合成”（deep synthesis）商業(yè)化元年》，并基于該報(bào)告總結(jié)出了人們對(duì)該技術(shù)的十個(gè)誤解，希望通過(guò)澄清這些誤解，幫助人們更全面地了解深度合成技術(shù)的發(fā)展和應(yīng)用情況。

誤解1：深度合成技術(shù)僅包括AI換臉一種形式。

實(shí)際上，現(xiàn)階段的深度合成技術(shù)，除了廣為人知的“AI換臉”以外，還包括人臉再現(xiàn)、人臉生成、語(yǔ)音合成等技術(shù)，并朝著全身合成、數(shù)字虛擬人等方向發(fā)展。AI換臉是最早進(jìn)入公眾視野，也是目前應(yīng)用較多的深度合成形式，可以借助人工智能技術(shù)對(duì)視頻中的人臉進(jìn)行替換，在一些AI換臉應(yīng)用中，用戶只需上傳一張面部照片，就可實(shí)現(xiàn)化身電影中的演員、游戲中的角色等效果。除此之外，“人臉再現(xiàn)”涉及對(duì)目標(biāo)人物的臉部表情進(jìn)行驅(qū)動(dòng)；“人臉合成”涉及創(chuàng)建媲美真實(shí)人臉的全新人臉圖像；“語(yǔ)音合成”涉及創(chuàng)建特定的聲音模型，可以將文字轉(zhuǎn)化成接近真人語(yǔ)調(diào)和節(jié)奏的聲音。同時(shí)，深度合成正從局部合成轉(zhuǎn)向全身合成，從二維合成轉(zhuǎn)向3D合成；前者例如對(duì)目標(biāo)人物的全身動(dòng)作進(jìn)行操控，后者則以數(shù)字虛擬人技術(shù)為代表。目前，國(guó)內(nèi)外互聯(lián)網(wǎng)公司紛紛試水?dāng)?shù)字虛擬人技術(shù)，例如，2018年騰訊攜手Epic等企業(yè)啟動(dòng)“Siren”虛擬人項(xiàng)目，2019年騰訊AI Lab正式發(fā)布首個(gè)電競(jìng)虛擬人“T.E.G”(天鵝靜)，整合3D人臉和人體重建、文本/語(yǔ)音/口型驅(qū)動(dòng)和神經(jīng)網(wǎng)絡(luò)渲染等技術(shù)，特別是利用生成對(duì)抗網(wǎng)絡(luò)完成人體動(dòng)作的遷移。隨著5G時(shí)代的到來(lái)，這種捕捉和渲染將會(huì)更加靈敏生動(dòng)，數(shù)字虛擬人在游戲、社交、影視、醫(yī)療等領(lǐng)域?qū)⒋笥锌蔀椤?/p>

誤解2：任何人都可以制作高質(zhì)量、高仿真的深度合成內(nèi)容。

深度合成內(nèi)容的制作門檻已大為降低，但是高質(zhì)量、高仿真的深度合成內(nèi)容的制作還未普遍實(shí)現(xiàn)，仍需專業(yè)技能和專業(yè)工具。相比于PS等傳統(tǒng)的圖像處理軟件，得益于源代碼的開(kāi)放和易用性工具的開(kāi)發(fā)，深度合成技術(shù)的使用門檻已大為降低，普通用戶在智能手機(jī)、電腦等終端設(shè)備上，借助深度合成應(yīng)用程序，即可輕易制作、獲取AI換臉、人臉合成、語(yǔ)音合成等娛樂(lè)性的深度合成內(nèi)容。這類合成內(nèi)容往往較為容易辨別，且存在來(lái)源標(biāo)記，不至以假亂真。因此就目前而言，雖然像FakeApp、ZAO這樣的軟件已經(jīng)開(kāi)始讓更多的人接觸到深度合成技術(shù)，但高質(zhì)量、高仿真的深度合成內(nèi)容仍然難以創(chuàng)建，需要掌握專業(yè)技能和專業(yè)工具的專業(yè)人員的大量投入。

誤解3：深度合成技術(shù)已被大量濫用，用于在社交媒體平臺(tái)上制作、傳播虛假信息。

實(shí)際上，無(wú)論是在國(guó)內(nèi)還是在國(guó)外，社交媒體平臺(tái)上涉及政治和政治人物的深度合成視頻都是很少見(jiàn)的，深度合成性質(zhì)的虛假信息也很少。此前在國(guó)內(nèi)外引發(fā)廣泛關(guān)注的奧巴馬、普京等政治人物的深度合成視頻，更多是警示性的和教育性的，意在表明深度合成技術(shù)可能出現(xiàn)此類濫用，而非為了傳播政治謠言和虛假信息。而且主流社交平臺(tái)已采取了針對(duì)深度合成內(nèi)容的審核政策，因此深度合成內(nèi)容并未在社交媒體平臺(tái)中失控，也并未給公眾話語(yǔ)權(quán)與社會(huì)輿論造成扭曲。但色情性的深度合成視頻，是深度合成技術(shù)濫用的重災(zāi)區(qū)，應(yīng)予以重視，報(bào)告顯示，2019年12月全網(wǎng)共有14678個(gè)深度合成視頻，其中96%屬于色情性的深度合成視頻，主要存在于色情網(wǎng)站。

誤解4：快速立法是應(yīng)對(duì)深度合成技術(shù)濫用風(fēng)險(xiǎn)的唯一有效方式。

在新技術(shù)的治理與風(fēng)險(xiǎn)防范方面，法律規(guī)制一直是必不可少的手段，但由于很難識(shí)別深度合成內(nèi)容的來(lái)源，立法可能起不到應(yīng)有的效果，還可能阻礙技術(shù)的有益應(yīng)用與正向發(fā)展。因此，立法和監(jiān)管應(yīng)當(dāng)包容審慎，把握合理的限度，避免因矯枉過(guò)正而挫傷技術(shù)的發(fā)展應(yīng)用從而影響技術(shù)的社會(huì)經(jīng)濟(jì)價(jià)值的發(fā)揮。更進(jìn)一步而言，可通過(guò)多方參與、風(fēng)險(xiǎn)評(píng)估、成本效益分析等機(jī)制，確保立法和監(jiān)管的科學(xué)化、精細(xì)化、靈活化，并可考慮設(shè)立“安全港”規(guī)則或者監(jiān)管例外來(lái)鼓勵(lì)A(yù)I應(yīng)用。當(dāng)然，立法并非唯一有效的方式，而且具有滯后性，難以跟上技術(shù)發(fā)展演變的步伐，尤其是對(duì)于仍在快速發(fā)展的深度合成技術(shù)而言；更為合理的路徑是，借助鑒別技術(shù)、溯源技術(shù)等技術(shù)措施，要求制作者對(duì)深度合成內(nèi)容進(jìn)行標(biāo)記的源頭治理，行業(yè)公約、標(biāo)準(zhǔn)、最佳實(shí)踐、倫理指南等行業(yè)自律措施，以及公眾教育和數(shù)字素養(yǎng)的培養(yǎng)等更為敏捷靈活的治理措施，來(lái)實(shí)現(xiàn)多元治理。

誤解5：深度合成內(nèi)容無(wú)法通過(guò)技術(shù)工具鑒別，只能通過(guò)生物特征測(cè)試（例如“眨眼測(cè)試”）。

實(shí)際上，眨眼測(cè)試等根據(jù)生物特征進(jìn)行鑒別的方式，是非常低效、不可靠的，只能階段性地起作用，而且隨著深度合成技術(shù)的發(fā)展進(jìn)化，生物特征測(cè)試越來(lái)越難以發(fā)揮作用。相反，深度合成內(nèi)容的檢測(cè)識(shí)別，需要基于AI的鑒別技術(shù)，來(lái)實(shí)現(xiàn)對(duì)深度合成內(nèi)容的自動(dòng)化檢測(cè)。目前，隨著深度合成技術(shù)的進(jìn)化，學(xué)界和業(yè)界已在大量投入和支持鑒別技術(shù)的開(kāi)發(fā)，但目前的鑒別網(wǎng)絡(luò)多針對(duì)特定的深度合成方法，尚沒(méi)有通用的鑒別網(wǎng)絡(luò)，因此AI檢測(cè)工具需要隨時(shí)更新。在國(guó)內(nèi)，騰訊優(yōu)圖實(shí)驗(yàn)室也在構(gòu)建人臉合成檢測(cè)平臺(tái)——“FaceIn人臉?lè)纻巍?，并在騰訊云上發(fā)布“換臉甄別ATDF”產(chǎn)品，支持對(duì)多種換臉?lè)椒ㄟM(jìn)行檢測(cè)，達(dá)到了很高的準(zhǔn)確率。

誤解6：深度合成就是“深度偽造”（deepfake）。

國(guó)內(nèi)媒體一般根據(jù)“deepfake”這一合成詞，將其背后的技術(shù)翻譯為“深度偽造”，但“深度偽造”是以偏概全，不足以涵蓋所有的深度合成技術(shù)和相應(yīng)的合成內(nèi)容。追根溯源，deepfake最初只用于描述AI換臉的色情視頻，是一種特定的AI換臉技術(shù)，后來(lái)被媒體拿來(lái)泛指所有的深度合成技術(shù)，是以偏概全，既不專業(yè)，也不科學(xué)。因?yàn)椤吧疃群铣伞钡膬?nèi)涵更為廣泛，意指借助人工智能算法實(shí)現(xiàn)語(yǔ)音、音樂(lè)、圖像、人臉、視頻等內(nèi)容的合成和自動(dòng)生成，而以“深度偽造”為代表的AI換臉只是其中的一種應(yīng)用形式而已。此外，“深度偽造”這一不甚科學(xué)的術(shù)語(yǔ)容易給相應(yīng)的AI技術(shù)造成污名化影響，可能扼殺技術(shù)的潛在社會(huì)福利，不利于技術(shù)發(fā)展應(yīng)用，因?yàn)閐eepfake背后的AI技術(shù)具有很大的正向應(yīng)用價(jià)值，如新華社的AI合成主播、網(wǎng)絡(luò)上的虛擬歌手、社交媒體中的換臉應(yīng)用等。因此，雖然deepfake的出現(xiàn)讓背后的AI技術(shù)獲得了廣泛的關(guān)注，但基于技術(shù)使用的意圖（即deepfake）去定義技術(shù)，強(qiáng)調(diào)技術(shù)的潛在欺騙性或可能帶來(lái)的負(fù)面影響，這一做法并不科學(xué)?；谝陨峡紤]，“深度偽造”（deepfake）這一用語(yǔ)實(shí)際上并未得到技術(shù)社區(qū)的廣泛認(rèn)可；相反，使用“深度合成”（deepsynthesis）來(lái)描述相關(guān)的AI技術(shù)和合成內(nèi)容，更為科學(xué)合理。

誤解7：深度合成是人工智能技術(shù)作惡，只會(huì)給社會(huì)的帶來(lái)負(fù)面影響，沒(méi)有正向價(jià)值。

具備高度仿真能力的深度合成技術(shù)，雖然也存在被濫用的風(fēng)險(xiǎn)，但其巨大的正向應(yīng)用價(jià)值將持續(xù)帶來(lái)社會(huì)福利，正被廣泛應(yīng)用于影視、娛樂(lè)、教育、醫(yī)療、社交、電商、內(nèi)容營(yíng)銷、藝術(shù)創(chuàng)作、科研等諸多領(lǐng)域。隨著過(guò)去幾年的發(fā)展成熟，深度合成技術(shù)在2020年迎來(lái)商業(yè)化元年，大規(guī)模商用成為可能，未來(lái)幾年將持續(xù)涌現(xiàn)創(chuàng)新性的應(yīng)用形式。例如，在影視作品的后期制作方面，深度合成技術(shù)已被用于“數(shù)字復(fù)活”演員或演員的聲音，或者實(shí)現(xiàn)多種語(yǔ)言的“數(shù)字配音”。亦開(kāi)始大量涌現(xiàn)AI主播、虛擬歌手、AI換臉、數(shù)字虛擬人等社交與內(nèi)容類應(yīng)用。在電商領(lǐng)域，深度合成技術(shù)可以將用戶的臉部換到短的視頻片段中，從而讓用戶在購(gòu)買前可以實(shí)現(xiàn)“數(shù)字試穿”。在廣告宣傳、內(nèi)容營(yíng)銷等領(lǐng)域，AI合成的人臉和虛擬形象可以替代網(wǎng)紅、模特等，既能帶來(lái)新鮮感，也免去了傳統(tǒng)上使用他人肖像的授權(quán)。在醫(yī)療領(lǐng)域，深度合成技術(shù)可以讓有失聲風(fēng)險(xiǎn)的患者重新獲得“自己的聲音”，也可以生成與真實(shí)影像無(wú)異的醫(yī)學(xué)圖像來(lái)訓(xùn)練AI系統(tǒng)，解決數(shù)據(jù)不足、病人隱私保護(hù)等問(wèn)題。在語(yǔ)音合成方面，騰訊云上線的語(yǔ)音合成以及實(shí)時(shí)語(yǔ)音合成技術(shù)，可以將任意文本轉(zhuǎn)化為語(yǔ)音，用于新聞、車載導(dǎo)航等個(gè)性化語(yǔ)音播報(bào)、有聲讀物制作、機(jī)器人發(fā)聲等?？傊?，深度合成并非關(guān)于“偽造”和“欺騙”的技術(shù)，而是極富創(chuàng)造力和突破性的技術(shù)，雖然它像其他任何技術(shù)一樣，也催生了一系列必須面對(duì)的難題，但這并不會(huì)磨滅這一技術(shù)給社會(huì)帶來(lái)的進(jìn)步。

誤解8：互聯(lián)網(wǎng)行業(yè)對(duì)深度合成內(nèi)容呈放任狀態(tài)。

實(shí)際上，互聯(lián)網(wǎng)行業(yè)內(nèi)的主流網(wǎng)絡(luò)平臺(tái)已經(jīng)著手采取自律措施應(yīng)對(duì)深度合成技術(shù)的潛在濫用。谷歌、Facebook等美國(guó)主流科技公司已經(jīng)采取了應(yīng)對(duì)方案，積極開(kāi)發(fā)甄別AI合成內(nèi)容、對(duì)抗深度合成技術(shù)濫用的方法和工具，如谷歌開(kāi)發(fā)的“Reality Defender”工具，可掃描用戶瀏覽的圖像、視頻或其他數(shù)字媒介，標(biāo)記并報(bào)告可疑的偽造內(nèi)容，檢測(cè)經(jīng)竄改的人工合成內(nèi)容；在此基礎(chǔ)上降低合成內(nèi)容的權(quán)重，讓算法不再為用戶推薦被認(rèn)定為深度合成并可能造成負(fù)面影響的內(nèi)容。利用平臺(tái)優(yōu)勢(shì)，這些科技公司已經(jīng)在積極構(gòu)建深度合成數(shù)據(jù)集，并開(kāi)放給研究人員免費(fèi)使用，以此來(lái)促進(jìn)檢測(cè)技術(shù)的研究與開(kāi)發(fā)。同時(shí)，各平臺(tái)之間還攜手開(kāi)展深度合成檢測(cè)挑戰(zhàn)賽，為檢測(cè)技術(shù)的開(kāi)發(fā)提供資金和深度合成數(shù)據(jù)集，以促進(jìn)更多檢測(cè)識(shí)別技術(shù)的開(kāi)發(fā)。僅2019年，谷歌、Facebook等相繼投資此類競(jìng)賽，例如Facebook聯(lián)合微軟、美國(guó)AI聯(lián)盟（Partnershipon AI）、MIT等九家機(jī)構(gòu)發(fā)起的深度合成檢測(cè)挑戰(zhàn)賽（DeepfakeDetection Challenge），已取得一定效果。在技術(shù)賽道之外，平臺(tái)也在培訓(xùn)專門的合成內(nèi)容審查人員，主要目的是增加審核的準(zhǔn)確性，特別是在深度合成與戲仿諷刺的界限還難以把握的情況下，需要人工審核的參與，確保內(nèi)容符合平臺(tái)的政策要求。在國(guó)內(nèi)，騰訊信息安全團(tuán)隊(duì)自研的GFN網(wǎng)絡(luò)算法鑒別AI換臉，及騰訊優(yōu)圖實(shí)驗(yàn)室研發(fā)的人臉合成檢測(cè)技術(shù)，對(duì)相關(guān)深度合成內(nèi)容的檢測(cè)都達(dá)到了很高的準(zhǔn)確率。

誤解9：深度合成已經(jīng)被國(guó)外立法禁止。

實(shí)際上，被禁止的不是深度合成技術(shù)本身，而是利用此項(xiàng)技術(shù)從事色情視頻合成、虛假新聞、干擾選舉等非法行為。Reddit網(wǎng)站上deepfake論壇關(guān)閉、一鍵裸照應(yīng)用deepnude下架等事件似乎表明國(guó)外對(duì)這項(xiàng)技術(shù)很不友好，但事實(shí)上，國(guó)外立法都承認(rèn)深度合成技術(shù)的有益應(yīng)用和正向價(jià)值，沒(méi)有“一刀切”禁止使用深度合成技術(shù)，而是根據(jù)使用意圖和使用效果進(jìn)行劃分，主要對(duì)利用深度合成技術(shù)從事的違法行為進(jìn)行打擊，而沒(méi)有對(duì)正常的深度合成技術(shù)應(yīng)用施加過(guò)多的限制。例如，美國(guó)國(guó)會(huì)“Deepfakes責(zé)任法案”及美國(guó)德州、加州、弗吉尼亞州、紐約州的相關(guān)法案等只禁止政治干擾、色情報(bào)復(fù)、假冒身份等目的的深度合成，但沒(méi)有強(qiáng)制要求平臺(tái)部署檢測(cè)識(shí)別措施，而是加強(qiáng)源頭治理，要求制作者、上傳者對(duì)深度合成內(nèi)容添加水印、文字、語(yǔ)音等標(biāo)記。歐盟則對(duì)深度合成技術(shù)可能引致的假新聞以及個(gè)人信息保護(hù)等問(wèn)題關(guān)注度頗高，在考慮用GDPR進(jìn)行規(guī)制的合理性?；氐轿覈?guó)，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第23條、《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第10-13條、《民法典人格權(quán)編（草案）》第799條、《數(shù)據(jù)安全管理（征求意見(jiàn)稿）》第24條等規(guī)定給“深度合成”技術(shù)劃定了應(yīng)用邊界，同時(shí)為行業(yè)探索有益應(yīng)用場(chǎng)景留出了發(fā)展空間。

誤解10：深度合成會(huì)徹底沖擊媒體信任。

深度合成技術(shù)將如何影響大眾的行為和認(rèn)知，目前還沒(méi)有足夠的研究支持，但是它提示我們，進(jìn)入人工智能大眾化時(shí)期，對(duì)大眾信息分辨能力的培養(yǎng)也是治理的重要一環(huán)。以往PS等編輯技術(shù)也能進(jìn)行一定程度的內(nèi)容合成，但是并未沖擊社會(huì)的信任，相反社會(huì)能很好地適應(yīng)并使用這一技術(shù)。深度合成媒體將比PS等技術(shù)更容易操作和使用，隨著開(kāi)源工具的出現(xiàn)，深度合成內(nèi)容的應(yīng)用規(guī)模和使用范圍也將更大，內(nèi)容的說(shuō)服力更強(qiáng)。這為識(shí)別真實(shí)信息與合成內(nèi)容帶來(lái)了挑戰(zhàn)，在一些報(bào)道中，深度合成技術(shù)被形容成社會(huì)真相的破壞者，認(rèn)為深度合成技術(shù)的存在會(huì)導(dǎo)致對(duì)媒體信息天然的不信任，公眾可以用“deepfake”去懷疑一切他們想懷疑的事物。問(wèn)題是，在這一技術(shù)出現(xiàn)之前，使用傳統(tǒng)的音視頻剪輯技術(shù)，甚至不使用技術(shù)手段，通過(guò)斷章取義等簡(jiǎn)單方式就可以炮制虛假信息。媒體信任的塑造絕對(duì)不僅僅是封殺某一技術(shù)可以達(dá)到的，而需要從內(nèi)容的生產(chǎn)、傳播、接收等多方面進(jìn)行規(guī)范。深度合成技術(shù)的出現(xiàn)已經(jīng)讓我們意識(shí)到了眼見(jiàn)不一定為“實(shí)”，這是加強(qiáng)公眾信息辨別能力的一個(gè)重要契機(jī)。

注釋：文章總結(jié)自騰訊研究院、騰訊優(yōu)圖實(shí)驗(yàn)室共同完成的報(bào)告《AI生成內(nèi)容發(fā)展報(bào)告2020——“深度合成”（deep synthesis）商業(yè)化元年》。