視頻時(shí)代已然拉開(kāi)帷幕。

根據(jù)2019年公布的數(shù)據(jù)，Youtube全球月活已經(jīng)突破19億，微信也超過(guò)了10億，可以說(shuō)，視頻產(chǎn)業(yè)已經(jīng)關(guān)聯(lián)到了全球的大部分人口。而隨著這種使用人數(shù)的激增，用戶時(shí)長(zhǎng)和內(nèi)容生產(chǎn)消費(fèi)量級(jí)也呈現(xiàn)出了一個(gè)指數(shù)級(jí)的上升。在這海量的內(nèi)容面前，無(wú)論是大平臺(tái)還是小公司都面臨著巨大的管理難度和審核挑戰(zhàn)。畢竟在大量視頻內(nèi)容涌現(xiàn)的同時(shí)，暴力、色情內(nèi)容也會(huì)隨之進(jìn)入互聯(lián)網(wǎng)，成為用戶視頻瀏覽中的“定時(shí)炸彈”。

而這些大公司們自然也早有準(zhǔn)備。2018年，F(xiàn)acebook推出DeepText，利用深層神經(jīng)網(wǎng)絡(luò)架構(gòu)理解內(nèi)容。而YouTube早就推出了Content ID，監(jiān)測(cè)并刪除涉及色情和暴力等違規(guī)視頻，多年來(lái)總計(jì)在該技術(shù)上花費(fèi)了超過(guò)1億美元。在這個(gè)AI賦能一切的時(shí)代，人工智能似乎正在視頻內(nèi)容的審核中大展拳腳。甚至不少媒體都預(yù)言，AI將憑借著其對(duì)海量數(shù)據(jù)的組織能力，不久后會(huì)取代人工審核。

然而事實(shí)上，人工審核是很難被機(jī)器完全替代的。

AI審核存在兩個(gè)技術(shù)難點(diǎn)，一個(gè)是算法準(zhǔn)確率問(wèn)題。在業(yè)內(nèi)有句話，“脫離數(shù)據(jù)集來(lái)談準(zhǔn)確率都是耍流氓”，這就是說(shuō)，用數(shù)據(jù)集訓(xùn)練出來(lái)的AI模型并不都能匹配實(shí)際行為，還存在用戶行為偏差等諸多影響因素，即使AI審核的準(zhǔn)確率達(dá)到了99%，考慮到用戶上傳的視頻量，剩下1%的累計(jì)量也是驚人的。

另一個(gè)難關(guān)就是對(duì)內(nèi)容的主觀判斷。簡(jiǎn)單來(lái)說(shuō)，不是所有露骨的內(nèi)容都是色情，也不是所有***都有裸露，再加上視頻內(nèi)容中涉及到的文字、語(yǔ)音等多方面情景混雜，對(duì)人來(lái)說(shuō)較容易判斷，但對(duì)機(jī)器而言需要多個(gè)算法疊加。

要知道，AI參與視頻審核并非近幾年才有。早在2000年左右，就有公司在做這方面的嘗試。但那時(shí)，視頻審核需要人為設(shè)定特征和規(guī)則，一直等到深度學(xué)習(xí)得到發(fā)展后，視頻審核才終于變得“靈活”了。但是，在視頻審核上，目前業(yè)內(nèi)普遍采用的仍然是“人機(jī)結(jié)合”的方式，并且人工在其中占據(jù)著重要比例。

YouTube的算法工程師便曾表示，目前YouTube上大部分視頻仍需要經(jīng)過(guò)人工審核，被審核視頻一部分是AI檢測(cè)出來(lái)，一部分是用戶舉報(bào)的，但最終都需要專業(yè)的審核師把關(guān)決定是否違規(guī)。

此外，在利用AI進(jìn)行內(nèi)容審核時(shí)還要注意以下三點(diǎn)：

一是對(duì)內(nèi)容的審核需要文化意識(shí)和對(duì)相關(guān)社區(qū)標(biāo)準(zhǔn)的語(yǔ)境理解。盡管AI可以執(zhí)行預(yù)調(diào)節(jié)，幫助減少人工審核的工作量，但人工參與仍是不可缺少的環(huán)節(jié)。

二是AI面臨著公眾不信任，特別是可能存在無(wú)意識(shí)的人類或技術(shù)偏見(jiàn)。此外，算法可能對(duì)違規(guī)內(nèi)容起不到檢測(cè)作用。針對(duì)此，一方面要定期分析并調(diào)整算法，利益相關(guān)者也應(yīng)保證AI的透明度。

三是由于格式多樣性和內(nèi)容復(fù)雜度，用戶生成的視頻內(nèi)容越來(lái)越難以分析，它們需要被解釋為一個(gè)整體，以此來(lái)鑒定是否違規(guī)。為了更好地了解用戶行為，及時(shí)更新違規(guī)有害內(nèi)容的定義，平臺(tái)和服務(wù)提供商之間最好能夠共享數(shù)據(jù)集，這有利于利益相關(guān)者獲得更好的文化意識(shí)和語(yǔ)境理解。

也正因此，目前業(yè)內(nèi)有兩種比較常見(jiàn)的“人機(jī)配合”審核方式——一種是AI將相對(duì)確定的視頻進(jìn)行分類，然后對(duì)部分用戶做出推薦，觀察用戶反應(yīng)，其中高熱視頻會(huì)人工率先審核；另一種則是AI將視頻標(biāo)記為“good”或“bad”，當(dāng)審核師遇到標(biāo)注有“bad”視頻時(shí)再細(xì)致地審核，這也提高了審核效率。

比如說(shuō)今日頭條采取的是第一種模式。視頻再得到大量推薦之前，會(huì)被機(jī)器試著推薦給首批用戶，根據(jù)他們的反映，來(lái)判斷你這條視頻是不是值得更多的推薦。如果數(shù)據(jù)是正向的，則會(huì)被推薦給更多的人；如果數(shù)據(jù)是負(fù)向的，則會(huì)減少或者停止推薦。

而極鏈科技video++采取的則是第二種模式，針對(duì)目前行業(yè)面臨的主要問(wèn)題，結(jié)合人工智能技術(shù)，打造全棧式智能內(nèi)容安全審核引擎——神眼系統(tǒng)，用AI技術(shù)幫助平臺(tái)方減輕內(nèi)容審核壓力、降低內(nèi)容審核成本，為客戶提供一站式的智能內(nèi)容安全解決方案。

未來(lái)，隨著用戶和內(nèi)容數(shù)量的繼續(xù)增長(zhǎng)，內(nèi)容審核的挑戰(zhàn)會(huì)越來(lái)越嚴(yán)峻，政策相關(guān)的監(jiān)管也會(huì)越來(lái)越嚴(yán)格，語(yǔ)音和視頻的內(nèi)容理解更加任重道遠(yuǎn)。作為時(shí)代洪流的見(jiàn)證者，且讓我們拭目以待。