Facebook 一直明確表示過要借助人工智能（AI）技術(shù)，以幫助該社交網(wǎng)絡(luò)平臺(tái)更好地完成審核工作。 當(dāng)機(jī)器學(xué)習(xí)過濾器遇到被標(biāo)記可能違反平臺(tái)政策、或被用戶投訴的內(nèi)容時(shí)（包括但不限于垃圾郵件、仇恨言論、煽動(dòng)暴力的帖子），系統(tǒng)就會(huì)及時(shí)響應(yīng)并介入一些操作（比如刪帖或?qū)~戶加以限制），以便寶貴的人工可用于審核其它案例。

FB 舊版審核系統(tǒng)，結(jié)合主動(dòng)式的機(jī)器學(xué)習(xí)過濾 + 用戶反潰

據(jù)悉，F(xiàn)acebook 在全球范圍內(nèi)雇傭了大約 1.5 萬名審核人員，但過去因?yàn)闆]有給予這些雇員足夠的支持而遭到批評。其主要工作是根據(jù)公司的平臺(tái)政策，對標(biāo)記的帖子進(jìn)行分類。

以往的流程，或多或少地都是根據(jù)時(shí)間先后進(jìn)行排序。不過現(xiàn)在，F(xiàn)acebook 更希望借助更多機(jī)器學(xué)習(xí)算法的力量，根據(jù)內(nèi)容的權(quán)重進(jìn)行審核排序，同時(shí)設(shè)定了傳播度、敏感度、違規(guī)嚴(yán)重程度這三大參考原則。

FB 新版審核系統(tǒng)，借助更多的機(jī)器學(xué)習(xí)技能，幫助人工對待審核隊(duì)列進(jìn)行排序。

盡管尚不清楚這些標(biāo)準(zhǔn)的具體權(quán)重有何區(qū)別，但 Facebook 表示，其目標(biāo)是有限處理那些最具破壞性的內(nèi)容。換言之，傳播后果越嚴(yán)重的帖子，就越會(huì)被優(yōu)先處理。

比如涉及暴恐、剝削兒童或自我傷害等內(nèi)容，將會(huì)受到實(shí)質(zhì)性的人工審核。。同時(shí)垃圾信息等礙眼但后果不太嚴(yán)重的內(nèi)容，將被 AI 判定為次優(yōu)先級。

新引入的 WPIE 整體評估工具 + 各種內(nèi)容排序用的機(jī)器學(xué)習(xí)算法。

Facebook 社區(qū)誠信團(tuán)隊(duì)產(chǎn)品經(jīng)理 Ryan Barnes 在新聞發(fā)布會(huì)上向記者表示，該公司正在使用更好的算法，以評估所有違規(guī)內(nèi)容的人工審核優(yōu)先級，比如上圖所示的 WPIE 完整性嵌入模型。

這意味著算法將共同判斷給定帖子中的各種元素，試圖找出圖像、標(biāo)題等共同顯示的內(nèi)容，此外新算法也有助于降低審核人員在處理某些惡劣違規(guī)內(nèi)容是所遭受的心理創(chuàng)傷。
責(zé)任編輯：YYX