內(nèi)容審核(Content Moderation),是基于圖像、文本、視頻的檢測(cè)技術(shù),可自動(dòng)檢測(cè)涉黃、廣告、涉政涉暴、涉政敏感人物等內(nèi)容,對(duì)用戶上傳的圖片、文字、視頻進(jìn)行內(nèi)容審核,幫助客戶降低業(yè)務(wù)違規(guī)風(fēng)險(xiǎn)。它的基本流程和方式是怎樣的呢?下面小編給大家具體介紹一下。
一、審核方式
不管是什么內(nèi)容的審核,都應(yīng)該包含以下四個(gè)基礎(chǔ)模塊:機(jī)器審核、人工審核、用戶投訴審核、結(jié)果復(fù)審。
1.機(jī)器審核
是按照制定好的規(guī)則或機(jī)器學(xué)習(xí)算法對(duì)內(nèi)容進(jìn)行審核.
通常,成熟的審核系統(tǒng)能將95%甚至99%以上的內(nèi)容都自動(dòng)審核并做出處理。確定有問題的會(huì)被自動(dòng)刪除,難以判斷是否有問題的會(huì)被標(biāo)注,進(jìn)入人工審核程序。
2. 人工審核
雖然用戶投訴審核和結(jié)果復(fù)審大多時(shí)候也是人工審核,但這里所說的人工審核,特指審核機(jī)器無法判別的內(nèi)容,通常占平臺(tái)內(nèi)容數(shù)量的比例不超過5%.
但對(duì)于一些大型的內(nèi)容平臺(tái),絕對(duì)數(shù)量已經(jīng)很多了。在內(nèi)容爆炸的時(shí)代,我們看到許多平臺(tái)在全國(guó)都有多個(gè)審核中心,每個(gè)審核中心的員工數(shù)量都成千甚至上萬。
3. 用戶投訴審核
是前兩者的彌補(bǔ),有很多違規(guī)內(nèi)容以前沒有出現(xiàn)過;所以不在規(guī)則可以過濾的范圍內(nèi),或者非常隱蔽,規(guī)則難以嚴(yán)格過濾。
用戶的投訴是發(fā)現(xiàn)新問題的重要渠道。通過知乎的危機(jī)事件,我們更應(yīng)該重視對(duì)投訴的審核,并及時(shí)據(jù)此對(duì)機(jī)器審核做出補(bǔ)充。
4. 結(jié)果復(fù)審
通常采取抽查方式,比如通過復(fù)審機(jī)器刪除的內(nèi)容,看規(guī)則或算法是否過于嚴(yán)格;比如通過查看人工刪除和通過的內(nèi)容,看員工的工作是否按要求執(zhí)行;比如通過內(nèi)容的整體巡查,看是否存在新的問題未被注意到。
二、審核流程
先過機(jī)器審核,機(jī)器審核 通過 或 不通過;
對(duì)機(jī)器審核不通過的,再進(jìn)行人工復(fù)審;
對(duì)機(jī)器審核通過的,再進(jìn)行人工抽樣審核。
綜上所述,大家是不是對(duì)內(nèi)容審核的基本方式和流程有了一定的了解呢,希望小編的文章對(duì)大家有所幫助,想了解更多關(guān)于內(nèi)容審核的內(nèi)容請(qǐng)關(guān)注小編。
【萌萌客:www.richlegacy2u.com】提供專業(yè)的電商在線客服外包服務(wù)、電話客服及內(nèi)容審核等服務(wù),幫您簡(jiǎn)單客服難題。





