內(nèi)容審核(Content Moderation)，是基于圖像、文本、視頻的檢測(cè)技術(shù)，可自動(dòng)檢測(cè)涉黃、廣告、涉政涉暴、涉政敏感人物等內(nèi)容，對(duì)用戶上傳的圖片、文字、視頻進(jìn)行內(nèi)容審核，幫助客戶降低業(yè)務(wù)違規(guī)風(fēng)險(xiǎn)。它的基本流程和方式是怎樣的呢?下面小編給大家具體介紹一下。

一、審核方式

不管是什么內(nèi)容的審核，都應(yīng)該包含以下四個(gè)基礎(chǔ)模塊：機(jī)器審核、人工審核、用戶投訴審核、結(jié)果復(fù)審。

1.機(jī)器審核

是按照制定好的規(guī)則或機(jī)器學(xué)習(xí)算法對(duì)內(nèi)容進(jìn)行審核.

通常，成熟的審核系統(tǒng)能將95%甚至99%以上的內(nèi)容都自動(dòng)審核并做出處理。確定有問題的會(huì)被自動(dòng)刪除，難以判斷是否有問題的會(huì)被標(biāo)注，進(jìn)入人工審核程序。

2. 人工審核

雖然用戶投訴審核和結(jié)果復(fù)審大多時(shí)候也是人工審核，但這里所說的人工審核，特指審核機(jī)器無法判別的內(nèi)容，通常占平臺(tái)內(nèi)容數(shù)量的比例不超過5%.

但對(duì)于一些大型的內(nèi)容平臺(tái)，絕對(duì)數(shù)量已經(jīng)很多了。在內(nèi)容爆炸的時(shí)代，我們看到許多平臺(tái)在全國(guó)都有多個(gè)審核中心，每個(gè)審核中心的員工數(shù)量都成千甚至上萬。

3. 用戶投訴審核

是前兩者的彌補(bǔ)，有很多違規(guī)內(nèi)容以前沒有出現(xiàn)過;所以不在規(guī)則可以過濾的范圍內(nèi)，或者非常隱蔽，規(guī)則難以嚴(yán)格過濾。

用戶的投訴是發(fā)現(xiàn)新問題的重要渠道。通過知乎的危機(jī)事件，我們更應(yīng)該重視對(duì)投訴的審核，并及時(shí)據(jù)此對(duì)機(jī)器審核做出補(bǔ)充。

4. 結(jié)果復(fù)審

通常采取抽查方式，比如通過復(fù)審機(jī)器刪除的內(nèi)容，看規(guī)則或算法是否過于嚴(yán)格;比如通過查看人工刪除和通過的內(nèi)容，看員工的工作是否按要求執(zhí)行;比如通過內(nèi)容的整體巡查，看是否存在新的問題未被注意到。

二、審核流程

先過機(jī)器審核，機(jī)器審核 通過 或 不通過;

對(duì)機(jī)器審核不通過的，再進(jìn)行人工復(fù)審;

對(duì)機(jī)器審核通過的，再進(jìn)行人工抽樣審核。

綜上所述，大家是不是對(duì)內(nèi)容審核的基本方式和流程有了一定的了解呢，希望小編的文章對(duì)大家有所幫助，想了解更多關(guān)于內(nèi)容審核的內(nèi)容請(qǐng)關(guān)注小編。

【萌萌客:www.richlegacy2u.com】提供專業(yè)的電商在線客服外包服務(wù)、電話客服及內(nèi)容審核等服務(wù)，幫您簡(jiǎn)單客服難題。