互聯網廣告內容審核專題(三)——人機聯動
編輯導語:筆者上一篇文章《機器審核》中,重點介紹了機器審核的能力,互聯網廣告內容審核專題(二)——機器審核;本文來談談機器和對人工審核如何組合運作,滿足各類業務場景的需求?
首先,什么場景需要人工審核?對于機器無法準確識別的內容,都需人工審核進行確認;通常機器審核和人工審核的量級約為9:1,對于日均量級上億的內容產品上,人審日均量級也達到百萬級,同時滿足時效性要求和審核質量無疑是很困難的。
因此在實際業務中,根據不同產品的形態,建立不同的人機聯動審核機制,最大化滿足審核訴求。
下面分別談談兩種基本的審核機制:
一、人機聯動機制
1. 先審后發
先審后發是早期審核采用的模式,要求全部內容均通過完整的審核流程后允許上線分發,用以保證風險最低、質量最優。
通常對于商業廣告,高風險行業或客戶必須采用先審后發機制,來避免風險的發生;對于重質量的內容社區,也需要經過完整的審核流程才能進行發布。
以上給出先審后發機制中,機器和人工審核聯動的基本流程。待審內容都先通過機器審核;當機審輸出結果達到閾值,準確度可信時,按機器審核結果通過上線或直接拒絕;當機審輸出結果未達到閾值,給出疑似風險的判斷,推送給人工審核進行最終確認,按人審結果通過上線或直接拒絕。
對于先審后發機制,不斷提升機器審核的準確率,將會大大減少人工審核的工作。
2. 先發后審機制
對于海量的內容,全部采取先審后發機制無法滿足內容分發的時效要求。近些年興起的先發后審機制,可以幫助解決這部分問題。
對于商業廣告,可以選取低風險行業或客戶,允許先上線分發,幫助其短時間內獲取更多流量;對于時效性要求高的內容產品,如評論、視頻彈幕等,快速上線展現,滿足其實時發布需求。
以上給出先發后審機制中,機器和人工審核聯動的基本流程。待審內容通過機器審核,秒級輸出機審審核結果;如機審結果確認有風險,則按機審結果直接拒絕,否則立刻上線分發;上線后根據展現量抽取線上展現內容,推送人工復審,檢查風險問題。
如人工復審發現的風險問題較大,可以將該行業或客戶的審核機制升級為先發后審,來保證風險可控。
在審核業務中,先審后發和先發后審兩種機制也通常組合運作,靈活調配,以最小的成本實現風險控制,滿足審核時效要求。
二、審核任務分配
在人機聯動審核機制中,如何將審核任務快速分配給對應的人員進行審核呢?來一起看看審核任務分配機制。
1. 審核任務主動分配
上圖是一套動態靈活的審核任務分配機制,減少任務等待時間,更快速地分發給審核人員。
第一步:待審任務灌入審核任務池,等待被分配。
第二步:根據審核組長或管理人員配置的權重,自動分發相應比重的任務,進入審核員任務列表,審核員可以開始審核;通常分配權限需支持靈活配置,如支持審核員請假等場景。
第三步:對審核任務池和審核員任務列表實時監控;如出現任務池任務突增,需加快分配至審核員任務列表進行審核;如審核員任務列表剩余任務不足,任務池主動進行分配;通過這樣動態分配的方式,保證審核員有充足的任務,避免任務積壓。
實際審核任務分配可以基于此基本方法進行變換,滿足不同場景的審核需求。
本篇文章的內容就到這里,關于更多的審核模式、審核機制、審核業務管理方式等會在后續文章中繼續和大家分享!歡迎大家一起探討!
本文由 @Rush 原創發布于人人都是產品經理,未經許可,禁止轉載
題圖來自?Unsplash,基于 CC0 協議
贊??