編輯導語：新媒介環境下，“人人都有麥克風”、“把關人”缺失、不受時空限制的網絡傳播渠道使得內容可以迅速擴散。這些都給內容安全帶來了挑戰，內容審核成為內容平臺的重中之重。無論內容、形式、平臺如何發展變化，傳播的5W模式都是通用的，對內容的審核可以圍繞著5個要素展開。

一、5W模式與內容審核

1948年，拉斯韋爾提出了傳播過程及其五個基本構成要素，即：

1. Who：誰——內容的生產者；
2. What：內容——生產者說了什么；
3. Which-In Which Channel：渠道——內容通過什么渠道傳播；
4. Whom-To Whom：受眾——誰接受到了內容；
5. With-With What Effect：效果——內容傳播后取得了什么效果。

所有的傳播行為都可以圍繞這5個要素展開。

所謂內容審核，也不僅僅是對內容本身進行識別，尤其是在目前機器識別無法達到100%的準確、內容數量本身及其龐大的情況下，通過對各個傳播要素的“監控”，也是完善機器審核的數據維度、提升審核效率的有效途徑。

5W要素應用到內容審核中，分別與以下角色環節相對應：

1. Who：生產者是否靠譜？是否是一個“可信”的人？他發布不合規信息的可能性有多大？
2. What：內容本身是否是合規的？
3. Which：渠道想要做好“把關人”的角色，應該如何開展內容審核 ？
4. Whom：受眾本身有無異常？受眾的行為是否合規（如發布不良評論）？
5. With What Effect：傳播的情況是否正常？

內容審核目前都是通過機器+人工的方式進行，審核的機制既可以是先發后審也可以是先審后發。

如何選擇這些方式和機制、在提升審核效率的同時最大程度地保障內容安全、同時又不影響用戶體驗，維護三者的平衡，可以圍繞上述各要素來進行規劃設計。

二、五要素在內容審核中的應用

1. Who：對內容的生產者的風險評分和標簽體系

1）建立對于內容生產者的風險評分

從內容生產者發布第一條內容開始，就對他展開內容識別，基于靜態的注冊信息、此前的行為信息建立初步的風險情況后，根據其后續發布內容的情況動態實時調整，同時建立黑名單制度。

如：一個內容生產者，此前瀏覽的內容都是財經、商務類型的，而且綁定了銀行卡，則前期的靜態評分可以認為他是一個低風險用戶。

后續其發布的內容在一段時間內多次觸發人工審核機制，則可以提高他的風險等級；隨后他發布的內容被用戶舉報且人工審核確實違反了規則，則可以視情況將其納入黑名單，限制之后的內容發布行為。

2）建立對于內容生產者的標簽體系

針對內容發布者進行畫像，可以實現對異常行為的監控。

標簽體系可以包括用戶的性別、年齡段、常用地理位置、常用設備、發布的內容類型等信息。一旦某些信息發生變化，則需要對其內容進行重點監控，防止異常行為，如用戶被盜號后此賬戶被用來發布不合規內容。

此外也可以設置優秀內容生產者等標簽，對此類用戶發布的內容免審核或可以先發后審。

2. What：對內容的識別規則和手段

建立內容審核的規則，審核的規則大體上來說源于監管的要求和業務的政策。

1）監管的要求

內容不能涉及黃賭毒暴政恐，《網絡信息內容生態治理規定》、《網絡短視頻內容審核標準細則》等也對內容審核提出了詳細的要求。

2）業務的政策

為營造社區的良好氛圍，保證用戶體驗，內容不能涉及侵權、謾罵、隱私、低俗、垃圾內容等；為保障平臺的正常運營和利益，不能違規發布廣告、添加鏈接等；為社區用戶安全考慮，內容不能涉及導流、詐騙等。

3）豐富審核的技術手段

充分利用人工智能等技術手段，實現對文本、圖片、聲音、視頻的自動識別，不斷提高機器的召回率和準確率。

4）搭建機器審核和人工審核的流轉機制

包括內容在何種情況下觸發審核、何種情況下觸發人工審核，人工審核是否需要復核等，完善的流程設置對效率的提升大有助益。

3. Which：助力審核人員扮演好“把關人”的角色

1）設置有效的任務分配機制

提升分發效率和審核效率，保證需審核視頻100%分發，且在最短時間內到達審核人員，同時按照一定的規則給審核人員分配需要審核的視頻。

按照觸發人工審核的原因來分發，可以使審核人員積累在某一領域的審核經驗，提升審核效率。

2）為審核人員提供配套的功能

“工欲善其事必先利其器”，提供審核的輔助功能，助力人工審核提速。

如針對文本的審核對敏感詞高亮顯示，針對音視頻的審核標注關鍵幀、設置倍速瀏覽功能，審核的信息通過信息流的方式自動呈現，減少操作點擊環節。

4. Whom：通過受眾識別違規內容的“蛛絲馬跡”

1）為受眾提供舉報功能

一方面可以節約審核資源，另一方面也是對機器和人工審核錯誤率的一種彌補。

2）建立受眾的標簽體系

和針對傳播者的標簽體系一樣，對用戶的畫像除了用于針對用戶的內容推薦外，也可以是對內容質量反饋的一個維度。

例如：同一個內容被大量不同標簽的用戶關注，可能內容本身存在了誘導行為，就需要人工審核予以確認。

3）進行受眾聚集情況分析

針對受眾的集中情況進行分析，是否過于聚集。

不過此方式多用于直播中刷量行為等的監控，在內容審核中，可以輔助判斷內容是否存在誘導、違規廣告營銷等。

5. With What Effect：通過傳播的效果發現內容的異常

1）通過觀看、點贊、轉發、評論數等的監控發現異常行為

傳播范圍廣泛的內容中若存在風險，造成的后果更為嚴重，因此要對觀看、點贊、轉發、評論量比較大的內容特別關注。

另外：這些指標的異常也是一個值得關注的風險點，此前點贊數一直不過百的用戶新發布的內容突然點贊過萬，可能需要對內容進行人工審核。

2）對評論進行內容識別

評論同樣是內容審核需要關注的部分，對評論內容的識別。

一方面是監控評論是否有違規行為，另一方面通過關注評論內容中是否存在對內容本身的舉報等，來進行內容審核。

三、小結

從5W模式入手建立內容審核的體系，是基于傳播要素的完整模式。

內容審核的重點還是在對內容本身的識別方面，從提升機器審核的召回率和準確率，到提升人工審核的效率，再到搭建完整的流轉機制，從其他要素著手也主要是為優化這三個環節來服務。

當機器能夠實現對違規內容的100%精準識別，甚至具備了自我學習的本領，能夠自己去拓展發現審核的“要義”，或許其他環節也就不那么必要了。

本文由 @小小晶 原創發布于人人都是產品經理，未經許可，禁止轉載

題圖來自Pexels，基于 CC0 協議