編輯導語：短視頻風行的時代，我們每天都在接收各種各樣的信息。一直以來，碎片信息的參差不齊是一個值得重視的問題，UGC社區的審核也就顯得非常重要。本文圍繞如何審核UGC社區內容，為審核者提供了一些新思路。

UGC 社區，是以用戶生產原創內容為主的線上社區，但由于用戶創作水平的不同，生產的內容自然有優劣之分，同時，有人聚集的地方就會有商機，自然有別有用心的人發廣告。所以，對用戶原創內容的審核，無論是為了良好的用戶體驗還是來自政府監管的壓力，都是社區必須要做的事情。

從內容流程「生產 — 審核 — 加工 — 消費」來看，當內容生產后，運營人員在后臺審核通過后，再做糾正錯別字等加工，內容才會呈現在榜單、推薦 Feed 流 等前端展示位。

在審核過程中，運營人員充當「清潔工」和「淘寶客」，前者是做合規性審核，針對的是黃賭毒暴政恐，以及不符合社區業務的內容；后者是做質量審核，針對的是符合社區業務的內容，做出三六九等的質量評級，然后給予對應的曝光流量。

針對這兩種內容性質的審核，一般都是以分值進行評判，比如針對不符合規性的內容，分值是 0 – 50 分，一般是不給予流量（冷處理）或直接刪除；而針對質量等級的內容，分值是 60 – 100 分，且分數越高，說明內容質量越好，那么在前端就可以獲得多一點流量。

為了加快內容審核，大公司都會開發出反廣告的 antispam 系統，特點是「機器為主，人工為輔」，運營人員提供違禁詞、敏感詞，然后系統在用戶發布內容后，直接刪除觸及到違禁詞的內容，將觸及敏感詞的內容放置在待審核區，交給運營人員審核。

但由于我之前所在的 UGC 社區處于探索期，后臺審核只支持內容分類打標、設置內容等級的分值、下架刪除內容等基礎功能，再加上內容量在 5000 條左右（帖子 500 條，評論量 4500 條），相對那些上百萬級發布量的社區而言，這一點的內容量還是比較少，于是我雇用幾名兼職，采用人工方式搭建審核體系。

PS：文末有這篇文章目錄的思維導圖，可以保存下來，然后再閱讀~

一、合規性審核

我將不符合規性審核的內容，都稱為廣告，一共有 7 條，比如：

1）黃賭毒暴政恐等違法亂紀內容，特別是黑絲露腿截圖

2）個人收賣，比如賣鞋、賣房、收游戲賬號

3）有損自家平臺的話語，比如辱罵、詆毀

在這些定義中，最好是附上例子，讓兼職和其他同事可以快速明白，以便達成共識。

當廣告的定義設定之后，就需要給兼職分配工作。由于在我之前負責的社區中，內容主要有兩部分，一部分是帖子，即用戶發的動態，內容的載體有圖文或視頻，但沒有直播形式；另一部分是評論，即用戶在帖子下的評論。在后臺系統中，帖子、帖子下的評論都是獨立顯示，也就是一個頁面顯示帖子列表，另外一個頁面顯示評論列表。如果要把兩者關聯起來，那么必須要人工通過帖子 ID 進行查詢。

基于此，我把兼職分為兩批，一批用來搭建帖子廣告處理體系，另外一批用來搭建評論廣告舉報體系，如下：

1. 帖子廣告

對于帖子廣告，只需要一個人一天總共花 80 分鐘，即可在后臺系統查完，所以我安排了一名兼職在后臺檢查，發現廣告的帖子，進行如下操作：

1）一般情況下，兼職打上廣告標簽進行標識，然后運營人員每天下班前審查廣告標簽的帖子，確定是廣告的帖子，就進行冷處理（此時帖子會在前端隱藏），或直接刪除。

2）遇到嚴重的情況，特別是黃賭毒，或反復發帖辱罵平臺，兼職需要即時私信運營人員，一般都是直接刪除。

2. 評論廣告

由于評論數量多，再加上不少人直接發廣告圖片，以至于運營人員在后臺查看時，即使花白天的時間，也僅僅找到幾條。

所以，我換了一種思路，招募了 10 名兼職，專門在 APP 前端查看帖子，并且用馬甲號進行評論，一旦遇到帶有廣告的評論，直接截圖并且圈出來，分享到微信群，然后有額外一名兼職在后臺系統處理，即時反饋每個兼職的當月累計舉報次數。一個月下來，廣告的舉報總數可以高達 2000 條。

此外，還可以收集一些頻繁出現的廣告關鍵字，比如要的聯系、當面交易，那么可以每天在后臺進行搜索。以后做反廣告的 antispam 系統時，這些廣告關鍵字可以直接派上用場。

多嘴一句，在發布量或評論量比較少的社區，特別是處于探索期時，不建議做 antispam 系統，除了耗人力之外，還有一個重要原因就是，太多限制的關鍵字會導致社區的忠實用戶流失，比如大多數平臺將「微信」及其衍生詞「vx」等作為限制關鍵詞，只要用戶發表的言論帶有這些詞語，輕則直接刪除，重則禁止用戶發言，這極大地打擊了用戶的熱情。

二、質量審核

在質量審核中，也會分為帖子和評論，主要是為了篩選出優質內容，防止出現劣幣驅除良幣的不良現象。需要注意的是，由于兼職不了解業務、內容網感差等因素，由運營人員全程參與，哪怕一天只能評級 20 條，那么也不會引入兼職做質量審核。

1. 帖子質量

考慮到我招募的 KOL 達人多半是職高學生，創作水平一般，我當時將帖子質量分為 A、B、C 三級，C 要求為語句通暢、表達清晰，而 A、B 則要求懂得結構化表達，即總分總結構。

在審核過程中，評為 A、B 兩級的帖子，分值設為 80 – 100 分，優先在推薦頁第一屏幕顯示，而 C 級文章，分值在 60 分左右，將會在推薦頁第二屏幕顯示。

為了防止運營人員的強干預對內容造成誤判，那么也會對每篇內容做獨立的數據統計，比如知乎會將知乎答主的每篇回答的閱讀量、互動數進行記錄，并且做成看板提供給創作者。

此外，并且我公司系統將 24 小時內達到「閱讀率 10%，點贊人數 8」（閱讀率 = 閱讀人數 / 曝光人數）的帖子設置為優質帖子，自動給予更多的流量。

對于優質帖子，運營人員還可以做以下的操作：

1）置頂

當某篇帖子被運營人員設為置頂后，在 APP 前端會有置頂標識，和其他普通帖子做出一定的區分，并且用戶做下拉刷新不會改變其位置，比如今日頭條 APP 經常會把官方的時政新聞置頂在推薦頁頂部。

2）設置精選內容區

可以設立榜單、編輯精選區等產品功能，將優質的帖子放進去。比如酷安每天都會將熱門的圖文、問答等類型的內容放入編輯精選區。

3）制作《社區創作者指南》

對于優質的內容，運營人員根據數據做簡要分析，比如對于閱讀率高于 4% 的帖子，原因可能是標題善于用「你」，讓讀者感到作者是和他對話，更為貼近人心，那么可以將這些心得整理到《社區創作者指南》，以指導社區的其他創作者。

這樣做可以極大激勵社區創作者的熱情，就好像上小學時，老師會把學習成績優秀的學生名字寫在黑板上，鼓勵其他學生的向他看齊。

2. 評論質量

對于評論，一般是按照點贊、時間等維度進行算法排序，不需要運營太過于操心。

不過對于較為優質的評論，特別是神評論，一般是運營安排兼職用馬甲號進行評論，俗稱埋雷，在后臺將該評論設置「加熱」，該評論將會在 APP 前端顯示在帖子的外面。此外，一般也可以使用程序算法進行自動設置，比如對每一條帖子，第一個評論超過 10 個點贊數，則自動設置為神評論。

但在埋雷時，一定要記得換號，防止出現「黃婆賣瓜，自賣自夸」的翻車現象，比如抖音不時有博主為了引發內容消費者多評論，故意在評論下夸自己的作品很好，但評論時卻忘記了切換到小號。

三、對違規用戶的處理

審核內容不僅僅是審核內容，還需要審核發內容的人，畢竟內容是由人發出來的。

我將用戶分為普通用戶、KOL、高危用戶。其中 KOL 是可以創作出高質量帖子的用戶，高危用戶是時常違規的用戶，比如經常廣告，而其余的都是普通用戶。

對于 KOL，一般都會愛惜自己的羽毛，不會輕易出現發廣告、辱罵他人等違紀行為，所以對于他的帖子或評論，審核時都會直接通過，并且還會對他的帖子分配多一點流量。而對于他出現違規問題，那么運營人員可以私信他，對他進行警告提醒，如果情節嚴重或多次違反，那么可以對他進行禁言，短則七天，長則幾個月

但對于高危用戶，一般是注冊才幾天的新用戶居多，注冊后就會立即發廣告的帖子或評論。而這些用戶，一般是屢教不改，運營人員會把他拉進黑名單，禁止他發帖子或評論，并且對他所有的帖子以及評論進行刪除，封禁時間一般為幾個月。如果違規次數超過 3 次，那么會對其進行永久封號。

在社區中，由于觀點各異，在評論區經常會出現罵戰，最后都會上升到人身攻擊。當運營人員發現后，應該封禁雙方當事人的賬號，即時刪除不好的評論，并且在在前端留下解禁的微信聯系方式，當被封禁的用戶再次進行發帖或評論，解禁的聯系方式就會被彈出來，那么他可以添加微信，然后進行申述。

此外，由于審核會出現疏忽，那么可以發揮群眾的力量。方式主要有兩種，如下：

1）產品實現舉報功能

比如知乎用戶可以舉報知乎回答或評論，然后知乎會在給出舉報的處理結果：已處置 or 未發現違規。

但這種方式是非常耗人力，比如在產品端實現流程化之后，還需要用客服或運營人員進行核實。

2）私信官方號

一般存在私信功能的社區，都會設置官方號，用戶可以將要舉報的用戶或內容，截圖或發鏈接給官方號，寫上舉報理由，然后交由官方號進行處理。這種方式比較省人力，并且運營人員可以即時跟舉報者進行實時溝通。

對于大公司如何審核內容，感興趣的可以查看知乎 Alita 鄭瑜的文章：《UGC社區的內容如何進行審核和過濾？》

最后，這篇文章比較長，特意為你準備了一張思維導圖，方便你閱讀。

作者：貓曉豆豆，社區運營，會一點知識管理。微信公眾號：貓曉豆豆。

本文由 @貓曉豆豆 原創發布于人人都是產品經理，未經許可，禁止轉載。

題圖來自Unsplash，基于 CC0 協議。