如何審核UGC社區內容
編輯導語:短視頻風行的時代,我們每天都在接收各種各樣的信息。一直以來,碎片信息的參差不齊是一個值得重視的問題,UGC社區的審核也就顯得非常重要。本文圍繞如何審核UGC社區內容,為審核者提供了一些新思路。
UGC 社區,是以用戶生產原創內容為主的線上社區,但由于用戶創作水平的不同,生產的內容自然有優劣之分,同時,有人聚集的地方就會有商機,自然有別有用心的人發廣告。所以,對用戶原創內容的審核,無論是為了良好的用戶體驗還是來自政府監管的壓力,都是社區必須要做的事情。
從內容流程「生產 — 審核 — 加工 — 消費」來看,當內容生產后,運營人員在后臺審核通過后,再做糾正錯別字等加工,內容才會呈現在榜單、推薦 Feed 流 等前端展示位。
在審核過程中,運營人員充當「清潔工」和「淘寶客」,前者是做合規性審核,針對的是黃賭毒暴政恐,以及不符合社區業務的內容;后者是做質量審核,針對的是符合社區業務的內容,做出三六九等的質量評級,然后給予對應的曝光流量。
針對這兩種內容性質的審核,一般都是以分值進行評判,比如針對不符合規性的內容,分值是 0 – 50 分,一般是不給予流量(冷處理)或直接刪除;而針對質量等級的內容,分值是 60 – 100 分,且分數越高,說明內容質量越好,那么在前端就可以獲得多一點流量。
為了加快內容審核,大公司都會開發出反廣告的 antispam 系統,特點是「機器為主,人工為輔」,運營人員提供違禁詞、敏感詞,然后系統在用戶發布內容后,直接刪除觸及到違禁詞的內容,將觸及敏感詞的內容放置在待審核區,交給運營人員審核。
但由于我之前所在的 UGC 社區處于探索期,后臺審核只支持內容分類打標、設置內容等級的分值、下架刪除內容等基礎功能,再加上內容量在 5000 條左右(帖子 500 條,評論量 4500 條),相對那些上百萬級發布量的社區而言,這一點的內容量還是比較少,于是我雇用幾名兼職,采用人工方式搭建審核體系。
PS:文末有這篇文章目錄的思維導圖,可以保存下來,然后再閱讀~
一、合規性審核
我將不符合規性審核的內容,都稱為廣告,一共有 7 條,比如:
1)黃賭毒暴政恐等違法亂紀內容,特別是黑絲露腿截圖
2)個人收賣,比如賣鞋、賣房、收游戲賬號
3)有損自家平臺的話語,比如辱罵、詆毀
在這些定義中,最好是附上例子,讓兼職和其他同事可以快速明白,以便達成共識。
當廣告的定義設定之后,就需要給兼職分配工作。由于在我之前負責的社區中,內容主要有兩部分,一部分是帖子,即用戶發的動態,內容的載體有圖文或視頻,但沒有直播形式;另一部分是評論,即用戶在帖子下的評論。在后臺系統中,帖子、帖子下的評論都是獨立顯示,也就是一個頁面顯示帖子列表,另外一個頁面顯示評論列表。如果要把兩者關聯起來,那么必須要人工通過帖子 ID 進行查詢。
基于此,我把兼職分為兩批,一批用來搭建帖子廣告處理體系,另外一批用來搭建評論廣告舉報體系,如下:
1. 帖子廣告
對于帖子廣告,只需要一個人一天總共花 80 分鐘,即可在后臺系統查完,所以我安排了一名兼職在后臺檢查,發現廣告的帖子,進行如下操作:
1)一般情況下,兼職打上廣告標簽進行標識,然后運營人員每天下班前審查廣告標簽的帖子,確定是廣告的帖子,就進行冷處理(此時帖子會在前端隱藏),或直接刪除。
2)遇到嚴重的情況,特別是黃賭毒,或反復發帖辱罵平臺,兼職需要即時私信運營人員,一般都是直接刪除。
2. 評論廣告
由于評論數量多,再加上不少人直接發廣告圖片,以至于運營人員在后臺查看時,即使花白天的時間,也僅僅找到幾條。
所以,我換了一種思路,招募了 10 名兼職,專門在 APP 前端查看帖子,并且用馬甲號進行評論,一旦遇到帶有廣告的評論,直接截圖并且圈出來,分享到微信群,然后有額外一名兼職在后臺系統處理,即時反饋每個兼職的當月累計舉報次數。一個月下來,廣告的舉報總數可以高達 2000 條。
此外,還可以收集一些頻繁出現的廣告關鍵字,比如要的聯系、當面交易,那么可以每天在后臺進行搜索。以后做反廣告的 antispam 系統時,這些廣告關鍵字可以直接派上用場。
多嘴一句,在發布量或評論量比較少的社區,特別是處于探索期時,不建議做 antispam 系統,除了耗人力之外,還有一個重要原因就是,太多限制的關鍵字會導致社區的忠實用戶流失,比如大多數平臺將「微信」及其衍生詞「vx」等作為限制關鍵詞,只要用戶發表的言論帶有這些詞語,輕則直接刪除,重則禁止用戶發言,這極大地打擊了用戶的熱情。
二、質量審核
在質量審核中,也會分為帖子和評論,主要是為了篩選出優質內容,防止出現劣幣驅除良幣的不良現象。需要注意的是,由于兼職不了解業務、內容網感差等因素,由運營人員全程參與,哪怕一天只能評級 20 條,那么也不會引入兼職做質量審核。
1. 帖子質量
考慮到我招募的 KOL 達人多半是職高學生,創作水平一般,我當時將帖子質量分為 A、B、C 三級,C 要求為語句通暢、表達清晰,而 A、B 則要求懂得結構化表達,即總分總結構。
在審核過程中,評為 A、B 兩級的帖子,分值設為 80 – 100 分,優先在推薦頁第一屏幕顯示,而 C 級文章,分值在 60 分左右,將會在推薦頁第二屏幕顯示。
為了防止運營人員的強干預對內容造成誤判,那么也會對每篇內容做獨立的數據統計,比如知乎會將知乎答主的每篇回答的閱讀量、互動數進行記錄,并且做成看板提供給創作者。
此外,并且我公司系統將 24 小時內達到「閱讀率 10%,點贊人數 8」(閱讀率 = 閱讀人數 / 曝光人數)的帖子設置為優質帖子,自動給予更多的流量。
對于優質帖子,運營人員還可以做以下的操作:
1)置頂
當某篇帖子被運營人員設為置頂后,在 APP 前端會有置頂標識,和其他普通帖子做出一定的區分,并且用戶做下拉刷新不會改變其位置,比如今日頭條 APP 經常會把官方的時政新聞置頂在推薦頁頂部。
2)設置精選內容區
可以設立榜單、編輯精選區等產品功能,將優質的帖子放進去。比如酷安每天都會將熱門的圖文、問答等類型的內容放入編輯精選區。
3)制作《社區創作者指南》
對于優質的內容,運營人員根據數據做簡要分析,比如對于閱讀率高于 4% 的帖子,原因可能是標題善于用「你」,讓讀者感到作者是和他對話,更為貼近人心,那么可以將這些心得整理到《社區創作者指南》,以指導社區的其他創作者。
這樣做可以極大激勵社區創作者的熱情,就好像上小學時,老師會把學習成績優秀的學生名字寫在黑板上,鼓勵其他學生的向他看齊。
2. 評論質量
對于評論,一般是按照點贊、時間等維度進行算法排序,不需要運營太過于操心。
不過對于較為優質的評論,特別是神評論,一般是運營安排兼職用馬甲號進行評論,俗稱埋雷,在后臺將該評論設置「加熱」,該評論將會在 APP 前端顯示在帖子的外面。此外,一般也可以使用程序算法進行自動設置,比如對每一條帖子,第一個評論超過 10 個點贊數,則自動設置為神評論。
但在埋雷時,一定要記得換號,防止出現「黃婆賣瓜,自賣自夸」的翻車現象,比如抖音不時有博主為了引發內容消費者多評論,故意在評論下夸自己的作品很好,但評論時卻忘記了切換到小號。
三、對違規用戶的處理
審核內容不僅僅是審核內容,還需要審核發內容的人,畢竟內容是由人發出來的。
我將用戶分為普通用戶、KOL、高危用戶。其中 KOL 是可以創作出高質量帖子的用戶,高危用戶是時常違規的用戶,比如經常廣告,而其余的都是普通用戶。
對于 KOL,一般都會愛惜自己的羽毛,不會輕易出現發廣告、辱罵他人等違紀行為,所以對于他的帖子或評論,審核時都會直接通過,并且還會對他的帖子分配多一點流量。而對于他出現違規問題,那么運營人員可以私信他,對他進行警告提醒,如果情節嚴重或多次違反,那么可以對他進行禁言,短則七天,長則幾個月
但對于高危用戶,一般是注冊才幾天的新用戶居多,注冊后就會立即發廣告的帖子或評論。而這些用戶,一般是屢教不改,運營人員會把他拉進黑名單,禁止他發帖子或評論,并且對他所有的帖子以及評論進行刪除,封禁時間一般為幾個月。如果違規次數超過 3 次,那么會對其進行永久封號。
在社區中,由于觀點各異,在評論區經常會出現罵戰,最后都會上升到人身攻擊。當運營人員發現后,應該封禁雙方當事人的賬號,即時刪除不好的評論,并且在在前端留下解禁的微信聯系方式,當被封禁的用戶再次進行發帖或評論,解禁的聯系方式就會被彈出來,那么他可以添加微信,然后進行申述。
此外,由于審核會出現疏忽,那么可以發揮群眾的力量。方式主要有兩種,如下:
1)產品實現舉報功能
比如知乎用戶可以舉報知乎回答或評論,然后知乎會在給出舉報的處理結果:已處置 or 未發現違規。
但這種方式是非常耗人力,比如在產品端實現流程化之后,還需要用客服或運營人員進行核實。
2)私信官方號
一般存在私信功能的社區,都會設置官方號,用戶可以將要舉報的用戶或內容,截圖或發鏈接給官方號,寫上舉報理由,然后交由官方號進行處理。這種方式比較省人力,并且運營人員可以即時跟舉報者進行實時溝通。
對于大公司如何審核內容,感興趣的可以查看知乎 Alita 鄭瑜的文章:《UGC社區的內容如何進行審核和過濾?》
最后,這篇文章比較長,特意為你準備了一張思維導圖,方便你閱讀。
作者:貓曉豆豆,社區運營,會一點知識管理。微信公眾號:貓曉豆豆。
本文由 @貓曉豆豆 原創發布于人人都是產品經理,未經許可,禁止轉載。
題圖來自Unsplash,基于 CC0 協議。
感覺現在大一點的平臺在判斷內容質量的時候都不會人工審核or加精什么的了,請問樓主知道他們是怎么給內容質量分級的么
你好,人工審核或加精是肯定有的,一般他們都是用機器先審,然后有爭議的留給人工審核,俗稱人工復檢
什么時候能出一篇關于如何從0到1構建PGC社區
PGC社區跟UGC社區差不多,但PGC社區更簡單一點,因為內容生產源都是官方或合作機構,參考36Kr
但是大部分舉報都有點難真正落實到,像小紅書還好,但是微博,我舉報了不下50條,沒有一條是成功的…關鍵是我看了一下,確實都不是正常評論,但微博那里顯示的永遠是待審核,可能用戶量太大了吧,這樣的社區做的雖然是成功的,但也很失敗
的確,其實廣告是最破壞社區的氛圍的。用戶舉報廣告,是不想這些廣告影響社區氛圍,但運營人員不處理,那么舉報者就會覺得運營人員不重視,也會覺得社區的氣質與自己的氣質不符(舉報次數多的話),那么就會離開社區了。
其實UGC社區做的比較成功的有微博、豆瓣、貼吧、知乎。
是的,其實還有抖音、快手
文章不錯!像是很簡單的一篇操作手冊,大致了解到如何進行內容審核,但是亂象問題仍然沒能解決
你指的亂象問題是什么呢
灌水帖怎么治理?
灌水貼處理,選擇的是內容分數,以及封號。。。