TK難民涌入小紅書,深度分析如何進行內容風控
昨天小紅書首頁被不少外國友人占領,大家也開始紛紛進行友好的民間交流。也有不少平臺和作者都在寫文分析,但都是從用戶、行業的角度。如果是從產品——小紅書的角度,該怎么做?這篇文章,我們看看作者怎么說。
小紅書迎來潑天富貴,在 TikTok 封禁令即將生效的前夕,大量美國人涌入小紅書,使得小紅書在昨天成功登頂 美區 App Store 。要知道,在這之前,小紅書從未進行海外運營,在這之前壓根兒沒有下載排名。
于是,從昨天開始,小紅書的首頁就變成了這樣:
沒想到國際互聯網在小紅書里實現了,學英語這個事兒,有語境確實挺重要的,我之前一直在學abandon,現在至少已經學到 refugee 了。
但,大家都不約而同地想到一個問題——涌入大量美國用戶,小紅書如何進行內容風控和審核,以及,小紅書是否就要從此被墻?
作為一名產品經理,我認為有必要從產品角度和商業角度,來深度分析一下,內容社區產品在內容風控上的一些要點。我們將從事件原因的角度,具體分析小紅書的實際情況,然后通過總結「內容風控策略」的核心要點,來預測小紅書面對大量外來內容的情況下,應當如何進行內容風控。
目錄
01 為什么是小紅書
02 內容風控的核心要點是什么
03 預測一手,小紅書會如何收場
01 為什么是小紅書?
為什么美國用戶,沒有涌入更像 TikTok 的抖音,或者進入美國本土的ins、Facebook,而是涌向了小紅書?
主要是4個原因:
- 小紅書不分區,小紅書在最早期的階段,本身就是個海淘應用,大量中國留學生用戶,在海外使用小紅書,所以在各國的應用市場,都能夠方便地下載中文版小紅書,而且所有用戶都在一起,沒有進行國家間的隔離。
- 抖音雖然更相似,但是抖音的用戶注冊門檻,隔絕了外國用戶的使用。首先,抖音本身沒有上架美區App Store,美國用戶想要下載抖音,需要先翻進來搞一個國區Apple賬號,其次,抖音在注冊階段采用的策略是,支持非+86的國外手機號注冊,但注冊完成后,必須進行實名認證,而實名認證的方式,只有身份證……
- 小紅書剛剛進行改版,社區氛圍非常接近 ins 的內容,加上剛剛改版、完全符合上下滑動操作習慣的第二個Tab “熱門”,都讓 TikTok 用戶能夠比較輕松地進行遷移和適應。
- 沒有大量進入美國本土的ins、Facebook的原因是, TikTok 用戶本身對于 TikTok 被封禁非常不滿,因此對美國應用都產生了強烈的逆反心態,在 TikTok 大V的號召下,選擇直接進入中國軟件,徹底擺脫美國政府的管轄范圍。
所以,大量 TikTok 用戶涌入,就會產生大量內容,小紅書的內容風控,面臨著巨大的挑戰。
小紅書又應當如何處理這些國外用戶,封還是不封?
02 內容風控的核心要點是什么?
一個內容社區的用戶角色,大致可分為內容生產者(創作型用戶)和內容消費者(瀏覽型用戶),既有內容的生產創作,又有觀眾能夠消化掉創作產能,形成良好的社區內容生態。
對于一款產品,從風控角度來抽象,其基本業務框架的模型可以總結為“業務”、輔助業務的“增長”、保障業務的“風控”和支撐以上三點的“數據”。
“業務”自然是產品最關鍵的地方,“增長”“風控”和“數據”都是輔助業務良態運行。對小紅書的內容業務來說,協調內容生產者和內容消費者,形成良好的內容生態,是最關鍵的核心,輔以用戶增長(包括用戶增長和創作者增長兩個方面),并且對社區進行風控。
通過業務的發展和增長、風控的積累,形成用戶基礎數據、注冊信息、瀏覽行為、視覺偏好、用戶標簽等數據,然后通過這些數據,再反向支撐業務發展,形成產品內的數據打通。
那今天我們著重分析的,就是風控這一環節。金融產品、信貸產品有風控非常好理解,但其實,所有類型的產品都需要有風控。電商產品要防薅羊毛,社交產品要防欺詐,而內容產品,則是要對平臺內容的質量和合規性進行風險控制。
對于內容社區等UGC產品來說,風控線就是生死線。內容和社區產品的風控壓力來源于監管側,風控對象是用戶在平臺發布的內容。
1. 內容風控要“控”什么?
來自內容側的風險主要有三類。
其一是政策層面的內容合規,要符合監管的要求。監管要求的內容可參考最新實行的《網絡信息內容生態治理規定》,對于各項違規內容都做了詳細規定,大致概括可分為涉政、違禁、暴恐、色情等四類,這部分是政策紅線,一旦觸及,輕則約談,重則下架、封禁。
其二是社區氛圍的良性導向,如謾罵、隱私等。這一類型的內容雖然不會觸及監管紅線,但倘若內容社區充斥各種負能量,對于社區氛圍是非常嚴重的損害,傷及用戶體驗,導致用戶流失,影響產品商業利益。這一類型內容風控還包括對于產品運營主體的保護,例如對吐槽公司工作人員的內容進行限流處理、對平臺和產品的詛咒進行刪除等,屬于商譽和公關層面的維護,同時也是對產品官方公信力的維護。
其三是社區用戶安全的保證。對于內容和社區產品而言,平臺內一定會存在導流、灰產、詐騙等不法手段,如何保護平臺內用戶的財產安全和產品體驗,是非常關鍵的,互聯網發展至今,導流、詐騙等行為往往是成熟的灰黑產產業鏈所為,他們擁有豐富的反監查和防過濾經驗,揪出他們并進行處理,需要平臺與其斗智斗勇。
2. 內容風控的方法和手段
在最最早期的階段,對內容進行風險控制,只能通過編輯人工進行審核。這種方式需要大量的人力物力,而且稿件審核需要時間長,時效性也被大大削弱。一般的公司,很難負擔起龐大的內容審核團隊。
之后,誕生了關鍵詞過濾等手段,成為成本較低,并且使用最為廣泛的內容風控措施。對于命中預設的違禁關鍵詞的內容,直接阻止發出或者轉交人工審核。這種方式性價比極高,耗費成本小,但基本可以過濾掉大多數的違規內容。
關鍵詞過濾存在的問題也很明顯,準確率較低,經常出現誤傷和漏網的情況,對于內容和社區平臺來說,這是不能容忍的,前文已經講過,哪怕一篇違規內容被放出來,產品都有可能被封禁,內容風控是一件“寧可錯殺一百,不能放過一個”的事情。再加上網絡的普及,越來越多的人學會了通過拼音、亂碼、諧音等方式繞開關鍵詞,關鍵詞過濾逐漸不再能勝任內容風控的工作任務。
以上基本還屬于規則的范疇,之后內容風控的發展,就進入了AI+策略的時代。
內容風控方面的AI,其實叫機器學習更加準確,這是一套組合拳。舉個例子,對于一個視頻稿件的審核,就需要對整個視頻進行逐一拆幀,然后通過OCR文字識別檢查字幕,此時對于字幕的檢查和文字內容的檢查基本一致,文字識別涉及到NLP分詞、語義理解等AI技術;對于畫面,則是圖片識別,識別圖片中可能出現的違禁內容,這里涉及到一個準確率的問題,暴恐視頻不能夠通過,但游戲視頻也存在戰斗畫面,如何保證不誤傷;對于音頻,則需要兩個方面的審查,一方面是視頻當中的語句,將語音轉文本,再通過文字的審核策略來審核,另一方面是音調識別,例如識別音頻當中的嬌喘等無語句的聲音。
這些在內容風控方面應用的AI技術,其實遠遠早于最近這幾年的大模型AI技術,在內容風控上的AI應用,目前已經是非常成熟且完善的生態。
機器學習本身還是就稿件論稿件,而一個優秀的內容風控平臺,是需要配合策略的。策略產品經理是近幾年一個特別火的崗位,提供更精細化的、動態的、效率的產品解決方案。對于策略來說,內容的風控不能只在單個內容上,還需要結合更高的維度,給予更加精細化的識別判斷。策略要從單個內容出發,延伸到發布該內容的用戶基礎信息、關系鏈、過往內容、實名可信度等等諸多維度進行調參和計算,以判斷這名用戶的這條內容是否需要更細致的識別。
這里要特別強調一點,即使平臺的機器算法再先進,所有的內容還都需要過人審核。所有內容過人,所有內容過人,所有內容過人,重要的事情說三遍,至于原因,還是上面那一條,內容和社區平臺不容有半點閃失。
不過機器審核越先進,能夠為人工審核提供的輔助也就越全面準確,人工審核的效率自然也就變高,審核人員的壓力也相應減弱。
另外,對于內容風控,又會有前置風控(先審后發)和后置風控(先發后審)等不同的方式,所以在小紅書等平臺,有的內容剛發就被風控限流,有的內容則是剛發正常、閱讀量達到一定程度后,突然就被斃了,這就是前置風控和后置風控的策略產生作用。關于這一點,以后有機會再詳細分析優劣和適用場景。
對于小紅書來說,隨著內容量越來越大,如果只是單純地對審核人工進行擴容,恐難以解決問題,一定會更多的由技術和機器進行介入。此次涌入大量外文內容,囿于審核中心本身都是中文母語的審核員工,也勢必更加依賴AI對于英文內容的處理和識別。
03 預測一手,如何收場?
對于小紅書來說,對于此次大量美區 TikTok 用戶涌入,的確不是一件那么“幸福”的事情,畢竟,小紅書的目前的整體戰略并未有太多國際化的考量,產品技術上,也并沒有做好全球化的準備。
所以對于小紅書的高層來說,此次大量美國用戶帶來的煩惱,恐怕要比喜悅多得多。在這種情況下,小紅書應該采取怎樣的應對策略,才能比較適宜當前的情況和現狀?
我們先窮舉一下小紅書所有能走的路。我預測,小紅書大概率會走向第4條路和第5條路的融合版。
1. 放任不管,保持現有產品策略,中美用戶自由交流,暢游國際互聯網。
這條路徑顯然不存在,基于當前國情和中美兩國的立場,完全不做干涉,這不僅不是所謂“自由”,反而會適得其反,嚴重損害社區用戶的氛圍和利益,同時也會引發監管上的關注。絕對意義上的自由不是自由,有限的自由才是真正自由,有規則有法治才能享有自由。
2. 學習抖音,通過注冊手機號和實名認證,將國外用戶拒之門外。
在這次 TikTok 關停風波中,美國用戶之所以沒有涌入和 TikTok 相似程度更高的抖音,就是因為抖音的用戶注冊門檻,隔絕了外國用戶的使用。抖音采用的策略是,支持非+86的國外手機號注冊,但注冊完成后,必須進行實名認證,而實名認證的方式,只有身份證……
美國人民沒有身份證,自然無法正常注冊使用抖音,只能刷一刷未登錄狀態下首頁的視頻,做一個純純的內容消費者(瀏覽型用戶)。
而小紅書的用戶群體,因為更偏向中產和精致人群,所以有相當一部分用戶,是海外留學生,甚至小紅書在最早期的階段,本身就是個海淘應用,所以如果直接一刀切,對于小紅書本身的用戶來說,影響是非常大的。
并且小紅書并沒有像抖音一樣,通過不同的產品進行用戶分區,以前抖音只做國內,國外有 TikTok ,所以抖音一刀切沒有任何問題。小紅書只有一個主產品,需要兼容國內用戶和人在海外的用戶(注意,是人在海外的用戶,而非海外用戶,這里有本質的區別)。
所以在注冊階段一刀切,對于產品和生態來說,我認為這不是一個好的解決方案。當問題出現的時候,解決提出問題的人,這種行為,確實不太高明。
3. 考慮物理分區,借此契機推出國際版,開啟國際化征程。
這可能是個方法,但在現在并不現實。對于一家大公司來說,因為一次巧合,就改變公司戰略,這并不明智,大概率最終既撿不到芝麻,又丟了西瓜。而且國際版開發也是需要時間的,等產品做出來,熱度也早就過去了。
4. 在當前用戶混雜的情況下,加強內容審核風控,把控好水龍頭的出水口。
前文提到,對于內容平臺來說,風控的主要對象,是內容生產者(創作型用戶),包括筆記內容發布、評論內容發布、頭像昵稱等,只要內容發布的口子審核過關,即使平臺內有美國用戶,也不會影響如今已經有3億月活基本盤的小紅書。
有人用國內不能使用 Facebook 和 ins 來類比,認為國內用戶不能與國外用戶共用使用一個社區產品,但我認為這有本質區別,外國人在中國的地盤,和中國人在外國的地盤,這是完全不同的兩種邏輯。
小紅書公司在國內、審核在國內、數據在國內、風控規則在國內,甚至公司黨委下,已經有4個黨支部,在這樣的情況下,外國用戶使用中國產品,只要風控到位,無論是在內容層面還是國家安全層面,都是比較容易掌控的。
從另一個角度講,國際化在未來是一個趨勢,如何讓中國科技和中國產品走向世界,我們還在進行各種探索,TikTok 的國際隔離路線是一種探索,也許小紅書的社區融合路線,也是一次寶貴的探索,某種程度上,秉承文化的自信,這也是中國文化向世界展示的絕佳窗口,也是展現真實中國、讓國際上抹黑中國言論不攻自破的機會。
5. 算法分區,建設虛擬的“軟墻”,產品上生態融合,客觀上用戶軟隔離。
推薦算法下的用戶社區,其實本身就是一個又一個繭房,不同興趣的用戶,看到的內容本身就已經被隔離,“看不見的墻”一直都存在,甚至小紅書的繭房比抖音要更嚴密,這一點,我們體感上就有感知,在小紅書上很難刷到其他圈層的內容。
當前之所以會出現大量美國人攻占首頁的情況,一方面是事發突然,算法也需要一點時間進行調教,另一方面是國內用戶也都圖新鮮,客觀上增加了國外博主的熱度。
所以現在大量外國用戶進入后,只需要加強內容風控,在把好發布關的基礎上,進而在算法上進行區隔,以后美國人只和美國人玩兒,國內興趣圈層只和同圈層的玩兒,非常妙哉。不同圈層偶爾能串個門兒,但也不會掀起什么大浪。
這種策略,對于小紅書的好處很明顯:
第一,算法推薦策略的調整,主要是后臺策略的調整,不影響前端App的功能流程,甚至不需要發版更新;
第二,不影響小紅書整體業務戰略,既定的業務框架繼續進行;
第三,數據上享受到了國外用戶增長的機遇,用戶新增表現佳;
第四,兼顧到國內監管的要求;
第五,為未來的國際化留下種子。
算法分區后,對于用戶來說,一切又回歸平靜,首頁上的推薦依然是本來該有的內容,只是在用戶看不見的角落,又多了幾個新的繭房,繭房里的人也在繭房中勞作,以為那就是全部的世界。
列舉出小紅書可行的路徑后就發現,在充分考慮成本、利益和監管要求的背景下,采用第四種和第五種同步進行的方式,是小紅書最有概率采用的方案。
無論小紅書最后采用何種方案,其實都并不影響內容風控的基礎原理,對于商業平臺來說,能否做好風控,往往決定著平臺能走多遠。在本文中,我一直強調的是“內容風控”而非“內容審核”,審核只是風控的一個環節,而非全部,審核也不是目的,將平臺的結構性風險降到最低,才是目的。
拭目以待,小紅書此次的選擇,很大程度上,也將影響中國產品出海的路徑探索方向。
作者:亨哼;公眾號:產品變量(ID:hengpaper)
本文由 @亨哼 原創發布于人人都是產品經理,未經許可,禁止轉載
題圖來自 Unsplash,基于 CC0 協議
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
- 目前還沒評論,等你發揮!