中文字幕无码av不卡一区,亚洲综合AV永久无码精品一区二区,黑人巨大白妞出浆,黄色高清无码免费看,久久久久免费精品国产,久久无码人妻丰满熟妇区毛片,欧美日韩国产综合草草,久久福利网站,亚洲一区二区三区中文字幕在线,av国内精品久久久久影院

大部分產品的審核機制和方式相對簡單粗暴，對于“誤發敏感內容”的用戶而言十分不友好，甚至有推卸責任的“嫌疑”。本文就來思考一下反垃圾策略下的體驗優化可以怎么做呢？

無論任何形式的互聯網產品，用戶發布內容的時候，都逃不過一層屏障——內容審核。

內容審核是產品反垃圾策略下的產物，是對產品內容的風險把控，減少產品中出現的“垃圾”信息，凈化網絡生態環境。

這種措施對于大環境而言是必須的，但是大部分產品的審核機制和方式相對簡單粗暴，對于“誤發敏感內容”的用戶而言十分不友好，甚至有推卸責任的“嫌疑”。

那么接下來就可以一起思考一下，反垃圾策略下的體驗優化可以怎么做呢？

01 概念解讀與背景分析

反垃圾策略，實際上就是對網絡生產內容進行審核，識別、刪除不符合《網絡信息內容生態治理規定》的文字、音頻、視頻等內容。

內容審核方式目前通用的是AI+人工審核的方式，具體的解決方案不盡相同。AI通過將用戶內容與敏感詞庫中的關鍵詞進行比對后進行識別、剔除或者禁止操作；AI可以識別絕大部分內容，提升審核整體的效率；但是對于視頻內容等機器未學習到的內容，仍需要人工審核去把控，或者對用戶的申訴內容進行人工干預和處理。

目前內容審核解決方案也很多，例如網易易盾、百度大腦，以及字節跳動開發的靈犬反低俗助手小程序等等。

（圖片來源：https://dun.163.com/product/censor-system?from=baiduP_FLJ_CP6026）

（圖片來源：https://ai.baidu.com/solution/censoring?track=cp:ainsem|pf:pc|pp:chanpin-neirongshenhe|pu:neirongshenhe|ci:|kw:10001733）

（圖片來源：靈犬反低俗助手微信小程序）

02 反垃圾策略所面臨的的問題

對于內容消費的產品而言，反垃圾、風控是產品安全的保證，這些策略是產品正常運營的保障。但是目前各個產品的內容審核機制不同，處理和應對方案也存在差異，這就導致一系列的操作與體驗問題存在。

接下來的內容主要以用戶生產成本最低的“文字”內容進行分析。

扎克伯格認為，AI是內容審核的答案。毋庸置疑，面對海量的內容，利用AI算法進行過濾和風控是最優的選擇。但是選擇過后，各個產品面向用戶的解決方式是不同的。

比較簡單粗暴的方式就是利用AI進行監測和刪除，但是這依賴于強大的敏感詞庫與機器學習能力。這種內容審核本著近似“劣幣驅逐良幣”過濾機制，將一切名字敏感詞庫的詞匯進行禁止。這種做法確實可以阻隔絕大多數的不良信息在平臺上出現，但同時也會出現很多讓人無奈的情況，例如用戶本想上傳一段詩歌評論：

（尋找到下段文字中的敏感詞，看看你是否具備火眼金睛？）

人們可以在世界上走來走去，但無論走到哪里，都依然是圍著自我在轉，似乎永遠無法真正地走出孤獨的自我，抵達別的心靈。而正如黑夜總會降臨一樣，人也終究會離開這個世界，生活充滿著各種各樣的可能性，或幸?；蛲纯?，或富貴或貧窮，唯有死亡是每個人無法逃避而不得不接受的可能性。

洋洋灑灑一大段，但是發布時卻被攔住了，系統提示有敏感詞，無法發布。

這個時候用戶就會懵了，只提示了有敏感詞，但是敏感詞是哪個卻不告知；好不容易寫了這么一大段，居然又發不了……

（圖片來源：筆者自繪+網絡表情圖）

這種嚴格的內容審核看似玩笑，但是當真作用在用戶自己身上的時候，對于普通用戶而言的傷害是無形的。這種邏輯只是以一種強硬的態度告知用戶做錯事了，你就是做錯了，所以我們的平臺的禁止你發布，你需要立刻馬上改正，但是我還不告訴哪里錯了，怎么去調整解決。

（這種場景為何似曾相識……）

很多時候用戶發布的詞匯中包含一些敏感詞時，會被禁止發布或者審核后刪除，但是用戶是無法感知到究竟哪個是敏感詞的，這種無力感會嚴重影響用戶的互動行為或者下一步的轉化率，長此以往，不需要多次，用戶在平臺的流失率就會變得很大。

面對這種情況，實際上需要平臺和用戶共同努力去解決。平臺方需要不斷更新自己的敏感詞庫，不斷訓練機器學習的能力；同時產品也需要一些忠實用戶進行反饋，經平臺人工審核后發布并調整敏感詞庫內容。但是這些操作行為在時間成本上的消耗是巨大的，用戶互動時的即時性很難延續下去。

03.如何在命中敏感詞時優化用戶體驗？

對于審核機制體驗的優化，實際上需要從技術和設計兩方面共同協調，才能給用戶“無感”的用戶體驗，即便內容被策略限制，互動的體驗和行為仍然能夠延續。

1. 技術上

首先是對自身敏感詞庫內容的不斷優化、補充、升級，不斷優化補充新的詞匯，例如可嘗試補充詩歌詞匯、常用詞組等過濾機制；

其次需要對提升機器學習能力，主要是增強機器的語義理解能力，提升對場景識別、上下文識別的能力，從而在根本上減少對敏感詞的“誤識別”，為人工審核緩解更多壓力。

2. 設計上

內容審核是硬性要求，任何互聯網產品都是要遵循，但是這并不等同于簡單、粗暴地限制、禁止用戶，設計上需要通過更加友好的方式，為用戶的內容生產流程創造更加良好、充滿安全感的體驗。無論平臺的審核機制如何，在反垃圾策略下，對于用戶體驗的優化思路的共通的，都需要將控制感歸還給用戶，維護用戶與產品之間的信任感，不能將所有的責任轉嫁給用戶就結束了。

審核的流程目前主要分兩種策略，對于時效性較高的產品，往往采用先發后審的機制，用戶發布的內容通過機器過濾后可以立即發布，同時其他用戶可見，人工審核在發布后進行；相對應的另一種就是先審后發，通過機器過濾、人工審核流程后再發布出去。

兩種策略機制的差異點在于用戶內容是否會即時發布，而讓用戶產生疑惑和壓力的環節，主要出現在先發后審的機器過濾環節。從用戶行為路徑去分析可以看到，大部分流程的阻斷和干擾都出現在了敏感詞被識別后，機器往往未給用戶提供可選擇的解決方案，告知用戶下一步應該怎么做才是對的，符合要求的，只是將用戶內容擋在紅線以外，用戶的發布流程被阻斷，原本的發布路徑斷開，這就導致用戶在這個流程中陷入“進退兩難”的境地。

因此，關鍵的設計優化思路在于給用戶創建新的閉環操作，讓用戶能夠順暢解決當前面臨的問題。在實際操作上可以借鑒VUI設計思路，當路徑上出現新的阻斷造成缺口時，應該圍繞任務建立新的閉環路徑，將用戶重新引導至核心路徑中來，從而流暢完成內容生產流程，優化產品體驗。

（圖片來源：筆者自繪）

（1）敏感詞內容提示

直接告知用戶命中的敏感詞內容，直觀提示用戶修改，避免用戶陷入疑惑；

（圖片來源：筆者自繪）

（2）內容替換

可在發布前或者發布結果中將敏感詞內容替換為可發布內容。在這里可以進行進一步的延伸，例如允許用戶自主選擇或者隨機替換方式，這樣既可以正常發布內容，又可以強化情感化體驗。但是需要注意的是，這種主動提供替換方案的方式存在一定的業務風險，設計方案中還是需要評估使用。

（圖片來源：筆者自繪）

（圖片來源：筆者自繪）

（3）自動屏蔽打碼

與內容替換結果比較類似，只是在用戶發布過程中不會詢問用戶，發布結果自動針對敏感詞進行屏蔽處理，不影響用戶正常發布流程；

（圖片來源：筆者自繪）

（4）僅自己可見

用戶可以正常發布內容，但如果內容涉及敏感詞，機器識別后可將當前內容進行降權和假寫處理，僅用戶自己可見，其他用戶不可見，隨后繼續進行人工審核處理。

04.小結

反垃圾策略是互聯網產品內容凈化的必要屏障，是給用戶呈現健康內容生態的重要環節。但是在策略的實現上，大部分產品的解方案往往普遍簡單粗暴，更多操作流程及體驗細節需要設計師進一步優化，從產品、業務形態及審核流程出發，在全局視野下優化體驗，主動承擔起企業責任，而不是將所有的“誤”發內容的責任全部甩鍋給用戶。

#專欄作家#

蝦米&胖喵，微信公眾號：pangmiaodesign，人人都是產品經理專欄作家。資深交互/產品設計師，夫妻搭檔，貓奴。曾就職百度/愛奇藝，目前專注于電商、商業化方向的產品體驗設計?！坝胸?，就有一萬種美好！”

本文原創發布于人人都是產品經理。未經許可，禁止轉載。

題圖來自 unsplash，基于 CC0 協議