安全產(chǎn)品之處罰申訴

0 評論 7060 瀏覽 37 收藏 17 分鐘

編輯導語:所有平臺都有申訴,申訴可以幫助平臺挽回處罰的損失和節(jié)省處理特殊渠道申訴的成本。本篇作者就對與安全產(chǎn)品的處罰申訴相關的問題展開了分析說明,希望對你有用。

一、處罰申訴是什么

申訴是用戶主動尋求解除處罰的方式。

與舉報類似,用戶產(chǎn)品是申訴的“皮”,每個app都需要有個入口和快速提交的功能,安全產(chǎn)品是申訴的“魂”,申訴后怎么處理,及最終處理結果,決定用戶是否滿意。

因此,處罰申訴的產(chǎn)品目標是,用最低的成本讓用戶申訴后有滿意的結果。這也就是為什么,在豆瓣、微信視頻號等這樣行業(yè)前沿的app里,依然需要用戶通過發(fā)送郵件進行申訴的原因。

二、為什么要有申訴環(huán)節(jié),是否是必須的?

所有平臺都有申訴,申訴幫助平臺挽回處罰的損失,以及節(jié)省處理特殊渠道申訴的成本。

1. 幫助平臺挽回處罰造成的損失

平臺獲取新用戶以及讓用戶持續(xù)活躍是有成本的,當用戶在平臺貢獻價值(一般采用APRU-平均每付費用戶貢獻的收入或LTV-衡量產(chǎn)品從用戶獲取到流失所得到的全部收益的總和)超過成本,才能實現(xiàn)盈利,而對用戶進行封號或者刪除/限流用戶的內(nèi)容,都會降低他對平臺貢獻的價值,甚至將這部分價值拱手送給了競爭對手。

當用戶存在違規(guī)且給平臺造成損失,且損失>=用戶終身價值,此時處罰是有收益的,比如在媒體點名的情況下各個平臺封禁辛巴、郭老師、人類高質量男性等劣跡作者,避免監(jiān)管部門約談、負面輿論的損失。

當用戶沒有給平臺造成損失,被誤殺或者處罰過嚴,用戶帶來的損失接近0,此時處罰是有損的,用戶本可以繼續(xù)為平臺帶來價值,但平臺把他趕走了。這時就需要通過平臺主動解除處罰,或用戶主動申訴解除處罰,從而挽回損失。

2. 節(jié)省處理特殊渠道申訴的成本

用戶如果對處罰最終得不到滿意的說法,會進行站內(nèi)外投訴、上門討說法、起訴、極端情況還會以“自殺自殘”威脅。這些情況不僅處理成本高,而且對平臺聲譽有影響。

“2020年8月25日,廣東深圳。一市民反映自己弟弟因微信被封號影響做生意,多次申訴無果從騰訊公司墜樓身亡。其哥哥表示,由于弟弟想問清楚原因,但是微信一直是機器人回復,搞得非常煩,去了騰訊又找不到人,目前騰訊出于人道主義給了15萬。警方稱是其弟弟在網(wǎng)上涉色情聊天被封號。騰訊一內(nèi)部人士表示,其弟涉違規(guī)被封幾日后可解禁。警方介入調(diào)查?!?/p>

對于這兩點收益來說,申訴不是唯一手段。前置保障處罰的合理、準確,也能實現(xiàn)上述作用,只不過,處罰的優(yōu)化需要長期進行,且是基于處罰前發(fā)布的內(nèi)容和歷史表現(xiàn)做出的,申訴可以兜底。而申訴的不可替代性在于,可以結合用戶被處罰后提供的信息或者進行的表現(xiàn),評估給什么結果。

三、處罰申訴怎么做

1. 行業(yè)現(xiàn)狀盤點

1) YouTube

當用戶作品被限制或移除、用戶功能受限、被警告,均可提出申訴。申訴后由人工審核人員進行審核判斷是否存在誤傷。

如果創(chuàng)作者選擇提交申訴,會交由人工審核人員進行審核,以確定是維持還是撤消先前的決定。申訴請求由高級審核人員進行審核,并且最初的視頻移除決定不是由該審核人員做出的。審核結果出來后,會通過電子郵件通知創(chuàng)作者。

根據(jù)谷歌的透明度報告顯示2021年4-6月,一共收到了217446次視頻申訴,其中有52696成功恢復,申訴成功率24%。

2) Facebook&Ins

在多數(shù)情況下,用戶可以對作品和用戶功能的處罰進行申訴。如果申訴后依然不認同,在15天內(nèi)可以向監(jiān)督委員會提出申訴。

監(jiān)督委員會挑選出符合“疑難、重大、事關全球用戶并可為將來政策制定提供指導”的條件的申訴請求后,指派一個審議小組來負責本次申訴案件并收集相關信息以便進行深入審核。

這些信息包括申訴人提供的信息,以及 Facebook 公司根據(jù)適用法律法規(guī)和隱私限制提供的背景信息。

審議小組成員將認真審議案件,根據(jù)申訴人、Facebook 及受邀協(xié)助調(diào)查的專家提供的所有信息做出決定,通常會在 90 天內(nèi)定案。

3) 微信

① 用戶處罰:帳號受限后可以聯(lián)系客服進行復審。部分短期封禁的情況,如3天、8天,封停到期后可以自助解封,自助手段包括手機驗證、人臉驗證、好友輔助。

② 視頻號處罰

對內(nèi)容、功能限制目前只能通過郵箱申訴。雖然不清楚微信這樣做的原因,但郵件無法自動化關聯(lián)視頻號批量審核,里面的內(nèi)容需要運營同學認真閱讀。

通過用戶的申訴郵件進行分類分析,可以全面了解用戶對申訴的痛點和訴求是什么,進而設計出貼合視頻號場景的申訴功能,以及反思不合理的處罰場景,從而改良用戶被處罰的尺度、通知方式等,這個過程就非??简炧]件那頭的運營同學了。

③ 公眾號處罰

對內(nèi)容、功能限制可在運營后臺在線提交申訴。

4)抖音

與其他社區(qū)類似,對內(nèi)容、功能限制均可提交申訴。

獨特的是,對于大部分帳號封禁、直播封禁可以自主答題后解封。

帳號封禁答題解封條件

1.帳號第一次或第二次違規(guī)。

2.違規(guī)類型包括傳播販賣色情資源、色情引流、風險廣告引流、售賣煙草、封建迷信、風險廣告、違法工具、暴露隱私部位、違規(guī)醫(yī)療廣告、涉嫌詐騙、高風險金融產(chǎn)品、制假售假等(根據(jù)公開信息整理,不代表完整情況)。

3.部分做10道題可以解除,有的用戶需要完成10套(100道題),都做完才可以解。

4.答題通過7天后正式解除,推測答題成功后人工清理了違規(guī)信息。

直播封禁答題解封條件

1.封禁3天以內(nèi)。

2.近30天答題次數(shù)<4。

答題解封在B站、微博、快手等社區(qū)也廣泛運用。

2. 申訴通用產(chǎn)品框架

申訴的產(chǎn)品框架可分為申訴入口、申訴處理、申訴通知。共同的目標是用最小的成本識別出可以恢復正常的用戶和內(nèi)容,幫助平臺挽回處罰的損失。

3. 申訴入口

首先要思考用戶什么場景下會進行申訴,根據(jù)社區(qū)的場景分布選擇滿足哪些情況。

場景1:被處罰后,認為自己沒問題

申訴入口:處罰提醒附帶申訴入口,用戶收到處罰提醒后可以立刻進行申訴,處罰提醒以站內(nèi)信的形式出現(xiàn),或當功能限制后,用戶點擊該功能時提醒功能不可用及原因。

特殊情況:平臺可根據(jù)處理成本、違規(guī)原因等設置不可以申訴的情況。

有一天我發(fā)現(xiàn)去年的作品被自見了,但沒有找到申訴入口。

場景2:用戶懷疑自己被處罰了

申訴入口:獨立展示,一般放在找客服的頁面。

小紅書獨立申訴入口

4. 申訴處理方式

在設計處理方式之前,需要對社區(qū)可撤銷的處罰進行定義并編寫規(guī)則,各個社區(qū)普遍借鑒了法律規(guī)定。

法律規(guī)定

1.對冤假錯案推翻原來已經(jīng)生效的判決結果。

2.法律變動后,依新法做出的判決責任較輕時,適用新法。

3.在執(zhí)行一定刑期之后,因其遵守監(jiān)規(guī),接受教育和改造,患有嚴重疾病或確有悔改表現(xiàn),不致再危害社會,而附條件地將其予以提前釋放。

平臺申訴規(guī)則

1.當處罰判斷有誤,申訴后撤銷處罰。

2.策略/規(guī)則調(diào)整,之前處罰的后來不處罰了,申訴后撤銷處罰。

3.用戶經(jīng)過處罰等教育后已經(jīng)知錯改正(僅針對帳號功能限制類的處罰),申訴后減免處罰。

根據(jù)社區(qū)的發(fā)展階段和風控現(xiàn)狀,處理方式有所側重。

  • 社區(qū)產(chǎn)品初期,風控能力薄弱,此時規(guī)則、策略調(diào)整頻繁,機審策略、人審等準確率不穩(wěn)定,易出現(xiàn)誤殺,此時申訴后主要挽回誤殺。
  • 產(chǎn)品中后期,風控能力已經(jīng)發(fā)展成熟,誤殺基本不會出現(xiàn)、策略/規(guī)則也相對穩(wěn)定,此時申訴后主要挽回已被教育改正的用戶。

定義好社區(qū)目前需要撤銷的處罰后,就可以針對性設計處理流程了。

1)挽回誤殺的處理方式

二次審核(復審),由人工再次判斷核實違規(guī)是否成立。

申訴審核后臺設計時需要注意兩種判定情況:

  1. 通過還原處罰時的證據(jù)進行二次判定,即可核實是否誤傷,比如發(fā)布色情內(nèi)容。此時審核后臺與處罰后臺可以保持一致,或者提供的審核信息多于處罰時的信息,有助于更全面地判斷。
  2. 需要結合用戶新提供的信息,才能核實是否誤傷,比如侵權。一方面在申訴提交環(huán)節(jié)要引導用戶提交特定資料,另一方面審核后臺也必須展示用戶提供的信息,以供審核員核實判斷。

2)策略/規(guī)則調(diào)整的處理方式

批量回溯,即策略/規(guī)則變動時可自動對過去處罰的對象更新處罰,理想來說不應該在申訴環(huán)節(jié)處理。但很多公司不具備該能力,只能在用戶申訴后按最新的規(guī)則人工判定。

3)挽回已被教育改正的用戶的處理方式

人工審核、圈定特定用戶教育后、考察用戶表現(xiàn),后兩種不依賴用戶主動申訴后再處理。人工審核可以根據(jù)用戶被處罰后的表現(xiàn)判定用戶之后是否不會再次違規(guī),如保證書等。

因為通過人工去判斷用戶的承諾是否靠譜,非常難,所以就衍生了自助答題、違規(guī)后考察的解封方式,通過策略圈定特定的用戶或違規(guī)情況,讓用戶付出一定成本后解封。

qq在6月左右就上線了承諾書申請解凍的環(huán)節(jié),但提交后具體什么條件能解就不清楚了。

抖音在某些帳號處罰后,會主動評估用戶后續(xù)的表現(xiàn),如果表現(xiàn)符合社區(qū)規(guī)范,系統(tǒng)自動解除處罰。

騰訊游戲也有類似的環(huán)節(jié)。

最后,對于沒有被處罰,而進入申訴環(huán)節(jié)的用戶,無需處理,直接告訴用戶帳號正常即可。

5. 申訴結果通知

將用戶申訴的最終結果包裝話術通知給用戶。本環(huán)節(jié)只需要注意2點:

  1. 最終結果應包含申訴處理之前的解封結果,比如用戶沒有進行申訴,但通過質檢等環(huán)節(jié)解封,也應告知申訴成功,用戶申訴成功,避免產(chǎn)生誤會。
  2. 如果用戶申訴失敗,需要疏導情緒,以及引導再次申訴的路徑,避免用戶走極端。

 

本文由 @暉暉 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)作者許可,禁止轉載。

題圖來自Unsplash,基于CC0協(xié)議。

更多精彩內(nèi)容,請關注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!