中文字幕无码av不卡一区,亚洲综合AV永久无码精品一区二区,黑人巨大白妞出浆,黄色高清无码免费看,久久久久免费精品国产,久久无码人妻丰满熟妇区毛片,欧美日韩国产综合草草,久久福利网站,亚洲一区二区三区中文字幕在线,av国内精品久久久久影院

隨著短視頻、直播的火爆發(fā)展，越來越多的UGC內(nèi)容產(chǎn)生，隨之而來的是巨大的內(nèi)容監(jiān)管壓力，但互聯(lián)網(wǎng)不是法外之地。為此，6月17日（周三）20:00-21:30，網(wǎng)易易盾特別發(fā)起了這樣一場微信群深度討論。本文為討論總結，希望能對你有所幫助。

6月，網(wǎng)易易盾聯(lián)合人人都是產(chǎn)品經(jīng)理，進行了為期2周的微信群互動問答活動，特邀網(wǎng)易易盾的內(nèi)容安全專家進群，針對內(nèi)容安全體系建設話題展開了討論，期間產(chǎn)生了很多優(yōu)質的內(nèi)容，往期互動問答鏈接：http://996.pm/7p84w

6月17日，我們再次邀請到網(wǎng)易易盾的嘉賓@王博老師，圍繞如何應對內(nèi)容監(jiān)管等相關話題，在專場活動群內(nèi)為同學們開展了一場內(nèi)容分享。

以下為網(wǎng)易易盾內(nèi)容安全資深產(chǎn)品經(jīng)理@王博演講實錄，由人人都是產(chǎn)品經(jīng)理團隊依據(jù)嘉賓分享內(nèi)容整理，編輯有修改：

大家好，我是王博，2016年入職網(wǎng)易，完整經(jīng)歷了網(wǎng)易易盾從0到1的商業(yè)化和產(chǎn)品化的過程。

本次分享主要適用于遇到內(nèi)容安全問題的產(chǎn)品負責人、產(chǎn)品經(jīng)理、產(chǎn)品運營，或想學習內(nèi)容安全體系搭建的同學，希望我的分享能幫助各位了解網(wǎng)易易盾在產(chǎn)品化過程中遇到的核心問題，以及我們?nèi)绾稳ソ鉀Q問題的思路。

本次分享將主要圍繞三部分展開：

第一，內(nèi)容治理大環(huán)境下大家遇到的核心問題，特別是黑灰產(chǎn)這塊，會展開專項分享；

第二，易盾關于面向未來的內(nèi)容安全體系建設的核心設計要素及核心要點；

第三，易盾針對人機協(xié)同場景、為了提升人工審核效率所研發(fā)的智能審核系統(tǒng)的說明。

一、知己知彼

1. 監(jiān)管背景

近幾年，我國在內(nèi)容安全治理方面，呈現(xiàn)出幾個比較核心的特點：

第一是監(jiān)管部門的覆蓋度較廣，政策法規(guī)日趨完善，各個部門針對不同領域的規(guī)章制度發(fā)布也非常頻繁，例如網(wǎng)絡的音視頻信息服務管理規(guī)定、未成年人的節(jié)目管理規(guī)定，未成年的個人信息網(wǎng)絡保護規(guī)定等相關法律法規(guī)都趨于完善。

第二是對于違反法律法規(guī)的相關企業(yè)，國家在這方面的處罰力度也非常強硬，采取了更多有針對性的專項治理行動，像最近五月份剛落地的護苗行動，凈網(wǎng)行動，清朗行動等都是針對網(wǎng)絡安全的專項治理行動。

即使在高強度的政策監(jiān)管力度下，我們會發(fā)現(xiàn)互聯(lián)網(wǎng)上的違規(guī)內(nèi)容依然層出不窮。這些垃圾已經(jīng)覆蓋到各種業(yè)務類型上，比如新聞內(nèi)容、用戶評論、頭像昵稱等，任何有內(nèi)容發(fā)布場景的都很難躲過違規(guī)內(nèi)容的騷擾，尤其是在產(chǎn)品達到一定量級和日活的時候，我們就會發(fā)現(xiàn)有垃圾的侵入，我們也會發(fā)現(xiàn)在各種場景下出現(xiàn)的違規(guī)種類和變種也非常多，從最初簡單的敏感詞到現(xiàn)在有字體的拆分、特殊符號的混淆，圖片內(nèi)嵌入違規(guī)文字信息，以及語音里夾雜著色情內(nèi)容等等。

2. 黑/灰產(chǎn)產(chǎn)業(yè)鏈

在網(wǎng)易易盾產(chǎn)品化的過程中，我們也收到很多文字的變種，有些是通過蓋樓的方式，單獨看這一樓的評論是沒有問題的，但是把123樓聯(lián)系在一起就是有問題的，這算是一種比較復雜的反垃圾場景；還有圖片中加水印的形式，我們最近在圖片領域也發(fā)現(xiàn)黑灰產(chǎn)，他會把一些違規(guī)的信息放到隱藏通道里，躲過我們的機器檢測。

上面提到的很多類似垃圾變種的場景，我們都在不斷的進行規(guī)則對抗，對手也是在不斷升級的博弈戰(zhàn)中持續(xù)地進行反抗工作，這背后其實隱藏著一條非常深和成熟的黑灰產(chǎn)業(yè)鏈。我們面對的對手不僅僅是真實的人，還是一群團伙，是一條成熟的黑灰產(chǎn)業(yè)鏈。下面我們就以色情這條產(chǎn)業(yè)鏈為例，為大家深度剖析色情產(chǎn)業(yè)鏈的運作方式。

像上圖呈現(xiàn)的色情這塊的黑灰產(chǎn)，我們稱為色流產(chǎn)業(yè)。從2008年流量形成了一次爆發(fā)式的聚合開始，類似的廣告色情賭博等信息逐漸規(guī)?；霈F(xiàn)，使這條零散的產(chǎn)業(yè)鏈開始轉向產(chǎn)業(yè)化，群體的人數(shù)規(guī)模比之前擴充了十來倍，據(jù)專家人士研究，保守估計在2008年時，這條產(chǎn)業(yè)鏈已經(jīng)有十來萬人左右了。

當時大家盤踞在各大流量蜜罐中，主要是靠點擊收費或者按量付費的金額來提成，色流行業(yè)的趨勢開始出現(xiàn)之后，我們發(fā)現(xiàn)文本的垃圾開始變成了圖片的垃圾，并更具隱秘性，就慢慢出現(xiàn)圖中文字違規(guī)的場景。

隨著網(wǎng)絡的不斷發(fā)展，從論壇到微博，從人人網(wǎng)到微信，流量慢慢的從PC端遷移到了移動端，這其中也爆發(fā)了一波流量紅利，隨著流量蜜罐遷移的還有黑灰產(chǎn)的色流大軍，他們逐漸出現(xiàn)了兩個分支，一部分進軍到微信，一部分進軍到視頻。

我們和這些黑灰產(chǎn)之間就像是一場貓鼠游戲，好在我們一直不斷地提升技術，每一次有新的技術爆發(fā)之后，我們就會有新的抵抗技術出現(xiàn)，進行強力壓制，包括我們現(xiàn)在使用的人工智能技術，就是最好的反擊利器。

上面這張圖，可以說是一份在2019年交給網(wǎng)民們的答卷，我們一共過濾了3412億條信息，刪除了524.4億條有害信息，目前來說是市面上比較優(yōu)秀的成績。易盾的商業(yè)化是從2016年才開始，那為什么我們會宣傳網(wǎng)易易盾有著20年反垃圾的經(jīng)驗呢？

其實早在網(wǎng)易公司初期成立的時候，易盾就有了雛形，是作為網(wǎng)易的安全部門成立。網(wǎng)易也是國內(nèi)比較早專門因為反垃圾工作設置專業(yè)團隊的一家公司，一方面是因為網(wǎng)易剛開始發(fā)展的業(yè)務像網(wǎng)易郵箱、博客有天然的反垃圾需求，另一方面還是因為我們丁老板對產(chǎn)品有潔癖，他不許允許自家的產(chǎn)品中有出現(xiàn)不良信息，通過網(wǎng)易云音樂，或者我們的跟帖，包括新聞客戶端上比較友好、有調(diào)性的評論就能看出來。

所以易盾早在1998年就已經(jīng)成立，目前隸屬于杭州研究院下面的安全團隊，是國內(nèi)比較早以技術驅動的內(nèi)容安全團隊。20多年前，我們就打算通過機器的手段去解決內(nèi)容安全的問題。經(jīng)過不斷努力，網(wǎng)易內(nèi)部涌現(xiàn)了很多像網(wǎng)易云音樂、網(wǎng)易嚴選這類優(yōu)秀的以內(nèi)容為主的產(chǎn)品，我們這支團隊也逐漸在技術、產(chǎn)品、服務等多維度成為了國內(nèi)首屈一指的內(nèi)容安全部門，也是在2016底，易盾正式對外進行產(chǎn)品化。

二、內(nèi)容安全體系搭建

易盾面向市場快有四年的時間，在整個產(chǎn)品化過程中也遇到了很多問題，有跟黑灰產(chǎn)的對抗，收到的用戶需求越來越多，我們發(fā)現(xiàn)這是一種敵進我退、互相博弈的狀態(tài)，我們也意識到現(xiàn)在做的還遠遠不夠，所以催生了第三代的技術升級，將整體的內(nèi)容安全體系升級到了可以面向未來的內(nèi)容安全體系。

結合近20年的內(nèi)容安全運營經(jīng)驗，我們認為良好的內(nèi)容安全體系一定是自下而上，如上圖四部分組成，首先有智能驅動算法做支撐；再上一層，需要各個部門、算法、運營統(tǒng)一聯(lián)動；再上一層，針對不同的需求、場景，我們需要支持個性化的定制；最上一層，我們需要各部門，包括用戶、各監(jiān)管部門跟我們一起聯(lián)手搭建面向未來的內(nèi)容安全體系。

1. 智能驅動

我們在設計內(nèi)容安全體系的基調(diào)時，核心是人工智能算法。我們的智能化內(nèi)容引擎承載了滿足信息爆炸時代內(nèi)容安全的最基本的基石。

隨著網(wǎng)絡發(fā)展和互聯(lián)網(wǎng)的數(shù)據(jù)急劇增多，我們?nèi)斯ぶ悄芗夹g的發(fā)展也在逐步擴充，目前已經(jīng)形成了以大數(shù)據(jù)分析用戶行為、分析人工智能檢測為代表的第三階段內(nèi)容檢測技術手段，尤其是人工智能中的分支，通過深度學習識別圖像、分析語義，已經(jīng)在易盾的眾多內(nèi)容檢測領域中得到應用。

2. 統(tǒng)一聯(lián)動

第二部分的核心設計要素在于需要做統(tǒng)一的聯(lián)動，統(tǒng)一聯(lián)動會從以下幾個方面為大家闡述。

崗位聯(lián)動：

要想做好內(nèi)容安全這件事情，必須多崗位協(xié)作，無論是從算法研究、服務開發(fā)，到策略運營、客戶運營、人工審核和技術支持，每個環(huán)節(jié)都需要無縫對接，才能完成整體的內(nèi)容安全的閉環(huán)。

政策解讀：

給大家介紹易盾對于國家下發(fā)的法律法規(guī)作出響應的流程：

首先易盾的運營和審核團隊都有專業(yè)人士去實時對接國家的監(jiān)管部門，我們會實時監(jiān)控最新的監(jiān)管要求，也有專門的運營人員去做策略下發(fā)的分析。如果國家下發(fā)了法律法規(guī)，我們會先解讀，解讀完以后再添一些規(guī)則和關鍵詞、甚至升級算法模型來作出響應，落實國家監(jiān)管的要求，這方面對經(jīng)驗要求會比較多。

策略模型更新：

易盾除了會對國家政策的響應聯(lián)動以外，在模型的技術更新方面也會做出相應的響應檢測。比如線上出現(xiàn)了一種新的樣本，我們的模型需要做出快速的響應，目前我們的模型是能以周為單位進行常規(guī)迭代，年迭代次數(shù)可以達到近百次。

迭代過程可以大致分成圖上4步，首先通過運營收集用戶反饋的數(shù)據(jù)，或者說主動爬取一些違規(guī)數(shù)據(jù)，傳到標注平臺進行標注，然后再傳導到算法工程師進行深度學習訓練，然后更新我們的模型預發(fā)布驗證，最終上線。

全鏈路內(nèi)容安全風控產(chǎn)品：

除了運營和算法的聯(lián)動，我們還需要注意全鏈路的風控聯(lián)動，從源頭去把控內(nèi)容安全的風險。

以國內(nèi)社交平臺的現(xiàn)象舉例，也是我們客戶目前遇到的比較典型的案例。以往總會有很多色情賬號在各個熱點事件下直接發(fā)布色情言論、給出色情網(wǎng)站或者聯(lián)系方式，這些形式已經(jīng)比較容易被內(nèi)容安全的系統(tǒng)檢測和封號；但現(xiàn)在對抗的形式已經(jīng)轉變成把賬號頭像換成性感但不屬于色情的圖片，發(fā)表的內(nèi)容也比較多是正常的評論，個人頭像里也還是有很多關于隱晦色情的引流。

在對抗的場景下，如果只做內(nèi)容維度的檢測，是遠遠不夠的，不僅檢測效果差，可能還會留下比較多的死角，會給我們的業(yè)務帶來潛在的內(nèi)容違規(guī)風險。所以我們認為在內(nèi)容生態(tài)治理上，不僅僅要對內(nèi)容本身處理，還要建立深入的防御體系進行輔助，因為大多數(shù)的違規(guī)內(nèi)容是非正常用戶發(fā)的，內(nèi)容生態(tài)的治理是企業(yè)和黑灰產(chǎn)的直接較量，如果只采取內(nèi)容檢測的手段，相對就比較單一，容易落入被動局面。

因此，我們推出了事前、事中、事后這樣全鏈路的內(nèi)容風控，相對完整的解決方案，相當于是在文本圖片音頻視頻內(nèi)容檢測引擎的基礎上，我們?nèi)诤狭朔醋鞅罪L控的引擎，我們可以通過多維度的用戶行為去掌握每個可能影響內(nèi)容風控的環(huán)節(jié)，做好提前預判，在內(nèi)容違規(guī)還沒發(fā)生之前，我們就能感知風險，從源頭進行采取措施，從而降低內(nèi)容安全的風險。

3. 個性定制

第三部分是行業(yè)或者個性化的定制，在實際的產(chǎn)品實踐中，我們發(fā)現(xiàn)單一的產(chǎn)品在不同場景下的策略是不一樣的。同樣是文本，在用戶資料的場景和評論的場景下，或者彈幕的場景下，它的審核標準和要求是不一樣的。針對細分的不同功能場景，我們有做相應的一整套的策略解決方案，除了底層的功能，針對垂直行業(yè)領域，我們都有相應的標桿客戶，引導我們做相應的定制化解決方案。

以直播場景舉例，在直播場景中，我們整體的行業(yè)定制策略是從源頭去把控，從主播開始實名認證到共享主播的黑名單，到最終開播、直播間的彈幕評論、頭像的監(jiān)控、針對直播的熱點監(jiān)控，我們在每個環(huán)節(jié)都有做比較細分的行業(yè)策略的定制。

我們在做直播這一類審核時，不同的業(yè)務類型像視頻本身內(nèi)容，包括彈幕，禮物以及數(shù)據(jù)量的波動都會對我們的審核界面有相應的影響，能通過定制功能提前告知我們的用戶直播可能存在的風險。如果直播間的彈幕內(nèi)容有問題，或者禮物數(shù)有異常激增，就能提前感知它違規(guī)的風險可能比較大，我們就有理由去重點關注這一路的直播，提前準備好應對風險的措施。

4. 共建眾治

我們希望構建與時俱進的情報共享平臺，共享平臺的受益方是所有網(wǎng)民，我們希望做不良信息的舉報平臺，充分發(fā)揮網(wǎng)民的監(jiān)督舉報的作用，我們也會與相關的政企和監(jiān)管單位合作并共享情報，然后建立內(nèi)容安全社區(qū)，跟各位去共同探討，以增強我們對于情報的把控能力，也使我們對黑灰產(chǎn)有進一步的深入了解。

5. 機器+人工+策略協(xié)同審核

在現(xiàn)實場景中，我們?nèi)匀粫龅胶芏嘈枰斯徍藖硖钛a機器無法覆蓋的場景的問題。

大家知道人工智能的識別是基于特征的識別，比如一張臀部的照片，如果我們整張拿去給人工智能識別，就比較容易能識別出來；如果我把圖片切分成多份，并把順序打亂，機器就無法識別出來。但人的大腦會有還原的過程，會幫助還原這張圖片，然后能感知到這可能是一張臀部的圖片。但是目前的技術手段還是基于特征去識別，如果把圖片拆分到特別細小，導致關鍵特征丟失，AI就很難識別。

現(xiàn)實場景中，我們發(fā)現(xiàn)一些黑灰產(chǎn)也在不斷學習進化。他們會經(jīng)常故意放出一些敏感內(nèi)容來試探我們的AI審核機制，先摸清規(guī)律，再處理圖片發(fā)送出來。掩蓋的方法可能是把一些敏感的位置模糊化或者掩蓋，或者干脆將圖片切分，把關鍵的特征丟失，只要跟之前的鑒別邏輯不符，就很容易騙過機器，而目前的解決方案是只能通過肉眼去識別。

由此可見，人機協(xié)同這塊仍然是未來很長一段時間，我們需要存在的審核方式。

三、智能審核管理系統(tǒng)

我們的AI目前在處理效率、準確率上已經(jīng)達到了比較好的效果，但還是存在一些疑似違規(guī)的內(nèi)容需要人工再次確認。易盾在調(diào)研時也發(fā)現(xiàn)，由于審核管理一直缺乏通用的審核規(guī)范，審核人員操作的后臺也是內(nèi)部比較邊緣的后臺，使得大多數(shù)的審核人員在使用審核的操作系統(tǒng)時遇到很多問題，比如操作繁瑣，交互體驗不友好，甚至很多操作需要跳轉到多個后臺處理。

基于以上問題也催生了網(wǎng)易開始打造自有的全新審核系統(tǒng)的想法。在網(wǎng)易內(nèi)部，我們雖然有自己的審核團隊，但也一直存在類似的問題，所以我們決心自己設計出一套全新的能提高大家工作效率的審核系統(tǒng)，并將這套審核管理工具產(chǎn)品化，希望把產(chǎn)品做成可以高度集成高度開放的系統(tǒng)，可以兼容很多的審核場景，真正賦能給企業(yè)端的用戶。

豐富全面

對于全新的智能審核管理系統(tǒng)，我們首先希望它是豐富全面的，必須包含豐富的審核內(nèi)容，在此基礎上也加入像極速審核、分類審核、三審一校，包括盲審的審核流程，以適用于不同審核時效多重審核流程的進審要求。

智能高效

傳統(tǒng)的審核系統(tǒng)可能單純的就是數(shù)據(jù)量的進審，但是我們的審核系統(tǒng)其實是搭載了整個易盾的智能引擎，每個審核邏輯都是建立在智能引擎的推動下，這是節(jié)省人力成本的關鍵，也是打造友好界面的關鍵。

輕量靈活

不同公司會有不同的審核場景，每個人都有每家公司遇到的審核問題，我們的系統(tǒng)不會局限到單一的審核場景，它采用的是定制模塊化的設計，可以像組合積木一樣把不同的場景組合起來去做靈活的適配。

有溫度

我們希望自己的審核系統(tǒng)變得更加友好，首先就需要考慮到良好的交互設計。我們在不同的審核的類型的尺寸上面做了針對性的研究，我們有做調(diào)研一屏到底能容下多少個視頻，正常人最小可以分辨的視覺閾值是0.5，對于22寸的1920*1080分辨率的顯示器來說，我們的人眼對于同時監(jiān)控16路會感覺比較舒服，審核效率也比較高，我們在默認推薦的路數(shù)時就會定在16。

其實在整體的系統(tǒng)設計中，我們也加入了一些趣味化的東西，日常審核內(nèi)容所面對的是黃色暴力涉恐等比較高敏感度的信息，為了適當調(diào)節(jié)審核人員的精神狀態(tài)，我們的系統(tǒng)也加入了類似勛章、激勵、積分體系，通過評比排名，讓整個顯示方式變得更加趣味化，促進人員成長體系的完善。

希望網(wǎng)易易盾可以賦能更多的企業(yè)，保護您的業(yè)務和用戶免受黑灰產(chǎn)的侵害，共筑清朗網(wǎng)絡空間也不僅僅是網(wǎng)易易盾一家企業(yè)的責任，更需要大家攜手去共筑清朗網(wǎng)絡空間。

以上就是我想跟大家分享的內(nèi)容。下面，我將挑選大家的問題進行解答。

四、互動問答

Q1：社區(qū)型產(chǎn)品中，經(jīng)常出現(xiàn)黑產(chǎn)大量灌水，下線內(nèi)容封禁當前賬號只能治標，平臺應該如何從根部治理？

這種場景單純從內(nèi)容角度去防護，或者單純的封禁賬號起到的效果都不好，需要采取更立體的防護手段，首先在賬號注冊及登錄場景就要做好風控，防止小號的批量注冊或者登錄，具體風控防護的技術手段可以參考一下易盾的注冊保護或者登錄保護產(chǎn)品；

其次，在用戶發(fā)帖或者回帖時，要針對單次行為時所使用的設備環(huán)境信息、業(yè)務信息、發(fā)布的內(nèi)容等多個維度建模去判斷；另外需要對用戶的歷史行為建立多維度的畫像，用作實時行為時的參考。

Q2：請問老師，易盾是如何對自己的算法和規(guī)則進行優(yōu)化的，在什么場景下主要用算法，什么場景下主要用規(guī)則，算法與規(guī)則如何配合？算法是如何優(yōu)化的呢？

算法跟規(guī)則其實沒法割裂開來，因為通過算法得到的輸出結果并不能直接用于判斷，比如算法能識別出圖中的人臉是某個人，但是這個人是否能出現(xiàn)就需要通過規(guī)則來做決定了。

算法效果可以通過樣本的增加進行優(yōu)化，另外客戶如果反饋誤判較多的情況，易盾也會進行分析，如果是算法輸出的結果有問題，就會有算法工程師介入進行參數(shù)調(diào)整，并且尋找相似樣本進行訓練；如果是策略問題，就需要對策略進行調(diào)整，全部調(diào)整完畢后，會用歷史數(shù)據(jù)再跑一遍，對比一下效果。如果解決了誤判問題的同時，并沒有增加其他誤判的話，就會正式上線。

Q3： AI識別內(nèi)容問題，評論下方或直播聊天或游戲聊天內(nèi)容，如何機審攔截變種形式廣告？

（case相關如：88有你88需要88看的888好東西，點C好的M等類似內(nèi)容）或 組合形式廣告 （case相關如：每段對話字，第一段加字，第二段我字，第三段微字，第四段信字···）

像這種變種形式的廣告，我們的審核人員或者策略經(jīng)理在分析樣本時，會去嘗試找到它的特征點，比如88有你88，可以通過正則表達式加一定的規(guī)則去覆蓋這樣的場景；

像第2種組合形式的廣告，每段話單看沒有問題但連在一起有問題的場景。目前我們是采取關聯(lián)審核的策略，在我們家規(guī)則和過檢策略的時候，我們會把默認與它相關聯(lián)的帖子、ID傳進去，通過唯一定位的關聯(lián)的帖子ID去定位到文字上下相關的幾段內(nèi)容去綜合，把它合并起來、過檢，然后看它能不能去嘗試抓住一些這樣的場景來解決類似的問題。

另外，一條規(guī)則肯定不是萬能的，無法覆蓋所有場景，更多時候需要特定運營人員做跟蹤，必要時也可以結合反作弊風控來做一部分召回。

Q4：關于審核人員的成長體系，易盾這邊的做法可以詳細介紹下嗎？比如剛才提到的勛章、排行等，對于審核人員的培訓和考試平臺，易盾是怎樣做的？

考慮到審核團隊的成員流動性較大和工作內(nèi)容的枯燥性，網(wǎng)易易盾主要是通過添加一些趣味性的版塊來激勵審核人員的成長。

整體的成長激勵體系是圍繞讓審核人員的工作以領任務的形式開展。審核人員在每一天的工作過程中，都有自己的任務池和相應的工作量。在指定時間內(nèi)，如果審核人員可以很快或超量完成任務，他就會得到相應的獎勵，另外通過公開排行榜的評比排名，也可以更好地激勵審核人員完成工作。

對于審核人員的培訓考試平臺，考試平臺是我們內(nèi)部審核團隊本身就有這樣的需求，無論是審核人員上崗還是晉升，都需要有考試平臺做支撐；培訓是會把一些比較有經(jīng)驗的審核人員的分享放到審核平臺，來幫助審核人員找到自己想要的資料，提升自己的審核效率，關于審核這方面的知識，國家法律法規(guī)也有一些可以找到分享知識平臺的渠道。

Q5：易盾在機器審核和人工審核分別占比多少？

主要取決于我們樣本的比例，不同業(yè)務的垃圾率和審核標準其實是不一樣的。就目前易盾已經(jīng)接入了近千家的業(yè)務數(shù)據(jù)來看，我們?nèi)斯徍说恼急仁切∮?%。

Q6：如何在不影響用戶體驗當中又能降低平臺安全風險性？

如果整體語義都是好的，建議把關鍵詞替換成*號再發(fā)出去，減少不必要的用戶體驗損失；另外法律法規(guī)基線的東西一定不能發(fā)，其他中間地帶要看情況，特殊時期最好不要發(fā)，非特殊時期可以由業(yè)務側自行把控松緊度。

以上就是我今天分享的全部內(nèi)容，以及對大家的問題作出的解答，謝謝！

本文為網(wǎng)易易盾內(nèi)容安全資深產(chǎn)品經(jīng)理@王博演講實錄，由人人都是產(chǎn)品經(jīng)理團隊依據(jù)嘉賓分享內(nèi)容整理

題圖來自網(wǎng)絡