風控系統，即風險控制系統，一般指在產品功能設置上，通過技術、運營等方面規避來自政策、黑產、平臺、競爭等層面的風險，避免對產品造成收益上的損失甚至造成毀滅性的打擊。

下面本文就盤一下，風控系統及其相關的功能建設。

一、風險的分類

產品的運營伴隨著風險的產生，其中會有來自各方面的不同類型風險，這些風險都會一定程度上影響產品的運營效果。

1. 按風險的來源分類

1）法律禁止類

指由相關國家機構明令禁止的內容/行為，比如涉黃、涉政、未成年、引起不良社會現象的謠言等內容，或者詐騙、盜竊等行為。這類內容/行為被監管部門發現，則會導致公司的產品受到影響（比如下架、勒令整改）。此外，國家禁止的內容/行為會隨著隨著文化管控的需求變更會有新的防控要求變更，比如為了懲治網絡暴力，監管部門有對相關內容APP提出內容管控要求。

2）黑灰產業類

指通過作弊進行非正常手段獲利，比如抽獎活動刷抽獎、拉新注冊刷人頭薅羊毛等，這些行為會導致產品的運營收益下降。

3）三方平臺類

指依賴于第三方平臺合作的產品（比如安卓應用商城、蘋果Apple store，通過上架第三方平臺）通過符合其他平臺的規則來實現盈利，如果出現違規，可能會導致下架、功能限制等平臺處罰措施，導致產品的正常運營受到影響。

4）腳本外掛類

主要指用戶通過腳本、外掛等方式，進行非正常的用戶操作，從而破壞產品的用戶生態，比如游戲的外掛、網賺產品的自動完成任務，這些行為一方面損害了正常用戶的利益，一方面導致平臺運營成本增大（游戲的外掛/腳本會加速游戲內容的損耗、網賺平臺則會加大平均的讓利成本）。

5）競品競爭類

主要指其他競品平臺的不良內容，用商業詆毀官方或者合作的公司，導致品牌利益受損。一般容易出現在內容平臺上，比如水軍進行負面輿論的爆破。

6）內部風險類

指內部成員產生的風險內容，比如內部成員泄露商業機密、發表負面言論內容等，對企業造成損失。

7）業務影響類

有些內容雖然不會違反法律法規，也不屬于上面的類型，但它卻會對產品的運營產生影響，基本由運營人員基于業務特征進行總結。比如內容社區會有些內容會不符合平臺的調性，影響核心用戶的留存；比如女性社區的厭女內容，業務上會需要對這些風險內容進行一定程度的限制。

2. 按風險的主體分類

1）內容風險

來自各方（比如用戶、黑產、競品、內部）發表的對產品具有風險內容，其中涵蓋法律禁止、黑灰產業、不良競爭廣告、影響用戶體驗等影響業務效果的內容。比如用戶發表敏感內容、發表廣告、發表不符合社區規范的內容。

2）行為風險

來自各方（比如用戶、黑產、競品、內部）做出的對產品具有風險的行為，其中涵蓋黑灰產業、腳本外掛、競品競爭、內部風險、業務影響等方面。比如黑產高頻刷注冊；比如競品在社區內高頻發布引流廣告。

3）賬號風險

指用戶賬號安全相關的風險，主要來自黑產對用戶、用戶對用戶之間。用戶賬號信息、密碼等如果被泄露或竊取，可能會導致賬號被他人盜號，從而做出損害原號主利益的事情。比如，盜號者用原號主的賬號發表違規內容，進行違法犯罪的行為，或者直接賣掉賬號。

4）產品風險

指黑產對產品、用戶對產品產生的風險，例如被黑客攻擊或者承載服務量級過高導致產生的問題。

黑產有時會直接對產品本身進行攻擊，從而對產品的運營造成嚴重影響，并以此威脅企業支付贖金才停止攻擊。舉個例子，曾經有一款名為《濡沫江湖》的游戲，在上線初期遭受黑客的DDoS攻擊，導致公司的服務器癱瘓。黑客通過郵件直接向游戲廠商勒索，迫使廠商不得不購買第三方防護技術，花費了整整一年90萬的費用才成功抵御住這次攻擊。

此外，還有一些產品面臨的風險是用戶訪問量超過原本的承載量，導致用戶原本的使用受到影響。當產品的用戶訪問量超出了原有的承載能力時，可能會導致產品性能下降、用戶體驗惡化等問題。

5）互動風險：

用戶之間的互動行為可能會帶來一定的風險，尤其是在雙邊/多邊平臺上，例如滴滴的司機與用戶之間的互動以及閑魚的賣家與買家之間的互動。不良的滴滴司機可能會對用戶造成傷害，而不良的閑魚買家可能會進行商品掉包等行為。

這些互動所產生的風險可能會違反法律法規，從而對產品的運營產生不利影響。

這些風險內容往往會集中出現在具有以下特征的產品上：

1. 用戶能自由發表內容的產品，比如社區、聊天產品。
2. 用戶能夠通過產品獲取實際利益的產品，比如網賺返利產品、電商平臺產品。
3. 商品/內容供不應求的產品，比如演唱會賣票產品。
4. 能夠被作弊手段破解，并且從中獲取便利的產品，比如游戲。

二、風控系統的建設目的

由上文可見，風險內容的覆蓋面極廣，基本上所有的產品都可能會面臨風險。同時風險內容的危害極大，可能招致法律鐵拳的降維打擊，也可能影響核心用戶的體驗。所以，企業可以通過構建一個風控系統進行所有業務線的風險防控。其優點在于：

1.通過統一的功能建設，可以避免重復造輪子，降低邊際成本。（風控識別涉及到的技術一般實現成本較大，比如AI模型）

2.風控積累防控能力建設，將已經發生過的問題在其他產品線上建立防控機制，避免重復踩坑。

三、風控的節點

風控的按“事件發生節點”分為事前風控、事中風控、事后風控，分別指在風險事件發生前中后階段分別進行的防控內容。

1. 事前風控

在風險事件發生前，通過識別和評估潛在風險，以制定相應的策略和措施來降低風險的發生概率。

2. 事中風控

在風險事件發生過程中，盡早發現和干預風險事件，以減少損失并防止進一步擴大。

3. 事后風控

在風險事件發生后，對風險事件進行調查、分析和總結，以及采取措施防止類似事件再次發生。

四、風控的核心功能模塊

除了B端系統常見的基礎功能模塊（如系統權限模塊、數據采集系統、效果復盤系統），風險防控系統的功能可以分為風險預防、信息采集、風險評估、風險應對四大模塊。

而風險按內容風險、行為風險、賬號風險、產品風險、互動風險等不同的風險類型，在四大模塊也有不同的內容。

1. 風險預防

風險預防屬于事前風控環節，用以降低風險發生的概率，以下為常見的預防手段：

1）人機校驗

通過引入人機校驗功能，企業可以區分用戶和機器，從而提前攔截黑產腳本的惡意行為。

最常見的人機檢驗方案有滑塊驗證碼、圖像識別驗證碼、拼圖驗證碼、解密驗證碼等。但隨著黑產破解技術的發展，像是打碼平臺、圖像識別等破解技術的引入，原有的人機校驗方案有了被破解的風險。企業的校驗方案也被迫越來越復雜，往形式多樣化、交互復雜化的方向發展。

人機檢驗方案的難度越高，對用戶體驗的影響也越大，可能會影響產品的轉化率。

為了平衡安全性和用戶體驗，廠商可以在常見的操作環節采用低難度的驗證方案，例如滑塊驗證碼，以略微提高黑產門檻，同時不會對用戶體驗產生過大的影響。而對于高風險操作行為，如支付和修改密碼，可以采用更高難度的驗證方案，以確保整體安全性。

2）身份校驗機制

與人機檢驗不同，身份驗證主要用于驗證用戶是否本人。常見的身份驗證方案包括手機驗證、身份證驗證和郵箱驗證等，這些方案要求用戶提供證明其擁有這些信息使用權的證據，以證明其身份的真實性。

身份驗證環節通常用于敏感操作，例如修改密碼和進行支付等。通過進行身份驗證，企業可以確保只有授權用戶才能進行這些敏感操作，從而提高整體安全性。

3）規則預防

通過調整產品規則和條件，可以有效限制風險行為的發生。

舉例來說，針對注冊刷量行為，我們可以限制同一設備或身份證每天只能注冊兩個賬號，這樣黑產需要額外花費購買注冊所需的信息，增加了他們的成本和門檻。

另外，對于存在違規倒賣行為的賣家，我們可以設定普通用戶每天只能出售兩三個物品的限制，而對于核心用戶則不受此限制。這樣一來，黑產從事違規行為的門檻會提高，因為他們無法大規模利用普通用戶賬號進行違規倒賣。

4）用戶教育

風險防控是一個敵暗我明的業務，企業必須面對各種意料之外的風險。為了應對這些風險，我們需要通過用戶教育來增強用戶的風險意識，將用戶納入我們的防控戰線。

企業可以通過公告、郵件、用戶須知等途徑向用戶傳達風險信息，告知他們風險的危害性。同時，我們也可以公示處罰結果，以警示其他用戶。

此外，為了挖掘意料之外的風險內容，我們可以提供舉報功能和相應的獎勵機制，鼓勵用戶參與其中。通過讓用戶參與風險挖掘的過程，我們可以借助用戶的力量，共同發現潛在的風險內容。

2. 信息采集

信息采集環節在風險控制中扮演著重要的角色，其主要目的是獲取用戶的基礎信息和風險情報，以支持風險控制系統的功能執行。

1）基礎信息采集

• 內容/用戶信息/行為日志采集：在用戶使用我們的產品時，除了采集與風險控制相關的內容（例如用戶發表的言論、發送的圖片），我們還可以在合法范圍內收集用戶的賬號、設備和身份信息，以進行用戶身份認證。同時，我們還會采集用戶在系統中的各種行為日志，以輔助后續的風險控制措施執行。
• 采集作弊檢測：然而，具備技術能力的黑產可能會采用各種手段繞過我們的信息采集，或者偽造虛假信息進行上報，從而使我們難以準確識別和應對風險。因此，風險控制系統的信息采集模塊需要考慮如何應對這些風險。我們需要從客戶端層面攔截繞過上報或數據篡改的數據，并從服務端層面識別并過濾繞過和篡改的數據。

2）風險情報采集

除了基礎的信息采集，還需要采集來自各個業務線的風險情報，例如用戶舉報、其他業務線的反饋、風險熱點采集等。這些途徑獲取的風險情報往往能夠挖掘出一些我們意料之外的風險內容，以便及時對視野盲區中的意外風險進行應對。

信息采集是一個持續迭代的過程。我們需要不斷優化采集策略和技術手段，以適應不斷變化的風險形勢和用戶行為。同時，我們也要注重用戶隱私保護，確保信息采集的合法性和合規性。

3. 風險評估

1）內容風險

內容風險指風險文本、圖片、語音、視頻等類型的內容，不同類型的內容的風險評估建設也有所差異，下方分別講講。

i）敏感內容庫：

我們可以將特定的敏感內容添加到一個名為”敏感內容庫”的數據庫中。當某個內容與庫中的內容高度相似或完全一致時，我們將其標記為”風險內容”。

對于文本內容，我們可以通過自定義詞庫進行風險過濾，采用文本匹配或正則表達式匹配的方式來識別風險內容。正則表達式匹配主要用于應對”規則對抗”的情況，例如將識別到的”黃賭毒”寫成”黃|賭|毒”，或者寫成”黃du毒”，以混淆的方式繞過識別。詞庫的內容來源包括相關部門的要求和業務部門的整理，可以涵蓋各種類型的風險內容。

針對圖片、語音和視頻等內容類型，我們可以通過判斷它們是否”高度相似”或者”完全一致”來標記為”風險內容”。

舉個例子，如果某張圖片已經被業務人員判斷為”風險內容”，那么當同樣內容的圖片再次出現時，我們可以直接跳過機器或人工判斷，直接將其標記為”風險內容”。假設這張風險圖片稍作修改，我們也可以通過相似度判斷是否應標記為”風險內容”。如果相似度高于設定的閾值，我們可以直接將其標記為”風險”。

為了確保敏感內容庫的有效性，我們需要設立企業內容維護角色，定期從競爭對手、新聞報道、相關部門等信息來源收集需要關注的敏感內容，并及時更新敏感內容庫，以應對不斷變化的風險形勢和新出現的風險內容。

ii）風險識別AI

在前文中提到，用戶可能會采取”規則對抗”的行為，試圖通過對抗手段繞過敏感內容庫的檢測。雖然我們可以通過補充內容庫的方式來識別這些內容，但這種方法只能在事后補充規則，屬于事后防范的措施。

為了更好地應對這種情況，我們可以自行訓練風險識別人工智能（AI），建立AI風險識別模型，以拓展風險識別的能力。通過該模型，我們可以對已經出現的風險內容進行標記，將其分類為”高風險”、”中風險”、”低風險”或”無風險”，從而輔助我們判斷如何處理這些內容。

當然，風險內容的形態是多樣的，包括文本、圖片、語音、視頻等多種類型，因此我們需要分別對這些內容形態進行AI模型的建設。對于視頻和語音等具有”時長”概念的內容形態，我們還需要考慮如何在審核過程中降低成本，例如通過對視頻和語音進行切片審核的方式。

iii）人工審核

在某些情況下，一些內容無法通過內容庫進行攔截，人工智能也無法準確判斷其是否存在風險。因此，引入人工審核環節作為風險判斷的最后一道防線是必要的。

然而，人力資源是有限的，無法對所有內容都進行審核。因此，我們可以通過人工智能的篩選、用戶舉報和用戶反饋等方式，對高優先級的內容進行優先審核。對于視頻和語音等具有”時長”概念的內容形式，我們還需要考慮如何降低審核成本，例如采用切片審核的方法。

此外，人工的審核由于需要消耗時間，因此這里還可分為“先發后審”和“先審后發”兩種模式，表示了內容是否需要經過人審才能對外。使用哪種審核模式需要結合人力效率、內容量、內容風險影響程度、業務影響程度等因素進行綜合判斷。

2）行為/賬號/產品/互動風險

行為風險、賬號風險、產品風險、互動風險的識別方案大體相同，分為風險規則庫和黑名單。

i）風險規則庫

通過分析采集的各類日志，我們可以總結出各類風險行為的特征。

比如抓刷注冊的用戶，我們可以監控注冊日志，并將在短時間內多次注冊的行為視為潛在的“行為風險”。

比如存在賬號風險的用戶，我們可以監控登錄日志的IP，并將在短時間內多次變更所在IP的用戶視為有潛在的“賬號風險”的用戶。

我們可以將這些風險行為的特征整合到”風險規則庫”中，以便按照規則進行跟蹤和識別，并根據業務的變化來調整規則條件。根據規則的識別結果，我們可以將其分類為”高風險”、”中風險”和”低風險”。

同時，我們也可以將某個業務線上總結的防控經驗應用到其他業務中，以提高整體的風險防控能力。

需要強調的是，風險特征的提取是一個不斷調整的過程，需要結合實際的防控效果來調整閾值，以確保規則的召回率和準確率都在業務可接受的范圍內。

ii）人工審核

對于規則庫判斷結果不準確的內容，可以考慮引入人工審核環節，以避免誤判。整體和內容的人審類似，需要考慮審核工作量的問題，此處不贅述。

iii）黑名單

基于已經明確存在風險的用戶，我們可以建立黑名單，用于限制這些黑產用戶的活動，以避免重復的審核工作，并及時進行風險防控。

當黑產賬號被限制后，他們可能會更換一個UID來繼續從事違規行為。因此，我們還可以根據設備號、身份證號、IP地址、手機號等維度來建立黑名單，以封禁與同一黑產有關的其他賬號。盡管黑產可能會嘗試更換設備號、身份證號、IP地址、手機號等信息來繼續違規行為，但這無疑會增加他們的操作成本和難度。

此外，在執行黑名單封禁時，我們需要注意評估誤處罰的風險。例如，封禁某個IP可能會誤傷正常用戶，封禁設備號可能會誤傷使用模擬器的用戶（在某些環節下無法獲取到用戶的真實設備號，在系統層面它們都是同一個默認設備號），封禁身份證號可能會誤傷個人信息被黑產盜用的用戶。

4. 風險應對

在完成風險識別后，需要采取相應措施來處理這些風險，以實現最小化損失的目標。針對風險的應對手段可以根據其防控效果和對用戶體驗的影響程度進行分類和評級。

然而，由于風險識別并非百分之百準確，對用戶體驗產生影響的應對方案如果誤傷正常用戶，可能會對產品的運營產生負面影響，甚至引發不良的輿情。例如，錯誤封禁用戶賬號可能導致用戶在社交媒體上發帖抨擊產品，給產品帶來負面的輿論影響。

因此，建議首先優先考慮高效且對用戶影響較小的應對方案，其次再考慮其他方案。

不同的風險內容應對方式也不同，以下介紹一些常見的應對手段：

1）內容風險應對

i）禁止發表

這是一種事前風控的方案。

我們可以在用戶發表內容之前對其進行過濾，如果發現風險內容，則阻止其發表。然而，這種方案可能會對用戶體驗產生影響，特別是在風險識別非常敏感的情況下，用戶可能會花費很長時間才能成功發表內容。

ii）屏蔽or替換

這是一種事中/事后風控的方案。

對于違規內容，最常見的方案是屏蔽或替換風險內容，例如將敏感文本內容替換為”***”。

類似地，對于風險圖片，可以進行屏蔽處理。例如微博采用的”夾圖”功能，即將敏感內容替換為一張默認圖片。

屏蔽或替換的關鍵在于保持內容可以正常發表，而不中止用戶的發表行為，對用戶體驗的影響較小。

iii）僅發布者可見

這是一種事中/事后風控的方案。

這種方案采用了僅對發布者可見的方式，以確保內容不會被其他用戶看到，從而避免風險的暴露并減少用戶的反感。

在內容發布后但審核完成前（先發后審模式下），也可以采用”僅發布者可見”的方案，以減少風險的可能性。

iv）強制下架

這種方案屬于事后風控。

強制取消本次內容的發布，并告知用戶內容存在風險，一般用于對漏網之魚進行處理。

v）限流

這是一種事中/事后風控的方案。

這種方案指的是通過限制內容的曝光程度來降低其影響范圍，通常在帶有算法推薦功能的內容產品中使用。這種風險控制方案對用戶體驗的影響較小。

對于剛發布的內容，在審核完成之前（先發后審模式下），也可以采取適當的限流措施，待審核完成后再解除限流，以控制整體風險。

2）行為風險應對

i）行為封禁

在發現風險行為時，我們可以采取限制用戶在產品中的行為，如登錄、發言和充值等，以防止其繼續從事風險行為。根據封禁時機，我們可以將其分為事前封禁、事中封禁和事后封禁。

事前封禁可以預防潛在風險，但實際執行時可能存在較高的誤封率。事中封禁可以相對及時地攔截風險行為，效果相對較好，但要求風控系統能夠及時發現風險行為。事后封禁只能起到事后補救或警告的作用，防控效果較差。

此外，封禁措施還可以設置封禁時長。對于頻繁犯案或嚴重程度較高的風險行為，可以適當延長限制時長，甚至采取賬號封禁措施（禁止全部操作行為），用于威懾或警告。

封禁的執行可以由系統或人工進行，為了降低誤封率，可以將準確率較高的識別規則交由系統自動執行封禁，而對于存疑的內容，則需要進行人工審核，以判斷是否進行封禁。

考慮到系統可能存在誤封的情況，我們可以提供一套申訴機制，使被誤封的用戶能夠自行提出申訴并進行自證解封，并且他們可以提供相關樣本以供我們優化規則。

如圖的游戲則是引導到客服進行申訴。

ii）坐連封禁

在進行行為封禁時，我們通常以賬號為操作維度。然而，黑產往往不僅僅擁有一個賬號備用。因此，為了盡可能提高黑產的犯罪成本，我們可以根據設備號、身份證號、IP地址、手機號等維度進行關聯封禁。

值得一提的是，如果黑產存在刷注冊的行為，我們無法僅通過賬號維度進行限制，因為刷注冊操作的是賬號本身。因此，我們只能通過關聯賬號的設備號、身份證號、IP地址、手機號等維度來執行注冊限制。

iii）警告提示

這是一種“低用戶體驗影響&低防控效果”的應對方案，一般用于“規則準確率較低”或“警告提示”的時候，比如用戶疑似開掛，警告用戶開掛的危害，以及被抓后的后果。

iv）人機/身份校驗

針對識別準確率較低的高風險行為，我們可以要求用戶進行人機/身份檢驗（前文預防環節有提及），以中斷風險行為。通過這種方式，在不影響用戶體驗的前提下，提高黑產從事違規行為的成本，減少其對系統的影響。

3）賬號風險應對

i）賬號凍結

這種方案通常適用于風險識別準確的情況。賬號凍結類似于賬號封禁，當系統檢測到賬號存在被盜風險時，會禁止用戶登錄賬號，并要求用戶進行個人身份驗證，例如使用身份證、手機等方式進行驗證，以確保用戶身份的真實性。同時，系統可以提示用戶修改賬號密碼以增加安全性。

ii）安全校驗

這種方案對用戶體驗的影響相對較小。當系統檢測到用戶賬號存在風險時，會要求用戶進行安全校驗。常見的安全校驗形式包括郵箱校驗、手機校驗、身份證校驗和安全問題校驗，其核心邏輯在于要求用戶進行自我驗證。

下圖展示了常見的郵箱驗證碼安全校驗功能。

4）產品風險應對

i）擴容方案

兵來將擋水來土掩！過多的訪問就擴充服務器數量，不過這種方案需要根據實際需求和成本考量。

ii）高防方案

高防服務器是一種能夠應對黑客攻擊并避免勒索的解決方案，但相應地，服務器成本也會增加。對于企業而言，如果存在被攻擊的潛在風險，可以提前準備好高防機制，并在需要時啟用。

iii）限流方案

如果遇到黑產高頻訪問或用戶量級過高的情況，可以考慮對這些情況進行限流措施。限流可以分為排隊限流、功能限流和用戶限流兩種方式。

排隊限流是一種控制產品用戶數量的方法，通過讓過多的用戶排隊等待，直到有空余的位置時再允許部分用戶進入，以確保用戶數量不超過服務的承載能力。這種限流方式可以有效地平衡用戶訪問量和產品性能，防止過載導致的服務崩潰。

功能限流是指在特殊情況下暫時關閉某些功能的使用，例如臨時停止注冊功能，優先為已登錄的用戶提供服務，待情況穩定后再逐步開放其他功能。

用戶限流是指針對具有特定屬性的用戶（例如IP黑名單用戶）進行操作限制（類似于功能封禁），禁止這些賬號登錄，以限制黑產的活動。

iv）服務中止方案

如果以上方法無法解決產品面臨的風險，不得不考慮暫時中止服務。在這種情況下，需要通過安撫用戶情緒，并緊急制定維護修復方案，盡快完成維護工作，并在之后進行補償措施的發放。

5）互動風險應對

i）平臺中立機構

在用戶之間存在較小的糾紛時，企業可以設立專門的中立機構來負責裁決這些糾紛。其中，最常見的機構就是客服部門，他們可以處理用戶對商家或其他用戶的投訴，并提供具體的解決方案。例如，在閑魚平臺上就設有一個名為”閑魚小法庭”的機構，邀請第三方用戶充當裁判，對事件進行裁決。

需要注意的是，糾紛處理結果中敗訴方可能會對結果感到不滿，因此如何讓敗訴方接受處理方案是產品需要考慮的一個重要問題。

ii）國家相關機構

在用戶之間出現涉及嚴重法律問題的情況下，企業可以直接協助用戶聯系相關部門進行介入和處理。舉例來說，對于滴滴司機犯罪的風險，企業可以及時提醒用戶報警，以便迅速應對潛在的風險問題。

五、風控的難點

1. 風險無法根除，利益驅動下黑產層出不窮。除了用戶個體行為外，風險的產生更多是源于黑產對利益的追逐。正如《資本論》所提到的：“如果有100%的利潤，資本家們會不擇手段…”，因此只要存在足夠的利潤，就會吸引大量黑產的涌入。

2. 風險防控是一場持續不斷的技術對抗，雙方技術能力螺旋上升。

“上有政策，下有對策”。當我們開發一項新的風險防控技術時，黑產也會不斷嘗試對抗，直至突破我們的防線。

這是一場明爭暗斗、人多勢眾的過程，而且黑產具備專業化、職業化和利益鏈復雜的特點。只要對黑產的收益大于成本，我們的防控技術終將被新技術所破解。

3. 風控的成本高，但性價比低，并不能直接帶來收益。

盡管風險控制業務具有一定的重要性，但它并不是一項直接產生收益的業務。

為了應對產品中存在的風險，我們需要建立一整套預防、采集、識別和應對技術，其中還涉及到高難度的人工智能等技術能力。

從產品設計和優先級規劃的角度來看，風險控制并不屬于MVP功能，其投資回報率較低。在產品初期，我們并不需要過多地投入精力來建設風險控制系統。從盈利的角度來看，風險控制只是能夠對收入進行止損，并不能對收益產生增幅。風險控制系統并不能在產品的增量拉收中起到重要作用。因此，大力發展風險控制并不是一個明智的選擇。

4. 在當前階段，基于AI防控規則的召回率與準確率很難達到平衡，因此仍然需要一定程度的人力兜底。

目前的AI技術尚未達到人工通用智能（AGI）的水平，這導致風險識別規則往往難以在全面性和準確性之間取得平衡。

要么我們可以采用廣泛的規則以確保盡可能多的風險被識別，但這可能會導致準確率下降；要么我們可以采用更嚴格的規則以提高準確率，但可能會導致一些風險被遺漏。

因此，為了最大化風險的識別召回和準確性，仍然需要一定數量的人力資源進行審核，這也意味著需要相當的人力支出。

六、風控的未來

上文提到風控的難點主要集中成本和效果上，為了應對這些問題，個人覺得風控系統的未來在于：

1. 中臺乃至Saas化以降低邊際成本。
2. 在標準化建設的基礎上，對業務進行定制化防控策略設置，降低整體成本。
3. 緊跟AI技術潮流，尋求召回率與準確率的最優解。

七、總結

上文即是本人對風控系統建設的理解，歡迎各位補充～