起點課堂會員權益
職業體系課特權
線下行業大會特權
個人IP打造特權
30+門專項技能課
1300+專題課程
12場職場軟技能直播
12場求職輔導直播
12場專業技能直播
會員專屬社群
榮耀標識模型審查的4個核心要點
編輯導語：如今隨著互聯網行業的不斷發展，金融行業也逐漸的融入到互聯網行業中去，在金融行業的模型風險管理中，需要進行審查的工作；本文作者分享了關于模型審查的4個核心要點，我們一起來了解一下。
在模型風險管理不斷被監管重視的當下，從銀行金融機構開始，消費金融公司、網絡小貸公司將會循序漸進、逐步建立完善的模型評審制度和標準，籌備模型審查部或小組。
或許“模型評審部“對于大部分在中國金融體系內從業的風控工作者相對陌生，但其在金融系統發達國家如美國、新加坡等地，如美國Capital one會單獨設立“模型評審部”。
也有一些外資銀行/互聯網金融機構會設立雙模型審查組，一個組成立于模型內部，一個組成立于應用方外部。
模型審查的目的有三，如下：
- 為提供金融產品和服務的公司提供一套在決策中使用AIDA時需要考慮的基本原則；
- 協助企業在其自身的商業模式和結構中對AIDA的使用進行情境化和操作化管理；
- 促進公眾對使用AIDA的信心和信任。
注釋：AIDA是Artificial Intelligence and Data Analytics的縮寫簡稱，以下用AIDA代表模型與分析。
在算法模型不斷被金融機構大量應用的當下，為了避免模型風險的不斷累計和放大，模型審查尤為重要。
在金融機構符合以下非量化條件時，可能就要啟動模型審查，具體量化程度目前仍以各家金融機構模型審查部決定。
- 在決策中使用AIDA的程度；
- AIDA模型的復雜性；
- AIDA驅動決策過程的自動化程度；
- 對不同利益相關者（包括個人）影響的嚴重性和可能性；
- 貨幣和金融系統的影響；
- 監管影響；
- 可用追索權的選擇。
既然，模型審查于監管特別重視，于金融機構內部管理十分重要，于金融產品使用者利益相關甚大，那么，怎么開展模型審查呢？
在大部分美系銀行內部，是有一套標準的模型評審制度和流程，大到宏觀如金融產品公平性的審查，小到微觀核心代碼的逐字審查，都有跡可循。
本文我們就單以宏觀層，介紹模型審查工作的四個切入口。
01 公平性模型審查
公平性模型審查最重要的作用是，保證AIDA驅動的決策不會在沒有理由的情況下使任何特定的個人或個人群體處于不利地位。
如今，對不同群體的人提供不同的待遇是一種現有的做法，也是當前商業模式的一部分；雖然使用AIDA可以基于數據的分割和聚類進行分析，但這也意味著不同組之間的區別可以以更大的規模和更快的速度發生。
使用AIDA還可以創造出識別或分析以前無法做到的新類型分化的能力。如果不加以妥善管理，這可能會使系統層面上發生不合理的分化現象，并出現永久化。
舉個例子，對于性別的特征，男女不應在貸款業務中出現性別歧視，也不能因為男性和女性在貸后逾期表現中不同，出現較大的貸款傾向性偏差。
對于專業的第三方AIDA公司，需要有適當的內部治理框架，以保證AIDA驅動決策的背后，有適當的論證水平標準，包括使用特定的數據屬性，這樣的內部治理框架也可能細化到評估數據和模型的過程。
綜上，公平原則關注兩個關鍵方面，一是合理性，二是AIDA驅動的決策的準確性和偏向性。
02 道德性模型審查
所有使用或不使用AIDA的公司都符合其道德標準。這些道德標準通過多種方式表達，包括公司價值觀、行為準則和使命聲明，并可能因公司和地域的不同而有所不同，遵守這些道德標準同樣適用于使用AIDA。
可能讀者朋友們對于道德性模型審查不好理解，我來舉一個人力資源部AIDA道德性模型審查的例子。
在使用模型和分析算法，實現通過模型或算法幫助企業人力部門篩選潛在的就業候選人時，模型或算法不能使用性別作為輸入或派生屬性。
03 責任性模型審查
在金融機構，使用AIDA驅動的決策，需要建立明確的責任和所有權，并有適當的內部批準機構來批準使用AIDA；這種責任適用于所有AIDA的使用，無論是內部開發的還是外部來源的。
AIDA驅動的決策，特別是那些可能對數據主體產生重大影響的決策，需要基于對數據主體（如三方數據）盡可能準確的理解；數據主體可以通過促進溝通和尋求求助的渠道的方式，提供準確信息。
因此，問責原則集中在兩個關鍵方面：
- 內部問責，這與使用AIDA金融公司的內部治理有關；
- 外部問責，這與使用AIDA金融公司對數據主體的責任有關。
內部問責可以從3個角度開展：
- 在AIDA驅動的決策中使用AIDA是由適當的內部權力機構批準的；
- 使用AIDA的公司要對內部開發的和外部采購的AIDA模型負責；
- 使用AIDA的公司主動提高管理層和董事會對其使用AIDA的認識；
外部問責主要在執行AIDA驅動的決策評審時，要考慮數據主體提供的已核實的和相關的補充數據。
04 透明性模型審查
雖然提高使用AIDA的透明度可以提高公眾對AIDA的理解和信心，但過度的透明度可能會造成混亂或個人利用或操縱AIDA模型的意外機會。
在確定使用AIDA的適當透明度水平時，平衡這些考慮因素是很重要的。
透明性模型審查分為內、外透明。
內部透明，是指模型和組成特征的可解釋性、透明度模型審查，如模型的P-Value、MSE、KS，特征的Zero rate、Missing rate、KS等。
外部透明性審查是指應用模型進行決策時，使用金融服務的客戶對于AIDA的決策的知情性。
舉個例子，一家提供汽車保險的金融公司通知客戶，他們將使用駕駛模式的數據來審查客戶的保費。
該公司解釋了某些駕駛模式如何影響保費。公司提供了圖解和圖表來解釋識別的模式以及對不同客戶群體的影響；該公司還開發了一個用戶界面，允許客戶改變潛在的輸入，以了解對保費結果的影響。
一個被收取更高保費的客戶可以向公司尋求關于保費上漲原因的有意義解釋。
這家汽車保險公司與客戶共享其所屬的客戶群體及其對保費的影響，還與客戶廣泛分享用于分析其駕駛模式的數據，并為客戶提供更準確和更新的信息。
從長遠來看，客戶可能會選擇改變自己的行為，培養良好的駕駛習慣，以確保保費不會增加。
以上，僅是模型審查的4個核心要點，并非全部要點。
模型評審不僅要滿足監管要求，也要從科技和業務應用等多方面綜合考慮如何評估、審查一個模型，只有這樣，全面數字驅動型金融系統才能逐步安全實現，大眾對于模型的認知也會逐漸提升。
本文由 @FAL金科應用研院 原創發布于人人都是產品經理，未經許可，禁止轉載。
題圖來自 unsplash，基于 CC0 協議
- 目前還沒評論，等你發揮！
