起點課堂會員權益
職業體系課特權
線下行業大會特權
個人IP打造特權
30+門專項技能課
1300+專題課程
12場職場軟技能直播
12場求職輔導直播
12場專業技能直播
會員專屬社群
榮耀標識用戶可以關閉算法推薦了？解讀一下《算法推薦管理規定》
編輯導語：前段時間，網信辦公布了《互聯網信息服務算法推薦管理規定（征求意見稿）》，當中涉及到了許多的互聯網服務，對很多細節都進行了相關規定。本文針對該規定進行了詳細的解讀，了解算法推薦管理條例中的一些變化以及是如何進行管理的。
前一陣網信辦公布了《互聯網信息服務算法推薦管理規定（征求意見稿）》（以下簡稱《算法推薦管理規定》或《規定》）公開征求意見的通知。
通知里的內容實際上涉及了之前熱議的許多話題，例如大數據殺熟、隱私問題、外賣配送調度問題等等，同時也對互聯網服務中算法里的很多細節進行了規定。不得不說，立法團隊里還是有高人在的。不過法律條文大都比較枯燥，所以今天這里聊一聊我對《算法推薦管理規定》的解讀。
首先要聲明一下：本文僅為從業人員發表的個人觀點，不作為法律意見，僅供參考。
一、定義
前六條基本上是各種管理規定里的例行條例。
這里比較重要的是第二條，對算法推薦服務的定義：
第二條：前款所稱應用算法推薦技術，是指應用生成合成類（圖片視頻AI生成）、個性化推送類（推薦、Push）、排序精選類（熱榜）、檢索過濾類（搜索）、調度決策類（外賣、網約車等）等算法技術向用戶提供信息內容。
括號內容是我理解的場景，不是原文?？梢钥吹竭@里基本上囊括了互聯網產品中涉及到的大部分算法技術服務，不過有一塊例外——廣告業務，當然廣告可以視為每個場景下的商業化方案，廣告內容也可以作為內容的一種納入監管，但也有一些場景不在上面的范圍內，比如聯盟廣告。
而廣告又是比較容易引起用戶關注隱私問題的場景（常見案例：輸入法DMP帶來的廣告精準投放），所以這塊還是要看后續怎么界定。
二、內容風控
接下來第七條到第九條是對互聯網平臺內容風控提出的要求，可以預見大廠未來對這塊的投入應該還要持續增加，中小廠可能會找一些第三方的解決方案（比如數美之類），對內容安全行業和從業人員持續利好。
這一部分條例值得討論的有兩點。第一點是關于第八條提到的不得設置誘導用戶沉迷的算法模型這塊，基本上就是點名各短視頻平臺了：
第八條：算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷或者高額消費等違背公序良俗的算法模型。
但短視頻平臺推薦模型的優化目標，核心就是瀏覽時長，這是業界多年累積下來的、能夠和商業化目標更一致的經驗，那這算不算是「誘導用戶沉迷」呢？如果算的話，也不可能退回到優化點擊率的模型去，只能是往多目標優化發展，那這樣是不是能夠稍微圓回來一些呢？
所以這個地方，我覺得平臺可能更多能做的，是反過來思考：你的防沉迷系統，有沒有做得足夠好（尤其是未成年人防沉迷）？然后祈禱不會出現各種抨擊短視頻導致用戶沉迷、抨擊「信息繭房」的新聞報道。第二點是第九條，關于生成合成信息（圖片視頻AI生成）這塊：
第九條：算法推薦服務提供者應當加強信息內容管理，建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規則和程序。發現未作顯著標識的算法生成合成信息的，應當作出顯著標識后，方可繼續傳輸。發現違法信息的，應當立即停止傳輸，采取消除等處置措施，防止信息擴散，保存有關記錄，并向網信部門報告。發現不良信息的，應當按照網絡信息內容生態治理有關規定予以處置。
目前AI生成圖片和視頻這塊的技術，說實話已經要比想象中成熟很多了，比如隔一段時間就火一陣的換臉App。好在目前還都是娛樂用途為主，比如B站上面各種大司馬的換臉視頻，但保不齊也會被人用來惡意制作篡改、傳播謠言，所以這個條例還是有必要的。
但怎么說呢，AI生成是基于生成對抗網絡（GAN）的技術，本身就是用一個生成器和一個判別器來對抗，直到判別器也真假難辨的時候生成器生成的圖片或視頻方能出山。所以這塊對AI生成內容的鑒定，無論是人還是機器來做，我覺得未來都是一個大的挑戰。
三、核心條例
接下來的第十條到第十八條，是圍繞各互聯網算法推薦場景做出的規定，我們一個一個來聊。
第十條：算法推薦服務提供者應當加強用戶模型和用戶標簽管理，完善記入用戶模型的興趣點規則，不得將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽并據以推送信息內容，不得設置歧視性或者偏見性用戶標簽。
用戶畫像：像什么「好色」、「好賭」這種用戶標簽，以后就都不允許存在了。當然這里面可能不僅僅是標簽名字的問題，用戶畫像使用的數據源也要符合條例當中的規定，否則這兩個標簽改成「喜歡異性」、「喜歡刺激」不就好了？
第十一條：算法推薦服務提供者應當加強算法推薦服務版面頁面生態管理，建立完善人工干預和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節積極呈現符合主流價值導向的信息內容。
第十二條：算法推薦服務提供者應當綜合運用內容去重、打散干預等策略，并優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性，避免對用戶產生不良影響、引發爭議糾紛。
第十三條：算法推薦服務提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號，或者虛假點贊、評論、轉發、網頁導航等，實施流量造假、流量劫持；不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現，實施自我優待、不正當競爭、影響網絡輿論或者規避監管。
第十一到第十三條主要是對算法推薦服務提供者干預算法模型做出的相關規定，里面甚至提到了「去重」、「打散」等術語，可以說是相當專業了。
這個部分也有兩塊值得一提，一個是第十三條第一款提到的：算法推薦服務提供者不得利用算法……實施流量造假、流量劫持。事實上，條例中提到的虛假注冊賬號等這些行為，壓根用不上算法，這樣的措辭反而會讓人覺得，我不用算法做這些事情，是不是就可以了？
所以，「利用算法」這四個字，我覺得可以去掉。其次，在實際情況中，雖然不排除有平臺方做虛假注冊賬號（僵尸號）等流量造假行為，但第三方進行賬號虛假注冊交易、刷贊刷評刷榜是更常見的行為，對這個情況的監管也應該納入到條例中來。
第二個是對熱榜、熱搜的干預行為，這部分要把第十一條和第十三條結合起來看。平臺方對熱榜、熱搜的干預后門肯定會有，否則萬一遇到什么突發情況（比如被境外勢力惡意刷上熱榜），平臺方怎么撤熱榜熱搜呢？
但另一方面，平臺方對熱榜、熱搜黑盒式、不透明的干預行為，也讓平臺方有非常強力的影響輿論的能力（參考蔣凡事件），需要被監管。所以這三條圍繞這一點進行了一些規定。第十一條提到，要完善人工干預機制，第十三條又提到，不得利用算法干預信息呈現。
這塊怎么理解呢？我的理解是，這實際上意思是說，從此以后，平臺方就不能再說，是因為「算法」干預的熱榜熱搜結果，這個托詞，對不起以后沒有了。
未來所有對熱榜熱搜的干預，都是你平臺人工進行的，所以這里面平臺方需要有一個完善的干預流程和干預機制，并且所有操作記錄要在平臺數據庫中留底備查，這是監管希望達到的效果。
第十四條：算法推薦服務提供者應當以顯著方式告知用戶其提供算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖、運行機制等。
這一條，雖然是對第二條定義提到的所有算法推薦服務提出的要求，但主要針對的還是熱榜熱搜場景，這個場景對輿論影響大，算法原理又簡單，公示之后大部分人都能看得懂。
第十五條：算法推薦服務提供者應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。
算法推薦服務提供者應當向用戶提供選擇、修改或者刪除用于算法推薦服務的用戶標簽的功能。
用戶認為算法推薦服務提供者應用算法對其權益造成重大影響的，有權要求算法推薦服務提供者予以說明并采取相應改進或者補救措施。
好的，重點來了，第十五條，要求算法推薦服務提供者提供關閉個性化或算法推薦服務的選項給用戶，直指過去個性化推薦被詬病許久的隱私問題。這一條也是單獨被拎出來，作為新聞報道宣發的一條：
首先，算法推薦依據的個人特征其實是有分類的，既有用戶的個人屬性（如年齡、性別）、設備屬性（如機型）、環境上下文屬性（如地理位置）等等，也有用戶在平臺的各種過往行為。
關閉個性化推薦，要不要區分具體的特征呢？比如只關閉個人屬性，過去的行為特征還是讓平臺保留？你說我都看了那么多小姐姐，把號養好了，你這說關就全都關了？
但如果不做約定，我覺得平臺大概率不會分得這么細，只有一個「是否關閉個性化推薦」的選項，你說你關不關吧？那你要是能只關屬性，保留行為特征，那我肯定關啊。
所以這個地方，最好還是有細則或解釋能夠進行一下指導或要求。
其次，假設真的提供這種便捷的關閉選項，包括更細化的關閉選項，最后會有多少用戶愿意真正地關閉「個性化推薦」而不是直接卸載應用？我還是很好奇這個關閉率的。
關閉之后，如果后悔，是不是還應該提供便捷的打開措施給用戶？所以，我覺得這一條可以稍微調整一下措辭，把「提供便捷的關閉算法推薦服務的選項」改為「提供便捷的開關算法推薦服務的選項」即可。
第十六條：算法推薦服務提供者向未成年人提供服務的，應當依法履行未成年人網絡保護義務，并通過開發適合未成年人使用的模式、提供適合未成年人特點的服務等方式，便利未成年人獲取有益身心健康的信息內容。算法推薦服務提供者不得向未成年人用戶推送可能引發未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息內容，不得利用算法推薦服務誘導未成年人沉迷網絡。
第十七條：算法推薦服務提供者向勞動者提供工作調度服務的，應當建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關算法，履行勞動者權益保障義務。
第十八條：算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者合法權益，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。
這三條相對就比較容易理解了，第十六條是對未成年人保護提出的要求，第十七條基本就是點名對外賣平臺、網約車平臺提出的要求，第十八條是對「大數據殺熟」行為進行了定義和約束。
同時，這三條的主管部門也不是網信辦，具體到監管執行的時候還是要聯合其他部門（比如教育、人社、消保等）來處理的。
四、監管措施與罰則
《規定》的第十九條到第二十六條是約定的具體監管措施，比如分級監管、備案等，其余第二十七條開始是約定的罰則，都是法律條文中比較常規的內容，就不一一細聊了。
簡單說下第二十條，關于備案的內容：
第二十條：具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息，履行備案手續。
首先，備案主體是具有輿論屬性或者社會動員能力的算法推薦服務提供者，所以社區類、社交類、短視頻類、新聞類等偏社交、內容的應用都應該備案，而像外賣、網約車、電商等應該就不屬于需要備案的主體了。
其次，備案哪些內容？比較被關注的是算法自評估報告和公示內容，光看名字也看不出啥來，具體還是要看執行要求。
不過既然有公示，那就到時候可以看看公示到什么程度了，我覺得至少各家熱榜算法公式應該是要公布出來了，而不是像之前這樣藏著掖著。
以上就是一些關于《算法推薦管理規定》的個人解讀，總體來說是一份相當完備的監管條例了，既包括了網信辦重點關注的內容輿情方面的監管規定，也對算法涉及的其他方面的社會影響有所提及。
對于各互聯網服務平臺來說，《規定》不僅僅是讓算法更加透明、更加白盒化，同時也對平臺的內容風控能力提出了更高的要求。
最后再次聲明一下：本文僅為從業人員發表的個人觀點，不作為法律意見，僅供參考。
作者：青十五；公眾號：青十五，新書《策略產品經理：模型與方法論》作者
本文由 @青十五 原創發布于人人都是產品經理，未經作者許可，禁止轉載。
題圖來自Unsplash，基于CC0協議。
- 目前還沒評論，等你發揮！
