常用推薦算法介紹
在本文中,作者主要是介紹了常見推薦算法的基本原理。
0. 從余弦公式講起
先思考一個問題,我們怎么量化兩個事物的相似度呢?當然,這也是推薦系統需要多次面臨的問題。
我們知道向量的概念,可以形象化地表示為帶箭頭的線段。二維空間向量表示方法為,多維空間向量表示為,向量是描述事物一種很好模型。
比如,假設用戶有5個維度:
- 對服裝的喜歡程度(1~5分)
- 對家居的喜歡程度(1~5分)
- 對3C的喜歡程度(1~5分)
- 對圖書的喜歡程度(1~5分)
- 對化妝品的喜歡程度(1~5分)
- 一個用戶A:對服裝的喜歡程度3,對家居的喜歡程度1,對3C的喜歡程度4,對圖書的喜歡程度5,對化妝品的喜歡程度0,用戶A可以用向量表示為
- 一個用戶B:對服裝的喜歡程度3,對家居的喜歡程度4,對3C的喜歡程度5,對圖書的喜歡程度0,對化妝品的喜歡程度2,用戶B可以用向量表示為
這兩個用戶的相似程度是多大呢?既然我們把這兩個用戶表示為向量,那么我們可以考慮向量怎么判斷相似性。沒錯,看這兩個向量的夾角。夾角約小,則相似度越大。
對于向量和而言,他們的在多維空間的夾角可以用向量余弦公式計算:
余弦相似度的值本身是一個0~1的值,0代表完全正交,1代表完全一致。就剛才用戶A和用戶B的例子而言,我們可以知道他們的相似度為:
余弦公式本身應用范圍很廣,量化相似度在搜索推薦,商業策略中都是常見問題,余弦公式是很好的解決方案。就推薦本身而言,計算內容的相似度,計算用戶的相似度,計算用戶類型的相似度,計算內容類型的相似度,這些都是可以應用的場景。
1. 推薦的本質是什么
推薦和搜索本質有相似的地方。搜索滿足用戶從海量數據中迅速找到自己感興趣內容的需求,屬于用戶主動獲取。推薦則是系統從海量數據中根據獲取到的用戶數據,猜測用戶感興趣的內容并推薦給用戶,屬于系統推薦給用戶。本質上都是為了在這個信息過載的時代,幫助用戶找到自己感興趣的東西。
推薦系統有很多種形式。運營或者編輯篩選出自己認為最好的內容放在首頁,廣義上講這也是一種推薦。不過這個不在我們本期文章的討論范圍,本期主要是討論系統級別的推薦。這里主要介紹四類常見的推薦方法:
- 基于內容的推薦
- 基于內容的協同過濾
- 基于用戶的協同過濾
- 基于標簽的推薦
2. 基于內容的推薦
基于內容的推薦是基礎的推薦策略。如果你瀏覽或購買過某種類型的內容,則給你推薦這種類型下的其他內容。
以電影推薦為例。比如你之前看過《盜夢空間》,則系統會關聯數據庫中盜夢空間的信息。系統會推薦克里斯托弗·諾蘭導演的其他作品,比如《致命魔術》;系統會推薦主演里昂納多的其他作品,比如《第十一小時》。
如果這個電影系統的數據被很好地分類,那么推薦系統也會給用戶推薦這個分類下的其他作品。盜夢空間如果被歸為科幻作品,那么可能會推薦其他科幻作品,比如《星際迷航》。
基于內容的推薦好處在于易于理解,但是壞處是推薦方式比較依賴于完整的內容知識庫的建立。如果內容格式化比較差,那么基于內容的推薦就無法實行。同時如果用戶留下的數據比較少,則推薦效果很差,因為無法擴展。
3. 基于內容的協同過濾
協同過濾(Collaborative Filtering)與傳統的基于內容過濾直接分析內容進行推薦不同,協同過濾會分析系統已有數據,并結合用戶表現的數據,對該指定用戶對此信息的喜好程度預測。
基于內容的協同過濾(item-based CF),通過用戶對不同內容的評分來評測內容之間的相似性,基于內容之間的相似性做出推薦;最典型的例子是著名的“啤酒加尿布”,就是通過分析知道啤酒和尿布經常被美國爸爸們一起購買,于是在尿布邊上推薦啤酒,增加了啤酒銷量。
需要計算用戶u對物品j的興趣,公式如下:
這里N(u)表示用戶有關聯的商品的集合,wji表示物品j和i的相似度,rui表示用戶u對物品i的打分,示例如下:
這里還有兩個問題沒有仔細描述,如何打分,如何計算相似度。
打分的話需要根據業務計算,如果有打分系統最好,沒有打分系統,則需要根據用戶對這個物品的行為得到一個分數。
計算相似度除了之前我們提到的余弦公式,還可以根據其他的業務數據。比如對于網易云音樂而言,兩首歌越多的被加入兩個歌單,可以認為兩首歌越相似。對于亞馬遜而言,兩個商品越多的被同時購買,則認為兩個商品相似。這里其實是需要根據產品的具體情況進行調整。
4. 基于用戶的協同過濾
基于用戶的協同過濾(user-based CF),通過用戶對不同內容的行為,來評測用戶之間的相似性,基于用戶之間的相似性做出推薦。這部分推薦本質上是給相似的用戶推薦其他用戶喜歡的內容,一句話概括就是:和你類似的人還喜歡下列內容。
需要計算用戶u對物品i的興趣,公式如下(可以和基于物品的協同過濾仔細對比):
這里N(i)表示對物品i有過行為的用戶集合,wuv使用用戶u和用戶v的相似度,rvi表示用戶v對物品i的打分,示例如下:
同樣的,這里計算相似度如果用到余弦公式,其實最主要的是選好維度。對于音樂而言,可能是每首歌都作為一個維度,對于電商而言,也可以是每個商品都是一個維度。當然,用一些可理解的用戶標簽作為維度也是可以的。
5. 基于標簽的推薦
標簽系統相對于之前的用戶維度和產品維度的推薦,從結構上講,其實更易于理解一些,也更容易直接干預結果一些。關于tag和分類,基本上是互聯網有信息架構以來就有的經典設計結構。內容有標簽,用戶也會因為用戶行為被打上標簽。通過標簽去關聯內容。
需要計算用戶u對物品i的興趣,公式如下(可以和基于物品的協同過濾仔細對比):
這里N(u.,i)表示用戶u和物品i共有的標簽,wuk使用用戶u和標簽k的關聯度,rki表示標簽k和物品i的關聯性分數,示例如下:
標簽查找的方法這里有很大可以發揮的空間,比如,通過知識庫進行處理,或者語義分析處理。而對于一些設計之初就有標簽概念的網站, 就比較容易,比如豆瓣和知乎。對于知乎而言,公共編輯的標簽是天然的標簽內容,對于知乎的用戶而言,瀏覽回答關注等行為則是天然的用戶標簽素材。
6. 總結
對于推薦而言,這幾種基本的方法彼此之前都有些應用場景的差別:比如基于知識的推薦,這是比較老舊的推薦方法,但是對于系統和結構比較好的內容,則低成本且高效。比如基于內容的協同過濾,就適用于內容比較有限,但是用戶數特別多的情況,比如電商公司。比如基于用戶的協同過濾,則比較容易根據用戶的興趣點,發覺熱點內容,比如新聞門戶。對于基于標簽的推薦,有標簽系統的很占便宜,它在靈活性和可控制性上都好一些,但是做好很難。
本期主要是介紹了常見推薦算法的基本原理,那么在推薦系統策略設計的時候,有哪些需要特別注意的地方呢?我們怎么衡量一個推薦系統的優劣呢?推薦系統有哪些典型的應用場景呢?歡迎關注專欄,繼續閱讀下期。
#專欄作家#
潘一鳴,公眾號:產品邏輯之美,人人都是產品經理專欄作家。畢業于清華大學,暢銷書《產品邏輯之美》作者;先后在多家互聯網公司從事產品經理工作,有很多復雜系統的構建實踐經驗。
本文原創發布于人人都是產品經理。未經許可,禁止轉載。
買了你的書了,好好看看先
“比如對于網易云音樂而言,兩首歌越多的被加入兩個歌單,可以認為兩首歌越相似?!蹦愫茫@個是不是寫錯了呢?兩首歌越多被加入同一個歌單,可認為兩首歌越相似?(不知道是不是我理解有偏差。)
最好舉一些例子,這樣看起來很生硬,若不是提前看了別人的文章,根本不懂
作者一個文科產品經理,懂了這些數學知識,不簡單了
對于一個文科生。表示一臉懵逼。
對于剛入搜索和數據分析的新人,入門學習,有沒有推薦的書籍呢(淘寶電商)
寫的真好,學到很多東西
“余弦相似度的值本身是一個0~1的值”,這句話不夠嚴謹。
寫的很好,果然是沒有對比就沒傷害?。?!
對于剛入搜索行業的產品運營新人,想快速了解推薦及搜索的相關內容,有沒有推薦的書籍呢(新聞類產品)
《推薦算法實踐》,這個作者寫的這四種方法,都可以歸納為基于物與物的推薦和基于人與人的推薦。
請教作者前輩一個問題:對于剛上線的項目,應用第3類和第4類算法時如果沒有最初始的種子數據,也就是沒有“1.6”或者“0.8”這樣的初值,如何啟動這個推薦呢?
冷啟動問題。我們項目中采取的方法是采用基于內容推薦的算法為用戶推薦相似的item作為過渡,待積累了用戶行為數據之后可以切換至CF或者多種推薦算法結合的方式。
基于內容的推薦雖然難做,但卻是用戶體驗最好的一種,因為它能真正做到關聯推薦,而不是相似推薦。所有基于相似的推薦最大的問題就是重復推薦,我剛買量自行車還給我推薦自行車,這時候推薦任何周邊產品都可以就是不該推薦重復品類的東西,可是目前大多網站都在犯這類錯誤。
推薦算法不是相似推薦,而是相關推薦。內容推薦上限是遠低于推薦算法的推薦的。
基于內容推薦特別難做,需要產品有一個完整的內容體系,并且這些內容還要在某一個場景有所聯系最好。這也是我最近在給界面添加一些推薦功能時所煩躁的,只能一個流程需要一個功能時臨時添加,等這些界面功能都添加好了我還要想辦法讓它們有聯系,做到這些不容易。。。哎
謝謝分享,很棒
從第三段開始,三個圖看不懂,能不能解釋下?
圖只是在解釋上面的公式。如果仔細看還沒看明白的話,可以看下書《推薦系統實踐》。
寫的很完整,收藏了慢慢看。
挺好,學渣看看公式表示看不懂
不愧是THU出來的學院派
客氣了 ??