用樸素貝葉斯算法,一鍵破解垃圾郵件的秘密語言!

0 評論 2866 瀏覽 3 收藏 9 分鐘

本文從貝葉斯算法切入,深入講解了其原理,以垃圾郵件為例,分析其應用步驟和使用邊界,就讓我們一起來看看吧!

樸素貝葉斯算法,這個名字聽起來有些“樸素”,但其實它是一個非常實用的機器學習算法。在機器學習領域,樸素貝葉斯算法就像一個勤勞的園丁,幫助我們在數據花園里分類和預測各種花卉的品種。

它的核心思想是通過已知的部分信息,來推測未知的信息。那它到底是如何“施展拳腳”進行垃圾郵件分類的呢?我們來一起深度分析一下。

一、樸素貝葉斯算法的原理

樸素貝葉斯算法基于兩個關鍵概念:貝葉斯定理條件獨立性假設。

先說說貝葉斯定理。貝葉斯是由一名英國數學家提出來的,貝葉斯就是這個數學家的名字。同時它也是概率論中的一個重要公式,用于計算在已知一些相關事件發生的情況下,另一事件發生的概率。具體來說,貝葉斯定理的公式如下:

P(A|B) = [P(B|A) * P(A)] / P(B)

這里,P(A|B) 是在已知 B 發生的情況下 A 發生的概率(后驗概率),P(B|A) 是在已知 A 發生的情況下 B 發生的概率(條件概率),P(A) 和 P(B) 分別是 A 和 B 的先驗概率。

  • 后驗概率:已經看到某個事情發生了,再判斷這個事情發生原因的概率;
  • 條件概率:事件 B 在另一個事件 A 已經發生條件下的概率;
  • 先驗概率:事件 A 或 事件 B 是根據經驗來判斷發生的概率。

再來說說條件獨立性假設。

這是樸素貝葉斯算法的“樸素”之處。它假設所有特征在類別給定的情況下都是相互獨立的。

那特征之間的相互獨立是什么意思呢?

簡單來說,一個人的性別是女性和她是中國國籍這兩項特征就是相互獨立的,因為她的國籍不會影響到她的性別。那特征之間不相互獨立也很好理解了,像是一個人的身高會影響他衣服的尺碼,所以身高和衣服的尺碼就不是相互獨立的。

二、樸素貝葉斯案例之垃圾郵件分類

通常在職場中,我們都需要用到郵件發送一些重要文件或者通知,也會用自己的郵件賬號來注冊網站,然而這些網站同時會推給我們很多營銷類的或詐騙類的郵件,令我們非常困擾。解決這個垃圾郵件的問題就可以使用今天的主角——樸素貝葉斯算法來做預測和分類,將垃圾郵件送到垃圾箱,進而實現將一些垃圾郵箱拉黑。具體分為三步:

1. 步驟一:數據預處理

  • 收集數據:獲取一個包含已標記為垃圾郵件和非垃圾郵件的郵件數據集。
  • 數據清洗:去除無關字符(如標點符號、數字等),并將所有文本轉換為小寫。
  • 文本分詞:將每封郵件分割成單詞或短語列表。
  • 構建詞典:統計所有郵件中出現過的唯一單詞,并為每個單詞分配一個唯一的索引。

2. 步驟二:學習或訓練

計算先驗概率 P(Y):對于每個類別(垃圾郵件和非垃圾郵件),計算其在數據集中的比例。

假設我們有1000封郵件,其中200封是垃圾郵件,那么:

P(Spam) = 200 / 1000 = 0.2

P(Not Spam) = 800 / 1000 = 0.8

計算條件概率 P(Xi|Y):對于每個類別和每個單詞 i,在該類別下的郵件中,計算該單詞出現的頻率。

例如,如果我們有一個單詞 “free”,它在垃圾郵件中出現了50次,在非垃圾郵件中出現了10次,那么:

P(“free”|Spam) = 50 / (總垃圾郵件單詞數)P(“free”|Not Spam) = 10 / (總非垃圾郵件單詞數)

3. 步驟三:預測或分類

對于新的未知郵件,首先進行同樣的數據預處理步驟(清洗、分詞等)。

使用訓練得到的先驗概率和條件概率,計算郵件屬于每個類別的后驗概率 P(Y|X)。假設新郵件只包含單詞 “free”,我們可以通過以下公式計算其作為垃圾郵件的概率:

P(Spam|”free”) = [P(“free”|Spam) * P(Spam)] / P(“free”)

其中,P(“free”) 是 “free” 在整個郵件數據集中的概率,可以通過 Spam 和 Not Spam 中 “free” 的概率相加并歸一化得到。

比較 P(Spam|X) 和 P(Not Spam|X),選擇后驗概率更大的類別作為郵件的預測類別。

在這個例子中,樸素貝葉斯算法通過計算每個單詞在不同類別郵件中出現的條件概率,以及各類別的先驗概率,來判斷新郵件是否為垃圾郵件。

三、樸素貝葉斯算法的應用步驟

接下來,我們來看看樸素貝葉斯算法的步驟。以幫我們鞏固一下知識。主要包括以下三步:

  1. 數據預處理:清洗和整理數據,將非數值數據轉換為數值形式,可能需要進行標準化或歸一化。
  2. 學習或訓練:使用訓練數據集來計算每個類別的先驗概率 P(Y) 和每個特征在給定類別下的條件概率 P(Xi|Y)。
  3. 預測或分類:對于新的未知樣本,根據貝葉斯定理和條件獨立性假設,計算其屬于每個類別的后驗概率 P(Y|X)。選擇后驗概率最大的類別作為該樣本的預測類別。

計算公式如下:

P(Y|X) = [P(Y) * P(X1|Y) * P(X2|Y) * … * P(Xn|Y)] / P(X)

其中,X1, X2, …, Xn 是特征,Y 是類別。

四、樸素貝葉斯算法的適用邊界和優缺點

(1)適用邊界

  • 適用于大規模數據集。
  • 特征之間高度獨立或者弱相關的問題效果較好。
  • 在數據稀疏的情況下也能取得不錯的效果。

(2)優點部分

  • 計算簡單快速,易于實現。
  • 對缺失數據不太敏感。
  • 可以處理多分類問題。

(3)缺點部分

  • 條件獨立性假設過于簡化,可能導致預測精度下降。
  • 對輸入數據的分布有一定的假設,如果實際數據與這些假設不符,效果可能會受影響。

五、最后的話

總的來說,樸素貝葉斯算法是一種基于貝葉斯定理和條件獨立性假設的分類方法。雖然它的假設可能過于簡化,但在許多實際問題中仍能取得良好的效果。盡管它的名字聽起來有些“樸素”,但它的實用性和高效性讓我們在機器學習領域離不開它。

當然,我們也要注意它的適用邊界和優缺點,以便更好地發揮它的作用。希望帶給你一點啟發,加油。

作者:柳星聊產品,公眾號:柳星聊產品

本文由 @柳星聊產品 原創發布于人人都是產品經理。未經許可,禁止轉載。

題圖來自 Unsplash,基于 CC0 協議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!