樸素貝葉斯

一、貝葉斯定理：

二、樸素貝葉斯分類器

樸素貝葉斯分類的正式定義以下：

      一、設爲一個待分類項，而每一個a爲x的一個特徵屬性。

      二、有類別集合。

      三、計算。

      四、若是，則。

      那麼如今的關鍵就是如何計算第3步中的各個條件機率。咱們能夠這麼作：

      一、找到一個已知分類的待分類項集合，這個集合叫作訓練樣本集。

      二、統計獲得在各種別下各個特徵屬性的條件機率估計。即。

      三、若是各個特徵屬性是條件獨立的，則根據貝葉斯定理有以下推導：

      

      由於分母對於全部類別爲常數，由於咱們只要將分子最大化皆可。又由於各特徵屬性是條件獨立的，因此有：

      

　　四、P(x) = P(x1)*P(x2)*P(x3)...

      根據上述分析，樸素貝葉斯分類的流程能夠由下圖表示（暫時不考慮驗證）：