曼孚科技：一文了解AI領域9種常見的監督學習算法

監督學習是機器學習中一種十分重要的算法。與無監督學習相比，監督學習有明確的目標。

分類與迴歸是監督學習兩個主要任務，常見的監督學習算法主要有如下9種：

1. 樸素貝葉斯(Naive Bayes Classifier)

樸素貝葉斯算法(NBC) 是應用最爲普遍的分類算法之一。NBC假設了數據集屬性之間是相互獨立的，經常使用於文本分類。

2. 決策樹(Decision Tree)

決策樹算法採用樹形結構，使用層層推理來實現最終的分類。

決策樹一般由根節點、內部節點、葉節點三個元素構成，ID三、C4.五、CART是決策樹經常使用的三種典型算法。

3. 支持向量機(SVM)

支持向量機把分類問題轉化爲尋找分類平面的問題，並經過最大化分類邊界點距離分類平面的距離來實現分類。

SVM能夠解決高維問題，也可以解決小樣本下機器學習問題。

4. 邏輯迴歸(Logistic Regression)

邏輯迴歸是用於處理因變量爲分類變量的迴歸問題，常見的是二分類或二項分佈問題，也能夠處理多分類問題，它其實是屬於一種分類方法，用來表示某件事情發生的可能性。

邏輯迴歸實現簡單，分類時計算量很是小、速度很快、存儲資源低，主要應用於工業問題上。

5. 線性迴歸(Linear Regression)

線性迴歸是處理迴歸任務最經常使用的算法之一。該算法的形式十分簡單，它指望使用一個超平面擬合數據集(只有兩個變量的時候就是一條直線)。

線性迴歸建模速度快，不須要很複雜的計算，在數據量大的狀況下運行速度依然很快，同時能夠根據係數給出每一個變量的理解和解釋。

邏輯迴歸與線性迴歸主要如下不一樣點：

6. 迴歸樹(Regression Tree)

迴歸樹，顧名思義，就是用樹模型作迴歸問題，每一片葉子都輸出一個預測值。

迴歸樹經過將數據集重複分割爲不一樣的分支而實現分層學習，分割的標準是最大化每一次分離的信息增益。這種分支結構讓迴歸樹很天然地學習到非線性關係。

7. K鄰近(K-Nearest Neighbor)

K鄰近算法是最簡單的機器學習算法。

該方法的思路是：在特徵空間中，若是一個樣本附近的K個最近(即特徵空間中最鄰近)樣本的大多數屬於某一個類別，則該樣本也屬於這個類別。

K鄰近算法理論相對成熟，思想簡單，既能夠用來作分類也能夠用來作迴歸。

8. AdaBoost

AdaBoost目的就是從訓練數據中學習一系列的弱分類器或基本分類器，而後將這些弱分類器組合成一個強分類器。

AdaBoost有一個很突出的特色就是精度很高。

9. 神經網絡

神經網絡從信息處理角度對人腦神經元網絡進行抽象，創建某種簡單模型，按不一樣的鏈接方式組成不一樣的網絡。

在人工智能領域，神經網絡一般指人工神經網絡，即ANNs。