機器學習入門|聚類（二）

密度聚類

顧名思義，密度聚類是基於樣本分佈的緊密程度來劃分的。由於這個性質，密度聚類能夠劃分出形狀不規則的簇，彌補了原型聚類只能劃分凸形的聚類簇的不足。

DBSCAN算法

DBSCAN算法是基於鄰域參數(ϵ,MinPts)(ϵ,MinPts)來刻畫樣本分佈的緊密程度。

幾個概念：

• ϵϵ鄰域：給定對象半徑ϵϵ內的區域
• 核心對象：對象的ϵϵ鄰域內有至少MinPts個樣本點，則該對象爲核心對象
• 密度值達：對於樣本集合D，樣本點xjxj在xixi的ϵϵ鄰域內，且xixi爲核心對象，則稱xjxj由xixi密度直達
• 密度可達：若xixi由xi−1(i=2,3,...n)xi−1(i=2,3,...n)密度直達，則稱x1x1由xnxn密度可達
• 密度相連：若xixi和xjxj均由xkxk密度可達，則xixi和xjxj密度相連

若是把一個核心對象以及由這個核心對象導出的全部密度可達的樣本點組成一個集合，則此集合就是一個聚類簇，即DBSCAN算法就是經過遍歷每個未被劃分的樣本點來進行簇劃分，而不是核心對象且沒有歸屬的簇的樣本點就是噪聲點。

DBSCAN算法的鄰域ϵϵ和MinPts都須要使用者指定。它的缺陷是很難識別密度不一樣的簇，MinPts太高，則有可能使部分低密度的數據誒被錯誤地當成噪聲點，MinPts太低，則沒法正確劃分高密度的簇，使不一樣的簇被劃分到一塊兒。

層次聚類

層次聚類對數據集進行拆分或者合併操做最終造成簇劃分的一種聚類思路

AGNES算法

AGNES算法採用合併策略進行聚類，初始使數據集中每個樣本都已經是一個簇，以後經過找出最近的兩個簇進行合併，遞歸進行直到知足中止條件或者全部書籍都合併成一個簇。這裏判斷最近距離能夠採用不一樣的距離計算。我有幾張阿里雲幸運券分享給你，用券購買或者升級阿里雲相應產品會有特惠驚喜哦！把想要買的產品的幸運券都領走吧！快下手，立刻就要搶光了。

1.最小距離：dmin(Ci,Cj)=min(dist(x,z))dmin(Ci,Cj)=min(dist(x,z))即兩個簇之間距離最近的兩個樣本的距離 
2.最大距離：dmax(Ci,Cj)=max(dist(x,z))dmax(Ci,Cj)=max(dist(x,z))即兩個簇之間距離最大的樣本之間的距離 
3.平均距離：davg(Ci,Cj)=1|Ci||Cj|∑x∈Ci∑x∈Cjdist(x,z)davg(Ci,Cj)=1|Ci||Cj|∑x∈Ci∑x∈Cjdist(x,z)即質心距離

其中，Ci(i=1,2,...,n)Ci(i=1,2,...,n)是簇，x,zx,z分別是Ci,CjCi,Cj中的樣本點

默認狀況下，dist()dist()爲歐氏距離。

因爲算法複雜度爲O(n2)O(n2)，不適合大數據集。

層次聚類過程最明顯的特色就是不可逆性，因爲對象在合併或分裂以後，下一次聚類會在前一次聚類基礎之上繼續進行合併或分裂，結果一旦產生就沒法變動。

因爲聚類是無監督學習，不一樣的聚類算法還有不少，且都有各自的做用，例如把數據量化成有限單元，使全部的聚類操做都在這個網格結構（即量化的空間）上進行的網格聚類；對每個簇都假設一個模型進行擬合的模型聚類等。