步步詳解近期大火的density_peak超讚聚類

近期忙着在公司搗騰基於SOA的應急框架，仍是前兩週纔在微博上看見了density_peak，被圈內好些人轉載。

因爲這個算法的名字起的實在惹眼，都沒好意思怎麼把這個算法名字翻譯成中文，固然更惹眼的是，其極具殺傷力的案例介紹和公式簡寫，光看些許的中文翻譯幾乎沒法入手，雖然也得知也有很多同窗將其實踐，但分享的經驗很少，因此這才具備挑戰和摸索的意義。

因而，中午吃了碗水餃，從E文入手開始搗騰。

整個過程涉及的知識點仍是很是寬泛，再次要感謝美帝，百度文庫的貢獻。

 

1，density_peak宣傳效果

         前文中提到了其極具殺傷力的案例證實，以下圖所示。常常DM的同窗可能更清楚，4張圖論難度D>C/B>A，即使是有監督算法看到B/D上至少要糊弄半天，更別說其餘一些知名的無監督算法在B/D上幾乎完敗。因此咱們的實驗直接圍繞最簡單的A和最複雜的D進行論證和剖析。

 

 

2，density_peak實現原理

         每一個點（樣本）具有兩大要素。原文的解釋以下：

 

 1，  密度：在指定Dc（截斷面或者半徑內）出現的鄰居數量。

2，  距離值：與其餘比本身「密度」大的點的距離的最小值。（聽上去很拗口，到後面看代碼一目瞭然）。

因此，咱們須要定義這樣一個結構體來描述樣本：

 

什麼是距離？距離就是歐幾里得距離，這個本身百度。以下圖：

 

   什麼是密度：仔細看上圖中，紅點是肉眼判斷的簇中心點，若是以這個點爲圓心，半徑0.5釐米劃一個圓，在圓內的鄰居數量就是density_peak的密度。

   什麼是距離值：原文的以下：

 

  繼續仔細看上上圖，就是點到每一個本身密度大的點的集合中的最小值（仍是拗口，好吧，後面有代碼解釋）。

         當確認這兩個參數後，就能顯而易見簇中心點（很是神奇！），同時就能繼續爲其圈定同類，最終完成標籤打印。

 

3，  density_peak過程解析

3.1 生成距離值矩陣，順帶完成rhu值斷定。

         這一步的全遍歷沒法逃脫，若是你有100個樣本，就要進行100^2次運算和內存空間，這個得有心理準備。

 

實施完畢後，會有一個龐大的double型陣列以及對str_point樣本的rhu值的更新。

 

3.2 完成delta距離值的計算

         前面對距離值已有介紹，不妨直接看下代碼實現。前半段for完成各密度檔位中的最小值的設定。後半段for完成密度檔位比本身高的距離值集合，再經過集合取最小值。因爲物理上必存在一個點是最最中心點的，因此它的距離就是該點二維指針中（也就是前面Marix）行內最大的距離

 

最終會獲得以下表格：

 

 

3.3 投影rhu和delta

         這個很簡單，也是算法的最精華的部分，把全部高維數據的歸維處理。作EXCEL散點圖：

 

圖中能夠看到上述3個紅圈的點就是最具嫌疑的中心點。由於它的密度高，與其餘密度點間距大。

 

3.4 圈定簇範圍

原文中使用了hola這個詞，你們能夠把它當作魔獸中的光環便可。這個光環的圈定也是頗有講究，做者沒有明說，可能怕該算法影響了其簡單整潔的形象，也許說明了做者很在意這個算法的社會影響力。固然炒做仍是要炒做的。

 

咱們回過頭看上圖，把中心點做爲入參，把Dc做爲圈定條件，循環迭代，直至沒有點符合圈定範圍。這裏須要使用（BFS），廣度優先遍歷（這裏拋磚，看看有無其餘同窗有更好的圈定算法）。

至此，density_peak 暫時搞一段落。但還沒完，真正可怕的在後面！~

 

3.4 類極函數樣本的挑戰

         先看極座標函數的樣本，以下圖所示。肉眼看分兩類。0-179度屬1類，180-359度屬1類。

 

         樓主用A模型代碼的原封不動掃描類極樣本，發現效果很差，沒法準確分類。

 

須要完成10屢次探測纔有分類結果，這個確定有問題，但問題出在哪兒？想了想仍是Dc引發，由於用了A模型大釐米的Dc，好此次改小。粗看肉眼仍是分不出，別急！

 

從實際數上看TOP2已能輕易區分數據。

結束了嗎？不，真正可怕的是，可以將該算法可以將N分類精確拆分的就像crossvaldition那樣，並且這個中心點就是曲線的最大拐點。

靠！太恐怖了。

 

 

4，補充說明

1，  文中的原始數據在http://pan.baidu.com/s/1qWkC3SC能夠下載，極座標可按=5*COS(RADIANS($D5)) excel語法生成，其餘代碼我就不放了。

2，  NB的算法未必充滿各類難懂的公式，這讓我想起了小時候參加KOF97的比賽，前三名只用A/B/C。

3，  美帝的研究和創造能力真心恐怖。