機器學習——KMeans

導入類庫

1 from sklearn.cluster import KMeans
2 from sklearn.datasets import make_blobs
3 import numpy as np
4 import matplotlib.pyplot as plt

　　KMeans算法的過程：(假若有兩類)

1. 隨機選擇兩個點做爲聚類的中心
2. 計算全部點距離兩個中心的距離，選擇距離較近的點做爲類別。（例如：距離藍點近，類別是藍色）
3. 計算已經分好類的各組數據的平均值，使用各組數據的平均值中心做爲新的中心
4. 以新的中心爲依據跳轉至第2步
5. 直到收斂(兩次迭代的數值沒有明顯的變化：新中心點距離上一次中心點的距離小於某個閾值，例如：0.03)

代碼

 1 plt.figure(figsize=(6, 3))
 2 n_samples = 1500
 3 random_state = 170
 4 '''
 5 make_blobs聚類數據生成器：用來生成聚類算法的測試數據
 6 n_samples：待生成的樣本的總數
 7 n_features：每一個樣本的特徵數
 8 centers：類別數
 9 cluster_std：每一個類別的方差，放在列表中
10 '''
11 X, y = make_blobs(n_samples=n_samples, random_state=random_state)
12 '''
13 KMeans是結果受初始值影響的局部最優的迭代算法
14 n_clusters：K值，類別數
15 max_iter：最大迭代次數，凸數據集可忽略該值，非凸數據集可能很難收斂，可指定最大迭代次數讓算法能夠及時推出循環
16 n_init：用不一樣的初始化質心運行算法的次數，默認是10，K值較大時，可適當增大該值
17 init：初始值選擇的方式，默認爲k-means++
18 algorithm：auto、full、elkan；auto自動選擇，數據值稀疏時選擇full，數據稠密時選擇elkan
19 '''
20 y_pred = KMeans(n_clusters=2, random_state=random_state).fit_predict(X)
21 
22 # print(X[:, 0])
23 # print(y)
24 # for i in y_pred:
25 #     print(i)
26 
27 # 根據顏色畫出散點圖
28 plt.subplot(121)
29 plt.scatter(X[:, 0], X[:, 1], c=y_pred)
30 plt.subplot(122)
31 plt.scatter(X[:, 0], X[:, 1], c=y)
32 plt.show()