【火爐煉AI】機器學習012-用隨機森林構建汽車評估模型及模型的優化提高方法
【火爐煉AI】機器學習012-用隨機森林構建汽車評估模型及模型的優化提高方法
(本文所使用的Python庫和版本號: Python 3.5, Numpy 1.14, scikit-learn 0.19, matplotlib 2.2 )git
在前面的文章中（【火爐煉AI】機器學習007-用隨機森林構建共享單車需求預測模型 ）已經介紹了用隨機森林方法構建共享單車需求預測模型，在代碼實現層面上來說，構建隨機森林模型很是簡單。github
下面咱們一樣使用隨機森林算法構建汽車評估模型，用於根據汽車的六個基本特性來評估汽車的質量。算法
1. 準備數據集
本項目所使用的數據集來源於加利福尼亞大學歐文分校（UCI）大學的公開數據集：https://archive.ics.uci.edu/ml/datasets/Car+Evaluation。這是專門用於解決多分類問題的一個小型數據集，該數據集的基本信息爲：數組
即整個數據集專門用於多分類模型，沒有缺失值，一共有1728個樣本，每一個樣本含有6個關於汽車的基本屬性，每一個樣本對應於一個標記，表示汽車質量的好壞，以下所示：安全
在對數據集有了基本瞭解的基礎上，能夠用代碼來具體分析，此處我用pandas來提取數據集中的原始數據，代碼以下：app
# 準備數據集
dataset_path='D:\PyProjects\DataSet\CarEvaluation/car.data'
df=pd.read_csv(dataset_path,header=None)
print(df.info()) # 加載沒有問題
# 原數據集包含有1728個樣本，每個樣本含有6個features, 一個label
print(df.head())
raw_set=df.values
複製代碼
-------------------------------------輸---------出--------------------------------dom
<class 'pandas.core.frame.DataFrame'> RangeIndex: 1728 entries, 0 to 1727 Data columns (total 7 columns): 0 1728 non-null object 1 1728 non-null object 2 1728 non-null object 3 1728 non-null object 4 1728 non-null object 5 1728 non-null object 6 1728 non-null object dtypes: object(7) memory usage: 94.6+ KB None 0 1 2 3 4 5 6 0 vhigh vhigh 2 2 small low unacc 1 vhigh vhigh 2 2 small med unacc 2 vhigh vhigh 2 2 small high unacc 3 vhigh vhigh 2 2 med low unacc 4 vhigh vhigh 2 2 med med unacc機器學習
--------------------------------------------完-------------------------------------函數
經過df.info()能夠看出該數據集的7列都是object類型，故而難以直接應用到機器學習領域，須要作進一步的類型轉換處理，以下代碼：post
# 數據集中的特徵向量包括有多個String，故而type是object，須要轉換爲數值
from sklearn import preprocessing
label_encoder=[] # 放置每一列的encoder
encoded_set = np.empty(raw_set.shape)
for i,_ in enumerate(raw_set[0]):
# encoder=preprocessing.LabelEncoder()
# encoder.fit(raw_set[:,i]) # 用某一列來fit這個encoder
# encoded_set[:,i]=encoder.transform(raw_set[:,i]) # 用一樣的這一列來transform
# label_encoder.append(encoder)
# 上面fit和tranform都是在同一個向量上操做，故而能夠整合
encoder=preprocessing.LabelEncoder()
encoded_set[:,i]=encoder.fit_transform(raw_set[:,i])
print(encoder.classes_)
label_encoder.append(encoder)
dataset_X = encoded_set[:, :-1].astype(int)
dataset_y = encoded_set[:, -1].astype(int)
# print(dataset_X.shape) # (1728, 6)
# print(dataset_y.shape) #(1728,)
print(dataset_X[:5]) # 能夠看出每一個特徵向量都將string轉變爲int
print(dataset_y[:5]) # 檢查沒有問題
# 將數據集拆分爲train set 和test set
from sklearn.model_selection import train_test_split
train_X, test_X, train_y, test_y=train_test_split(dataset_X,dataset_y,
test_size=0.3,random_state=42)
# print(train_X.shape) # (1209, 6)
# print(train_y.shape) # (1209,)
# print(test_X.shape) # (519, 6)
複製代碼
-------------------------------------輸---------出--------------------------------
['high' 'low' 'med' 'vhigh'] ['high' 'low' 'med' 'vhigh'] ['2' '3' '4' '5more'] ['2' '4' 'more'] ['big' 'med' 'small'] ['high' 'low' 'med'] ['acc' 'good' 'unacc' 'vgood'] [[3 3 0 0 2 1] [3 3 0 0 2 2] [3 3 0 0 2 0] [3 3 0 0 1 1] [3 3 0 0 1 2]] [2 2 2 2 2]
--------------------------------------------完-------------------------------------
能夠看出轉換以後的數據集都是int型，故而能夠輸入到模型中進行訓練和預測。同時，爲了訓練和測試的方便，將整個數據集劃分爲訓練集（佔比70%，即1209個樣本）和測試集（佔比30%，即519個樣本）。
########################小**********結###############################
1，因爲本次數據集的屬性和標記都是string類型，故而須要先轉變爲數值型。轉變是經過LabelEncoder()函數完成的。
2，這裏使用的轉變器（即LabelEncoder()實例）須要保存，便於之後對新樣本屬性進行轉換，或者對預測出來的標記再反向轉變成string，此處將其保存到label_encoder這個list中。
#################################################################
2. 構建隨機森林分類模型和模型評估
2.1 隨機森林分類模型的構建
隨機森林分類模型的構建很是簡單，能夠參考【火爐煉AI】機器學習007-用隨機森林構建共享單車需求預測模型 。以下代碼先構建一個隨機森林分類器，而後用訓練集來訓練該分類器，最後用測試集來檢查模型的好壞，打印出模型評價指標。關於模型評價指標的具體含義和計算方法，能夠參考【火爐煉AI】機器學習011-分類模型的評估：準確率，精確率，召回率，F1值 。
# 創建隨機森林分類器
from sklearn.ensemble import RandomForestClassifier
rf_classifier=RandomForestClassifier(n_estimators=200,max_depth=8,random_state=37)
rf_classifier.fit(train_X,train_y) # 用訓練集進行訓練
# 用測試集評估模型的準確率，精確率，召回率，F1值：
def print_model_evaluations(classifier,test_X, test_y,cv=5):
'''print evaluation indicators of classifier on test_set. those indicators include: accuracy, precision, recall F1-measure'''
from sklearn.cross_validation import cross_val_score
accuracy=cross_val_score(classifier,test_X,test_y,
scoring='accuracy',cv=cv)
print('準確率：{:.2f}%'.format(accuracy.mean()*100))
precision=cross_val_score(classifier,test_X,test_y,
scoring='precision_weighted',cv=cv)
print('精確度：{:.2f}%'.format(precision.mean()*100))
recall=cross_val_score(classifier,test_X,test_y,
scoring='recall_weighted',cv=cv)
print('召回率：{:.2f}%'.format(recall.mean()*100))
f1=cross_val_score(classifier,test_X,test_y,
scoring='f1_weighted',cv=cv)
print('F1 值：{:.2f}%'.format(f1.mean()*100))
print_model_evaluations(rf_classifier,test_X,test_y)
複製代碼
-------------------------------------輸---------出--------------------------------
準確率：89.19% 精確度：88.49% 召回率：89.19% F1 值：88.32%
--------------------------------------------完-------------------------------------
2.2 隨機森林分類模型的全面評估
更進一步的，爲了更全面的評估該模型，能夠將模型在測試集上的混淆矩陣和分類報告打印出來，關於混淆矩陣和分類報告，能夠參考【火爐煉AI】機器學習011-分類模型的評估：準確率，精確率，召回率，F1值 。以下所示：
# 打印模型的混淆矩陣和各個類別的評價指標
# 使用sklearn 模塊計算混淆矩陣
from sklearn.metrics import confusion_matrix
test_y_pred=rf_classifier.predict(test_X)
confusion_mat = confusion_matrix(test_y, test_y_pred)
print(confusion_mat) #看看混淆矩陣長啥樣
print('*'*50)
from sklearn.metrics import classification_report
print(classification_report(test_y, test_y_pred))
複製代碼
-------------------------------------輸---------出--------------------------------
[[108 2 7 1] [ 9 8 0 2] [ 3 0 355 0] [ 3 0 0 21]]
precision recall f1-score support
0 0.88 0.92 0.90 118 1 0.80 0.42 0.55 19 2 0.98 0.99 0.99 358 3 0.88 0.88 0.88 24
avg / total 0.95 0.95 0.94 519
--------------------------------------------完-------------------------------------
從上面的分類報告中能夠看出，這個模型在類別2上表現最好，精確率和召回率均在98%以上，但在類別1，雖然精確率有80%，但召回率卻低至42%，所獲得的F1值也只有55%，代表這個模型還有進一步優化的空間（出現這種結果也有多是test set中類別2的樣本數最多，而類別1的樣本數最少致使的）。
2.3 用該分類模型預測新樣本數據
一個模型通過訓練和優化以後，一旦達到了咱們的分類要求，就能夠用來預測新樣本數據，以下咱們本身構建了一個新的汽車樣本，這個樣本汽車的購買價格和維護價格都很是高，有2個車門，載人數2人，後備箱比較小，安全性比較低（頗有多是那種2座的豪華車吧。。。）。看看這個分類模型對這種車的質量評估怎麼樣。
# 看起來該隨機森林分類器的分類效果仍是很不錯的，
# 那麼能夠用這個比較理想的模型來預測新數據，
new_sample=['vhigh','vhigh','2','2','small','low']
# 在把這個樣本輸入模型以前，須要將樣本中的string轉變爲int
# 採用和上面train set相同的encoder來編碼
encoded_sample=np.empty(np.array(new_sample).shape)
for i,item in enumerate(new_sample):
encoded_sample[i]=int(label_encoder[i].transform([item]))
# 這兒的item必定要加【】,不然報錯。並且要轉變爲int類型
print(encoded_sample.reshape(1,-1)) # 和上面打印的print(encoder.classes_)對應一致
# 用成熟分類模型對該新樣本進行分類，獲得分類結果：
output=rf_classifier.predict(encoded_sample.reshape(1,-1))
print('output: {}, class: {}'.format(output,
label_encoder[-1].inverse_transform(output)[0]))
複製代碼
-------------------------------------輸---------出--------------------------------
[[3. 3. 0. 0. 2. 1.]] output: [2], class: unacc
--------------------------------------------完-------------------------------------
在將新樣本數據輸入模型以前，須要對樣本數據進行轉換（即對特徵向量進行編碼，將人能夠閱讀的字符串轉變爲機器能夠閱讀的數值），注意此時的轉換要用到和前面訓練集相同的轉換方法，即便用前面放置到label_encoder這個list中的encoder來轉換，能夠將轉換以後的數值打印出來進行驗證。分類模型根據該樣本的六個屬性，判斷出該汽車的質量爲2，此時咱們須要將2再反向轉換爲字符串（即反編碼，或解碼，即將機器能夠閱讀的數值轉變爲人能夠閱讀的字符串），通過解碼後，發現該汽車的質量爲「unacc」，即unacceptable。
能夠想象一下，一輛價格老貴老貴，維護起來也老貴老貴，後備箱又小，只能坐兩我的，並且安全性還很是低的汽車，你能接收嗎？？？屌絲沒錢不能接受，土豪雖然能夠用這種車來泡妞，可是安全性過低，土豪也接收不了吧。。。
########################小**********結###############################
1，隨機森林分類模型的構建很是簡單，直接調用sklearn模塊中的RandomForestClassifier 類便可。
2，對分類模型的評估能夠直接打印其總體的準確率，精確率，召回率，F1值，也能夠打印該模型在各個不一樣類別上的評價指標，打印其混淆矩陣和分類報告。
#################################################################
3. 模型的優化提高方法
上面的分類模型貌似在測試集上的表現還不錯，可是還有提高空間，主要有如下兩個方面的優化提高。
3.1 模型超參數的優化—驗證曲線
前面在定義隨機森林分類器時，咱們隨機地定義該分類器的參數爲：n_estimators=200,max_depth=8，可是這些隨機定義的參數真的是最優參數組合嗎？怎麼獲取這些參數的最優值了？這就是驗證曲線的做用了。下面首先優化n_estimators參數，看看取不一樣值時，該模型的準確率是否有明確的改善。
以下代碼，使用sklearn中的validation_curve能夠驗證不一樣參數取值時模型的準確率。
# 提高模型的分類效果：優化模型的某個參數，
# 第一步：優化n_estimators參數
from sklearn.model_selection import validation_curve
optimize_classifier1=RandomForestClassifier(max_depth=4,random_state=37)
parameter_grid=np.linspace(20,400,20).astype(int)
train_scores,valid_scores=validation_curve(optimize_classifier1,train_X,train_y,
'n_estimators',parameter_grid,cv=5)
# cv=4，會輸出4列結果，cv=5，會輸出5列結果，
# 故而輸出的結果train_scores 的shape爲（parameter_grid.shape[0],cv）
# 打印優化結果
print('n_estimators optimization results-------->>>')
print('train scores: \n ',train_scores)
print('-'*80)
print('valid scores: \n ',valid_scores)
複製代碼
-------------------------------------輸---------出--------------------------------
n_estimators optimization results-------->>> train scores: [[0.78549223 0.80144778 0.80785124 0.79338843 0.80165289] [0.8 0.80972079 0.81095041 0.81921488 0.83057851] [0.8134715 0.81075491 0.81095041 0.81404959 0.81714876]
......
valid scores: [[0.77459016 0.79338843 0.80082988 0.76763485 0.80497925] [0.79918033 0.79338843 0.80497925 0.80082988 0.8340249 ] [0.81967213 0.80578512 0.80082988 0.78008299 0.82572614] [0.79918033 0.80991736 0.7966805 0.78838174 0.82572614]
......
--------------------------------------------完-------------------------------------
獲得的trains_scores和valid_scores矩陣很大，此處只顯示一部分，能夠在本文末尾個人github中找到原始代碼和結果。雖然此處獲得了驗證曲線的結果，可是難以直接觀察結果的好壞，故而我本身定義一個繪圖函數，將驗證曲線的結果繪製成圖，代碼以下：
# 定義一個繪圖函數，繪製train scores 和valid scores
def plot_valid_curve(grid_arr,train_scores,valid_scores, title=None,x_label=None,y_label=None):
'''plot train_scores and valid_scores into a line graph'''
assert train_scores.shape==valid_scores.shape, \
'expect train_scores and valid_scores have same shape'
assert grid_arr.shape[0]==train_scores.shape[0], \
'expect grid_arr has the same first dim with train_scores'
plt.figure()
plt.plot(grid_arr, 100*np.average(train_scores, axis=1),
color='blue',marker='v',label='train_scores')
plt.plot(grid_arr, 100*np.average(valid_scores, axis=1),
color='red',marker='s',label='valid_scores')
plt.title(title) if title is not None else None
plt.xlabel(x_label) if x_label is not None else None
plt.ylabel(y_label) if y_label is not None else None
plt.legend()
plt.show()
plot_valid_curve(parameter_grid,train_scores,valid_scores,
title='n_estimators optimization graph',
x_label='Num of estimators',y_label='Accuracy%')
複製代碼
上圖中能夠看出，在estimators取值爲50附近時，可以獲得最高的準確率，故而咱們能夠進一步優化estimators在50附近的取值。以下代碼：
# 第二步：對n_estimators作進一步細緻優化
# 圖中能夠看出，n_estimators在100之內所獲得的準確率最高，故而須要進一步作更精細的優化
parameter_grid2=np.linspace(20,120,20).astype(int)
train_scores,valid_scores=validation_curve(optimize_classifier1,train_X,train_y,
'n_estimators',parameter_grid2,cv=5)
plot_valid_curve(parameter_grid2,train_scores,valid_scores,
title='2nd n_estimators optimization graph',
x_label='Num of estimators',y_label='Accuracy%')
# 從圖中能夠看出準確率最高的點是第6,7，12附近，對應的estimators是46,51,77，
# 故然後面暫定爲50
複製代碼
從上圖中能夠看出，準確率的最高點對應的estimators大約爲46,51,77，故而咱們肯定最優的estimators參數的取值爲50.
對於max_depth，能夠採用一樣的驗證曲線來優化，獲得最優值，以下代碼和圖：
# 第三步：對max_depth進行優化：
optimize_classifier2=RandomForestClassifier(n_estimators=50,random_state=37)
parameter_grid3=np.linspace(2,13,11).astype(int)
print(parameter_grid3) # [ 2 3 4 5 6 7 8 9 10 11 13]
train_scores3,valid_scores3=validation_curve(optimize_classifier2,train_X,train_y,
'max_depth',parameter_grid3,cv=5)
plot_valid_curve(parameter_grid3,train_scores3,valid_scores3,
title='max_depth optimization graph',
x_label='Num of max_depth',y_label='Accuracy%')
# 從圖中能夠看出，取max_depth=10，11,13時準確率同樣，故而取max_depth=10
複製代碼
從上圖中能夠看出，準確率的最高點對應的max_depth大約爲10,11,13，這幾個點處的結果幾乎同樣，故而咱們肯定最優的max_depth參數的取值爲10.
3.2 訓練集大小對模型的影響—學習曲線
前面咱們經過驗證曲線優化了模型中各類參數，獲得了參數的最佳取值，但有的時候，訓練集的大小也會對模型的效果有影響，此時咱們能夠用學習曲線來判斷最佳的訓練集大小。代碼以下：
# 前面都是優化隨機森林分類器的內置參數，可是沒有考慮訓練集的大小對模型效果的影響
# 前面都是用traiin_X來優化模型，train_X含有1209個樣本，
# 下面考察一下訓練集樣本大小對模型效果的影響--即學習曲線
from sklearn.model_selection import learning_curve
# optimize_classifier3=RandomForestClassifier(random_state=37)
optimize_classifier3=RandomForestClassifier(n_estimators=50,
max_depth=10,
random_state=37)
parameter_grid4=np.array([0.1,0.2,0.3,0.4,0.5,0.6,0.7,.8,.9,1.]) # dataset最多有1728個樣本
train_sizes,train_scores4,valid_scores4=learning_curve(optimize_classifier3,
dataset_X,dataset_y,
train_sizes=parameter_grid4,cv=5)
# print(train_sizes) # [ 138 276 414 552 691 829 967 1105 1243 1382]
# 最大也只能到dataset_X樣本數的80%，即1728*0.8=1382
plot_valid_curve(parameter_grid4,train_scores4,valid_scores4,
title='train_size optimization graph',
x_label='Num of train_size',y_label='Accuracy%')
# 能夠看出，在train_size=1382時獲得的準確率最大，約爲80%左右。
複製代碼
能夠從圖中看出，訓練集大小貌似越大越好，由於訓練集越大，模型訓練的越充分，獲得的valid_scores與train_scores的差距越小，這裏的差距實際上就是「過擬合」現象。而此處經過提升訓練集的大小，能夠減少過擬合現象。
還有一點，learning_curve裏面貌似把最大取值固定爲整個數據集的80%，這個能修改嗎？
3.3 用最優參數從新創建模型，判斷模型的質量
前面咱們花了好長時間來優化模型，獲得了最佳超參數和最佳訓練集大小，那麼，若是用這些參數來訓練模型，獲得模型的質量會怎麼樣了？很是好仍是很是差？以下直接上代碼。
# 用全部最優參數來從新構建模型，並判斷此模型的好壞
train_X, test_X, train_y, test_y=train_test_split(dataset_X,dataset_y,
test_size=0.2,random_state=42)
# 最佳訓練集大小爲80%
rf_classifier=RandomForestClassifier(n_estimators=50,max_depth=10,random_state=37)
rf_classifier.fit(train_X,train_y) # 用訓練集進行訓練
print_model_evaluations(rf_classifier,test_X,test_y)
test_y_pred=rf_classifier.predict(test_X)
confusion_mat = confusion_matrix(test_y, test_y_pred)
print('confusion_mat: ------->>>>>')
print(confusion_mat) #看看混淆矩陣長啥樣
print('*'*50)
print('classification report: -------->>>>>>')
print(classification_report(test_y, test_y_pred))
複製代碼
-------------------------------------輸---------出--------------------------------
準確率：89.32% 精確度：88.49% 召回率：89.32% F1 值：88.45% confusion_mat: ------->>>>> [[ 71 7 5 0] [ 1 9 0 1] [ 0 0 235 0] [ 1 0 0 16]]
classification report: -------->>>>>> precision recall f1-score support
0 0.97 0.86 0.91 83 1 0.56 0.82 0.67 11 2 0.98 1.00 0.99 235 3 0.94 0.94 0.94 17
avg / total 0.96 0.96 0.96 346
--------------------------------------------完-------------------------------------
貌似比第一次定義的模型在性能上提升了一點點。。。。
注：本部分代碼已經所有上傳到（個人github）上，歡迎下載。
參考資料:
1, Python機器學習經典實例，Prateek Joshi著，陶俊傑，陳小莉譯
- 1. 【火爐煉AI】機器學習012-用隨機森林構建汽車評估模型及模型的優化提高方法
- 2. 【火爐煉AI】機器學習007-用隨機森林構建共享單車需求預測模型
- 3. 【火爐煉AI】機器學習051-視覺詞袋模型+極端隨機森林建立圖像分類器
- 4. 【火爐煉AI】機器學習051-視覺詞袋模型+極端隨機森林創建圖像分類器
- 5. 【火爐煉AI】機器學習038-NLP建立詞袋模型
- 6. 【火爐煉AI】機器學習006-用決策樹迴歸器構建房價評估模型
- 7. 機器學習模型評估方法
- 8. 【火爐煉AI】機器學習030-KNN分類器模型的構建
- 9. 【火爐煉AI】機器學習031-KNN迴歸器模型的構建
- 10. 【火爐煉AI】機器學習004-嶺迴歸器的構建和模型評估
- 更多相關文章...
- • ASP.NET MVC - 模型 - ASP.NET 教程
- • DTD - XML 構建模塊 - DTD 教程
- • Kotlin學習（二）基本類型
- • 適用於PHP初學者的學習線路和建議
-
每一个你不满意的现在，都有一个你没有努力的曾经。
- 1. 【火爐煉AI】機器學習012-用隨機森林構建汽車評估模型及模型的優化提高方法
- 2. 【火爐煉AI】機器學習007-用隨機森林構建共享單車需求預測模型
- 3. 【火爐煉AI】機器學習051-視覺詞袋模型+極端隨機森林建立圖像分類器
- 4. 【火爐煉AI】機器學習051-視覺詞袋模型+極端隨機森林創建圖像分類器
- 5. 【火爐煉AI】機器學習038-NLP建立詞袋模型
- 6. 【火爐煉AI】機器學習006-用決策樹迴歸器構建房價評估模型
- 7. 機器學習模型評估方法
- 8. 【火爐煉AI】機器學習030-KNN分類器模型的構建
- 9. 【火爐煉AI】機器學習031-KNN迴歸器模型的構建
- 10. 【火爐煉AI】機器學習004-嶺迴歸器的構建和模型評估