使用Python畫ROC曲線以及AUC值

from:http://kubicode.me/2016/09/19/Machine%20Learning/AUC-Calculation-by-Python/python

 

AUC介紹

AUC(Area Under Curve)是機器學習二分類模型中很是經常使用的評估指標,相比於F1-Score對項目的不平衡有更大的容忍性,目前常見的機器學習庫中(好比scikit-learn)通常也都是集成該指標的計算,其計算原理能夠參考這個ROC和AUC介紹以及如何計算AUC ,可是有時候模型是單獨的或者本身編寫的,此時想要評估訓練模型的好壞就得本身搞一個AUC計算模塊,本文在查詢資料時發現libsvm-tools1有一個很是通俗易懂的auc計算,所以摳出來用做往後之用。
app

AUC計算

AUC的計算分爲下面三個步驟:機器學習

  1. 計算數據的準備,若是模型訓練時只有訓練集的話通常使用交叉驗證的方式來計算,若是有評估集(evaluate)通常就能夠直接計算了,數據的格式通常就是須要預測得分以及其目標類別(注意是目標類別,不是預測獲得的類別)
  2. 根據閾值劃分獲得橫(X:False Positive Rate)以及縱(Y:True Positive Rate)點
  3. 將座標點連成曲線以後計算其曲線下面積,就是AUC的值

直接上python代碼學習

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
#! -*- coding=utf-8 -*-
import pylab as pl
from math import log,exp,sqrt


evaluate_result="you file path"
db = [] #[score,nonclk,clk]
pos, neg = 0, 0
with open(evaluate_result,'r') as fs:
for line in fs:
nonclk,clk,score = line.strip().split('\t')
nonclk = int(nonclk)
clk = int(clk)
score = float(score)
db.append([score,nonclk,clk])
pos += clk
neg += nonclk



db = sorted(db, key=lambda x:x[0], reverse=True)

#計算ROC座標點
xy_arr = []
tp, fp = 0., 0.
for i in range(len(db)):
tp += db[i][2]
fp += db[i][1]
xy_arr.append([fp/neg,tp/pos])

#計算曲線下面積
auc = 0.
prev_x = 0
for x,y in xy_arr:
if x != prev_x:
auc += (x - prev_x) * y
prev_x = x

print "the auc is %s."%auc

x = [_v[0] for _v in xy_arr]
y = [_v[1] for _v in xy_arr]
pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc))
pl.xlabel("False Positive Rate")
pl.ylabel("True Positive Rate")
pl.plot(x, y)# use pylab to plot x and y
pl.show()# show the plot on the screen

 

輸入的數據集能夠參考svm預測結果
其格式爲:lua

nonclk \t clk \t score 

其中:spa

  1. nonclick:未點擊的數據,能夠看作負樣本的數量
  2. clk:點擊的數量,能夠看作正樣本的數量
  3. score:預測的分數,以該分數爲group進行正負樣本的預統計能夠減小AUC的計算量

運行的結果爲:code

若是本機沒安裝pylab能夠直接註釋依賴以及畫圖部分blog

注意

上面貼的代碼:ip

  1. 只能計算二分類的結果(至於二分類的標籤隨便處理)
  2. 上面代碼中每一個score都作了一次閾值,其實這樣效率是至關低的,能夠對樣本進行採樣或者在計算橫軸座標時進行等分計算

參考

相關文章
相關標籤/搜索