機器學習算法與Python實踐之（七）邏輯迴歸（Logistic Regression）

時間 2019-12-08

標籤機器學習算法 python 實踐邏輯迴歸 logistic regression 欄目 Python 简体版

原文原文鏈接

機器學習算法與Python實踐這個系列主要是參考《機器學習實戰》這本書。由於本身想學習Python，而後也想對一些機器學習算法加深下了解，因此就想經過Python來實現幾個比較經常使用的機器學習算法。剛好碰見這本一樣定位的書籍，因此就參考這本書的過程來學習了。html

這節學習的是邏輯迴歸（Logistic Regression），也算進入了比較正統的機器學習算法。啥叫正統呢？我概念裏面機器學習算法通常是這樣一個步驟：python

1）對於一個問題，咱們用數學語言來描述它，而後創建一個模型，例如迴歸模型或者分類模型等來描述這個問題；git

2）經過最大似然、最大後驗機率或者最小化分類偏差等等創建模型的代價函數，也就是一個最優化問題。找到最優化問題的解，也就是能擬合咱們的數據的最好的模型參數；算法

3）而後咱們須要求解這個代價函數，找到最優解。這求解也就分不少種狀況了：數據庫

a）若是這個優化函數存在解析解。例如咱們求最值通常是對代價函數求導，找到導數爲0的點，也就是最大值或者最小值的地方了。若是代價函數能簡單求導，而且求導後爲0的式子存在解析解，那麼咱們就能夠直接獲得最優的參數了。app

b）若是式子很難求導，例如函數裏面存在隱含的變量或者變量相互間存在耦合，也就互相依賴的狀況。或者求導後式子得不到解釋解，例如未知參數的個數大於已知方程組的個數等。這時候咱們就須要藉助迭代算法來一步一步找到最有解了。迭代是個很神奇的東西，它將遠大的目標（也就是找到最優的解，例如爬上山頂）記在心上，而後給本身定個短時間目標（也就是每走一步，就離遠大的目標更近一點），腳踏實地，心無旁貸，像個蝸牛同樣，一步一步往上爬，支撐它的惟一信念是：只要我每一步都爬高一點，那麼積跬步，確定能達到本身人生的巔峯，盡享山登絕頂我爲峯的豪邁與忘我。框架

另外須要考慮的狀況是，若是代價函數是凸函數，那麼就存在全局最優解，方圓五百里就只有一個山峯，那命中註定了，它就是你要找的惟一了。但若是是非凸的，那麼就會有不少局部最優的解，有無邊無際的山峯，人的視野是偉大的也是眇小的，你不知道哪一個山峯纔是最高的，可能你會被命運做弄，很無辜的陷入一個局部最優裏面，坐井觀天，覺得本身找到的就是最好的。沒想到山外有山，人外有人，光芒總在未知的遠處默默綻開。但也許命運眷戀善良的你，帶給你的老是最好的歸宿。也有不少不信命的人，以爲人定勝天的人，誓要找到最好的，不然不會罷休，永不向命運妥協，除非本身有一天累了，倒下了，也要靠剩下的一口氣，邁出一口氣能支撐的路程。好悲涼啊……哈哈。dom

呃，不知道扯那去了，也不知道本身說的有沒有錯，有錯的話請你們不吝指正。那下面就進入正題吧。正如上面所述，邏輯迴歸就是這樣的一個過程：面對一個迴歸或者分類問題，創建代價函數，而後經過優化方法迭代求解出最優的模型參數，而後測試驗證咱們這個求解的模型的好壞，冥冥人海，滾滾紅塵，咱們是否找到了最適合的那個她。機器學習

1、邏輯迴歸（LogisticRegression）函數

Logistic regression （邏輯迴歸）是當前業界比較經常使用的機器學習方法，用於估計某種事物的可能性。以前在經典之做《數學之美》中也看到了它用於廣告預測，也就是根據某廣告被用戶點擊的可能性，把最可能被用戶點擊的廣告擺在用戶能看到的地方，而後叫他「你點我啊！」用戶點了，你就有錢收了。這就是爲何咱們的電腦如今廣告氾濫的緣由了。

還有相似的某用戶購買某商品的可能性，某病人患有某種疾病的可能性啊等等。這個世界是隨機的（固然了，人爲的肯定性系統除外，但也有可能有噪聲或產生錯誤的結果，只是這個錯誤發生的可能性過小了，小到千萬年不遇，小到忽略不計而已），因此萬物的發生均可以用可能性或者概率（Odds）來表達。「概率」指的是某事物發生的可能性與不發生的可能性的比值。

Logistic regression能夠用來回歸，也能夠用來分類，主要是二分類。還記得上幾節講的支持向量機SVM嗎？它就是個二分類的例如，它能夠將兩個不一樣類別的樣本給分開，思想是找到最能區分它們的那個分類超平面。但當你給一個新的樣本給它，它可以給你的只有一個答案，你這個樣本是正類仍是負類。例如你問SVM，某個女生是否喜歡你，它只會回答你喜歡或者不喜歡。這對咱們來講，顯得太粗魯了，要不但願，要不絕望，這都不利於身心健康。那若是它能夠告訴我，她很喜歡、有一點喜歡、不怎麼喜歡或者一點都不喜歡，你想都不用想了等等，告訴你她有49%的概率喜歡你，總比直接說她不喜歡你，來得溫柔。並且還提供了額外的信息，她來到你的身邊你有多少但願，你得再努力多少倍，知己知彼百戰百勝，哈哈。Logistic regression就是這麼溫柔的，它給咱們提供的就是你的這個樣本屬於正類的可能性是多少。

還得來點數學。（更多的理解，請參閱參考文獻）假設咱們的樣本是{x, y}，y是0或者1，表示正類或者負類，x是咱們的m維的樣本特徵向量。那麼這個樣本x屬於正類，也就是y=1的「機率」能夠經過下面的邏輯函數來表示：

這裏θ是模型參數，也就是迴歸係數，σ是sigmoid函數。實際上這個函數是由下面的對數概率（也就是x屬於正類的可能性和負類的可能性的比值的對數）變換獲得的：

換句話說，y也就是咱們關係的變量，例如她喜不喜歡你，與多個自變量（因素）有關，例如你人品怎樣、車子是兩個輪的仍是四個輪的、長得賽過潘安仍是和犀利哥有得一拼、有千尺豪宅仍是三寸茅廬等等，咱們把這些因素表示爲x₁, x₂,…, x_m。那這個女的怎樣考量這些因素呢？最快的方式就是把這些因素的得分都加起來，最後獲得的和越大，就表示越喜歡。但每一個人內心其實都有一杆稱，每一個人考慮的因素不一樣，蘿蔔青菜，各有所愛嘛。例如這個女生更看中你的人品，人品的權值是0.6，不看重你有沒有錢，沒錢了一塊兒努力奮鬥，那麼有沒有錢的權值是0.001等等。咱們將這些對應x₁, x₂,…, x_m的權值叫作迴歸係數，表達爲θ₁, θ₂,…, θ_m。他們的加權和就是你的總得分了。請選擇你的心儀男生，非誠勿擾！哈哈。

因此說上面的logistic迴歸就是一個線性分類模型，它與線性迴歸的不一樣點在於：爲了將線性迴歸輸出的很大範圍的數，例如從負無窮到正無窮，壓縮到0和1之間，這樣的輸出值表達爲「可能性」才能說服廣大民衆。固然了，把大值壓縮到這個範圍還有個很好的好處，就是能夠消除特別冒尖的變量的影響（不知道理解的是否正確）。而實現這個偉大的功能其實就只須要平凡一舉，也就是在輸出加一個logistic函數。另外，對於二分類來講，能夠簡單的認爲：若是樣本x屬於正類的機率大於0.5，那麼就斷定它是正類，不然就是負類。實際上，SVM的類機率就是樣本到邊界的距離，這個活實際上就讓logistic regression給幹了。

因此說，LogisticRegression 就是一個被logistic方程歸一化後的線性迴歸，僅此而已。

好了，關於LR的八卦就聊到這。納入到正統的機器學習框架下，模型選好了，只是模型的參數θ仍是未知的，咱們須要用咱們收集到的數據來訓練求解獲得它。那咱們下一步要作的事情就是創建代價函數了。

LogisticRegression最基本的學習算法是最大似然。啥叫最大似然，能夠看看個人另外一篇博文「從最大似然到EM算法淺解」。

假設咱們有n個獨立的訓練樣本{(x₁, y₁) ,(x₂, y₂),…, (x_n, y_n)}，y={0, 1}。那每個觀察到的樣本(x_i, y_i)出現的機率是：

上面爲何是這樣呢？當y=1的時候，後面那一項是否是沒有了，那就只剩下x屬於1類的機率，當y=0的時候，第一項是否是沒有了，那就只剩下後面那個x屬於0的機率（1減去x屬於1的機率）。因此無論y是0仍是1，上面獲得的數，都是(x, y)出現的機率。那咱們的整個樣本集，也就是n個獨立的樣本出現的似然函數爲（由於每一個樣本都是獨立的，因此n個樣本出現的機率就是他們各自出現的機率相乘）：

那最大似然法就是求模型中使得似然函數最大的係數取值θ*。這個最大似然就是咱們的代價函數（cost function）了。

OK，那代價函數有了，咱們下一步要作的就是優化求解了。咱們先嚐試對上面的代價函數求導，看導數爲0的時候可不能夠解出來，也就是有沒有解析解，有這個解的時候，就皆大歡喜了，一步到位。若是沒有就須要經過迭代了，耗時耗力。

咱們先變換下L(θ)：取天然對數，而後化簡（不要看到一堆公式就懼怕哦，很簡單的哦，只須要耐心一點點，本身動手推推就知道了。注：有x_i的時候，表示它是第i個樣本，下面沒有作區分了，相信你的眼睛是雪亮的），獲得：

這時候，用L(θ)對θ求導，獲得：

而後咱們令該導數爲0，你會很失望的發現，它沒法解析求解。不信你就去嘗試一下。因此沒辦法了，只能藉助高大上的迭代來搞定了。這裏選用了經典的梯度降低算法。

2、優化求解

2.一、梯度降低(gradient descent)

Gradient descent 又叫 steepest descent，是利用一階的梯度信息找到函數局部最優解的一種方法，也是機器學習裏面最簡單最經常使用的一種優化方法。它的思想很簡單，和我開篇說的那樣，要找最小值，我只須要每一步都往下走（也就是每一步均可以讓代價函數小一點），而後不斷的走，那確定能走到最小值的地方，例以下圖所示：

但，我同時也須要更快的到達最小值啊，怎麼辦呢？咱們須要每一步都找下坡最快的地方，也就是每一步我走某個方向，都比走其餘方法，要離最小值更近。而這個下坡最快的方向，就是梯度的負方向了。

對logistic Regression來講，梯度降低算法新鮮出爐，以下：

其中，參數α叫學習率，就是每一步走多遠，這個參數蠻關鍵的。若是設置的太多，那麼很容易就在最優值附加徘徊，由於你步伐太大了。例如要從廣州到上海，可是你的一步的距離就是廣州到北京那麼遠，沒有半步的說法，本身能邁那麼大步，是幸運呢？仍是不幸呢？事物總有兩面性嘛，它帶來的好處是能很快的從遠離最優值的地方回到最優值附近，只是在最優值附近的時候，它有心無力了。但若是設置的過小，那收斂速度就太慢了，向蝸牛同樣，雖然會落在最優的點，可是這速度若是是猴年馬月，咱們也沒這耐心啊。因此有的改進就是在這個學習率這個地方下刀子的。我開始迭代是，學習率大，慢慢的接近最優值的時候，個人學習率變小就能夠了。所謂採二者之精華啊！這個優化具體見2.3 。

梯度降低算法的僞代碼以下：

################################################

初始化迴歸係數爲1

重複下面步驟直到收斂{

計算整個數據集的梯度

使用alpha x gradient來更新迴歸係數

}

返回迴歸係數值

################################################

注：由於本文中是求解的Logit迴歸的代價函數是似然函數，須要最大化似然函數。因此咱們要用的是梯度上升算法。但由於其和梯度降低的原理是同樣的，只是一個是找最大值，一個是找最小值。找最大值的方向就是梯度的方向，最小值的方向就是梯度的負方向。不影響咱們的說明，因此當時本身就忘了改過來了，謝謝評論下面@wxltt的指出。另外，最大似然能夠經過取負對數，轉化爲求最小值。代碼裏面的註釋也是有誤的，寫的代碼是梯度上升，註銷成了梯度降低，對你們形成的不便，但願你們海涵。

2.二、隨機梯度降低SGD (stochastic gradient descent)

梯度降低算法在每次更新迴歸係數的時候都須要遍歷整個數據集（計算整個數據集的迴歸偏差），該方法對小數據集尚可。但當遇到有數十億樣本和成千上萬的特徵時，就有點力不從心了，它的計算複雜度過高。改進的方法是一次僅用一個樣本點（的迴歸偏差）來更新迴歸係數。這個方法叫隨機梯度降低算法。因爲能夠在新的樣本到來的時候對分類器進行增量的更新（假設咱們已經在數據庫A上訓練好一個分類器h了，那新來一個樣本x。對非增量學習算法來講，咱們須要把x和數據庫A混在一塊兒，組成新的數據庫B，再從新訓練新的分類器。但對增量學習算法，咱們只須要用新樣本x來更新已有分類器h的參數便可），因此它屬於在線學習算法。與在線學習相對應，一次處理整個數據集的叫「批處理」。

隨機梯度降低算法的僞代碼以下：

################################################

初始化迴歸係數爲1

重複下面步驟直到收斂{

對數據集中每一個樣本

計算該樣本的梯度

使用alpha xgradient來更新迴歸係數

}

返回迴歸係數值

################################################

2.三、改進的隨機梯度降低

評價一個優化算法的優劣主要是看它是否收斂，也就是說參數是否達到穩定值，是否還會不斷的變化？收斂速度是否快？

上圖展現了隨機梯度降低算法在200次迭代中（請先看第三和第四節再回來看這裏。咱們的數據庫有100個二維樣本，每一個樣本都對係數調整一次，因此共有200*100=20000次調整）三個迴歸係數的變化過程。其中係數X2通過50次迭代就達到了穩定值。但係數X1和X0到100次迭代後穩定。並且可恨的是係數X1和X2還在很調皮的週期波動，迭代次數很大了，心還停不下來。產生這個現象的緣由是存在一些沒法正確分類的樣本點，也就是咱們的數據集並不是線性可分，但咱們的logistic regression是線性分類模型，對非線性可分狀況無能爲力。然而咱們的優化程序並沒能意識到這些不正常的樣本點，還一視同仁的對待，調整係數去減小對這些樣本的分類偏差，從而致使了在每次迭代時引起係數的劇烈改變。對咱們來講，咱們期待算法能避免來回波動，從而快速穩定和收斂到某個值。

對隨機梯度降低算法，咱們作兩處改進來避免上述的波動問題：

1）在每次迭代時，調整更新步長alpha的值。隨着迭代的進行，alpha愈來愈小，這會緩解係數的高頻波動（也就是每次迭代係數改變得太大，跳的跨度太大）。固然了，爲了不alpha隨着迭代不斷減少到接近於0（這時候，係數幾乎沒有調整，那麼迭代也沒有意義了），咱們約束alpha必定大於一個稍微大點的常數項，具體見代碼。

2）每次迭代，改變樣本的優化順序。也就是隨機選擇樣原本更新迴歸係數。這樣作能夠減小週期性的波動，由於樣本順序的改變，使得每次迭代再也不造成周期性。

改進的隨機梯度降低算法的僞代碼以下：

################################################

初始化迴歸係數爲1

重複下面步驟直到收斂{

對隨機遍歷的數據集中的每一個樣本

隨着迭代的逐漸進行，減少alpha的值

計算該樣本的梯度

使用alpha x gradient來更新迴歸係數

}

返回迴歸係數值

################################################

比較原始的隨機梯度降低和改進後的梯度降低，能夠看到兩點不一樣：

1）係數再也不出現週期性波動。2）係數能夠很快的穩定下來，也就是快速收斂。這裏只迭代了20次就收斂了。而上面的隨機梯度降低須要迭代200次才能穩定。

3、Python實現

我使用的Python是2.7.5版本的。附加的庫有Numpy和Matplotlib。具體的安裝和配置見前面的博文。在代碼中已經有了比較詳細的註釋了。不知道有沒有錯誤的地方，若是有，還望你們指正（每次的運行結果都有可能不一樣）。裏面我寫了個可視化結果的函數，但只能在二維的數據上面使用。直接貼代碼：

logRegression.py

[python] view plain copy

#################################################
# logRegression: Logistic Regression
# Author : zouxy
# Date : 2014-03-02
# HomePage : http://blog.csdn.net/zouxy09
# Email : zouxy09@qq.com
#################################################
from numpy import *
import matplotlib.pyplot as plt
import time
# calculate the sigmoid function
def sigmoid(inX):
return 1.0 / (1 + exp(-inX))
# train a logistic regression model using some optional optimize algorithm
# input: train_x is a mat datatype, each row stands for one sample
# train_y is mat datatype too, each row is the corresponding label
# opts is optimize option include step and maximum number of iterations
def trainLogRegres(train_x, train_y, opts):
# calculate training time
startTime = time.time()
numSamples, numFeatures = shape(train_x)
alpha = opts['alpha']; maxIter = opts['maxIter']
weights = ones((numFeatures, 1))
# optimize through gradient descent algorilthm
for k in range(maxIter):
if opts['optimizeType'] == 'gradDescent': # gradient descent algorilthm
output = sigmoid(train_x * weights)
error = train_y - output
weights = weights + alpha * train_x.transpose() * error
elif opts['optimizeType'] == 'stocGradDescent': # stochastic gradient descent
for i in range(numSamples):
output = sigmoid(train_x[i, :] * weights)
error = train_y[i, 0] - output
weights = weights + alpha * train_x[i, :].transpose() * error
elif opts['optimizeType'] == 'smoothStocGradDescent': # smooth stochastic gradient descent
# randomly select samples to optimize for reducing cycle fluctuations
dataIndex = range(numSamples)
for i in range(numSamples):
alpha = 4.0 / (1.0 + k + i) + 0.01
randIndex = int(random.uniform(0, len(dataIndex)))
output = sigmoid(train_x[randIndex, :] * weights)
error = train_y[randIndex, 0] - output
weights = weights + alpha * train_x[randIndex, :].transpose() * error
del(dataIndex[randIndex]) # during one interation, delete the optimized sample
else:
raise NameError('Not support optimize method type!')
print 'Congratulations, training complete! Took %fs!' % (time.time() - startTime)
return weights
# test your trained Logistic Regression model given test set
def testLogRegres(weights, test_x, test_y):
numSamples, numFeatures = shape(test_x)
matchCount = 0
for i in xrange(numSamples):
predict = sigmoid(test_x[i, :] * weights)[0, 0] > 0.5
if predict == bool(test_y[i, 0]):
matchCount += 1
accuracy = float(matchCount) / numSamples
return accuracy
# show your trained logistic regression model only available with 2-D data
def showLogRegres(weights, train_x, train_y):
# notice: train_x and train_y is mat datatype
numSamples, numFeatures = shape(train_x)
if numFeatures != 3:
print "Sorry! I can not draw because the dimension of your data is not 2!"
return 1
# draw all samples
for i in xrange(numSamples):
if int(train_y[i, 0]) == 0:
plt.plot(train_x[i, 1], train_x[i, 2], 'or')
elif int(train_y[i, 0]) == 1:
plt.plot(train_x[i, 1], train_x[i, 2], 'ob')
# draw the classify line
min_x = min(train_x[:, 1])[0, 0]
max_x = max(train_x[:, 1])[0, 0]
weights = weights.getA() # convert mat to array
y_min_x = float(-weights[0] - weights[1] * min_x) / weights[2]
y_max_x = float(-weights[0] - weights[1] * max_x) / weights[2]
plt.plot([min_x, max_x], [y_min_x, y_max_x], '-g')
plt.xlabel('X1'); plt.ylabel('X2')
plt.show()