Python實現——二元線性迴歸(最小二乘法)

2019/3/30
二元線性迴歸——矩陣公式法_又名：對於python科學庫的糟心嘗試_
二元線性迴歸嚴格意義上其實不過是換湯不換藥，我對公式進行推導，其實也就是跟之前同樣的求偏導並使之爲零，而且最終公式的嚴格推導我大概也只能說是將將理解，畢竟最初的矩陣一開始都不太清楚應該是什麼樣子的，其中，Coursera的課程起到了很是顯著的幫助。
其實這個部分我並不想寫太多，由於理解並非十分透徹，整體來說，感受就是一個公式的事情，其中對於python數據類型以及python庫函數的使用反而耗費的時間更多，回頭來更新。
python庫函數的運用很是重要，也是卡住我很久的主要緣由，其次，對於python幾種數據結構類型也讓我十分苦惱，畢竟我不太清楚大部分函數會返回給我什麼樣的結果。
其中最終的公式應該說是很是普及了，隨便的搜索即可查找到，雖然花了這麼大的功夫，最終帶給個人印象倒是遠遠不及梯度降低的那種按部就班看着計算機一步步探索來的深入。
然而，這不正是前人的努力所要想作到的一步到位的方式嗎？
雖然是真真正正的計算公式，可是如果面對特殊的矩陣狀況或者過大的矩陣，這個方法也是力不從心的，詳情我很少贅述，畢竟我仍是個沒有系統學習線代機率的赤腳蒟蒻。
先這樣，或許會再來更新吧。
如下是利用Coursera提供的部分數據進行的實現圖像：

這裏給出完整代碼：

import xlrd
import sympy as sp
import xlwt
import matplotlib.pyplot as plt
from matplotlib import cm
from mpl_toolkits.mplot3d import Axes3D 
import numpy as np
workbook=xlrd.open_workbook(r'dataset.xlsx')

sheet=workbook.sheet_by_index(0)
Y1=sheet.col_values(0)
X1=sheet.col_values(1)
X2=sheet.col_values(2)
#Axes3D
fig = plt.figure()
ax = Axes3D (fig)
ax.scatter(X1, X2, Y1)
#H爲100*3矩陣，讀入現有數據，第0列爲1
H=[]
for i in range(100):
    values=[]
    values.append(1)
    values.append(X1[i])
    values.append(X2[i])
    H.append(values)
#將H0數組化
H0 = np.array(H) 
#H1爲H的轉置矩陣
H1=np.array(H0).T
H2=H1@H0
#求逆矩陣
H3=np.linalg.inv(H2)
#最終結果計算
temp=H3@H1@Y1
temp=np.mat(temp)
w0=temp[0,0]
w1=temp[0,1]
w2=temp[0,2]
#生成兩座標軸取點
x1=np.linspace(0,5000,100)
x2=np.linspace(0,5,100)
#將兩座標軸點合成
x1, x2 = np.meshgrid(x1, x2)
#結果方程，並輸出最終結果圖
#z=w0+w1*x1+w2*x2
ax.plot_surface(x1,x2,w0+w1*x1+w2*x2)
plt.show()