綜合小練習梯度降低解決線性迴歸

　　線性迴歸通常用於預測，好比：股票漲跌

　　梯度降低是機器學習中最核心的優化算法

 

 

# -*- coding: UTF-8 -*-

"""
用梯度降低的優化方法來快速解決線性迴歸問題
"""

import numpy as np
import matplotlib.pyplot as plt
import tensorflow as tf

try:
    xrange = xrange  # Python 2
except:
    xrange = range   # Python 3

# 構建數據
points_num = 100
vectors = []

# 用 Numpy 的正態隨機分佈函數生成 100 個點
# 這些點的（x, y）座標值對應線性方程 y = 0.1 * x + 0.2
# 權重（Weight）爲 0.1，誤差（Bias）爲 0.2
for i in xrange(points_num):
    x1 = np.random.normal(0.0, 0.66)#生成0.0到0.66內的一個隨機數
    y1 = 0.1 * x1 + 0.2 + np.random.normal(0.0, 0.04)
    vectors.append([x1, y1])

x_data = [v[0] for v in vectors]  # 真實的點的 x 座標
y_data = [v[1] for v in vectors]  # 真實的點的 y 座標

# 圖像 1 ：展現 100 個隨機數據點
plt.plot(x_data, y_data, 'r*', label="Original data")  # 紅色星形的點
plt.title("Linear Regression using Gradient Descent")
plt.legend()
plt.show()

# 構建線性迴歸模型
W = tf.Variable(tf.random_uniform([1], -1.0, 1.0))  # 初始化 Weight
b = tf.Variable(tf.zeros([1]))                      # 初始化 Bias
y = W * x_data + b                                  # 模型計算出來的 y

# 定義 loss function（損失函數）或 cost function（代價函數）
# 對 Tensor 的全部維度計算 ((y - y_data) ^ 2) 之和 / N
loss = tf.reduce_mean(tf.square(y - y_data))

# 用梯度降低的優化器來最小化咱們的 loss（損失）
optimizer = tf.train.GradientDescentOptimizer(0.5)  # 設置學習率爲 0.5
train = optimizer.minimize(loss)

# 建立會話
sess = tf.Session()

# 初始化數據流圖中的全部變量
init = tf.global_variables_initializer()
sess.run(init)

# 訓練 20 步
for step in xrange(20):
    # 優化每一步
    sess.run(train)
    # 打印出每一步的損失，權重和誤差
    print("第 {} 步的 損失={}, 權重={}, 誤差={}".format(step+1, sess.run(loss), sess.run(W), sess.run(b)))

# 圖像 2 ：繪製全部的點而且繪製出最佳擬合的直線
plt.plot(x_data, y_data, 'r*', label="Original data")  # 紅色星形的點
plt.title("Linear Regression using Gradient Descent")  # 標題，表示 "梯度降低解決線性迴歸"
plt.plot(x_data, sess.run(W) * x_data + sess.run(b), label="Fitted line")  # 擬合的線
plt.legend()
plt.xlabel('x')
plt.ylabel('y')
plt.show()

# 關閉會話
sess.close()