[斯坦福大學2014機器學習教程筆記]第二章-代價函數（1）

    本節經過看一些例子直觀地來理解代價函數是用來作什麼的以及爲何咱們要使用它。

    爲了更好理解代價函數的概念，咱們使用簡化的代價函數。

    如今有一個訓練集，訓練集有三個樣本。以下圖所示。

    咱們先來給θ₁賦值。當θ₁=1時，咱們能夠獲得一條直線，以下圖所示。

    咱們能夠計算J(1)=(1/2m)Σ(h_θ(xⁱ)-yⁱ)²=0。

    當θ₁=0.5時，咱們能夠獲得一條直線，以下圖所示。

    實際上，J(θ₁)是下圖所畫直線平方和*（1/2m）。咱們能夠計算J(0.5)=(1/2m)Σ(h_θ(xⁱ)-yⁱ)²=0.58。

        

    經過這樣不斷計算，咱們能夠獲得許多J(θ₁)的值。如J(0)=2.3。而後咱們就能畫出函數圖像（以下圖右側）。

    咱們知道右側函數的每個點均可以表示左側的一條直線。而咱們的目標就是找出J(θ₁)取最小值時θ₁的取值，顯然咱們能夠看到θ₁=1的時候J(θ₁)最小。同時右側的圖像也告訴咱們，當θ₁=1時，咱們已經完美地擬合了這個訓練集。這就是爲何要最小化J(θ₁)來找到一條最符合數據的直線。

    這一節中，咱們其實簡化了函數。咱們使θ₀=0。但在下一節中，咱們會回到原始的函數去觀察它的圖像。