機器學習（六）--------神經網絡(Neural Networks)

不管是線性迴歸仍是邏輯迴歸都有這樣一個缺點，即：當特徵太多時，
計算的負荷會很是大。
好比識別圖像，是不是一輛汽車，可能就須要判斷太多像素。
這時候就須要神經網絡。

神經網絡是模擬人類大腦的神經網絡，由神經元，輸入樹突，輸出樹突構成。
由此設計神經網絡模型：

x1,x2,x3是輸入單元，將原始數據給他們，
𝑏 1 , 𝑏 2 , 𝑏 3 是中間單元，它們負責將數據進行處理，而後呈遞到下一層。
最後是輸出單元，它負責計算ℎ 𝜃 (𝑦)。
前向傳播算法( FORWARD PROPAGATION ) 從左到右的算法

單層神經元（無中間層）的計算可用來表示邏輯運算

反向傳播算法

小結一下使用神經網絡時的步驟：
網絡結構：第一件要作的事是選擇網絡結構，即決定選擇多少層以及決定每層分別有多
少個單元。
第一層的單元數即咱們訓練集的特徵數量。
最後一層的單元數是咱們訓練集的結果的類的數量。
若是隱藏層數大於 1，確保每一個隱藏層的單元個數相同，一般狀況下隱藏層單元的個數
越多越好。
咱們真正要決定的是隱藏層的層數和每一箇中間層的單元數。
訓練神經網絡：

1. 參數的隨機初始化
2. 利用正向傳播方法計算全部的ℎ 𝜃 (𝑦)
3. 編寫計算代價函數 𝐾 的代碼
4. 利用反向傳播方法計算全部偏導數
5. 利用數值檢驗方法檢驗這些偏導數
6. 使用優化算法來最小化代價函數