深度學習入門筆記（二）————線性神經網絡，delta學習規則，梯度下降法

一 線性神經網絡  與感知器的區別，感知器激活函數的輸出只有兩種可能(1,-1)，線性神經網絡的輸出可取任意值，其激活函數是線性函數。線性神經網絡採用LMS算法來調整網絡的權值和偏置。 線性神經網絡在結構上與感知器相似，但神經元激活函數不同。在模型訓練時把sign函數改爲purelin函數(y=x)。 二    LMS學習規則  LMS使神經元實際輸出與期望輸出之間的平方差最小  學習信號：  y

>>阅读原文<<