深度學習中線性模型的侷限性

在線性模型中，模型的輸出爲輸入的加權和。假設一個模型的輸出y和輸入x滿足以下關係，那麼這個模型就是一個線性模型。 其中w，b爲模型的參數。 一、線性模型的最大特點是任意線性模型的組合仍然還是線性模型。 例子： 其中W'是新的參數，這個前向傳播的算法完全符合線性模型的定義。從這個例子中可以看出，雖然這個神經網絡有兩層（不算輸入層），但是它和單層神經網絡沒有區別。以此類推，只通過線性變換，任意層的全連

>>阅读原文<<