[李宏毅 機器學習] 深度學習筆記（DNN, RNN, Backpropagation, ReLU, Maxout, RMSProp, Momentum, Adam, 早停, Dropout）

Deep learning   深度學習其實就是使用多層的神經網絡模型來進行機器學習。神經網絡也有很多種，最基本的全連接前饋神經網絡的原理其實並不複雜，就是多個線性函數加一個激活函數構成一個個神經元，神經元的左邊是線性函數的輸入，神經元的輸出是線性函數經過激活函數後的值，每層有多個神經元，如果將激活函數選爲 sigmoid 函數的話，每個神經元的輸入輸出其實就是前面所講的 logistic reg

>>阅读原文<<