UFLDL Tutorial 課程核心內容提煉-3：自編碼算法和稀疏性

該課程在斯坦福深度學習課上，點此打開         核心內容，自編碼器，非監督學習方法。如果隱藏層的神經元數目較少，很好理解，如果較多，則要對隱層進行稀疏性限制，引入懲罰因子，這個懲罰因子和信息熵理論中的散度有關，所以引入KL-divergence進行轉換，轉換完成之後，爲了求解這個最後的解，即的h，給出最終的損失函數，之後就和普通的神經網絡一致了，進行梯度求解，迭代解出h。 ---------

>>阅读原文<<