關於神經網絡訓練的一些技巧NN Tricks

神經網絡能夠構建，簡單的幾行TensorFlow代碼或者Pytorch代碼就可以實現，但是效果並不一定理想。爲什麼一般採用連續的擬合任意函數？在手中有足夠的數據時，仔細設計的網絡是可以得到更好的準確率和泛化性。 課上老師講到，避免設計太多參數，優化超參數，精準設計網絡。有一些簡單的Trick可以參考如下： 主要來源 CS224D Lecture 6 Debugging Neural Network

>>阅读原文<<