Deep learning II - I Practical aspects of deep learning - Understanding dropout 理解隨機失活正則化

Understanding dropout 解釋 1 通過dropout,每次訓練都構建一個更小的神經網絡,從而減小過擬合現象發生 解釋 2 通過dropout,每個neuron不能依賴前一層的某個特定的feature,所以不得不將權重值分散開,從而起到了shrink weights的作用,從而減小過擬合。 注意 dropout使得function J J 不在能用來做debug的工具
相關文章
相關標籤/搜索