神經網絡筆記

神經網絡總流程 1.計算分值(分值越高就表明分類結論) 2.計算損失函數(一般損失函數+正則化懲罰) 3.正則化懲罰(可以看作是對損失函數的懲罰項,一般有兩種方法,L1和L2,W的平方w2,爲了懲罰那些雖然分值一樣但是,關注的點和實際點有很大出路,例如1,0,0,0和0.25,0.25,0.25,0.25,懲罰越小就越認可,目的也是通過loss值,使得權重更均衡。其實1,0,0,0也是一種過擬合的
相關文章
相關標籤/搜索