DNN理解(五)

代價函數的選擇網絡 在咱們訓練時可能會遇到學習緩慢的問題。學習緩慢問題可能時步長的問題,步長設置的過小致使每次權重的變化過慢,而另外一個緣由就多是激活函數的問題了,咱們能夠經過選擇不一樣的代價函數來規避這個問題。函數 以下圖神經元所示:學習 :測試 咱們訓練有一個參數的神經元,使其輸入1,輸出爲0,激活函數爲sigmoid的模型。初始w=0.6,b=0.9,訓練狀況以下3d cost爲代價函數 E
相關文章
相關標籤/搜索