谷歌機器學習速成課程筆記 15(Training Neural Networks -訓練神經網絡)

在思考如何訓練神經網絡是,首先我們需要了解哪些信息是與反向傳播有關的。 (我們不需要了解反向傳播的實施方式/原理機制,因爲tensorflow 會爲我們做好) 首先,反向傳播確實依賴於梯度這個概念——事物必須是可微的(函數中存在一兩個小的間斷點沒關係)這樣我們才能夠使用神經網絡進行學習。 另外,要注意,梯度可能會消失。如果我們的網絡太過深入,信噪比隨着您深入模型而變差,那麼學習速度可能會變得非常慢
相關文章
相關標籤/搜索