深度學習課堂筆記 5.14

深度學習課堂筆記 5.14 深度學習存在的問題 (1)參數過多,訓練難度大 (2)非凸優化問題,局部最優影響迭代 (3)梯度消失or爆炸 (4)參數解釋困難 (5)過擬合or欠擬合 梯度消失or爆炸產生的原因: (1)BP法先天問題 (2)初始權重帶來的影響 (3)激活函數選擇不當 (4)梯度流動帶來的影響:網絡結構本身的問題,如CNN (5)損失值過大帶來的影響:數據集的問題,如標註不準等 一:
相關文章
相關標籤/搜索