神經網絡與深度學習（三）

DNN面臨的一大問題：梯度消失 若激勵函數是sigmoid函數，它在z=0處取得導數最大值1/4，多個相乘自然趨近於零（把w取大，對應z很大，sigmoid的導數愈接近零） 卷積神經網絡 1.不會用全連接網絡去做圖像分類？ 要考慮圖像的空間結構 這就產生了卷積神經網絡 2.三點： 1)local receptive fields 2)shared weights 3)pooling Local r

>>阅读原文<<