梯度消失和梯度爆炸

1.神經網絡 神經網絡其實就是一個多層的感知器,我們下面來看下其結構: 從上面的圖例我們可以看出來,神經網絡主要分爲3種網絡層 輸入層:就是數據輸入神經網絡的入口,比如MNIST是28*28的像素點集,則輸入層就需要有28*28個輸入神經元 + 一個代表偏移量的輸入神經元(如圖:左側常量的神經元) 隱藏層:就是神經網絡的中間層,可能有一點抽象,            舉個例子:一個人臉識別系統,假

>>阅读原文<<