BP神經網絡（三）--梯度下降法

梯度下降法常用於神經網絡負反饋過程中參數的優化。下面對梯度下降法做解釋說明。 場景 梯度下降法的基本思想可以類比爲一個下山的過程。 假設場景：一個人被困在山上，需要從山上下來(i.e. 找到山的最低點，也就是山谷)。 但此時山上的濃霧很大，導致可視度很低。因此，下山的路徑就無法確定，他必須利用自己周圍的信息去找到下山的路徑。這個時候，他就可以利用梯度下降算法來幫助自己下山。 以他當前的所處的位置爲

>>阅读原文<<