神經網絡-全局最小與局部極小

模型學習的過程實質上就是一個尋找最優參數的過程，例如BP算法試圖通過最速下降來尋找使累積經驗誤差最下的權值與閾值，在談到最優時。一般會提到局部極小和全局最小。 1.局部極小解：參數空間中某個點，其鄰域點的誤差函數值均不小於該點的誤差函數值。 2.全局最小解：參數空間某個點，所有其他點的誤差函數值均不小於該點的誤差函數值。 要成爲局部極小點，只要滿足該點在參數空間的梯度爲0.局部極小可以有多個，而全

>>阅读原文<<