深度學習之模擬退火算法

一、概述 如果將BP算法中的誤差函數看作一種能量函數，則BP算法通過不斷調整網絡參數使 其能量函數按梯度單調下降，而反鐨網絡使通過動態演變過程使網絡的能量函數沿着梯度單 調下降，在這一點上兩類網絡的指導思想是一致的。正因如此，常常導致網絡落入局部極小 點而達不到全局最小點。對於BP網，局部極小點意味着訓練可能不收斂，對於Hopfield 網，則得不到期望的最優解。導致這兩類網絡陷人局部極小點的原因

>>阅读原文<<