深度學習：鞍點以及如何跳出鞍點

最近閱讀了有關鞍點得到文章，做了一下總結： 鞍點的定義： 鞍點 （saddle point）的數學含義是： 目標函數在此點上的梯度（一階導數）值爲 0， 但從該點出發的一個方向是函數的極大值點，而在另一個方向是函數的極小值點。 而當在某點的一階導爲0時，該點稱爲駐點。 判斷鞍點的一個充分條件是：函數在一階導數爲零處（駐點）的Hessian矩陣爲不定矩陣。 半正定矩陣： 所有特徵值爲非負，或主子式全

>>阅读原文<<