鞍點

長期以來，人們普遍認爲，神經網絡優化問題困難是因爲較大的神經網絡中包含很多局部極小值（local minima），使得算法容易陷入到其中某些點。到2014年，一篇論文《Identifying and attacking the saddle point problem in high-dimensional non-convex optimization》，提出高維非凸優化問題之所以困難，是因爲存

>>阅读原文<<