神經網絡中誤差值計算公式的選取

（1）第一種可以清晰地看到由於正負抵消，總體誤差和爲0相當於總體沒有誤差，即使正負不能完全抵消也不符合真實情況。因此這種方式不是一種很好的測量方式。 （2）第二種採用絕對值，因爲不考慮符號，解決了誤差相互抵消問題。但這樣的誤差函數圖像是V字行的，在最小值附近不連續。因此這種方式不是一種很好的測量方式。 （3）第三種採用差的平方，使得誤差函數平滑連續，並容易計算梯度下降的斜率，越接近最小值梯度越小，

>>阅读原文<<