反向傳播及softmax算法推導

自己重新整理了一下反向傳播算法及softmax算法的推導。 （1）針對通常的反向傳播算法，Loss採用差值的絕對值平方和，非線性函數採用sigmoid函數 （2）softmax算法推導是指，採用softmax對輸出數據處理，並採用交叉熵作爲Loss函數。 兩個算法的推導過程都是通過從單一元素出發，擴展到向量的形式。 反向傳播算法更詳細的推導可參考博客：https://zhuanlan.zhihu.

>>阅读原文<<