softmax，softmax-loss，BP的解釋

本文轉載自：http://freemind.pluskid.org/machine-learning/softmax-vs-softmax-loss-numerical-stability/ ，看完這個博客讓我對softmax，softmax-loss以及BP算法有了更深的理解，以前BP只是知道鏈式求導，知道梯度回傳，但是具體到哪些變量和哪些變量求導就有些模糊了，現在我特整理了下思路，以下大部分是

>>阅读原文<<