softmax，softmax-loss，BP的解釋

本文轉載自：http://freemind.pluskid.org/machine-learning/softmax-vs-softmax-loss-numerical-stability/ ，看完這個博客讓我對softmax，softmax-loss以及BP算法有了更深的理解，之前BP只是知道鏈式求導，知道梯度回傳，可是具體到哪些變量和哪些變量求導就有些模糊了，如今我特整理了下思路，如下大部分是

>>阅读原文<<