花書入門——（第二部分）損失函數，未完待續持續更新

一、神經網絡與損失函數的關係 1、損失函數的作用 我們希望：在訓練時，如果預測值與實際值的誤差越大，那麼在反向傳播的過程中，各種參數調整的幅度就要更大，從而使訓練更快收斂。 1）Loss layer 是網絡的終點，輸入爲預測值和真實標籤。損失層則將這兩個輸入進行一系列運算，得到當前網絡的損失函數（Loss Function），一般記做L(θ）其中θ是當前網絡權值構成的向量空間。 2） Loss l

>>阅读原文<<