29 繪製訓練集上的損失曲線（29 Plotting training error）

當訓練集增大時，開發集（測試集）損失應該降低，但是訓練集損失會增大。 用一個例子展示這種效果：假如訓練集只有2個樣本：一個貓圖片，一個非貓圖片，對於算法來說很容易記得這兩個樣本，從而在訓練集上獲得0%的錯誤率。即使兩個樣本的標籤都錯了，對於算法來說還是很容易記住這些標籤。（注：標籤錯了，算法記住錯的標籤，訓練集上分類錯誤率也爲0）。 現在假設訓練集有100個樣本，其中少量樣本的標籤是錯誤的，或者一

>>阅读原文<<