【論文翻譯】(ICML2019)Training Neural Networks with Local Error Signals

摘要 用於分類的神經網絡的監督訓練通常採用全局損失函數。損失函數爲輸出層提供一個梯度，該梯度被反向傳播到隱藏層，以指示權重的更新方向。另一種方法是用逐層損失函數訓練網絡。在這篇論文中，我們首次證明了分層訓練可以在各種圖像數據集上達到最新的水平。我們使用單層子網絡和兩個不同的監督損失函數來產生局部誤差。我們證明了這些損失的組合有助於在局部學習環境下的優化。使用局部錯誤可能是向更生物學上可信的深入學習

>>阅读原文<<