你在訓練機器學習模型的時候，有哪些關於 training dynamics 的經驗？

你在訓練機器學習模型的時候，有哪些關於 training dynamics 的經驗？ training dynamics 指的是訓練過程中，損失函數（或者其他反應模型性能的指標）隨訓練時間/迭代輪數變化的情況。（不知道中文怎麼翻譯？訓練動力學？感覺怪怪的 = =） 瞭解不同網絡結構/損失函數的 training dynamics 有助於判斷模型在訓練過程中到底發生了什麼問題，爲下一步超參數的調整方

>>阅读原文<<