提前終止法與正則化法之間關係

文章目錄 前言 提前終止法分析 貝葉斯正則化法分析 比較 參考資料 前言 前兩篇博客（從貝葉斯角度理解正則化、正則化）分別介紹了提前終止法和正則化法。 它們可以近似等價的嗎？怎麼近似等價？ 左邊這張圖輪廓線表示負對數似然函數的輪廓，虛線表示從原點開始的SGD所經過的軌跡。提前終止法的軌跡在較早的$\tilde \omega 點 終 止 ， 而 不 是 在 停 止 在 最 小 化 代 價 的 點 點

>>阅读原文<<