懲罰、補償、正則化、約束的聯繫和區別

最近看幾篇文章，文章上面在寫反演目標函數的時候，有些是寫的約束，有些是說補償，有些又是正則化。說實話，之前是沒怎麼區分這幾個東西的，感覺都是一樣的，後來才真正的注意到這個事情。下面是來自百度百科的解釋： 其實所有的懲罰、補償還是正則化都是約束方法。如上所示，約束就是把值給限定在一定的範圍內，在反演過程中，如果加在目標函數中的話，就會寫成最下面的函數形式，這就是平常我們所說的加入懲罰、補償、正則化的

>>阅读原文<<