正則化在caffe中的設置

caffe提供了兩種正則化：L1和L2 L2正則化項是默認的，在可以在caffe.proto中可以找到，如下： 說明caffe默認使用的是L2正則化 L1正則化： 具體就是在solver文件中加下面一句： regularization_type: "L1" 還有個點是 weight_decay 是乘在正則化向前面，控制正則化項在損失函數中所佔權重的。 L1和L2正則化的區別： L2正則化：向目標函

>>阅读原文<<