激活函數maxout

激活函數maxout 系列文章：   maxout函數相對於其他的激活函數有很大的區別，可以看做是在神經網絡中激活函數的地方加入一個激活函數層。 maxout可以看做是一個可學習的分段線性函數，因爲可學習所以是需要參數的，而且參數是可以通過反向傳播來學習的。因爲參數量的增大，勢必導致計算量的增大。   傳統的神經網絡從第i層輸入到第i+1層，只需要訓練一組權重參數，這些參數決定了上一層輸入到到達這

>>阅读原文<<