卷積神經網絡初始化方法總結

卷積神經網絡初始化方法總結 一、前言 二、預訓練初始化 三、全0初始化 四、固定值初始化 1.BN層的初始化 2.LSTM 3.bias初始化 五、固定方差的參數初始化 1.高斯分佈初始化 2.均勻分佈初始化 3.固定方差初始化的缺點 六.方差縮放的參數初始化 1.Xavier初始化 2.He初始化 七、BN層可以降低對初始化的要求 八、參考 一、前言   在 CNN 模型的訓練過程中，權值初始化

>>阅读原文<<