深度學習---煉丹trick之Normalization(BN/LN/WN/CN)

參考文獻:詳解深度學習中的Normalization,BN/LN/WN https://zhuanlan.zhihu.com/p/33173246 3主流 Normalization 方法梳理 在上一節中,我們提煉了 Normalization 的通用公式: 對照於這一公式,我們來梳理主流的四種規範化方法。 3.1 Batch Normalization —— 縱向規範化 3.2 Layer No
相關文章
相關標籤/搜索