深度學習:Normalization(原因、BN、WN、LN、IN、權重數據伸縮不變性)

文章目錄 1. 爲什麼需要Normalization 1.1 獨立同分布與白化 1.2 深度學習中的 Internal Covariate Shift 1.3 ICS 會導致什麼問題? 2. Normalization 的通用框架與基本思想 3. 主流 Normalization 方法梳理 3.0 第一種解釋方式 3.1 Batch Normalization —— 縱向規範化 3.2 Layer
相關文章
相關標籤/搜索