加速模型收斂神器——歸一化(normalization)

歸一化normalization 歸一化思想 常見歸一化 Batch Normalization —— 縱向規範化 Layer Normalization —— 橫向規範化 Weight Normalization —— 參數規範化 其他 Cosine Normalization —— 餘弦規範化 selu —— 優化器實現normalization Instance Normalization

>>阅读原文<<