深度學習各種normalization

各種Normalization層出不窮,現做一下總結,以供大家學習參考 1. BN:Batch Normalization 這是大家最熟悉的了,結合上圖 針對每一批, 正規化,減少前一層對後層的影響    針對一批中的 每一個 feature進行 normalization(也即每一個 feature採用不同的規範化操作),而 normal後是一個向量,向量的維度是 feature的個數,故而 又
相關文章
相關標籤/搜索