Layer Normalization

論文: Jimmy Lei Ba, Jamie Ryan Kiros, Geoffrey E. Hinton. Layer Normalization. arXiv:1607.06450html Batch normalization 對每一個channel或者hidden unit,求輸入(mini-)batch上全部樣本在這個channel上的均值和標準差。以後根據每一個channel上的均值
相關文章
相關標籤/搜索