Batch Normalization

參考公衆號文章:https://mp.weixin.qq.com/s/xIEB8bzhhKJDCkwoyq_cMg Batch Normalization 一、操作對象: 1.放在激活函數之前 2.放在激活函數之後 二、主要操作: (此處以論文原始形式,BN放在激活函數之前講解) 主要包括兩步: 合併起來後的形式: 變量代表意義 a i a_i ai​ : 某個神經元原始激活值(即未經過激活函數)
相關文章
相關標籤/搜索