深度學習的局部響應歸一化LRN

深度學習的局部響應歸一化LRN   LRN這個概念和運用是出現在AlexNet中。LRN最初是生物學裏的概念「相鄰神經元抑制」,對局部神經元的活動創建競爭機制。使用LRN增加了泛化能力(使輸出中響應比較大的值變得相對更大,並抑制其他響應較小的神經元),做了平滑處理,提高了1%~2%的識別率。 在Tensorflow中有對應的函數 tf.nn.lrn(input,depth_radius=None,
相關文章
相關標籤/搜索