圖文+代碼分析:caffe中全連接層、Pooling層、Relu層的反向傳播原理和實現

1.全連接層反向傳播 設 C C 爲loss 全連接層輸入:(bottom_data) a a 全連接層輸出:(top_data) z z 假設 a a 維度K_, z z 維度N_,則權值矩陣維度爲N_行*K_列,batchsize=M_ 全連接層每個輸出 zi=b+∑jwijaj z i = b + ∑ j w i j a j 1.1bottom_diff計算: 對bottom_data求導:
相關文章
相關標籤/搜索