softmax_loss的歸一化問題

cnn網絡中,網絡更新一次參數是根據loss反向傳播來,這個loss是一個batch_size的圖像前向傳播得到的loss和除以batch_size大小得到的平均loss。 softmax_loss前向傳播中有這樣一段代碼:    loss/get_normalizer(normalization_,valid_count),這就是對loss進行歸一化。 如果我有ignore_label,vali
相關文章
相關標籤/搜索