【Caffe筆記】二.Forward and Backward(前傳/反傳)

    前傳和後傳是一個網絡最重要的計算過程。 1.前傳     前傳過程爲給定的待推斷的輸入計算輸出,Caffe組合每一層的計算一得到整個模型的計算函數,自底向上進行。 2.反傳     反傳過程根據損失來計算梯度從而進行學習,Caffe通過自動求導並反向組合每一層的梯度來計算整個網絡的梯度,自頂向下進行。     反傳過程以損失開始,根據輸出計算梯度。根據鏈式準則,逐層計算出模型其餘部分的梯度
相關文章
相關標籤/搜索