深度學習-全連接層

本篇文章將講述關於全連接層的一些基本概念。首先將完全連接的層視爲具有以下屬性的黑匣子:在正向傳播上1.具有3個輸入(輸入信號,權重,偏置)2.具有1個輸出,關於反向傳播1.具有1個輸入(dout),其大小與輸出相同。2.具有3個(dx,dw,db)輸出,其大小與輸入相同。 計算圖的觀點 爲了發現每個輸入如何影響輸出(反向傳播),最好將算法表示爲計算圖: 擴大批量 到目前爲止,所有示例都只處理輸入中
相關文章
相關標籤/搜索