深度學習中常用的層:Full Connect全連接層

全連接層的推導 全連接層的每一個結點都與上一層的所有結點相連,用來把前邊提取到的特徵綜合起來。由於其全相連的特性,一般全連接層的參數也是最多的。 全連接層的前向計算 下圖中連線最密集的2個地方就是全連接層,這很明顯的可以看出全連接層的參數的確很多。在前向計算過程,也就是一個線性的加權求和的過程,全連接層的每一個輸出都可以看成前一層的每一個結點乘以一個權重係數W,最後加上一個偏置值b得到,即 。如下
相關文章
相關標籤/搜索