局部相關性和權值共享

局部相關性和權值共享: 局部相關性: 目的:爲了避免全連接網絡的參數集過大的缺點。 ​ 以圖片爲例,對於2D圖片通常在進入全連接層之前將矩陣數據打平成1D向量,然後每個像素點與每個輸出節點兩兩相連。網絡層中,每個輸出節點都與所有的輸入節點相連,這種稠密的(Dense)連接方式使得全連接層的參數量大,計算代價高,全連接層也叫做稠密層(Dense Layer),當全連接層的激活函數爲空時,全連接層也叫
相關文章
相關標籤/搜索