卷積神經網絡中參數量的計算與模型佔用顯存的計算

關於參數的計算 如果你理解了上圖的列子,歡迎你再嘗試自己計算一下VGG16的總參數量 值得一提的是,在訓練的時候,因爲有forward 和 backward,所以參數量要乘以2 另外一個就是網絡所需要的內存,這個也是非常重要的一個指標,因爲當前的GPU內存空間非常有限。可以從下圖得知,在網絡最開始的幾層,佔用的GPU內存最多,而絕大多數的參數,都來自於全連接層,這也是一個後來全局池化被運用而全連接
相關文章
相關標籤/搜索