pytorch系列 ---9的番外, Xavier和kaiming是如何fan_in和fan_out的,_calculate_fan_in_and_fan_out解讀 Conv2d

本文主要藉助代碼講解Xavier和kaiming是如何藉助_calculate_fan_in_and_fan_out函數來計算當前網絡層的fan_in(輸入神經元個數)和fan_out(輸出神經元個數的),先針對Linear和Conv2d兩種。 m_c = nn.Conv2d(16, 33, 3, stride=2) m_l = nn.Linear(1, 10) m_c.weight.size()
相關文章
相關標籤/搜索