F.Linear() 和 nn.Linear() 的區別

F.Linear(） 可以看到nn.Linear內部調用了F.Linear，相當於是將其封裝了，並自動地對參數進行了初始化。如果我們想自己初始化參數，那麼可以不用nn.Linear。 爲了靈活地對參數按照自己的方式進行初始化，可以借鑑fairseq的初始化做法 def reset_parameters(self): nn.init.xavier_uniform_(se

>>阅读原文<<