神經網絡權重初始化

在我們真正開始訓練網絡之前,我們必須要知道如何去初始化神經網絡的參數。 陷阱: 都初始化爲0。         首先介紹一下我們不應該做的事情(即初始化爲0)。需要注意的是我們並不知道在訓練神經網絡中每一個權重最後的值,但是如果進行了恰當的數據歸一化後,我們可以有理由認爲有一半的權重是正的,另一半是負的。令所有權重都初始化爲0這個一個聽起來還蠻合理的想法也許是一個我們假設中最好的一個假設了。但結果
相關文章
相關標籤/搜索