神經網絡之權重初始化

本文轉載自https://blog.csdn.net/zhangbaoanhadoop/article/details/83042960 記錄下來，時時溫故知新 模型權重的初始化對於網絡的訓練很重要, 不好的初始化參數會導致梯度傳播問題, 降低訓練速度; 而好的初始化參數, 能夠加速收斂, 並且更可能找到較優解. 如果權重一開始很小，信號到達最後也會很小；如果權重一開始很大，信號到達最後也會很大。

>>阅读原文<<