機器學習-參數的初始化

參數的初始化 在神經網絡的一些問題中，我們會把參數都初始化爲0 但這樣其實會有一些問題 在訓練過程中，無論我們怎麼訓練，下圖同一顏色的參數始終相同，這樣則a1,a2也始終相同，我們稱之爲對稱權重問題 爲了避免這種現象的發生，我們要隨機初始化，常用的辦法就是用正態分佈的函數初始化

>>阅读原文<<