深度學習參數初始化（weights initializer）策略大全

  前言：深度學習的初始化參數指的是在網絡訓練以前，對各個節點的權重和偏置進行初始化的過程，不少時候咱們覺得這個初始化是可有可無的，不須要什麼講究，可是實際上，一個參數的初始化關係到網絡可否訓練出好的結果或者是以多快的速度收斂，這都是相當重要的，有時候由於參數初始化的緣故，甚至得不到好的訓練結果。本文就來討論一下參數初始化到底有什麼講究以及常見的參數初始化的一些策略方法。閱讀本文須要神經網絡相關背

>>阅读原文<<