深度學習參數技巧

1：優化器網絡 機器學習訓練的目的在於更新參數，優化目標函數，常見優化器有SGD，Adagrad，Adadelta，Adam，Adamax，Nadam。機器學習 其中SGD和Adam優化器是最爲經常使用的兩種優化器，SGD根據每一個batch的數據計算一次局部的估計，最小化代價函數。學習速率決定了每次步進的大小，所以咱們須要選擇一個合適的學習速率進行調優。學習速率太大會致使不收斂，速率過小收斂速度

>>阅读原文<<