深度學習技巧總結

1、深度學習算法調優技巧 1：優化器。機器學習訓練的目的在於更新參數，優化目標函數，常見優化器有SGD，Adagrad，Adadelta，Adam，Adamax，Nadam。其中SGD和Adam優化器是最爲經常使用的兩種優化器，SGD根據每一個batch的數據計算一次局部的估計，最小化代價函數。html 學習速率決定了每次步進的大小，所以咱們須要選擇一個合適的學習速率進行調優。學習速率太大會致使不

>>阅读原文<<