機器學習中的幾個常見概念(持續更新中......)

一、學習率 Learning Rate:學習率決定了權值的更新速度,設置太大會使權值越過最優值,過小會使降低速度過慢,算法長時間不能收斂。靠人爲干預調整參數須要不斷的調整學習率。算法 二、梯度降低:一個普遍用來最小化模型偏差的參數優化算法。梯度降低經過屢次迭代,並在每一步中最小化成本函數來估計模型的參數(weight)。bootstrap 三、signoid函數:是一個激活函數,固然還有relu/
相關文章
相關標籤/搜索