《Deep Learning》學習2——梯度優化
*一. 梯度* 被優化的函數稱爲目標函數、準則、代價函數以及損失函數。 在《微積分》中，大家都用過導數，函數在某個點的導數代表的是f(x)在該點處的斜率。而梯度是函數相對於一個向量求導，細分到向量的各成員上，就是對各成員求偏導。梯度表示爲 優化通常是將目標函數最小化或者最大化。在機器學習中，優化更通常是使損失函數（對有監督來說，輸出和label的誤差）最小化。 梯度優化的原則： ϵ表示著名的學習率
相關文章
- 1. Learning Deep Learning（學習深度學習）
- 2. 機器學習(Machine Learning)&深度學習(Deep Learning)資料(Chapter 2)
- 3. 深度強化學習：Deep Q-Learning
- 4. 【Deep Learning】深度學習之規範化
- 5. [Deep Learning] 深度學習中消失的梯度
- 6. 深度學習Deep learning
- 7. Deep learning深度學習
- 8. 《deep learning》學習筆記（8）——深度模型中的優化
- 9. 深度學習中的優化方法：Optimization for Deep Learning
- 10. 機器學習——深度學習(Deep Learning)
- 更多相關文章...
- • SEO - 搜索引擎優化 - 網站建設指南
- • 您已經學習了 XML Schema，下一步學習什麼呢？ - XML Schema 教程
- • Tomcat學習筆記（史上最全tomcat學習筆記）
- • 算法總結-廣度優先算法
相關標籤/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
最新文章
歡迎關注本站公眾號,獲取更多信息
相關文章
- 1. Learning Deep Learning（學習深度學習）
- 2. 機器學習(Machine Learning)&深度學習(Deep Learning)資料(Chapter 2)
- 3. 深度強化學習：Deep Q-Learning
- 4. 【Deep Learning】深度學習之規範化
- 5. [Deep Learning] 深度學習中消失的梯度
- 6. 深度學習Deep learning
- 7. Deep learning深度學習
- 8. 《deep learning》學習筆記（8）——深度模型中的優化
- 9. 深度學習中的優化方法：Optimization for Deep Learning
- 10. 機器學習——深度學習(Deep Learning)