7.1更好的優化-筆記
歸一化重要性 上圖左圖是沒有中心化的，右圖是中心化的。我們也可以用一條直線進行分類，但如果這條直線稍微旋轉一點，我們分類器會被完全破壞，我們的損失函數對權重矩陣中的線性分類器小擾動十分敏感。右圖將數據中心化，還可以減少他們的方差，在這種情況下，損失函數會不那麼敏感，可以節省優化時間。 batch normalization 這就是在神經網絡中多加一層，以使中間的**值的均值爲0方差爲1 SGD優化
相關文章
- 1. cs231n lecture 16 7.1筆記--更好的優化
- 2. cs231n 更好的優化
- 3. 7.1筆記
- 4. 7.1學習筆記
- 5. win10優化筆記-長期更新
- 6. Docker 學習筆記（CentOS 7.1）
- 7. 7.1-7.8預習筆記
- 8. 7.1-7.9預習筆記
- 9. Mysql優化筆記
- 10. webpack 優化筆記
- 更多相關文章...
- • ADO 更新記錄 - ADO 教程
- • MySQL的優勢（優點） - MySQL教程
- • Tomcat學習筆記（史上最全tomcat學習筆記）
- • 算法總結-廣度優先算法
相關標籤/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
最新文章
- 1. 外部其他進程嵌入到qt FindWindow獲得窗口句柄 報錯無法鏈接的外部符號 [email protected] 無法被([email protected]@[email protected]@@引用
- 2. UVa 11524 - InCircle
- 3. The Monocycle（bfs）
- 4. VEC-C滑窗
- 5. 堆排序的應用-TOPK問題
- 6. 實例演示ElasticSearch索引查詢term,match,match_phase,query_string之間的區別
- 7. 數學基礎知識 集合
- 8. amazeUI 復擇框問題解決
- 9. 揹包問題理解
- 10. 算數平均-幾何平均不等式的證明,從麥克勞林到柯西
歡迎關注本站公眾號,獲取更多信息
相關文章
- 1. cs231n lecture 16 7.1筆記--更好的優化
- 2. cs231n 更好的優化
- 3. 7.1筆記
- 4. 7.1學習筆記
- 5. win10優化筆記-長期更新
- 6. Docker 學習筆記（CentOS 7.1）
- 7. 7.1-7.8預習筆記
- 8. 7.1-7.9預習筆記
- 9. Mysql優化筆記
- 10. webpack 優化筆記