2020李宏毅學習筆記——36.Network Compression(5_6)
5.Architecture Design Low Rank Approximation(低秩近似) 下圖是低秩近似的簡單示意圖，左邊是一個普通的全連接層，可以看到權重矩陣大小爲 M*N ，而低秩近似的原理就是在兩個全連接層之間再插入一層K。是不是很反直觀？插入一層後，參數還能變少**？** 沒錯，的確變少了，我們可以看看新插入一層後的參數數量爲: NK+KM=K*(M+N)，因爲K<M,K<N，
相關文章
- 1. 2020李宏毅學習筆記——9. Backpropagation
- 2. 2020李宏毅學習筆記——58.Generative Adversarial Network（1_10)
- 3. 2020李宏毅學習筆記——60.Generative Adversarial Network（3_10)
- 4. 2020李宏毅學習筆記——353.Network Compression(4_6)
- 5. 2020李宏毅學習筆記——37.Network Compression(6_6)
- 6. 2020李宏毅學習筆記——39.Pointer Network
- 7. 2020李宏毅學習筆記——34.Network Compression(3_6)
- 8. 2020李宏毅學習筆記——59.Generative Adversarial Network（2_10)
- 9. 2020李宏毅學習筆記——33.Network Compression(2_6)
- 10. 2020李宏毅學習筆記——32.Network Compression(1_6)
- 更多相關文章...
- • 您已經學習了 XML Schema，下一步學習什麼呢？ - XML Schema 教程
- • 我們已經學習了 SQL，下一步學習什麼呢？ - SQL 教程
- • Tomcat學習筆記（史上最全tomcat學習筆記）
- • 適用於PHP初學者的學習線路和建議
相關標籤/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
歡迎關注本站公眾號,獲取更多信息
相關文章
- 1. 2020李宏毅學習筆記——9. Backpropagation
- 2. 2020李宏毅學習筆記——58.Generative Adversarial Network（1_10)
- 3. 2020李宏毅學習筆記——60.Generative Adversarial Network（3_10)
- 4. 2020李宏毅學習筆記——353.Network Compression(4_6)
- 5. 2020李宏毅學習筆記——37.Network Compression(6_6)
- 6. 2020李宏毅學習筆記——39.Pointer Network
- 7. 2020李宏毅學習筆記——34.Network Compression(3_6)
- 8. 2020李宏毅學習筆記——59.Generative Adversarial Network（2_10)
- 9. 2020李宏毅學習筆記——33.Network Compression(2_6)
- 10. 2020李宏毅學習筆記——32.Network Compression(1_6)