【原創 深度學習與TensorFlow 動手實踐系列 - 3】第三課：卷積神經網絡 - 基礎篇

 

【原創 深度學習與TensorFlow 動手實踐系列 - 3】第三課：卷積神經網絡 - 基礎篇

 

 

 

提綱：

1. 鏈式反向梯度傳到

2. 卷積神經網絡 - 卷積層

3. 卷積神經網絡 - 功能層

4. 實例：卷積神經網絡MNIST分類

 

 

期待目標：

1. 清楚神經網絡優化原理，掌握反向傳播計算。

2. 掌握卷積神經網絡卷積層的結構特色，關鍵參數，層間的鏈接方式。

3. 瞭解不一樣卷積神經網絡功能層的做用，會進行簡單的卷積神經網絡結構設計。

4. 可以運行TensorFlow卷積神經網絡 MNIST。 

 

 

 

 

 

f(x, y, z) = (x + y) * z

(3.00 + 1.00) * -2.00 = -8.00 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1. 什麼是卷積層

2. 有什麼組成

3. 受什麼影響，有何特色

4. 怎麼工做

 

卷積層

1. 卷積神經網絡基本結構

2. 由多個卷積核組合造成

3. 每一個卷積核同輸入數據卷積運算，造成新的特徵「圖」

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

非線性激勵層（None-linear activation layer）：卷積是線性運算，增長非線性描述能力

 

 

降維：特徵圖稀疏，減小數據運算量，保持精度

池化層（Pooling Layer）- 降維：

1. 數據降維，方便計算，存儲（max，ave）

2. 池化過程當中，每張特徵圖單獨降維

 

 歸一化：特徵的scale保持一致。

 

 

 

 

 

 

 

 

卷積神經網絡（CNN） - 基礎 演示代碼：

https://github.com/wiibrew/DeepLearningCourseCodes

https://github.com/wiibrew/DeepLearningCourseCodes/blob/master/course_3_tf_mnist_cnn.py

https://github.com/wiibrew/DeepLearningCourseCodes/blob/master/course_3_tf_mnist_cnn.ipynb

卷積神經網絡運行狀況：