豬豬的機器學習（十九）卷積神經網絡

卷積神經網絡

做者：櫻花豬

 

摘要：

本文爲七月算法（julyedu.com）12月機器學習第十九次課在線筆記。卷積神經網絡（Convolutional Neural Network,CNN）是一種前饋神經網絡，它的人工神經元能夠響應一部分覆蓋範圍內的周圍單元，對於大型圖像處理有出色表現。

 

引言：

第十九和二十課進入了目前比較新又很是熱門的深度學習中。在傳統的機器學習中，一般是咱們本身來尋找特徵，而深度學習中咱們經過神經網絡來自主的學習特診。在大量數據的前提下，深度學習每每可以比傳統機器學習方法效果更好。

卷積神經網絡（Convolutional Neural Network,CNN）是一種前饋神經網絡，它的人工神經元能夠響應一部分覆蓋範圍內的周圍單元，對於大型圖像處理有出色表現。

課程比較注重實踐的講解，經過課程能快速的搭建一個本身的神經網絡。

 

1、卷積神經網絡：

首先將輸入數據堪稱三維的張量（Tensor）

引入Convolution（卷積）操做，單元變成卷積核，部分鏈接共享權重。

引入Pooling（採樣）操做，下降輸入張量的平面尺寸

卷積神經網絡的最大優勢：擁有某種特徵學習的能力

 

2、網絡結構

1、三維張量

 

一幅圖咱們認爲有三維張量分爲長、寬、和深度。這裏深度在彩色圖像中能夠設置爲3，R,G,B。

二、卷積

  卷積的概念來自型號處理，咱們在圖像計算中也很是的經常使用。具體過程能夠參見傳統卷積方案。在卷積升級網絡中，模板咱們成爲核Kernel。

 

 

三、三維張量卷積

 

這裏，卷積核的深度和輸入圖像是一致的。每一個卷積核都帶有一個Bias。

 4、激活函數

卷積之後會產生一個激活函數，這個激活函數跟人工神經網絡相似。

 

五、Pooling操做（採樣）

 

採樣操做改變圖像的尺寸，經過Pooling操做可以逐層吧圖像尺寸降下來，減小維度。

 

3、卷積網絡的設計

一、設計方式：

   儘可能使用3×3的卷積核，甚至更小，滑動因子取1。

   使用Pooling(2x2)對網絡進行1/4下采樣

   採用多層次架構，採用殘差結構實現更深的網絡。

 

   2、殘擦網絡結構

 

三、複雜網絡的BP計算

   同傳統人工神經網絡同樣，核心依然是鏈式法則，利用框架搭建網絡並對本身實現的結構，嚴格用數值計算驗證。

四、基於層次的特徵學習

 

層次越高越模糊。

 

4、CNN實驗（參照課堂講解）

 

 

 

參考文獻：

http://blog.csdn.net/zouxy09/article/details/9993371

http://www.36dsj.com/archives/24006

 

來自爲知筆記(Wiz)