全鏈接網絡到卷積神經網絡逐步推導（組圖無公式）

摘要：在圖像分析中，卷積神經網絡（Convolutional Neural Networks, CNN）在時間和內存方面優於全鏈接網絡（Full Connected, FC）。這是爲何呢？卷積神經網絡優於全鏈接網絡的優點是什麼呢？卷積神經網絡是如何從全鏈接網絡中派生出來的呢？卷積神經網絡這個術語又是從哪裏而來？這些問題在本文中一一爲你們解答。

1.介紹

對於圖像分析而言，具體能夠將其劃分爲不少類型的任務，好比分類、對象檢測、識別、描述等。對於圖像分類器而言，即便在諸如遮擋、照明變化、視覺等變化的狀況下，也應該可以以高精度的性能工做。以特徵工程爲主要步驟的傳統圖像分類方法不適合在豐富環境中工做，即便是該領域的專家也不能給出一組可以在不一樣變化下達到高精度的特徵，沒法保證手工所選的特徵是否合適。在這個問題的啓發下，特徵學習的思想應運而生，經過自主學習來得到合適的圖像特徵，這也是人工神經網絡（ANN）對於圖像分析任務魯棒性的緣由之一。基於梯度降低算法（GD）等學習算法，ANN能夠自動學習到圖像特徵，將原始圖像輸入人工神經網絡後，ANN可以自動地生成描述它的特徵。

2.基於全鏈接網絡的圖像分析

如今一塊兒看看人工神經網絡是如何對進行處理的，以及CNN爲何在時間和內存上相較於全鏈接網絡更高效。如圖1所示，輸入的是一個3x3大小的灰度圖。例子中使用小尺寸的圖像是爲了方便講解，而不是代表ANN只能處理小尺寸的圖像。

圖像1

在輸入ANN時，圖像會轉變爲像素矩陣。因爲ANN使用的是一維向量，而不是二維矩陣，因此將輸入的二維灰度圖轉換成一維向量，其中每一個像素點表明一個輸入神經元節點。

圖像2

每一個像素被映射爲向量元素，向量中的每一個元素又表明ANN中的神經元。因爲圖像有3x3=9個像素點，那麼輸入層（Input Layer）將有9個神經元。因爲ANN結構一般水平延伸，所以每層被表示爲列向量。

輸入層與隱藏層（Hidden Layer）相連，輸入層的輸出又輸入給隱藏層，隱藏層學習如何將圖像像素轉換爲表明性特徵。假設在圖3中有一個具由16個神經元的單個隱藏層。

圖像3

因爲網絡是全鏈接網絡，這意味着第i層的每一個神經元與第i-1層中的全部神經元相連。即隱藏層中的每一個神經元都與輸入層中9個神經元相連。換句話說，每一個輸入像素與隱藏層中的16個神經元相連，其中每條鏈接都具備相應的參數（權重）。經過將每一個像素與隱藏層中的全部神經元相連，如圖4所示，該網絡具備9x16=144個參數（權重）。

圖像4

3.大量參數

上面例子中的參數數目彷佛還能夠接受，可是隨着輸入圖像尺寸變大以及隱藏層數量增長，網絡參數將大大增長。

例如，若網絡具備兩個隱層，分別有90和50個神經元，那麼輸入層和第一隱藏層之間的參數數目是9x90=810，兩個隱藏層之間的參數數目爲90x50=4500，該網絡的參數總數爲810+4500=5310。對於這樣簡單的網絡結構就有這麼多的參數數量，顯然是不合適的；另一種狀況是輸入圖像尺寸較大，好比32x32大小的圖像（1024個像素），若是網絡使用單個隱藏層（含有500個神經元），則總共有1024x500=512000個參數（權重），這對於只含單個隱藏層的網絡而言是一個巨大的數字。所以，必須有一個解決方案來減小網絡參數，那麼針對於此，卷積神經網絡（CNN）應運而生，雖然它網絡模型一般比較大，但大大下降了參數數量。

4.神經元組羣

即便是很小的全鏈接網絡，網絡參數數目變得很是大的緣由在於其層與層之間神經元每條鏈接上都是不一樣的參數。所以，能夠考慮給一組神經元提供相同的參數，如圖5所示，一組神經元內的神經元都將分配同一個參數。

圖像5

這樣處理之後，網絡參數數量大大下降。以圖4爲例，好比每4個連續神經元做爲一組，其結果是參數數量減小了4倍。每一個輸入神經元將具備16/4=4個參數。整個網絡將具備144/4=36個參數，參數數量減小了75%。能夠看到，其效果很好，但仍然有可優化的地方。

圖像6

圖7顯示了每一個像素到每一個組中第一個神經元的鏈接，但每組中的每一個像素與每一個神經元仍是相互鏈接，該網絡仍然是全鏈接網絡。

圖像7

爲了簡單起見，只挑選出一組並忽略其它組，如圖8所示。從圖中能夠看到，每一個組仍然與輸入層全部的9個神經元有所鏈接，所以具備9個參數。

圖像8

5.像素空間相關性

以前所述內容使得每一個神經元接受全部像素，若存在接受4個輸入的函數f(x1,x2,x3,x4)，則這意味着要基於全部這4個輸入來進行決定。若是隻有2個輸入，但其輸出結果與使用4個輸入的結果相同，那麼將沒必要使用全部的這4個輸入，只需給出對結果有影響的2個輸入便可。借鑑該思想，每一個神經元接受輸入的9個像素，若能使用更少的像素得到相同或更好的結果就大大下降了參數數量，所以能夠朝着這個方向優化網絡參數。
一般，在圖像分析中，輸入圖像被轉換爲像素矩陣，像素矩陣中的每一個像素與它周圍的像素高度相關，兩個像素之間的距離越遠，兩者越不相關。例如，如圖9所示，面部的像素與面部周圍的像素相關，但它與天空、地面等像素的相關性較低。

圖像9

基於這樣的假設，上述示例中的每一個神經元只接受彼此空間相關的像素，而不是將全部9個像素點都應用到每一個輸入神經元中，所以能夠選擇4個空間相關像素，如圖10所示。對於像素矩陣位置（0,0），那麼空間上最相關的像素是座標點（0,1）、（1,0）以及（1,1）。同一組中的全部神經元共享相同的權重，那麼每組中的4個神經元將只有4個參數而不是9個。總的參數變爲4x4=16。與圖4中的全鏈接網絡相比，減小了128個參數（減小了88.89%）。

圖像10

6.卷積神經網絡（CNN）

因爲CNN使用權重共享，使用較少的參數，這使得CNN網絡結構通常層數比較多，這是全鏈接網絡沒法具備的特性。
如今只有4個權重分配給同一組中的全部神經元，那麼這4個權重如何涵蓋9個像素點呢？讓咱們看看這是如何處理的吧！
圖11展現了圖10中的一個網絡，併爲每條鏈接添加了權重標記。在神經元內部，4個輸入像素中的每個都與其相應的權重相乘，如圖11中公式所示。

圖像11

假設這裏每次移動的步長設置爲1（步長能夠本身設置），每次相乘後將像素點索引移動一位，權重矩陣與另一組像素相乘。以此類推，直到整個像素矩陣都與權重矩陣進行了相乘運算。整個過程與卷積運算相同，組的權重與圖像矩陣之間進行卷積運算，這也是CNN有「卷積」一詞的緣由。

圖像12

剩餘的神經元組也會進行一樣的操做，從像素矩陣的左上角開始，直到像素矩陣的右下角都與權重矩陣相乘。

7.參考

Aghdam, Hamed Habibi, and Elnaz Jahani Heravi. Guide to Convolutional Neural Networks: A Practical Application to Traffic-Sign Detection and Classification. Springer, 2017.

做者信息
Ahmed Gad，教師、專一於深度學習、計算機視覺
本文由阿里云云棲社區組織翻譯。
文章原標題《Derivation of Convolutional Neural Network from Fully Connected Network Step-By-Step》，

原文連接