神經元與神經網絡結構

人工神經網絡(Artificial Neural Network,即ANN )

神經元模型

1.生物神經元
這裏寫圖片描述

神經元由一個細胞體和突兩部分組成。突分兩類,軸突和樹突。
樹突軸突共同作用,實現神經元之間的信息傳遞。

軸突的末端與樹突進行進行信號傳遞的界面成爲突觸,通過突觸向其他神經元發送信息。學習發生在突觸附近,而且突觸把經過一個神經元軸突的脈衝轉化爲下一個神經元的興奮信號或抑制信號。

對某些突觸的刺激促使神經元觸發,只有神經元所有輸入的總效應達到閾值電平,它纔開始工作。

2.人工神經元

這裏寫圖片描述

在簡單的人工神經網絡模型中,用權和乘法器模擬突觸特性,用加法器模擬樹突的互連作用,而且與閾值比較來模擬細胞體內電化學作用產生的開關特性。

xi——表示來自其他神經元的輸入
wi——表示相應的網絡連接權重(大的正權對應強的興奮,小的負權對應弱的抑制

各個輸入乘以相應權重並相加,把所有總和與閾值電平(稱爲神經元的偏置)比較:
當總和高於閾值時,其輸出爲1;
否則,輸出爲0。

神經網絡的典型結構

1.單層感知器網絡
單層感知器是其他網絡結構的基本單元。常用的激活函數爲S型的Sigmoid函數:

這裏寫圖片描述

2.前饋型網絡
前饋網絡的信號由輸入層到輸出層單向傳輸,每層的神經元僅與前一層的神經元相連,僅接受前一層傳輸來的信息。

3.前饋內層互聯網絡
前饋內層互聯網絡屬於前饋型的網絡,但是內部有一些節點在層內互連。

4.反饋型網絡
反饋型網絡在網絡的輸出層存在一個反饋迴路到輸入層作爲輸入層的一個輸入,但網絡本身還是反饋型結構。

5.全互聯網絡 全互聯網絡中所有的神經元之間都有相互間的連接。