在連續型 Hopfield 神經網絡中,全部神經元都隨時間t 並行更新,網絡狀態隨時間連續改變。微信
1.連續型 Hopfield 神經網絡的結構網絡
基於模擬電子線路的連續型 CHNN 拓撲結構以下圖所示函數
圖中電子線路與神經網絡之間關係爲:運算放大器——神經元;神經元輸入——運放輸入電壓u j ;神經元輸出——運放輸出電壓V j (輸出有正向輸出V j 和反向輸出V j );鏈接權Wij ——輸入端電導;閾值——輸入偏置電流 I j 。學習
2.連續型 Hopfield 神經網絡的結構模型優化
下圖爲某種神經元 j 的結構圖。人工智能
由基爾霍夫定理可得:spa
3.連續型 Hopfield 神經網絡的能量函數與穩定性分析.net
①CHNN 能量函數設計
f -1-1 函數爲神經元轉移函數的反 。3d
②CHNN 穩定性分析
定理 1 若神經元的轉移函數 f 存在反函數(單調連續遞增),且有wij=wji , 則由任意初態開 始 , CHNN 網 絡 的 能 量 函 數 總 是 單 調 遞 減 的 , 即dE/dt<=0,當且僅當dVj/dt=0時,有dE/dt於是網絡最終能達到穩態。
隨着狀態的演變,網絡的能量老是下降的。當網絡中全部節點的狀態再也不改變時,能量纔再也不改變,此時到達能量的某一局部極小點或局部最小,該能量對應着網絡的某一穩定狀態。
4.Hopfield 網絡的主要功能
Hopfield 神經網絡的提出就是與其實際應用密切相關。其主要功能在如下兩個方面。
① 聯想記憶
輸入—輸出模式的各元素之間,並不存在一對一的映射關係,輸入—輸出模式的維數也不要求相同;聯想記憶時,只給出輸入模式部分信息,就能聯想出完整的輸出模式。即具備容錯性。
② CHNN 的優化計算功能
優化計算在實際問題中有普遍的應用。如咱們前面提到的 TSP 問題,工業生產和交通運輸中的調度問題等。應用 Hopfield 神經網絡來解決優化計算問題的通常步驟爲:
(1)分析問題:網絡輸出與問題的解相對應。
(2)構造網絡能量函數:構造合適的網絡能量函數,使其最小值對應問題最佳解。
(3)設計網絡結構:將能量函數與標準式相比較,定出權矩陣與偏置電流。
(4)由網絡結構創建網絡的電子線路並運行,穩態——優化解或計算機模擬運行。
Hopfield 遞歸網絡對人工神經網絡的發展有重要而特殊的影響。咱們分別對離散型和連續型 Hopfield 神經網絡的結構,工做原理及穩定性進行了分析; Hopfield 神經網絡與以前介紹的 BP 神經網絡相比,在學習方式上,網絡權值不是通過反覆學習而獲取,而是按必定規則進行設計,其權值一經設定就再也不改變;運行過程當中網絡各神經元的狀態不斷更新演變,網絡運行達到穩定時各神經元的狀態即是問題的解。
本文分享自微信公衆號 - AI MOOC人工智能平臺(AIMOOC_XLAB)。
若有侵權,請聯繫 support@oschina.cn 刪除。
本文參與「OSC源創計劃」,歡迎正在閱讀的你也加入,一塊兒分享。