【學習筆記】連續型 Hopfield 神經網絡

在連續型 Hopfield 神經網絡中,全部神經元都隨時間t 並行更新,網絡狀態隨時間連續改變。微信


1.連續型 Hopfield 神經網絡的結構網絡


基於模擬電子線路的連續型 CHNN 拓撲結構以下圖所示函數


圖中電子線路與神經網絡之間關係爲:運算放大器——神經元;神經元輸入——運放輸入電壓u j ;神經元輸出——運放輸出電壓V j (輸出有正向輸出V j 和反向輸出V j );鏈接權Wij ——輸入端電導;閾值——輸入偏置電流 I j 學習


2.連續型 Hopfield 神經網絡的結構模型優化



下圖爲某種神經元 j 的結構圖。
人工智能



由基爾霍夫定理可得:spa

3.連續型 Hopfield 神經網絡的能量函數與穩定性分析.net


①CHNN 能量函數
設計


f -1-1 函數爲神經元轉移函數的反 3d


②CHNN 穩定性分析


定理 1 若神經元的轉移函數 f 存在反函數(單調連續遞增),且有wij=wji  , 則由任意初態開 始 , CHNN 網 絡 的 能 量 函 數 總 是 單 調 遞 減 的 , 即dE/dt<=0,當且僅當dVj/dt=0時,有dE/dt於是網絡最終能達到穩態。


隨着狀態的演變,網絡的能量老是下降的。當網絡中全部節點的狀態再也不改變時,能量纔再也不改變,此時到達能量的某一局部極小點或局部最小,該能量對應着網絡的某一穩定狀態。


4.Hopfield 網絡的主要功能


Hopfield 神經網絡的提出就是與其實際應用密切相關。其主要功能在如下兩個方面。


① 聯想記憶


輸入—輸出模式的各元素之間,並不存在一對一的映射關係,輸入—輸出模式的維數也不要求相同;聯想記憶時,只給出輸入模式部分信息,就能聯想出完整的輸出模式。即具備容錯性。


② CHNN 的優化計算功能



優化計算在實際問題中有普遍的應用。如咱們前面提到的 TSP 問題,工業生產和交通運輸中的調度問題等。應用 Hopfield 神經網絡來解決優化計算問題的通常步驟爲:



(1)分析問題:網絡輸出與問題的解相對應。
(2)構造網絡能量函數:構造合適的網絡能量函數,使其最小值對應問題最佳解。
(3)設計網絡結構:將能量函數與標準式相比較,定出權矩陣與偏置電流。
(4)由網絡結構創建網絡的電子線路並運行,穩態——優化解或計算機模擬運行。


Hopfield 遞歸網絡對人工神經網絡的發展有重要而特殊的影響。咱們分別對離散型和連續型 Hopfield 神經網絡的結構,工做原理及穩定性進行了分析; Hopfield 神經網絡與以前介紹的 BP 神經網絡相比,在學習方式上,網絡權值不是通過反覆學習而獲取,而是按必定規則進行設計,其權值一經設定就再也不改變;運行過程當中網絡各神經元的狀態不斷更新演變,網絡運行達到穩定時各神經元的狀態即是問題的解。


本文分享自微信公衆號 - AI MOOC人工智能平臺(AIMOOC_XLAB)。
若有侵權,請聯繫 support@oschina.cn 刪除。
本文參與「OSC源創計劃」,歡迎正在閱讀的你也加入,一塊兒分享。

相關文章
相關標籤/搜索