lstm和GRU結構圖

1.lstm的結構圖 LSTM主要由記憶單元C,遺忘門,輸入門和輸出門組成,門的取值範圍都是(0,1),由sigmoid函數控制 遺忘門f 遺忘門以前一個時刻的隱層狀態ht−1和該時刻輸入xt的線性組合作爲sigmoid函數的輸入,用來控制遺忘多少*前一時刻記憶單元Ct-1的內容。 那麼經過遺忘門之後:Ct-1中的內容還剩多少呢:• 表示元素級的乘法 輸入門 i 輸入們也是以前一個時刻的隱層狀態h
相關文章
相關標籤/搜索