RNN之LSTM(二)

爲了constant error flow(即誤差信號既不衰減也不指數增加),並解決輸入輸出誤差衝突,構建了一個複雜的單元(a memory cell),增加了input gate(保護存儲的信息不被不相關輸入打擾)和output gate(保護其他單元不被當前不相關內容打擾)。 第j個memory cell叫做 cj ,除了 netcj , cj 會從outj和inj中得到輸入——f是不同的激活
相關文章
相關標籤/搜索