深度學習(九)

循環神經網絡 one-hot向量 指明瞭在詞典中的位置,當前位置爲1,其餘位置全爲0 結構 1、不僅使用當前輸入,還使用原來的輸入 2、多對一的結構:不再是每個時間步都有輸出,而是最後一個時間步有輸出 除此之外,還有一對多,多對多結構(輸入輸出長度不一致) 3、GRU: 解決了深度網絡的依賴性,即長時間記住某個值,其公式如下: c<t>=Γu∗c^<t>+(1−Γu)∗c<t−1> c < t >
相關文章
相關標籤/搜索