rnn和lstm

RNN區別於普通神經網絡的地方在於,前一時刻的狀態會影響到後一時刻的狀態,在網絡結構上呈現隱藏層的自循環結構,不同時刻的參數共享,下圖爲從時間上把RNN展開的的網絡層圖,每一列三個黑圈代表一個普通神經網絡結構,列之間有參數W2關聯,因爲RNN加入了序列上下文的考慮,比如一句話裏詞與詞的聯繫,一部電影裏幀與幀的聯繫,RNN可以用於語句序列的處理,比如一句話,I am a girl,每一時刻輸入一個單
相關文章
相關標籤/搜索