05 seq2seq和Attention

1、seq2seq seq2seq模型是以編碼(Encode)、解碼(Decode)爲代表的架構方式模型。 編碼(Encode)將輸入序列轉化成一個固定長度的向量(語義向量C) 解碼(Encode)將固定長度的向量(語義向量C)轉化成一個輸出序列 編碼方式:一般爲多層LSTM 解碼方式:一般爲RNN、CNN等 問題: 由於seq2seq模型在編解碼階段,使用由一個不變的語義向量C來聯繫,編碼器要將
相關文章
相關標籤/搜索