Seq2Seq和attention機制

1.seq2seq的設計初衷 seq2seq設計的初衷是爲了解決輸入和輸出都是不定長的問題，seq2seq使用encoder和decoder分別處理不定長的輸入和輸出，其示意圖如下： 圖中的C背景變量，編碼了輸入序列的信息，在輸出的第一時刻，我們將初始的隱狀態S0和初始輸出y0（<BOS>）以及C作爲輸入，產生了y1和隱狀態S1，下一時刻的輸入爲C，y1和S1。  2.seq2seq設計原理 ①e

>>阅读原文<<