深度學習筆記（33）：從seq2seq到注意力機制

seq2seq 首先我們要明白，seq2seq是在讀入一個序列，生成一個序列。他的思想是encode和decode的思想，即先通過一組RNN進行編碼將語言吃進來產生一個整體的語義，然後再不斷通過剛剛產生的y值和解讀出來的語義再通過一組RNN進行解碼將語言序列翻譯成另一組序列。 抽象看就是如下公式： X = (x1,x2,x3,x4,…xm) Y = (y1,y2,y3,y4…yn) C = F(x

>>阅读原文<<