Tacotron2--attention

編碼器：雙向RNN，能保證感知到前向和後向的信息 Tacotron2編碼器使用三層卷積賦予了神經網絡類似於N-gram感知上下文的能力。 使用卷積的好處，可以捕獲長時依賴，也使得卷積的使用使得模型對不發音字符更魯棒(know中k) 編碼器公式： 注意力機制： 一般的注意力機制： pic: 基於內容的注意力機制： 實質上就是把上一個解碼器的輸出和相應的輸入元素連接 基於位置的注意力機制： 實質上就是

>>阅读原文<<