Tips for Generation in Encoder-Decoder model

這裏歸納一些在訓練Encoder-Decoder模型時的小tip: 1.訓練時,在Decoder中,RNN的當前輸入應該使用上一次RNN的output還是ground truth ? 答:如果訓練時都使用ground truth作爲RNN的當前輸入,那麼會導致train 和 test的mismatch。因此test時我們沒有sample,test的時候只能將上一時間的output作爲當前input
相關文章
相關標籤/搜索