SRU介紹

1.背景介紹     RNN模型在機器翻譯,語言模型,問答系統中取得了非凡的成就,因爲RNN的結構,當前的層輸入爲前一層的輸出,全部RNN比較適合時間序列問題,但也正是因爲這種串行結構,限制了RNN模型的訓練速度,與CNN相比,RNN並不能進行並行化處理。而SRU網絡結構的提出就是爲了解決這個問題,SRU(simple recurrent units)將大部分運算放到進行並行處理,只是將有具備小量
相關文章
相關標籤/搜索