雙向RNN原理

1. 引入 我們之前已經瞭解了RNN中的GRU[2]和LSTM[3]。 怎麼樣才能進一步優化RNN這樣的模型呢?就是使用雙向RNN,它能使得我們在序列的某點處,不僅獲取之前的信息,還能獲取將來的信息。 將來的信息是什麼意思呢?爲什麼根據之前的信息還不足夠網絡做決策? 我們看下面的一個例子:用傳統RNN做NER,判定某個單詞是否爲人名。 例子中給出的兩句話,第一句話中的Teddy不是人名(是泰迪熊玩
相關文章
相關標籤/搜索