聊天機器人之 RNN, LSTM and Sequence2Sequence 介紹

RNN RNN（Recurrent Neural Networks,循環神經網絡）不僅會學習當前時刻的信息，也會依賴之前的序列信息。由於其特殊的網絡模型結構解決了信息保存的問題。所以RNN對處理時間序列和語言文本序列問題有獨特的優勢。遞歸神經網絡都具有一連串重複神經網絡模塊的形式。在標準的RNNs中，這種重複模塊有一種非常簡單的結構。 那麼S(t+1) = tanh( U*X(t+1) + W*S

>>阅读原文<<