李宏毅：Highway Network & Grid LSTM

1、Feedforward vs Recurrent 2、Highway Network GRU是有reset gate的，而highway network沒有reset gate。reset gate是爲了忘記之前的input。 update gate是input gate和forget gate的綜合。input gate和forget gate是聯動的 4、Grid LSTM

>>阅读原文<<