CNN筆記(CS231N)——循環神經網絡(Recurrent Neural Networks)

遞歸神經網絡 上一講講了CNN的架構,那麼當我們把時間這個維度考慮進來了以後,我們就得到了遞歸神經網絡(RNN)。RNN的輸入輸出可以是一對多、多對一、多對多,分別對應不同的應用場景 RNN的核心部分是如下公式,舊狀態+當前輸入,經過一個函數,得到了新狀態,新狀態會被送到下一個時候參與運算。我們的這個函數fw在不同時間是固定的。 普通RNN 一般來說這個fw函數是tanh函數,W是我們需要學習的權
相關文章
相關標籤/搜索