淺說深度學習(3):序列學習

系列的第一篇概覽了一下深度學習中的基本概念。第二篇介紹了深度學習的歷史背景,以及如何高效地訓練神經網絡。而這一篇當中,我們將一起認識自然語言處理領域的核心:序列學習。 圖1:長短期記憶(LSTM)單元。LSTM有四個輸入權重和四個循環權重。Peepholes是記憶細胞和門之間的額外連接,但他們對性能提升幫助不到,所以常被忽略。 序列學習 生活中的所有事物都是與時間相關的,也就形成了一個序列。爲了對
相關文章
相關標籤/搜索