BPTT深度理解

本博客適合那些BP網絡很熟悉的讀者 一 基本結構和前向傳播 符號解釋： 1. cltctl：t時刻第l層的神經元的集合，因爲cltctl表示的是一層隱藏層，所以圖中一個圓圈表示多個神經元。 2. hlthtl：第l層在t時刻的輸出。因爲hlthtl是一層隱藏層的輸出，所以表示的是一個向量。 3. LjLj：表示的是在j時刻，網絡的輸出的值和目標輸出值的平方差，L表示的是所有時刻的平方差的和。 4.

>>阅读原文<<