Computational Graph進行BP計算

最近看一些複雜網絡的BP推導看的頭疼,通過computational graph之後看起來會舒服很多,這裏記錄下: 1.準備工作 首先從最簡單的圖開始: 可以看到,節點表示數,可以是vector,tensor,scala等  ,連邊表示一個函數操作,比如+ - * / 等等 下面畫一個稍微多一點的小學計算題的計算圖: 有了這個圖了,我們要怎麼進行BP計算梯度呢? 首先,通過正向傳播,將各個節點的值
相關文章
相關標籤/搜索