誤差反向傳播到底是個啥?

反向傳播用來計算導數,但這個不是反向傳播的特性,這個導數怎麼算是要自己來寫的!把每一層的結點的導數計算公式封裝在結點內部後,再來使用反向傳播,反向傳播的特性就是:鏈式法則,或者說反向傳播是符合鏈式法則的,有了這個前提,我們纔可以進行導數的反向傳播。 所以說,反向傳播說白了就是: 把一個複合函數拆分爲組成它的子函數,逐個求導,然後導數依次往前面的層傳遞,叫反向是因爲這個過程在網絡裏是從後往前的! 那
相關文章
相關標籤/搜索