反向傳播算法(BP)學習筆記

本文是學習B站李宏毅老師視頻的心得,想看視頻可以移步到b站。 反向傳播(Backpropagation)   先介紹幾個微分中複合函數的例子 L是Loss Function,它是若干個L 的加和,若想要計算L的偏微分,則只需要先計算每一個l對w的偏微分,然後再加起來即可。 兩層網絡之間的傳輸中,輸入是x1和x2,經過一系列運算得到y1和y2。L對權重的偏微分可以表示如下 得到的結論是:z對w的偏微
相關文章
相關標籤/搜索