【2017CS231n】第四講：介紹神經網絡

一.反向傳播     在說反向傳播前，先介紹計算圖的概念，我覺得計算圖是個利器。 1.1 計算圖     我們可以把f=W*x用一張類似流程圖的東西表達出來，如下圖所示，我們成這張圖叫做計算圖。其實就是把公式分解成小的計算單元。     在這張圖中，輸入的訓練數據x和權重W通過*連接到一起，運算後得到分數s，s經過hinge loss計算得到損失項Li，通過加法符號與正則項R連接得到結果L。   

>>阅读原文<<