參數的數量,權重的數量

首先我們看第一張圖,可以看出W(1)中有6個參數,W(2)中有4個參數,W(3)中有6個參數,所以整個神經網絡中的參數有16個(這裏我們不考慮偏置節點,下同)。雖然層數保持不變,但是第二個神經網絡的參數數量卻是第一個神經網絡的接近兩倍之多,從而帶來了更好的表示(represention)能力。表示能力是多層神經網絡的一個重要性質,下面會做介紹。在參數一致的情況下,我們也可以獲得一個「更深」的網絡。
相關文章
相關標籤/搜索