深度學習(問題集)

Softmax 函數 Softmax 將多分類的輸出數值轉化爲相對概率 Si 表示的是當前元素的指數與所有元素指數和的比值。把一些輸入映射爲0-1之間的實數,並且歸一化保證和爲1,因此多分類的概率之和也剛好爲1。 Backpropagation 通過鏈式法則對參數進行一層一層的求導。這裏重點強調:要將參數進行隨機初始化而不是全部置0,否則所有隱層的數值都會與輸入相關,這稱爲對稱失效 激活函數 用來
相關文章
相關標籤/搜索