深度學習基礎面試問題彙總

第一部分:深度學習 1、神經網絡基礎問題 (1)Backpropagation(要能推倒) 後向傳播是在求解損失函數L對參數w求導時候用到的方法,目的是通過鏈式法則對參數進行一層一層的求導。這裏重點強調:要將參數進行隨機初始化而不是全部置0,否則所有隱層的數值都會與輸入相關,這稱爲對稱失效。 大致過程是: 首先前向傳導計算出所有節點的激活值和輸出值, 計算整體損失函數: 然後針對第L層的每個節點計
相關文章
相關標籤/搜索