NeurIPS 2018 | BP不用算梯度,這樣的線性反向傳播也能Work!

選自 NIPS 2018 機器之心編譯 作者:Mehrdad Yazdan 參與:路雪、思源 反向傳播是常用的學習算法,但它存在一些缺陷,如過於敏感、依賴大量條件和約束。來自加州大學聖地亞哥分校的研究科學家 Mehrdad Yazdani 對誤差項的線性反向傳播進行研究,該方法在前向傳播中使用非線性激活函數,但是在反向傳播中使用線性激活函數,因此它可以確保梯度流的正常傳遞,同時節約計算成本。 反向
相關文章
相關標籤/搜索