Mish:一個新的state of the art的激活函數,ReLU的繼任者

點擊上方「AI公園」,關注公衆號,選擇加「星標「或「置頂」git 做者:Less Wrightgithub 編譯:ronghuaiyang網絡 導讀 對激活函數的研究一直沒有中止過,ReLU仍是統治着深度學習的激活函數,不過,這種狀況有可能會被Mish改變。架構 Diganta Misra的一篇題爲「Mish: A Self Regularized Non-Monotonic Neural Act
相關文章
相關標籤/搜索