Mish激活函數，ReLU的繼任者

參考鏈接：http://www.javashuo.com/article/p-flugcdbe-ns.html 對激活函數的研究一直沒有停止過，ReLU還是統治着深度學習的激活函數，不過，這種情況有可能會被Mish改變。 1，常用的激活函數   2，Mish激活函數 # -*- coding: utf-8 -*- import torch import torch.nn as nn import

>>阅读原文<<