pytorch基礎學習4

提示:文章寫完後,目錄可以自動生成,如何生成可參考右邊的幫助文檔 pytorch之常用**函數 一、sigmoid函數 二、ReLU函數 三、ReLU6函數 四、 ELU函數 五、SELU函數 一、sigmoid函數 1.sigemoid簡介 sigmoid容易飽和,當輸入非常大或者非常小的時候,函數曲線非常平坦,梯度就接近於0。而反向傳播中,我們需要使用sigmoid的導數來更新權重,如果導數都
相關文章
相關標籤/搜索