深度學習——**函數

**函數的作用---提高模型的非線性表達能力。如果沒有**函數,模型只能處理簡單的線性問題,所以**函數是很重要的。 **函數要滿足三個基本條件: 可微性: 當優化方法是基於梯度的時候,這個性質是必須的。 單調性: 當**函數是單調的時候,單層網絡能夠保證是凸函數。 有限性: 當**函數輸出值是 有限 的時候,基於梯度的優化方法會更加 穩定,因爲特徵的表示受有限權值的影響更顯著;當**函數的輸出是
相關文章
相關標籤/搜索