手推邏輯迴歸

首先從sigmoid函數入手: 它有一個很好的性質,後面會用到: 而後對二分類問題取對數似然函數,要求它的最大值,也就是求它的負數的最小值,轉換成凸函數由梯度降低法求解,這裏也能夠當作是交叉熵損失函數: 獲得損失函數後,讓它對每一個參數求偏導獲得梯度方向; 最後根據獲得的梯度方向以必定的學習率更新各個參數。web Reference: https://blog.csdn.net/tangyudi/
相關文章
相關標籤/搜索