手推LR

算法的推導過程 基本模型 一個事件的機率(odds)是指該事件發生的概率與該事件不發生的概率的比值。如果事件發生的概率是p，那麼該事件的機率是，該事件的對數機率(log odds)或logit函數是 似然函數 目標函數求導 梯度上升法求解參數 梯度上升法更新θj參數的值： 注：求解似然函數一般是求解最大值，使用梯度上升算法，使得最優解不斷增大。相對應的是損失函數，一般是似然函數的相反數，所以使用的

>>阅读原文<<