機器學習邏輯迴歸總結

一.邏輯迴歸的定義 邏輯迴歸是一種廣義的線性模型，用於二分類問題，其預測函數構h(x)造如下： Sigmoid函數，函數形式爲： 二.構造損失函數： 這裏使用的是對數損失函數，它是基於最大似然估計推導的： 注意：不使用平方損失函數的原因是此時代價函數是非凸函數，存在多個極小值，不適合求解 三.參數更新過程： 這裏使用的是梯度下降法來更新參數，過程如下： 注意：其中一步使用了g(z）函數的一個性質：

>>阅读原文<<