邏輯迴歸損失函數爲何使用最大似然估計而不用最小二乘法

最小二乘法的偏差符合正態分佈,而邏輯迴歸的偏差符合的是二項分佈,因此不能用最小二乘法來做爲損失函數,那麼可以用最大似然預計來作。算法 從求最優解的角度來解釋:函數 若是用最小二乘法,目標函數就是  ,是非凸的,不容易求解,會獲得局部最優。優化 若是用最大似然估計,目標函數就是對數似然函數:  ,是關於  的高階連續可導凸函數,能夠方便經過一些凸優化算法求解,好比梯度降低法、牛頓法等。blog 最小
相關文章
相關標籤/搜索