機器學習筆記——邏輯迴歸

決策函數：sigmoid 損失函數：cross-entropy 爲什麼不用平方誤差做損失函數？ 因爲我們希望接近最優解的地方梯度小，而遠離最優解的地方梯度大。從下圖可以看出來，平方誤差不滿足我們的要求。平方誤差在這裏不好用是因爲sigmoid的導數有一個f項，線性迴歸使用平方誤差就沒有這個問題。 邏輯迴歸的缺點：對數據嚴格線性不可分的情況無能爲力。 解決辦法：特徵轉換，使得轉換後的數據線性可分。轉

>>阅读原文<<