統計學習方法筆記：邏輯斯諦迴歸與最大熵模型（上）

感想 logistic regression它本身的原理非常好懂，對於二分類問題，其實就是一個sigmoid函數，把它的計算結果當成概率值，哪個大就分到那一類。對於多分類，本質上就是一個softmax函數，歸一化後，輸出當成概率值，哪個大就屬於哪個類。本質上都是用拉格朗日乘法，然後轉化成對偶問題求解的，這個方法跟SVM的求解方法沒什麼兩樣。但是對於模型的訓練，我還是沒弄明白牛頓法和擬牛頓法的真正要

>>阅读原文<<