統計學習方法筆記：邏輯斯諦迴歸與最大熵模型（下）

1.3模型學習的最優化算法 邏輯斯諦迴歸模型、最大熵模型學習歸結爲以似然函數爲目標函數的最優化問題，通常通過迭代算法求解。從最優化的觀點看，這時的目標函數具有很好的性質。它是光滑的凸函數，因此多種最優化的方法都適用，保證能找到全局最優解。常用的方法有迭代尺度法、梯度下降法、牛頓法或擬牛頓法。牛頓法或擬牛頓法一般收斂速度更快。 1.3.1改進的迭代尺度法 改進的迭代尺度法（improved iter

>>阅读原文<<