最小二乘優化整理（信賴域方法）

信賴域方法和線搜索類似都是迭代方法，與其不同的是，每次迭代時，在一個選定的可信賴區域內，選擇當前迭代點的近似模型 mkmk ，然後計算最優步長；如果步長不合適，可以對區域進行縮放。該小結主要介紹： 信賴域方法的基本形式 求解信賴域的基礎方法 信賴域方法的收斂性和收斂速度 信賴域方法的擴展 信賴域方法的基本形式 在信賴域方法中，可信賴的區域（Region）的選擇很重要，一般都會根據上一步結果進行動態

>>阅读原文<<