最優化方法 26：不動點迭代

前面講了很多具體的算法，比如梯度、次梯度、近似點梯度、加速近似點梯度、PPA、DR方法、ADMM、ALM等，對這些方法的迭代過程有了一些瞭解。這一節則主要是針對算法的收斂性進行分析，試圖從一個更加抽象的層面，利用不動點迭代的思想，把上面的算法綜合起來，給一個比較 general 的收斂性分析方法。 1. 什麼是不動點？ 對於希爾伯特空間(Hilbert space) H \mathcal{H} H

>>阅读原文<<