算法收斂性、梯度降低與正規方程組、凸函數性質（機器學習先修知識，方便理解）

算法收斂性 算法收斂性在迭代法中的一個概念。 迭代是數值分析中經過從一個初始估計出發尋找一系列近似解來解決問題（通常是解方程或者方程組）的過程，爲實現這一過程所使用的方法統稱爲迭代法（Iterative Method）。 跟迭代法相對應的是直接法（或者稱爲一次解法），即一次性的快速解決問題，例如經過開方解決方程x+3= 4。通常若是可能，直接解法老是優先考慮的。但當遇到複雜問題時，特別是在未知量不

>>阅读原文<<