1.7優化（optimization）

1.7 優化（optimization） 1.7.1 梯度下降（Gradient Descent） 解決迴歸算法中一些求擬合線性方程最優解問題，即最小化損失函數J(θ) = ( h(x) - y )^2的問題，有兩種求解方法：最小二乘法和梯度下降法。而通過矩陣求解最小二乘公式中：θ = ( XTX)-1XTy→要求X是列滿秩的，而且求矩陣的逆比較慢，所以一般採用梯度下降法。 算法目標是最小化J(θ

>>阅读原文<<