大規模機器學習：對大數據的學習

一：爲何不能用之前的梯度下降（批量梯度下降）算法對大數據訓練 對機器系統做分析的時，如果由 學習曲線得到高方差的曲線模型，就可能需要增加原始數據量來提高系統性能。 以線性迴歸爲例，在使用線性迴歸訓練時，需要對圖中紅框內容進行迭代，求得最佳 Theta 值。紅框中所求的時成本函數的梯度，需要對整個數據集求和。數據集如果達到百萬級別，Theta 每迭代一次，就需要對百萬數據求和一次，整個訓練所消耗的時

>>阅读原文<<