梯度下降法（Gradient Descent）推導和示例

梯度下降法（Gradient Descent）推導和示例 注：作者在其他文獻的基礎上進行整理，形成本文的基本脈絡，並希望通過較爲簡單清晰的推導過程來幫助新手入門 本文主要由以下部分組成： 梯度下降法合理性證明 單變量示例 多變量示例 矩陣化表示 首先我們先給出梯度的定義。某一函數沿着某點處的方向導數可以以最快速度到達極大值，該方向導數我們定義爲該函數的梯度。 其中θ是自變量，f(θ)是關於θ的函數

>>阅读原文<<