機器學習推導合集03-機器學習領域矩陣求導的理解和實戰

1 引言 我寫的博客不少都是想在一些容易被勸退的地方分享一些體悟。在這之中有一個比較基本的關卡：矩陣求導。當你在面對LR(logistic regression）和最小二乘問題求梯度的時候，你會想：「這裏的公式爲啥是這樣？」。回答你的，多是參考書目背後零星公式的整理。若你想上網查閱，卻發現魚龍混雜（最近隨着機器學習的熱門狀況有所好轉）。我認爲主要緣由是：矩陣求導尚未一個統一的定義。WIKI有系統的

>>阅读原文<<